JP7215406B2 - 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法 - Google Patents

画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法 Download PDF

Info

Publication number
JP7215406B2
JP7215406B2 JP2019224817A JP2019224817A JP7215406B2 JP 7215406 B2 JP7215406 B2 JP 7215406B2 JP 2019224817 A JP2019224817 A JP 2019224817A JP 2019224817 A JP2019224817 A JP 2019224817A JP 7215406 B2 JP7215406 B2 JP 7215406B2
Authority
JP
Japan
Prior art keywords
image information
transmission rate
variation
actual
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019224817A
Other languages
English (en)
Other versions
JP2021093691A (ja
Inventor
修 吉住
泰伸 杉浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2019224817A priority Critical patent/JP7215406B2/ja
Priority to PCT/JP2020/036204 priority patent/WO2021117315A1/ja
Publication of JP2021093691A publication Critical patent/JP2021093691A/ja
Priority to US17/806,028 priority patent/US20220303547A1/en
Application granted granted Critical
Publication of JP7215406B2 publication Critical patent/JP7215406B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/38Flow control; Congestion control by adapting coding or compression rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、通信ネットワークを介して画像情報を送受信する装置に関し、具体的には車両等からセンターに向けて送信する画像情報を、通信帯域に応じた送信レートで送信・受信するための画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法に関する。
近年、車両の加速、操舵および制動を自動的に行うことによって自律走行が可能な自動運転車両に対する技術開発が活発になっている。また、ドライバを必要としない無人の自動運転車両の開発も期待されている。このような自動運転車両では、オペレータや遠隔監視システムが、必要に応じて車両の状態を視覚的に遠隔監視するとともに車両の走行を支援できることが望ましい。
このような場合、車両に搭載された撮像装置が動画像を撮影することにより画像情報を取得・生成し、この画像情報を遠隔監視が行われるセンターに無線通信ネットワークを介して送信する必要がある。しかし、無線を利用した画像情報の転送品質は、通信帯域の変動に大きく依存するので、通信帯域以上の転送レートで送信した場合、映像の遅延や欠損を生じる可能性がある。それゆえ、通信帯域に応じた画像情報の送信レート制御を行う必要がある。
特許文献1には、テストデータを送信することにより伝送時間を計測し、計測した伝送時間から帯域を計算し、計算した帯域が閾値より小さい場合に送信対象となるデータの種類と送信形式を決定して伝送することが記載されている。
特開2013-201623号公報
しかし、特許文献1によると本来不要なテストデータの送受信が発生するため、特に帯域に限りがある無線通信ネットワークに適用した場合には画像情報の伝送に影響を生じる。
また、テストデータ送信後に無線通信ネットワークの環境が変化した場合に対応することができない。
さらに、帯域に余裕がある場合に、画像情報の送信レートをどこまで上げてよいかを判断することは記載されていない。
本発明者らは、以上の課題を見出した。
なお、上述の背景技術は、本発明が適用される分野を限定するものではなく、本発明が適用される分野の一例に過ぎない。
本発明の目的は、通信ネットワークの帯域を有効に活用できるとともに、通信ネットワークの環境変化にも対応することができる画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法を提供することにある。
さらに、現在の帯域に余裕がある場合に、画像情報の送信レートを上げることができる画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法を提供することにある。
本開示の一態様である画像情報受信装置(100)は、画像情報送信装置(200)から通信ネットワークを通じて画像情報を受信する受信部(101)と、前記画像情報に含まれるパケットの受信間隔のばらつきである受信実ばらつきを求めるパケット解析部(103)と、前記受信実ばらつきが所定値よりも大きい場合、前記画像情報送信装置の目標送信レートを上げる処理を行う送信レート変更処理部(104、105)と、を有する。
なお、特許請求の範囲、及び本項に記載した発明の構成要件に付した括弧内の番号は、本発明と後述の実施形態との対応関係を示すものであり、本発明を限定する趣旨ではない。
上述の構成により、本開示の一態様である画像情報受信装置及び画像情報送信装置は、テストデータを用いないので、通信ネットワークの帯域を有効に活用することができ、また画像情報の受信状態を示す情報としてパケットの受信間隔のばらつきである受信実ばらつきを用いるので、通信ネットワークの環境変化にも対応することができる。また、受信実ばらつきがある場合、現在の帯域に余裕があると評価できるので、画像情報の送信レートを上げることができる。
本開示の各実施形態に共通の通信システムを示す構成図 本開示の各実施形態に共通する受信実ばらつきのメカニズムを説明する説明図 本開示の各実施形態に共通する、通信帯域とパケット受信間隔との関係を示す説明図 本開示の第1~4の実施形態における画像情報受信装置の構成図 本開示の第1の実施形態における画像情報送信装置の構成図 本開示の第1の実施形態における画像情報受信装置の動作を示す説明図 本開示の第1の実施形態における画像情報送信装置の動作を示す説明図 本開示の第2の実施形態における画像情報送信装置の構成図 本開示の第2の実施形態における画像情報受信装置の動作を示す説明図 本開示の第2の実施形態における画像情報送信装置の動作を示す説明図 本開示の第3の実施形態における画像情報受信装置の動作を示す説明図 本開示の第4の実施形態における画像情報送信装置の構成図 本開示の第4の実施形態における画像情報受信装置の動作を示す説明図 本開示の第4の実施形態における画像情報送信装置の動作を示す説明図
以下、本開示の画像情報受信装置及び画像情報送信装置の構成、機能及び動作について、図面を参照して説明する。
なお、本発明とは、特許請求の範囲又は課題を解決するための手段の項に記載された発明を意味するものであり、以下の実施形態に限定されるものではない。また、少なくともかぎ括弧内の語句は、特許請求の範囲又は課題を解決するための手段の項に記載された語句を意味し、同じく以下の実施形態に限定されるものではない。
特許請求の範囲の従属項に記載の構成及び方法は、特許請求の範囲の独立項に記載の発明において任意の構成及び方法である。従属項に記載の構成及び方法に対応する実施形態の構成及び方法、並びに特許請求の範囲に記載がなく実施形態のみに記載の構成及び方法は、本発明において任意の構成及び方法である。特許請求の範囲の記載が実施形態の記載よりも広い場合における実施形態に記載の構成及び方法も、本発明の構成及び方法の例示であるという意味で、本発明において任意の構成及び方法である。いずれの場合も、特許請求の範囲の独立項に記載することで、本発明の必須の構成及び方法となる。
実施形態に記載した効果は、本発明の例示としての実施形態の構成を有する場合の効果であり、必ずしも本発明が有する効果ではない。
複数の実施形態がある場合、各実施形態に開示の構成は各実施形態のみで閉じるものではなく、実施形態をまたいで組み合わせることが可能である。例えば一の実施形態に開示の構成を、他の実施形態に組み合わせても良い。また、複数の実施形態それぞれに開示の構成を集めて組み合わせても良い。
発明が解決しようとする課題に記載した課題は公知の課題ではなく、本発明者が独自に知見したものであり、本発明の構成及び方法と共に発明の進歩性を肯定する事実である。
1.各実施形態に共通の構成
(通信システムの構成)
図1に示すように通信システム1は、車両(「移動体」に相当)に「搭載されている」画像情報送信装置200、画像情報受信装置100、並びに画像情報送信装置200及び画像情報受信装置100との間の通信に用いる通信ネットワーク2からなる。
ここで「移動体」とは、移動可能な物体をいい、移動速度は任意である。また移動体が停止している場合も当然含む。例えば、自動車、自動二輪車、自転車、歩行者、船舶、航空機、及びこれらに搭載される物を含み、またこれらに限らない。
また、「搭載されている」とは、移動体に直接固定されている場合の他、移動体に固定されていないが移動体と共に移動する場合も含む。例えば、移動体に乗った人が所持している場合、移動体に載置された積荷に搭載されている場合、が挙げられる。
画像情報送信装置200(「画像情報送信装置」に相当)は、図示しない「撮像装置」で撮像した画像を符号化して画像情報を生成し、この画像情報を通信ネットワーク2の上り回線を通じて画像情報受信装置100(「画像情報受信装置」に相当)へ送信する。画像情報受信装置100は、送信された画像情報を受信する。
また、画像情報受信装置100は、受信した画像情報に基づいて必要なデータや指示を生成し、通信ネットワーク2の下り回線を通じて画像情報送信装置200に送信する。画像情報送信装置200は、送信されたデータや指示を受信する。画像情報受信装置100の応用例として、例えば車両監視装置、自動運転支援サービス装置などが挙げられる。
ここで、「画像情報送信装置」とは、画像情報を送信する装置であれば足り、当該装置で画像情報を生成して送信する場合、当該装置で画像情報を取得して送信する場合のいずれも含む。例えば一般的に送信装置、送信端末装置と呼ばれるものが相当し、具体的には電子制御装置(ECU)、半導体回路素子、PC(パーソナルコンピュータ)、スマートフォン、携帯電話、ビデオカメラ、スチルカメラ等が含まれる。
「画像情報受信装置」とは、画像情報を受信する装置であれば足りる。例えば一般的にサーバ装置、受信装置、受信端末装置と呼ばれるものが相当し、具体的には各種サーバ装置、ワークステーション、PC(パーソナルコンピュータ)、が挙げられるが、電子制御装置(ECU)、半導体回路素子、スマートフォン、携帯電話等であってもよい。
「撮像装置」は、当該画像情報送信装置の外にある場合の他、当該画像情報送信装置に含まれて当該画像情報送信装置と一体となっている場合も含む。
通信ネットワーク2(「通信ネットワーク」に相当)は、画像情報送信装置200と基地局装置との間で無線通信方式が用いられる。無線通信方式としては、例えば、IEEE802.11(WiFi(登録商標))やIEEE802.16(WiMAX(登録商標))、W-CDMA(Wideband Code Division Multiple Access)、HSPA(High Speed Packet Access)、LTE(Long Term Evolution)、LTE-A(Long Term Evolution Advanced)、4G、5G等を用いることができる。また、基地局装置と画像情報受信装置100との間は、電話回線やインターネット等の有線通信方式が用いられる。
このように各実施形態に共通の通信ネットワーク2は、複数のネットワークを組み合わせているが、単一の通信ネットワークを用いる場合を排除するものではない。
ここで、「通信ネットワーク」とは、無線通信ネットワークの他、有線通信ネットワークであってもよい。また、これらを組み合わせてもよい。
通信システム1の例として、画像情報送信装置200は車両に搭載されるとともに、画像情報受信装置100は移動しないサーバを想定したが、これに限られるものではない。例えば、画像情報送信装置200及び画像情報受信装置100の両方が、それぞれ異なる車両に搭載されてもよい。あるいは、画像情報送信装置200がサーバ、画像情報受信装置100が車両に搭載されてもよい。あるいは、画像情報送信装置200及び画像情報受信装置100の両方が移動しないサーバや移動しないコンピュータであってもよい。また、画像情報送信装置200は、コンピュータである必要はなく、例えばインフラに取り付けられている監視用のカメラであってもよい。
2.各実施形態に共通の本発明のメカニズム
本発明者らは、以下のメカニズムを見出した。
撮像装置で撮像した画像は、通常MPEG(Moving Picture Experts Group)と呼ばれる、H264やH265等の圧縮・符号化技術を用いて画像情報に変換される。これらの圧縮・符号化技術には、フレーム間予測と呼ばれる技術が用いられている。
フレーム間予測とは、動画像において前のフレームと次のフレームが良く似ているという性質を用いて、前のフレームから現在のフレームを予測する技術である。フレーム間予測を用いた圧縮では、入力画像と予測画像の差分だけを符号化すればよいので、非常に高い圧縮率を達成できる。フレーム間予測を用いずに符号化されるフレームはIフレーム、フレーム間予測を用いて符号化されるフレームはPフレーム、あるいはBフレームと呼ばれている。そして、一般的には、Iフレームの情報量(すなわちサイズ)の方が、Pフレーム又はBフレームの情報量(すなわちサイズ)よりも格段に多い。そのため、Iフレームを送信するためのパケット数は、Pフレーム又はBフレームを送信するためのパケット数に比べて多いといえる。
図2において、(a)は画像を圧縮・符号化して得られたフレームの様子を示している。なお、説明を簡略化するためにBフレームは説明に用いていない。画像を圧縮・符号化すると、例えば30フレーム/秒でフレームが出力される場合、各フレーム間の長さは30分の1秒となる。ここでは、これらのフレームを送るのに要するパケット数を、Iフレームの場合は5つ、Pフレームの場合は2つとする。
画像情報のパケットの送信は、画像情報受信装置100からの受信応答を待って順次行うため、通信帯域が狭い程、1つのパケットの送信に時間がかかる。
通信帯域に余裕がある場合は、リアルタイムに撮像された画像の画像情報を送信する際、図2(b)のように、Iフレームのパケットを送り終えてからPフレームのパケットを送り始めるまでに空白の時間が生じる。Pフレームのパケットを送り終えてから次のPフレームのパケットを送り始めるまでも同様である。このように、通信帯域に余裕がある場合は、パケットの送信間隔にばらつきが生じる。
これに対して通信帯域に余裕がない場合は、図2(c)のように、Iフレームのパケットを送り終えてからすぐにPフレームのパケットを送り始める。また、Pフレームのパケットを送り終えてから次のPフレームのパケットを送り始めるまでも同様である。このように、通信帯域に余裕がない場合は、パケットの送信間隔は一定となり、通信帯域に余裕がない程パケットの送信間隔は長くなる。これに伴いリアルタイムに画像情報を送信することが難しくなる。
図3は、通信ネットワーク2の通信帯域を変化させた場合におけるパケット受信間隔の変化を示している。画像情報送信装置200からは、目標送信レートを8Mbps(Mega bit per second)として画像情報を送信し、通信ネットワーク2の通信帯域は20Mbpsから2Mbpsに2Mbps毎に段階的に劣化させている。
通信帯域が20Mbpsから10Mbpsまでの間は、0.001sを中心にパケットの受信間隔にばらつきが生じている。この間は、目標送信レートより通信帯域の方が広いことから、通信帯域に余裕がある場合は受信間隔にばらつきが生じていることが分かる。この場合は、通信帯域に余裕があるので、目標送信レートを上げることができる。
通信帯域が8Mbpsの場合は、0.001sを中心にパケットの受信間隔にほとんどばらつきが見られない。この間は、目標送信レートと通信帯域とが同じであることから、通信帯域の限界付近までが通信に使われている場合は、受信間隔にばらつきは生じない。
通信帯域が4Mbpsから2Mbpsまでの間は、パケットの受信間隔が段階的に増加している。この間は、目標送信レートをカバーできるだけの通信帯域がないことから、通信帯域に余裕がない場合はパケットの送信に時間がかかり、パケットの受信間隔が広がっていることが分かる。この場合は、通信帯域に余裕がないので、目標送信レートを下げる必要がある。
以上の性質を利用すれば、パケットの受信間隔のばらつきを求めることで、通信帯域に余裕があるかどうかを検出することができる。そして、パケットの受信間隔にばらつきがある場合は、通信帯域に余裕があるといえるので、目標送信レートを上げることができる。また、パケットの受信間隔にばらつきがない場合は、通信帯域に余裕がないといえるので、目標送信レートを下げる必要がある。
なお、フレーム間予測を用いない圧縮・符号化技術を用いる場合も各フレームのデータ量に幅があるため、パケットの送信間隔にばらつきが生じる。よって、フレーム間予測を用いない圧縮・符号化技術を用いる場合においても、本発明のメカニズムが該当する。例えば、Motion JPEG(Joint Photographic Experts Group)を用いてもよい。
3.第1の実施形態
(1)画像情報受信装置100の構成
図4に示す通り、画像情報受信装置100は、受信部101、復号部102、パケット解析部103、送信レート変更処理部104、及び送信部105、を有する。
受信部101は、画像情報送信装置200から通信ネットワーク2を通じて「画像」情報を受信する。画像情報は、画像情報送信装置200や画像情報送信装置200に接続された装置において、フレーム間予測を用いて「画像」が符号化されたものであることが望ましいが、フレーム間予測を用いない方法で「画像」が符号化されていてもよい。例えば、画像情報は、Motion JPEGを用いて「画像」が符号化されていてもよい。
ここで、「画像」とは、動画、静止画のいずれも含む。また、動画、静止画の両方が含まれていてもよい。
復号部102は、受信部101で受信した画像情報を復号し、復号した画像情報を表示装置に出力する。
パケット解析部103は、受信部101で受信した画像情報に含まれるパケットの受信間隔を検出し、パケットの受信間隔の「ばらつき」である受信実ばらつきを求める。
受信実ばらつきは、分散を求めることで数値化できる。分散は、標本分散が望ましいが、これに限らない。この他、受信実ばらつきとして、一定時間毎のパケットの受信間隔の最大値と最小値を用いてもよい。
ここで、「ばらつき」とは、受信間隔が離散的である状態又は程度をいい、例えば分散、最大値/最小値、振幅、標準偏差等の指標で表すことができる。
送信レート変更処理部104は、パケット解析部103で求めた受信実ばらつきと「所定値」とを比較し、受信実ばらつきが所定値「よりも」大きい場合、画像情報送信装置200から画像情報を送信する「送信レート」である目標送信レートを「上げる」処理を行う。目標送信レートとは、画像情報送信装置200が画像情報を送信する速度の目標値をいう。目標送信レートは、ターゲットビットレートともいう。
一例として、後述の送信部105から、画像情報送信装置200に対し、目標送信レートを上げる命令を送信することが挙げられる。画像情報送信装置200と画像情報受信装置100との間で送信レートのステップを定義しておけば、目標送信レートを上げる命令を送信した場合、現在の目標送信レートから、定義したステップ分だけ目標送信レートを上げることになる。例えば、ステップが1Mbpsであり、現在の目標送信レートが2Mbpsである場合を想定する。画像情報受信装置100から目標送信レートを上げる命令を画像情報送信装置200に送信すれば、この命令を受信した画像情報送信装置200は、2Mbpsの目標送信レートを3Mbpsに上げる。
他の例として、目標送信レートの値を示すデータを送信することが挙げられる。例えば、目標送信レートを4Mbpsに上げる場合、画像情報受信装置100から画像情報送信装置200に、3Mbpsの値を示すデータを送信する。
この他、フレーム数(fps(frames per second)や、解像度を送信するようにしてもよい。これらの値を受信した画像情報送信装置200は、これらの値に対応する目標送信レートを設定する。
所定値は、例えば分散値を0.01の固定値に設定する。あるいは、画像情報送信装置200が搭載される車の車速が早いほど通信環境の変動が大きくなるので、例えば車速に応じて設定する分散値を大きくするようにしてもよい。この場合、画像情報送信装置200は、画像情報とともに車速を画像情報受信装置100に送信する。その他、道路情報を用いて、都心部と郊外とで分散値を切り替えるようにしてもよい。
目標送信レートの上限値は、送信する画像情報の種類によって切り替えてもよい。例えば、full-HD映像を送信している場合には、8Mbpsを上限値とし、4K映像を送信している場合には、40Mbpsを上限値とする。
ここで、「所定値」とは、一定値の他、条件により変動する変動値も含む。また数値だけでなく、量子化することにより複数の集合で表される場合も含む。
「よりも」とは、所定値を含まない場合の他、所定値を含む場合も含む。
「送信レート」とは、単位時間当たりの送信情報量をいう。
「送信レートを上げる」とは、単位時間当たりの送信情報量を直接上げる場合の他、圧縮率を高めたり、多値変調を用いたりすることにより、間接的に送信情報量を上げる場合も含む。
送信部105は、送信レート変更処理部104で生成した命令や、目標送信レートの値を示すデータを、画像情報送信装置200へ送信する。
画像情報受信装置100は、想定される形態としては、サーバ、ワークステーション、PC(パーソナルコンピュータ)が挙げられる。この場合、画像情報受信装置100は、図4で示した構成に加えて表示装置を含めてもよい。また、物理的に複数台のサーバ等で実現されてもよい。その場合は、複数台のサーバをまとめて画像情報受信装置100となる。
画像情報受信装置100は、想定される別の形態として、完成品としてのスマートフォンや携帯電話、半完成品としての電子制御装置(ECU(Electric Control Unit))、部品としての半導体回路素子であってもよい。この場合、画像情報受信装置100は、画像情報送信装置200が搭載されている車両(「第1の移動体」に相当)とは異なる車両(「第2の移動体」に相当)に搭載されてもよい。つまり、本通信システム2は、車車間通信に用いることもできる。
特に画像情報通信装置100が半導体回路素子で実現される場合、図4において破線で示す通り、パケット解析部103、及び送信レート変更処理部104があれば足りる。この場合、パケット解析部103の入力部分が受信部を構成する。また、送信レート変更処理部104の出力部分が送信部を構成する。
(2)画像情報送信装置200の構成
図5に示す通り、画像情報送信装置200は、符号化部201、受信部202、目標送信レート保存部203、及び送信部204、を有する。また、受信部202及び送信部204は、通信ネットワーク2が無線通信方式の場合アンテナAに接続され、アンテナAを介して画像情報や命令、データ等を送受信する。
符号化部201は、ビデオカメラ等(「撮像装置」に相当)で撮像した画像を符号化して画像情報を生成する。符号化は、通常MPEG(Moving Picture Experts Group)と呼ばれる、H264やH265等の、フレーム間予測を含む圧縮・符号化技術を用いることが望ましい。もっとも、画像情報通信装置100において受信間隔にばらつきが生じるような圧縮方式であれば足り、必ずしもフレーム間予測を含む必要はない。例えばMotion-JPEG(Joint Photographic Experts Group)であってもよい。
受信部202は、画像情報受信装置100の送信部105から送信された目標送信レートを上げる命令や目標送信レートの値を示すデータを、アンテナAを介して受信する。
目標送信レート保存部203は、受信部202で受信したデータに示された目標送信レートの値を保存する。なお、受信部202で目標送信レートを上げる命令を受信した場合は、命令に従って画像情報送信装置200側で具体的な目標送信レートを生成して保存すればよい。
送信部204は、目標送信レート保存部203から目標送信レートを読出し、目標送信レートでもって符号化部201から出力された画像情報を、アンテナAを介して画像情報受信装置100へ送信する。
なお、送信部204の前段にバッファ部を設け、符号化部201で生成した画像情報を一時的に保存してもよい。この場合、送信部204は、バッファ部に保存された画像情報を読出して画像情報受信装置100へ送信する。
(3)画像情報受信装置100及び画像情報送信装置200の動作
図6のフローチャートを用いて、画像情報受信装置100の動作について説明する。
ステップS101において、受信部201は、画像情報送信装置200から通信ネットワーク2を通じて画像情報を受信する。
ステップS102において、パケット解析部103は、受信部101で受信した画像情報に含まれるパケットの受信間隔を検出し、受信実ばらつきを求める。
ステップS103において、送信レート変更処理部104は、パケット解析部103で求めた受信実ばらつきと所定値とを比較する。受信実ばらつきが所定値よりも大きければ、ステップS104を実行する。受信実ばらつきが所定値以下であれば、処理を終了する。
ステップS104において、送信部105は、送信レート変更処理部104で生成した目標送信レートの値を示すデータ又は目標送信レートを上げる命令を、画像情報送信装置200へ送信し、処理を終了する。
図7のフローチャートを用いて、画像情報送信装置200の動作について説明する。
ステップS201において、符号化部201は、ビデオカメラ等で撮像した画像を符号化して画像情報を生成する。
ステップS202において、受信部202は、画像情報受信装置100の送信部105から送信された目標送信レートの値を示すデータや目標送信レートを上げる命令を、アンテナAを介して受信する。
ステップS203において、目標送信レート保存部203は、受信部202で受信したデータに示された目標送信レートの値を保存する。目標送信レートを上げる命令を受信した場合は、目標送信レートを更新して保存する。
ステップS204において、送信部204は、目標送信レート保存部203から目標送信レートを読出し、目標送信レートで符号化部201から出力された画像情報を、アンテナAを介して送信する。
以上の動作は、画像情報受信装置100における画像情報受信方法を示すだけでなく、画像情報受信装置100で実行される画像情報受信プログラムの処理手順を示すものでもある。また、画像情報送信装置200における画像情報送信方法を示すだけでなく、画像情報送信装置200で実行される画像情報送信プログラムの処理手順を示すものでもある。
そして、これらの処理は、図6、図7で示した順序には限定されない。すなわち、あるステップでその前段のステップの結果を利用する関係にある等の制約がない限り、順序を入れ替えても良い。
以上の点は、第2の実施形態以下のフローチャートについても同様である。
(4)効果
以上、第1の実施形態によれば、受信実ばらつきから通信帯域を推定することにより、通信帯域を有効に活用できる目標送信レートを設定することができる。
4.第2の実施形態
第1の実施形態では、受信実ばらつきを用いて通信ネットワークの通信帯域を推定した。しかし、受信間隔がばらつくことは、通信ネットワークが不安定であることに起因する可能性もある。
そこで、本実施形態では、第1の実施形態に、通信ネットワークが不安定であることに起因する場合を排除する構成を追加している。
(1)画像情報受信装置120の構成
本実施形態の画像情報受信装置120の構成は、図4に示す第1の実施形態の画像情報受信装置100の構成と同じであるので、図4を引用して説明する。
本実施形態の画像受信装置120は、送信レート変更処理部104の処理内容が異なる他は、第1の実施形態と同じである。第1の実施形態と同様の構成については、第1の実施形態の説明を引用し、説明は省略する。
送信レート変更処理部104は、第1の実施形態で説明した処理の前に、パケット解析部103で求めた受信実ばらつきが、フレーム間予測で求められたIフレームとPフレーム又はBフレームとのデータ量の違いに起因するか否かの判断を行う。そして、データの量の違いに起因すると判断した場合は、実施形態1で説明した送信レート変更処理部104の処理を続けて行うことにより、目標送信レートを上げる処理を行うかどうかを判断する。これに対し、データ量の違いに起因しないと判断した場合は、受信間隔がばらつく原因は通信ネットワークの不安定に起因するとして、目標送信レートを上げる処理を行わない。
送信レート変更処理部104の具体的な判断方法の一の例を挙げる。
画像情報が標準目標送信レートにより送信される場合において、標準画像を符号化することにより求めたIフレームとPフレーム又はBフレームとのデータ量の違いから求めた標準ばらつきを予め求めておく。標準ばらつきは、画像情報が標準目標送信レートで送信された場合の、パケットの送信間隔のばらつきをいう。そして、標準ばらつきと、実際にパケット解析部103で求めた受信実ばらつきを比較し、標準ばらつきの波形や分散と近似するか否かにより、受信実ばらつきがIフレームとPフレーム又はBフレームとのデータ量の違いに起因するか否かを判断する。
ここで、標準目標送信レートは、デフォルトで設定される目標送信レートを用いてもよい。また、いくつかの目標送信レートを用いてそれぞれ標準ばらつきを求めておき、実際に画像情報送信装置に設定されている目標送信レートに対応する標準ばらつきを用いるようにしてもよい。
標準画像は、例えば、市街地を走行しながら前方を撮影した動画をサンプルとして用いることができる。この他、郊外、高速道路などの周辺環境が異なるいくつかの場所で撮影した動画を用いてそれぞれ標準ばらつきを準備しておき、地図情報及び位置情報に照らして現在走行している場所の周辺環境を推定し、推定した周辺環境で撮影された動画に基づく標準ばらつきを用いるようにしてもよい。あるいは、朝、昼、夕方、夜などの時間を変えて撮影した動画を用いてそれぞれ標準ばらつきを準備しておき、現在時間に最も近い時間に撮影された動画に基づく標準ばらつきを用いるようにしてもよい。あるいは、晴天時、曇天時、雨天時など異なる天候時に撮影した動画を用いてそれぞれ標準ばらつきを準備しておき、現在の天候に最も近い天候で撮影された動画に基づく標準ばらつきを用いるようにしてもよい。現在の天候は、雨滴センサや日照計を用いることにより推定できる。なお、これらのうち複数を組み合わせた標準画像を用いてもよい。
送信レート変更処理部104の具体的な判断方法の他の例を挙げる。
後述する画像情報送信装置220で生成した画像情報のIフレームとPフレーム又はBフレームとのデータ量の違いに基づき、当該画像情報送信装置220で送信実ばらつきを求める。送信実ばらつきは、画像情報送信装置220から送信される画像情報を目標送信レートで送信された場合の、パケットの送信間隔のばらつきをいう。そして、画像情報送信装置220から送信実ばらつきを送信し、画像情報受信装置100の受信部101で受信する。そして、送信レート変更処理部104は、受信した送信実ばらつきと、実際にパケット解析部103で求めた受信実ばらつきを比較し、送信実ばらつきの波形や分散と近似するか否かにより、受信実ばらつきがIフレームとPフレーム又はBフレームとのデータ量の違いに起因するか否かを判断する。
(2)画像情報送信装置220の構成
図8に示す通り、画像情報送信装置220は、第1の実施形態の画像情報送信装置200の構成に加えて、パケット解析部221を有する。画像情報送信装置220は、送信レート変更処理部104の具体的な判断方法の他の例で挙げた動作を行う画像情報受信装置120に対応する装置である。それ以外の画像情報受信装置120に対応する装置は、第1の実施形態の画像情報送信装置200と同じであるので説明を省略する。
パケット解析部221は、目標送信レート保存部203に保存されている目標送信レートに基づいて、符号化部201で生成した画像情報に含まれるIフレームとPフレーム又はBフレームとのデータ量の違いから送信実ばらつきを求める。送信実ばらつきも、分散を求めることで数値化できる。分散は、標本分散が望ましいが、これに限らない。この他、送信実ばらつきとして、一定時間毎のパケットの送信間隔の最大値と最小値を用いてもよい。パケット解析部221で求めた送信実ばらつきは、送信部204から画像情報受信装置100に送信される。
(3)画像情報受信装置120及び画像情報送信装置220の動作
図9のフローチャートを用いて、画像情報受信装置120の動作について説明する。図9のフローチャートは、第1の実施形態の画像情報受信装置100の動作を示した図6のフローチャートに、ステップS122を追加している。また、ステップS101に代えてステップS121を有している。図6と共通するステップは図6の説明を引用し、説明を省略する。
ステップS121において、受信部101は、画像情報送信装置220から通信ネットワーク2を通じて画像情報を受信する。さらに、受信部101は、画像情報送信装置220で生成した画像情報のIフレームとPフレーム又はBフレームとのデータ量の違いから求めた送信実ばらつきを受信する。
ステップS122において、送信レート変更処理部104は、受信部101で受信した送信実ばらつきと、実際にパケット解析部103で求めた受信実ばらつきを比較し、送信実ばらつきの波形や分散と近似するか否かにより、受信実ばらつきがIフレームとPフレーム又はBフレームとのデータ量の違いに起因するか否かを判断する。受信実ばらつきがデータ量の違いに起因すると判断した場合は、ステップS103に処理を移す。受信実ばらつきがデータ量の違いに起因しないと判断した場合は、処理を終了する。
なお、これらの処理は、図9で示した順序には限定されない。すなわち、あるステップでその前段のステップの結果を利用する関係にある等の制約がない限り、順序を入れ替えても良い。例えば、ステップS122とステップS103は、順序を入れ替えてもよい。
図10のフローチャートを用いて、画像情報送信装置220の動作について説明する。図10のフローチャートは、第1の実施形態の画像情報送信装置200の動作を示した図7のフローチャートに、ステップS221を追加している。また、ステップS204に代えてステップS222を有している。図7と共通するステップは図7の説明を引用し、説明を省略する。
ステップS221において、パケット解析部221は、目標送信レート保存部203に保存されている目標送信レートに基づいて、符号化部201で生成した画像情報に含まれるIフレームとPフレーム又はBフレームとのデータ量の違いから送信実ばらつきを求める。
ステップS222において、送信部204は、目標送信レート保存部203から目標送信レートを読出し、符号化部201から出力された画像情報及び送信実ばらつきを、アンテナAを介して目標送信レートで送信する。
(4)効果
以上、第2の実施形態によれば、受信実ばらつきの原因を特定することにより、通信ネットワークの不安定を原因とする受信実ばらつきを判断対象から外すことができるので、より精度の高い通信帯域の推定を行うことができる。
5.第3の実施形態
第1の実施形態では、受信実ばらつきを用いて通信ネットワークの通信帯域を推定し、画像情報送信装置200の目標送信レートを上げる処理を行なった。本実施形態では、これに加えて、画像情報送信装置200の目標送信レートを下げる処理を行う場合の構成を追加している。
(1)画像情報受信装置140の構成
本実施形態の画像情報受信装置140の構成は、図4に示す第1の実施形態の画像情報受信装置100の構成と同じであるので、図4を引用して説明する。
本実施形態の画像情報受信装置140は、送信レート変更処理部104の処理内容が異なる他は、第1の実施形態と同じである。第1の実施形態と同様の構成については、第1の実施形態の説明を引用し、説明は省略する。
本発明のメカニズムの項で説明した通り、パケットの受信間隔に受信実ばらつきがなく、パケットの受信間隔が広がっている場合には、通信帯域に余裕がないと言える。そこで、目標送信レートを基準に、パケットの受信間隔を評価することにより、目標送信レートを下げる処理を行う。
送信レート変更処理部104は、過去に生成した、目標送信レートを上げる命令又は目標送信レートの値を示すデータを参照して、パケット解析部103で検出したパケットの受信間隔と目標送信レートから求まるパケットの受信間隔とを比較する。パケット解析部103で検出したパケットの受信間隔が目標送信レートから求まるパケットの受信間隔よりも大きい場合、目標「送信レートを下げる」処理を行う。目標送信レートを下げる処理は、第1の実施形態で説明した目標送信レートを上げる処理の例と同じ方法を用いることができる。
ここで、「送信レートを下げる」とは、単位時間当たりの送信情報量を直接下げる場合の他、圧縮率を低めたり、多値変調を用いたりすることにより、間接的に送信情報量を下げる場合も含む。
例えば、目標送信レートが1Mbps、パケットサイズが1000Bytes(8000bits)の場合、目標送信レートから求まるパケットの受信間隔は8000bits/1Mbps=8msとなる。これに対して、パケット検出部103で検出したパケットの受信間隔が10msである場合、パケット解析部103で検出したパケットの受信間隔が目標送信レートから求まるパケットの受信間隔よりも大きいと評価して、目標送信レートを下げる命令、又は具体的な目標送信レートの値を示すデータを画像情報送信装置200に送信する。
画像情報受信装置140に対応する装置は、第1の実施形態の画像情報送信装置200と同じであるので説明を省略する。
(2)画像情報受信装置140の動作
図11のフローチャートを用いて、画像情報受信装置140の動作について説明する。図11のフローチャートは、第1の実施形態の画像情報受信装置100の動作を示した図6のフローチャートに、ステップS141及びステップS142を追加している。図6と共通するステップは図6の説明を引用し、説明を省略する。
ステップS141において、送信レート変更処理部104は、過去に生成した、目標送信レートを上げる命令又は目標送信レートの値を示すデータを参照して、パケット解析部103で検出したパケットの受信間隔と目標送信レートから求まるパケットの受信間隔とを比較する。
パケット解析部103で検出したパケットの受信間隔が目標送信レートから求まるパケットの受信間隔よりも大きい場合、ステップS142において、目標送信レートを下げる処理を行う。パケット解析部103で検出したパケットの受信間隔が目標送信レートから求まるパケットの受信間隔以下の場合、処理をステップS103に移す。
(3)効果
以上、第3の実施形態によれば、目標送信レートを上げる処理に加えて、目標送信レートを下げる処理を行うことができ、通信帯域を有効に活用できる目標送信レートを設定することができる。
6.第4の実施形態
第3の実施形態では、目標送信レートから求まるパケットの受信間隔を基準に、パケット解析部103で検出した実際のパケットの受信間隔を評価した。しかし、画像情報送信装置200側の状態、例えば画像情報送信装置200が車両に搭載されており右折時や高速道路走行時のように撮像装置で撮像される画像の動きが速い場合、目標送信レートと実送信レートに差が生じることがある。本実施形態はこのような場合においても、目標送信レートを下げる処理を適切に行う構成を追加している。
(1)画像情報受信装置160の構成
本実施形態の画像情報受信装置160の構成は、図4に示す第1の実施形態の画像情報受信装置100の構成と同じであるので、図4を引用して説明する。
本実施形態の画像受信装置160は、送信レート変更処理部104の処理内容が異なる他は、第1の実施形態と同じである。第1の実施形態と同様の構成については、第1の実施形態の説明を引用し、説明は省略する。
受信部101は、画像情報を実際に送信した送信レートであって後述する画像情報送信装置260で生成した実送信レートを、画像情報送信装置260から受信する。
送信レート変更処理部104は、受信した実送信レートから求まるパケットの受信間隔と、実際にパケット解析部103で検出したパケットの受信間隔とを比較する。実送信レートから求まるパケットの受信間隔を計算する方法は、第3の実施形態で説明した、目標送信レートから求まるパケットの受信間隔を計算する方法と同様である。パケット解析部103で検出したパケットの受信間隔が実送信レートから求まるパケットの受信間隔よりも大きい場合、目標送信レートを下げる処理を行う。
(2)画像情報送信装置260の構成
図12に示す通り、画像情報送信装置260は、第1の実施形態の画像情報送信装置200の構成に加えて、実送信レート検出部261、及び差分検出部262を有する。第1の実施形態と同様の構成については、第1の実施形態の説明を引用し、説明は省略する。
実送信レート検出部261は、符号化部201で生成された画像情報が送信部204で送信される送信レートである実送信レートを検出する。実送信レートは、画像情報を実際に送信する速度である。
差分検出部262は、目標送信レート保存部203から読出した目標送信レートと、実送信レート検出部261で検出された実送信レートとの「差分」を検出する。
ここで、「差分」とは、減算が含まれていれば足り、単純差(x-y)のみならず、絶対値差|x-y|、二乗差(x2-y2)、差の平方根((x-y)1/2)、重みづけ差(ax-by:a、bは定数)なども含む。
送信部204は、差分が「所定値」「よりも」大きい場合、実送信レートを画像情報受信装置160へ送信する。
ここで、「所定値」とは、一定値の他、条件により変動する変動値も含む。また数値だけでなく、量子化することにより複数の集合で表される場合も含む。
「よりも」とは、所定値を含まない場合の他、所定値を含む場合も含む。
所定値は、例えば0.2Mbpsに設定する。例えば、目標送信レートが2Mbps、実送信レートが2.25Mbpsである場合、差分は0.25Mbpsとなり所定値である0.2Mbpsよりも大きいので、送信部204は実送信レートである2.25Mbpsの値を画像情報受信装置160に送信する。
別の例として、所定値をゼロに設定してもよい。この場合、送信部204は常に実送信レートを画像情報受信装置160に送信することになる。
(3)画像情報受信装置160及び画像情報送信装置260の動作
図13のフローチャートを用いて、画像情報受信装置160の動作について説明する。図13のフローチャートは、第3の実施形態の画像情報受信装置140の動作を示した図11のフローチャートにおいて、ステップS101に代えてステップS161を、ステップS141に代えてステップS162を有している。図11と共通するステップは図11の説明、あるいは図11で引用する図6の説明を引用し、説明を省略する。
ステップS161において、受信部101は画像情報を実際に送信した速度である実送信レートを、画像情報送信装置260から受信する。
ステップS162において、送信レート変更処理部104は、受信した実送信レートから求まるパケットの受信間隔と、実際にパケット解析部103で検出したパケットの受信間隔とを比較する。
パケット解析部103で検出したパケットの受信間隔が実送信レートから求まるパケットの受信間隔よりも大きい場合、ステップS142において、目標送信レートを下げる処理を行う。パケット解析部103で検出したパケットの受信間隔が実送信レートから求まるパケットの受信間隔以下の場合、処理をステップS103に移す。
図14のフローチャートを用いて、画像情報送信装置260の動作について説明する。図14のフローチャートは、第1の実施形態の画像情報送信装置200の動作を示した図7のフローチャートに、ステップS261~ステップS264を追加している。また、ステップS204に代えてステップS265を有している。図7と共通するステップは図7の説明を引用し、説明を省略する。
ステップS261において、実送信レート検出部261は、符号化部201で生成された画像情報が送信部204で送信される送信レートである実送信レートを検出する。
ステップS262において、差分検出部262は、目標送信レート保存部203から読出した目標送信レートと、実送信レート検出部261で検出された実送信レートとの差分を検出する。
ステップS263において、差分検出部262で検出された差分が所定値よりも大きい場合、ステップS264に処理を移す。差分検出部262で検出された差分が所定値以下の場合、ステップS265に処理を移す。
ステップS264において、送信部204は、実送信レートを画像情報受信装置160へ送信する。
ステップS265において、送信部205は、画像情報を画像情報受信装置160に送信する。なお、ステップS264を経由する場合は、ステップS264と同時に本ステップを実行してもよい。
(3)効果
以上、第4の実施形態によれば、実送信レートに基づき通信帯域の推定を行うことができるので、より精度の高い通信帯域の推定を行うことができる。
7.その他の実施形態
第2の実施形態、及び第3の実施形態の両方の構成を有するような実施形態としてもよい。
第2の実施形態、及び第4の実施形態の両方の構成を有するような実施形態としてもよい。
第2の実施形態、第3の実施形態、及び第4の実施形態の全ての構成を有するような実施形態としてもよい。
その他、機能作用上、併存ができない関係でなければ、任意の実施形態を組み合わせてもよい。
(総括)
以上、本発明の各実施形態における装置等の特徴について説明した。
各実施形態で使用した用語は例示であるので、同義の用語、あるいは同義の機能を含む用語に置き換えてもよい。
実施形態の説明に用いたブロック図は、装置の構成を機能毎に分類及び整理したものである。それぞれの機能を示すブロックは、ハードウェア又はソフトウェアの任意の組み合わせで実現される。また、機能を示したものであることから、かかるブロック図は方法、及び当該方法を実現するプログラムの発明の開示としても把握できるものである。
各実施形態に記載した処理、フロー、及び方法として把握できる機能ブロック、については、一のステップでその前段の他のステップの結果を利用する関係にある等の制約がない限り、順序を入れ替えても良い。
各実施形態、及び特許請求の範囲で使用する、第1、第2、乃至、第N(Nは整数)、の用語は、同種の2以上の構成や方法を区別するために使用しており、順序や優劣を限定するものではない。
各実施形態は、車両に搭載される装置を前提としているが、本発明は、特許請求の範囲で特に限定する場合を除き、車両用以外の専用又は汎用の装置も含むものである。
各実施形態は、車両に搭載される装置を前提としているが、歩行者が所持する装置としてもよい。
また、本発明の装置の形態の例として、以下のものが挙げられる。
部品の形態として、半導体素子、電子回路、モジュール、マイクロコンピュータが挙げられる。
半完成品の形態として、電子制御装置(ECU(Electric Control Unit))、システムボードが挙げられる。
完成品の形態として、携帯電話、スマートフォン、タブレット、パーソナルコンピュータ(PC)、ワークステーション、サーバが挙げられる。
その他、通信機能を有するデバイス等を含み、例えばビデオカメラ、スチルカメラ、カーナビゲーションシステムが挙げられる。
本発明の装置は、サーバ装置の形態で、各種サービスの提供を目的とするために用いられることが想定される。かかるサービスの提供に伴い、本発明の装置が使用され、本発明の方法が使用され、又は/及び本発明のプログラムが実行されることになる。
加えて、本発明は、各実施形態で説明した構成及び機能を有する専用のハードウェアで実現できるだけでなく、メモリやハードディスク等の記録媒体に記録した本発明を実現するためのプログラム、及びこれを実行可能な専用又は汎用CPU及びメモリ等を有する汎用のハードウェアとの組み合わせとしても実現できる。
専用や汎用のハードウェアの非遷移的実体的記録媒体(例えば、外部記憶装置(ハードディスク、USBメモリ、CD/BD等)、又は内部記憶装置(RAM、ROM等))に格納されるプログラムは、記録媒体を介して、あるいは記録媒体を介さずにサーバから通信回線を経由して、専用又は汎用のハードウェアに提供することもできる。これにより、プログラムのアップグレードを通じて常に最新の機能を提供することができる。
本発明の装置は、主として自動車に搭載される車両用電子制御装置として説明したが、自動二輪車、電動機付自転車、鉄道はもちろん、歩行者、船舶、航空機等、移動する移動体全般に適用することが可能である。
100 画像情報受信装置、101 受信部、103 パケット解析部、104 送信レート変更処理部、105 送信部

Claims (20)

  1. 画像情報送信装置(200)から通信ネットワークを通じて画像情報を受信する受信部(101)と、
    前記画像情報に含まれるパケットの受信間隔のばらつきである受信実ばらつきを求めるパケット解析部(103)と、
    前記受信実ばらつきが所定値よりも大きい場合、前記画像情報送信装置の目標送信レートを上げる処理を行う送信レート変更処理部(104、105)と、を有する、
    画像情報受信装置(100)。
  2. 前記画像情報は、フレーム間予測を用いて画像が符号化されている、
    請求項1記載の画像情報受信装置。
  3. 前記送信レート変更処理部は、さらに、前記受信実ばらつきが前記フレーム間予測で求められたIフレームとPフレーム又はBフレームとのデータ量の違いに起因すると判断した場合に、前記目標送信レートを上げる処理を行う、
    請求項2記載の画像情報受信装置(120)。
  4. 前記送信レート変更処理部は、標準画像を符号化することにより求めた前記Iフレームと前記Pフレーム又は前記Bフレームとのデータ量の違いから求めた標準ばらつきと、前記受信実ばらつきとを比較することにより判断する、
    請求項3記載の画像情報受信装置。
  5. 前記受信部は、さらに、前記画像情報送信装置で生成した前記画像情報の前記Iフレームと前記Pフレーム又は前記Bフレームとのデータ量の違いから求めた送信実ばらつきを受信し、
    前記送信レート変更処理部は、前記送信実ばらつきと、前記受信実ばらつきとを比較することにより判断する、
    請求項3記載の画像情報受信装置。
  6. 前記画像情報は、Motion JPEG(Joint Photographic Experts Group)を用いて画像が符号化されている、
    請求項1記載の画像情報受信装置。
  7. 前記送信レート変更処理部は、前記パケットの受信間隔が前記目標送信レートから求まる受信間隔よりも大きい場合、前記目標送信レートを下げる処理を行う、
    請求項1記載の画像情報受信装置(140)。
  8. 前記受信部は、前記画像情報送信装置から前記画像情報を実際に送信した速度である実送信レートを受信し、
    前記送信レート変更処理部は、前記パケットの受信間隔が前記実送信レートから求まる受信間隔よりも大きい場合、前記目標送信レートを下げる処理を行う、
    請求項1記載の画像情報受信装置(160)。
  9. 前記画像情報送信装置は、移動体に搭載されている、
    請求項1~8のいずれかに記載の画像情報受信装置。
  10. 当該画像情報受信装置は、前記移動体である第1の移動体とは異なる第2の移動体に搭載されている、
    請求項9記載の画像情報受信装置。
  11. 撮像装置で撮像した画像を符号化して画像情報を生成する符号化部(201)と、
    前記画像情報のIフレームとPフレーム又はBフレームとのデータ量の違いから送信実ばらつきを求めるパケット解析部(221)と、
    前記画像情報及び前記送信実ばらつきを画像情報受信装置へ送信する送信部(204)と、を有する、
    画像情報送信装置(220)。
  12. 撮像装置で撮像した画像を符号化して画像情報を生成する符号化部(201)と、
    前記画像情報を実際に送信する速度である実送信レートを検出する実送信レート検出部(261)と、
    前記画像情報を送信する速度の目標値である目標送信レートと、前記実送信レートとの差分を検出する差分検出部(262)と、
    前記画像情報を画像情報受信装置へ送信する送信部(204)と、を有し、
    前記送信部は、前記差分が所定値よりも大きい場合、前記実送信レートを前記画像情報受信装置へ送信する、
    画像情報送信装置(260)。
  13. さらに、生成した前記画像情報を保存するバッファ部を有し
    前記送信部は、前記バッファ部に保存された前記画像情報を前記画像情報受信装置へ送信する、
    請求項12記載の画像情報送信装置。
  14. 当該画像情報送信装置は、移動体に搭載されている、
    請求項11~13のいずれかに記載の画像情報送信装置。
  15. 画像情報送信装置から通信ネットワークを通じて画像情報を受信し(S101)、
    前記画像情報に含まれるパケットの受信間隔のばらつきである受信実ばらつきを求め(S102)、
    前記受信実ばらつきが所定値よりも大きい場合、前記画像情報送信装置の目標送信レートを上げる処理を行う(S103、S104)、
    画像情報受信方法。
  16. 画像情報送信装置から通信ネットワークを通じて画像情報を受信し(S101)、
    前記画像情報に含まれるパケットの受信間隔のばらつきである受信実ばらつきを求め(S102)、
    前記受信実ばらつきが所定値よりも大きい場合、前記画像情報送信装置の目標送信レートを上げる処理を行う(S103、S104)、
    コンピュータで実行される画像情報受信用プログラム。
  17. 撮像装置で撮像した画像を符号化して画像情報を生成し(S201)、
    前記画像情報のIフレームとPフレーム又はBフレームとのデータ量の違いから送信実ばらつきを求め(S221)、
    前記画像情報及び前記送信実ばらつきを画像情報受信装置へ送信する(S222)、
    画像情報送信方法。
  18. 撮像装置で撮像した画像を符号化して画像情報を生成し(S201)、
    前記画像情報のIフレームとPフレーム又はBフレームとのデータ量の違いから送信実ばらつきを求め(S221)、
    前記画像情報及び前記送信実ばらつきを画像情報受信装置へ送信する(S222)、
    コンピュータで実行される画像情報送信用プログラム。
  19. 撮像装置で撮像した画像を符号化して画像情報を生成し(S201)、
    前記画像情報を実際に送信する速度である実送信レートを検出し(S261)
    前記画像情報を送信する速度の目標値である目標送信レートと、前記実送信レートとの差分を検出し(S262)、
    前記画像情報を画像情報受信装置へ送信するとともに、前記差分が所定値よりも大きい場合、前記実送信レートを前記画像情報受信装置へ送信する(S263、S264、S265)、
    画像情報送信方法。
  20. 撮像装置で撮像した画像を符号化して画像情報を生成し(S201)、
    前記画像情報を実際に送信する速度である実送信レートを検出し(S261)、
    前記画像情報を送信する速度の目標値である目標送信レートと、前記実送信レートとの差分を検出し(S262)、
    前記画像情報を画像情報受信装置へ送信するとともに、前記差分が所定値よりも大きい場合、前記実送信レートを前記画像情報受信装置へ送信する(S263、S264、S265)、
    コンピュータで実行される画像情報送信用プログラム。




JP2019224817A 2019-12-12 2019-12-12 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法 Active JP7215406B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019224817A JP7215406B2 (ja) 2019-12-12 2019-12-12 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法
PCT/JP2020/036204 WO2021117315A1 (ja) 2019-12-12 2020-09-25 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法
US17/806,028 US20220303547A1 (en) 2019-12-12 2022-06-08 Image information reception apparatus, image information transmission apparatus, and program and method used therein

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019224817A JP7215406B2 (ja) 2019-12-12 2019-12-12 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法

Publications (2)

Publication Number Publication Date
JP2021093691A JP2021093691A (ja) 2021-06-17
JP7215406B2 true JP7215406B2 (ja) 2023-01-31

Family

ID=76310853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019224817A Active JP7215406B2 (ja) 2019-12-12 2019-12-12 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法

Country Status (3)

Country Link
US (1) US20220303547A1 (ja)
JP (1) JP7215406B2 (ja)
WO (1) WO2021117315A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006261755A (ja) 2005-03-15 2006-09-28 Nippon Telegr & Teleph Corp <Ntt> 測定装置、測定方法および測定プログラム
JP2008258877A (ja) 2007-04-04 2008-10-23 Nec Corp 帯域測定システム、通信装置、帯域測定方法および帯域測定プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006261755A (ja) 2005-03-15 2006-09-28 Nippon Telegr & Teleph Corp <Ntt> 測定装置、測定方法および測定プログラム
JP2008258877A (ja) 2007-04-04 2008-10-23 Nec Corp 帯域測定システム、通信装置、帯域測定方法および帯域測定プログラム

Also Published As

Publication number Publication date
WO2021117315A1 (ja) 2021-06-17
US20220303547A1 (en) 2022-09-22
JP2021093691A (ja) 2021-06-17

Similar Documents

Publication Publication Date Title
JP3528548B2 (ja) 車両用動画像処理方法および車両用動画像処理装置
JP6119045B2 (ja) フレームのシーケンスをビデオ符号化するための方法及びエンコーダ
TWI586177B (zh) 基於場景之適應性位元率控制
US20120195356A1 (en) Resource usage control for real time video encoding
US20150139500A1 (en) Method and System for Optimizing Image Processing in Driver Assistance Systems
US11102475B2 (en) Video encoding device, operating methods thereof, and vehicles equipped with a video encoding device
US20180184089A1 (en) Target bit allocation for video coding
CN105306883A (zh) 图像接收装置、图像传送系统和图像接收方法
JP2007124155A (ja) 車載動画像圧縮装置及びドライブレコーダ
US11263261B2 (en) Method and system for characteristic-based video processing
US11044477B2 (en) Motion adaptive encoding of video
Kacianka et al. Adaptive video streaming for UAV networks
JP7215406B2 (ja) 画像情報受信装置、画像情報送信装置、及びこれらに用いられるプログラム及び方法
WO2022057746A1 (zh) 一种图像处理方法、装置、设备及计算机可读存储介质
JP6084682B2 (ja) 符号化方法および符号化装置
KR102641702B1 (ko) 자율 주행 시스템 및 자율 주행 시스템의 영상 처리 장치 및 방법
Sangeetha et al. Objective Parameter Analysis with H. 265 Using Lagrangian Encoding Algorithm Implementation
Huong et al. A Practical High Efficiency Video Coding Solution for Visual Sensor Network using Raspberry Pi Platform
CN117939134B (zh) 一种无线视频通信方法及系统
US11997283B2 (en) Machine learning based content-aware image frame encoding
JP4717327B2 (ja) 映像入力装置
KR101364238B1 (ko) 채널상태에 적응적으로 동작하는 영상 송수신 시스템 및 그 방법
JP7269134B2 (ja) 映像ストリームに影響した外的要因情報を推定するプログラム、サーバ、システム、端末及び方法
WO2024013936A1 (ja) 映像処理システム、映像処理装置及び映像処理方法
CN117676266A (zh) 视频流的处理方法及装置、存储介质、电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230102

R151 Written notification of patent or utility model registration

Ref document number: 7215406

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151