JP6648898B2 - Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program - Google Patents
Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program Download PDFInfo
- Publication number
- JP6648898B2 JP6648898B2 JP2017210625A JP2017210625A JP6648898B2 JP 6648898 B2 JP6648898 B2 JP 6648898B2 JP 2017210625 A JP2017210625 A JP 2017210625A JP 2017210625 A JP2017210625 A JP 2017210625A JP 6648898 B2 JP6648898 B2 JP 6648898B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- encoded data
- data
- processor
- packet
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、ビデオ符号化技術を用いた分野に関し、特に、映像通信が可能なビデオ符号化データ変換装置、方法及びプログラムに関する。 The present invention relates to a field using a video coding technique, and more particularly, to a video coded data conversion device, method, and program capable of performing video communication.
ビデオコーデック装置は、ビデオコーデック処理で得られたビデオ符号化データを、通信回線を経由して受信端末に送信することで、映像信号を受信端末に伝送する映像通信を実現するための通信機器である。この装置は、特に公共インフラ向け映像監視システムで導入されている。 A video codec device is a communication device for realizing video communication for transmitting a video signal to a receiving terminal by transmitting video encoded data obtained by the video codec processing to the receiving terminal via a communication line. is there. This device is introduced especially in a video surveillance system for public infrastructure.
ビデオコーデック処理とは、映像信号をデジタル信号処理によって圧縮・伸長する処理のことである。映像信号の符号化方式としては、国際標準であるITU−T(International Telecommunication Union Telecommunication Standardization Sector)H.264や、ISO(International Organization for Standardization)/IEC 14496−10といった規格が、広く世界で使用されている。ビデオコーデック装置は、このビデオコーデック処理をコアに構成され、通信回線を使ってビデオ符号化データの転送を実現する。 The video codec process is a process of compressing / expanding a video signal by digital signal processing. As a video signal encoding method, the international standard ITU-T (International Telecommunication Union Telecommunication Standardization Sector) H.264 is used. H.264 and ISO (International Organization for Standardization) / IEC 14496-10 are widely used in the world. The video codec device is configured with the video codec processing as a core, and realizes transfer of encoded video data using a communication line.
特許文献1には、エンコードされた入力データストリームをデコードした後、デコードした画像をより高い圧縮率になるように再エンコードする技術が開示されている。特許文献1では、再エンコードする符号化方式としてH.264が用いられている。
ビデオコーデック装置の通信回線において、ビデオ符号化データをネットワークに送出する際の送信ビットレートを任意の通信帯域で一定に保つCBR(Constant Bit rate)方式が採用されている場合がある。このような場合において、送信ビットレートが設定された任意の通信帯域を超えると、通信回線の途中にある通信機器においてデータが欠落したり、その瞬間のデータ伝送に時間がかかり、伝送遅延が長くなってしまうことがある。 In a communication line of a video codec device, a CBR (Constant Bit rate) method for maintaining a transmission bit rate when transmitting video encoded data to a network constant in an arbitrary communication band may be adopted. In such a case, if the transmission bit rate exceeds any set communication band, data may be lost in the communication device in the middle of the communication line, or data transmission at that moment may take time, resulting in a long transmission delay. Sometimes it becomes.
一般に流通しているビデオコーデック装置をそのまま使用する場合、送信ビットレートを下げてCBR制御範囲内に収まるように調整することが多い。しかし、送信ビットレートを下げたとしても、ビデオ符号化データのデータ量が多く、CBR制御範囲内にどうしても収まらない場合がある。このような場合でも、CBR制御を求める通信回線を利用でき、データの欠落や、伝送遅延のない、正常な通信を行うことが求められている。 In general, when a commonly used video codec device is used as it is, the transmission bit rate is often lowered so as to fall within the CBR control range. However, even if the transmission bit rate is reduced, the amount of video coded data may be so large that it does not fall within the CBR control range. Even in such a case, it is demanded that a communication line requiring CBR control can be used and normal communication without data loss or transmission delay is performed.
本発明の一態様に係るビデオ符号化データ変換装置は、IPネットワークを経由して入力されるIPパケットを受信して、ビデオ符号化データに変換する受信処理器と、前記ビデオ符号化データのデータ量を監視し、当該データ量がCBR(Constant Bit Rate)制御範囲内を逸脱したか否かを判断する判断器と、前記判断器の判断結果に基づいて、CBR制御範囲を逸脱した前記ビデオ符号化データをCBR制御範囲内に収まるように再エンコードした再エンコードデータを生成する映像符号処理器と、前記再エンコードデータをIPパケットに変換して、前記IPネットワークを介して受信端末に送信する送信処理器とを備える。 A video encoded data conversion device according to an aspect of the present invention includes: a reception processor that receives an IP packet input via an IP network and converts the IP packet into video encoded data; A determining unit that monitors the amount of data and determines whether the amount of data deviates from a CBR (Constant Bit Rate) control range, and the video code that deviates from a CBR control range based on a determination result of the determining unit. Encoder for generating re-encoded data by re-encoding the encoded data so as to fall within the CBR control range, and transmitting the re-encoded data to an IP packet and transmitting the IP packet to a receiving terminal via the IP network And a processor.
本発明によれば、ビデオ符号化データのデータ量を監視し、CBR制御範囲内に収まるビデオ符号化データを受信端末に送出することで、正常な映像通信を行うことが可能となる。 According to the present invention, normal video communication can be performed by monitoring the data amount of video encoded data and transmitting video encoded data falling within the CBR control range to the receiving terminal.
以下、図面を参照して本発明の実施の形態について説明する。
本発明は、映像通信が可能なビデオ符号化データ変換装置、方法及びプログラムに関する。本発明に係るビデオ符号化データ変換装置は、一般に流通しているビデオコーデック装置やIPカメラ装置の構成を変更せずに、ビデオ符号化データのデータ量を監視することで、CBR(Constant Bit Rate:固定伝送速度)制御範囲内に収まるビデオ符号化データを受信端末に送出することが可能である。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
The present invention relates to a video coded data conversion device, method and program capable of performing video communication. The video coded data conversion device according to the present invention monitors the amount of video coded data without changing the configuration of a commonly distributed video codec device or IP camera device, thereby achieving a CBR (Constant Bit Rate). : Fixed transmission rate) It is possible to transmit video encoded data falling within the control range to the receiving terminal.
説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。また、様々な処理を行う機能ブロックとして図面に記載される各要素は、ハードウェア的には、CPU、メモリ、その他の回路で構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。なお、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。 The following description and drawings are appropriately omitted and simplified for clarity of explanation. In addition, each element described in the drawings as a functional block that performs various processes can be configured by a CPU, a memory, and other circuits in terms of hardware, and can be configured by a program loaded in the memory in terms of software. It is realized by such as. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by only hardware, only software, or a combination thereof, and the present invention is not limited to any of them. In each of the drawings, the same elements are denoted by the same reference numerals, and repeated description will be omitted as necessary.
また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Accsess Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。 Also, the above-described program can be stored using various types of non-transitory computer-readable media and supplied to a computer. Non-transitory computer-readable media includes various types of tangible storage media. Examples of non-transitory computer readable media are magnetic recording media (eg, flexible disk, magnetic tape, hard disk drive), magneto-optical recording media (eg, magneto-optical disk), CD-ROM (Read Only Memory), CD-R, CD-R / W, semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM (Random Access Memory)). Also, the programs may be provided to the computer by various types of temporary computer-readable media. Examples of transitory computer readable media include electrical signals, optical signals, and electromagnetic waves. Transitory computer readable media can provide the program to a computer via a wired communication line such as an electric wire and an optical fiber, or a wireless communication line.
実施の形態について説明する前に、比較例に係るビデオコーデック装置の問題点について説明する。図7は、比較例1のビデオコーデック装置の構成を示すブロック図である。図7の比較例1では、送信専用のビデオコーデック装置であるエンコーダ装置12と受信専用のビデオコーデック装置であるデコーダ装置14とが分かれた構成が示されている。この構成は、映像監視システムにおいて一般的な構成である。
Before describing the embodiments, problems of the video codec device according to the comparative example will be described. FIG. 7 is a block diagram illustrating a configuration of a video codec device of Comparative Example 1. 7 illustrates a configuration in which an
図7に示す例では、PC等の操作端末16、17が、RS−232Cコネクタ等のシリアル通信コネクタを介してエンコーダ装置12、デコーダ装置14とそれぞれ接続されている。エンコーダ装置12、デコーダ装置14は、操作端末16、17からそれぞれ制御が可能である。
In the example shown in FIG. 7,
カメラ11は、撮像素子から取り込んだ映像を映像信号V10として出力し、エンコーダ装置12に入力する。操作端末16を用いてエンコーダ装置12に送信動作を指示すると、エンコーダ装置12では、映像信号が映像デジタル信号へと変換され、映像符号処理を経てビデオ符号化データが生成される。ビデオ符号化データは、RTP(Real-time Transport Protocol)送信処理を経て、IPパケットとしてIPネットワーク13に送信される。
The
IPネットワーク13を経由して伝送されたIPパケットは、デコーダ装置14に到達する。操作端末17を用いてデコーダ装置14に受信動作を指示すると、デコーダ装置14では、RTP受信処理されたビデオ符号化データが映像復号処理を経て映像信号V11に変換され、ディスプレイモニタ15に出力される。このようにして、カメラ11からの映像信号V10が、エンコーダ装置装置12、デコーダ装置14を経由して、ディスプレイモニタ15に表示される。
The IP packet transmitted via the
近年では、小型化技術の進化に伴い、撮像素子とエンコーダ装置を一体化したIPカメラ装置が開発されている。このIPカメラ装置は、比較的価格が抑えられているため、広く普及している。IPカメラ装置は、撮像素子と、比較例1に示す送信側のビデオコーデック装置(エンコーダ装置12)とを一体化した構成を持つ機器である。IPカメラ装置は、撮像素子とビデオコーデック装置とが一体化した小型な機器であるため、例えば、店舗内の監視等で広く使われている。 In recent years, with the advance of miniaturization technology, an IP camera device in which an image sensor and an encoder device are integrated has been developed. This IP camera device is widely used because its price is relatively low. The IP camera device is a device having a configuration in which the image sensor and the video codec device (encoder device 12) on the transmission side shown in Comparative Example 1 are integrated. Since the IP camera device is a small device in which the image pickup device and the video codec device are integrated, it is widely used, for example, for monitoring inside a store.
図8に、比較例2のビデオコーデック装置の構成が示される。比較例2は、ビデオコーデック装置を一体化したIPカメラ装置である。図8において、エンコーダ処理回路22が図7のエンコーダ装置12に相当する。撮像素子21は、取り込んだ映像を映像信号V20として出力し、エンコーダ処理回路22に入力する。IPカメラ装置は、IPネットワーク23経由でIPパケットの出力動作の指示を受けるため、プロトコル処理部を実装している。図8に示す例では、プロトコル処理部として一般的な、RTSP(Real Time Streaming Protocol)処理回路24が実装されている。
FIG. 8 shows a configuration of a video codec device of Comparative Example 2. Comparative Example 2 is an IP camera device integrated with a video codec device. 8, the
IPパケットを受信・表示する受信端末25がRTSP処理回路24にIPパケットの送信動作をリクエストすると、エンコーダ処理回路22は、映像符号処理を経たビデオ符号化データをIPパケットとしてIPネットワーク23に送信する。このようにして、撮像素子21から取り込んだ映像信号が受信端末25に送信され、表示される。
When the receiving
交差点や踏切、路上、建物内等のある監視エリアを映像で監視しようとする場合、その監視エリアをくまなく撮影できるように複数のカメラが設置される。設置されたカメラからの映像を監視センタでモニタリングするためには、通信回線を経由して映像を送信する構成が採られ、ビデオコーデック装置やIPカメラ装置が多数使用される。 When monitoring a surveillance area such as an intersection, a railroad crossing, on a road, or in a building, a plurality of cameras are installed so that the surveillance area can be photographed throughout. In order to monitor the video from the installed camera at the monitoring center, a configuration for transmitting the video via a communication line is adopted, and a large number of video codec devices and IP camera devices are used.
図9は、このような複数のビデオコーデック装置等を用いた、監視システムの構成例を示している。図9に示す例では、交差点の支柱にIPカメラ装置31、カメラ32が設置されている。カメラ32は、ビデオコーデック装置33に接続されている。IPカメラ装置31、カメラ32で撮影された映像信号は、IPネットワーク34やWAN(Wide Area Network)35といった通信回線を経由して、監視センタ36に送られる。
FIG. 9 shows a configuration example of a monitoring system using such a plurality of video codec devices and the like. In the example shown in FIG. 9, the
大容量の通信回線は、通信コストが高く、設置できる場所が限定されている。このため、監視エリア30と監視センタ36を結ぶ通信回線としては、複数のカメラからの映像を同時に流せる程の大容量の通信回線ではなく、広く普及している通信回線を用いるのが一般的であり、せいぜい1台のカメラからの映像を流せる程の低容量の通信回線が用いられる。そのため、設置するカメラ毎に監視センタ36までの通信回線を用意して運用することになる。
A large-capacity communication line has a high communication cost and a place where it can be installed is limited. For this reason, as a communication line connecting the monitoring area 30 and the
監視センタ36では、操作卓を制御することでカメラ映像をディスプレイに表示する。例えば、選択した任意のカメラ映像を表示させたり、ある一定の時間周期で自動的に順にカメラ映像を表示させたり、画面合成装置を使用して複数のカメラ映像を合成して表示させたりする。
The
ビデオコーデック処理では、ビデオストリームに対して、空間方向の圧縮と時間方向の圧縮を行っている。圧縮されたデータは、Iフレーム(イントラフレーム)、Pフレーム(予測フレーム)、Bフレーム(双方向補間フレーム)を含む。Iフレームは、自己完結型であり、1つの完全なビデオのフレームを表示するために必要とされる全ての情報を含む。 In the video codec processing, spatial compression and temporal compression are performed on a video stream. The compressed data includes an I frame (intra frame), a P frame (prediction frame), and a B frame (bidirectional interpolation frame). An I-frame is self-contained and contains all the information needed to display one complete video frame.
このため、ビデオ符号化データをネットワークに送出する際、Iフレームのときに瞬間的に送信ビットレートが高くなりやすい。監視エリア30と監視センタ36の通信回線において、送信ビットレートを任意の通信帯域で一定に保たなければならないCBR(Constant Bit Rate)方式が採用されている場合、送信ビットレートが任意の通信帯域を超えると、通信回線の途中にあるルータ等の通信機器においてデータが欠落したり、その瞬間のデータ伝送に時間がかかり、伝送遅延が長くなってしまうことがある。受信端末によっては、バッファの容量不足により、その瞬間の映像を再生できずにデコードエラーを引き起こすおそれがある。
For this reason, when transmitting video encoded data to a network, the transmission bit rate tends to increase instantaneously in the case of an I frame. In the case where the CBR (Constant Bit Rate) system in which the transmission bit rate must be kept constant in an arbitrary communication band is adopted in the communication line between the monitoring area 30 and the
図10は、送信ビットレートの変化の一例を示したものである。図10の上段に、時系列のビデオストリームの各フレームが示されている。グラフ1、2には、各フレームに対応する時間におけるビデオ符号化データの送信ビットレートが示される。グラフ1に示す例では、設定ビットレート内に送信ビットレートが収まっている。この場合は、CBR制御の範囲内に送信ビットレートが収まっているため、映像信号の通信に支障はない。
FIG. 10 shows an example of a change in the transmission bit rate. The upper part of FIG. 10 shows each frame of the time-series video stream.
しかし、グラフ2では、ある瞬間の送信ビットレートが設定ビットレートを超えている。この瞬間、CBR制御においては、データの欠落や伝送遅延につながる。このように、映像通信にとって通信環境が厳しい条件下では、送信ビットレートを任意の通信帯域内に保つことができず、正常な通信ができなくなるという問題がある。 However, in the graph 2, the transmission bit rate at a certain moment exceeds the set bit rate. At this moment, in CBR control, data loss or transmission delay occurs. As described above, under conditions where the communication environment is severe for video communication, the transmission bit rate cannot be kept within an arbitrary communication band, and normal communication cannot be performed.
流通しているビデオコーデック装置やIPカメラ装置をそのまま使用する場合、送信ビットレートを下げてCBR制御範囲内に収まるように調整することが多い。しかし、送信ビットレートを下げたとしても、ビデオ符号化データのデータ量が多く、CBR制御範囲内にどうしても収まらない場合がある。このような場合でも、CBR制御を求める通信回線を利用できるようにすることが求められている。 When a commercially available video codec device or IP camera device is used as it is, the transmission bit rate is often lowered and adjusted so as to fall within the CBR control range. However, even if the transmission bit rate is reduced, the amount of video coded data may be so large that it does not fall within the CBR control range. Even in such a case, it is required to be able to use a communication line that requires CBR control.
また、一般に流通しているビデオコーデック装置やIPカメラ装置には、送信ビットレート制御としてCBR制御を採用しているものがあるが、GOP(Group Of Picture)単位でのCBR制御に留まり、フレーム単位でのCBR制御が行われていないものが多い。送信側であるビデオコーデック装置やIPカメラ装置を厳密なCBR制御を求める通信回線でも利用できるようにするためには、フレーム単位のビットレート制御を実装する必要がある。 Some video codec devices and IP camera devices that are generally distributed employ CBR control as transmission bit rate control. However, CBR control is performed in units of GOPs (Group Of Pictures), and is performed in units of frames. In many cases, the CBR control is not performed. In order to allow a video codec device or an IP camera device on the transmission side to be used on a communication line that requires strict CBR control, it is necessary to implement bit rate control in frame units.
ビデオコーデック処理では、フレーム内予測処理とフレーム間予測処理によってデータ量を大幅に削減している。ビデオコーデック処理を行ったデータのデータ量は、入力される映像の動きや絵柄の細かさに応じて変化する。映像の変化が大きいと、予測できる部分が少なくなるため、予測処理に比べて圧縮率の低い離散コサイン変換(DCT:Discrete Cosine Transform)等の処理を経たデータが作成される。すなわち、映像の変化が大きい場合、画質を一定に保とうとするとデータ量が大きくなる。 In the video codec processing, the amount of data is significantly reduced by intra-frame prediction processing and inter-frame prediction processing. The data amount of the data on which the video codec processing has been performed changes according to the movement of the input video and the fineness of the design. If the change in the image is large, the portion that can be predicted is reduced, so that data that has undergone processing such as discrete cosine transform (DCT) with a lower compression ratio than the prediction processing is created. That is, when the change of the image is large, the data amount becomes large if the image quality is to be kept constant.
そこで、本発明者は、ビデオコーデック装置やIPカメラ装置からのデータ量を監視し、CBR制御の範囲を逸脱するような状況になった場合、その瞬間のデータをCBR制御の範囲内に収まるように再エンコードして、逸脱した時間帯のビデオ符号化データをエンコードし直したデータに差し替えることを考案した。以下、本発明の実施の形態について説明する。 Therefore, the present inventor monitors the amount of data from the video codec device or the IP camera device, and if the situation deviates from the range of the CBR control, the data at that moment falls within the range of the CBR control. And re-encoded the video encoded data in the deviating time zone with the re-encoded data. Hereinafter, embodiments of the present invention will be described.
実施の形態1.
実施の形態1に係るビデオ符号化データ変換装置について、図1〜3を参照して説明する。図1は、ビデオ符号化データ変換装置10の構成を示す図である。図2は、IPカメラ装置からのIPパケットを受信する例である、ビデオ符号化データ変換装置10Aの構成を示している。図3を参照して実施の形態1に係るビデオ符号化データ変換装置10Aの動作例を示している。なお、上述の通り、図中の各ブロックは機能別に分類したものであり、ハード構成を限定するものではない。
A video coded data converter according to
図1に示すように、ビデオ符号化データ変換装置10は、RTP受信処理器1、判断器2、映像符号処理器4、RTP送信処理器5を有している。RTP受信処理器1は、IPネットワークを経由して入力されるIPパケットを受信して、ビデオ符号化データに変換する。判断器2は、ビデオ符号化データのデータ量を監視し、当該データ量がCBR制御範囲内を逸脱したか否かを判断する。判断器2の判断結果に基づいて、入力されたビデオ符号化データを再エンコードせずに、そのままRTP送信処理器5で再びIPネットワーク8に送出するか(第1経路R1)、CBR制御範囲を逸脱したビデオ符号化データをCBR制御範囲内に収まるように再エンコードした再エンコードデータを生成するか(第2経路R2)のいずれかが選択される。
As shown in FIG. 1, the video coded
映像符号処理器4は、ビデオ符号化データのデータ量がCBR制御の範囲を逸脱したと判断された場合、CBR制御範囲を逸脱したビデオ符号化データの再エンコード処理を行う。再エンコードデータは、ビデオ符号化データのうち、CBR制御の範囲を逸脱した時間帯のビデオ符号化データをエンコードし直したデータである。RTP送信処理器5は、再エンコードデータをIPパケットに変換して、IPネットワーク8を介して受信端末9に送信する。
When it is determined that the data amount of the video encoded data has deviated from the range of the CBR control, the
以下、IPカメラ装置からのIPパケットを受信する例について、図2を参照して具体的に説明する。図2に示すように、ビデオ符号化データ変換装置10Aは、RTP受信処理器1、判断器2、映像復号処理器3、映像符号処理器4、RTP送信処理器5、RTSP処理器6を備えている。ビデオ符号化データ変換装置10Aは、通常エンコーダ装置が持つ映像符号処理器4と、デコーダ装置が持つ映像復号処理器3とが合わさった構成を有してる。
Hereinafter, an example of receiving an IP packet from the IP camera device will be specifically described with reference to FIG. As shown in FIG. 2, the video coded
IPカメラ装置7は一般に流通している通常の構成を有するものである。IPカメラ装置7はIPネットワーク8を介して、ビデオ符号化データ変換装置10Aに接続されている。IPカメラ装置7は、ビデオ符号化データをRTP(Real-time Transport Protocol)パケットとしてビデオ符号化データ変換装置10Aに送出する。
The
ビデオ符号化データ変換装置10Aは、IPネットワーク8経由でRTPパケットに対する指示を受けるため、RTSP(Real Time Streaming Protocol)処理器6を有している。受信端末9が、RTSP処理器6にRTPパケットの受信動作をリクエストすると、RTP受信処理器1はIPネットワーク8を介して入力されるIPパケットを受信し、ビデオ符号化データに変換して判断器2に送出する。判断器2は、ビデオ符号化データのデータ量を計測し、計測したデータ量がCBR制御範囲内を逸脱したか否かを判断する。
The video encoded
計測したデータ量がCBR制御の範囲内であると判断された場合、第1経路R1が選択される。入力されたビデオ符号化データは再エンコードされずに、そのままRTP送信処理器5で再びIPネットワーク8に送出される。送出されたIPパケットは受信端末9で受信され、映像が表示される。
When it is determined that the measured data amount is within the range of the CBR control, the first route R1 is selected. The input video encoded data is not re-encoded, and is transmitted again to the IP network 8 by the
一方、計測したデータ量がCBR制御の範囲を逸脱したと判断された場合、第2経路R2に切り替わる。第2経路R2が選択されると、入力されたビデオ符号化データは映像復号処理器3で一旦復号される。そして、映像復号処理器3で復号化された映像デジタルデータは、判断器2の判断結果に基づいて、映像符号処理器4においてCBR制御範囲を逸脱したビデオ符号化データがCBR制御範囲内に収まるように再エンコードされる。再エンコードデータは、ビデオ符号化データのうち、CBR制御の範囲を逸脱した時間帯のビデオ符号化データをエンコードし直したデータである。
On the other hand, when it is determined that the measured data amount has deviated from the range of the CBR control, the flow is switched to the second route R2. When the second route R <b> 2 is selected, the input video encoded data is once decoded by the
判断器2は、判断結果に基づき、ビデオ符号化データを再エンコードするための制御パラメータP1を映像符号処理器4に出力する。そして、映像復号処理器3で復号化された映像デジタルデータは、判断器2から入力された制御パラメータP1を利用して、映像符号処理器4において再エンコードされる。再エンコードデータは、RTP送信処理器5でIPパケットに変換され、再びIPネットワーク8に送出される。
The judging unit 2 outputs a control parameter P1 for re-encoding the encoded video data to the
ここで、図3を参照して実施の形態1に係るビデオ符号化データ変換装置10Aの動作例について説明する。図3は、判断器2の処理を説明するフロー図である。図3に示すように、ステップS10において、IPネットワークで行われるCBR制御の上限ビットフレームAと、IPカメラ装置7が出力するビデオ符号化データのフレームレートBから、1フレーム当たりのデータ割り当て量に係数Eをかけ合わせたCが算出される。(C=E*A/B)
Here, an operation example of the video coded
その後、ステップS11において、受信したIPパケットから展開されたビデオ符号化データから、1フレームあたりのデータ量Dが算出される。そして、1フレームあたりのデータ量Dに応じて、第1経路R1と、第2経路R2の切り替えが行われる。具体的には、ステップS12において、受信したデータ量Dがデータ割り当て量Cよりも大きいか否かが判断される。データ量Dがデータ割り当て量C以下であり、CBR制御の範囲内に収まっている場合(ステップS12、NO)、第1経路R1が選択される。この場合、受信したIPパケットから展開されたビデオ符号化データは、そのままRTP送信処理器5で再びIPネットワーク8に送出される。
Thereafter, in step S11, a data amount D per frame is calculated from the video encoded data expanded from the received IP packet. Then, switching between the first route R1 and the second route R2 is performed according to the data amount D per frame. Specifically, in step S12, it is determined whether the received data amount D is larger than the data allocation amount C. When the data amount D is equal to or less than the data allocation amount C and falls within the range of the CBR control (step S12, NO), the first route R1 is selected. In this case, the video encoded data expanded from the received IP packet is transmitted again to the IP network 8 by the
一方、データ量Dがデータ割り当て量Cよりも大きく、データ量DがCBR制御の範囲を逸脱した場合(ステップS12、YES)、第2経路R2が選択される。この場合、ステップS13において、映像符号処理器4に対して制御パラメータP1が出力される。映像復号処理器3で一旦復号化されたデータは、映像符号処理器4において制御パラメータP1によりCBR制御の範囲内に収まるように再エンコードされる。
On the other hand, when the data amount D is larger than the data allocation amount C and the data amount D is out of the range of the CBR control (step S12, YES), the second route R2 is selected. In this case, the control parameter P1 is output to the
このように、判断器2によってCBR制御の範囲を逸脱したか否かを判定し、逸脱した時間帯のビデオ符号化データをエンコードし直したデータに差し替えた再エンコードデータを受信端末9に送信することができる。これにより、送信ビットレートを任意の通信帯域内に保つことができ、データの欠落や、伝送遅延のない、正常な通信を行うことが可能となる。このため、一般に流通しているIPカメラ装置の構成を変更せずに、そのままCBR制御を求める通信回線でも利用できるようにすることが可能となる。
In this way, the determination unit 2 determines whether the range of the CBR control is deviated or not, and transmits the re-encoded data in which the video encoded data in the deviated time zone is replaced with the re-encoded data to the receiving
実施の形態2.
実施の形態2に係るビデオ符号化データ変換装置について、図4を参照して説明する。図4は、実施の形態2に係るビデオ符号化データ変換装置の一例であるビデオコーデック装置100の構成を示すブロック図である。図4において、図1、2と同じ機能を有するブロックには同一の符号を付している。
Embodiment 2 FIG.
A video coded data converter according to Embodiment 2 will be described with reference to FIG. FIG. 4 is a block diagram showing a configuration of a
実施の形態2のビデオコーデック装置100は、エンコーダ装置とデコーダ装置とを合わせた構成を有している。図4に示すように、ビデオコーデック装置100は、RTP受信処理器1、判断器2、映像復号処理器3、映像符号処理器4、RTP送信処理器5、RTSP処理器6、A/D器101、D/A器102、映像信号切替器103を有している。ビデオコーデック装置100は、従来のエンコード装置、デコード装置として動作することができるとともに、IPカメラ装置から入力されるデータ量を監視して、CBR制御の範囲を逸脱した時間帯のビデオ符号化データを、CBR制御の範囲内に収まるようにエンコードしなおす機能を有する。
The
映像信号切替器103には、A/D器101、D/A器102、映像復号処理器3、映像符号処理器4が接続される。判断器2には、RTP受信処理器1、映像復号処理器3、映像符号処理器4、RTP送信処理器5が接続される。RTP受信処理器1は入力IPパケットを受信し、ビデオ符号化データに変換して判断器2に送出する。映像復号処理器3は、デコード装置として動作する場合は、判断器2を経由して入力されたビデオ符号化データを復号して、出力映像デジタル信号に変換する。また、映像復号処理器3は、再エンコードを行う場合は、判断器2を経由して入力されたビデオ符号化データを復号し、映像符号処理器4において再エンコードされる映像デジタル信号へと変換する。
The A /
D/A器102は、映像復号処理器3からの出力映像デジタル信号を出力映像信号に変換する。A/D器101は、入力映像信号を入力映像デジタル信号に変換する。映像信号切替器103は、各機能ブロックからの映像デジタル信号をいずれの機能ブロックに入力するかを切り替える制御を行う。具体的には、映像信号切替器103は、エンコード装置として動作する場合、A/D器101から出力される入力映像デジタル信号を映像符号処理器4に入力する。また、映像信号切替器103は、デコード装置として動作する場合、映像復号処理器3からの出力映像デジタル信号をD/A器102に入力する。映像信号切替器103は、再エンコードを行う場合は、映像復号処理器3からの映像デジタル信号を映像符号処理器4に入力する。
The D /
ビデオコーデック装置100がエンコーダ装置として動作する場合の処理について説明する。アナログ信号である入力映像信号は、A/D器101によって入力映像デジタル信号に変換される。入力映像デジタル信号は、映像信号切替器103を経由して映像符号処理器4に入力される。映像符号処理器4では、映像符号処理が行われビデオ符号化データが生成される。ビデオ符号化データは、判断器2を経由してRTP送信処理器5に入力され、出力IPパケットが出力される。このようにして、ビデオコーデック装置100は、エンコーダ装置として、入力映像信号をIPパケットとして出力することができる。
Processing when the
ビデオコーデック装置100がデコーダ装置として動作する場合の処理について説明する。IPネットワークから受信した入力IPパケットは、RTP受信処理器1と判断器2を経由して映像復号処理器3に入力される。映像復号処理器3では、映像復号処理が行われ、出力映像デジタル信号が生成される。出力映像デジタル信号は、映像信号切替器103を経由してD/A器102に入力される。D/A器102では、出力映像デジタル信号がアナログ信号である出力映像信号に変換され出力される。このようにして、ビデオコーデック装置100は、デコーダ装置として、受信したIPパケットを出力映像信号として出力することができる。
Processing when the
次に、ビデオコーデック装置100が、実施の形態1のように、入力機器であるIPカメラ装置からのビデオ符号化データを再エンコードする場合の処理について説明する。IPカメラ装置からの入力IPパケットは、RTP受信処理器1を経由して判断器2に入力される。判断器2では、ビデオ符号化データのデータ量が計測される。計測されたデータ量がCBR制御の範囲内であると判断された場合、ビデオ符号化データは、そのままRTP送信処理器5に入力され、出力IPパケットとして出力される。
Next, a process in which the
一方、計測されたデータ量がCBR制御の範囲を逸脱したと判断された場合、ビデオ符号化データは映像復号処理器3に入力され復号される。また、このとき、判断器2は、制御パラメータP1を映像符号処理器4に出力する。復号化されたデータは、映像信号切替器103を経由して映像符号処理器4に入力される。映像符号処理器4では、判断器2からの解像度パラメータP2を利用して、エンコード処理が行われる。再エンコードされた再エンコードデータは、判断器2、RTP送信処理器5を経由して出力IPパケットとして出力される。なお、判断器2の動作については、図3に示した例と同様である。図4に示す例では、IPパケットの授受に際し、RTSPパケットを利用して処理を進めるため、RTSP処理器6が動作する。
On the other hand, when it is determined that the measured data amount is out of the range of the CBR control, the video encoded data is input to the
このように、実施の形態2にかかるビデオコーデック装置100は、従来のエンコード装置、デコード装置として動作することができるとともに、IPカメラ装置から入力されるデータ量を監視して、CBR制御の範囲を逸脱した時間帯のビデオ符号化データを、CBR制御の範囲内に収まるようにエンコードしなおすことが可能となる。
As described above, the
実施の形態3.
実施の形態3に係るビデオ符号化データ変換装置について、図5を参照して説明する。図5は、実施の形態3に係るビデオ符号化データ変換装置の一例であるビデオコーデック装置100Aの構成を示すブロック図である。図5において、上述の図と同じ機能を有するブロックには同一の符号を付している。
A video coded data converter according to
ビデオコーデック装置は、利用場面によっては、映像の解像度をより小さくすることでデータ量を抑え込む必要が想定される。そういった場面においても柔軟に対応できるようにするには、ビデオコーデック装置に解像度変換を行うスケーラ処理器を内蔵するのが最良である。実施の形態3に係るビデオコーデック装置100Aは、実施の形態2のビデオコーデック装置100の構成に加えて、スケーラ処理器104をさらに備えている。
It is assumed that the video codec device needs to reduce the data amount by reducing the resolution of the video depending on the usage scene. In order to be able to flexibly cope with such situations, it is best to incorporate a scalar processor for converting the resolution into the video codec device. The
スケーラ処理器104は、映像信号切替器103と映像符号処理器4との間に設けられている。スケーラ処理器104は判断器2の判断結果に基づいて、ビデオ符号化データの解像度の変換を行うことができる。判断器2は、判断結果に基づき、ビデオ符号化データの解像度を変換するための解像度パラメータP2をスケーラ処理器104に送信する。スケーラ処理器104は、判断器2から解像度パラメータP2を受け取り、これを用いて解像度を変換する処理を行う。解像度変換処理を行ったデータは映像符号処理器4に入力され、ビデオ符号化データが作成される。
The
このように、実施の形態3に係るビデオコーデック装置100Aでは、状況に応じて、IPカメラ装置から入力されるデータ量を監視して、制御パラメータP1を用いてCBR制御の範囲内に収まるようにエンコードしなおすことができるとともに、解像度パラメータP2を用いて映像の解像度を変換することによりデータ量を抑制することが可能となる。
As described above, the
実施の形態4.
図6は、実施の形態のビデオ符号化データ変換装置を用いた監視システムを示す図である。図6において、上述の図面と同じ機能を有するブロックには同一の符号を付している。図6に示す例では、交差点の支柱に設置されたIPカメラ装置200、カメラ201の監視映像が監視センタ207に伝送される。なお、IPカメラ装置200及びカメラ201と監視センタ207との間を結んでいるIPネットワーク206は、カメラ1台分の通信帯域しか確保できない状況であるものとする。
FIG. 6 is a diagram illustrating a monitoring system using the video coded data conversion device according to the embodiment. 6, blocks having the same functions as those in the above-described drawings are denoted by the same reference numerals. In the example illustrated in FIG. 6, the monitoring video of the
通常は、IPカメラ装置200からの映像信号が監視センタ207の受信端末208でデコードされ、映像が確認されるものとする。IPカメラ装置200には、実施の形態1のビデオコーデック装置100を内蔵した変換装置203が、IPネットワーク206を介して接続されている。変換装置203には、監視センタ207からの制御情報をやり取りする制御器204が設けられており、監視センタ207から直接制御できるようになっている。変換装置203及びモニタ202は、交差点近傍にある制御ボックス205内に収められている。
Normally, the video signal from the
IPネットワーク206には、ビデオコーデック装置100を内蔵した変換装置203が接続されている。IPカメラ装置200から送出されたIPパケットは、変換装置203を経由してビデオ符号化データのデータ量に応じて、CBR制御範囲内になるように再エンコードされる。受信端末208は、再エンコードされたIPパケットを受信する。このため、IPネットワーク206が厳密にCBR制御を求める場合であっても、送信ビットレートを任意の通信帯域内に保つことができ、データの欠落や、伝送遅延のない、正常な通信を行うことが可能となる。
The
カメラ201は、通常は使用しない、別アングルでの映像を確認するために設置されているものとする。カメラ201での映像を監視センタ207に伝送する場合、変換装置203は、一旦IPカメラ装置200からのIPパケットの変換処理を停止する。そして、カメラ201の映像信号が変換装置203に入力される。ビデオコーデック装置100は、従来のエンコード装置のように動作し、符号化処理されたIPパケットがIPネットワーク206を経由して監視センタ207の受信端末208に送出される。
It is assumed that the
モニタ202は、交差点においてIPカメラ装置200からの映像を確認するために設けられている。変換装置203は、IPカメラ装置200からの映像信号を復号するデコーダ装置として動作する。一旦、IPカメラ装置200からの再エンコード処理や、カメラ201の映像符号処理を停止した上で、IPカメラ装置200からの映像信号を変換装置203で復号し、モニタ202に表示させることができる。なお、IPカメラ装置200の映像信号を受信する受信端末を制御ボックス205に収めることも可能である。
The
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。 It should be noted that the present invention is not limited to the above-described embodiment, and can be appropriately changed without departing from the gist.
1 RTP受信処理器
2 判断器
3 映像復号処理器
4 映像符号処理器
5 RTP送信処理器
6 RTSP処理器
7 IPカメラ装置
8 IPネットワーク
9 受信端末
10 ビデオ符号化データ変換装置
10A ビデオ符号化データ変換装置
R1 第1経路
R2 第2経路
P1 制御パラメータ
P2 解像度パラメータ
100 ビデオコーデック装置
101 A/D器
102 D/A器
103 映像信号切替器
104 スケーラ処理器
200 IPカメラ装置
201 カメラ
202 モニタ
203 変換装置
204 制御器
205 制御ボックス
206 IPネットワーク
207 監視センタ
208 受信端末
11 カメラ
12 エンコーダ装置
13 IPネットワーク
14 デコーダ装置
15 ディスプレイモニタ
16 操作端末
17 操作端末
21 撮像素子
22 エンコーダ処理回路
23 IPネットワーク
24 RTSP処理回路
25 受信端末
30 監視エリア
31 IPカメラ装置
32 カメラ
33 ビデオコーデック装置
34 IPネットワーク
35 WAN
36 監視センタ
V10 映像信号
V11 映像信号
V20 映像信号
DESCRIPTION OF
36 monitoring center V10 video signal V11 video signal V20 video signal
Claims (8)
前記ビデオ符号化データの1フレーム当たりのデータ量を監視し、当該データ量が1フレーム当たりのデータ割り当て量よりも大きいか否かを判断する判断器と、
前記判断器の判断結果に基づいて、前記データ割り当て量よりも大きい前記ビデオ符号化データを前記データ割り当て量以下となるように再エンコードした再エンコードデータを生成する映像符号処理器と、
前記再エンコードデータをIPパケットに変換して、前記IPネットワークを介して受信端末に送信する送信処理器と、
を備える、
ビデオ符号化データ変換装置。 A reception processor that receives an IP packet input via an IP network and converts the packet into video encoded data;
A determiner that monitors a data amount per frame of the video encoded data and determines whether the data amount is larger than a data allocation amount per frame ;
A video encoding processor that generates re-encoded data that is re-encoded so that the video encoded data larger than the data allocation amount is equal to or less than the data allocation amount , based on the determination result of the determiner;
A transmission processor that converts the re-encoded data into an IP packet and transmits the IP packet to a receiving terminal via the IP network;
Comprising,
Video encoded data converter.
前記映像符号処理器は、前記制御パラメータを利用して前記ビデオ符号化データを再エンコードする、
請求項1に記載のビデオ符号化データ変換装置。 The determiner transmits a control parameter for re-encoding the video coded data to the video code processor based on the determination result,
The video encoding processor re-encodes the video encoded data using the control parameter,
The video encoded data converter according to claim 1.
請求項1又は2に記載のビデオ符号化データ変換装置。 The video encoding processor generates the re-encoded data in which the video encoded data is replaced with data obtained by re-encoding the video encoded data in a time zone greater than the data allocation amount .
The video coded data conversion device according to claim 1.
出力映像デジタル信号を出力映像信号に変換するD/A器と、
前記ビデオ符号化データを、復号処理を経て、前記映像符号処理器において再エンコードされる映像デジタル信号、又は、前記出力映像デジタル信号に変換する映像復号処理器と、
前記A/D器から出力される入力映像デジタル信号を前記映像符号処理器に入力するか、前記映像復号処理器からの前記出力映像デジタル信号を前記D/A器に入力するか、前記映像復号処理器からの映像デジタル信号を前記映像符号処理器に入力するか、を切り替える切替器と、
をさらに備える、
請求項1〜3のいずれか1項に記載のビデオ符号化データ変換装置。 An A / D converter for converting an input video signal into an input video digital signal;
A D / A device for converting an output video digital signal into an output video signal;
The video encoded data, through a decoding process, a video digital signal that is re-encoded in the video encoding processor, or a video decoding processor that converts the output video digital signal,
Whether the input video digital signal output from the A / D unit is input to the video encoding processor, the output video digital signal from the video decoding processor is input to the D / A unit, A video digital signal from a processor is input to the video encoding processor, or a switch to switch,
Further comprising,
The video encoded data converter according to claim 1.
請求項1〜4のいずれか1項に記載のビデオ符号化データ変換装置。 Further comprising a scalar processor that converts the resolution of the video encoded data based on the determination result of the determiner,
The video encoded data conversion device according to claim 1.
前記スケーラ処理器は、前記解像度パラメータを利用して前記ビデオ符号化データの解像度を変換する、
請求項5に記載のビデオ符号化データ変換装置。 The determiner transmits a resolution parameter for converting the resolution of the video encoded data to the scaler processor based on the determination result,
The scaler processor converts the resolution of the video encoded data using the resolution parameter,
A video encoded data converter according to claim 5.
前記ビデオ符号化データの1フレーム当たりのデータ量を監視し、当該データ量が1フレーム当たりのデータ割り当て量よりも大きいか否かを判断して判断結果を出力し、
前記判断結果に基づいて、前記データ割り当て量よりも大きい前記ビデオ符号化データを前記データ割り当て量以下となるように再エンコードした再エンコードデータを生成し、
前記再エンコードデータをIPパケットに変換して、前記IPネットワークを介して受信端末に送信する、
ビデオ符号化データ変換方法。 Receiving an IP packet input via an IP network and converting it into video encoded data;
Monitoring the data amount of the video encoded data per frame , determining whether the data amount is larger than the data allocation amount per frame, and outputting a determination result;
Based on the determination result, re-encoded data is generated by re-encoding the video encoded data larger than the data allocation amount to be equal to or less than the data allocation amount ,
Converting the re-encoded data into an IP packet and transmitting it to a receiving terminal via the IP network;
Video encoded data conversion method.
前記ビデオ符号化データの1フレーム当たりのデータ量を監視し、当該データ量が1フレーム当たりのデータ割り当て量よりも大きいか否かを判断して判断結果を出力する処理と、
前記判断結果に基づいて、前記データ割り当て量よりも大きい前記ビデオ符号化データを前記データ割り当て量以下となるように再エンコードした再エンコードデータを生成する処理と、
前記再エンコードデータをIPパケットに変換して、前記IPネットワークを介して受信端末に送信処理と、
をコンピュータに実行させるビデオ符号化データ変換プログラム。 A process of receiving an IP packet input via an IP network and converting it into video encoded data;
Monitoring a data amount of the video coded data per frame , determining whether the data amount is larger than a data allocation amount per frame, and outputting a determination result;
Based on the determination result, a process of generating re-encoded data that is re-encoded so that the video encoded data larger than the data allocation amount is equal to or less than the data allocation amount ,
Converting the re-encoded data into an IP packet and transmitting the IP packet to a receiving terminal via the IP network;
Encoded data conversion program for causing a computer to execute the program.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017210625A JP6648898B2 (en) | 2017-10-31 | 2017-10-31 | Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017210625A JP6648898B2 (en) | 2017-10-31 | 2017-10-31 | Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019083461A JP2019083461A (en) | 2019-05-30 |
JP6648898B2 true JP6648898B2 (en) | 2020-02-14 |
Family
ID=66671181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017210625A Active JP6648898B2 (en) | 2017-10-31 | 2017-10-31 | Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6648898B2 (en) |
-
2017
- 2017-10-31 JP JP2017210625A patent/JP6648898B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019083461A (en) | 2019-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5780582B2 (en) | Distribution system and method, and conversion device | |
JP4806515B2 (en) | Encoding apparatus, video camera apparatus using the same, and encoding method | |
WO2011013349A1 (en) | Video data processing device and video data processing system | |
US20060088092A1 (en) | Method and apparatus of controlling a plurality of video surveillance cameras | |
JPH07322269A (en) | Method and equipment for transducing bit stream with video data | |
EP1449384A2 (en) | Reduced-complexity video decoding using larger pixel-grid motion compensation | |
WO2003067896A1 (en) | Image information coding device and method and image information decoding device and method | |
US20130322516A1 (en) | Systems and methods for generating multiple bitrate streams using a single encoding engine | |
WO2014103131A1 (en) | Image monitoring system | |
WO2009119721A1 (en) | Video transcoder monitoring device, method for monitoring video transcoder, and program for monitoring video transcoder | |
JPH10336672A (en) | Encoding system converter and motion vector detection method therefor | |
JP6648898B2 (en) | Video encoded data conversion device, video encoded data conversion method, and video encoded data conversion program | |
KR20070081949A (en) | Transcoding apparatus and method thereof | |
JP2010268307A (en) | Moving image-processing apparatus, moving image-processing program, and moving image-processing method | |
JP6677230B2 (en) | Video encoding device, video decoding device, video system, video encoding method, and video encoding program | |
JP6735370B2 (en) | Decryption method | |
US11490121B2 (en) | Transform device, decoding device, transforming method, and decoding method | |
JP2007336260A (en) | Video monitoring device | |
JP6434172B2 (en) | Decryption method | |
WO2007125574A1 (en) | Video transferring apparatus | |
JP6222756B2 (en) | Decryption method | |
JP6364462B2 (en) | Decoding device and decoding method | |
JP2002051345A (en) | Image information converter and method | |
JP6649212B2 (en) | Encoding device, decoding device, and image processing system | |
JP6117302B2 (en) | Decryption method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190207 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190919 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191001 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191128 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191217 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200109 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6648898 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |