JP6573673B2 - 高フレームレート−低フレームレート伝送技術 - Google Patents

高フレームレート−低フレームレート伝送技術 Download PDF

Info

Publication number
JP6573673B2
JP6573673B2 JP2017533410A JP2017533410A JP6573673B2 JP 6573673 B2 JP6573673 B2 JP 6573673B2 JP 2017533410 A JP2017533410 A JP 2017533410A JP 2017533410 A JP2017533410 A JP 2017533410A JP 6573673 B2 JP6573673 B2 JP 6573673B2
Authority
JP
Japan
Prior art keywords
hfr
video content
lfr
content segment
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017533410A
Other languages
English (en)
Other versions
JP2018510524A5 (ja
JP2018510524A (ja
Inventor
ボレル,ティエリ
ユーグ ルーチェ,ピエール
ユーグ ルーチェ,ピエール
レッドマン,ウィリアム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from PCT/US2015/029149 external-priority patent/WO2015183480A1/en
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2018510524A publication Critical patent/JP2018510524A/ja
Publication of JP2018510524A5 publication Critical patent/JP2018510524A5/ja
Application granted granted Critical
Publication of JP6573673B2 publication Critical patent/JP6573673B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、画像詳細を保ちながら高解像コンテンツを送信する技術に関係がある。
これまで、テレビ放送局は、標準画質コンテンツを高精細(HD;high definition)へ変換していたが、今や、多くは、HDコンテンツを、4Kに達する解像度及び2160本もの画線を有している超高精細(UHD;Ultra High Definition)コンテンツへ変換している。解像度がより高いUHDコンテンツは、静止シーンに関してより高い水準の詳細を提供するが、シーン自体において又はカメラの動きにより動きが存在すると直ぐに、モーションブラー(motion blur)が現れ、動いている物体の詳細の認知を大幅に低下させる。そのような状況下で、コンテンツは、細部描画の観点からもはやその4K特性を持ち続けない。そのようなモーションブラーを補償するようシャッターが開いている時間の量を減らすことは、誘発されるジャダー(judder)が見るには不快になるので、実行可能な解決法を提供しない。現在、唯一の実行可能な解決法は、適当なシャッター角度(180°以上)を保ちながら、シーンのサンプリング周波数を増大させることを必要とする。しかし、高解像度及び高フレームレート(例えば、4K/120fps)で事象を撮影し送信することは、多くの現行の送信デバイスがそのようなフォーマットをサポートしていないので、不可能でないにしても難しくなる。そのようなフォーマットをサポートすることができるデバイスによってさえ、そのようなフォーマットでコンテンツを送信することは、バンド幅に関して非常にコストが高くなる。このような理由により、放送局及びケーブルテレビ事業者は、同じバンド幅を消費するただ1つの4K/120fpsチャネルを供給することよりむしろ、複数(例えば、4つ)の4K/30fpsチャネルとして固定バンド幅を割り当てることを好む。
よって、動いている物体についてさえ細部描画を保ちながら高品質コンテンツ(4K)を送信する技術のための必要性が存在する。
本原理の目的は、特に動画について、画像詳細を保ちながら高品質ビデオを送信する技術を提供することである。
本原理の他の目的は、低フレームレートビデオコンテンツ及び高フレームレートビデオコンテンツを交互に送信する技術を提供することである。
簡潔に、本原理の態様に従って、ビデオコンテンツを送信する方法及び装置及びシステムは、コンテンツが高解像度を有する静止シーン又は動きを含むシーンのいずれを含むかを指定する。ビデオコンテンツは、指定に従って符号化を受け、それにより、静止シーンを含むビデオコンテンツは低フレームレート(LFR;Low Frame Rate)モードで符号化され、一方、動きを含むビデオコンテンツは高フレームレート(HFR;High Frame Rate)で符号化される。その後に、符号化されたビデオコンテンツは、復号器による取り出し及び復号化を可能にするよう、コンテンツ指定とともに送信される。
本原理に従ってビデオコンテンツを符号化、送信及び復号化する本原理の態様に従って、システムのブロック概略図を表す。 図1のシステムによって高フレームレート(HFR)モードで符号化される動きを含むビデオコンテンツの部分のグラフィカル描写を表す。 図1のシステムによって低フレームレート(LFR)モードで符号化される静止シーンを含むビデオコンテンツの部分のシーケンスのグラフィカル描写を表す。 HFRモード及びLFRモードで夫々符号化されたビデオコンテンツの交互シーケンスのストリームを表し、各ビデオコンテンツシーケンスは符号化モードを示す指定を有している。 符号化モードを示す各シーケンスに関連付けられた指定に従う復号化の後の、図4のHFRモード及びLFRモードで符号化されたビデオコンテンツの交互シーケンスのストリームを表す。
本原理の態様に従って、複合型のコンテンツ伝送技術は、低フレームレート(LFR)モードで高解像度を有するビデオの静止シーンを送信する(すなわち、4K/30fps)。反対に、本原理の技術に従って、ビデオコンテンツ内の、動きを含むシーンは、そのようなシーンがLFR画像ブロックにカプセル化された状態で(すなわち、4K/30fps)、高フレームレート(HFR)モードでの伝送を受ける(すなわち、HD/120fps)。図1は、本原理の複合伝送技術を実施するシステム10を表す。システム10は、テレビカメラ14及び16の対を含む複数のビデオソースから夫々ビデオを受信する符号器12を含む。図1で表されているシステム10の実例は2つのカメラ14及び16を表すが、システム10は、より台数のカメラに容易に適応し得る。
図1の実例では、カメラ14及び16の夫々は、ビデオ信号を生成するだけでなく、通常は、カメラビデオ出力信号が静止シーン又は動きを含むシーンのいずれを有するかを示す“フラグ”の形で、指定も生成する。例えば、スポーツイベントを放送することといった、特定の用途について、例えばカメラ14のようなカメラは、通常は、比較的静止したシーン、例えば、観衆のシーンしか供給しない。他のカメラ、例えば、カメラ16は、通常は、動きを含むビデオコンテンツを供給する。例えば、カメラ16は、試合、例えば、サッカー、野球、フットボール又は同様のもの、に関わるプレイヤーのビデオ出力信号を供給する。
図1で表されるように、カメラ14及び16の夫々によって供給される指定は、通常は、ビデオ出力信号から分離した信号(例えば、フラグ)の形をとる。しかし、カメラのビデオ信号は、静止画又は動きを含む画像のいずれか一方であるとしてそのビデオを指定する情報を含み得る。ビデオ信号自体の中にそのような情報を含めることは、このようにして別個の指定信号の必要性を取り除くことになる。
符号器12は、カメラ14及び16の夫々からのビデオ出力信号を、そのカメラのビデオ出力を静止シーン又は動きを含むシーンを有するものとして示す付随する指定信号とともに受信する。符号器12は、カメラ14及び16の夫々のビデオ出力信号を、ビデオ信号が静止画又は動きを含むシーンを有することに関してそのカメラのビデオ出力信号に付随する指定に従って、符号化する。よって、例えば、カメラ14のビデオ出力信号を受信すると、符号器12は、ビデオが静止シーンを有していることをそのビデオ信号に付随する指定が示す場合に、低フレームレート(LFR)モード(例えば、4K/30fps)でそのビデオ信号を符号化する。反対に、カメラ16からビデオ出力信号を受信すると、符号器12は、シーンが動きを有していることをそのカメラのビデオ信号に付随する指定が示す場合に、高フレームレート(HFR)モード(例えば、4K/120fps)でそのビデオ信号を符号化する。符号器12は、参照により本願に援用される、2014年5月30日付けで出願された米国特許仮出願第62/005397号で記載されているように、ビデオ信号のシーンをLFR画像ブロックにカプセル化することによって、カメラ16からのビデオ信号を符号化する。
カメラ14及び16からのビデオ出力信号に加えて、又はそれらの代わりに、符号器12はまた、記憶デバイス又はテレビスタジオ放送設備の一部を有し得るオフラインのコンテンツソース18によって例示されるように、1つ以上のオフラインのコンテンツソースからビデオ信号を受信し符号化することができる。ビデオ出力信号を符号器12へ供給することに加えて、夫々のオフラインのコンテンツソース18はまた、オフラインのコンテンツソースからの出力ビデオ信号が静止シーン又は動きを含むシーンのいずれを有するかを示す指定を供給する。カメラ14及び16の夫々と同じく、オフラインのコンテンツソース18の出力ビデオ信号自体が、出力信号が静止シーン又は動きを含むシーンのいずれを有するかを指定する情報を含んでよく、それによって、別個の指定の必要性を取り除く。
上述されたように、カメラ14及び16は、通常は、静止シーン及び動きを含むシーンを夫々指定されるので、それらの各自の指定信号は固定され得る。対照的に、オフラインのコンテンツソース18は、どちらの種類のビデオ出力信号も供給することができる。実際に、オフラインのコンテンツソース18によって出力されるビデオの性質に応じて、オペレータは、オフラインのソースのビデオ出力信号のオペレータの評価に基づき設定された指定を手動により調整し得る。代替的に、オフラインのコンテンツソース18は、例えば、動き解析アルゴリズムによるビデオコンテンツのその解析に基づき、その指定を自動的に生成し得る。
符号器12は、符号化された出力信号と、上述されたように符号器のビデオ出力信号の性質を示す付随する指定とを生成するよう、カメラ14及び16並びに/又はオフラインのコンテンツソース18から受信されたビデオ信号を符号化する。ネットワーク20は、符号器12のビデオ出力信号を、その信号の指定とともに、表示デバイス24での提示のための復号されたビデオ出力信号を生じるよう復号するために復号器22へ送る。実際に、復号器22は、表示デバイス24での表示のためにコンテンツを選択するセットトップボックス又は同様のものの部分を有することができる。いくつかの場合に、復号器22は、表示デバイス24の部分を有してよい。
カメラ14及び16並びにオフラインのコンテンツソース18に関連して先に説明されたように、符号器12は、そのビデオ出力信号において、符号器が低フレームレート(LFR)モード又は高フレームレート(HFR)モードのいずれでその信号を符号化したかを示す情報を含めることができる。信号がLFRモード又はHFRモードのいずれで符号化されているかを示す情報を符号器のビデオ出力信号内に含めることは、このようにして、別個の指定を生成する必要性を取り除く。
復号器22は、入来信号がLFR又はHFRのいずれで符号化されているかを示す付随する指定に従って、符号器から受信されたビデオ信号を復号する。先に説明されたように、図1の復号器22によって受信される入来ビデオ信号は、それ自体が符号化のタイプ(LFR又はHFR)に関する情報を含んでよく、このようにして、符号化モードを示す別個の指定の必要性を取り除く。符号化指定、又はその指定がない場合には、入来ビデオ信号自体からの符号化情報を用いて、復号器22は、入来信号がLFR又はHFRのいずれで符号化されているかに基づき正確に入来ビデオ信号を復号することができる。LFRにより符号化されたビデオ信号の場合に、夫々の高解像フレームは、それ自体のLDR画像ブロックに含まれ、夫々が低フレームレートで表示デバイス24へ供給される。HFRにより符号化されたビデオ信号の場合には、参照により本願に援用される、2014年5月30日付けで出願された米国特許仮出願第62/005397号で記載されているように、複数のフレームは各LFR画像ブロックにカプセル化される。復号器22は、高フレームレートでの表示デバイス24への供給のために高フレームレートで複数のフレームの夫々1つを連続して抽出する。実際に、ディスプレイ24は、表示デバイスが別々のLFRモードビデオ信号及びHFRモードビデオ信号を受信することを可能にするよう、復号器22とのデジタルインターフェイス、例えば、高精細マルチメディアインターフェイス(HDMI(登録商標);High Definition Multimedia Interface)を有している。ディスプレイ24は、夫々のモードでビデオ信号を適切に表示するよう、LFRモードとHFRモードとの間をリアルタイムで切り替える能力を有している。いくつかの実施形態において、全てのビデオ信号は、高解像LFRフレーム、及び複数のHFR符号化されたフレームを含むLFR画像ブロックのいずれでも、例えばHDMIのようなインターフェイスにより、復号器22及びディスプレイ24の両方を有するモニタへ転送される。
符号器12からの全ての出力は、元々が高解像度であるLFR画像、又は高解像度のLFRブロックに符号化されたHFR画像としてそもそも供給されようとも、高解像度のLFRストリームとして現れる点に留意されたい。利点は、特に、HFR/LFRモード指定がストリームに埋め込まれる場合に、中間コンポーネント、例えば、通信リンク及びビデオ又はストリーム切り替え要素(図示せず。)を有し得るネットワーク22が、符号器12からのストリームの性質に気付いている必要なしに動作することができる点である。復号器22によって受信されるまでは、一般的な高解像度LFRストリーム以外の何かとしてストリームを処理するのに必要とされる如何なる要素も必要とされない。
図2は、本原理の態様に従って、例となるフレームレート圧縮プロセス200を表す。図2で表されるように、図1の高フレームレートカメラ16と同様の、高フレームレート(HFR)カメラ205は、被写体207の範囲を定める視野206を有する。動作中、カメラ205は、被写体のHFR画像のストリームを有するビデオ出力信号201を出力する。カメラ205によって生成されるHFR画像ストリームの部分210は図2において現れ、個別のシーケンシャルフレーム211〜226から成る。
図2で表されている例では、被写体207は、馬に乗っている人を有する。被写体207の画像211〜226は、明らかに識別できる差を個々の画像が示すように、誇張された時間スケールを有して図2で現れる。描かれている画像は、エドワード・マイブリッジによる1887年の作品“Jumping a hurdle, black horse”に由来し、それらが多くの人に知られており、且つ、本原理の理解にとって有用である認識し得るシーケンスを提示することから選択された。
HFR画像ストリームの部分210の画像211〜226は、ステップ202の間に捕捉される。その時点で、画像は、図2ではカメラから離れて表されているが通常はカメラ205の中にある捕捉バッファ230において蓄積する。処理の容易さのために、画像211〜226は、サブシーケンス231〜234にグループ分けされる。画像のサブシーケンスは、図2で表されている符号化プロセス203の間に、図1の符号器12による符号化を受ける。本原理の態様に従って、符号化プロセス203は、参照により本願に援用される、2014年5月30日付けで出願された米国特許仮出願第62/005397号で記載されているように、高フレームレート(HFR)画像をより低いフレームレート(LFR)の画像にパックする。例えば、サブシーケンス231〜234の夫々からの第1画像は、単一のLFR画像ブロック241にまとめられる。同様に、各サブシーケンスからの第2画像はLFR画像ブロック242にまとめられ、各サブシーケンスからの第3画像及び第4画像はLFR画像ブロック243及び244に夫々パックされる。LFR画像ブロックを生成することに加えて、図2のカメラ205はまた、先に説明されたように、指定を生成する。指定は、カメラ出力信号がHFRモードで符号化されていることを示す。
画像圧縮を使用する実施形態では、LFR画像ブロック241〜244は、例えば、よく知られているJPEG又はJPEG−2000圧縮方式を用いて、個別的に圧縮(例えば、“符号化”)され得る。動きに基づいた圧縮方式が選択される場合には(例えば、MPEG−2又はH.264/MPEG−4)、LFR画像ブロック241〜244は、符号化された“グループ・オブ・ピクチャ”(GOP;group of pictures)240を形成することになる。そのようなフレーム符号化は、モーション符号化ビデオ、すなわち、Iフレーム、Pフレーム、及びBフレームにおいて広く使用されている。Iフレームは“イントラ符号化”(intra-encoded)され、すなわち、フレームは、他のフレームへの如何なる参照もなしで符号化され、従って、スタンドアローンであることができる。Pフレーム、すなわち“予測フレーム”(predicted frames)は、前の1つ以上の参照フレームに対して符号化され、効率的な表現(一般的に、Iフレームと比較してより小さい表現)のためにそれらの間の冗長性を利用する。Bフレーム、すなわち“双方向予測”(bi-directional predicted)フレームは、前後両方の参照フレームの間の類似性を利用することによって符号化される。P及びBフレームのための符号化プロセスのかなりの部分は、圧縮されるフレームにも存在する参照フレーム内の領域を識別し、そのような共通の領域の動きを推定し、それらを動きベクトルとして符号化することである。いくつかの実施形態において、符号器は、参照としてIフレームだけでなく、他のP又はBフレームも使用することを可能にされる。適切な場合に、現在のフレームの領域についての動きベクトル表現は、領域のピクセルについてのより明示的な表現よりも通常はコンパクトである。
図2に示されるLFR画像ブロック214〜244へのHFR画像211〜226のタイリングは、サブシーケンス231〜234の時間順序及び連続性を維持する点に留意されたい。このことは、例えばサブシーケンス232における、連続したHFRフレーム間の差が、LFRフレーム241〜244への合成の後に保持されるという利点を提供する。然るに、HFRはLFRよりも高いので、連続したHFRフレーム間の期待される動きベクトルは、一般的に、より低いフレームレートで従来捕捉されていたシーケンス(図示せず。)のそれらよりも小さい。同様に、連続的に捕捉されたフレーム間の対応する類似領域は、一般的に、捕捉フレームレートがより遅い場合よりも類似性を示す。これは、HFRでは被写体の連続した画像間で過ぎる時間がより少ないからである。然るに、符号化されたGOP240の合成画像における動きを利用する圧縮スキームは特に有効であると期待される。これは、それらの合成画像の各象限内で、連続したLFR画像ブロック241〜244の間の明らかな時間増分が、たとえGOP240の画像ブロック241〜244がLFRで供給されようとも、HFRに対応するからである。なお、現在の符号化されたGOP240の最後のLFRフレーム244と次のGOP(図示せず。)の最初のLFRフレーム(図示せず。)との間の各象限には時間的な不連続が存在する。図2の例におけるこの時間的な不連続の大きさは、LFRインターバルの3倍又はHFRインターバルの22倍である。この時間的な不連続のために、1つのGOPの終わりと次のGOPの最初との間の類似性を利用しようと試みる圧縮スキーム(すなわち、Bフレームを使用する。)は、特に上手く働かず、然るに、本実施形態における従来のモーション符号化技術は、望ましくは、Iフレーム及びPフレームに制限される。
図3は、本原理の他の態様に従って、例となる符号化プロセス300を表す。図3で表されるように、図1のLFRカメラ14と同様の、低フレームレート(LFR)カメラ305は、一般的に静止画(実例として、群衆307として表される。)を捕捉する。動作中に、カメラ305は、群衆307のLFR画像のストリームを有するビデオ出力信号301を出力する。カメラ305によって生成されるLFR画像ストリームの部分310は、LFRフレーム310〜316のシーケンスから成る。本原理の教示に従って、符号化プロセス300は、低フレームレートにおいて全部のフレームの形で高解像度のLFR画像を生成し、一方、複数のより低い解像度のHFR画像は、2014年5月30日付けで出願された米国特許仮出願第62/005397号で記載されているように、夫々のLFR画像ブロック241〜244にカプセル化される。LFR画像を生成することに加えて、図3のカメラ305は、先に説明されたように、指定を生成する。指定は、カメラ出力信号がLFRモードで符号化されていることを示す。
LFR及びHFRの両方のモードで符号化されたビデオ信号を受信する、例えば図1の符号器12のような、符号器は、実例としてLFRシーケンス402及び402によって表されているLFR画像の別個のシーケンスと、実例としてLFR画像ブロック404及び404によって表されている、HFR画像シーケンスをカプセル化するLFR画像ブロックとから成る、図4で表されているマルチフレーム出力ストリームを出力する。集合的に、LFR画像及びLFR画像ブロックはビデオコンテンツセグメントを有する。LFRフレームシーケンス及びLFR画像ブロック(すなわち、ビデオコンテンツセグメント)は夫々が、符号化モード(すなわち、LFR及びHFRの夫々)を示す、フラグ406及び408によって夫々表されている、関連する指定を有している。図4は、LFR画像ブロック及びLFR画像シーケンスを交互に示すが、符号器は、任意の数のLFR画像ブロックが後に続くようLFR画像シーケンスの任意長さの連続を出力してよく、あるいは、その逆も同様である。図4は、フラグ406及び408によって夫々表される分離した指定を有するものとしてLFR画像シーケンス及びLFR画像ブロックを表すが、LFR画像シーケンス及びLFR画像ブロックは、各自の符号化モードを示す情報を含んでよく、このようにして、画像シーケンス及び画像ブロックから離れた別個の指定を取り除く。
図5は、図4に関連して先に説明されたLFR画像シーケンス402及び402並びにLFR画像ブロック404及び404の復号化を表す。例えば図1の復号器22のような、復号器は、夫々の入来するLFR画像シーケンス及びLFR画像ブロックを、その付随する指定に従って(あるいは、そのような指定がない場合には、符号化情報が組み込まれているかどうかについて夫々の画像シーケンス又は画像ブロックを調べることによって)復号する。復号化に続いて、LFR画像シーケンス402及び402の夫々は、図5においてスクリーン502(示される4つのうちただ1つの高解像フレーム)及び502(示される4つのうちただ1つの高解像フレーム)で表示される。LFR画像ブロック404及び404の夫々は、表示スクリーン504(示される16個のうちただ1つの低解像フレーム)及び504(示される16個のうちただ1つの低解像フレーム)で夫々表されるように高フレームレートでHFR画像を表示するように、各LFR画像ブロック内にカプセル化された個々の低解像HFR画像を続けざまに取り外すよう復号化を受ける。
上記は、特にどうかについて画像詳細を保ちながら高品質ビデオを維持するよう高フレームレートビデオコンテンツ及び低フレームレートビデオコンテンツを交互に送信する技術について記載する。
上記の実施形態に加えて、以下の付記を開示する。
(付記1)
ビデオコンテンツセグメントを送信する方法であって、
静止シーン及び動きを含むシーンを有しているビデオコンテンツセグメントに低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定を夫々供与することと、
各ビデオコンテンツセグメントをその符号化モード指定に従って符号化することと、
復号器による取り出し及び復号化を可能にするよう前記符号化されたビデオコンテンツセグメントをその符号化モード指定とともに送信することと
を有する方法。
(付記2)
HFR符号化モード指定を有するビデオコンテンツセグメントは、複数のHFR画像をLFR画像ブロックにカプセル化することによって符号化される、
付記1に記載の方法。
(付記3)
LFR符号化モード指定を有するビデオコンテンツセグメントは、少なくとも1つのLFR画像のシーケンスを生じるよう符号化される、
付記1に記載の方法。
(付記4)
前記符号化モード指定は、前記ビデオコンテンツセグメントから分離した符号化モード指定を生成することを含む、
付記1に記載の方法。
(付記5)
前記符号化モード指定は、前記ビデオコンテンツセグメント内に符号化モード指定を含めることを有する、
付記1に記載の方法。
(付記6)
受信されたビデオコンテンツセグメントを処理する方法であって、
夫々の受信されたビデオコンテンツセグメントについて、当該受信されたビデオコンテンツセグメントが静止シーン又は動きを含むシーンのいずれを含むかどうかを夫々示す当該受信されたビデオコンテンツセグメントについての低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定のうちの1つを決定することと、
各ビデオコンテンツセグメントをその符号化モード指定に従って復号することと、
夫々の復号されたビデオコンテンツセグメントを表示デバイスへ供給することと
を有する方法。
(付記7)
HFR符号化モード指定を有するビデオコンテンツセグメントは、LFR画像ブロックにおけるカプセル化から複数のHFR画像を取り外すことによって復号される、
付記6に記載の方法。
(付記8)
LFR符号化モード指定を有するビデオコンテンツセグメントは、少なくとも1つのLFR画像のシーケンスを生じるよう復号される、
付記6に記載の方法。
(付記9)
前記符号化モード指定は、前記ビデオコンテンツセグメントから分離した符号化モード指定を受信することを含む、
付記6に記載の方法。
(付記10)
前記符号化モード指定は、組み込まれている符号化モード指定があるかについて前記ビデオコンテンツセグメントを検査することを含む、
付記6に記載の方法。
(付記11)
(1)静止シーン及び動きを含むシーンを有している受信されたビデオコンテンツセグメントについての低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定を夫々受信し、
(2)各ビデオコンテンツセグメントをその符号化モード指定に従って符号化する
よう構成される符号器を有する装置。
(付記12)
前記符号器は、複数のHFR画像をLFR画像ブロックにカプセル化することによって、HFR符号化モード指定を有するビデオコンテンツセグメントを符号化する、
付記11に記載の装置。
(付記13)
前記符号器は、少なくとも1つのLFR画像のシーケンスを生じるよう、LFR符号化モード指定を有するビデオコンテンツセグメントを符号化する
付記11に記載の装置。
(付記14)
前記符号器は、前記ビデオコンテンツセグメントから分離した前記符号化モード指定を受信する、
付記11に記載の装置。
(付記15)
前記符号器は、前記受信されたビデオコンテンツセグメントの部分として前記符号化モード指定を受信する、
付記11に記載の装置。
(付記16)
(a)夫々の受信された符号化されたビデオコンテンツセグメントについて、当該受信された符号化されたビデオコンテンツセグメントが静止シーン又は動きを含むシーンのいずれを含むかどうかに応じて低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定のうちの1つを夫々定め、
(b)夫々の受信された符号化されたビデオコンテンツセグメントをその符号化モード指定に従って復号する
よう構成される復号器を有する装置。
(付記17)
前記復号器は、LFR画像ブロックにおけるカプセル化から複数のHFR画像を取り外すことによって、HFR符号化モード指定を有するビデオコンテンツセグメントを復号する、
付記16に記載の装置。
(付記18)
前記復号器は、少なくとも1つのLFR画像のシーケンスを生じるよう、LFR符号化モード指定を有するビデオコンテンツセグメントを復号する、
付記16に記載の装置。
(付記19)
前記復号器は、前記ビデオコンテンツセグメントから分離した符号化モード指定を受信する、
付記16に記載の装置。
(付記20)
前記復号器は、受信されたビデオコンテンツセグメント内で、組み込まれた符号化モード指定を検出することができる、
付記16に記載の装置。
(付記21)
付記1乃至10のうちいずれか一つに記載の方法のステップを実施するようプロセッサによって実行可能なプログラムコード命令を有するコンピュータプログラム。
(付記22)
非一時的なコンピュータ可読媒体に記憶されており、付記1乃至10のうちいずれか一つに記載の方法のステップを実施するようプロセッサによって実行可能なプログラムコード命令を有するコンピュータプログラム製品。

Claims (16)

  1. ビデオコンテンツセグメントを送信する方法であって、
    静止シーン及び動きを含むシーンを有しているビデオコンテンツセグメントに低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定を夫々供与することと、
    各ビデオコンテンツセグメントをその符号化モード指定に従って符号化し、HFR符号化モード指定を伴うビデオコンテンツセグメントは、HFR画像のシーケンスを有し、該HFR画像のシーケンスは、HFR画像の複数のサブシーケンスにグループ分けされ、各サブシーケンスは、前記HFR画像のシーケンスの中の連続的な順序付けられたHFR画像の組を有し、前記HFR符号化モード指定を伴うビデオコンテンツセグメントは、各サブシーケンスにおいて同じ順序を有しているHFR画像が同じLFR画像ブロックにパックされ、且つ、同じサブシーケンスのHFR画像がLFR画像の同じ象限にマッピングされるように、複数のHFR画像をLFR画像ブロックにカプセル化することによって符号化されることと、
    復号器による取り出し及び復号化を可能にするよう前記符号化されたビデオコンテンツセグメントをその符号化モード指定とともに送信することと
    を有する方法。
  2. LFR符号化モード指定を有するビデオコンテンツセグメントは、少なくとも1つのLFR画像のシーケンスを生じるよう符号化される、
    請求項1に記載の方法。
  3. 前記符号化モード指定は、前記ビデオコンテンツセグメントから分離した符号化モード指定を生成することを含む、
    請求項1に記載の方法。
  4. 前記符号化モード指定は、前記ビデオコンテンツセグメント内に符号化モード指定を含めることを有する、
    請求項1に記載の方法。
  5. 受信されたビデオコンテンツセグメントを処理する方法であって、
    夫々の受信されたビデオコンテンツセグメントについて、当該受信されたビデオコンテンツセグメントが静止シーン又は動きを含むシーンのいずれを含むかどうかを夫々示す当該受信されたビデオコンテンツセグメントについての低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定のうちの1つを決定することと、
    各ビデオコンテンツセグメントをその符号化モード指定に従って復号し、HFR符号化モード指定を伴うビデオコンテンツセグメントは、HFR画像のシーケンスを有し、該HFR画像のシーケンスは、HFR画像の複数のサブシーケンスにグループ分けされ、各サブシーケンスは、前記HFR画像のシーケンスの中の連続的な順序付けられたHFR画像の組を有し、前記HFR符号化モード指定を伴うビデオコンテンツセグメントは、各サブシーケンスにおいて同じ順序を有しているHFR画像が同じLFR画像ブロックにパックされ、且つ、同じサブシーケンスのHFR画像がLFR画像の同じ象限にマッピングされるように、複数のHFR画像をLFR画像ブロックから得ることによって復号されることと、
    夫々の復号されたビデオコンテンツセグメントを表示デバイスへ供給することと
    を有する方法。
  6. LFR符号化モード指定を有するビデオコンテンツセグメントは、少なくとも1つのLFR画像のシーケンスを生じるよう復号される、
    請求項5に記載の方法。
  7. 前記符号化モード指定は、前記ビデオコンテンツセグメントから分離した符号化モード指定を受信することを含む、
    請求項5に記載の方法。
  8. (1)静止シーン及び動きを含むシーンを有している受信されたビデオコンテンツセグメントについての低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定を夫々受信し、
    (2)各ビデオコンテンツセグメントをその符号化モード指定に従って符号化する
    よう構成され、
    HFR符号化モード指定を伴うビデオコンテンツセグメントは、HFR画像のシーケンスを有し、該HFR画像のシーケンスは、HFR画像の複数のサブシーケンスにグループ分けされ、各サブシーケンスは、前記HFR画像のシーケンスの中の連続的な順序付けられたHFR画像の組を有し、前記HFR符号化モード指定を伴うビデオコンテンツセグメントは、各サブシーケンスにおいて同じ順序を有しているHFR画像が同じLFR画像ブロックにパックされ、且つ、同じサブシーケンスのHFR画像がLFR画像の同じ象限にマッピングされるように、複数のHFR画像をLFR画像ブロックにカプセル化することによって符号化される、符号器を有する装置。
  9. 前記符号器は、少なくとも1つのLFR画像のシーケンスを生じるよう、LFR符号化モード指定を有するビデオコンテンツセグメントを符号化する
    請求項8に記載の装置。
  10. 前記符号器は、前記ビデオコンテンツセグメントとは別個に又は前記受信されたビデオコンテンツセグメントの部分として前記符号化モード指定を受信する、
    請求項8に記載の装置。
  11. (a)夫々の受信された符号化されたビデオコンテンツセグメントについて、当該受信された符号化されたビデオコンテンツセグメントが静止シーン又は動きを含むシーンのいずれを含むかどうかに応じて低フレームレート(LFR)符号化モード指定及び高フレームレート(HFR)符号化モード指定のうちの1つを夫々定め、
    (b)夫々の受信された符号化されたビデオコンテンツセグメントをその符号化モード指定に従って復号する
    よう構成され、
    HFR符号化モード指定を伴うビデオコンテンツセグメントは、HFR画像のシーケンスを有し、該HFR画像のシーケンスは、HFR画像の複数のサブシーケンスにグループ分けされ、各サブシーケンスは、前記HFR画像のシーケンスの中の連続的な順序付けられたHFR画像の組を有し、前記HFR符号化モード指定を伴うビデオコンテンツセグメントは、各サブシーケンスにおいて同じ順序を有しているHFR画像が同じLFR画像ブロックにパックされ、且つ、同じサブシーケンスのHFR画像がLFR画像の同じ象限にマッピングされるように、複数のHFR画像をLFR画像ブロックから得ることによって復号される、復号器を有する装置。
  12. 前記復号器は、少なくとも1つのLFR画像のシーケンスを生じるよう、LFR符号化モード指定を有するビデオコンテンツセグメントを復号する、
    請求項11に記載の装置。
  13. 前記復号器は、前記ビデオコンテンツセグメントから分離した符号化モード指定を受信する、
    請求項11に記載の装置。
  14. 前記復号器は、受信されたビデオコンテンツセグメント内で、組み込まれた符号化モード指定を検出することができる、
    請求項11に記載の装置。
  15. 非一時的なコンピュータ可読媒体に記憶されており、請求項1乃至のうちいずれか一項に記載の方法のステップを実施するようプロセッサによって実行可能なプログラムコード命令を有するコンピュータプログラム
  16. 非一時的なコンピュータ可読媒体に記憶されており、請求項5乃至7のうちいずれか一項に記載の方法のステップを実施するようプロセッサによって実行可能なプログラムコード命令を有するコンピュータプログラム。
JP2017533410A 2014-12-31 2015-12-22 高フレームレート−低フレームレート伝送技術 Expired - Fee Related JP6573673B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP14307218.9 2014-12-31
EP14307218.9A EP3041233A1 (en) 2014-12-31 2014-12-31 High frame rate-low frame rate transmission technique
USPCT/US2015/029149 2015-05-05
PCT/US2015/029149 WO2015183480A1 (en) 2014-05-30 2015-05-05 High frame rate tiling compression technique
PCT/EP2015/080993 WO2016107792A1 (en) 2014-12-31 2015-12-22 High frame rate-low frame rate transmission technique

Publications (3)

Publication Number Publication Date
JP2018510524A JP2018510524A (ja) 2018-04-12
JP2018510524A5 JP2018510524A5 (ja) 2018-11-22
JP6573673B2 true JP6573673B2 (ja) 2019-09-11

Family

ID=52444077

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017533410A Expired - Fee Related JP6573673B2 (ja) 2014-12-31 2015-12-22 高フレームレート−低フレームレート伝送技術

Country Status (6)

Country Link
US (1) US20180007355A1 (ja)
EP (2) EP3041233A1 (ja)
JP (1) JP6573673B2 (ja)
KR (1) KR20170101227A (ja)
CN (1) CN107113447A (ja)
WO (2) WO2016109201A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107710757B (zh) * 2015-06-04 2021-08-10 英特尔公司 用于缓慢运动视频记录的自适应批量编码
WO2017143522A1 (en) 2016-02-23 2017-08-31 Intel Corporation Graphics processor workload acceleration using a command template for batch usage scenarios
US11153585B2 (en) 2017-02-23 2021-10-19 Netflix, Inc. Optimizing encoding operations when generating encoded versions of a media title
US10742708B2 (en) 2017-02-23 2020-08-11 Netflix, Inc. Iterative techniques for generating multiple encoded versions of a media title
US10917644B2 (en) 2017-02-23 2021-02-09 Netflix, Inc. Iterative techniques for encoding video content
US11166034B2 (en) 2017-02-23 2021-11-02 Netflix, Inc. Comparing video encoders/decoders using shot-based encoding and a perceptual visual quality metric
US10666992B2 (en) 2017-07-18 2020-05-26 Netflix, Inc. Encoding techniques for optimizing distortion and bitrate
CN108377400A (zh) * 2018-03-07 2018-08-07 广州图普网络科技有限公司 一种图像传输优化方法、系统及其装置
FR3084552B1 (fr) 2018-07-30 2020-12-11 Bcom Procede de formation d'une sequence d'images de sortie a partir d'une sequence d'images d'entree, procede de reconstruction d'une sequence d'images d'entree a partir d'une sequence d'images de sortie, dispositifs, equipement serveur, equipement client et programmes d'ordinateurs associes
US11190826B1 (en) * 2020-06-25 2021-11-30 Disney Enterprises, Inc. Segment quality-guided adaptive stream creation

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0205988B1 (pt) * 2001-09-12 2017-01-17 Matsushita Electric Ind Co Ltd aparelho de codificação de imagem que codifica imagens que são introduzidas em sequência e aparelho de decodificação de imagem que decodifica imagens que são introduzidas em sequência
JP4196726B2 (ja) * 2003-05-14 2008-12-17 ソニー株式会社 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
US20050201469A1 (en) * 2004-03-11 2005-09-15 John Sievers Method and apparatus for improving the average image refresh rate in a compressed video bitstream
KR100896279B1 (ko) * 2005-04-15 2009-05-07 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US20090034857A1 (en) * 2005-07-22 2009-02-05 Mitsubishi Electric Corporation Image encoder and image decoder, image encoding method and image decoding method, image encoding program and image decoding program, and computer readable recording medium recorded with image encoding program and computer readable recording medium recorded with image decoding program
KR100995226B1 (ko) * 2005-07-22 2010-11-17 미쓰비시덴키 가부시키가이샤 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법, 화상 복호 방법, 화상 부호화 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체, 화상 복호 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
JP4424522B2 (ja) * 2006-07-13 2010-03-03 日本電気株式会社 符号化及び復号化装置ならびに符号化方法及び復号方法
US8582663B2 (en) * 2006-08-08 2013-11-12 Core Wireless Licensing S.A.R.L. Method, device, and system for multiplexing of video streams
US8345083B2 (en) * 2007-07-31 2013-01-01 Cisco Technology, Inc. Dynamic management of picture quality in a video conference with diversified constraints
US9225961B2 (en) * 2010-05-13 2015-12-29 Qualcomm Incorporated Frame packing for asymmetric stereo video
JP5950157B2 (ja) * 2012-05-18 2016-07-13 ソニー株式会社 画像処理装置および方法、並びに、プログラム
KR102077556B1 (ko) * 2012-06-28 2020-02-14 엑시스 에이비 가상 인트라-프레임을 사용하여 비디오 콘텐츠를 인코딩하기 위한 시스템 및 방법
EP3579562B1 (en) * 2012-09-28 2021-09-08 Sony Group Corporation Image processing device and method
CA2894637A1 (en) * 2012-12-18 2014-06-26 Sony Corporation Image processing device and image processing method
CN105230017B (zh) * 2013-03-21 2019-08-06 索尼公司 图像编码装置和方法以及图像解码装置和方法
DE102014207607B4 (de) * 2013-04-25 2019-09-19 Avago Technologies International Sales Pte. Ltd. System und Verfahren zur Verarbeitung von Videodaten
US8982277B2 (en) * 2013-04-25 2015-03-17 Broadcom Corporation System and method for processing video data
MX348561B (es) * 2013-07-12 2017-06-20 Sony Corp Aparato y método para la codificación de imágenes.
US20150163486A1 (en) * 2013-12-09 2015-06-11 Vixs Systems Inc. Variable bitrate encoding
JP6463041B2 (ja) * 2014-08-28 2019-01-30 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
US20180007355A1 (en) 2018-01-04
EP3041233A1 (en) 2016-07-06
KR20170101227A (ko) 2017-09-05
WO2016107792A1 (en) 2016-07-07
EP3241353A1 (en) 2017-11-08
JP2018510524A (ja) 2018-04-12
CN107113447A (zh) 2017-08-29
WO2016109201A1 (en) 2016-07-07

Similar Documents

Publication Publication Date Title
JP6573673B2 (ja) 高フレームレート−低フレームレート伝送技術
US7953315B2 (en) Adaptive video processing circuitry and player using sub-frame metadata
KR102343700B1 (ko) 독립적으로 인코딩된 배경 업데이트들에 기초한 비디오 송신
JP5059766B2 (ja) 視差ベクトルの予測方法、その方法を利用して多視点動画を符号化及び復号化する方法及び装置
US20130022116A1 (en) Camera tap transcoder architecture with feed forward encode data
JP2008228282A (ja) 画像処理装置
KR102558495B1 (ko) Hls를 시그널링하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 컴퓨터 판독 가능한 기록 매체
US11973957B2 (en) Mixed NAL unit type based-video encoding/decoding method and apparatus, and method for transmitting bitstream
US11902556B2 (en) Mixed NAL unit type-based image encoding/decoding method and device, and method for transmitting bitstream
EP2306730A2 (en) Method and system for 3D video decoding using a tier system framework
JP2010147508A (ja) 撮影装置及び再生装置
US20170105019A1 (en) High frame rate tiling compression technique
CN113545060A (zh) 视频编码中的空瓦片编码
US11818380B2 (en) Image encoding/decoding method and device based on hybrid NAL unit type, and recording medium for storing bitstream
US20230291933A1 (en) Method and device for encoding/decoding image by signaling gci, and computer-readable recording medium in which bitstream is stored
KR101609798B1 (ko) 동영상 판독 장치
CN114930820A (zh) 基于图片划分结构的图像/视频编译方法及设备
CN115606187A (zh) 基于混合nal单元类型的图像编码/解码方法和设备及存储比特流的记录介质
JP2015035785A (ja) 動画像符号化装置、撮像装置、動画像符号化方法、プログラム、及び記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181012

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181012

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181220

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20181227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190813

R150 Certificate of patent or registration of utility model

Ref document number: 6573673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees