JP2017200189A - 画像符号化装置、及びその方法 - Google Patents
画像符号化装置、及びその方法 Download PDFInfo
- Publication number
- JP2017200189A JP2017200189A JP2017101183A JP2017101183A JP2017200189A JP 2017200189 A JP2017200189 A JP 2017200189A JP 2017101183 A JP2017101183 A JP 2017101183A JP 2017101183 A JP2017101183 A JP 2017101183A JP 2017200189 A JP2017200189 A JP 2017200189A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- unit
- code amount
- pixel block
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
関する。
の符号量から適応的に量子化スケールを切り替えるレート制御方式があった。従来のレー
ト制御方式は、所望の符号量へと収束させることを目的としている。そのため、必ずしも
目標の符号量以内に収束することを保証するものではなかった。
る。ハードウェアによりエンコーダを構成する際にビットストリームのサイズを予め定義
した場合、目標符号量を超過するとビットストリームが破たんするという問題がある。
単位で最小及び最大符号量を定め、符号化対象であるブロックにおいてもし最大符号量が
発生したら、ストリームバッファが破たんする場合には最小符号量での符号化を行う方式
について述べられている。
ないか否かにより符号化条件を切り替えている。一般的に、最小符号量での符号化は画質
が大きく劣化するため選択されないことが望ましい。一方、上記方式では最大符号量分の
マージンを持っていることに等しいため最小符号量での符号化が選択されやすくなってし
まうという問題がある。
んを防ぎつつ、画質の劣化を抑える点にある。
画素ブロックに対して第1の符号化データを生成する第1の符号化部と、前記符号化対象
の画素ブロックに対して予め定められた符号量で符号化された第2の符号化データを生成
する第2の符号化部と、前記第1の符号化部と前記第2の符号化部のいずれの符号化モー
ドを用いるかを判定する判定部と、前記判定部の判定結果に従って、前記第1の符号化デ
ータと前記第2の符号化データの何れか一方を選択する選択部と、を備え、前記判定部は
、1以上の画素ブロックを含む特定の単位において、前記符号化対象の画素ブロックの直
前に符号化された画素ブロックまでに発生した累積符号量と、前記符号化対象の画素ブロ
ックを前記第1の符号化モードで符号化して発生した符号量を合計した結果、前記特定の
範囲の残りの画素ブロックをすべて前記第2の符号化モードで符号化しても、予め定めた
目標符号量を超過する場合に、前記第2の符号化部の符号化モードを用いると判定する、
動画像符号化装置を提供する。
ことができる。
、以下の実施形態では、同一の参照符号を付した部分は同様の動作をするものとして、重
複する説明を適宜省略する。
尚、以下の実施形態においては、図1に示すように処理対象画像(入力画像)において
符号化処理を行う単位をユニット、符号量を保証すべき単位をセグメントと呼ぶ。図1の
例では、ユニットは画素ブロックであり、セグメントは画像の1ユニットラインである。
本実施形態の符号化装置は、各ユニットにおいて発生する符号量についての制限は行わな
いが、セグメント内で発生した総符号量については予め定めた所望の符号量以下となる様
、入力画像の符号化を行う。
2符号化部104、エントロピー符号化部105、符号化モード判定部106、ローカル
デコード生成部107及び符号化制御部108を有する。
より符号化モード情報を受け取る。スイッチ101は、符号化モード情報が第1符号化モ
ードを示す場合には第1符号化部103に入力画像を送る。スイッチ101は、符号化モ
ード情報が、第2符号化モードを示す場合には第2符号化部104に入力画像を送る。
符号化処理を行い、第1の符号化データを生成する。符号化処理の詳細については後述す
る。
た符号量となる様な符号化処理を行い、第2の符号化データを生成する。
化モード情報が、第1符号化モードを示す場合には第1符号化部103より第1の符号化
データを受け取る。符号化モード情報が、第2符号化モードを示す場合には第2符号化部
104より第2の符号化データを受け取る。その後、受け取った符号化データをエントロ
ピー符号化部105及びローカルデコード生成部107へと送る。
処理を行って、ビットストリームを生成する。その際に発生した符号量を示す符号量情報
を符号化モード判定部106へと送る。
。符号化モード判定部106は、符号量情報に基づいて後続のユニットに対する符号化モ
ード情報を設定してスイッチ101及びスイッチ102に送る。
化処理に対応する復号処理を行ってローカルデコード画像を生成する。第1の符号化デー
タを受け取った場合には、第1符号化部103が行った符号化処理に対応する復号処理を
行う。第2の符号化データを行った場合には、第2復号化部104がおこなった復号処理
に対応する復号処理を行う。生成されたローカルデコード画像は第1符号化部103及び
第2符号化部104に送られる。ローカルデコード画像は、後続のユニットを符号化処理
する際の予測画像の生成に用いられる。
制御などを行なうことで、第1符号化部103及び第2符号化部104の制御を行なう。
生成部109、減算部110及び変換・量子化部111を有する。
受け取り、所定の予測処理を行って処理対象ユニットに対応する予測画像を生成する。予
測画像生成部109は、減算部110へ予測画像を送る。予測処理として、どのような手
法を用いても良いが、本実施形態では隣接するユニットからの空間予測を用いる例につい
て説明する。例えば、H.264/AVCなどの既存コーデックと同様に、隣接するユニ
ットの画素を用いて空間予測を行う。その際の空間予測の予測方向は、符号化制御部10
8が設定する。
像生成部109より対応する予測画像を受け取る。減算部110は、入力画像の画素値か
ら、予測画像の画素値を減じることで、予測誤差画像を生成する。生成された予測誤差画
像は、変換・量子化部111へ送られる。
行う。変換処理として、例えばDCT(離散コサイン変換)などを用いた直交変換を行い
、変換係数を生成する。なお、ウェーブレット変換や独立成分解析などの手法を用いて変
換係数を生成しても良い。次に、変換・量子化部111は、符号化制御部108にて設定
された量子化パラメータに基づいて、変換係数に対して量子化処理を行い、符号化データ
を生成する。
的な符号化方式により符号化処理を行う。
部107は、予測誤差画像生成部109、逆量子化・逆変換部112及び加算部113を
有する。
・逆変換部112は、符号化データに含まれる量子化後の直交変換係数に対して符号化制
御部108にて設定される量子化パラメータに従って逆量子化を行う。逆量子化・逆変換
部112は、逆量子化によって得られた変換係数に対して変換・量子化部111で行われ
た直交変換に対応する逆変換を行い、予測誤差画像を生成する。得られた予測誤差画像は
加算部113へ送られる。
112より受けとった予測誤差画像と加算し、ローカルデコード画像を生成する。得られ
たローカルデコード画像は第1符号化部103、第2符号化部104に出力されると共に
ローカルデコード生成部107内の予測画像生成部109にも出力され、後続のユニット
において予測処理を行う際に用いられる。
同じ処理を行う。これにより、第1符号化部103及びローカルデコード生成部107で
同一の予測画像を用いることができる。なお、ローカルでコード生成部107が、予測画
像生成部109を有さず、第1符号化部103または第2符号化部104が生成した予測
画像をそのままローカルデコード生成部107に送る構成であっても構わない。
る。
ャートに従ってユニット毎にパイプラインで符号化処理を行う。図5の横軸は、時刻を示
す。縦軸に記したユニット#0〜#3の順に順次符号化処理が行われる。画像符号化装置
100は、ユニット毎に予測方向の決定と符号化モード判定、符号化処理とローカルデコ
ード生成、及びエントロピー符号化の3つの動作をそれぞれNサイクルにて実行する。尚
、以降の処理手順については図6のフローチャートに従って説明する。
まず、画像符号化装置100が入力画像中の処理対象ユニットに含まれる画素のデータを
受け取ると、符号化制御部108が第1符号化モードの予測方向を決定する(S601)
。前述したように第1符号化部103は空間予測及び変換・量子化処理による一般的な符
号化を行うものとする。空間予測の予測方向については任意の方法により決定して良い。
本実施形態では、すべての予測方向の内、予測画像と入力画像との誤差が最も小さくなる
予測方向を選択する例について述べる。
化を行うかの判定を行う(S602)。第1符号化モードと第2符号化モードの何れで符
号化を行うかを示す符号化モード情報は、スイッチ101に送られる。尚、符号化モード
判定部106における処理の詳細については後述する。
yes)、入力画像を第1符号化部103へ送る。
ユニットの画素値から、符号化制御部108が決定した予測方向に従って予測画像を生成
する(S604)。減算部110は、入力画像から予測画像を減算することで予測誤差画
像を生成する(S605)。変換・量子化部111は、予測誤差画像に対して変換及び量
子化処理を行うことで量子化後の変換係数を生成する(S606)。変換・量子化部11
1は、第1符号化データを生成する(S607)。第1符号化データには、量子化後の変
換係数、第1符号化モードで符号化されたことを示す符号化モード情報、予測方向、量子
化パラメータなどの情報が含まれる。第1符号化データはローカルデコード生成部107
へ送られる。
る復号処理を第1符号化データに対して行うことでローカルデコード画像を生成する(S
608)。生成されたローカルデコード画像は第1符号化部103及び第2符号化部10
4へと送られる。
符号化部104は、第2符号化モードの予測画像を生成する(S609)。本実施形態の
第2符号化部104の動作について詳細に説明する。第2符号化部104は予め定めた符
号量で符号化を行う。第1符号化部103による符号化で所望の符号量を超過する可能性
がある場合には第2符号化部104での符号化へ切り替えることができる。第2符号化部
104における符号化方法としては任意の方法を用いて良いが、前述のように特定の符号
量での符号化が求められる。さらに、第1符号化部103で発生しうる符号量と比較して
十分小さな符号量で符号化できることが望ましい。本実施形態では、例えば量子化後の変
換係数を符号化せず、予測画像をそのままローカルデコード画像とすることで固定長での
符号化を実現する。
には、第2符号化モードで符号化されたことを示す符号化モード情報が含まれる。なお、
第2符号化部104における処理や第2符号化データの詳細については後述する。ローカ
ルデコード生成部107は、第2符号化部104で行われた符号化処理に対応する復号処
理を第2符号化データに対して行うことでローカルデコード画像を生成する(S611)
。生成されたローカルデコード画像は第1符号化部103及び第2符号化部104へと送
られる。なお、S608及びS611で生成されたローカルデコード画像は、参照画像と
して後続のユニットにおける予測処理で用いられる。
サイクルにおいて実行される。
は、第1の符号化データまたは第2の符号化データに対してエントロピー符号化を行って
ビットストリームを生成する(S612)。生成されたビットストリームを出力する(S
613)。処理対象のセグメントに含まれるユニットすべての符号化が終了していない場
合には(S614,no)、エントロピー符号化部105は発生した符号量を示す符号量
情報を生成し、符号化モード判定部106へ出力する(S615)。このとき、詳細は後
述するが、符号化モード判定部106は受け取った符号量情報とセグメント全体に対して
設定された所望の符号量との関係から、次のユニットにおける符号化モードを判定する。
また、符号量情報は符号化制御部108にもフィードバックされ、量子化パラメータの設
定などを行う際に利用される。
yes)、セグメントの符号化処理を終了する。
ユニットの符号化処理は以上の3ステージから構成される。図5に示すように処理順番が
前後のユニットとは1ステージずつタイミングをずらして処理を行って、複数のユニット
をパイプラインで処理する。各サイクルに含まれる処理については上述した例以外の処理
であっても構わない。また、ステージ数も3以外の数であっても構わない。
では、符号化データの先頭でまず符号化モードを示すcodec_modeが符号化され
る。codec_modeは、例えば1ビットのフラグで表現することができる。
modeがMODE_1である場合、直前のユニットにおける量子化パラメータと対象ユ
ニットの量子化パラメータの差分であるdelta_qpが符号化される。続いて空間予
測の予測方向を示すpred_modeが符号化される。delta_qp及びpred
_modeは、事前に取りうる値の範囲がわかっているため、例えば固定長での符号化を
行って良い。固定長で符号化することでビットストリームに対する復号処理が簡易になる
ほか、シンタクスの値に偏りがない場合には可変長符号化と比較して符号化効率が向上す
る。最後に、量子化後の変換係数であるcoeffが可変長符号化される。尚、NUM_
COEFFは変換係数の数を示している。
c_modeがMODE_2である場合、第1符号化部103による符号化と同様にpr
ed_modeが符号化される。ただし、量子化後の変換係数については符号化しない。
従って量子化パラメータを示すdelta_qpについても符号化する必要はない。
低下を伴うが、第1符号化部103と比較して常に十分小さな符号量で符号化を行うこと
ができる。尚、上記のシンタクスは一例であり、一般的なコーデックと同様にシンタクス
を追加、または一部のシンタクスを削除しても良い。また、画像中のコンポーネントによ
ってシンタクスは変更されても構わない。
106は、エントロピー符号化部105より発生した符号量を受け取り、セグメント内で
発生した符号量を累積して保持する。保持している累積符号量から、後続のユニットを第
1符号化モードで符号化した場合にセグメントで保証すべき符号量を超過する可能性があ
るか否かの判定を行う。超過する可能性がある場合には第2符号化モード、そうでなけれ
ば第1符号化モードを選択することで符号化モードを切り替える。
、具体的な符号化モード判定部106の動作例を説明する。図8の横軸はセグメント内に
おけるユニットの番号を示し、縦軸は累積符号量を示す。実線は、セグメント内の残りユ
ニットをすべて第2符号化モードで符号化することを想定した場合に、ストリームバッフ
ァが破たんしない累積符号量の上限値を示す。細い破線は、目標符号量を示す。一般的に
、CBR(constant bit rate)での符号化を行う場合にはすべてのユニ
ットで均等に符号量が発生することを目標とし、量子化パラメータの制御を行うことで目
標符号量での符号化を図る。ただし、1パス符号化では事前に必ずしも目標の符号量を達
成できない。
く。二点鎖線は、そのセグメント内の残りユニットをすべて第1符号化モードで符号化可
能な場合の累積符号量の一例を示す図である。実際に発生した累積符号量が実線を下回っ
ていれば、符号量を保証することができる。太い破線は、第2符号化モードが必要となる
場合の累積符号量の一例を示す図である。実際に発生した累積符号量が実線を上回ってし
まう場合には、第2符号化モードに切り替えても符号量を保証することができなくなる。
二点鎖線で示した例では、第1符号化モードでの符号化により目標符号量を大きく上回る
符号量が発生してしまっている。残りのユニットにおいて利用可能符号量限界に達するた
め、以降のユニットについてはすべて第2符号化モードで符号化することで符号量の上限
を保証する。
ある。Bavailableはセグメント内のこれから符号化を行うユニットのうち、符
号化モードの判定を行っているユニット(以下、対象ユニットと記載)を除く残りユニッ
トにおける利用可能符号量である。Btotalは対象ユニットの符号化モード判定時に
フィードバックされている累積符号量を示す。Btargetから、Btotalを減じ
ることでBavailableが算出できる。
、符号量のフィードバックには遅延が生じる。即ち、図5の例ではUnit#3の符号化
モードの判定を行う時点ではUnit#0の符号量までしかフィードバックされず、Un
it#1及びUnit#2の発生符号量は不明である。そこで、式(1)では、第1符号
化モードで理論的に発生しうる最大ビット数Bmaxを定義し、対象ユニットを含めて発
生符号量が不明なユニットについては最大ビット数が発生したものとして残りユニットで
利用可能な符号量を算出している。尚、図5に示す例では符号量のフィードバックにおけ
る遅延ユニット数Udelayは2となる。遅延ユニット数は、パイプライン構成や処理
内容に応じて適宜変更される。
を示す。Uleftは対象ユニット、および遅延ユニットを除く、残りユニットの数を示
している。即ち、符号量フィードバック遅延分のユニット、及び対象ユニットで仮に最大
符号量が発生したとしても利用可能符号量限界を下回る場合には第1符号化モードで符号
化を行う。そうでなければ対象ユニットからは、第2符号化モードで符号化を行うことで
符号量を保証する。以上が画像符号化装置100に関する処理である。
に定めることができ、かつ第1の符号化モードと比較して小さな符号量にて符号化を行う
第2の符号化モードを用意し、前記2つの符号化モードを切り替えることで所望の符号量
を上回らないことを保証する。例えば、各符号化処理単位(ユニット)に対して通常は第
1の符号化モードで符号化を行い、符号量を保証する単位(セグメント)において、残り
のユニットをすべて第2の符号化モードで符号化しなければ符号量を保証できなくなるこ
とがわかった時点で第2の符号化モードによる符号化に切り替えることで、確実に符号量
を保証することができる。また、上記のように符号化モードを判定することで、可能な限
り通常の第1符号化モードでの符号化を行い、符号量が不足する場合にのみ第2符号化モ
ードでの符号化を行うことで符号量が不足する直前までは通常の符号化による画質を維持
しつつセグメントにおける累積符号量の上限を保証することができる。
第1の実施形態における画像符号化装置100では符号量のフィードバックに遅延が生
じていたため、式(1)に示すように第1符号化モードで発生しうる最大の符号量を複数
ユニット分加算する必要があった。これは、マージンを持って制御を行っていることに等
しく、圧縮率やセグメントのサイズによってはマージンが大きなオーバーヘッドとなり、
所望の符号量を大きく下回って十分な画質が得られない可能性がある。そこで、本実施形
態では符号量のフィードバック遅延が生じない様な処理を行う点で異なる。
、第1符号化部103、第2符号化部104、エントロピー符号化部105A、エントロ
ピー符号化部105B、ローカルデコード生成部107A、ローカルデコード生成部10
7B、符号化制御部108、スイッチ114、スイッチ115及び符号化モード判定部1
16を有する。
100と同様の動作を行うため、説明を省略する。また、エントロピー符号化部105A
及び105Bはそれぞれエントロピー符号化部105と同一の動作を行い、ローカルデコ
ード生成部107A及びローカルデコード生成部107Bはそれぞれローカルデコード生
成部107と同一の動作を行うため、これらについても説明を省略する。
Bから第1符号化モードと第2符号化モードそれぞれのローカルデコード画像を受け取り
、符号化モード判定部116が決定した符号化モードに従って何れかの符号化データを選
択して第1符号化部103及び第2符号化部104へと送る。送られたローカルデコード
画像は後続のユニットを符号化する際に参照画像として予測に用いられる。
ッチ115は、符号化モード情報が第1符号化モードを示す場合には、エントロピー符号
化部105Aより第1の符号化モードのビットストリームを受け取る。符号化モード情報
が、第2符号化モードを示す場合には、エントロピー符号化部105Bから第2符号化モ
ードのビットストリームを受け取る。その後、受け取ったビットストリームを出力する。
符号化した際に発生した符号量を受け取り、対象ユニットに対する符号化モード情報を設
定してスイッチ114及びスイッチ115に出力する。符号化モード判定部116は、後
続ユニットに対する符号化モードではなく現在の符号化対象ユニットに対する符号化モー
ドを設定する点が符号化モード判定部106と異なる。
1を用いて詳細に説明する。
を行う。符号化処理は図10に示すタイミングチャートに従うが、画像符号化装置100
とは異なり、第1符号化モードと第2符号化モードでの符号化を両方実行してビットスト
リームを生成し、最後に符号化モード判定を行う。
符号化制御部108が第1符号化モードの予測方向を決定する(S1101)。
て、ローカルデコード画像に含まれる隣接ユニットの画素値から予測画像を生成する。減
算部110は、入力画像から予測画像を減算することで予測誤差画像を生成する(S11
03)。
化後の変換係数を生成する(S1104)。
ータには、量子化後の変換係数、第1符号化モードで符号化されたことを示す符号化モー
ド情報、予測方向、量子化パラメータが含まれる。
に対応する復号処理を行うことでローカルデコード画像を生成する(S1106)。生成
されたローカルデコード画像はスイッチ114へ送られる。エントロピー符号化部105
Aは、第1符号化データに対して、エントロピー符号化を行うことで、ビットストリーム
を生成する(S1107)。
は第2符号化部104にも入力され、第2符号化モードでの符号化についても行われる。
図11では、第1の実施形態と同様に第2符号化部104が変換・量子化を行わない例に
ついて述べるが、第2符号化部104の符号化方法はこれに限られるものではない。
)。第2符号化データはローカルデコード生成部107Bへ送られる。
に対応する復号処理を行うことでローカルデコード画像を生成する(S1110)。この
例では、予測画像がそのままローカルデコード画像となるため、第2符号化部104から
予測画像を受け取ってそのままローカルデコード画像としても良いし、第2符号化部10
4と同様の予測処理を行っても良い。生成されたローカルデコード画像はスイッチ114
へ送られる。
号化部105Bは、第2符号化データをエントロピー符号化することで、ビットストリー
ムを生成する(S1111)。
、対象ユニットに対する符号化モードの判定を行う(S1112)。符号化モード情報は
、スイッチ114及びスイッチ115に送られる。符号化モード判定部116の処理の詳
細は後述する。
チ114は、ローカルデコード生成部107Aから受け取った第1符号化モードのローカ
ルデコード画像を、第1符号化部103、第2符号化部104に送る(S1114)。ス
イッチ115は、エントロピー符号化部105Aから受け取った第1符号化モードのビッ
トストリームを出力する(S1115)。
114は、ローカルデコード生成部107Bから受け取った第2符号化モードのローカル
デコード画像を、第1符号化部103、第2符号化部104に送る(S1116)。スイ
ッチ115は、エントロピー符号化部105Bから受け取った第2符号化モードのビット
ストリームを出力する(S1117)。
118,no)、エントロピー符号化部105A及びエントロピー符号化部105Bは、
発生符号量を、符号化モード判定部116に送る(S1119)。ただし、第2符号化モ
ードは固定符号量による符号化を行うため、必ずしもエントロピー符号化部105Bから
発生符号量を送る必要はない。
,yes)、セグメントの符号化処理を終了する。
は、エントロピー符号化部105Aより第1符号化モードで発生した符号量を受け取り、
対象ユニットにおける符号化モードの判定を行う。画像符号化装置200は、図10に示
すように各ユニットに対するすべての処理ステージが完了した後に符号化モードを判定す
る点が画像符号化装置100とは異なる。そのため、パイプライン処理を行った場合であ
っても、符号量のフィードバックにおける遅延がなくなる。
に発生する符号量を示す。符号化モード判定部116は、エントロピー符号化部105A
よりBcurrentを受け取る。Btotalは式(1)と同様に対象ユニット符号化
時にフィードバックされている累積符号量を示す。図11に示すように直前のユニットで
発生した符号量が即座にフィードバックできる点が、画像符号化装置100とは異なる。
式(3)により算出したBavailableを用いて式(2)によって符号化モード
の判定を行う。本実施形態では、上記のように符号化モードを判定することで、数ユニッ
ト分の最大符号量に相当するマージンを持たずに符号化モードの判定ができる。そのため
、より画質劣化の少ない符号化を実現できる。 第2符号化部104の動作について詳細
に説明する。画像符号化装置100と同様に、本実施形態の第2符号化部104は予め定
めた符号量以下で符号化を行えば任意の方法を用いて良い。しかしながら、画像符号化装
置200は、画像符号化装置100と比較するとローカルデコード画像の生成に関して制
約が存在する。図10に示すタイミングで処理を行うことで、第1符号化モードと第2符
号化モードによる符号化処理は同時に実行される。パイプライン処理であるため、各ユニ
ットの2番目の処理ステージにおいてローカルデコード画像の一部が確定していなければ
ならない。例えば、Unit#0が3番目の処理ステージを実行するときUnit#1は
2番目の処理ステージで第1の符号化モードによる符号化を実行するため、Unit#1
の予測に用いられるローカルデコード画像が決定されている必要がある。各ユニットにお
ける右端の画素については、予測で用いられるためにローカルデコード画像が第1符号化
処理と第2符号化処理で異なってはならないという制約がある。
る。図12に示すシンタクスによって、上記の問題を解決することができる。図12にお
いて、codec_modeがMODE_1である場合、第1の符号化モードにおけるシ
ンタクスは図7と同様である。一方、codec_modeがMODE_2である場合、
第2の符号化モードにおけるシンタクスは図7と異なる。図7におけるシンタクスでは、
予測方向に関する情報のみを符号化するため、ローカルデコード画像は予測画像と等しく
なる。そのため、本実施形態の第1の符号化モードで生成されるローカルデコード画像と
は異なってしまう場合があった。そこで、隣接する直後のユニットの予測に用いられる画
素についてはpixel_valueとして第1の符号化モードで生成されるローカルデ
コード画像の画素値をPCM(pulse code modulation)で符号化す
れば良い。この場合のPCMは、画素値をそのまま出力する処理を指す。NUM_PCM
_PIXELは、pixel_valueによって符号化される画素数を示す。この場合
、図7と比較して第2の符号化モードにおける符号量は大きくなるが、後続ユニットの予
測に関する問題は解決できる。
図13は、本実施形態におけるユニットの符号化データのシンタクスの別の例を示す図で
ある。図13では、第2の符号化モードが選択された場合には追加の情報を符号化せず、
予測方向に制限を設けている。式(3)及び式(2)から、一度第2の符号化モードが選
択された場合には同一セグメントにおいて第1の符号化モードが選択されることはない。
そのため、例えば左ユニットからの予測を禁止することで、後続ユニットの予測に関する
問題を解決することができる。本実施形態では、第2の符号化モードでは常に上からの予
測のみを行う例について述べている。上からの予測は一例であり、後続ユニットの予測に
影響を与えない限りどの方向であっても構わない。 第2の符号化モードによる符号化で
は、画質が大きく劣化する。本実施形態では上記のような符号化モード判定を行うことで
、画像符号化装置100と比較してより第2の符号化モードが選択されないように制御し
、セグメントで発生する累積符号量の上限を保証することができる。
画像符号化装置200は、セグメント単位で符号量を保証するために、第1符号化部1
03と第2符号化部104を適応的に切り替えていた。ただし、画像符号化装置200は
、セグメント単位の符号量については保証できるものの、ユニット単位の符号量について
は必ずしも保証することができない。例えば、符号化パラメータによっては、第1符号化
部103が符号化を行うことで入力画像のデータ量よりも大きな符号量の符号化データが
生成される可能性があった。そこで、本実施形態の符号化装置300は、第1符号化部1
03及び第2符号化部104とは異なる方法で符号化を行う第3符号化部117を備える
。
17、エントロピー符号化部105A〜C、モード判定部120、スイッチ118、スイ
ッチ119、ローカルでコード生成部107A〜C、符号化制御部108を備える。画像
符号化装置100、200と同様の動作を行う構成は、以下説明を省略する。 第3符号
化部117は、符号化対象ユニットの画素を受け取り、予め定めた符号量となるよう符号
化処理を行い、第3符号化データを生成する。
B及びローカルデコード生成部107Cから第1符号化モード、第2符号化モード及び第
3符号化モードそれぞれのローカルデコード画像を受け取る。スイッチ118は、符号化
モード判定部120が決定した符号化モードに従って何れかのローカルデコード画像を、
第1符号化部103、第2符号化部104、及び第3符号化部117へと送る。ローカル
デコード画像は後続のユニットを符号化する際に参照画像として予測に用いられる。
びエントロピー符号化部105Cから第1符号化モード、第2符号化モード及び第3符号
化モードそれぞれのビットストリームを受け取る。スイッチ119は、符号化モード判定
部120が決定した符号化モードに従って何れかのビットストリームを出力する。
符号化した際に発生した符号量を受け取り、対象ユニットに対する符号化モード情報を設
定してスイッチ118及びスイッチ119に出力する。 画像符号化装置300の全体の
処理フローについては図示しての説明を省略する。例えば、図11のS1101〜S11
07,及びS1108〜S1111と同時に第3符号化部117が符号化を行い、選択さ
れた符号化モードに従ったビットストリームを出力すればよい。以下の説明では、画像符
号化装置300が図10のタイミングチャートに従ってパイプライン処理を行う動作につ
いて例示する。なお、別の変形例として、第1の実施形態で示した様に、判定された符号
化モードが第3符号化モードを示す場合に、第3符号化部117が、第3符号化データ及
びローカルデコード画像を生成する構成であってもよい。 第3符号化部117の動作に
ついて詳細に説明する。
前述のとおり、第1符号化部103による符号化ではユニット単位の符号量については
必ずしも保証することができなかった。一方、第2符号化部104では予め定めた符号量
にて符号化を行うため、ユニット単位でも符号量を保証することができる。しかしながら
、第2符号化部104による符号化は、セグメント単位の目標符号量を超過する場合を想
定しているため著しい画質劣化を伴う。
号量は第2符号化部104の符号量より十分大きいものとする。第1符号化部103によ
り符号化を行った場合に、第3符号化部117の符号量よりも大きな符号量が発生した場
合には第3符号化部117での符号化へ切り替えることで、ユニット単位の最大発生符号
量についても保証することが可能となる。
うに特定の符号量以下での符号化が求められる。例えば、PCMモードにより入力画像の
画素値をそのまま出力しても良い。前述のように第1符号化部103による符号化では入
力画像のデータ量を超過する符号化データが生成される場合がある。そこで、第3符号化
モードをPCMとすることで、第1符号化部103で入力画像のデータ量を超過する場合
にはPCMによる符号化を行うことができる。この場合のシンタクス例を図15に示す。
codec_modeがMODE_1及びMODE_2を示す場合については図13と同
一であるが、MODE_3、即ち第3符号化モードである場合にはNUM_PIXEL_
UNITで示されるユニット内の画素数分だけ画素値がinput_pixel_val
ueとして符号化される。
画素あたりのビット数を削減しても良い。また、第1符号化部103と同様の予測・変換
処理や、隣接画素間の差分をPCM符号化する一般的なDPCM(differenti
alpulse−code modulation)による処理を行って、変換係数や誤
差画像に対して予め定めたパラメータで量子化を行っても良い。
化モードにより生成されるローカルデコード画像を生成する必要がある場合には、差分デ
ータを付加しても良い。第2符号化モードと同様に第3符号化モードについてもローカル
デコード画像についての制約が存在する。つまり、ユニット内で右端に存在する画素につ
いては第1符号化部103で生成されたものと同一である必要がある。例えば、PCMに
よる符号化を行う場合には、入力画像の画素値をPCMで符号化した上で、ユニットの右
端画素について第1符号化部103で生成されたローカルデコード画像の画素値と入力画
像の画素値との差分値を算出し、差分値を符号化する。それによって、上記の問題を回避
することができる。対応するローカルデコード生成部は、PCMで生成されたストリーム
を復号して得た入力画像の画素値と、復号した前記差分値を加算することでユニット内の
右端の画素を得ることができる。したがって、符号化装置300は第1符号化部103で
生成されたローカルデコード画像の画素を参照画素として予測処理を行えば良い。このと
き第3符号化部117は、第1符号化部103で生成されたローカルデコード画像の画素
値を受け取って処理を行っても良いし、第3符号化部117が生成しても良い。
れたローカルデコード画像の画素値と入力画像の画素値との差分値をdiff_pixe
l_valueとして符号化する点が図15の例とは異なる。NUM_REF_PIXE
Lは、参照画素として利用される画素数を示す。本実施形態では、ユニットの右端の画素
のみを対象としている。そのため、NUM_REF_PIXELは、ユニットの高さと同
値である。なお、煩雑な処理を回避するためユニットの下端の画素についても対象として
も良い。
満たすものであれば任意の方法を用いて良い。
発生した符号量を受け取り、対象ユニットにおける符号化モードの判定を行う。モード判
定部120は、は式(4)に示すように第1符号化モードの符号量BMODE_1と、第
3符号化モードの符号量BMODE_3のうち、小さい方の値をBcurrentとする
。
codec_typeをMODE_3とし、BcurrentをBMODE_3とする(
S1702)。そうでなければ(S1701,no)、codec_typeをMODE
_1とし、BcurrentをBMODE_1とする(S1703)。
1符号化モードまたは第3符号化モードで符号化してもセグメント内の符号量保証が可能
であるかを式(2)と同様に判定する。このとき符号量が保証されないと判断されれば(
S1705,no)、第2符号化モードを選択する(S1706)。そうでなければ(S
1705,yes)、S1702またはS1703で選択された符号化モードを用いる。
セグメント単位の符号量については第2符号化モードにより保証することが可能となる。
符号化モードは、第2の符号化モードと比較して十分大きな符号量を想定しているため、
例えばPCMを用いる場合など第1符号化モードや第2符号化モードと比較して高画質な
符号化を行うことができる。そこで、例えば式(6)のように、セグメント内の残りすべ
てのユニットを第3符号化モードで符号化しても目標符号量を超過しないことがわかった
時点で第3符号化モードでの符号化に切り替えても良い。
化処理を行うことが可能となる。
一般的にはレート制御により適応的に量子化スケールを設定することで所望の符号量へ
と収束させることが可能となる。そこで、本実施形態の画像符号化装置400は、レート
制御を行う。
いては画像符号化装置300と同様の動作を行うため、説明を省略する。
を、符号化モード判定部120より符号化モード情報をそれぞれ受け取る。レート制御部
121は、符号化制御部108を通じて第1符号化部103の符号化パラメータを適応的
に設定することでレート制御を行う。レート制御については、MPEG−2 TM5で用
いられるような一般的な方法を用いて良い。
は、レート制御のパラメータを設定する(S1901)。例えば、レート制御部121が
、前述されたTM5のレート制御を行う場合には、レートバッファの初期値や発生符号量
に対するフィードバック強度を設定する。レート制御のパラメータについては予め定めた
固定値を用いても良い。また、入力された画像のサイズやフォーマットなどの情報に応じ
て設定しても良い。
で必要となる、量子化パラメータなどの符号化パラメータを設定する(S1902)。第
1符号化部103は、S1902で設定された符号化パラメータに従って、入力画像のユ
ニットに対して第1符号化モードによる符号化を行う(S1903)。第2符号化部10
4及び第3符号化部117はそれぞれ第2符号化モード及び第3符号化モードによる符号
化を行う(S1904、S1905)。これらの符号化処理については画像符号化装置3
00と同一の動作を行うため、説明を省略する。
S1906)。スイッチ118は、選択された符号化モードに対応するローカルデコード
画像を送り、スイッチ119は、選択された符号化モードに対応するビットストリームを
出力する(S1907)。セグメント内のすべてのユニットの符号化が終了していない場
合(S1908,no)、エントロピー符号化部105Aは第1符号化モードの符号量を
符号化モード判定部120及びレート制御部121に送り、符号化モード判定部120は
符号化モード情報をレート制御部121に送る(S1909)。なお、第2符号化モード
及び第3符号化モードでは予め定めた符号量で符号化を行うため、発生符号量を送らなく
ても符号化モード情報のみで符号量の判定が可能である。
2符号化モードが選択された(S1910,yes)場合、レート制御部121は、次の
セグメントのパラメータを変更する(S1911)。パラメータの変更方法としては、例
えば符号量のフィードバック強度を強くする等を行う。第2符号化モードが選択されたと
いうことは、通常のレート制御では符号量が発生しすぎたために収束できなかったことを
意味する。適応的にレート制御のパラメータを変更することで次のセグメントでは第2符
号化モードが選択されないように安定した制御を行うことができる。
量が余ったことにより第3符号化モードが選択された場合には逆に十分符号量を使えてい
ないことを示す。その様な場合には、フィードバック強度を弱めるなどのパラメータ設定
を行うことで安定した画質を得ることが可能となる。
たが、複数のユニットをまとめた単位やフレーム単位であっても良い。
ートを制御する。例えば、目標符号量よりも大きな符号量が発生している場合には量子化
パラメータを大きくすることで発生符号量を小さく抑え、目標符号量よりも小さな符号量
が発生している場合には量子化パラメータを小さくすることで発生符号量が大きくなるよ
うに符号化を行うことで目標の符号量への収束を図ることができる。
これらのレート制御処理は符号化制御部108が行っても良い。
のであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その
他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の
省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や
要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる
。
スイッチ101、102、
第1符号化部103、
第2符号化部104、
エントロピー符号化部105、105A、105B
符号化モード判定部106、116
ローカルデコード生成部107、107A、107B
予測誤差画像生成部109、逆量子化・逆変換部112、加算部113
符号化制御部108
レート制御部121
Claims (10)
- 入力画像が有する第1セグメントに含まれる複数の画素ブロックそれぞれを符号化可能な
第1の符号化部と、
前記複数の画素ブロックそれぞれを予め定められた第1符号量で符号化可能な第2の符
号化部と、
前記複数の画素ブロックのうちの一つである符号化対象画素ブロックに対して前記第1
の符号化部と前記第2の符号化部のいずれを用いるかを判定する判定部と、
を備え、
前記判定部は、前記複数の画素ブロックのうち一番目に符号化された第1画素ブロック
から前記符号化対象画素ブロックの直前に符号化された第2画素ブロックまでの累積符号
量と、前記第1の符号化部により符号化された前記符号化対象画素ブロックの符号量と、
の和が、前記第1セグメントの目標符号量と前記複数の画素ブロックのうち前記符号化対
象画素ブロックより後に符号化される画素ブロックを前記第2の符号化部により符号化す
ることで発生する符号量との差よりも小さい場合には、前記第1の符号化部を用いると判
定する、画像符号化装置。 - 前記判定部は、前記第1の符号化部が前記符号化対象画素ブロックを符号化し前記第2の
符号化部が前記符号化対象画素ブロックを符号化した後に、前記符号化対象画素ブロック
に対して前記第1の符号化部と前記第2の符号化部のいずれを用いるかを判定する、請求
項1に記載の画像符号化装置。 - 入力画像が有する第1セグメントに含まれる複数の画素ブロックそれぞれを符号化可能
な第1の符号化部と、
前記複数の画素ブロックそれぞれを予め定められた第1符号量で符号化可能な第2の符
号化部と、
前記複数の画素ブロックのうちの一つである符号化対象画素ブロックに対して前記第1
の符号化部と前記第2の符号化部のいずれを用いるかを判定する判定部と、
を備え、
前記判定部は、前記複数の画素ブロックのうち一番目に符号化された第1画素ブロック
から前記符号化対象画素ブロックの前に符号化された第3画素ブロックまでの累積符号量
と、前記第3画素ブロックの後前記符号化対象画素ブロックまでを前記第1の符号化部で
符号化した場合の最大符号量と、の和が、前記第1セグメントの目標符号量と前記複数の
画素ブロックのうち前記符号化対象画素ブロックより後に符号化される画素ブロックを前
記第2の符号化部により符号化することで発生する符号量との差よりも小さい場合には、
前記第1の符号化部を用いると判定する、画像符号化装置。 - 前記第2の符号化部は、前記符号化対象画素ブロックの直前に符号化される画素ブロッ
クの画素を利用した予測を行わない、
請求項1乃至3のいずれかに記載の画像符号化装置。 - 前記複数の画素ブロックそれぞれを予め定められ前記第1符号量よりも大きな第2符号
量で符号化可能な第3の符号化部を更に備え、
前記判定部は、前記符号化対象画素ブロックに対して前記第1の符号化部と前記第2の
符号化部と前記第3の符号化部のいずれを用いるかを判定する判定部であって、前記第1
の符号化部による前記符号化対象画素ブロックの符号量が前記第3の符号化部による前記
符号化対象画素ブロックの符号量を上回る場合には第3の符号化部を用いると判定する、
請求項1乃至4のいずれかに記載の画像符号化装置。 - 前記第2の符号化部が前記符号化対象画素ブロックを符号化する場合に、前記第1セグ
メントに対する符号化における符号量のフィードバック強度よりも、前記入力画像が有す
る第2セグメントに対する符号化における符号量のフィードバック強度の方が強くなるよ
うに、前記第1の符号化部をレート制御するレート制御部を更に備える請求項1乃至5のい
ずれかに記載の画像符号化装置。 - 前記判定部が前記符号化対象画素ブロックに対して前記第2の符号化部を用いると判定し
た場合、前記複数の画素ブロックのうち前記符号化対象画素ブロックの次に符号化される
画素ブロックにおいて予測に用いられる前記符号化対象画素ブロックの一部は、前記第1
の符号化部により生成されるローカルデコード画像の画素値と前記符号化対象画素ブロッ
クの画素値との差分を符号化される、請求項1乃至6のいずれかに記載の画像符号化装置。 - 前記第2の符号化部は、上方向からの予測のみを行い、変換・量子化係数を符号化しな
い、請求項1乃至7のいずれかに記載の画像符号化装置。 - 入力画像が有する第1セグメントに含まれる複数の画素ブロックそれぞれを符号化可能な
第1の符号化ステップと、
前記複数の画素ブロックそれぞれを予め定められた第1符号量で符号化可能な第2の符
号化ステップと、
前記複数の画素ブロックのうちの一つである符号化対象画素ブロックに対して前記第1
の符号化ステップと前記第2の符号化ステップのいずれを用いるかを判定する判定ステッ
プと、
を備え、
前記判定ステップでは、前記複数の画素ブロックのうち一番目に符号化された第1画素
ブロックから前記符号化対象画素ブロックの直前に符号化された第2画素ブロックまでの
累積符号量と、前記第1の符号化部により符号化された前記符号化対象画素ブロックの符
号量と、の和が、前記第1セグメントの目標符号量と前記複数の画素ブロックのうち前記
符号化対象画素ブロックより後に符号化される画素ブロックを前記第2の符号化部により
符号化することで発生する符号量との差よりも小さい場合には、前記第1の符号化ステッ
プを用いると判定する、画像符号化方法。 - 入力画像が有する第1セグメントに含まれる複数の画素ブロックそれぞれを符号化可能
な第1の符号化ステップと、
前記複数の画素ブロックそれぞれを予め定められた第1符号量で符号化可能な第2の符
号化ステップと、
前記複数の画素ブロックのうちの一つである符号化対象画素ブロックに対して前記第1
の符号化ステップと前記第2の符号化ステップのいずれを用いるかを判定する判定ステッ
プと、
を備え、
前記判定ステップでは、前記複数の画素ブロックのうち一番目に符号化された第1画素
ブロックから前記符号化対象画素ブロックの前に符号化された第3画素ブロックまでの累
積符号量と、前記第3画素ブロックの後前記符号化対象画素ブロックまでを前記第1の符
号部で符号化した場合の最大符号量と、の和が、前記第1セグメントの目標符号量と前記
複数の画素ブロックのうち前記符号化対象画素ブロックより後に符号化される画素ブロッ
クを前記第2の符号化部により符号化することで発生する符号量との差よりも小さい場合
には、前記第1の符号化ステップを用いると判定する、画像符号化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017101183A JP6360591B2 (ja) | 2017-05-22 | 2017-05-22 | 画像符号化装置、及びその方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017101183A JP6360591B2 (ja) | 2017-05-22 | 2017-05-22 | 画像符号化装置、及びその方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013051064A Division JP2014179707A (ja) | 2013-03-13 | 2013-03-13 | 画像符号化装置、及びその方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017200189A true JP2017200189A (ja) | 2017-11-02 |
JP6360591B2 JP6360591B2 (ja) | 2018-07-18 |
Family
ID=60239628
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017101183A Active JP6360591B2 (ja) | 2017-05-22 | 2017-05-22 | 画像符号化装置、及びその方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6360591B2 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001169281A (ja) * | 1999-12-13 | 2001-06-22 | Matsushita Electric Ind Co Ltd | 動画像符号化装置、および動画像符号化方法 |
JP2001285799A (ja) * | 2000-04-03 | 2001-10-12 | Nippon Telegr & Teleph Corp <Ntt> | 符号化制御方法,符号化制御装置および符号化制御のためのプログラム記録媒体 |
JP2008042943A (ja) * | 2002-03-28 | 2008-02-21 | Sony Corp | 画像圧縮符号化装置及び方法、プログラム、並びに記録媒体 |
JP2008271213A (ja) * | 2007-04-20 | 2008-11-06 | Hitachi Kokusai Electric Inc | 画像符号化装置 |
JP2010087770A (ja) * | 2008-09-30 | 2010-04-15 | Nec Electronics Corp | 画像符号化装置及び方法 |
WO2010041488A1 (ja) * | 2008-10-10 | 2010-04-15 | 株式会社東芝 | 動画像符号化装置 |
-
2017
- 2017-05-22 JP JP2017101183A patent/JP6360591B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001169281A (ja) * | 1999-12-13 | 2001-06-22 | Matsushita Electric Ind Co Ltd | 動画像符号化装置、および動画像符号化方法 |
JP2001285799A (ja) * | 2000-04-03 | 2001-10-12 | Nippon Telegr & Teleph Corp <Ntt> | 符号化制御方法,符号化制御装置および符号化制御のためのプログラム記録媒体 |
JP2008042943A (ja) * | 2002-03-28 | 2008-02-21 | Sony Corp | 画像圧縮符号化装置及び方法、プログラム、並びに記録媒体 |
JP2008271213A (ja) * | 2007-04-20 | 2008-11-06 | Hitachi Kokusai Electric Inc | 画像符号化装置 |
JP2010087770A (ja) * | 2008-09-30 | 2010-04-15 | Nec Electronics Corp | 画像符号化装置及び方法 |
WO2010041488A1 (ja) * | 2008-10-10 | 2010-04-15 | 株式会社東芝 | 動画像符号化装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6360591B2 (ja) | 2018-07-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100740381B1 (ko) | 디지털 신호 부호화 장치 및 디지털 신호 복호 장치 | |
JP5504336B2 (ja) | スケーラブルビデオ符号化方法、符号器及びコンピュータプログラム | |
JP6432662B2 (ja) | 映像符号化装置、映像符号化方法及びプログラム | |
JP5545783B2 (ja) | 画像シーケンスを表す符号化されたデータのストリームを復号する方法および画像シーケンスを符号化する方法 | |
US10205763B2 (en) | Method and apparatus for the single input multiple output (SIMO) media adaptation | |
KR20090024134A (ko) | 비디오 인코더용 스케일러블 레이트 제어 시스템 | |
JP2022516251A (ja) | ビデオ・コーディングのための方法、装置、及びコンピュータ・プログラム | |
JP2014179707A (ja) | 画像符号化装置、及びその方法 | |
CN107040780B (zh) | 在图像压缩中的熵编码的方法与装置 | |
JP2006080925A (ja) | 動画符号化装置、動画符号化方法および動画符号化プログラム | |
JP2023552923A (ja) | ビデオのトランスコード方法、装置、電子機器及び記憶媒体 | |
US10432946B2 (en) | De-juddering techniques for coded video | |
JP6360591B2 (ja) | 画像符号化装置、及びその方法 | |
KR102226893B1 (ko) | 영상 복호화 방법 및 이를 이용하는 장치 | |
US20220109891A1 (en) | Features of range asymmetric number system encoding and decoding | |
EP3440837A1 (en) | Methods, encoder, and transcoder for transcoding | |
JP2008271213A (ja) | 画像符号化装置 | |
JP6265414B2 (ja) | 映像符号化装置及び映像復号装置 | |
US9661323B2 (en) | Method of encoding picture and picture encoding device | |
JP5591838B2 (ja) | 画像符号化装置、及び方法 | |
JP2008283607A (ja) | 画像データトランスコーディング装置及びトランスコーディング方法 | |
JP6196117B2 (ja) | 画像符号化装置及び画像復号装置 | |
WO2014092434A2 (ko) | 비디오 부호화 방법 및 비디오 복호화 방법과 이를 이용하는 장치 | |
JP2010081508A (ja) | エンコーダ | |
CN105900447A (zh) | 处理具有场景变化的媒体内容 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180416 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180525 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180622 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6360591 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |