JP6207116B2 - 監視ビデオをエンコードするための方法及び装置 - Google Patents

監視ビデオをエンコードするための方法及び装置 Download PDF

Info

Publication number
JP6207116B2
JP6207116B2 JP2011025121A JP2011025121A JP6207116B2 JP 6207116 B2 JP6207116 B2 JP 6207116B2 JP 2011025121 A JP2011025121 A JP 2011025121A JP 2011025121 A JP2011025121 A JP 2011025121A JP 6207116 B2 JP6207116 B2 JP 6207116B2
Authority
JP
Japan
Prior art keywords
video frame
activity
encoding
predictable
inter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011025121A
Other languages
English (en)
Other versions
JP2011176811A (ja
Inventor
ピーター・ハンス・ウェスターインク
リーガン・ルー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2011176811A publication Critical patent/JP2011176811A/ja
Application granted granted Critical
Publication of JP6207116B2 publication Critical patent/JP6207116B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field

Description

本発明は、一般にビデオ符号化技術に関し、より具体的には、監視アプリケーションのような、低アクティビティのアプリケーションのためのビデオ符号化技術に関する。
ビデオ監視カメラは、警備及び交通モニタリングなどの多くのアプリケーションにおいて使用が増えている。ほとんどのアプリケーションにおいて、典型的にはアナログカメラが用いられている。アナログカメラは、非圧縮ビデオ画像を生成する。一方、デジタルカメラは、例えば、Motion JPEG(M−JPEG)又はH.264符号化標準を用いた圧縮信号を生成する。Motion JPEG符号化標準の場合、例えば、デジタルビデオシーケンスの各ビデオフレーム又はインターレース・フィールドは、JPEG画像として個別に圧縮される。
監視アプリケーションでは、典型的には、キャプチャされたビデオ画像を格納する必要がある。格納すべきビデオ画像は大量なので、ストレージのコストが重要な検討事項となる。従って、効率的なビデオ圧縮スキームは、いずれのビデオ・ストレージ・システムでも重要な構成要素である。Motion JPEG符号化標準の場合、各画像は、イントラフレーム符号化と呼ばれる技術を用いて、他の画像から独立して符号化される。イントラフレーム符号化の場合、圧縮技術は、現フレーム内に含まれる情報に対してのみ実行される(ビデオシーケンス内のその他のフレームに対して実行されることはない)。イントラフレーム符号化では、ビデオシーンの中のいずれの画像にも直接アクセスすることができるので、画像の編集といった後処理が容易になる。しかしながら、イントラフレーム符号化は、予測符号化又はインター符号化よりも多くのビットを使用する。
MPEG符号化のようなインターフレーム符号化の場合、ビデオ圧縮ストリームは、1つ又は複数の近隣フレームに関して表される。インターフレーム予測は、近隣フレーム間の時間的冗長性を活用し、それによって、より高い圧縮率を提供する。MPEG及びH.264などの既存のビデオ符号化技術は、本来、放送及びDVDアプリケーションのために開発されたものであり、周知のグループ・オブ・ピクチャ(GOP)技術を利用する。
GOP技術は、各イントラフレーム間のフレームの最大数を、15フレーム毎というように指定する。イントラ符号化フレームは、放送アプリケーションにおける迅速なチャネル変更並びにDVDアプリケーションにおける早送り及び巻き戻し検索のために必要とされる、エントリ・ポイントを提供する。各イントラフレーム間のフレームの最大数は、モニタされたシーンにおけるアクティビティのレベルが実のところイントラフレームを必要とするかどうかということを考慮にいれることなく、イントラ符号化フレームを周期的にエンコードする既存のビデオ符号化技術を要求する。従って、インターフレーム符号化であっても、連続したピクチャにおける高い時間的相関は完全には利用されず、結果的に圧縮性能が低下する。
「Information Technology−Generic Coding of Moving Pictures and Associated Audio Information」(動画信号及び付随する音響信号のはん用符号化) ISO/IEC13818−2
しかしながら、監視アプリケーションを含む多くのアプリケーションにおいては、モニタされるシーンのアクティビティは小さいことが多い。従って、監視ビデオ、並びに高速の編集及びチャネル切り替えを必ずしも必要としない低アクティビティ・アプリケーションに由来するビデオの符号化及び圧縮のための改善された技術が必要とされている。連続したインター符号化フレームの最大数を有する固定GOP構造又は適応GOP構造を必要としない、ビデオ符号化のための改善された技術が更に必要とされている。
一般に、監視ビデオのようなビデオをエンコードするための方法及び装置が提供される。本発明の一態様によれば、ビデオフレームにおけるアクティビティのレベルを1つ又は複数の隣接フレームに対して評価することと、評価が1つ又は複数の所定のインター符号化基準を満たす場合にインター符号化技術を用いてビデオフレームをエンコードすることであって、インター符号化技術がグループ・オブ・ピクチャ制約条件なしでビデオフレームに適用される、エンコードすることと、評価が1つ又は複数の所定のイントラ符号化基準を満たす場合にイントラ符号化技術を用いてビデオフレームをエンコードすることによって、ビデオフレームをエンコードするための方法が提供される。
評価ステップは、例えば、ビデオフレームと1つ又は複数の近隣フレームとの間の差分が所定の閾値を上回るかどうかを判定することを含むことができる。1つの実施において、評価ステップは、2つのフレーム間の画素差分を合計し、その合計を所定の閾値と比較することによって、ビデオフレームにおけるアクティビティを評価する。例えば、アクティビティのレベルは、差分閾値化、動き推定及び動き補償のうちの1つ又は複数を用いて評価することができる。所定のインター符号化基準及びイントラ符号化基準は、例えば、差分が所定の基準を満たすかどうかということを含むものとすることができる。本明細書で用いられる場合、「差分閾値化」という用語は、差分値の集合全体にわたる関数として計算される値が特定の閾値を上回るか否かを検査することを示すものとする。
ビデオフレームにおける予測可能なアクティビティが所定の基準を満たす場合、動き推定付きインター符号化技術を用いてビデオフレームをエンコードすることができる。ビデオフレームにおける予測可能なアクティビティが所定の基準を満たさない場合、イントラ符号化技術を用いてビデオフレームをエンコードすることができる。ビデオフレームにおける予測可能なアクティビティは、前フレームと動き補償された入力フレームとの間の画素差分を合計することによって評価することができる。
本発明の別の態様によれば、ビデオフレームにおけるアクティビティのレベルを1つ又は複数の近隣フレームに対して評価することと、評価が1つ又は複数の所定のインター符号化基準を満たす場合にインター符号化技術を用いてビデオフレームをエンコードすることと、評価されたアクティビティのレベルが所定の閾値を上回る場合にのみ、イントラ符号化技術を用いてビデオフレームをエンコードすることによって、ビデオフレームをエンコードするための方法が提供される。
本発明のより完全な理解、並びに本発明の更なる特徴及び利点は、以下の詳細な説明及び図面を参照することによって得られるであろう。
周知のグループ・オブ・ピクチャ(GOP)技術を用いる、ビデオを符号化するための従来のM−JPEG技術を示す。 本発明の実施形態による、低アクティビティ画像を符号化するための符号化プロセスの例示的な実施を説明するフローチャートである。 本発明の代替的な実施形態による、低アクティビティ画像を符号化するための符号化プロセスの例示的な実施を説明するフローチャートである。 本発明の1つ又は複数の態様及び/又は要素を実施することができるコンピュータ・システムを示す。
本発明は、監視ビデオ、並びに頻繁な編集及び/又は高速のチャネル切り替えを必要としないその他の低アクティビティ・アプリケーションに由来するビデオの符号化及び圧縮のための改善された技術を提供する。本発明は、低アクティビティ期間中に記録されたビデオシーケンスをより効率的に圧縮して、ストレージのコストを著しく節約することができることを認識する。本発明は、従来技術の方法よりも効率的に時間的相関を利用することができる、監視アプリケーションのビデオ符号化のための方法及びシステムを提供する。開示されるビデオ符号化技術は、エンコーダ出力のビットレート、ひいてはストレージ・サイズを著しく削減する。
グループ・オブ・ピクチャ技術
図1は、周知のグループ・オブ・ピクチャ(GOP)技術を用いた、ビデオを符号化するための従来のM−JPEG技術を示す。図1に示されるように、GOP構造110は、イントラフレーム及びインターフレームが配置される順序を指定する。GOP110は、符号化されたビデオストリーム100内の一群の連続した画像120−1乃至120−Nである。各々の符号化されたビデオストリーム100は、連続したGOP110から成る。例示的なグループ・オブ・ピクチャ技術のより詳細な考察については、例えば、引用によりここに組み込まれる非特許文献1を参照されたい。
図1に示されるように、例示的なGOP110は、以下の画像タイプを含む。即ち、
I − I画像又はIフレーム(イントラ符号化画像)−符号化されたビデオフレームを表し、且つ他の画像タイプから独立した参照画像。Iフレームは、完全な画像を含み、画像を再構成するためにいかなる付加的な情報も必要としない。各GOP110は、I画像から始まる。
P − P画像又はPフレーム(予測符号化画像)−先行のIフレーム又はPフレームからの動き補償された差分情報を含む画像。
B − B画像又はBフレーム(両方向予測符号化画像)−GOP110内の先行及び後続のIフレーム又はPフレームからの差分情報を含む画像。
一般に、あるGOP構造110内の誤りが次のGOP内へと伝搬することは、次のIフレームによって防止される。また、ビデオストリーム内のIフレームの数が増加すると、ストリームを編集する能力、及びこのストリームに切り替わる能力が増す。しかしながら、Iフレームの数が増加すると、ストリームのサイズが増大する。帯域幅及びディスク空間を節約するために、多くのアプリケーションは、GOP110当たりIフレームを1つだけ使用する。
Pフレームと同様に、Bフレームも、予測を行うために予測補正を記述する動きベクトル及び変換係数を必要とする。大きな伝搬誤差を回避するために、Bフレームは、いかなる種類の予測を行うための参照としても用いられない。
低アクティビティ画像シーケンスの改善された符号化
上述のように、監視アプリケーションのような多くのアプリケーションにおいては、かなり長期間にわたってアクティビティを無視できることが多い。例えば、夜間においては、監視アプリケーションによってモニタされるシーンは静止したままであることが多い。監視カメラによってモニタされたシーンが静止したままであり、数秒間、さらには数分間もの間隔をおいた2つのフレームが実質的に同一であることがある。本発明の一態様によれば、アクティビティが無視できる期間については、イントラ符号化フレームを規則的に挿入するのではなく、可能であるときにはいつでもインターフレーム符号化を用いてビデオソースが圧縮される。この方式で、多数の不必要なイントラ符号化フレームが回避され、帯域幅及びストレージ利用率はより効率的になる。
1つの例示的な実施において、本発明は以下のステップを含む。即ち、
1.次のビデオフレーム(ピクチャ)を符号化する前に、そのフレームが1つ又は複数の近隣参照(イン・タイム)フレームとの有意な差分を含むかどうかを判定する(近隣参照フレームは、イン・タイムに直に隣接している必要はないことが注目される)。参照フレームは、上記のようにIフレーム又はPフレームのいずれかである。
2.1つ又は複数の近隣参照フレームとの有意な差分がないと判定された場合に、現フレームをインター符号化を用いてエンコードし、そのエンコーディング方法がスキップ・モードを備えるならば、スキップ・モードを用いてフレームをエンコードすることを随意に含む。
3.有意な差分がある場合にのみ、現フレームをイントラ符号化フレームとしてエンコードする。
図2は、本発明の実施形態による、低アクティビティ画像を符号化するための符号化プロセス200の例示的な実施を説明するフローチャートである。図2に示されるように、符号化プロセス200は、カメラからビデオ画像を受信し、ステップ210において、受信ビデオが圧縮されているかどうかを判定する検査を最初に行う。ステップ210において受信ビデオが圧縮されていると判定された場合には、受信ビデオは、ステップ215においてデコードされ、ステップ220においてフレーム・バッファ内に格納される。
ステップ230において、フレームにおけるアクティビティが所定の閾値を上回るかどうかを判定する検査が行われる。1つの例示的な実施においては、ステップ230において動き推定(ME)及び動き補償フレーム差分(MCFD)を用いて、現フレームが隣接する参照フレームと有意に異なるかどうかを判定する。隣接する参照フレームは、MCFDを最小化するものであれば、1つ若しくは複数の前フレーム、又は1つ若しくは複数の将来フレーム、又は1つ若しくは複数の前フレーム及び将来フレームの両方のいずれであってもよい。
ステップ230においてフレームにおけるアクティビティが所定の閾値を上回らないと判定された場合には、受信ビデオはステップ235において動き推定及び/又は補償なしのインター符号化を用いて符号化され、次にプログラムの制御は後述のステップ260に進む。
しかしながら、ステップ230においてフレームにおけるアクティビティが所定の閾値を上回ると判定された場合には、ステップ240においてアクティビティ分析が行われる。次に、ステップ245において、フレームにおけるアクティビティが予測可能であるかどうかを判定する検査が行われる。予測可能性は、例えば、動き推定プロシージャを実行することによって評価することができ、動き推定プロシージャは、典型的には、動き補償のために用いられる動きベクトルの集合、並びに残存予測誤差の尺度を生成する。それゆえ、動き推定装置は、予測可能性評価装置として用いることができる。予測技術は、差分閾値化、並びに動き推定及び動き補償を含む。
ステップ245において、フレームにおけるアクティビティが予測可能であると判定された場合には、受信ビデオは、ステップ250において動き推定及び予測付きのインター符号化を用いて符号化され、次にプログラムの制御は後述のステップ260に進む。しかしながら、ステップ245においてフレームにおけるアクティビティが予測可能ではないと判定された場合には、受信ビデオは、プログラムの制御がステップ260に進む前に、ステップ255においてイントラ符号化を用いて符号化される。エンコードされたビットストリームは、ステップ260において格納される。
図3は、本発明の代替的な実施形態による、低アクティビティ画像を符号化するための符号化プロセス300の例示的な実施を説明するフローチャートである。図3に示されるように、符号化プロセス300は、カメラからビデオ画像を受信し、ステップ310において、受信ビデオが圧縮されているかどうかを判定する検査を最初に行う。ステップ310において受信ビデオが圧縮されていると判定された場合には、受信ビデオはステップ315においてデコードされ、ステップ320においてフレーム・バッファ内に格納される。
ステップ330において、2つのフレーム(n)と(n−1)との間の画素差分Fを合計し、その合計を閾値Tと比較することによって、入力フレームのアクティビティを評価する検査が行われる。ステップ330においてフレームのアクティビティが閾値を上回らないと判定された場合には、受信ビデオはステップ340において動き推定及び/又は動き補償なしのインター符号化を用いて符号化され、次にプログラムの制御は後述のステップ370に進む。しかしながら、ステップ330においてフレームのアクティビティが閾値を上回ると判定された場合には、ステップ345において動き推定分析が行われ、フレームにおけるアクティビティを評価する。
ステップ350において、前フレームと動き補償された入力フレームとの間の画素差分を合計することによって、アクティビティの予測可能性を評価する検査が行われる。この合計が閾値を下回る場合には、フレームは予測可能であると見なされ、そうでない場合には、フレームは予測可能であると見なされない。
ステップ350において、フレームにおけるアクティビティが予測可能であると判定された場合には、受信ビデオは、ステップ355において動き推定及び予測付きのインター符号化を用いて符号化され、次にプログラムの制御は後述のステップ370に進む。しかしながら、ステップ350においてフレームにおけるアクティビティが予測可能ではないと判定された場合には、受信ビデオは、プログラムの制御がステップ370に進む前に、ステップ360においてイントラ符号化を用いて符号化される。エンコードされたビットストリームは、ステップ370において格納される。
例示的なシステム及び製品の詳細
当業者により認識されるように、本発明の態様は、システム、方法又はコンピュータ・プログラムとして具体化することができる。従って、本発明の態様は、完全にハードウェアの実施形態、完全にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコード等を含む)、又はソフトウェアの態様とハードウェアの態様とを組み合わせた実施形態の形態をとることができ、これらはすべて本明細書において一般的に「回路」、「モジュール」若しくは「システム」と呼ばれることがある。さらに、本発明の態様は、具体化されたコンピュータ可読プログラム・コードをその中に有する1つ又は複数のコンピュータ可読媒体内に具体化されたコンピュータ・プログラムの形態をとることができる。
本発明の1つ若しくは複数の実施形態又はその要素は、メモリと、メモリに結合され、例示的な方法ステップを行うように動作する少なくとも1つのプロセッサとを含む装置の形態で実装することができる。
1つ又は複数の実施形態は、汎用コンピュータ又はワークステーション上で実行されるソフトウェアを利用することができる。図4は、本発明の1つ又は複数の態様及び/又は要素を実装するのに有用であり得るコンピュータ・システム400を示す。図4を参照すると、そのような実装は、例えば、プロセッサ402と、メモリ404と、例えばディスプレイ406及びキーボード408によって形成される入力/出力インターフェースとを用いることができる。本明細書で用いられる「プロセッサ」という用語は、あらゆる処理デバイス、例えば、CPU(中央処理ユニット)及び/又は他の形態の処理回路を含む処理デバイスを含むことを意図する。さらに、「プロセッサ」という用語は、1つよりも多くの個別のプロセッサを指すことができる。「メモリ」という用語は、例えば、RAM(ランダム・アクセス・メモリ)、ROM(読み取り専用メモリ)、固定メモリ・デバイス(例えば、ハード・ドライブ)、取り外し可能なメモリ・デバイス(例えば、ディスケット)、フラッシュ・メモリ等のような、プロセッサ又はCPUに関連付けられたメモリを含むことを意図する。さらに、本明細書で用いられる「入力/出力インターフェース」という語句は、例えば、処理ユニットにデータを入力するための1つ又は複数の機構(例えば、マウス)、並びに、処理ユニットに関連付けられた結果を提供するための1つ又は複数の機構(例えば、プリンタ)を含むことを意図する。プロセッサ402、メモリ404、並びにディスプレイ406及びキーボード408のような入力/出力インターフェースは、例えばバス410を介して、データ処理ユニット412の一部として相互接続することができる。例えばバス410を介した適切な相互接続を、コンピュータ・ネットワークとのインターフェースを提供することができるネットワーク・カードのようなネットワーク・インターフェース414に対して、及び媒体418とのインターフェースを提供することができるディスケット又はCD−ROMドライブのような媒体インターフェース416に対して設けることもできる。
アナログビデオフィードのようなアナログ入力を受信し、且つそれをデジタル化するために、アナログ−デジタル変換器420を設けることができる。このような変換器をシステム・バス410と相互接続させることができる。
従って、本発明の方法をここで説明されたように行うための命令又はコードを含むコンピュータ・ソフトウェアを、1つ又は複数の関連付けられたメモリ・デバイス(例えば、ROM、固定又は取り外し可能なメモリ)内に格納し、利用準備ができたときに一部又は全部を(例えば、RAM内に)ロードし、CPUによって実施することができる。このようなソフトウェアは、ファームウェア、常駐ソフトウェア、マイクロコード等を含むことができるがこれらに限定されない。
プログラム・コードを格納及び/又は実行するのに適したデータ処理システムは、システム・バス410を通じてメモリ要素404に直接又は間接的に結合された少なくとも1つのプロセッサ402を含む。メモリ要素は、プログラム・コードの実際の実施中に用いられるローカルメモリ、大容量記憶装置、及び、実施中に大容量記憶装置からコードを読み出さなければならない回数を減らすために少なくとも幾つかのプログラム・コードの一時的なストレージを提供するキャッシュ・メモリを含むことができる。
入力/出力デバイス即ちI/Oデバイス(キーボード408、ディスプレイ406、ポインティング・デバイス等を含むがこれらに限定されない)は、直接(例えばバス410を介して)システムに結合することもでき、又は介在するI/Oコントローラ(明確にするために省略)を通じてシステムに結合することもできる。
ネットワーク・インターフェース414のようなネットワーク・アダプタをシステムに結合させて、データ処理システムが、介在する私設ネットワーク又は公衆ネットワークを通じて他のデータ処理システム又は遠隔プリンタ若しくはストレージ・デバイスに結合できるようにすることもできる。モデム、ケーブル・モデム及びイーサネット・カードは、現在入手可能なネットワーク・アダプタのタイプのうちのほんの数例である。
特許請求の範囲を含めた本明細書で用いられる場合、「サーバ」は、サーバ・プログラムを実行する物理的データ処理システム(例えば、図4に示されるようなシステム412)を含む。そのような物理的サーバは、ディスプレイ及びキーボードを含む場合も、含まない場合もあることが理解されよう。
上記のように、本発明の態様は、具体化されたコンピュータ可読プログラム・コードをその中に有する1つ又は複数のコンピュータ可読媒体内に具体化されたコンピュータ・プログラムの形態をとることができる。1つ又は複数のコンピュータ可読媒体のあらゆる組み合わせを用いることができる。コンピュータ可読媒体は、コンピュータ可読信号媒体であってもよく、又はコンピュータ可読ストレージ媒体であってもよい。コンピュータ可読ストレージ媒体は、例えば、電子的、磁気的、光学的、電磁的、赤外線若しくは半導体のシステム、装置若しくはデバイス、又はそれらのいずれかの適切な組み合わせとすることができるがこれらに限定されない。媒体ブロック418は、非限定的な例である。コンピュータ可読ストレージ媒体のより具体的な例(非網羅的なリスト)は、以下もの、即ち、1つ又は複数のワイヤを有する電気的接続、ポータブル・コンピュータ・ディスケット、ハード・ディスク、ランダム・アクセス・メモリ(RAM)、読み取り専用メモリ(ROM)、消去可能なプログラム可能読み取り専用メモリ(EPROM又はフラッシュ・メモリ)、光ファイバ、ポータブル・コンパクト・ディスク型読み取り専用メモリ(CD−ROM)、光ストレージ・デバイス、磁気ストレージ・デバイス、又はそれらのいずれかの適切な組み合わせを含む。本文書の文脈において、コンピュータ可読ストレージ媒体は、命令実行システム、装置若しくはデバイスによって用いられるプログラム又はそれらに関連して用いられるプログラムを収容又は格納することができる、いずれかの有形媒体とすることができる。
コンピュータ可読信号媒体は、具体化されたコンピュータ可読プログラム・コードを例えばベースバンド内に又は搬送波の一部としてその中に有する、伝搬データ信号を含むことができる。このような伝搬信号は、電磁的形態、光学的形態又はこれらのいずれかの適切な組み合わせを含む種々の形態のうちのいずれの形態をとることもできるが、それらに限定されない。コンピュータ可読信号媒体は、コンピュータ可読ストレージ媒体ではなく、且つ、命令実行システム、装置若しくはデバイスによって用いられるプログラム又はそれらに関連して用いられるプログラムを伝達、伝搬又伝送することができる、いずれかのコンピュータ可読媒体とすることができる。
コンピュータ可読媒体上に具体化されたプログラム・コードは、無線、有線、光ファイバケーブル、RF等、又はこれらのいずれかの適切な組み合わせを含むがそれらに限定されない、いずれかの適切な媒体を用いて送信することができる。
本発明の態様に関する動作を遂行するためのコンピュータ・プログラム・コードは、Java、Smalltalk、C++等のようなオブジェクト配向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続き型プログラミング言語を含む、1つ又は複数のプログラミング言語のいずれかの組み合わせで記述することができる。プログラム・コードは、独立したソフトウェア・パッケージとして、全体がユーザのコンピュータ上で実行される場合もあり、一部がユーザのコンピュータ上で実行される場合もあり、一部がユーザのコンピュータ上で実行され、一部が遠隔コンピュータ上で実行される場合もあり、又は全体が遠隔コンピュータ又はサーバ上で実行される場合もある。一番最後のシナリオの場合、遠隔コンピュータは、ローカル・エリア・ネットワーク(LAN)又は広域ネットワーク(WAN)を含むいずれかのタイプのネットワークを通じてユーザのコンピュータに接続される場合もあり、又は外部コンピュータへの接続がなされる場合もある(例えば、インターネット・サービス・プロバイダを用いたインターネットを通じて)。
本発明の態様は、以下、本発明の実施形態による方法、装置(システム)及びコンピュータ・プログラムのフローチャート図及び/又はブロック図を参照しながら説明される。フローチャート図及び/又はブロック図の各ブロック、並びにフローチャート図及び/又はブロック図内のブロックの組み合わせは、コンピュータ・プログラム命令によって実施することができることが理解される。これらのコンピュータ・プログラム命令を、機械を製造するために汎用コンピュータ、専用コンピュータ、又は他のプログラム可能データ処理装置のプロセッサに提供し、これにより、コンピュータ又は他のプログラム可能データ処理装置のプロセッサによって実行される命令がフローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施するための手段を作り出すようにさせることができる。
これらのコンピュータ・プログラム命令を、コンピュータ、他のプログラム可能データ処理装置又は他のデバイスを特定の方式で機能させるように指示することができるコンピュータ可読媒体内に格納し、これにより、そのコンピュータ可読媒体内に格納された命令がフローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施する命令を含む製品を製造するようにさせることもできる。
コンピュータ・プログラム命令をコンピュータ、他のプログラム可能データ処理装置、又は他のデバイス上にロードして、一連の動作ステップをコンピュータ、他のプログラム可能装置又は他のデバイス上で実行させて、コンピュータ実施プロセスを生成し、これにより、コンピュータ又は他のプログラム可能装置上で実行される命令がフローチャート及び/又はブロック図の1つ又は複数のブロックにおいて指定された機能/動作を実施するためのプロセスを提供するようにさせることもできる。
図面内のフローチャート及びブロック図は、本発明の種々の実施形態によるシステム、方法及びコンピュータ・プログラムの可能な実装のアーキテクチャ、機能及び動作を示す。この点に関して、フローチャート又はブロック図内の各ブロックは、指定された論理関数を実施するための1つ又は複数の実行可能な命令を含むモジュール、セグメント又はコードの一部を表すことができる。幾つかの代替的な実装において、ブロック内に記された機能は、図面内に記された順序とは異なる順序で行われることもあることにも留意されたい。例えば、連続して示された2つのブロックが実際には実質的に同時に実行されることもあり、又は、それらのブロックは、関与する機能に応じて、ときには逆順で実行されることもある。ブロック図及び/又はフローチャート図の各ブロック、並びにブロック図及び/又はフローチャート図内のブロックの組み合わせは、指定された機能又は動作を実行する専用ハードウェアベースのシステム、又は専用ハードウェアとコンピュータ命令との組み合わせによって実装することができることにも留意されたい。
本明細書において説明された方法ステップは、例えば、本明細書において説明されるように、そのようなステップを実行するようにプログラムされた汎用コンピュータ、又はそのようなステップを実行するためのハードウェアと連携させることができる。さらに、例えばデータ・ストリームを取得すること及びストリームをエンコードすることを含む、本明細書において説明された方法ステップは、カメラ又はマイクロフォンのような、データ・ストリームがそこから取得される物理センサと連携させることもできる。
本明細書において説明された方法はいずれも、コンピュータ可読ストレージ媒体上に具体化される別個のソフトウェア・モジュールを含むシステムを提供する付加的なステップを含むことができることに留意されたい。それゆえ、方法ステップは、上述のように、1つ又は複数のハードウェア・プロセッサ402上で実行されるシステムの別個のソフトウェア・モジュール及び/又はサブ・モジュールを用いて遂行することができる。場合によっては、本明細書において説明された1つ又は複数の機能を実施するために、特化されたハードウェアを用いることができる。さらに、コンピュータ・プログラムは、別個のソフトウェア・モジュールを備えたシステムの提供を含めた本明細書において説明される1つ又は複数の方法ステップを遂行するために実装されるように適合されたコードを有する、コンピュータ可読ストレージ媒体を含むことができる。
いずれにせよ、本明細書において例示されたコンポーネントは、ハードウェア、ソフトウェア、又はそれらの組み合わせ、例えば、特定用途向け集積回路(ASICS)、機能回路、関連付けられたメモリを有する1つ又は複数の適切にプログラムされた汎用デジタル・コンピュータ等の様々な形態で実装することができることを理解されたい。本明細書において提供された本発明の教示が与えられれば、当業者は、本発明のコンポーネントの他の実装を企図することができる。
本明細書において用いられる用語は、特定の実施形態を説明することのみを目的とし、本発明を限定することを意図していない。本明細書で用いられる場合、単数形の「1つの(a、an)」及び「その(the)」は、文脈が明確に他の場合を指示していない限り、複数形をも含むことを意図している。「含む(comprises)」及び/又は「含んでいる(comprising)」という用語は、本明細書において用いられる場合、述べられた特徴、整数、ステップ、動作、要素及び/又はコンポーネントの存在を特定するが、1つ又は複数の他の特徴、整数、ステップ、操作、要素、コンポーネント及び/又はそれらの群の存在又は付加を排除するものではないこともさらに理解されよう。
下記の特許請求の範囲における全ての機能付き手段(ミーンズ・プラス・ファンクション)又は機能付き工程(ステップ・プラス・ファンクション)の対応する構造、材料、動作及び均等物は、具体的に請求される他の請求要素と組み合わされて本機能を実施するためのいずれかの構造、材料又は動作を含むことを意図している。本発明の記載は、例示及び説明の目的で提示されたが、網羅的であることを意図するものでも、開示された形態の発明に限定することを意図するものでもない。当業者であれば、本発明の範囲及び真意から逸脱することなく、多くの修正及び変形が明らかであろう。実施形態は、本発明の原理及び実際の適用を最も良く説明し、且つ、その他の当業者が企図される特定の使用に適した種々の修正を伴う種々の実施形態について本発明を理解できるように、選択され、説明された。
100:符号化されたビデオストリーム
110:GOP構造
120:画像
200、300:符号化プロセス
400:コンピュータ・システム
410:バス
412:データ処理ユニット
414:ネットワーク・インターフェース

Claims (5)

  1. ビデオフレームをエンコードするための方法であって、
    ビデオフレームにおけるアクティビティのレベルを1つ又は複数の近隣フレームに対して評価するステップであって、前記ビデオフレームと前記1つ又は複数の近隣フレームとの間の差分が所定の閾値を上回るかどうかを判定することを含む、評価するステップと、
    前記アクティビティのレベルが所定の閾値を越えない場合に、動き推定及び/又は動き補償なしのインター符号化技術を用いて前記ビデオフレームをエンコードするステップであって、前記インター符号化技術が連続するインター符号化フレームの最大数を含むグループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用される、エンコードするステップと、
    前記アクティビティのレベルが所定の閾値を越える場合に、前記ビデオフレームにおけるアクティビティが予測可能であるか否かを判定するステップと、
    前記ビデオフレームにおけるアクティビティが予測可能である場合に、動き推定及び/又は動き補償付きのインター符号化技術を前記グループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用して前記ビデオフレームをエンコードするステップと、
    前記ビデオフレームにおけるアクティビティが予測可能でない場合に、イントラ符号化技術を用いて前記ビデオフレームをエンコードするステップと、を含む方法。
  2. ビデオフレームをエンコードするための方法であって、
    ビデオフレームにおけるアクティビティのレベルを1つ又は複数の近隣フレームに対して評価するステップであって、2つのフレーム間の画素差分を合計し、前記合計を所定の閾値と比較することによって、前記ビデオフレームにおけるアクティビティを評価することを含む、評価するステップと、
    前記アクティビティのレベルが所定の閾値を越えない場合に、動き推定及び/又は動き補償なしのインター符号化技術を用いて前記ビデオフレームをエンコードするステップであって、前記インター符号化技術が連続するインター符号化フレームの最大数を含むグループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用される、エンコードするステップと、
    前記アクティビティのレベルが所定の閾値を越える場合に、前記ビデオフレームにおけるアクティビティが予測可能であるか否かを判定するステップと、
    前記ビデオフレームにおけるアクティビティが予測可能である場合に、動き推定及び/又は動き補償付きのインター符号化技術を前記グループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用して前記ビデオフレームをエンコードするステップと、
    前記ビデオフレームにおけるアクティビティが予測可能でない場合に、イントラ符号化技術を用いて前記ビデオフレームをエンコードするステップと、を含む方法。
  3. 前記ビデオフレームにおけるアクティビティが予測可能であるか否かを判定するステップが、動き補償のために用いられる動きベクトルの集合及び残存予測誤差の尺度を生成することを含む動き推定プロシージャを実行するステップを含む、請求項1または2に記載の方法。
  4. ビデオフレームをエンコードするためのコンピュータ・プログラムであって、
    前記コンピュータ・プログラムは、コンピュータによって実行されるコンピュータ可読プログラム・コードを有し、前記コンピュータ可読プログラム・コードが、
    ビデオフレームにおけるアクティビティのレベルを1つ又は複数の近隣フレームに対して評価するように構成されたコンピュータ可読プログラム・コードであって、前記評価が前記ビデオフレームと前記1つ又は複数の近隣フレームとの間の差分が所定の閾値を上回るかどうかを判定することを含む、コンピュータ可読プログラム・コードと、
    前記アクティビティのレベルが所定の閾値を越えない場合に、動き推定及び/又は動き補償なしのインター符号化技術を用いて前記ビデオフレームをエンコードするように構成されたコン ピュータ可読プログラム・コードであって、前記インター符号化技術が連続するインター符号化フレームの最大数を含むグループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用される、コンピュータ可読プログラム・コードと、
    前記アクティビティのレベルが所定の閾値を越える場合に、前記ビデオフレームにおけるアクティビティが予測可能であるか否かを判定するように構成されたコンピュータ可読プログラム・コードと、
    前記ビデオフレームにおけるアクティビティが予測可能である場合に、動き推定及び/又は動き補償付きのインター符号化技術を前記グループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用して前記ビデオフレームをエンコードするように構成されたコンピュータ可読プログラム・コードと、
    前記ビデオフレームにおけるアクティビティが予測可能でない場合に、イントラ符号化技術を用いて前記ビデオフレームをエンコードするように構成されたコンピュータ可読プログラム・コードと、を含むコンピュータ・プログラム。
  5. ビデオフレームをエンコードするための装置であって、
    メモリと、
    前記メモリに結合された少なくとも1つのプロセッサとを含み、前記少なくとも1つのプロセッサが、
    ビデオフレームにおけるアクティビティのレベルを1つ又は複数の近隣フレームに対して評価し、当該評価が前記ビデオフレームと前記1つ又は複数の近隣フレームとの間の差分が所定の閾値を上回るかどうかを判定することを含み、
    前記アクティビティのレベルが所定の閾値を越えない場合に、動き推定及び/又は動き補償なしのインター符号化技術を用いて前記ビデオフレームをエンコードし、前記インター符号化技術が連続するインター符号化フレームの最大数を含むグループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用され、
    前記アクティビティのレベルが所定の閾値を越える場合に、前記ビデオフレームにおけるアクティビティが予測可能であるか否かを判定し、
    前記ビデオフレームにおけるアクティビティが予測可能である場合に、動き推定及び/又は動き補償付きのインター符号化技術を前記グループ・オブ・ピクチャ制約条件なしで前記ビデオフレームに適用して前記ビデオフレームをエンコードし、
    前記ビデオフレームにおけるアクティビティが予測可能でない場合に、イントラ符号化技術を用いて前記ビデオフレームをエンコードする、装置。
JP2011025121A 2010-02-25 2011-02-08 監視ビデオをエンコードするための方法及び装置 Active JP6207116B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/712717 2010-02-25
US12/712,717 US9426477B2 (en) 2010-02-25 2010-02-25 Method and apparatus for encoding surveillance video

Publications (2)

Publication Number Publication Date
JP2011176811A JP2011176811A (ja) 2011-09-08
JP6207116B2 true JP6207116B2 (ja) 2017-10-04

Family

ID=44476474

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011025121A Active JP6207116B2 (ja) 2010-02-25 2011-02-08 監視ビデオをエンコードするための方法及び装置

Country Status (2)

Country Link
US (1) US9426477B2 (ja)
JP (1) JP6207116B2 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8467623B2 (en) * 2010-03-26 2013-06-18 Brain Corporation Invariant pulse latency coding systems and methods systems and methods
US9405975B2 (en) 2010-03-26 2016-08-02 Brain Corporation Apparatus and methods for pulse-code invariant object recognition
US9152915B1 (en) 2010-08-26 2015-10-06 Brain Corporation Apparatus and methods for encoding vector into pulse-code output
US9047568B1 (en) 2012-09-20 2015-06-02 Brain Corporation Apparatus and methods for encoding of sensory data using artificial spiking neurons
US9224090B2 (en) 2012-05-07 2015-12-29 Brain Corporation Sensory input processing apparatus in a spiking neural network
US9412041B1 (en) 2012-06-29 2016-08-09 Brain Corporation Retinal apparatus and methods
US9311594B1 (en) 2012-09-20 2016-04-12 Brain Corporation Spiking neuron network apparatus and methods for encoding of sensory data
US9218563B2 (en) 2012-10-25 2015-12-22 Brain Corporation Spiking neuron sensory processing apparatus and methods for saliency detection
US9275326B2 (en) 2012-11-30 2016-03-01 Brain Corporation Rate stabilization through plasticity in spiking neuron network
US20140152848A1 (en) * 2012-12-04 2014-06-05 Nvidia Corporation Technique for configuring a digital camera
US9177245B2 (en) 2013-02-08 2015-11-03 Qualcomm Technologies Inc. Spiking network apparatus and method with bimodal spike-timing dependent plasticity
US9436909B2 (en) 2013-06-19 2016-09-06 Brain Corporation Increased dynamic range artificial neuron network apparatus and methods
US9239985B2 (en) 2013-06-19 2016-01-19 Brain Corporation Apparatus and methods for processing inputs in an artificial neuron network
US9552546B1 (en) 2013-07-30 2017-01-24 Brain Corporation Apparatus and methods for efficacy balancing in a spiking neuron network
US9939253B2 (en) 2014-05-22 2018-04-10 Brain Corporation Apparatus and methods for distance estimation using multiple image sensors
US10194163B2 (en) * 2014-05-22 2019-01-29 Brain Corporation Apparatus and methods for real time estimation of differential motion in live video
US9713982B2 (en) 2014-05-22 2017-07-25 Brain Corporation Apparatus and methods for robotic operation using video imagery
US9848112B2 (en) 2014-07-01 2017-12-19 Brain Corporation Optical detection apparatus and methods
US10057593B2 (en) 2014-07-08 2018-08-21 Brain Corporation Apparatus and methods for distance estimation using stereo imagery
US10032280B2 (en) 2014-09-19 2018-07-24 Brain Corporation Apparatus and methods for tracking salient features
US9881349B1 (en) 2014-10-24 2018-01-30 Gopro, Inc. Apparatus and methods for computerized object identification
US10197664B2 (en) 2015-07-20 2019-02-05 Brain Corporation Apparatus and methods for detection of objects using broadband signals
CN106559632B (zh) * 2015-09-30 2021-02-12 杭州萤石网络有限公司 一种多媒体文件的存储方法及装置
CN107483954B (zh) * 2017-08-11 2019-12-03 电子科技大学 基于多元线性回归的视频编码帧间预测方法
WO2020115520A1 (en) * 2018-12-02 2020-06-11 Playsight Interactive Ltd. Ball tracking in sport events
US11259035B2 (en) * 2019-03-15 2022-02-22 Ati Technologies Ulc Macroblock coding type prediction
GB2584315B (en) * 2019-05-30 2022-01-05 Seequestor Ltd Control system and method

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000261809A (ja) 1999-03-05 2000-09-22 Kdd Corp 画像特徴に応じた画像符号化装置
US20030107648A1 (en) 2001-12-12 2003-06-12 Richard Stewart Surveillance system and method with adaptive frame rate
GB0222562D0 (en) * 2002-09-28 2002-11-06 Koninkl Philips Electronics Nv Method and apparatus for encoding image and or audio data
JP2004266720A (ja) 2003-03-04 2004-09-24 Ishikawajima Harima Heavy Ind Co Ltd 画像圧縮装置、画像圧縮方法及び画像圧縮プログラム
US7697026B2 (en) 2004-03-16 2010-04-13 3Vr Security, Inc. Pipeline architecture for analyzing multiple video streams
JP4529615B2 (ja) 2004-09-24 2010-08-25 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
US8948266B2 (en) * 2004-10-12 2015-02-03 Qualcomm Incorporated Adaptive intra-refresh for digital video encoding
US20090080519A1 (en) 2004-10-18 2009-03-26 Electronics And Telecommunications Research Institute Method for encoding/decoding video sequence based on mctf using adaptively-adjusted gop structure
US8184702B2 (en) 2004-11-01 2012-05-22 Electronics And Telecommunications Research Institute Method for encoding/decoding a video sequence based on hierarchical B-picture using adaptively-adjusted GOP structure
US9602840B2 (en) 2006-02-06 2017-03-21 Thomson Licensing Method and apparatus for adaptive group of pictures (GOP) structure selection
US20080218590A1 (en) * 2007-03-08 2008-09-11 Sang Jun Park Method and system for multiple-codec surveillance video storage and retrieval
US20080232468A1 (en) 2007-03-21 2008-09-25 Mediatek Inc. Method and apparatus for adaptive gop structure determination
AU2007231756B2 (en) * 2007-10-30 2011-04-07 Canon Kabushiki Kaisha A method of segmenting videos into a hierachy of segments
US9628811B2 (en) 2007-12-17 2017-04-18 Qualcomm Incorporated Adaptive group of pictures (AGOP) structure determination
JP2009182623A (ja) 2008-01-30 2009-08-13 Panasonic Corp 画像符号化方法
US8908763B2 (en) * 2008-06-25 2014-12-09 Qualcomm Incorporated Fragmented reference in temporal compression for video coding

Also Published As

Publication number Publication date
JP2011176811A (ja) 2011-09-08
US20110206122A1 (en) 2011-08-25
US9426477B2 (en) 2016-08-23

Similar Documents

Publication Publication Date Title
JP6207116B2 (ja) 監視ビデオをエンコードするための方法及び装置
US9936217B2 (en) Method and encoder for video encoding of a sequence of frames
US20190238885A1 (en) Moving image prediction encoding/decoding system
US9635374B2 (en) Systems and methods for coding video data using switchable encoders and decoders
US20060114995A1 (en) Method and system for high speed video encoding using parallel encoders
US9584832B2 (en) High quality seamless playback for video decoder clients
KR20160007564A (ko) 높은 프레임 레이트 및 가변 프레임 레이트 캡처를 위한 비디오 압축 튜닝
US8660191B2 (en) Software video decoder display buffer underflow prediction and recovery
AU2005272046A1 (en) Method and apparatus for detecting motion in MPEG video streams
US9319682B2 (en) Moving image encoding apparatus, control method therefor, and non-transitory computer readable storage medium
US9807388B2 (en) Adaptive intra-refreshing for video coding units
CN110300302B (zh) 一种视频编码方法、装置和存储介质
TWI577180B (zh) Dynamic image prediction decoding device, dynamic image prediction decoding method
WO2005079075A1 (en) A method for encoding of decoding video data and an apparatus thereof
KR101230856B1 (ko) 화면내 부호화 모드의 결정 방법 및 이를 활용한 분산 비디오 부호화 기법 코덱
JP5189618B2 (ja) 映像符号化方法,映像符号化装置および映像符号化プログラム
JP5741073B2 (ja) 画像符号化装置、画像符号化方法、及び画像符号化プログラム
JP2011055023A (ja) 画像符号化装置及び画像復号化装置
JP2006197006A (ja) 動画像符号化装置
US11490121B2 (en) Transform device, decoding device, transforming method, and decoding method
KR20160067580A (ko) 영상 데이터의 인코딩 방법, 상기 방법을 이용한 인코더, 및 상기 인코더를 포함하는 애플리케이션 프로세서
JP2006229659A (ja) 動画像圧縮方法及び装置並びにプログラム
KR20100010605A (ko) 부호화된 아날로그 영상신호 데이터의 네트워크 전송 장치및 이 장치를 위한 영상 구성 방법
JP2009077067A (ja) 画像符号化装置及びその制御方法、並びに、プログラム
JP2007104012A (ja) 動画像符号化装置および動画像符号化方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

RD12 Notification of acceptance of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7432

Effective date: 20141117

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20141117

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150120

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150709

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151015

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20151027

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20151218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170114

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170414

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170622

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20170817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170905

R150 Certificate of patent or registration of utility model

Ref document number: 6207116

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150