JP5246804B2 - 時間同期化のための方法及びシステム - Google Patents

時間同期化のための方法及びシステム Download PDF

Info

Publication number
JP5246804B2
JP5246804B2 JP2009520730A JP2009520730A JP5246804B2 JP 5246804 B2 JP5246804 B2 JP 5246804B2 JP 2009520730 A JP2009520730 A JP 2009520730A JP 2009520730 A JP2009520730 A JP 2009520730A JP 5246804 B2 JP5246804 B2 JP 5246804B2
Authority
JP
Japan
Prior art keywords
digital content
marker
payload
symbol
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009520730A
Other languages
English (en)
Other versions
JP2009544218A5 (ja
JP2009544218A (ja
Inventor
テイアン,ジユン
アダム ブルーム,ジエフリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2009544218A publication Critical patent/JP2009544218A/ja
Publication of JP2009544218A5 publication Critical patent/JP2009544218A5/ja
Application granted granted Critical
Publication of JP5246804B2 publication Critical patent/JP5246804B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0065Extraction of an embedded watermark; Reliable detection

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、概してディジタル・コンテンツのセキュリティに関し、詳しくはディジタル・コンテンツの符号化及び復号化用時間同期化のための方法及びシステムに関する。
ディジタル・コンテンツの符号化及び復号化について、同期化は、極めて重要な役割を担っている。例えば、ディジタル透かし環境に於いて、同期化(「レジストレーション(registration)」ともいう)は、透かし処理のようなアプリケーションでのペイロードの復号化にとって、極めて重要である。オーディオ及びビデオの透かし処理について、同期化は一般的に時間同期化の形態を取るが、一部のビデオの透かし処理方法では空間同期化も必要である。一般的な透かし同期化の方法は、次の4つの主要なカテゴリに分類できる。
(1)幾何学的に不変の変換に基づくもの(透かしが、特定の幾何変換に対して不変である信号変換領域に埋め込まれる)
(2)回復支援方法(recovery assisted method)(同期信号、或いは、周期的な透かしの自己相関(autocorrelation)が同期化に利用される)
(3)特徴に基づくもの(透かしが、コンテンツの意味論(semantic)的に意味のある特徴に埋め込まれる)
(4)徹底的な探索(検出処理が、可能な限りの幾何歪みについて行われる)
しかしながら、現在の同期化方式には、欠点がある。例えば、ペイロードpをNビットの2進シーケンスであるb_0b_1b_2・・・b_{N−1}とし(ここではb_i=0又はb_i=1であり、0≦i<Nである)、 更に、ペイロードpを繰り返して、b_0b_1b_2・・・b_{N−1}b_0b_1b_2・・・b_{N−1}・・・b_0b_1b_2・・・b_{N−1}のようにして、コンテンツ内に埋め込むと仮定すると、復号化の際、先端の切り落とし(クロッピング(cropping))、挿入(insertion)、削除(deletion)、及び/又は、置換(substitution)(これらは、総称として、IDSと呼ばれる)等に因り、一部のペイロード・ビットが喪失され、一部のペイロード・ビットが不正確に復号化され、そして、余計なビットが付加されることがあり、その結果、復号化済みシーケンスは、b_3b_4b_6b_7b_8a_0b_9a_1b_11b_12のようになってしまうことがある(この例では、b_0b_1b_2が切り落とされ、b_5が削除され、余計なビットであるa_0がb_8とb_9との間に挿入され、b_10がa_1に置き換えられている)。
従って、IDS劣化を克服できる、ディジタル・コンテンツについての頑強な同期化方式が必要である。
本発明は、従来技術の欠点に取り組み、利点として、受信されたディジタル・コンテンツ、例えば、オーディオ及びビデオの透かし処理されるコンテンツの時間同期化のための方法、装置及びシステムを提供して、ディジタル・コンテンツの頑強な符号化及び復号化を可能にするものである。
本発明の一実施形態に於いて、ディジタル・コンテンツの時間同期化のための方法が、少なくとも1つのマーカ・シンボルと対応マーカ符号とを決定する処理であって、ディジタル・コンテンツがマーカ符号を用いて符号化される際に、マーカ・シンボルが符号化ディジタル・コンテンツによって繰り返されることのないように決定する上記処理と、ディジタル・コンテンツのペイロード内の識別可能位置に決定されたマーカ・シンボルを埋め込む処理と、決定されたマーカ符号を用いてディジタル・コンテンツのペイロードを符号化して周期シーケンスを形成する処理とを含む。マーカ・シンボルは、ディジタル・コンテンツのペイロードを復号化する際に使用されるペイロード内の識別可能位置を示しており、ディジタル・コンテンツのペイロード内の該マーカ・シンボルを識別することによって符号化ディジタル・コンテンツが復号化用に時間同期化される。
本発明の別の一実施形態に於いて、ディジタル・コンテンツの時間同期化のための方法が、ディジタル・コンテンツのペイロード内に固有の埋め込み済みマーカ・シンボルを有し、マーカ符号により符号化されて周期シーケンスが形成されているディジタル・コンテンツを受信する処理と、ディジタル・コンテンツのペイロード内に在り、ディジタル・コンテンツのペイロードを復号化する際に使用されるペイロード内の識別可能位置を示しているマーカ・シンボルを識別することによって、ディジタル・コンテンツを復号化用に時間同期化する処理と、少なくとも識別されたマーカ・シンボルの位置とマーカ符号とを用いてディジタル・コンテンツのペイロードを復号化する処理とを含む。
本発明の更に別の一実施形態に於いて、ディジタル・コンテンツの符号化処理の際に利用されるディジタル・コンテンツの時間同期化のための装置が、マーカ生成/符号化ユニットを備えており、該マーカ生成/符号化ユニットは、少なくとも1つのマーカ・シンボルと対応マーカ符号とを決定する処理であって、ディジタル・コンテンツがマーカ符号を用いて符号化される際に、マーカ・シンボルが符号化ディジタル・コンテンツによって繰り返されることのないように決定する上記処理と、ディジタル・コンテンツのペイロード内の識別可能位置に決定されたマーカ・シンボルを埋め込む処理と、決定されたマーカ符号を用いてディジタル・コンテンツのペイロードを符号化して周期シーケンスを形成する処理とを行うように構成されている。
本発明の更に別の一実施形態に於いて、ディジタル・コンテンツの復号化処理の際に利用されるディジタル・コンテンツの時間同期化のための装置が、マーカ復号化ユニットを備えており、該マーカ復号化ユニットは、ディジタル・コンテンツのペイロード内に固有の埋め込み済みマーカ・シンボルを有し、マーカ符号により符号化されて周期シーケンスが形成されている上記ディジタル・コンテンツを受信する処理と、ディジタル・コンテンツのペイロード内に在り、ディジタル・コンテンツのペイロードを復号化する際に使用されるペイロード内の識別可能位置を示しているマーカ・シンボルを識別することによって、ディジタル・コンテンツを復号化用に時間同期化する処理と、少なくとも識別されたマーカ・シンボルの位置とマーカ符号とを用いてディジタル・コンテンツのペイロードを復号化する処理とを行うように構成されている。
本発明の更に別の一実施形態に於いて、ディジタル・コンテンツの時間同期化のためのシステムがマーカ生成/符号化ユニットとマーカ復号化ユニットとを備えている。マーカ生成/符号化ユニットは、少なくとも1つのマーカ・シンボルと対応マーカ符号とを決定する処理であって、ディジタル・コンテンツがマーカ符号を用いて符号化される際に、マーカ・シンボルが符号化ディジタル・コンテンツによって繰り返されることのないように決定する上記処理と、ディジタル・コンテンツのペイロード内の識別可能位置に決定されたマーカ・シンボルを埋め込む処理と、決定されたマーカ符号を用いてディジタル・コンテンツのペイロードを符号化して周期シーケンスを形成する処理とを行うように構成されている。マーカ復号化ユニットは、ディジタル・コンテンツのペイロード内に固有の埋め込み済みマーカ・シンボルを有し、マーカ符号により符号化されて周期シーケンスが形成されている該ディジタル・コンテンツを受信する処理と、ディジタル・コンテンツのペイロード内に在り、ディジタル・コンテンツのペイロードを復号化する際に使用されるペイロード内の識別可能位置を示しているマーカ・シンボルを識別することによって、ディジタル・コンテンツを復号化用に時間同期化する処理と、少なくとも識別されたマーカ・シンボルの位置とマーカ符号とを用いてディジタル・コンテンツのペイロードを復号化する処理とを行うように構成されている。
本発明の各開示事項は、以下に述べる詳しい説明と添付図面とによって容易に理解できる。
本発明の一実施形態に従う時間同期化処理を含む受信コンテンツの符号化及び復号化のためのシステムの高水準ブロック図である。 図1の符号化及び復号化システム内のマーカ生成/符号化ユニット及び/又はマーカ復号化ユニットとして使用するのに適したマーカ・ユニットの実施形態の高水準ブロック図である。 本発明の一実施形態に従う符号器に関する方法の高水準ブロック図である。 本発明の一実施形態に従う復号器に関する方法の高水準ブロック図である。
尚、各図面は、本発明の概念を例示する目的のものであり、必ずしも本発明の説明のための唯一可能な構成を示すものではない。理解を容易にする為に、可能な場合には、同一の参照番号を用いて、各図面に共通である同一の要素を示している。
本発明は、利点として、受信されたディジタル・コンテンツ、例えば、オーディオ及びビデオの透かし処理済みコンテンツの時間同期化のための方法、装置及びシステムを提供して、頑強な符号化及び復号化を可能にする。以下、本発明を、主に、透かし処理されるコンテンツのペイロード上の埋め込みマーカ・シンボル及びマーカ符号が、符号器及び復号器によって、それぞれ、マーカ符号化及びマーカ復号化される独立型の回復支援方法の範囲内で説明するが、その本発明の具体的な実施形態は、本発明の範囲を限定するものとして解されるべきではない。本発明の概念が、ペイロードにより伝送される、或いは、ペイロードに埋め込まれる他の特定の構成を用いて有利に適用でき、また、独立型の装置に於いてマーカ符号化及びマーカ復号化を行え得ることは、当業者に理解されることであり、本発明の開示事項により判ることである。更に、本発明の概念は、他の同期化方法、例えば、同期信号の埋め込み処理と組み合わせて利用可能であり、或いは、特徴に基づく透かし処理方法と組み合わせて利用できる。
各図面に示された種々の要素の各機能は、専用ハードウェアを用いても、また、適切なソフトウェアと共にソフトウェア実行可能ハードウェアを用いても提供できる。各機能がプロセッサによって提供される場合、1つの専用プロセッサによって、或いは、1つの共用プロセッサによって、或いは、一部が共用可能な複数の個別プロセッサによって提供可能である。更に、「プロセッサ」或いは「コントローラ(制御器)」という用語の明示的な使用は、ソフトウェア実行可能ハードウェアのみを意味していると解釈されるべきではなく、暗示的に、ディジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを記憶するリード・オンリ・メモリ(ROM)、ランダム・アクセス・メモリ(RAM)、及び、不揮発性記憶装置が無制限に含まれ得る。更に、本発明の原理、特徴、及び、実施形態、並びに、それらの具体例についての本明細書に於ける各記載は、全て、それらの構造的な等価物と機能的な等価物とを包含するものである。更に、そのような等価物には、現時点で既知のもの、及び、将来開発されるもの(即ち、構成の如何に関係なく同じ機能を実施するように開発された全ての要素)も含まれる。
従って、当業者であれば、例えば、本願図面に示されたブロック図が、本発明の原理を実施するシステムの構成要素及び/又は回路の例を概念的に表していることが判るであろう。同様に、フローチャート、流れ図、状態遷移図、及び、擬似符号等が、種々の処理を表しており、その種々の処理が、実質的にコンピュータ読み取り可能メディアで表すことが出来、従って、明示的に示されているか否かに関係なく、コンピュータ或いはプロセッサによって実行できることが判るであろう。
時間同期化に於いては、2つの重要な問題がある。第1の問題は、ディジタル・コンテンツに於ける特定の位置(例えば、透かしシーケンスの開始点及び/又は終了点)の識別である。第2の問題は、マーキング(marking)及び位置の識別が挿入、削除及び置換(IDS)に対して如何に頑強であるかである。ディジタル・コンテンツ(例えば、ビデオ・フレーム、或いは、ブロック単位のオーディオ・サンプル)がデータの挿入、削除及び/又は置換を受け易いので、IDSに対する頑強さはペイロードの復号化にとって極めて重要である。
以下、本発明の種々の実施形態に従って、時間同期化の方法、装置及びシステムを説明する。以下説明する方法、装置及びシステムには、本発明の実施形態に従って、ペイロードに設けられた特別な構造体が含まれている。例えば、本発明の一実施形態では、復号化処理に於いての自動再同期化が完遂され得るように、マーカ符号がペイロードを表している。本発明の各実施形態の方法は、他の同期化方法、例えば、埋め込み同期信号、或いは、特徴に基づく透かし処理方法と組み合わせて利用できる。
図1には、本発明の一実施形態に従う、時間同期化を含む受信ディジタル・コンテンツの符号化及び復号化のためのシステムの高水準ブロック図が示されている。図1のシステム100の例には、ディジタル・コンテンツ供給源105(例えば、ディジタル・カメラ)、符号器110、復号器115、及び、出力装置120が含まれている。図1の符号器110は、マーカ生成/符号化ユニット112と送信装置(例えば、送信アンテナ)114を備えている。図1の復号器115は、マーカ復号化ユニット117及び受信装置(例えば、受信アンテナ)119を備えている。
図1のシステム100に於いて、符号器110が、ディジタル・コンテンツ供給源105からディジタル・コンテンツを受信する。本発明の一実施形態に従えば、マーカ生成/符号化ユニット112が、固有のマーカ・シンボルを決定して、それを受信ディジタル・コンテンツ(ペイロード)内に一定の間隔で挿入する。復号器115に於いて、特別なマーカ・シンボルを検索することによって、ペイロード内のマーカ・シンボルの位置(即ち、ペイロードの1つの完全な期間の開始点、或いは、終了点)を識別でき、従って、例えば、各マーカ・シンボルを整列させることによって、コンテンツを適切に復号化できる。本発明の一実施形態に於いて、本発明のシステムは、透かし埋め込み処理を行うことが出来る。しかしながら、透かし埋め込み装置がマーカ・シンボルを一定の間隔で挿入しても、透かし復号器による1つの完全なペイロード期間の識別は、IDSに因り、困難を伴うことがあり得る。
更に具体的に述べると、非透かし処理データ同期化アプリケーションでは、データ・ブロック長が符号化から復号化まで不変であると想定できる。そのような場合、本発明のマーカ・シンボルは、コンテンツ内に於いて既知の場所で検索されて、符号化された復号化対象のコンテンツの時間同期化に使用される。即ち、2つの該マーカ・シンボルがコンテンツ区間(例えば、データ・ブロック長)に等しい長さ以内で見つかった場合、データをその2つのマーカ・シンボルと整列するようにして同期化できる。
一方、ディジタル透かし処理アプリケーション等に於いては、IDSに因り、一部のペイロード・ビットが失われることがあり、及び/又は、一部の非ペイロード・ビットが付加されることがあり、即ち、ホスト信号に歪みが生じることがある。従って、データ・ブロック長が一定であるとは想定できない。更に、マーカ・シンボルがペイロードの一部と同じになる可能性があり、これにより不明瞭さが増すことになる。従って、本発明の各実施形態に従えば、本発明のマーカ符号化をより頑強にして透かし同期化等に有効に機能させる為に、特別なマーカ・シンボルを挿入することに加えて、ペイロード・ビットの更なる符号化をここに提案する。本発明の様々な実施形態に於いて、ここに提案するマーカ符号化方法は、ペイロードの生成時に適用される。これとは対照的に、現行の殆どの同期化方法は、ペイロードの生成後に適用される。例えば、幾何学的に不変の変換に基づく方法と特徴に基づく方法とは透かし埋め込み処理時に適用され、徹底的な探索方法は、検出段階で適用され、同期化又は自己相関方法はペイロードの生成後に適用される。しかしながら、本発明の各実施形態は、上述のような他の同期化方法と組み合わせることが可能である。即ち、本発明の各方法の実施形態は、ディジタル透かし処理システムの内側レイヤ(ペイロード生成)に於いて機能し、時間同期化について頑強さの更なるレイヤ(layer:層)を提供する。
図1に戻ると、本発明の一実施形態に於いて、マーカ生成/符号化ユニット112は、固有のマーカ・シンボルを決定することに加えて、マーカ符号化も行う。更に具体的に述べると、本発明の一実施形態に於いて、kビットの2値数がマーカ・シンボルとして選択され(例えば、全てゼロの00・・・0とすることが出来る)、ペイロードp内の識別位置(即ち、ペイロードの開始点或いは終了点)に挿入される。その次に、マーカ符号化用の選択された符号語が、マーカ・シンボルがペイロード内で繰り返されないように、使用される。更に、符号語の選択は、マーカ・シンボルに幾分似ているペイロード・ビットになるような特定の符号語がペイロードのマーカ符号化に使用されないようにして、行うことが出来る。例えば、本発明の一実施形態では、m個の予約(reserved:リザーブド)kビット2値数の選択が、m個の選択された符号語がペイロードの符号化に使用されないように行われる。このようにペイロードの符号化に使用されない符号語を用いる理由は、本発明のマーカ・シンボルから得られる時間同期化の頑強さを高める為である。
例えば、本発明の一実施形態に於いて、数字mが0から(2k−3)の範囲を取り、所与のmについて、予約符号語を決定するための閉じた形の手順を導き出せる。各々がkビット長である残りの(2k−m−1)個の符号語について、それらを使用してペイロードpを表し、例えば、pをその2値表現から、ベースが(2k−m−1)であり符号語がkビット長である新たな表現に変換する。例えば、2つの極値の場合について、即ち、m=0の場合、予約符号語がなく、マーカ・シンボル以外の全ての符号語がマーカ符号化に使用され、m=2k−3の場合、2つの符号語のみがペイロード表現に残され、従って、ペイロードの全てのビットの各々がkビット符号語によって表されることになる。ペイロード表現処理の後に、ディジタル・コンテンツに於いて、誤り訂正符号化を適用でき、次いで、繰り返し埋め込み処理を適用できる。
マーカ・シンボルを容易に識別し、且つ、符号語とマーカ・シンボルとの最短距離(即ち、使用する復号器に従うハミング距離またはその他の距離基準)を最大化する為に、マーカ・シンボルの選択は、以下に説明する例からも判るように(2k−m−1)個の符号語の任意の組み合わせがマーカ・シンボルとは異なるように、行うことが出来る。
マーカ符号は、簡単な例で説明できる。この例では、k=3とし、000をマーカ・シンボルとして選ぶ。各々がマーカ・シンボル000と1ビットのみ異なる3つの符号語100、010及び001を、頑強さを最大にする為に、予約しておき、ペイロードの符号化には使用しない。4つの可能な符号語(011、101、110及び111)が残っているので、ペイロードpは、これらの4つの符号語を用いたベース・フォー(base four(4))表現システムで表すことが出来る。従って、ペイロードp内の各2ビットは、4つの符号語011、101、110及び111のうちの1つの符号語にマッピングできる。
例えば、以下の符号は、次のように定義できる。
00→011
01→101
10→110
11→111
ここで、左側はペイロードpの2ビットを表し、右側は、それに対応する3ビットの対応符号語を表している。マーカ・シンボル000が開始点に在る場合、マーカ符号化後のペイロードは、(3N/2+3)ビットを有する。これらの(3N/2+3)ビットは、更に、誤り訂正符号化され、ディジタル・コンテンツ内に繰り返して埋め込まれる。
上述のマーカ符号例の特殊な特性は、4つの符号語011、101、110及び111の各々の符号語に於いて、「0」が多くても1つしかないことである。その結果、ペイロードのマーカ符号に於いて、例えばペイロードの開始点に在るマーカ・シンボル000を除けば、「0」が3つ連続することはない。
マーカ・シンボルが埋め込まれたマーカ符号化コンテンツは、送信装置114を介して復号器115へと送信され、受信装置119を介して復号器115に受信される。復号器115内のマーカ復号化ユニット117は、マーカ・シンボルについて受信コンテンツを検査する。マーカ復号化ユニット117は、繰り返し埋め込み処理されたペイロードのマーカ符号内にマーカ・シンボル(例えば、3つの連続する「0」)を識別すると、ペイロードの識別可能位置(例えば、開始点)を見つけたと、高い信頼度で、判定する。従って、本発明は、ペイロードの特定の位置(即ち、ペイロードの開始点または終了点)と例えば復号化の際のペイロードの再同期化用の位置との識別を容易に行うことを可能にする。
復号化について、16ビットのペイロード0101001101101011を例に取ると、本発明の一実施形態に従う対応マーカ符号は、000101101011111101110110111とすることができる。ここで、最初の3ビット「000」はマーカ・シンボル、次の3ビット「101」はビット1及び2のマーカ符号(ペイロードの「01」)、次の3ビット「101」はビット3及び4のマーカ符号(ペイロードの「01」)、等々である。この27ビットのマーカ符号を、符号器側で、誤り訂正符号化し、ディジタル・コンテンツ内に繰り返し埋め込むことが出来る。復号器側では、例えば抽出及び誤り訂正復号化後に、マーカ復号化ユニット117が3つの連続する「0」についてマーカ符号を検査する。3つの連続する「0」の位置が特定されると、マーカ復号化ユニット117は、ペイロード・シーケンスの時間同期化用の位置を特定する。マーカ・シンボル位置とマーカ符号とを用いてディジタル・コンテンツを復号化できる。次に、復号化されたディジタル・コンテンツを出力装置120に伝えることが出来る。
しかしながら、透かし処理済みコンテンツについてのIDS、或いは、その他の信号処理動作に因り、復号化されるシーケンスに3つの連続する「0」が無いケースが起こり得る。本発明に従えば、マーカ復号化ユニット117は、最大尤度原理(maximum likelihood principle)を適用して、どのペイロード・シーケンスが最もコンテンツ内に埋め込まれたマーカ・シンボルらしいかを判定できる。更に具体的に、且つ、上述の例について述べると、本発明の上述の実施形態では、5つの符号語「000」、「011」、「101」、「110」及び「111」のみが符号器で使用されるので、最大尤度原理をマーカ符号化ディジタル・コンテンツに適用してどのペイロード・シーケンスが最もコンテンツ内に埋め込まれたマーカ・シンボルらしいかを判定できる。
図1に於いて、マーカ生成/符号化ユニット112及びマーカ復号化ユニット117は、それぞれ、符号器110及び復号器115に一体形成されているように示されているが、本発明の別の実施形態では、本発明のマーカ生成/符号化ユニット112及びマーカ復号化ユニット117は、独立型ユニットとして本発明の各特徴を実施できる。例えば、図2には、本発明に従って、図1の符号化及び復号化システム100内のマーカ生成/符号化ユニット112及び/又はマーカ復号化ユニット117として使用するのに適したマーカ・ユニットの実施形態の高水準ブロック図が示されている。図2のマーカ・ユニットは、プロセッサ210と、制御プログラム、アルゴリズム、マーカ・シンボル、及び、マーカ符号等を記憶するメモリ220とを備えている。プロセッサ210は、例えばメモリ220に記憶されたソフトウェア・ルーチンの実行を支援する各回路、電源、クロック回路、キャッシュ・メモリ等のような通常の補助回路230と協働する。従って、ソフトウェア処理としてここに述べる一部の処理ステップは、例えばプロセッサ210と協働して種々のステップを行う回路としてのハードウェア内に於いて、実施できることが考えられる。マーカ・ユニットには、入出力回路240も含まれており、マーカ・ユニットと通信を行う種々の各機能素子相互間のインタフェースを形成している。
図2のマーカ・ユニットは、本発明に従って種々の制御機能を果たすようにプログラミングされた汎用コンピュータとして示されているが、本発明は、例えば、アプリケーション専用集積回路(ASIC:Application Specified Integrated Circuit)として、ハードウェアの形態で実施できる。従って、ここに述べる各処理ステップがソフトウェア、ハードウェア、或いは、それらの組み合わせによって等価的に行われると広く解釈されることを意図している。
図3には、本発明の一実施形態に従う符号器に関する方法の高水準ブロック図が示されている。図3では、透かしペイロードが64ビットを有すると仮定する。図3のペイロードは、先ず無損失の圧縮処理を施し、次に、暗号化処理を施すことが出来、場合によっては、その圧縮ステップ及び/又は暗号化ステップを省略できる。図3の方法300は、ステップ302から開始する。このステップに於いて、ディジタル・コンテンツ(例えば、64ビット・ペイロード)が、例えば、本発明に従ってマーカ符号化を行う符号器のマーカ生成/符号化ユニットによって受信される。次に、方法300はステップ304に進む。
ステップ304に於いて、6ビットの周期冗長検査(CRC:Cyclic Redundancy Check)符号がペイロードの終了点に付加され、その結果、ペイロード長が70ビットに増える。次に、方法300はステップ306に進む。
ステップ306に於いて、マーカ・シンボルが決定されてペイロードに埋め込まれ、対応マーカ符号がペイロードに適用されて、3×70/2+3の新たなシーケンスが導出され、108ビットのペイロードになる。即ち、上述の如く、000がマーカ・シンボルとして選択され、一例としてペイロードの開始点に挿入でき、ペイロードの各2ビットが、符号語011、101、110及び111のうちの1つの符号語に符号化できる。上述の如く、本発明の様々な実施形態に於いて、マーカ・シンボルとマーカ符号の決定は、マーカ・シンボルがマーカ符号化コンテンツ内で繰り返されないように符号語がマーカ・シンボルと異なるように、行われる。次に、方法300はステップ308に進む。
ステップ308に於いて、レート1/2の畳み込み符号化が108ビット・シーケンスに適用され、216ビットの2値シーケンスが得られる。次に、方法300はステップ310に進む。
ステップ310に於いて、216ビット・シーケンスは、コンテンツ、例えば、ビデオ・シーケンス内に繰り返して埋め込まれ、この際、各々のフレームは216ビット・シーケンスの1ビットの情報を表す。種々の既知の埋め込み技術が適用でき、従って、本発明は特定の埋め込み方法に限定されるべきではない。従って、フレーム・レートが毎秒24フレームである3分のビデオ・シーケンスの場合、埋め込み処理は、3×60×24/216回繰り返され、その結果、同期信号を別途加えないとすると、20回の埋め込み処理になる。次に、符号化方法300は、終了するか、或いは、オプションとしてステップ312に進むことが出来る。
ステップ312に於いて、オプションとして、同期信号を別途埋め込み、本発明の同期化の頑強さを更に高めることが出来る。
図4には、本発明の一実施形態に従う復号器に関する方法400の高水準ブロック図が示されている。図4の方法400はステップ402から開始し、このステップに於いて、本発明の各実施形態(即ち、図3の方法の符号化処理)に従って符号化されたコンテンツが、例えば本発明の復号器のマーカ復号化ユニットによって受信される。方法400はステップ404に進む。
ステップ404に於いて、フレーム・レート変化がある場合、当該方法は、ステップ406に進み、このステップに於いてコンテンツが再サンプリングされる。次に、当該方法はステップ408に進む。フレーム・レート変化がない場合、当該方法400はステップ408に進む。
ステップ408に於いて、1ビットの情報が各々のフレームから抽出される。次に、方法400はステップ410に進む。
ステップ410に於いて、抽出された2値シーケンスが復号化される。符号化処理から復号化処理までの経路で歪みが無い場合、復号化シーケンスは、20回繰り返された108ビットのシーケンスになる。しかしながら、クロッピング、フレームの付加もしくは削除、及び/又は、その他の信号処理の動作、或いは、悪意の有る攻撃に因り、復号化シーケンスが、誤りの無い繰り返された108ビットのシーケンスとは異なることが有り得る。復号化の後、方法400はステップ412に進む。
ステップ412に於いて、復号化コンテンツは、マーカ・シンボル(例えば、3つの連続するゼロ(000))について、検査される。マーカ・シンボルの位置が特定された場合、方法400はステップ416にスキップする。マーカ・シンボルの位置が特定されない場合、方法400は、ステップ414に進み、このステップに於いて最大尤度処理を行い、どのペイロード・シーケンスが最もコンテンツ内に埋め込まれたマーカ・シンボルらしいかを判定する。次に、方法400はステップ416に進む。
ステップ416に於いて、コンテンツはマーカ復号化処理を受ける。即ち、コンテンツ内の既知の位置がマーカ・シンボルによって識別されている(即ち、コンテンツの開始点が識別され、従って、時間同期化が実現される)ので、コンテンツは、上述のマーカ符号化処理の逆の処理によって、マーカ復号化処理を受けることが出来る。次に、方法400は、ステップ418に進む。
ステップ418に於いて、マーカ復号化コンテンツが検査されて、64ビット後の次の6ビットが、埋め込まれたCRCと一致するか否かが判定される。埋め込まれたCRCが検証された場合は、ペイロードが正確に復号化されていると判断でき、当該方法は終了する。マーカ・シンボルが見つかった全てのケースについて、CRCが一致しない場合、本発明の一実施形態では、方法400は更に1ステップ先のステップ420に進むことが出来る。
ステップ420に於いて、マーカ・シンボルより前の各ペイロード・ビットとマーカ・シンボルの後の各ペイロード・ビットとが収集される(即ち、ペイロード・シーケンスが再定義される)。例えば、前のペイロード・シーケンスの最後の20ビットと現在のペイロード・シーケンスの最初の44ビットとを収集できる。次に、当該方法はステップ422に進む。
ステップ422に於いて、この新たな64ビットのシーケンスのCRCが、埋め込まれたCRCと一致する場合、ペイロードは正確に復号化されており、方法400は終了する。この新たな64ビットのシーケンスのCRCが、埋め込まれたCRCと一致しない場合、方法400はステップ420に戻ることが出来る。本発明の方法400は、正確に復号化され得るペイロード・シーケンスを特定するべく、ステップ420の様々な反復を行うことが出来る。
上述の各方法を符号器と復号器について説明したが、本発明の創意に富んだ各特徴はこれらに限定されるものではない。本発明のマーカ・シンボルの選択、マーカ符号の選択、マーカ符号の符号化、及び、マーカ符号の復号化は、符号器及び復号器に含まれていない独立型の装置で実施できる。従って、本発明の一実施形態に従う独立型のマーカ生成/符号化装置は、上述の如く、ディジタル・コンテンツがマーカ符号で符号化される場合にマーカ・シンボルがその符号化ディジタル・コンテンツによって繰り返されないように少なくとも1つのマーカ・シンボルと対応マーカ符号とを決定し、決定したマーカ・シンボルをディジタル・コンテンツのペイロード内の識別可能位置に埋め込み、決定したマーカ符号でディジタル・コンテンツのペイロードをマーカ符号化して周期シーケンスを形成する。即ち、本発明の一実施形態に従う独立型のマーカ生成/符号化装置を適用する場合、例えば図3の方法300の全ての方法ステップがその独立型のマーカ生成/符号化装置で実施される訳ではなく、従来の各符号化ステップは、付随した符号器で行われる。
同様に、本発明の一実施形態に従う独立型のマーカ符号復号化装置は、上述の如く、ペイロードに埋め込み済みの固有のマーカ・シンボルを有するディジタル・コンテンツであって、マーカ符号によって符号化されて周期シーケンスが形成された該ディジタル・コンテンツを受信し、該ディジタル・コンテンツのペイロードの復号化に使用されるペイロード内の識別可能位置を示すマーカ・シンボルであって、該ディジタル・コンテンツのペイロード内に在る該マーカ・シンボルを識別することによって該ディジタル・コンテンツを復号化用に時間同期化し、少なくとも識別されたマーカ・シンボルの位置とマーカ符号とによって該ディジタル・コンテンツのペイロードを復号化することを含む方法を実施できる。即ち、本発明の一実施形態に従う独立型のマーカ符号復号化装置を適用する場合、例えば図4の方法400の全ての方法ステップがその独立型のマーカ符号復号化装置で実施される訳ではなく、従来の復号化ステップは、付随する復号器で行われる。
以上、例えば、固有のマーカ・シンボルと対応マーカ符号とに基づくディジタル・コンテンツの時間同期化のための方法、装置及びシステムについての様々な実施形態(これらの実施形態は、例であって、限定するものではない)を説明したが、上述の各開示事項に照らして種々の修正及び変形が当業者によって考案され得る。従って、ここに開示した本発明の個々の実施形態に、本願特許請求の範囲の各請求項に定められた本発明の適用範囲と本発明の意図の範囲内に於いて、種々の変更を加えることが出来ることは理解されるべきである。上述の説明は本発明の様々な実施形態についてのものであるが、本発明の基本適用範囲から逸脱することなく、本発明の別の更なる種々の実施形態を考案できるであろう。
100 符号化及び復号化システム
105 コンテンツ供給源
110 符号器
112 マーカ生成/符号化ユニット
114 送信装置
115 復号器
117 マーカ復号化ユニット
119 受信装置
120 出力装置
240 入出力回路
230 補助回路
210 プロセッサ
220 メモリ
300 符号器に関する方法
400 復号器に関する方法

Claims (17)

  1. ディジタル・コンテンツの時間同期化のための方法であって、
    少なくとも1つのマーカ・シンボルと該マーカ・シンボルから導出される対応マーカ符号とを決定するステップと
    前記対応マーカ符号語のうちどれが前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるかを決定するステップと、
    前記ディジタル・コンテンツのペイロード内の位置に前記決定されたマーカ・シンボルを埋め込むステップと、
    前記決定されたマーカ符号使て前記ディジタル・コンテンツの前記ペイロードを符号化して周期シーケンスを形成するステップであって、前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるマーカ符号語が、該ディジタル・コンテンツが符号化される際に該マーカ・シンボルが繰り返されることのないように該ディジタル・コンテンツのペイロードを符号化するために使用されない、該ステップと、
    を含み、
    前記ディジタル・コンテンツの前記ペイロード内の前記マーカ・シンボルを識別することによって前記ディジタル・コンテンツの前記ペイロードが復号のために時間同期化され、該マーカ・シンボルが、前記ディジタル・コンテンツの前記ペイロードを復号する際に使用される前記ペイロード内の位置マーキングする、前記方法。
  2. 前記ディジタル・コンテンツを誤り訂正符号化するステップを更に含む、請求項1に記載の方法。
  3. 前記マーカ・シンボルが一定の間隔で前記ディジタル・コンテンツに埋め込まれる、請求項1に記載の方法。
  4. 前記一定の間隔がペイロード区間を含む、請求項3に記載の方法。
  5. 前記ディジタル・コンテンツの前記ペイロード内に同期信号を別途埋め込むステップを更に含む、請求項1に記載の方法。
  6. 前記符号化ディジタル・コンテンツを復号装置へ送信するために符号化するステップを更に含む、請求項1に記載の方法
  7. CRC符号を前記ディジタル・コンテンツの前記ペイロードに付加するステップを更に含む、請求項1に記載の方法
  8. ディジタル・コンテンツの時間同期化のための方法であって、
    ディジタル・コンテンツのペイロード内に固有の埋め込み済みマーカ・シンボルを有する該ディジタル・コンテンツを受信するステップであって、該ディジタル・コンテンツが該マーカ・シンボルから導出されたマーカ符号語を使用して符号化されて周期シーケンスが形成されており、前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるマーカ符号語が、該ディジタル・コンテンツが符号化される際に該マーカ・シンボルが繰り返されることのないように該ディジタル・コンテンツのペイロードを符号化するために使用されない、該ステップと、
    前記ディジタル・コンテンツの前記ペイロード内の前記マーカ・シンボルを識別することによって前記ディジタル・コンテンツを復号のために時間同期化するステップであって、該マーカ・シンボルが前記ディジタル・コンテンツの前記ペイロードを復号する際に使用される前記ペイロード内の識別可能位置をマーキングしている、該ステップと、
    少なくとも前記識別されたマーカ・シンボルの位置と前記マーカ符号語とを使用して前記ディジタル・コンテンツの前記ペイロードを復号するステップと、
    を含み、
    前記受信されたマーカ符号化ディジタル・コンテンツが更に抽出処理と誤り訂正復号処理とを受ける、前記方法
  9. 前記ディジタル・コンテンツの前記ペイロード内のマーカ・シンボルが識別されないことに応答して、最大尤度原理が前記ディジタル・コンテンツの前記ペイロードに適用されて、どのペイロード・シーケンスが最も前記コンテンツ内に埋め込まれたマーカ・シンボルらしいかが判定される、請求項8に記載の方法
  10. 前記ディジタル・コンテンツの前記ペイロードに付加された周期冗長検査(CRC)符号を検査して前記ディジタル・コンテンツが適切に復号されているか否かを判定するステップを更に含む、請求項8に記載の方法
  11. 検査されたCRC符号が符号化処理において前記ディジタル・コンテンツの前記ペイロードに付加されたCRC符号と一致しない場合、前記ディジタル・コンテンツ内の前記付加されたCRC符号を位置特定して識別するべく、識別されたマーカ・シンボルの前後の各ペイロード・ビットが再編成される、請求項10に記載の方法
  12. ディジタル・コンテンツの符号化処理の際に使用される前記ディジタル・コンテンツの時間同期化のための装置であって、
    マーカ生成/符号化ユニットを備えており、
    前記マーカ生成/符号化ユニットが、
    少なくとも1つのマーカ・シンボルと該マーカ・シンボルから導出される対応マーカ符号語とを決定する処理と、
    前記対応マーカ符号語のうちどれが前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるかを決定する処理と、
    前記ディジタル・コンテンツのペイロード内の位置に前記決定されたマーカ・シンボルを埋め込む処理と、
    前記決定されたマーカ符号語を使用して前記ディジタル・コンテンツの前記ペイロードを符号化して周期シーケンスを形成する処理であって、前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるマーカ符号語が、該ディジタル・コンテンツが符号化される際に該マーカ・シンボルが繰り返されることのないように該ディジタル・コンテンツのペイロードを符号化するために使用されない、該処理と、
    を行うように構成されている、前記装置
  13. 当該装置が符号器を備える、請求項12に記載の装置
  14. 前記マーカ・シンボルと前記対応マーカ符号語とが、オーディオ又はビデオのディジタル・コンテンツの透かし処理の際に使用される、請求項12に記載の装置
  15. 前記符号化ディジタル・コンテンツを復号化装置に送信する送信器を更に備えている、請求項12に記載の装置
  16. ディジタル・コンテンツの時間同期化のためのシステムであって、
    少なくとも1つのマーカ・シンボルと該マーカ・シンボルから導出される対応マーカ符号語とを決定する処理と、
    前記対応マーカ符号語のうちどれが前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるかを決定する処理と、
    前記ディジタル・コンテンツのペイロード内の位置に前記決定されたマーカ・シンボルを埋め込む処理と、
    前記決定されたマーカ符号語を使用して前記ディジタル・コンテンツの前記ペイロードを符号化して周期シーケンスを形成する処理であって、前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるマーカ符号語が、該ディジタル・コンテンツが符号化される際に該マーカ・シンボルが繰り返されることのないように該ディジタル・コンテンツのペイロードを符号化するために使用されない、該処理と、
    を行うように構成されているマーカ生成/符号化ユニットと、
    ディジタル・コンテンツのペイロード内に固有の埋め込み済みマーカ・シンボルを有する該ディジタル・コンテンツを受信する処理であって、該ディジタル・コンテンツが該マーカ・シンボルから導出されたマーカ符号語を使用して符号化されて周期シーケンスが形成されており、前記マーカ・シンボルに類似する前記ディジタル・コンテンツの符号化済みペイロード・ビットになるマーカ符号語が、該ディジタル・コンテンツが符号化される際に該マーカ・シンボルが繰り返されることのないように該ディジタル・コンテンツのペイロードを符号化するために使用されない、該処理と、
    前記ディジタル・コンテンツの前記ペイロード内の前記マーカ・シンボルを識別することによって前記ディジタル・コンテンツを復号のために時間同期化する処理であって、該マーカ・シンボルが前記ディジタル・コンテンツの前記ペイロードを復号する際に使用される前記ペイロード内の識別可能位置をマーキングしている、該処理と、
    少なくとも前記識別されたマーカ・シンボルの位置と前記マーカ符号語とを使用して前記ディジタル・コンテンツの前記ペイロードを復号する処理と、
    を行うように構成されているマーカ復号ユニットと、
    を備える、前記システム
  17. 前記復号済みディジタル・コンテンツを提示する出力装置を更に備える、請求項16に記載のシステム
JP2009520730A 2006-07-18 2006-12-08 時間同期化のための方法及びシステム Expired - Fee Related JP5246804B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US83152606P 2006-07-18 2006-07-18
US60/831,526 2006-07-18
PCT/US2006/046815 WO2008010836A1 (en) 2006-07-18 2006-12-08 Method and system for temporal synchronization

Publications (3)

Publication Number Publication Date
JP2009544218A JP2009544218A (ja) 2009-12-10
JP2009544218A5 JP2009544218A5 (ja) 2010-01-28
JP5246804B2 true JP5246804B2 (ja) 2013-07-24

Family

ID=37989072

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009520730A Expired - Fee Related JP5246804B2 (ja) 2006-07-18 2006-12-08 時間同期化のための方法及びシステム

Country Status (6)

Country Link
US (1) US8331609B2 (ja)
EP (1) EP2041715A1 (ja)
JP (1) JP5246804B2 (ja)
CN (1) CN101506837B (ja)
BR (1) BRPI0621943A2 (ja)
WO (1) WO2008010836A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2007214319A1 (en) * 2007-08-30 2009-03-19 Canon Kabushiki Kaisha Improvements for Spatial Wyner Ziv Coding
US8189623B2 (en) * 2008-10-01 2012-05-29 Infinera Corporation Digital framer architecture with a framing marker
US8725500B2 (en) 2008-11-19 2014-05-13 Motorola Mobility Llc Apparatus and method for encoding at least one parameter associated with a signal source
US9354970B2 (en) * 2014-03-31 2016-05-31 Advanced Micro Devices, Inc. Method and apparatus for encoding erroneous data in an error correction code protected memory
KR20170067546A (ko) * 2015-12-08 2017-06-16 한국전자통신연구원 오디오 신호 및 비디오 신호의 동기화 시스템 및 그 방법
CA3040196A1 (en) * 2016-10-14 2018-04-19 Auro Technologies Recording and playback devices with avoidance of missynchronisation by scrambling a payload with a modified payload checksum
CN108282871B (zh) * 2017-01-06 2023-11-21 华为技术有限公司 接收节点、发送节点和传输方法
CN113453039B (zh) * 2020-03-24 2023-04-18 阿里巴巴集团控股有限公司 视频文件处理与水印提取的方法和装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7224819B2 (en) * 1995-05-08 2007-05-29 Digimarc Corporation Integrating digital watermarks in multimedia content
US6571361B1 (en) 1995-09-29 2003-05-27 Kabushiki Kaisha Toshiba Encoder and decoder
JP3597647B2 (ja) 1995-09-29 2004-12-08 株式会社東芝 符号化方法及び装置
US7107451B2 (en) * 1996-07-02 2006-09-12 Wistaria Trading, Inc. Optimization methods for the insertion, protection, and detection of digital watermarks in digital data
US20060028689A1 (en) * 1996-11-12 2006-02-09 Perry Burt W Document management with embedded data
JP2001223684A (ja) 2000-02-08 2001-08-17 Sony Corp 同期検出装置、受信装置およびその方法
US6714683B1 (en) * 2000-08-24 2004-03-30 Digimarc Corporation Wavelet based feature modulation watermarks and related applications
US6785401B2 (en) * 2001-04-09 2004-08-31 Tektronix, Inc. Temporal synchronization of video watermark decoding
US6563937B1 (en) * 2001-11-28 2003-05-13 Sony Corporation Method and apparatus to detect watermark that are resistant to arbitrary deformations
US7886151B2 (en) * 2002-01-22 2011-02-08 Purdue Research Foundation Temporal synchronization of video and audio signals
WO2003107653A1 (en) * 2002-06-17 2003-12-24 Koninklijke Philips Electronics N.V. Lossless data embedding
US7242714B2 (en) * 2002-10-30 2007-07-10 Koninklijke Philips Electronics N.V. Cyclic resynchronization marker for error tolerate video coding
FR2846827B1 (fr) 2002-10-30 2005-02-25 Inst Nat Rech Inf Automat Dispositif pour le marquage et la restitution de signaux multimedia
JP3804796B2 (ja) 2003-07-24 2006-08-02 沖電気工業株式会社 動画像符号化方法及び動画像復号方法

Also Published As

Publication number Publication date
BRPI0621943A2 (pt) 2011-10-18
US20100303279A1 (en) 2010-12-02
WO2008010836A1 (en) 2008-01-24
JP2009544218A (ja) 2009-12-10
CN101506837A (zh) 2009-08-12
US8331609B2 (en) 2012-12-11
CN101506837B (zh) 2012-03-14
EP2041715A1 (en) 2009-04-01

Similar Documents

Publication Publication Date Title
JP5246804B2 (ja) 時間同期化のための方法及びシステム
CN101675473B (zh) 用于处理编码的音频数据的方法和装置
KR19990029417A (ko) 내장된 데이터를 위한 데이터 전송 방법, 데이터 전송 및 재생장치, 및 그를 위한 정보 기록 매체
CN106709853B (zh) 一种图像检索方法及系统
JP2002519927A (ja) 信号中のビットを符号化する方法
US20200220656A1 (en) Spc sensor interface with partial parity protection
JP2009544218A5 (ja)
US20100017614A1 (en) Encoding and detecting apparatus
JP2010109492A5 (ja) 復号装置、復号方法、及びプログラム
CN1684522B (zh) 处理音频帧的方法和解码器电路
CN109101791B (zh) 基于数据特征的水印参数自动获取方法及系统
US9391638B1 (en) Error indications in error correction code (ECC) protected memory systems
CN111382398B (zh) 信息处理、隐藏信息解析和嵌入的方法、装置及设备
US11398834B2 (en) Encoder, recording device, decoder, playback device with robust data block header
CN107680608B (zh) 一种基于喷泉码的易碎水印自恢复方法
KR20130021633A (ko) 오류정정부호를 이용한 데이터의 은닉과 검출 방법 및 장치
US7278089B2 (en) System and method for error detection in encoded digital data
JP5063645B2 (ja) 電子透かし検出装置及び電子透かし検出プログラム
KR100259296B1 (ko) 오류정정 방법
JP2006166388A (ja) 空白となるビット列の前方配置による境界相殺方法
JP5273014B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091126

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120516

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120809

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130404

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160419

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees