JP2011041081A - Coding apparatus, decoding apparatus, coding method, decoding method, coding program, and decoding program - Google Patents
Coding apparatus, decoding apparatus, coding method, decoding method, coding program, and decoding program Download PDFInfo
- Publication number
- JP2011041081A JP2011041081A JP2009187745A JP2009187745A JP2011041081A JP 2011041081 A JP2011041081 A JP 2011041081A JP 2009187745 A JP2009187745 A JP 2009187745A JP 2009187745 A JP2009187745 A JP 2009187745A JP 2011041081 A JP2011041081 A JP 2011041081A
- Authority
- JP
- Japan
- Prior art keywords
- constraint
- codeword
- sparse matrix
- type
- linear
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Error Detection And Correction (AREA)
Abstract
Description
この発明は、ハミング重みが一定であるタイプ一定符号を生成する符号化およびその復号化に関し、特に、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化およびその復号化を行うことができる符号化装置、復号化装置、符号化方法、復号化方法、符号化プログラムおよび復号化プログラムに関する。 The present invention relates to encoding for generating a constant type code having a constant Hamming weight and decoding thereof, and particularly to encoding and decoding for efficiently generating a constant type code regardless of the length of a codeword. The present invention relates to an encoding device, a decoding device, an encoding method, a decoding method, an encoding program, and a decoding program that can be performed.
従来、通信路符号や有歪み情報源符号が符号語長(ブロック長)に関して漸近的にシャノン限界に近づく性質をもつ場合、これらの符号としては一般的に典型系列が用いられていた(たとえば、特許文献1および特許文献2参照)。ここで、典型系列とは、符号語のハミング重みが所定の一定値の周りに分布する、すなわち、ハミング重みに幅をもたせた系列を指す。また、ハミング重みとは符号語における0以外のシンボルの個数を指す。
Conventionally, when a channel code or a distorted information source code has a property of asymptotically approaching the Shannon limit with respect to a codeword length (block length), typical sequences are generally used as these codes (for example, (See
ところで、ハミング重みが一定の符号語(以下、「タイプ一定符号(Constant Composition Code,Constant Weight Code)」と記載する)は、シャノン限界への到達性の証明に用いられるなど(たとえば、非特許文献1参照)、理論解析においてしばしば用いられている。 By the way, a code word having a constant Hamming weight (hereinafter referred to as “constant composition code”) is used to prove reachability to the Shannon limit (for example, non-patent literature). 1), which is often used in theoretical analysis.
また、タイプ一定符号は、無線システム技術(たとえば、非特許文献2参照)や、検索技術(たとえば、非特許文献3参照)にも用いられている。なお、非特許文献4には、有限体上の拘束条件を実数体上の線形制約条件へ変換する技術が開示されている。 The fixed type code is also used for radio system technology (for example, see Non-Patent Document 2) and search technology (for example, see Non-Patent Document 3). Non-Patent Document 4 discloses a technique for converting a constraint condition on a finite field into a linear constraint condition on a real field.
しかしながら、タイプ一定符号を実際にどのように構成するかは未だ明らかになっておらず、符号語長(ブロック長)nが100より小さい場合に、あらかじめ用意したテーブルに従ってタイプ一定符号が生成されているにすぎない(たとえば、非特許文献2参照)。 However, it is not yet clear how to actually configure the constant type code. When the code word length (block length) n is smaller than 100, the constant type code is generated according to a table prepared in advance. (For example, refer nonpatent literature 2).
すなわち、従来におけるタイプ一定符号は、理論解析の分野で用いられているものの、その適用範囲は、符号語長(ブロック長)nが小さい場合に限られており、適用分野が限定されるという問題があった。 That is, the conventional type constant code is used in the field of theoretical analysis, but its application range is limited to a case where the code word length (block length) n is small, and the application field is limited. was there.
また、符号語長(ブロック長)nが大きくなると、従来のタイプ一定符号の生成手法では、計算量がnに関して指数的に増加してしまうため、長い符号語長に対応したタイプ一定符号を効率よく生成することは困難であった。 In addition, when the codeword length (block length) n increases, the conventional constant type code generation method increases the amount of calculation exponentially with respect to n. Therefore, the constant type code corresponding to a long codeword length is efficiently used. It was difficult to produce well.
これらのことから、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化およびその復号化を行うことができる符号化装置、復号化装置、符号化方法、復号化方法、符号化プログラムあるいは復号化プログラムをいかにして実現するかが大きな課題となっている。 Therefore, an encoding device, a decoding device, an encoding method, a decoding method, a code capable of efficiently generating a constant type code regardless of the length of the codeword and the decoding thereof can be performed. How to implement the encryption program or the decryption program is a big issue.
本発明は、上述した従来技術による問題点を解消するためになされたものであって、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化およびその復号化を行うことができる符号化装置、復号化装置、符号化方法、復号化方法、符号化プログラムおよび復号化プログラムを提供することを目的とする。 The present invention has been made to solve the above-described problems caused by the prior art, and can perform encoding and decoding to efficiently generate a constant type code regardless of the length of the codeword. An object is to provide an encoding device, a decoding device, an encoding method, a decoding method, an encoding program, and a decoding program.
上述した課題を解決し、目的を達成するため、本発明は、2値メッセージからハミング重みが一定である通信路符号を生成する符号化装置であって、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語と前記第2の疎行列との積が前記2値メッセージと等値であるとする第2の制約式、および、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語を線形計画法で求解する最適化実行手段とを備えたことを特徴とする。 In order to solve the above-described problems and achieve the object, the present invention is an encoding device that generates a channel code having a constant Hamming weight from a binary message, and includes a first sparse matrix and a second sparse matrix. A first constraint that a product of a matrix, a one-row horizontal matrix having a predetermined Hamming weight, and a predetermined type, and a product of a codeword and the first sparse matrix are equal to the type A product of the codeword and the second sparse matrix is a second constraint expression that is equal to the binary message, and a product of the codeword length of the codeword and the type Using the third constraint equation in which the Hamming weight is equal to the number of digits in which the codeword element is 1, the first constraint equation, the second constraint equation, and the third constraint equation After converting the equation into a linear constraint on the real field by the relaxation method, the linear constraint Characterized by comprising an optimizing execution means for solving a linear programming to meet all of the code words.
また、本発明は、通信路出力から符号化前の2値メッセージを生成する復号化装置であって、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、符号化された前記2値メッセージをあらわす符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第2の制約式、前記符号語の要素と前記通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記符号語に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語のうち、前記目的関数を最小とする前記符号語を線形計画法で求解し、当該符号語と前記第2の疎行列との積を前記2値メッセージとする最適化実行手段とを備えたことを特徴とする。 Further, the present invention is a decoding device that generates a binary message before encoding from a channel output, and includes a first sparse matrix, a second sparse matrix, and a predetermined Hamming weight used for encoding. A product of a storage means for storing a row matrix of a row and a predetermined type, a codeword representing the encoded binary message, and the first sparse matrix is equal to the type. A second constraint equation in which the Hamming weight, which is the product of the codeword length of the codeword and the type, is equal to the number of digits in which the codeword element is 1, Using a third constraint expression that the number of digits in which both the codeword element and the channel output element are 1 is equal to a predetermined natural number, and a linear objective function with respect to the codeword , The first constraint equation, the second constraint equation, and the third constraint equation The codeword that minimizes the objective function among the codewords that satisfy all of the linear constraint conditions after being converted to a linear constraint condition on a real field by a relaxation method is solved by linear programming, and the codeword And an optimization execution unit that uses a product of the second sparse matrix as the binary message.
また、本発明は、上記の発明において、前記最適化実行手段が用いる前記目的関数は、前記符号語をxn、前記通信路出力をyn、前記符号語長をn、前記タイプをP、Hb(δ)をHb(δ)=−δlogδ−(1−δ)log(1−δ)、系列rnにおけるaの出現回数をN(a|rn)、前記所定の自然数mを0≦m≦min{nP,N(1|yn)}とした場合に、(N(0|yn)/n)Hb((nP−m)/N(0|yn))+(N(1|yn)/n)Hb(m/N(1|yn))とあらわされることを特徴とする。
The present invention, in the above invention, the objective function used by the optimization execution means, the codeword x n, wherein a communication channel output y n, the code word length n, the type P, hb ([delta]) and H b (δ) = - δlogδ- (1-δ) log (1-δ), sequence r the number of occurrences of a in n n (a | r n) , the predetermined
また、本発明は、上記の発明において、前記所定の自然数は、0以上、かつ、前記ハミング重みまたは前記通信路出力の要素が1である桁の個数のうち小さいほうの値以下であって、前記最適化実行手段は、それぞれの前記所定の自然数について、前記第1の制約式、前記第2の制約式および前記第3の制約式をすべて満たす前記符号語についての実行可能解が存在するか否かについて判定し、前記実行可能解が存在すると判定した場合に、前記目的関数の値を算出することを特徴とする。 Further, the present invention is the above invention, wherein the predetermined natural number is not less than 0 and not more than a smaller value of the number of digits in which the Hamming weight or the channel output element is 1. Whether the optimization execution unit has an executable solution for the codeword that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation for each of the predetermined natural numbers. It is determined whether or not, and when it is determined that the feasible solution exists, the value of the objective function is calculated.
また、本発明は、情報源出力から求めた復号化器出力に基づいてハミング重みが一定である有歪み情報源符号を生成する符号化装置であって、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、前記復号化器出力と前記第1の疎行列との積が前記タイプと同値であるとする第1の制約式、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、前記情報源出力の要素と前記復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記復号化器出力に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件すべて満たす前記復号化器出力のうち、前記目的関数を最小とする前記復号化器出力を線形計画法で求解し、当該復号化器出力と前記第2の疎行列との積を前記有歪み情報源符号とする最適化実行手段とを備えたことを特徴とする。 The present invention also relates to an encoding device that generates a distorted information source code having a constant Hamming weight based on a decoder output obtained from an information source output, the first sparse matrix and the second sparse matrix. A storage means for storing a matrix, a row matrix having a predetermined Hamming weight, and a predetermined type; and a product of the decoder output and the first sparse matrix is equal to the type. The second constraint that the Hamming weight, which is the product of the codeword length of the decoder output and the type, is equal to the number of digits whose elements of the decoder output are 1 A third constraint equation in which the number of digits in which both the element of the information source output and the element of the decoder output are both equal to a predetermined natural number, and the decoder output And the first constraint equation, the second constraint equation and the second constraint equation And the third constraint equation is converted into a linear constraint condition on a real field by a relaxation method, and the decoder output that minimizes the objective function among the decoder outputs satisfying all the linear constraint conditions And an optimization execution unit that uses a product of the decoder output and the second sparse matrix as the distorted information source code.
また、本発明は、上記の発明において、前記最適化実行手段が用いる前記目的関数は、前記情報源出力をxn、前記復号化器出力をyn、前記符号語長をn、前記タイプをP、pを0<p<1、qを0<q<1、D(p‖q)をD(p‖q)=plog(p/q)+(1−p)log((1−p)/(1−q))、系列rnにおけるaの出現回数をN(a|rn)、所定の条件付確率をWY|Xとした場合に、(N(0|yn)/n)D((nP−m)/N(0|xn)‖WY|X(1|0))+(N(1|yn)/n)D(m/N(1|yn)‖WY|X(1|1))とあらわされることを特徴とする。 Further, in the present invention, the objective function used by the optimization execution means in the above invention is that the information source output is x n , the decoder output is y n , the codeword length is n, and the type is P, p is 0 <p <1, q is 0 <q <1, D (p‖q) is D (p‖q) = plog (p / q) + (1-p) log ((1-p ) / (1-q)), where N (a | r n ) is the number of occurrences of a in the sequence r n and W Y | X is a predetermined conditional probability, (N (0 | y n ) / n) D ((nP−m) / N (0 | x n ) ‖W Y | X (1 | 0)) + (N (1 | y n ) / n) D (m / N (1 | y n ) W Y | X (1 | 1)).
また、本発明は、上記の発明において、前記所定の自然数は、0以上、かつ、前記ハミング重みまたは前記情報源出力の要素が1である桁の個数のうち小さいほうの値以下であって、前記最適化実行手段は、それぞれの前記所定の自然数について、前記第1の制約式、前記第2の制約式および前記第3の制約式をすべて満たす前記復号化器出力についての実行可能解が存在するか否かについて判定し、前記実行可能解が存在すると判定した場合に、前記目的関数の値を算出することを特徴とする。 Further, the present invention is the above invention, wherein the predetermined natural number is not less than 0 and not more than the smaller value of the number of digits in which the Hamming weight or the element of the information source output is 1. The optimization execution means has an executable solution for the decoder output that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation for each of the predetermined natural numbers. It is determined whether or not to execute, and when it is determined that the executable solution exists, the value of the objective function is calculated.
また、本発明は、有歪み情報源符号から復号化器出力を生成する復号化装置であって、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、前記復号化器出力と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記復号化器出力と前記第2の疎行列との積が前記有歪み情報源符号と等値であるとする第2の制約式、および、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件すべて満たす前記復号化器出力を線形計画法で求解する最適化実行手段とを備えたことを特徴とする。 The present invention is also a decoding device that generates a decoder output from a distorted information source code, and has a first sparse matrix, a second sparse matrix, and a predetermined Hamming weight used for encoding. Storage means for storing a row matrix of a row and a predetermined type; a first constraint expression wherein a product of the decoder output and the first sparse matrix is equal to the type; the decoding A second constraint equation that the product of the decoder output and the second sparse matrix is equal to the strained information source code, and the product of the codeword length of the decoder output and the type The first constraint equation, the second constraint equation, and the first constraint equation are used by using a third constraint equation in which the certain Hamming weight is equal to the number of digits of the decoder output element equal to 1. After converting the constraint equation (3) into a linear constraint on the real field by the relaxation method, all the linear constraints Plus the decoder output is characterized in that an optimization execution means for solving a linear programming.
また、本発明は、2値メッセージからハミング重みが一定である通信路符号を生成する符号化方法であって、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語と前記第2の疎行列との積が前記2値メッセージと等値であるとする第2の制約式、および、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語を線形計画法で求解する最適化実行工程とを含んだことを特徴とする。 In addition, the present invention is an encoding method for generating a channel code having a constant Hamming weight from a binary message, and includes a first sparse matrix, a second sparse matrix, and a row having a predetermined Hamming weight. A storage step of storing a row matrix and a predetermined type in the storage unit; a first constraint expression that a product of a codeword and the first sparse matrix is equal to the type; the codeword and the first A second constraint that the product of the sparse matrix of 2 is equivalent to the binary message, and the Hamming weight that is the product of the codeword length of the codeword and the type is the codeword Using a third constraint equation that is equal to the number of digits whose elements are 1, the first constraint equation, the second constraint equation, and the third constraint equation are expressed on a real number field by a relaxation method. The codeword satisfying all the linear constraints after being converted to the linear constraints Wherein the containing and optimizing execution step of solving a linear programming.
また、本発明は、通信路出力から符号化前の2値メッセージを生成する復号化方法であって、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、符号化された前記2値メッセージをあらわす符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第2の制約式、前記符号語の要素と前記通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記符号語に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語のうち、前記目的関数を最小とする前記符号語を線形計画法で求解し、当該符号語と前記第2の疎行列との積を前記2値メッセージとする最適化実行工程とを含んだことを特徴とする。 The present invention is also a decoding method for generating a binary message before encoding from a communication channel output, wherein a first sparse matrix, a second sparse matrix, and a predetermined Hamming weight used for encoding are obtained. The product of the storage step of storing the row matrix of a single row and a predetermined type in the storage unit, the code word representing the encoded binary message and the first sparse matrix is equal to the type The second constraint that the Hamming weight, which is the product of the codeword length of the codeword and the type, is equal to the number of digits in which the codeword element is 1 A third constraint expression in which the number of digits in which both the codeword element and the channel output element are both equal to a predetermined natural number, and a linear object with respect to the codeword Using the function, the first constraint equation, the second constraint equation, and the second constraint equation Is converted into a linear constraint on the real field by a relaxation method, and among the codewords that satisfy all the linear constraints, the codeword that minimizes the objective function is solved by linear programming. And an optimization execution step in which the product of the codeword and the second sparse matrix is the binary message.
また、本発明は、情報源出力から求めた復号化器出力に基づいてハミング重みが一定である有歪み情報源符号を生成する符号化方法であって、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、前記復号化器出力と前記第1の疎行列との積が前記タイプと同値であるとする第1の制約式、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、前記情報源出力の要素と前記復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記復号化器出力に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記復号化器出力のうち、前記目的関数を最小とする前記復号化器出力を線形計画法で求解し、当該復号化器出力と前記第2の疎行列との積を前記有歪み情報源符号とする最適化実行工程とを含んだことを特徴とする。 The present invention also relates to an encoding method for generating a distorted information source code having a constant Hamming weight based on a decoder output obtained from an information source output, the first sparse matrix and the second sparse matrix. A storage step of storing a matrix, a one-row horizontal matrix having a predetermined Hamming weight, and a predetermined type in a storage unit; and a product of the decoder output and the first sparse matrix is equal to the type A first constraint equation, wherein the Hamming weight, which is the product of the codeword length of the decoder output and the type, is equal to the number of digits whose elements of the decoder output are 1 A second constraint equation, a third constraint equation in which the number of digits in which both the information source output element and the decoder output element are both equal to a predetermined natural number, and the decoding Using a linear objective function with respect to the generator output, the first constraint, the second The decoding that minimizes the objective function among the decoder outputs satisfying all the linear constraint conditions after converting the constraint equation and the third constraint equation into linear constraint conditions on a real field by a relaxation method And an optimization execution step in which a product of the decoder output and the second sparse matrix is used as the distorted information source code.
また、本発明は、有歪み情報源符号から復号化器出力を生成する復号化方法であって、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、前記復号化器出力と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記復号化器出力と前記第2の疎行列との積が前記有歪み情報源符号と等値であるとする第2の制約式、および、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記復号化器出力を線形計画法で求解する最適化実行工程とを含んだことを特徴とする。 The present invention is also a decoding method for generating a decoder output from a distorted information source code, which has a first sparse matrix, a second sparse matrix, and a predetermined Hamming weight used for encoding. A storage step of storing a row of a matrix and a predetermined type in a storage unit, and a first constraint equation that a product of the decoder output and the first sparse matrix is equal to the type, A second constraint that the product of the decoder output and the second sparse matrix is equivalent to the distorted information source code; and the codeword length and the type of the decoder output; The first constraint equation, the second constraint equation, using the third constraint equation that the Hamming weight, which is the product of the decoder, is equal to the number of digits of the decoder output element equal to 1. And converting the third constraint equation into a linear constraint condition on a real field by a relaxation method, The decoder output that satisfies all of the matter is characterized by including an optimized execution step of solving a linear programming.
本発明によれば、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、符号語と第1の疎行列との積がタイプと等値であるとする第1の制約式、符号語と第2の疎行列との積が2値メッセージと等値であるとする第2の制約式、および、符号語の符号語長とタイプとの積であるハミング重みが符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす符号語を線形計画法で求解することとしたので、各制約式を実数体上の線形制約条件とみなすことによって、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化を実現することができるという効果を奏する。また、典型系列を用いた符号よりもシャノン限界に近い伝送容量を実現することができるという効果を奏する。 According to the present invention, a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight and a predetermined type are stored, and the product of the codeword and the first sparse matrix is a type. A first constraint equation that is equal to the second constraint equation that the product of the codeword and the second sparse matrix is equal to the binary message, and the codeword length of the codeword Using the third constraint equation that the Hamming weight, which is the product of the type, is equal to the number of digits whose codeword element is 1, the first constraint equation, the second constraint equation, and the third constraint equation are used. Since the constraint equations are converted to linear constraints on the real number field using the relaxation method, codewords that satisfy all of these linear constraint conditions are solved by linear programming. By considering this as a constraint condition, a code that efficiently generates a constant code regardless of the length of the codeword An effect that can be achieved reduction. Further, the transmission capacity closer to the Shannon limit can be realized than the code using the typical sequence.
また、本発明によれば、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、符号化された2値メッセージをあらわす符号語と第1の疎行列との積がタイプと等値であるとする第1の制約式、符号語の符号語長とタイプとの積であるハミング重みが符号語の要素が1である桁の個数と等値であるとする第2の制約式、符号語の要素と通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、符号語に関して線形な目的関数を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす符号語のうち、目的関数を最小とする符号語を線形計画法で求解し、求解した符号語と第2の疎行列との積を2値メッセージとすることとしたので、各制約式を実数体上の線形制約条件とみなし、また、線形の目的関数を用いることで、タイプ一定符号を効率よく復号化することができるという効果を奏する。 In addition, according to the present invention, the first sparse matrix, the second sparse matrix used for encoding, the one-row horizontal matrix having a predetermined Hamming weight, and a predetermined type are stored and encoded 2 A first constraint expression that a product of a code word representing a value message and a first sparse matrix is equal to a type, and a Hamming weight that is a product of the code word length of the code word and the type is an element of the code word The second constraint expression that the number of digits for which 1 is 1 is equal to the number of digits in which both the codeword element and the channel output element are 1 is equal to a predetermined natural number The first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraints on the real field by the relaxation method using the third constraint equation to be performed and the objective function linear with respect to the codeword In addition, of the codewords that satisfy all of these linear constraints, the code that minimizes the objective function Since the word is solved by linear programming, and the product of the solved codeword and the second sparse matrix is set as a binary message, each constraint is regarded as a linear constraint on the real field, and linear By using the objective function, it is possible to efficiently decode a constant type code.
また、本発明によれば、目的関数は、符号語をxn、通信路出力をyn、符号語長をn、タイプをP、Hb(δ)をHb(δ)=−δlogδ−(1−δ)log(1−δ)、系列rnにおけるaの出現回数をN(a|rn)、所定の自然数mを0≦m≦min{nP,N(1|yn)}とした場合に、(N(0|yn)/n)Hb((nP−m)/N(0|yn))+(N(1|yn)/n)Hb(m/N(1|yn))とあらわされることとしたので、タイプ一定符号を効率よく復号化することができるという効果を奏する。 In addition, according to the present invention, the objective function has the code word x n , the channel output y n , the code word length n, the type P, and Hb (δ) as H b (δ) = − δlogδ− ( 1-δ) log (1-δ), the number of occurrences of a in the sequence r n is N (a | r n ), and the predetermined natural number m is 0 ≦ m ≦ min {nP, N (1 | y n )}. (N (0 | y n ) / n) H b ((nP−m) / N (0 | y n )) + (N (1 | y n ) / n) H b (m / N (1 | y n )), the constant type code can be efficiently decoded.
また、本発明によれば、所定の自然数は、0以上、かつ、ハミング重みまたは通信路出力の要素が1である桁の個数のうち小さいほうの値以下であって、それぞれの所定の自然数について、第1の制約式、第2の制約式および第3の制約式をすべて満たす符号語についての実行可能解が存在するか否かについて判定し、実行可能解が存在すると判定した場合に、目的関数の値を算出することとしたので、復号化に関する処理負荷を低減することができるという効果を奏する。 Further, according to the present invention, the predetermined natural number is 0 or more and not more than the smaller value of the number of digits in which the Hamming weight or channel output element is 1, and for each predetermined natural number , It is determined whether there is an executable solution for a codeword that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation, and if it is determined that there is an executable solution, Since the function value is calculated, the processing load related to decoding can be reduced.
また、本発明によれば、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、復号化器出力と第1の疎行列との積がタイプと同値であるとする第1の制約式、復号化器出力の符号語長とタイプとの積であるハミング重みが復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、情報源出力の要素と復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、復号化器出力に関して線形な目的関数を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす復号化器出力のうち、目的関数を最小とする復号化器出力を線形計画法で求解し、求解した復号化器出力と第2の疎行列との積を有歪み情報源符号とすることとしたので、各制約式を実数体上の線形制約条件とみなし、また、線形の目的関数を用いることによって、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化を実現することができるという効果を奏する。 In addition, according to the present invention, a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight, and a predetermined type are stored, and the decoder output and the first sparse matrix The first constraint expression that the product of is the same as the type, the Hamming weight, which is the product of the codeword length of the decoder output and the type, is equal to the number of digits whose decoder output is 1 A third constraint equation that assumes that the number of digits in which both the information source output element and the decoder output element are both equal to a predetermined natural number, and The first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraints on the real number field by the relaxation method using a linear objective function with respect to the decoder output. Of the decoder outputs that satisfy all the constraints, the linear output is the decoder output that minimizes the objective function. Since the product of the decoded decoder output and the second sparse matrix is used as the distorted information source code, each constraint is regarded as a linear constraint on the real number field, and linear By using this objective function, there is an effect that it is possible to realize encoding that efficiently generates a constant type code regardless of the length of the codeword.
また、本発明によれば、目的関数は、情報源出力をxn、復号化器出力をyn、符号語長をn、タイプをP、pを0<p<1、qを0<q<1、D(p‖q)をD(p‖q)=plog(p/q)+(1−p)log((1−p)/(1−q))、系列rnにおけるaの出現回数をN(a|rn)、所定の条件付確率をWY|Xとした場合に、(N(0|yn)/n)D((nP−m)/N(0|xn)‖WY|X(1|0))+(N(1|yn)/n)D(m/N(1|yn)‖WY|X(1|1))とあらわされることとしたので、タイプ一定符号を生成する符号化を効率よく行うことができるという効果を奏する。
In addition, according to the present invention, the objective function includes the source output x n , the decoder output y n , the codeword length n, the type P,
また、本発明によれば、所定の自然数は、0以上、かつ、ハミング重みまたは情報源出力の要素が1である桁の個数のうち小さいほうの値以下であって、それぞれの所定の自然数について、第1の制約式、第2の制約式および第3の制約式をすべて満たす復号化器出力についての実行可能解が存在するか否かについて判定し、実行可能解が存在すると判定した場合に、目的関数の値を算出することとしたので、符号化に関する処理負荷を低減することができるという効果を奏する。 Further, according to the present invention, the predetermined natural number is not less than 0 and not more than the smaller value of the number of digits whose Hamming weight or information source output element is 1, and for each predetermined natural number If there is a feasible solution for the decoder output that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation, and if it is determined that there is an executable solution Since the value of the objective function is calculated, it is possible to reduce the processing load related to encoding.
また、本発明によれば、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、復号化器出力と第1の疎行列との積がタイプと等値であるとする第1の制約式、復号化器出力と第2の疎行列との積が有歪み情報源符号と等値であるとする第2の制約式、および、復号化器出力の符号語長とタイプとの積であるハミング重みが復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす復号化器出力を線形計画法で求解することとしたので、各制約式を実数体上の線形制約条件とみなすことで、タイプ一定符号を効率よく復号化することができるという効果を奏する。 Further, according to the present invention, the first sparse matrix, the second sparse matrix used for encoding, the one-row horizontal matrix having a predetermined Hamming weight, and the predetermined type are stored, and the decoder output A first constraint that the product of the first sparse matrix is equivalent to the type, and a product of the decoder output and the second sparse matrix that is equal to the type of the distorted information source code. And a third constraint equation in which the Hamming weight, which is the product of the codeword length and the type of the decoder output, is equal to the number of digits in which the decoder output element is 1. , The first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraints on the real number field by the relaxation method, and a decoder output that satisfies all these linear constraints is obtained. Since it was decided to solve by linear programming, each constraint equation is regarded as a linear constraint on the real field, so An effect that can efficiently decode the code.
以下に添付図面を参照して、本発明に係る符号化装置、復号化装置、符号化方法、復号化方法、符号化プログラムおよび復号化プログラムの実施例を詳細に説明する。なお、以下では、本発明の適用対象となる通信路符号問題および有歪み情報源符号問題について図1を、本発明の概要について図2を、それぞれ用いて説明した後に、本発明を適用した実施例について図3〜図10を用いて説明することとする。 Exemplary embodiments of an encoding device, a decoding device, an encoding method, a decoding method, an encoding program, and a decoding program according to the present invention will be described below in detail with reference to the accompanying drawings. In the following, the channel code problem and the distorted information source code problem to which the present invention is applied will be described with reference to FIG. 1 and the outline of the present invention will be described with reference to FIG. An example will be described with reference to FIGS.
まず、本発明の適用対象となる通信路符号問題および有歪み情報源符号問題について図1を用いて説明する。図1は、通信路符号問題および有歪み情報源符号問題を示す図である。なお、同図の(A)には、通信路符号問題を、同図の(B)には、有歪み情報源符号問題を、それぞれ示している。また、通信路符号は誤り訂正符号と、有歪み情報源符号はベクトル量子化と、それぞれ呼ばれる場合もある。 First, the channel code problem and the distorted information source code problem to which the present invention is applied will be described with reference to FIG. FIG. 1 is a diagram illustrating a channel code problem and a distorted information source code problem. Note that (A) in the figure shows the channel code problem, and (B) in the figure shows the distortion information source code problem. The channel code is sometimes called an error correction code, and the distortion information source code is sometimes called vector quantization.
最初に、図1の(A)に示した通信路符号問題の課題について説明する。なお、有歪み情報源符号に関しても同様な課題が存在する。 First, the problem of the channel code problem shown in FIG. Similar problems exist for the strained information source code.
図1の(A)に示したように、送り手である符号化器(Φn)は、メッセージuk∈{0,1}kを符号化し、符号語xnを、通信路へ送り出す。通信路は、入力として受け付けた符号語xnを、通信路出力ynとして出力する。ここで、通信路は、同図に示す条件付き確率WY|X(なお、ここでは、YおよびXの添字nの記載を省略している)としてあらわされる。また、受け手である復号化器(Ψn)は、通信路出力ynを受け取り、メッセージukに対応する復元メッセージ((^:ハット記号)付きのuk)を復号化する。 As shown in FIG. 1A, the encoder (Φ n ) as the sender encodes the message u k ε {0, 1} k and sends the code word x n to the communication path. Communication path, the codeword x n which is accepted as input and outputs as the channel output y n. Here, the communication path is expressed as a conditional probability W Y | X (in this case, the description of the subscript n of Y and X is omitted). The decoder (Ψ n ), which is the receiver, receives the channel output y n and decodes the restoration message (u k with (^: hat symbol)) corresponding to the message u k .
ここで、図1の(A)に示した系に対してタイプ一定符号を導入した場合について説明する。タイプ一定符号は、あらかじめ与えられたタイプをP(0<P<1)、各符号語の符号語長をnとした場合に、ハミング重みnPをもつ符号語のことを指す。 Here, a case where a fixed type code is introduced into the system shown in FIG. The constant type code indicates a code word having a Hamming weight nP, where P (0 <P <1) is a given type and n is the code word length of each code word.
一方、クロスオーバー確率がδの2値対称通信路BSC(δ)の通信路容量Cは、
C=1−Hb(δ)
ただし、Hb(δ)=−δlogδ−(1−δ)log(1−δ)
によって与えられることが知られている。
On the other hand, the channel capacity C of the binary symmetric channel BSC (δ) having a crossover probability of δ is
C = 1−Hb (δ)
However, Hb (δ) = − δlogδ− (1-δ) log (1-δ)
It is known to be given by
したがって、タイプ一定符号は、nCnP個の符号語の候補の中から2nC個の符号語を選ぶことによって生成されることになる。しかし、かかる符号語の選択操作に要する計算量は、符号語長nに関して指数的に増加することが明らかである。このため、従来は、任意の符号語長nのタイプ一定符号を効率的に算出することはできなかった。 Therefore, the constant type code is generated by selecting 2 nC code words from n C nP code word candidates. However, it is clear that the amount of calculation required for such codeword selection operation increases exponentially with respect to the codeword length n. For this reason, conventionally, a constant type code having an arbitrary codeword length n cannot be efficiently calculated.
そこで、本発明では、任意の符号語長nのタイプ一定符号を効率的に生成する符号化手法と、かかる符号化手法によって符号化された符号を効率的に復号する復号化手法を提供することとした。 Therefore, the present invention provides an encoding method for efficiently generating a constant type code of an arbitrary codeword length n and a decoding method for efficiently decoding a code encoded by such an encoding method. It was.
ここで、本発明に係る符号化手法および復号化手法の概要について図2を用いて説明しておく。なお、同図の(A−1)には、通信路符号に関する符号化手法の概要について、同図の(A−2)には、通信路符号に関する復号化手法の概要について、それぞれ示している。 Here, the outline | summary of the encoding method and decoding method based on this invention is demonstrated using FIG. In addition, (A-1) in the figure shows an outline of the encoding method related to the channel code, and (A-2) in the same figure shows an outline of the decoding method related to the channel code. .
図2の(A−1)に示したように、本発明に係る符号化手法では、
制約式:Σxi=nP
ただし、Σxiは、i=1からnまでのxiの総和
を拘束条件の1つとして含む符号化器Φnを構成することとした。ここで、かかる制約式は、符号語xnの各要素xiが1である桁の個数が、ハミング重みnPと等しいことを意味するものである。
As shown in (A-1) of FIG. 2, in the encoding method according to the present invention,
Constraint formula: Σx i = nP
However, Σx i constitutes an encoder Φn that includes the sum of x i from i = 1 to n as one of the constraint conditions. Here, such a constraint expression means that the number of digits in which each element x i of the code word x n is 1 is equal to the Hamming weight nP.
このように、図2の(A−1)に示した制約式は、符号語のハミング重みが一定であること、すなわち、符号語がタイプ一定符号であることをあらわしているが、かかる制約式を拘束条件の1つとして含んだ符号化器は、従来提供されていなかった。 As described above, the constraint equation shown in (A-1) of FIG. 2 indicates that the Hamming weight of the code word is constant, that is, the code word is a constant type code. In the past, there was no encoder that included a symbol as a constraint.
これは、符号語のハミング重みが一定である旨の制約式を拘束条件の1つとしたとしても、そもそも、各拘束条件における行列演算が2値の体(たい)である体F2上の演算であるため、全ての拘束条件を満たす符号語xnを線形的な計算で求めることは不可能であると認識されていたからであると考えられる。 Even if the constraint expression that the Hamming weight of the codeword is constant is one of the constraint conditions, in the first place, the computation on the field F 2 in which the matrix operation in each constraint condition is a binary field Therefore, it is considered that it was recognized that it was impossible to obtain the codeword xn satisfying all the constraint conditions by linear calculation.
しかしながら、本発明に係る符号化手法では、かかる拘束条件を、実数体上の線形制約条件へ変換する手法である緩和法(上記した非特許文献4参照)を用いて線形制約条件へ変換し、符号語xnを線形計画法で求解することとした。 However, in the encoding method according to the present invention, the constraint condition is converted into a linear constraint condition using a relaxation method (see Non-Patent Document 4 described above), which is a technique for converting the constraint condition into a linear constraint condition on a real field. The codeword xn is determined by linear programming.
したがって、本発明に係る符号化手法によれば、従来においては符号語長nに関して指数的に増加すると考えられていたタイプ一定符号の計算量を、多項式オーダーの計算量に抑えることができる。すなわち、符号語長nを増加させていった場合であっても、タイプ一定符号の生成に要する処理負荷が符号語長nに関して指数的に増加することはない。このため、符号語長nの長短に関わらずタイプ一定符号を効率的に生成することができる。 Therefore, according to the encoding method according to the present invention, it is possible to suppress the calculation amount of a constant type code, which was conventionally considered to increase exponentially with respect to the codeword length n, to a polynomial order calculation amount. That is, even when the codeword length n is increased, the processing load required for generating the constant type code does not increase exponentially with respect to the codeword length n. For this reason, it is possible to efficiently generate a constant type code regardless of the length of the codeword length n.
また、図2の(A−2)に示したように、本発明に係る復号化手法においても、
制約式:Σxi=nP
ただし、Σxiは、i=1からnまでのxiの総和
を拘束条件の1つとして含む復号化器Ψnを構成することとした。
Further, as shown in (A-2) of FIG. 2, in the decoding method according to the present invention,
Constraint formula: Σx i = nP
However, Σx i constitutes a decoder Ψ n including the sum of x i from i = 1 to n as one of the constraint conditions.
そして、全ての拘束条件を、上記した緩和法を用いて線形制約条件へ変換し、線形制約条件のもと、あらたに導出した線形の目的関数を最小とする符号語xnを線形計画法で求解することとした。また、求解した符号語xnに対して所定の疎行列Bを乗じた推定メッセージ(符号化前のメッセージに対応)を算出することとした。なお、かかる目的関数の詳細については後述することとする。 Then, all constraint conditions are converted into linear constraint conditions using the above-described relaxation method. Under the linear constraint conditions, a codeword xn that minimizes a newly derived linear objective function is obtained by linear programming. I decided to solve it. Also, an estimated message (corresponding to the message before encoding) is calculated by multiplying the solved codeword xn by a predetermined sparse matrix B. Details of the objective function will be described later.
したがって、本発明に係る復号化手法によれば、符号語長nが大きい場合であっても、タイプ一定符号を効率的に復号化することができる。なお、本発明の通信路符号に関する詳細な説明については、後述する実施例1にて行うこととする。 Therefore, according to the decoding method according to the present invention, it is possible to efficiently decode a constant type code even when the codeword length n is large. A detailed description of the channel code of the present invention will be given in Example 1 described later.
図1の説明に戻り、図1の(B)に示した有歪み情報源符号問題の課題について説明する。図1の(B)に示したように、情報源は確率PX(なお、ここでは、Xの添字nの記載を省略している)で与えられる。そして、情報源から情報源出力xnを受け取った符号化器Φnでは、情報源出力xnをukへ符号化することによって圧縮操作を実行する。また、受け手である復号化器Ψnは、受け取った符号語ukを、復元メッセージynとして復号化する。なお、復元メッセージynを、復号化器出力と呼ぶこともできる。 Returning to the description of FIG. 1, the problem of the distorted information source code problem shown in FIG. As shown in FIG. 1B, the information source is given by the probability P X (here, the description of the subscript n of X is omitted). Then, the encoder [Phi n has received the information source output x n from the information source, the information source output x n to perform compression operations by encoding the u k. Moreover, the decoder [psi n is a recipient, a code word u k received, decrypts the recovered message y n. It is also possible to restore the message y n, it referred to as a decoder output.
そして、歪み測度を「d:{0,1}×{0,1}→[0,∞]」とすると、情報源出力xnおよび復号化器出力ynは、あらかじめ与えられた歪み基準D(D>0)に対し、
(1/n)Σd(xi,yi)<D
ただし、Σd(xi,yi)は、i=1からnまでのd(xi,yi)の総和
を満足することが要請される。
Then, if the distortion measure is “d: {0, 1} × {0, 1} → [0, ∞]”, the information source output x n and the decoder output y n are given by the distortion criterion D given in advance. (D> 0)
(1 / n) Σd (x i , y i ) <D
However, Σd (x i , y i ) is required to satisfy the sum of d (x i , y i ) from i = 1 to n.
ここで、図1の(B)に示した系に対してタイプ一定符号を導入した場合についても、図1の(A)に示した系と同様の問題が発生する。すなわち、符号語長nを増加させていくとタイプ一定符号の生成に要する処理負荷が符号語長nに関して指数的に増加してしまっていた。 Here, even when a constant type code is introduced into the system shown in FIG. 1B, the same problem as in the system shown in FIG. That is, as the codeword length n is increased, the processing load required to generate the constant type code is exponentially increased with respect to the codeword length n.
そこで、本発明では、有歪み情報源符号についても、任意の符号語長nのタイプ一定符号を効率的に生成する符号化手法と、かかる符号化手法によって符号化された符号を効率的に復号する復号化手法を提供することとした。なお、本発明の有歪み情報源符号に関する詳細な説明については、後述する実施例2にて行うこととする。 Therefore, in the present invention, with respect to the distorted information source code, an encoding method for efficiently generating a constant type code of an arbitrary codeword length n and a code encoded by the encoding method are efficiently decoded. It was decided to provide a decoding method. A detailed description of the distorted information source code of the present invention will be given in Example 2 described later.
本実施例1では、本発明を通信路符号に対して適用した場合について説明する。まず、符号化装置の構成について図3を用いて説明する。図3は、通信路符号に関する符号化装置10の構成を示すブロック図である。
In the first embodiment, a case where the present invention is applied to a channel code will be described. First, the configuration of the encoding device will be described with reference to FIG. FIG. 3 is a block diagram illustrating a configuration of the
図3に示すように、符号化装置10は、入力部11と、記憶部12と、制御部13と、出力部14とを備えている。また、記憶部12は、疎行列12aと、ベクトル12bと、タイプ12cとを記憶し、制御部13は、最適化実行部13aをさらに備えている。
As illustrated in FIG. 3, the
入力部11は、符号化の対象となるメッセージuk(uk∈{0,1}k)を受け付け、受け付けたメッセージukを制御部13へ渡す処理を行うデバイスである。また、出力部14は、制御部13から符号語xnを受け取り、受け取った符号語xnを図示しない通信路に対して出力する処理を行うデバイスである。
The
記憶部12は、ハードディスクドライブや不揮発性メモリといった記憶デバイスで構成される記憶部であり、疎行列12aと、ベクトル12bと、タイプ12cとを記憶する。疎行列12aは、n行×l列の疎行列Aと、n行×k列の疎行列Bとを含んでいる。ここで、nは、符号語長である。
The storage unit 12 is a storage unit configured by a storage device such as a hard disk drive or a nonvolatile memory, and stores a sparse matrix 12a, a
また、ベクトル12bは、ハミング重み(nP:ただし、nPは自然数)が2の1行×l列のl次元横ベクトルc2である。なお、本実施例1では、ハミング重みが2であるl次元横ベクトルを用いる場合について説明するが、ハミング重みが0以外の他の偶重み(たとえば、4や6など)となるl次元横ベクトルを用いることとしてもよい。
The
タイプ12cは、所定の値をとるタイプP(ただし、符号語長n×タイプPは自然数)を含んでいる。なお、疎行列12a、ベクトル12bおよびタイプ12cは、あらかじめ定められており、静的な値をとる。なお、以下の説明では、疎行列12a、ベクトル12bおよびタイプ12cをパラメータと呼ぶ場合もある。
The
制御部13は、符号化装置10に含まれる各種デバイスの全体制御を行う処理部である。また、最適化実行部13aは、記憶部12から各パラメータを読み出すとともに、入力部11から受け取ったメッセージukからタイプ一定符号である符号語xnを生成して出力部14へ渡す処理を行う処理部である。
The
以下では、この最適化実行部13aが行う処理内容についてさらに詳細に説明する。なお、以下の説明で用いるaあるいはbは、任意の2値数であるものとする。 Hereinafter, the processing content performed by the optimization execution unit 13a will be described in more detail. Note that a or b used in the following description is an arbitrary binary number.
図1の(A)で既に説明したように、通信路は、入力xが与えられた場合の出力yに関する条件付確率WY|X(なお、ここでは、YおよびXの添字nの記載を省略している)であらわされる。また、符号語長をn、疎行列Aの列数をl、疎行列Bの列数をk、Xに関するエントロピーをH(X)、Xに関する条件付エントロピーをH(X|Y)とした場合、
そして、PをX上の確率分布、WY|Xを条件付確率とすると、Xに関するエントロピーH(X)は、
また、Xに関する条件付エントロピーH(X|Y)は、
この場合、最適化実行部13aが有する符号化器「Φn:{0,1}k→{0,1}n」は、入力されるメッセージをuk∈{0,1}kとすると、
ここで、式(1)を線形計画問題とみなすことができれば、既存の効率のよい算出アルゴリズムを適用することが可能となる。しかし、式(1)の各拘束条件における行列演算は、2値の体(たい)である体F2上の演算であるため、このままでは、線形計画問題とはならない。 Here, if Equation (1) can be regarded as a linear programming problem, an existing efficient calculation algorithm can be applied. However, since the matrix operation in each constraint condition of Expression (1) is an operation on the field F 2 which is a binary field, it does not become a linear programming problem as it is.
そこで、最適化実行部13aでは、式(1)の各拘束条件を、緩和法(上記した非特許文献4参照)を用いて線形制約条件へ変換し、これらの線形制約条件を満たす符号語xnを、線形計画法を用いて求めることとした。 Therefore, the optimization execution unit 13a converts each constraint condition of Expression (1) into a linear constraint condition using a relaxation method (see Non-Patent Document 4 described above), and a codeword x that satisfies these linear constraint conditions. n was determined using linear programming.
これにより、従来においては符号語長nに関して指数的に増加すると考えられていたタイプ一定符号の計算量を、多項式オーダーの計算量に抑えることができる。したがって、図3に示した符号化装置10によれば、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化を実現することができる。
Thereby, it is possible to suppress the calculation amount of the constant type code, which has been conventionally considered to increase exponentially with respect to the codeword length n, to the calculation amount of the polynomial order. Therefore, according to the
次に、通信路符号に関する符号化装置10が実行する処理手順について図4を用いて説明する。図4は、通信路符号に関する符号化装置10が実行する処理手順を示すフローチャートである。
Next, a processing procedure executed by the
図4に示すように、入力部11へメッセージuk∈{0,1}kが入力されると(ステップS101)、最適化実行部13aは、記憶部12から各パラメータを読み出す(ステップS102)。 As shown in FIG. 4, when the message u k ε {0, 1} k is input to the input unit 11 (step S101), the optimization execution unit 13a reads each parameter from the storage unit 12 (step S102). .
そして、式(1)の各拘束条件、すなわち、xnA=c2、xnB=ukおよびΣxi=nPをすべて満たす符号語xnを、緩和法を併用した線形計画法で算出する(ステップS103)。そして、ステップS103で算出されたxnを符号語として出力部14へ渡し(ステップS104)、処理を終了する。 Then, calculate the constraint condition of the equation (1), i.e., at x n A = c 2, x n B = a u k and? X i = all satisfied nP codeword x n, linear programming in combination with Relaxation (Step S103). Then, xn calculated in step S103 is passed to the output unit 14 as a code word (step S104), and the process is terminated.
次に、図3に示した符号化装置10によって符号化された符号語を復号化する復号化装置について説明する。図5は、通信路符号に関する復号化装置20の構成を示すブロック図である。
Next, a decoding device that decodes the codeword encoded by the
図5に示すように、復号化装置20は、入力部21と、記憶部22と、制御部23と、出力部24とを備えている。また、記憶部22は、疎行列22aと、ベクトル22bと、タイプ22cとを記憶し、制御部23は、最適化実行部23aをさらに備えている。
As illustrated in FIG. 5, the
入力部21は、通信路出力yn(yn∈{0,1}n)を受け付け、受け付けた通信路出力ynを制御部23へ渡す処理を行うデバイスである。また、出力部24は、制御部23から推定メッセージxnBを受け取り、受け取った推定メッセージxnBを出力する処理を行うデバイスである。
The input unit 21 is a device that receives a communication path output y n (y n ε {0, 1} n ) and performs processing for passing the received communication path output y n to the
記憶部22は、ハードディスクドライブや不揮発性メモリといった記憶デバイスで構成される記憶部であり、疎行列22aと、ベクトル22bと、タイプ22cとを記憶する。疎行列22aは、n行×l列の疎行列Aと、n行×k列の疎行列Bとを含んでいる。ここで、nは、符号語長である。なお、疎行列Aおよび疎行列Bは、図3に示した符号化装置10の記憶部12に記憶される疎行列12aと同一である。
The
また、ベクトル22bは、ハミング重み(nP:ただし、nPは自然数)が2の1行×l列のl次元横ベクトルc2であり、図3に示した符号化装置10の記憶部12に記憶されるベクトル12bと同一である。そして、タイプ22cについても、図3に示した符号化装置10の記憶部12に記憶されるタイプ12cと同一である。なお、以下の説明では、疎行列22a、ベクトル22bおよびタイプ22cをパラメータと呼ぶ場合もある。
The
制御部23は、復号化装置20に含まれる各種デバイスの全体制御を行う処理部である。また、最適化実行部23aは、記憶部22から各パラメータを読み出すとともに、入力部21から受け取った通信路出力ynから推定メッセージxnBを生成して出力部24へ渡す処理を行う処理部である。
The
以下では、この最適化実行部23aが行う処理内容についてさらに詳細に説明する。なお、以下の説明で用いるaあるいはbは、任意の2値数であるものとする。
Hereinafter, the processing content performed by the
最適化実行部23aが有する復号化器「Ψn:{0,1}n→{0,1}k」は、通信路出力をyn∈{0,1}nとすると、
また、
ここで、式(2)を線形計画問題とみなすことができれば、既存の効率のよい算出アルゴリズムを適用することが可能となる。しかし、式(2)の各拘束条件における行列演算は、2値の体(たい)である体F2上の演算であるため、このままでは、線形計画問題とはならない。さらに、式(2)の目的関数は、変数xiに関して線形ではない。 Here, if Equation (2) can be regarded as a linear programming problem, an existing efficient calculation algorithm can be applied. However, since the matrix operation in each constraint condition of Expression (2) is an operation on the field F 2 which is a binary field, it does not become a linear programming problem as it is. Furthermore, the objective function of equation (2) is not linear with respect to the variable x i .
そこで、最適化実行部23aでは、式(2)の各拘束条件を、緩和法(上記した非特許文献4参照)を用いて線形制約条件へ変換することとした。さらに、式(2)の目的関数については、実行可能解を求める以下の方式を用いることとした。
Therefore, the
具体的には、通信路出力をyn、N(a|yn)={系列ynにおけるaの出現回数}、自然数mを
ただし、Hb(δ)=−δlogδ−(1−δ)log(1−δ)である。また、xiは、xnの第i成分(i桁目)であり、yiは、ynの第i成分(i桁目)である。 However, it is Hb ((delta)) =-deltalogdelta- (1-delta) log (1-delta). X i is the i-th component (i-th digit) of x n , and y i is the i-th component (i-th digit) of y n .
すなわち、式(4)は、線形の拘束条件の下で、目的関数である
そして、最適化実行部23aは、各mに対して式(4)の実行可能解の有無を判別し、実行可能解が存在する場合には、式(4’)を計算する手順を繰り返すことによって、最終的に、式(4’)の最小値を与えるxnを求める。
Then, the
ここで、注目すべきは、上記した手順は、線形計画法を適用することですべて実行できる点である。すなわち、従来においては符号語長nに関して指数的に増加すると考えられていたタイプ一定符号の計算量を、多項式オーダーの計算量に抑えることができる。このように、本発明は、条件付エントロピーが目的関数である場合における最適化の実現アルゴリズムをあらたに提案するものでもある。 Here, it should be noted that the above-described procedure can be executed entirely by applying linear programming. That is, it is possible to suppress the calculation amount of the constant type code, which is conventionally considered to increase exponentially with respect to the codeword length n, to the calculation amount of the polynomial order. Thus, the present invention also newly proposes an algorithm for realizing optimization when conditional entropy is an objective function.
次に、通信路符号に関する復号化装置20が実行する処理手順について図6を用いて説明する。図6は、通信路符号に関する復号化装置20が実行する処理手順を示すフローチャートである。
Next, a processing procedure executed by the
図6に示すように、入力部21へ通信路出力yn∈{0,1}nが入力されると(ステップS201)、最適化実行部23aは、記憶部22から各パラメータを読み出す(ステップS202)。
As shown in FIG. 6, when the channel output y n ε {0, 1} n is input to the input unit 21 (step S201), the
そして、式(4)の各拘束条件、すなわち、xnA=c2、Σxi=nPおよびΣyixi=mをすべて満たし、かつ、目的関数(式(4’)参照)を最小とするxnを、緩和法を併用した線形計画法で算出する(ステップS203)。そして、ステップS203で算出されたxnと疎行列Bとの積であるxnBを推定メッセージとして出力部24へ渡し(ステップS204)、処理を終了する。 Then, each constraint condition of Expression (4), that is, x n A = c 2 , Σx i = nP and Σy i x i = m are all satisfied, and the objective function (see Expression (4 ′)) is minimized. Xn to be calculated is calculated by linear programming using a relaxation method together (step S203). Then, x n B, which is the product of x n calculated in step S203 and sparse matrix B, is passed to the output unit 24 as an estimation message (step S204), and the process is terminated.
上述してきたように、実施例1では、記憶部が、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、最適化実行部が、符号語と第1の疎行列との積がタイプと等値であるとする第1の制約式、符号語と第2の疎行列との積が2値メッセージと等値であるとする第2の制約式、および、符号語の符号語長とタイプとの積であるハミング重みが符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす符号語を線形計画法で求解するように符号化装置を構成した。したがって、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化を実現することができる。また、典型系列を用いた符号よりもシャノン限界に近い伝送容量を実現することができる。 As described above, in the first embodiment, the storage unit stores the first sparse matrix, the second sparse matrix, the one-row horizontal matrix having a predetermined Hamming weight, and the predetermined type, and the optimization execution unit Is the first constraint expression that the product of the codeword and the first sparse matrix is equal to the type, and the product of the codeword and the second sparse matrix is equivalent to the binary message Using the second constraint equation and the third constraint equation that the Hamming weight, which is the product of the codeword length and the type of the codeword, is equal to the number of digits whose codeword element is 1, The first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraint conditions on the real number field by the relaxation method, and a codeword that satisfies all these linear constraint conditions is solved by linear programming. Thus, the encoding device was configured. Therefore, it is possible to realize encoding that efficiently generates a constant type code regardless of the length of the codeword. In addition, a transmission capacity closer to the Shannon limit can be realized than a code using a typical sequence.
また、実施例1では、記憶部が、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、最適化実行部が、符号化された2値メッセージをあらわす符号語と第1の疎行列との積がタイプと等値であるとする第1の制約式、符号語の符号語長とタイプとの積であるハミング重みが符号語の要素が1である桁の個数と等値であるとする第2の制約式、符号語の要素と通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、符号語に関して線形な目的関数を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす符号語のうち、目的関数を最小とする符号語を線形計画法で求解し、求解した符号語と第2の疎行列との積を2値メッセージとするように復号化装置を構成した。したがって、タイプ一定符号を効率よく復号化することができる。 Further, in the first embodiment, the storage unit stores the first sparse matrix, the second sparse matrix, the row matrix having one row having a predetermined Hamming weight, and a predetermined type, which are used for encoding. A first constraint expression in which the execution unit assumes that the product of the codeword representing the encoded binary message and the first sparse matrix is equal to the type, the product of the codeword length of the codeword and the type The second constraint expression that the Hamming weight is equal to the number of digits in which the codeword element is 1 is the number of digits in which both the codeword element and the channel output element are 1. Using a third constraint equation that is equal to a predetermined natural number and a linear objective function with respect to the codeword, the first constraint equation, the second constraint equation, and the third constraint equation are real numbers by a relaxation method. Of codewords that satisfy all of these linear constraints after conversion to linear constraints on the field Construed seek codewords objective function minimized by linear programming, to constitute a decoder as the product of solving codeword and a second sparse and binary messages. Therefore, a constant type code can be efficiently decoded.
以下に示す実施例2では、本発明を有歪み情報源符号に対して適用した場合について説明する。 In a second embodiment described below, a case where the present invention is applied to a distorted information source code will be described.
本実施例2では、本発明を有歪み情報源符号に対して適用した場合について説明する。まず、符号化装置の構成について図7を用いて説明する。図7は、有歪み情報源符号に関する符号化装置30の構成を示すブロック図である。 In the second embodiment, a case where the present invention is applied to a distorted information source code will be described. First, the configuration of the encoding device will be described with reference to FIG. FIG. 7 is a block diagram illustrating a configuration of the encoding device 30 related to the distorted information source code.
図3に示すように、符号化装置30は、入力部31と、記憶部32と、制御部33と、出力部34とを備えている。また、記憶部32は、疎行列32aと、ベクトル32bと、タイプ32cとを記憶し、制御部33は、最適化実行部33aをさらに備えている。
As illustrated in FIG. 3, the encoding device 30 includes an input unit 31, a storage unit 32, a control unit 33, and an output unit 34. The storage unit 32 stores a sparse matrix 32a, a
入力部31は、符号化の対象となる情報源出力xn(xn∈{0,1}n)を受け付け、受け付けた情報源出力xnを制御部33へ渡す処理を行うデバイスである。また、出力部34は、制御部33から符号語ynBを受け取り、受け取った符号語ynBを出力する処理を行うデバイスである。 The input unit 31 is a device that receives an information source output x n (x n ε {0, 1} n ) to be encoded and performs a process of passing the received information source output x n to the control unit 33. The output unit 34 is a device that receives the codeword y n B from the control unit 33 and performs processing to output the received codeword y n B.
記憶部32は、ハードディスクドライブや不揮発性メモリといった記憶デバイスで構成される記憶部であり、疎行列32aと、ベクトル32bと、タイプ32cとを記憶する。疎行列32aは、n行×l列の疎行列Aと、n行×k列の疎行列Bとを含んでいる。ここで、nは、符号語長である。
The storage unit 32 is a storage unit configured by a storage device such as a hard disk drive or a nonvolatile memory, and stores a sparse matrix 32a, a
また、ベクトル32bは、ハミング重み(nP:ただし、nPは自然数)が2の1行×l列のl次元横ベクトルc2である。なお、本実施例2では、ハミング重みが2であるl次元横ベクトルを用いる場合について説明するが、ハミング重みが0以外の他の偶重み(たとえば、4や6など)となるl次元横ベクトルを用いることとしてもよい。
Also,
タイプ32cは、所定の値をとるタイプP(ただし、符号語長n×タイプPは自然数)を含んでいる。なお、疎行列32a、ベクトル32bおよびタイプ32cは、あらかじめ定められており、静的な値をとる。なお、以下の説明では、疎行列32a、ベクトル32bおよびタイプ32cをパラメータと呼ぶ場合もある。
The
制御部33は、符号化装置30に含まれる各種デバイスの全体制御を行う処理部である。また、最適化実行部33aは、記憶部32から各パラメータを読み出すとともに、入力部31から受け取った情報源出力xnからタイプ一定符号である復号化器出力ynを生成し、生成したynと疎行列Bとの積である符号語ynBを出力部34へ渡す処理を行う処理部である。 The control unit 33 is a processing unit that performs overall control of various devices included in the encoding device 30. Further, the optimization execution unit 33a reads out each parameter from the storage unit 32, generates a decoder output y n that is a constant type code from the information source output x n received from the input unit 31, and generates the generated y n Is a processing unit that performs a process of passing a codeword y n B, which is a product of sparse matrix B, to the output unit 34.
以下では、この最適化実行部33aが行う処理内容についてさらに詳細に説明する。なお、以下の説明で用いるaあるいはbは、任意の2値数であるものとする。 Hereinafter, the processing content performed by the optimization execution unit 33a will be described in more detail. Note that a or b used in the following description is an arbitrary binary number.
図1の(B)で既に説明したように、情報源は、確率Pxであらわされる。また、情報源から情報源出力xnを受け取った符号化器Φnでは、情報源出力xnをukへ符号化することによって圧縮操作を実行する。 As already described in FIG. 1B, the information source is represented by the probability P x . Further, the encoder [Phi n has received the information source output x n from the information source, the information source output x n to perform compression operations by encoding the u k.
そして、歪み測度を「d:{0,1}×{0,1}→[0,∞]」とすると、情報源出力xnおよび復号化器出力ynは、あらかじめ与えられた歪み基準D(D>0)に対し、
そして、疎行列Aの列数をl、疎行列Bの列数をk、Yに関するエントロピーをH(Y)、Yに関する条件付エントロピーをH(Y|X)とした場合、
ここで、Yに関するエントロピーH(Y)およびYに関する条件付エントロピーH(Y|X)は、それぞれ、PxをX上の確率分布、所定の条件付確率(たとえば、レート・歪み限界を達成する条件付隔離値)をWY|Xとした場合の、Yに関するエントロピーおよび条件付エントロピーである。そして、レート・歪み限界を達成する条件付確率WY|Xは、たとえば、Arimoto-Blahutアルゴリズムを用いて求めることができる(非特許文献1参照)。 Here, the entropy H (Y) related to Y and the conditional entropy H (Y | X) related to Y are respectively Px as a probability distribution on X, a predetermined conditional probability (for example, a condition for achieving a rate / distortion limit) The entropy related to Y and the conditional entropy when the attached isolation value is W Y | X. Then, the conditional probability W Y | X that achieves the rate / distortion limit can be obtained using, for example, the Arimoto-Blahut algorithm (see Non-Patent Document 1).
この場合、最適化実行部33aが有する符号化器「Φn:{0,1}n→{0,1}k」は、情報源出力xn∈{0,1}nについて、
ここで、
ここで、式(5)を線形計画問題とみなすことができれば、既存の効率のよい算出アルゴリズムを適用することが可能となる。しかし、式(5)の各拘束条件における行列演算は、2値の体(たい)である体F2上の演算であるため、このままでは、線形計画問題とはならない。さらに、式(5)の目的関数は、変数yiに関して線形ではない。 Here, if Expression (5) can be regarded as a linear programming problem, an existing efficient calculation algorithm can be applied. However, since the matrix operation in each constraint condition of Equation (5) is an operation on the field F 2 that is a binary field, it does not become a linear programming problem as it is. Furthermore, the objective function of equation (5) is not linear with respect to the variable y i .
そこで、最適化実行部33aでは、式(5)の各拘束条件を、緩和法(上記した非特許文献4参照)を用いて線形制約条件へ変換することとした。さらに、式(5)の目的関数については、実行可能解を求める以下の方式を用いることとした。 Therefore, the optimization execution unit 33a converts each constraint condition of Expression (5) into a linear constraint condition using a relaxation method (see Non-Patent Document 4 described above). Further, for the objective function of Equation (5), the following method for obtaining an executable solution is used.
具体的には、情報源出力をxn、自然数mを
ただし、p(0<p<1)およびq(0<q<1)に対し、
すなわち、式(8)は、線形の拘束条件の下で、目的関数である
そして、最適化実行部33aは、各mに対して式(8)の実行可能解の有無を判別し、実行可能解が存在する場合には、式(8’)を計算する手順を繰り返すことによって、最終的に、式(8’)の最小値を与えるynを求める。 Then, the optimization execution unit 33a determines whether or not there is an executable solution of Expression (8) for each m, and if there is an executable solution, repeats the procedure of calculating Expression (8 ′). by ultimately determine the y n giving the minimum value of formula (8 ').
ここで、注目すべきは、上記した手順は、線形計画法を適用することですべて実行できる点である。すなわち、従来においては符号語長nに関して指数的に増加すると考えられていたタイプ一定符号の計算量を、多項式オーダーの計算量に抑えることができる。このように、本発明は、条件付ダイバージェンスが目的関数である場合における最適化の実現アルゴリズムをあらたに提案するものでもある。 Here, it should be noted that the above-described procedure can be executed entirely by applying linear programming. That is, it is possible to suppress the calculation amount of the constant type code, which is conventionally considered to increase exponentially with respect to the codeword length n, to the calculation amount of the polynomial order. Thus, the present invention also newly proposes an optimization implementation algorithm in the case where conditional divergence is an objective function.
次に、有歪み情報源符号に関する符号化装置30が実行する処理手順について図8を用いて説明する。図8は、有歪み情報源符号に関する符号化装置30が実行する処理手順を示すフローチャートである。 Next, a processing procedure executed by the encoding device 30 relating to the distorted information source code will be described with reference to FIG. FIG. 8 is a flowchart showing a processing procedure executed by the encoding device 30 regarding the distorted information source code.
図8に示すように、入力部31へ情報源出力xn∈{0,1}nが入力されると(ステップS301)、最適化実行部33aは、記憶部32から各パラメータを読み出す(ステップS302)。 As shown in FIG. 8, when the information source output x n ε {0, 1} n is input to the input unit 31 (step S301), the optimization execution unit 33a reads each parameter from the storage unit 32 (step S301). S302).
そして、式(8)の各拘束条件、すなわち、ynA=c2、Σyi=nPおよびΣxiyi=mをすべて満たし、かつ、目的関数(式(8’)参照)を最小とするynを、緩和法を併用した線形計画法で算出する(ステップS303)。そして、ステップS303で算出されたynと疎行列Bとの積であるynBを符号語として出力部34へ渡し(ステップS304)、処理を終了する。 Then, each constraint condition of Expression (8), that is, y n A = c 2 , Σy i = nP, and Σx i y i = m are all satisfied, and the objective function (see Expression (8 ′)) is minimized. the y n which is calculated by the linear programming combination with a relaxation method (step S303). Then, step S303 is the product of the calculated y n and sparse matrix B by passing a y n B to the output section 34 as a code word (step S304), and ends the process.
次に、図7に示した符号化装置30によって符号化された符号語を復号化する復号化装置について説明する。図9は、有歪み情報源符号に関する復号化装置40の構成を示すブロック図である。 Next, a decoding apparatus that decodes the codeword encoded by the encoding apparatus 30 shown in FIG. 7 will be described. FIG. 9 is a block diagram showing the configuration of the decoding apparatus 40 related to the distorted information source code.
図9に示すように、復号化装40は、入力部41と、記憶部42と、制御部43と、出力部44とを備えている。また、記憶部42は、疎行列42aと、ベクトル42bと、タイプ42cとを記憶し、制御部43は、最適化実行部43aをさらに備えている。
As shown in FIG. 9, the decryption device 40 includes an input unit 41, a
入力部41は、符号語uk(uk∈{0,1}k)を受け付け、受け付けた符号語ukを制御部43へ渡す処理を行うデバイスである。また、出力部44は、制御部43から復元メッセージynを受け取り、受け取った復元メッセージynを出力する処理を行うデバイスである。 The input unit 41 is a device that receives a codeword u k (u k ε {0, 1} k ) and performs a process of passing the received code word u k to the control unit 43. The output unit 44 receives the restoration message y n from the control unit 43 is a device for performing the process of outputting the restored message y n received.
記憶部42は、ハードディスクドライブや不揮発性メモリといった記憶デバイスで構成される記憶部であり、疎行列42aと、ベクトル42bと、タイプ42cとを記憶する。疎行列42aは、n行×l列の疎行列Aと、n行×k列の疎行列Bとを含んでいる。ここで、nは、符号語長である。なお、疎行列Aおよび疎行列Bは、図7に示した符号化装置30の記憶部32に記憶される疎行列32aと同一である。
The
また、ベクトル42bは、ハミング重み(nP:ただし、nPは自然数)が2の1行×l列のl次元横ベクトルc2であり、図7に示した符号化装置30の記憶部32に記憶されるベクトル32bと同一である。そして、タイプ42cについても、図7に示した符号化装置30の記憶部32に記憶されるタイプ32cと同一である。なお、以下の説明では、疎行列42a、ベクトル42bおよびタイプ42cをパラメータと呼ぶ場合もある。
The
制御部43は、復号化装置40に含まれる各種デバイスの全体制御を行う処理部である。また、最適化実行部43aは、記憶部42から各パラメータを読み出すとともに、入力部41から受け取った符号語ukから復元メッセージynを生成して出力部44へ渡す処理を行う処理部である。
The control unit 43 is a processing unit that performs overall control of various devices included in the decoding device 40. Moreover, the optimization execution unit 43a reads out the parameters from the
以下では、この最適化実行部43aが行う処理内容についてさらに詳細に説明する。なお、以下の説明で用いるaあるいはbは、任意の2値数であるものとする。 Hereinafter, the processing content performed by the optimization execution unit 43a will be described in more detail. Note that a or b used in the following description is an arbitrary binary number.
最適化実行部43aが有する復号化器「Ψn:{0,1}k→{0,1}n」は、符号化装置30によって符号化された符号語をuk∈{0,1}kとすると、
ここで、式(6)を線形計画問題とみなすことができれば、既存の効率のよい算出アルゴリズムを適用することが可能となる。しかし、式(6)の各拘束条件における行列演算は、2値の体(たい)である体F2上の演算であるため、このままでは、線形計画問題とはならない。 Here, if Equation (6) can be regarded as a linear programming problem, an existing efficient calculation algorithm can be applied. However, since the matrix operation in each constraint condition of Expression (6) is an operation on the field F 2 which is a binary field, it does not become a linear programming problem as it is.
そこで、最適化実行部43aでは、式(6)の各拘束条件を、緩和法(上記した非特許文献4参照)を用いて線形制約条件へ変換し、これらの線形制約条件を満たす符号語ynを、線形計画法を用いて求めることとした。 Therefore, the optimization execution unit 43a converts each constraint condition of Expression (6) into a linear constraint condition using a relaxation method (see Non-Patent Document 4 described above), and a codeword y that satisfies these linear constraint conditions. n was determined using linear programming.
これにより、従来においては符号語長nに関して指数的に増加すると考えられていたタイプ一定符号の計算量を、多項式オーダーの計算量に抑えることができる。したがって、図9に示した符号化装置40によれば、符号語長の長短に関わらず効率的にタイプ一定符号を復号化することができる。 Thereby, it is possible to suppress the calculation amount of the constant type code, which has been conventionally considered to increase exponentially with respect to the codeword length n, to the calculation amount of the polynomial order. Therefore, according to the encoding device 40 shown in FIG. 9, it is possible to efficiently decode a constant type code regardless of the length of the codeword.
次に、有歪み情報源符号に関する復号化装置40が実行する処理手順について図10を用いて説明する。図10は、有歪み情報源符号に関する復号化装置40が実行する処理手順を示すフローチャートである。 Next, a processing procedure executed by the decoding apparatus 40 regarding the distorted information source code will be described with reference to FIG. FIG. 10 is a flowchart showing a processing procedure executed by the decoding apparatus 40 regarding the distorted information source code.
図10に示すように、入力部41へ符号語uk∈{0,1}kが入力されると(ステップS401)、最適化実行部43aは、記憶部42から各パラメータを読み出す(ステップS402)。 As shown in FIG. 10, when the code word u k ε {0, 1} k is input to the input unit 41 (step S401), the optimization execution unit 43a reads each parameter from the storage unit 42 (step S402). ).
そして、式(6)の各拘束条件、すなわち、ynA=c2、ynB=ukおよびΣyi=nPをすべて満たす復元メッセージynを、緩和法を併用した線形計画法で算出する(ステップS403)。そして、ステップS403で算出されたynを復元メッセージとして出力部44へ渡し(ステップS404)、処理を終了する。 Then, calculate the constraint condition of the equation (6), i.e., in y n A = c 2, y n B = a u k and .sigma.y i = all satisfied nP restoration message y n, linear programming in combination with Relaxation (Step S403). Then, passing a y n calculated in step S403 as the recovered message to the output unit 44 (step S404), and ends the process.
上述してきたように、実施例2では、記憶部が、第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、最適化実行部が、復号化器出力と第1の疎行列との積がタイプと同値であるとする第1の制約式、復号化器出力の符号語長とタイプとの積であるハミング重みが復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、情報源出力の要素と復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、復号化器出力に関して線形な目的関数を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす復号化器出力のうち、目的関数を最小とする復号化器出力を線形計画法で求解し、求解した復号化器出力と第2の疎行列との積を有歪み情報源符号とするように符号化装置を構成した。したがって、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化を実現することができる。 As described above, in the second embodiment, the storage unit stores the first sparse matrix, the second sparse matrix, the one-row horizontal matrix having a predetermined Hamming weight, and the predetermined type, and the optimization execution unit. Is a first constraint that the product of the decoder output and the first sparse matrix is equivalent to the type, and the Hamming weight that is the product of the codeword length and the type of the decoder output is the decoder. The second constraint expression that the output element is equal to the number of digits that is 1, the number of digits that both the source output element and the decoder output element are 1 is a predetermined natural number Using a third constraint equation that is equivalent and an objective function that is linear with respect to the decoder output, the first constraint equation, the second constraint equation, and the third constraint equation are expressed on a real number field by a relaxation method. Of the decoder output that satisfies all of these linear constraints. Construed seek decoder outputs for the function minimized in linear programming, and configuring the coding device as to a lossy encoded information product of solving the decoder output and a second sparse. Therefore, it is possible to realize encoding that efficiently generates a constant type code regardless of the length of the codeword.
また、実施例2では、記憶部が、符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶し、最適化実行部が、復号化器出力と第1の疎行列との積がタイプと等値であるとする第1の制約式、復号化器出力と第2の疎行列との積が有歪み情報源符号と等値であるとする第2の制約式、および、復号化器出力の符号語長とタイプとの積であるハミング重みが復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、第1の制約式、第2の制約式および第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、これらの線形制約条件をすべて満たす復号化器出力を線形計画法で求解するように復号化装置を構成した。したがって、タイプ一定符号を効率よく復号化することができる。 In the second embodiment, the storage unit stores the first sparse matrix, the second sparse matrix, the row matrix having a predetermined hamming weight, and a predetermined type, which are used for encoding. The execution unit uses the first constraint expression that the product of the decoder output and the first sparse matrix is equal to the type, and the product of the decoder output and the second sparse matrix is a distorted information source. The second constraint expression that is equal to the code, and the Hamming weight, which is the product of the codeword length and the type of the decoder output, is equal to the number of digits whose decoder output element is 1. The first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraint conditions on a real field by a relaxation method using the third constraint equation that is The decoder was configured to solve the decoder output satisfying all the conditions by linear programming. Therefore, a constant type code can be efficiently decoded.
ところで、上記した各実施例において説明した各処理のうち、自動的に行われるとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるとして説明した処理の全部または一部を公知の手法で自動的に行うこともできる。 By the way, among the processes described in the above-described embodiments, all or a part of the processes described as being automatically performed can be manually performed, or the processes described as being performed manually can be performed. All or a part can be automatically performed by a known method.
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。 Further, each component of each illustrated apparatus is functionally conceptual, and does not necessarily need to be physically configured as illustrated. In other words, the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured.
さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、コンピュータ(たとえば、パーソナルコンピュータやワークステーション)およびコンピュータで解析実行されるプログラムにて、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。 Furthermore, each processing function performed by each device is entirely or arbitrarily partly performed by a computer (for example, a personal computer or a workstation) and a program that is analyzed and executed by the computer, or by hardware using wired logic. Can be realized as
なお、かかるプログラムは、インターネットなどのネットワークを介して配布することができる。また、かかるプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。 Such a program can be distributed through a network such as the Internet. Further, such a program can be executed by being recorded on a computer-readable recording medium such as a hard disk, a flexible disk (FD), a CD-ROM, an MO, and a DVD, and being read from the recording medium by the computer.
以上のように、本発明に係る符号化装置、復号化装置、符号化方法、復号化方法、符号化プログラムおよび復号化プログラムは、符号語長の長短に関わらず効率的にタイプ一定符号を生成する符号化およびその復号化を行いたい場合に有用であり、特に、タイプ一定符号を用いる各種技術、たとえば、無線システム技術や検索技術への実装に適している。 As described above, the encoding device, the decoding device, the encoding method, the decoding method, the encoding program, and the decoding program according to the present invention efficiently generate a constant type code regardless of the length of the codeword. It is useful when it is desired to perform encoding and decoding thereof, and is particularly suitable for implementation in various technologies using a fixed type code, such as radio system technology and search technology.
10 符号化装置
11 入力部
12 記憶部
12a 疎行列
12b ベクトル
12c タイプ
13 制御部
13a 最適化実行部
14 出力部
20 復号化装置
21 入力部
22 記憶部
22a 疎行列
22b ベクトル
22c タイプ
23 制御部
23a 最適化実行部
24 出力部
30 符号化装置
31 入力部
32 記憶部
32a 疎行列
32b ベクトル
32c タイプ
33 制御部
33a 最適化実行部
34 出力部
40 復号化装置
41 入力部
42 記憶部
42a 疎行列
42b ベクトル
42c タイプ
43 制御部
43a 最適化実行部
44 出力部
DESCRIPTION OF
Claims (16)
第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、
符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語と前記第2の疎行列との積が前記2値メッセージと等値であるとする第2の制約式、および、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語を線形計画法で求解する最適化実行手段と
を備えたことを特徴とする符号化装置。 An encoding device that generates a channel code having a constant Hamming weight from a binary message,
Storage means for storing a first sparse matrix, a second sparse matrix, a row of rows having a predetermined Hamming weight, and a predetermined type;
A first constraint expression that a product of a codeword and the first sparse matrix is equivalent to the type, and a product of the codeword and the second sparse matrix is equivalent to the binary message A second constraint equation that is assumed to be present, and a hamming weight that is a product of the codeword length of the codeword and the type is equal to the number of digits in which the codeword element is 1 3 is used to convert the first constraint formula, the second constraint formula, and the third constraint formula into linear constraint conditions on a real number field by a relaxation method, and all the linear constraint conditions are An encoding apparatus, comprising: an optimization execution unit that solves the codeword to be satisfied by linear programming.
符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、
符号化された前記2値メッセージをあらわす符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第2の制約式、前記符号語の要素と前記通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記符号語に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語のうち、前記目的関数を最小とする前記符号語を線形計画法で求解し、当該符号語と前記第2の疎行列との積を前記2値メッセージとする最適化実行手段と
を備えたことを特徴とする復号化装置。 A decoding device that generates a binary message before encoding from a channel output,
Storage means for storing a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight, and a predetermined type used for encoding;
A first constraint expression that a product of a coded code word representing the encoded binary message and the first sparse matrix is equivalent to the type, a code word length of the code word and the type The second constraint expression that the Hamming weight, which is a product, is equal to the number of digits in which the codeword element is 1, both the codeword element and the channel output element are 1. A third constraint expression that the number of digits is equal to a predetermined natural number, and a linear objective function with respect to the codeword are used, and the first constraint expression, the second constraint expression, and the first constraint expression are used. 3 is converted into a linear constraint on the real field by a relaxation method, and among the codewords that satisfy all the linear constraints, the codeword that minimizes the objective function is obtained by linear programming. And the product of the codeword and the second sparse matrix is the binary message. Decoding apparatus characterized by comprising an optimizing execution means to di.
前記符号語をxn、前記通信路出力をyn、前記符号語長をn、前記タイプをP、Hb(δ)をHb(δ)=−δlogδ−(1−δ)log(1−δ)、系列rnにおけるaの出現回数をN(a|rn)、前記所定の自然数mを0≦m≦min{nP,N(1|yn)}とした場合に、
(N(0|yn)/n)Hb((nP−m)/N(0|yn))+
(N(1|yn)/n)Hb(m/N(1|yn))
とあらわされることを特徴とする請求項2に記載の復号化装置。 The objective function used by the optimization execution unit is:
The code word is x n , the communication channel output is y n , the code word length is n, the type is P, and Hb (δ) is H b (δ) = − δ log δ− (1-δ) log (1− δ), when the number of occurrences of a in the sequence r n is N (a | r n ), and the predetermined natural number m is 0 ≦ m ≦ min {nP, N (1 | y n )},
(N (0 | y n ) / n) H b ((nP−m) / N (0 | y n )) +
(N (1 | y n ) / n) H b (m / N (1 | y n ))
The decoding device according to claim 2, wherein
0以上、かつ、前記ハミング重みまたは前記通信路出力の要素が1である桁の個数のうち小さいほうの値以下であって、
前記最適化実行手段は、
それぞれの前記所定の自然数について、前記第1の制約式、前記第2の制約式および前記第3の制約式をすべて満たす前記符号語についての実行可能解が存在するか否かについて判定し、前記実行可能解が存在すると判定した場合に、前記目的関数の値を算出することを特徴とする請求項2または3に記載の復号化装置。 The predetermined natural number is
0 or more and less than or equal to the smaller value of the number of digits in which the Hamming weight or the channel output element is 1.
The optimization execution means includes:
For each of the predetermined natural numbers, determine whether there is an executable solution for the codeword that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation, and 4. The decoding apparatus according to claim 2, wherein the value of the objective function is calculated when it is determined that there is an executable solution.
第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、
前記復号化器出力と前記第1の疎行列との積が前記タイプと同値であるとする第1の制約式、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、前記情報源出力の要素と前記復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記復号化器出力に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件すべて満たす前記復号化器出力のうち、前記目的関数を最小とする前記復号化器出力を線形計画法で求解し、当該復号化器出力と前記第2の疎行列との積を前記有歪み情報源符号とする最適化実行手段と
を備えたことを特徴とする符号化装置。 An encoding device that generates a distorted information source code having a constant Hamming weight based on a decoder output obtained from an information source output,
Storage means for storing a first sparse matrix, a second sparse matrix, a row of rows having a predetermined Hamming weight, and a predetermined type;
A first constraint that a product of the decoder output and the first sparse matrix is equivalent to the type; the Hamming weight that is a product of a codeword length of the decoder output and the type Is a second constraint equation that is equal to the number of digits of the decoder output element equal to 1, the digit of which both the information source output element and the decoder output element are 1 A third constraint equation that is equal to a predetermined natural number, and a linear objective function with respect to the decoder output, and the first constraint equation, the second constraint equation, and the second constraint equation 3 is converted into a linear constraint on the real field by a relaxation method, and the decoder output that minimizes the objective function is linearly programmed out of the decoder outputs that satisfy all the linear constraints. And the product of the decoder output and the second sparse matrix is Encoding apparatus is characterized in that an optimization execution means to distortion source coding.
前記情報源出力をxn、前記復号化器出力をyn、前記符号語長をn、前記タイプをP、pを0<p<1、qを0<q<1、D(p‖q)をD(p‖q)=plog(p/q)+(1−p)log((1−p)/(1−q))、系列rnにおけるaの出現回数をN(a|rn)、所定の条件付確率をWY|Xとした場合に、
(N(0|yn)/n)D((nP−m)/N(0|xn)‖WY|X(1|0))+
(N(1|yn)/n)D(m/N(1|yn)‖WY|X(1|1))
とあらわされることを特徴とする請求項5に記載の符号化装置。 The objective function used by the optimization execution unit is:
The information source output is x n , the decoder output is y n , the codeword length is n, the type is P, p is 0 <p <1, q is 0 <q <1, D (p‖q ) and D (p‖q) = plog (p / q) + (1-p) log ((1-p) / (1-q)), the number of occurrences of a in the sequence r n n (a | r n ), where the predetermined conditional probability is W Y | X
(N (0 | y n ) / n) D ((nP−m) / N (0 | x n ) ‖W Y | X (1 | 0)) +
(N (1 | y n ) / n) D (m / N (1 | y n ) ‖W Y | X (1 | 1))
The encoding apparatus according to claim 5, wherein
0以上、かつ、前記ハミング重みまたは前記情報源出力の要素が1である桁の個数のうち小さいほうの値以下であって、
前記最適化実行手段は、
それぞれの前記所定の自然数について、前記第1の制約式、前記第2の制約式および前記第3の制約式をすべて満たす前記復号化器出力についての実行可能解が存在するか否かについて判定し、前記実行可能解が存在すると判定した場合に、前記目的関数の値を算出することを特徴とする請求項5または6に記載の符号化装置。 The predetermined natural number is
0 or more and less than or equal to the smaller value of the number of digits in which the Hamming weight or the information source output element is 1.
The optimization execution means includes:
For each of the predetermined natural numbers, a determination is made as to whether there is an executable solution for the decoder output that satisfies all of the first constraint equation, the second constraint equation, and the third constraint equation. The encoding apparatus according to claim 5, wherein the value of the objective function is calculated when it is determined that the feasible solution exists.
符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶する記憶手段と、
前記復号化器出力と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記復号化器出力と前記第2の疎行列との積が前記有歪み情報源符号と等値であるとする第2の制約式、および、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記復号化器出力を線形計画法で求解する最適化実行手段と
を備えたことを特徴とする復号化装置。 A decoding device for generating a decoder output from a distorted information source code,
Storage means for storing a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight, and a predetermined type used for encoding;
A first constraint that a product of the decoder output and the first sparse matrix is equal to the type; a product of the decoder output and the second sparse matrix is the distortion The second constraint equation that is equal to the information source code, and the Hamming weight, which is the product of the codeword length of the decoder output and the type, has an element of the decoder output of 1 Using a third constraint equation that is equivalent to the number of digits, the first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraint conditions on a real number field by a relaxation method. A decoding apparatus comprising: an optimization execution unit that converts the output of the decoder that satisfies all of the linear constraint conditions after conversion by linear programming.
第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、
符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語と前記第2の疎行列との積が前記2値メッセージと等値であるとする第2の制約式、および、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語を線形計画法で求解する最適化実行工程と
を含んだことを特徴とする符号化方法。 An encoding method for generating a channel code having a constant Hamming weight from a binary message,
A storage step of storing a first sparse matrix, a second sparse matrix, a one-row row matrix having a predetermined Hamming weight, and a predetermined type in a storage unit;
A first constraint expression that a product of a codeword and the first sparse matrix is equivalent to the type, and a product of the codeword and the second sparse matrix is equivalent to the binary message A second constraint equation that is assumed to be present, and a hamming weight that is a product of the codeword length of the codeword and the type is equal to the number of digits in which the codeword element is 1 3 is used to convert the first constraint formula, the second constraint formula, and the third constraint formula into linear constraint conditions on a real number field by a relaxation method, and all the linear constraint conditions are An encoding execution method comprising: an optimization execution step of solving the codeword to be satisfied by linear programming.
符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、
符号化された前記2値メッセージをあらわす符号語と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記符号語の符号語長と前記タイプとの積である前記ハミング重みが前記符号語の要素が1である桁の個数と等値であるとする第2の制約式、前記符号語の要素と前記通信路出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記符号語に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記符号語のうち、前記目的関数を最小とする前記符号語を線形計画法で求解し、当該符号語と前記第2の疎行列との積を前記2値メッセージとする最適化実行工程と
を含んだことを特徴とする復号化方法。 A decoding method for generating a binary message before encoding from a channel output,
A storage step of storing a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight, and a predetermined type used for encoding in a storage unit;
A first constraint expression that a product of a coded code word representing the encoded binary message and the first sparse matrix is equivalent to the type, a code word length of the code word and the type The second constraint expression that the Hamming weight as a product is equal to the number of digits in which the codeword element is 1, both the codeword element and the channel output element are 1. A third constraint expression that the number of digits is equal to a predetermined natural number, and a linear objective function with respect to the codeword are used, and the first constraint expression, the second constraint expression, and the first constraint expression are used. 3 is converted into a linear constraint on the real field by a relaxation method, and the codeword that minimizes the objective function is solved by linear programming among the codewords that satisfy all the linear constraints. And the product of the codeword and the second sparse matrix is the binary message. Decoding method characterized by including the optimization execution process of the di.
第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、
前記復号化器出力と前記第1の疎行列との積が前記タイプと同値であるとする第1の制約式、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第2の制約式、前記情報源出力の要素と前記復号化器出力の要素とが双方とも1である桁の個数が所定の自然数と等値であるとする第3の制約式、および、前記復号化器出力に関して線形な目的関数を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記復号化器出力のうち、前記目的関数を最小とする前記復号化器出力を線形計画法で求解し、当該復号化器出力と前記第2の疎行列との積を前記有歪み情報源符号とする最適化実行工程と
を含んだことを特徴とする符号化方法。 An encoding method for generating a distorted information source code having a constant Hamming weight based on a decoder output obtained from an information source output,
A storage step of storing a first sparse matrix, a second sparse matrix, a one-row row matrix having a predetermined Hamming weight, and a predetermined type in a storage unit;
A first constraint that a product of the decoder output and the first sparse matrix is equivalent to the type; the Hamming weight that is a product of a codeword length of the decoder output and the type Is a second constraint equation that is equal to the number of digits of the decoder output element equal to 1, the digit of which both the information source output element and the decoder output element are 1 A third constraint equation that is equal to a predetermined natural number, and a linear objective function with respect to the decoder output, and the first constraint equation, the second constraint equation, and the second constraint equation 3 is converted into a linear constraint on the real field by a relaxation method, and the decoder output that minimizes the objective function is linearly converted from the decoder outputs that satisfy all the linear constraints. Solved by the programming method, the product of the decoder output and the second sparse matrix Coding method characterized by including the optimization execution process of the lossy source coding.
符号化に用いられた第1の疎行列、第2の疎行列、所定のハミング重みを有する1行の横行列および所定のタイプを記憶部へ記憶させる記憶工程と、
前記復号化器出力と前記第1の疎行列との積が前記タイプと等値であるとする第1の制約式、前記復号化器出力と前記第2の疎行列との積が前記有歪み情報源符号と等値であるとする第2の制約式、および、前記復号化器出力の符号語長と前記タイプとの積である前記ハミング重みが前記復号化器出力の要素が1である桁の個数と等値であるとする第3の制約式を用い、前記第1の制約式、前記第2の制約式および前記第3の制約式を緩和法によって実数体上の線形制約条件へ変換したうえで、該線形制約条件をすべて満たす前記復号化器出力を線形計画法で求解する最適化実行工程と
を含んだことを特徴とする復号化方法。 A decoding method for generating a decoder output from a distorted information source code, comprising:
A storage step of storing a first sparse matrix, a second sparse matrix, a row matrix having a predetermined Hamming weight, and a predetermined type used for encoding in a storage unit;
A first constraint that a product of the decoder output and the first sparse matrix is equal to the type; a product of the decoder output and the second sparse matrix is the distortion The second constraint equation that is equal to the information source code, and the Hamming weight, which is the product of the codeword length of the decoder output and the type, has an element of the decoder output of 1 Using a third constraint equation that is equivalent to the number of digits, the first constraint equation, the second constraint equation, and the third constraint equation are converted into linear constraint conditions on a real number field by a relaxation method. And an optimization execution step of solving the decoder output satisfying all the linear constraint conditions by linear programming after conversion.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009187745A JP5005743B2 (en) | 2009-08-13 | 2009-08-13 | Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009187745A JP5005743B2 (en) | 2009-08-13 | 2009-08-13 | Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011041081A true JP2011041081A (en) | 2011-02-24 |
JP5005743B2 JP5005743B2 (en) | 2012-08-22 |
Family
ID=43768380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009187745A Expired - Fee Related JP5005743B2 (en) | 2009-08-13 | 2009-08-13 | Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5005743B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012257108A (en) * | 2011-06-09 | 2012-12-27 | Nippon Telegr & Teleph Corp <Ntt> | Lp decoder and integral solution calculation method and program for linear code |
JP2013247474A (en) * | 2012-05-24 | 2013-12-09 | Nippon Telegr & Teleph Corp <Ntt> | Coding and decoding system and method and coding program and decoding program |
-
2009
- 2009-08-13 JP JP2009187745A patent/JP5005743B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012257108A (en) * | 2011-06-09 | 2012-12-27 | Nippon Telegr & Teleph Corp <Ntt> | Lp decoder and integral solution calculation method and program for linear code |
JP2013247474A (en) * | 2012-05-24 | 2013-12-09 | Nippon Telegr & Teleph Corp <Ntt> | Coding and decoding system and method and coding program and decoding program |
Also Published As
Publication number | Publication date |
---|---|
JP5005743B2 (en) | 2012-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3727938B2 (en) | LDPC decoding apparatus and method | |
Trifonov | Efficient design and decoding of polar codes | |
Arikan | A performance comparison of polar codes and Reed-Muller codes | |
Burshtein et al. | Polar write once memory codes | |
CN101073205A (en) | LDPC encoder and decoder and LDPC encoding and decoding methods | |
US7990290B1 (en) | Efficient rateless distributed compression of non-binary sources | |
JP2007166605A (en) | Parity check matrix, method for generating parity check matrix, encoding method, and error corrector | |
WO2010073922A1 (en) | Error correction encoding apparatus, decoding apparatus, encoding method, decoding method, and programs thereof | |
JPWO2005069492A1 (en) | CHECK MATRIX GENERATION METHOD, DATA TRANSMISSION SYSTEM, ENCODING DEVICE, DECODING DEVICE, AND CHECK MATRIX GENERATION PROGRAM | |
JP4917023B2 (en) | Error correction coding device | |
GB2507164A (en) | Data sharing method using Slepian-Wolf syndromes | |
Kim et al. | An efficient algorithm for ML decoding of raptor codes over the binary erasure channel | |
JP5005743B2 (en) | Encoding device, decoding device, encoding method, decoding method, encoding program, and decoding program | |
JP4634423B2 (en) | Information transmission / reception method, encoding apparatus, and decoding apparatus | |
Fan et al. | Variable packet-error coding | |
JP5642651B2 (en) | Decoding device, encoding / decoding system, encoding / decoding method, and decoding program | |
Kuzuoka | On the redundancy of variable-rate slepian-wolf coding | |
JP2009182421A (en) | Decoding method and decoding device | |
JP5817645B2 (en) | Encoding / decoding system and method, encoding program, and decoding program | |
WO2009017834A2 (en) | Coordinate-ascent method for linear programming decoding | |
JP6679176B2 (en) | Encoded communication device, encoded communication method, and program | |
KR101391859B1 (en) | Method and device of encoding/decoding using sparse inverse code | |
JP5345563B2 (en) | Solution search device, solution search method, and solution search program | |
KR20170075200A (en) | Apparatus for encoding and decoding using low density parity check codes, method thereof and computer recordable medium storing the method | |
Louw et al. | A multi-hypothesis non-binary LDPC code based distributed video coding system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110520 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20110520 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120117 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120315 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120522 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120523 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150601 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5005743 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |