JP2021018442A - 文比較装置、文比較方法、及び文比較プログラム - Google Patents

文比較装置、文比較方法、及び文比較プログラム Download PDF

Info

Publication number
JP2021018442A
JP2021018442A JP2019131583A JP2019131583A JP2021018442A JP 2021018442 A JP2021018442 A JP 2021018442A JP 2019131583 A JP2019131583 A JP 2019131583A JP 2019131583 A JP2019131583 A JP 2019131583A JP 2021018442 A JP2021018442 A JP 2021018442A
Authority
JP
Japan
Prior art keywords
semantic
sentence
input
tuple
multilingual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019131583A
Other languages
English (en)
Inventor
貴秋 田中
Takaaki Tanaka
貴秋 田中
永田 昌明
Masaaki Nagata
昌明 永田
由紀 荒瀬
Yuki Arase
由紀 荒瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2019131583A priority Critical patent/JP2021018442A/ja
Priority to US17/627,628 priority patent/US20220261552A1/en
Priority to PCT/JP2020/026744 priority patent/WO2021010260A1/ja
Publication of JP2021018442A publication Critical patent/JP2021018442A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/194Calculation of difference between files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • G06F40/211Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/253Grammatical analysis; Style critique
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/263Language identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/268Morphological analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/51Translation evaluation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Machine Translation (AREA)

Abstract

【課題】テキストデータである入力文の表現する意味内容を捉えて計算された類似度に基づいて、異なる言語の入力文同士を適切に比較する。【解決手段】言語識別部101が、自然言語で記述された入力文であって、各々異なる言語で記述された複数の入力文の各々の言語の種類を識別し、多言語言語解析部102が、入力文の各々を言語の種類に応じて構文構造を解析し、多言語意味解析部103が、入力文の各々の言語の種類に応じて意味構造を解析し、多言語意味表現比較部104が、意味構造の解析結果に基づいて、入力文同士を比較して、入力文間の類似度を計算する。【選択図】図2

Description

開示の技術は、文比較装置、文比較方法、及び文比較プログラムに関する。
自然言語処理において、例えば、機械翻訳の評価、記述式試験問題の回答の採点、論文等の剽窃検出などを行う際に、複数の異なる文(テキストデータ)の類似性を測定することが行われている。特に、機械翻訳の品質評価や、外国語を扱う記述式試験問題の回答の採点では、記述された言語が異なる文間の類似性を測定することが必要になる。文の類似性を測定する手法として、例えば、入力された文に含まれる単語や単語列の類似性に基づいて、複数の入力された文間の類似度を計算する手法が存在する(例えば、非特許文献1参照)。
Frane ▲S▼ari▲c▼, Goran Glava▲s▼, Mladen Karan, Jan ▲S▼najder and Bojana Dalbelo Ba▲s▼i▲c▼: TakeLab: Systems for Measuring Semantic Text Similarity, In Proceedings of the First Joint Conference on Lexical and Computational Semantics, SemEval '12, pp.441-448, (2012).
しかしながら、単語や単語列などの表層的な情報に基づく入力文の比較方法では、類似した単語や単語列が出現する入力文間において、本来の入力文の意味内容を適切に捉えた類似度を計算することが困難な場合がある。さらに、記述された言語が異なる入力文間の類似性を測定する場合には、入力文の構造が大きく異なる可能性が高いため、意味内容の類似性を測定することはさらに困難になる。
例えば、“The dog wearing a hat was running.”という原文に対して、比較対象の(1)“犬/の/ウェア/と/帽子/の/店/を/経営し/ている。”(‘/’の記号は単語の区切りを表す)、(2)“彼/は/帽子/の/チワワ/が/走る/の/を/見た。”という2文のどちらが意味的に類似しているかを測定することを考える。単純に原文の単語が比較対象の文に現れる割合を類似度と定義すると、英語と日本語との対訳辞書を使って、原文に含まれる単語7語と(1)の文とを対応付けると、(dog,犬)、(wear,ウェア)、(hat,帽子)、(run,経営する)と4語が出現しているので4/7、(2)の文と対応付けると、(hat,帽子)、(run,走る)と2語が出現しているので2/7となり、(1)の文の方が原文に類似しているという結果になってしまう。
これは、“dog”と“チワワ”とが類似した意味内容を持つ語であること、原文と(2)の文とで共通する意味内容として、“run”の動作主が“dog”であること、“run”と類似した概念である“走る”の動作主が、“dog”と類似した概念である“チワワ”であることが2文間で対応付けられること、及び、“hat”が付随している対象は“dog”であることと、“hat”と類似した概念である“帽子”が付随している対象は“dog”と類似した概念である“チワワ”であることが2文間で対応付けられることが、正しく捉えられていないことにより、類似度を適切に計算できていないことが原因である。
本発明は、上記の点に鑑みてなされたものであり、テキストデータである入力文の表現する意味内容を捉えて計算された類似度に基づいて、異なる言語の入力文同士を適切に比較することができる文比較装置、方法、及びプログラムを提供することを目的とする。
本開示の第1態様は、文比較装置であって、自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析する多言語意味解析部と、前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する多言語意味表現比較部と、を含む。
本開示の第2態様は、文比較方法であって、多言語意味解析部が、自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析し、多言語意味表現比較部が、前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する方法である。
本開示の第3態様は、文比較プログラムであって、コンピュータを、自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析する多言語意味解析部、及び、前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する多言語意味表現比較部として機能させるためのプログラムである。
開示の技術によれば、テキストデータである入力文の表現する意味内容を捉えて計算された類似度に基づいて、異なる言語の入力文同士を適切に比較することができる。
本実施形態に係る文比較装置のハードウェア構成を示すブロック図である。 本実施形態に係る文比較装置の機能ブロック図である。 入力文S及びSの構文解析結果の一例を示す図である。 入力文S及びSの意味解析結果の一例を示す図である。 意味タプルの一例を示す図である。 アライメント結果及び類似度計算の一例を示す図である。 本実施形態における文比較処理ルーチンの一例を示すフローチャートである。 入力文S及びSの意味解析結果の他の例を示す図である。
以下、開示の技術の実施形態の一例を、図面を参照しつつ説明する。なお、各図面において同一又は等価な構成要素及び部分には同一の参照符号を付与している。
図1は、文比較装置10のハードウェア構成を示すブロック図である。
図1に示すように、文比較装置10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、ストレージ14、入力部15、表示部16、及び通信I/F(Interface)17を有する。各構成は、バス19を介して相互に通信可能に接続されている。
CPU11は、中央演算処理ユニットであり、各種プログラムを実行したり、各部を制御したりする。すなわち、CPU11は、ROM12又はストレージ14からプログラムを読み出し、RAM13を作業領域としてプログラムを実行する。CPU11は、ROM12又はストレージ14に記憶されているプログラムに従って、上記各構成の制御及び各種の演算処理を行う。本実施形態では、ROM12又はストレージ14には、後述する文比較処理を実行するための文比較プログラムが格納されている。
ROM12は、各種プログラム及び各種データを格納する。RAM13は、作業領域として一時的にプログラム又はデータを記憶する。ストレージ14は、HDD(Hard Disk Drive)又はSSD(Solid State Drive)により構成され、オペレーティングシステムを含む各種プログラム及び各種データを格納する。
入力部15は、マウス等のポインティングデバイス、及びキーボードを含み、各種の入力を行うために使用される。
表示部16は、例えば、液晶ディスプレイであり、各種の情報を表示する。表示部16は、タッチパネル方式を採用して、入力部15として機能してもよい。
通信I/F17は、他の機器と通信するためのインタフェースであり、例えば、イーサネット(登録商標)、FDDI、Wi−Fi(登録商標)等の規格が用いられる。
次に、文比較装置10の機能構成について説明する。
図2は、文比較装置10の機能構成の例を示すブロック図である。
図2に示すように、文比較装置10は、機能構成として、言語識別部101と、多言語言語解析部102と、多言語意味解析部103と、多言語意味表現比較部104と、結果出力部107とを含む。また、文比較装置10の所定の記憶領域には、言語解析モデル201A、201Bと、意味解析モデル202A、202Bと、概念間類似計算モデル203と、対訳辞書204と、多言語シソーラス205と、多言語分散表現DB(Database)206とが記憶される。各機能構成は、CPU11がROM12又はストレージ14に記憶された文比較プログラムを読み出し、RAM13に展開して実行することにより実現される。
言語識別部101は、自然言語で記述された文(テキストデータ)であって、文比較装置10に入力された文(以下、「入力文」という)を受け付ける。以下では、入力文として、英語の入力文S“The dog wearing a hat was running.”と、日本語の入力文S“彼は帽子のチワワが走っているのを見た。”とが入力される場合を例にとって説明する。
言語識別部101は、受け付けた入力文の各々について、記述された言語の種類を識別する。言語の種類の識別は、例えば、ウェブブラウザで行われているように、使用されている文字コード等を推定することにより行ってもよいし、入力文にメタデータとして明示的に与えておいてもよい。ここでは、言語識別部101は、入力文Sの言語は英語、入力文Sの言語は日本語と識別し、入力文と、入力文の言語の種類の識別結果とを多言語言語解析部102に受け渡す。
多言語言語解析部102は、言語Aの言語解析モデル201A、及び言語Bの言語解析モデル201Bを用いて、言語識別部101から受け渡された入力文に対して、構文解析等の言語的な解析を行い(参考文献1)、構文解析結果を多言語意味解析部103に受け渡す。なお、本実施形態では、多言語言語解析部102は、解析に用いる構文構造として、Universal Dependenciesの規定(参考文献2)を用いる場合について説明する。この場合、言語解析モデル201A、201Bには、Universal Dependenciesの規定に従った解析に必要な情報が定義されている。
なお、多言語言語解析部102での解析に用いる構文解析の方法は、Universal Dependenciesのように言語間で共通化された仕様に基づいて行うことが望ましいが、後述する多言語意味解析部103で比較可能な意味表現に変換できればよく、他の構文解析の方法を用いてもよい。
参考文献1:Joakim Nivre et al.: MaltParser: A language-independent system for data-driven dependency parsing, Natural Language Engineering, 13(2), pp. 95{135 (2007).
参考文献2:Joakim Nivre: Towards a Universal Grammar for Natural Language Processing, In Proceedings of CICLing 2015, pp.3-16, (2015).
図3に、多言語で共通化された構文解析の仕様であるUniversal Dependenciesの規定に従って入力文S及びSを解析した構文解析結果の例を示す。Universal Dependenciesでは、異なる言語を対象とする解析を同一の構文解析器で行うことができるが、入力文Sには英語(言語A)の言語解析モデル201A、入力文Sには日本語(言語B)の言語解析モデル201Bというように、対象とする言語毎に別の言語解析モデルを用いている。図3に示す構文解析結果では、文法的に依存関係のある2語が矢印で結ばれており、矢印の根元の語が主辞、矢印の先の語が従属部を示している。また、矢印に付与されたラベル(図3では、角丸四角で示している)は、矢印で結ばれた2語間の関係の種類を示している。
例えば、図3の上図に示す入力文Sの構文解析結果において、「dog←(nsubj)−running」は、「dog」と「running」との間には、主語−述語の関係nsubjがあり、「running」が主辞であることを示している。同様に、図3の下図に示す入力文Sの構文解析結果において、「チワワ←nsubj−走る」は、「チワワ」と「走る」との間には、主語−述語の関係nsubjがあり、「走る」が主辞であることを示している。
多言語意味解析部103は、多言語言語解析部102から構文解析結果を受け取って、意味解析モデル202A、202Bを用いて、入力文の意味的な構造を解析し、構文解析結果を意味表現に変換した意味解析結果を、多言語意味表現比較部104に受け渡す。なお、本実施形態では、多言語意味解析部103は、意味表現として、UDepLambdaの規定(参考文献3)を用いる場合について説明する。この場合、意味解析モデル202A、202Bには、UDepLambdaの規定に従った解析に必要な情報が定義されている。なお、多言語意味解析部103での解析に用いる意味表現は上記の例に限定されず、Abstract Meaning Representation(AMR、参考文献4)のような意味グラフ型の意味表現などの他の意味表現の規定を用いてもよい。
参考文献3: Siva Reddy, Oscar Tackstrom, Slav Petrov, Mark Steedman and Mirella Lapata: Universal Semantic Parsing, In Proceedings of the Conference on Empirical Methods in Natural Language Processing, EMNLP 2017, (2017).
参考文献4: Laura Banarescu, Claire Bonial, Shu Cai, Madalina Georgescu, Kira Griffitt, Ulf Hermjakob, Kevin Knight, Philipp Koehn, Martha Palmer and Nathan Schneider: Abstract Meaning Representation for Sembanking, In Proceedings of the Linguistic Annotation Workshop, (2013).
図4に、UDepLambdaの規定に従って入力文S及びSを解析した意味解析結果の例を示す。図4に示す意味解析結果は、UDepLambdaの規定に従った、述語論理形式型の意味表現であり、個体(individual)やイベント(event)を指す変数と、関数とからなる。y、x等の添え字aは、変数のタイプが個体であることを示し、添え字eは、変数のタイプがイベントであることを示している。多言語意味解析部103と同様に、入力文Sには英語(言語A)の意味解析モデル202A、入力文Sには日本語(言語B)の意味解析モデル202Bというように、対象とする言語毎に対応する意味解析モデルを用いて、同一の意味解析器で解析を行う。なお、本実施形態における述語論理形式型の意味表現では、入力文に含まれる語のうち、単独で概念を持つ語(以下、単に「概念」ともいう)を変数として扱う。
また、図4に示す入力文Sの意味解析結果において、λxで示される変数xは文の中心となる述語を表し、変数y、z、及びwは、その他の変数を表す。また、単項の論理式(例えば、「run(x)」)は、概念と変数との紐付けを示す。例えば、run(x)は、概念“run”を変数“x”で表すことを示す。また、2項からなる関数(例えば、「arg(x,y)」)は、変数で表す概念間の関係を示す。例えば、arg(x,y)は、変数“y”で表す個体(dog)が、変数“x”で表すイベント(run)の動作主であることを示している。
多言語意味表現比較部104は、多言語意味解析部103から受け渡された意味解析結果である意味表現を用いて、対訳辞書204、多言語シソーラス205、多言語分散表現DB206に基づいて、入力文間の意味構造間の対応付けを行う。多言語分散表現DB206には、多言語間における単語の分散表現の対応付けが記憶されている。多言語意味表現比較部104は、意味構造間の対応付けに基づいて、概念間類似計算モデル203を用いて、入力文間の類似度を計算する。図2に示すように、多言語意味表現比較部104は、意味タプル変換部105と、意味タプルアライメント部106とを含む。
意味タプル変換部105は、多言語意味解析部103から受け取った意味表現を、意味タプルに変換する。意味タプルは、「rel(variable,variable)」、及び「inst(variable,concept)」から構成される。前者の意味タプルは、2つの変数間の関係がラベル“rel”で示される関係であることを表し、後者の意味タプルは、変数と入力文中の概念(個体やイべント等)との紐づけを表す。例えば、inst(x,run)は、変数“x”が“run”という概念に属するものであることを示し、inst(y,dog)は、変数“y”が“dog”という概念に属するものであることを示している。また、arg(x,y)は、変数“y”に属する“dog”という概念が、変数“x”に属する“run”という概念の動作主であることを示している。
具体的には、意味タプル変換部105は、多言語意味解析部103から受け取った、入力文S及びSの各々についての意味表現から、下記(1)式及び(2)式に示すように、それぞれ変数の集合V及びVを抜き出す。
={v11,v12,v13,v14}={x,y,z,w} (1)
={v21,v22,v23,v24,v25}={d,f,g,h,j} (2)
なお、vijは、入力文Sのj番目の変数を示す。
意味タプル変換部105は、変数の集合V及びVそれぞれについて、入力文S及びSの各々についての意味表現に含まれる単項の論理式から、inst(variable,concept)の形の意味タプルを作り、下記(3)式及び(4)式に示すように、意味タプル集合T及びTに追加する。
={t11,t12,t13,t14
={inst(x,run),inst(y,dog),
inst(z,hat),inst(w,wear)} (3)
={t21,t22,t23,t24,t25
={inst(d,見る),inst(f,彼),inst(g,チワワ),
inst(h,帽子),inst(j,走る)} (4)
なお、tijは、入力文Sのj番目の意味タプルを示す。
また、意味タプル変換部105は、入力文S及びSの各々についての意味表現に含まれる2項からなる関数から、rel(variable,variable)の形の意味タプルを作り、意味タプル集合T及びTに追加する。rel(variable,variable)の形の意味タプルを追加した後の意味タプル集合T及びTを、図5の「直接抽出したタプル」欄に示す。
上記の意味タプルだけでは、内容語を含んだ関係と付属語を介した関係との対応付けを直接行うことができない。そこで、意味タプル変換部105は、ラベルが共通し(添え字を除く)、かつ第1項に共通する変数を持つ意味タプルを併合して、新しい意味タプルを追加する。具体的には、意味タプル変換部105は、r(a,b)及びr(a,c)のような2つの意味タプルから、新たな意味タプルrel*(b,c)及びrel*(c,b)を、拡張意味タプルとして作成して追加する。ここで、図5におけるラベルarg、argは、それぞれ第2項が第1項の動作主、対象にあたることを示す。これらの拡張意味タプルにおける変数の関係を示すラベル“rel*”は、後述する意味タプルのアライメント(対応付け)時に他のあらゆるラベルと対応付けが可能なことを示すラベルである。拡張意味タプルを図5の右側に示す。これらの拡張意味タプルを意味タプル集合Tに追加する。
意味タプル変換部105は、変換及び追加した意味タプルを意味タプルアライメント部106へ受け渡す。
意味タプルアライメント部106は、意味タプル変換部105から受け渡された、入力文S及びSの各々についての意味タプル間の最適なアライメントを求める。本実施形態では、山登り法によるヒューリスティックな探索によって低い計算量で簡易にアライメントを行う場合について説明するが、整数計画法(Integer Linear Programming、ILP)などの方法で厳密解を求めることも可能である。
具体的には、意味タプルアライメント部106は、意味タプル変換部105により抽出された変数の集合の間で初期アライメント列を設定する。|V|≦|V|のとき、VからVへの1対1のアライメントを考える。(t1i,t2j)にアライメントがある場合、a=jと表し、VからVへのアライメント列をA=(a,...,a)と表す(ただし、m=|V|)。t1iに対応するアライメントがない場合、a=0とする。ここで、意味タプルアライメント部106は、初期アライメント列Aを、下記(5)式のように設定する。
=(1,2,3,4) (5)
これは、変数の組(x,d)、(y,f)、(z,g)、及び(w,h)をアライメントすることを示している。
意味タプルアライメント部106は、意味タプル集合T及びTにおいて、設定したアライメントのスコア(以下、「アライメントスコア」という)σalignを、下記(6)式により計算する。
ここで、意味タプルt1i(∈T)及びt2j(∈T)を、t1i=r(h1i,d1i)、及びt2j=r(h2j,d2j)とし、意味タプルt1iとt2jとの間の類似度σ(t1i,t2j)を、下記(7)〜(9)式のように定義する。
なお、(7)式における“h”は、headの頭文字、“d”は、dependentの頭文字で、それぞれ、意味タプルの第1項及び第2項を示す。なお、(7)式における、添え字付きの“h”は、意味タプルのラベルを示すものであり、(2)式に示すVの要素である添え字なしの“h”とは別物である。また、(9)式において、I(・)は、変数と紐付いている概念への写像であり、例えば、入力文Sの意味解析結果の例では、I(x)=runである。また、simcon(・,・)は、概念間の類似度であるが、第1項と第2項との言語が異なるため、言語を横断して概念の類似度を測定する必要がある。言語を横断して概念を比較するためには、対訳辞書204やWordNet(参考文献5)のように複数の言語で定義されたオントロジや、fastText multilingual(参考文献6)やfacebook(登録商標) Muse(参考文献7、8)など、多言語間で単一の空間に構築した単語分散表現などを用いることができる.
参考文献5:George A. Miller, WordNet: A Lexical Database for English, COMMUNICATIONS OF THE ACM, Vol. 38, pp.39-41, (1995).
参考文献6:Samuel L. Smith and David H. P. Turban and Steven Hamblin and Nils Y. Hammerla, Offline bilingual word vectors, orthogonal transformations and the inverted softmax, In Proceedings of the 5th International Conference on Learning Representations, ICLR 2017, (2017).
参考文献7:Alexis Conneau, Guillaume Lample, MarcAurelio Ranzato, Ludovic Denoyer, and Herve Jegou., Word translation without parallel data. arXiv preprint arXiv:1710.04087, (2017).
参考文献8:Guillaume Lample, Alexis Conneau, Ludovic Denoyer, and MarcAurelio Ranzato., Unsupervised machine translation using monolingual corpora only., arXiv preprint arXiv:1711.00043, (2017).
本実施形態では、類似度を0から1の実数の値とし、類似度が1のとき、比較対象の意味表現の部分構造が示す意味内容が完全に一致しているとする。例えば、意味タプルアライメント部106は、概念と、その概念を単語の分散表現に変換したベクトルとの対応関係が定義された概念間類似計算モデル203を用いて、下記(10)式に示すように、概念間の類似度simcon(c,c)を求める。類似度simcon(c,c)は、対訳辞書204に概念cとcとが対訳ペアとして存在するか否かと、異なる言語で表現された概念c及びcを同一空間の単語分散表現のベクトルvc1とvc2とに変換した場合の、ベクトルvc1とvc2との間のコサイン距離とで表される。
また、α(・,・)は、下記(11)式に示すように、アライメントの有無を表す関数である。
意味タプルアライメント部106は、(6)〜(11)式により、初期アライメント列Aに対するアライメントスコアσalign(A)を計算する。|T|+|T|、すなわち、入力文S及びSの意味表現から得られた意味タプルの数は、直接抽出されたタプルと拡張したタプルとを合わせて18である。また、アライメントされていない変数を含む意味タプルの組み合わせに対しては、α(・,・)=0になるので、アライメントされている変数の組み合わせ(x,d)、(y,f)、(z,g)、及び(w,h)のいずれかの組み合わせを引数に持つσ(・,・)のみを明記すると、σalign(A)は、下記(12)式のように計算される。ここでは,simcon(run,見る)、simcon(dog,彼)、simcon(hat,チワワ)、simcon(wear,帽子)がいずれも0となるとすると、結果として,σalign(A)=0となる。
意味タプルアライメント部106は、初期アライメント列Aからできるだけ少ない操作でアライメントを変更し、アライメント列候補集合Qを生成する。すなわち,初期アライメント列Aに対して1つの変数を他の変数に対応付ける操作を行うか、又は、2つのアライメントの対応付けを入れ替える操作を行うかのいずれかによって、最適なアライメント列の候補として、下記(13)式に示すように、アライメント列候補集合Qを生成する。
Q={(1,2,3,5),(1,2,5,4),(1,5,3,4),
(5,2,3,4),(2,1,3,4),(1,3,2,4),
(1,2,4,3),(4,2,3,1),(3,2,1,4),
(1,4,3,2)} (13)
意味タプルアライメント部106は、アライメント列候補集合Qに含まれる各アライメント列候補に対して、アライメントスコアを計算し、最も高いアライメントスコアを持つアライメント列候補を求める。具体的には、意味タプルアライメント部106は、アライメント列候補集合Qの中からアライメント列候補を1つ選択し、アライメントスコアを計算する。例えば、アライメント列候補A=(1,2,4,3)が選択された場合、アライメントスコアσalign(A)は、下記(14)式のように計算される。ここで、simvar(I(z),I(h))は、変数zに紐付けられた英語の概念“hat”と変数hに紐付けられた日本語の概念“帽子”との類似度を表し、両概念が対訳辞書204で対応付けられることから、(10)式により値が1になる。
(14)式に示すσalign(A)は、元のアライメントスコアσalign(A)より高いので、意味タプルアライメント部106は、アライメント列候補Aを、次のアライメント列として設定する。また、意味タプルアライメント部106は、元のアライメント列Aを、アライメント列候補集合Qから取り除くと共に、アライメントスコアを計算済みのアライメント列候補集合Cに追加する。意味タプルアライメント部106は、この処理を、アライメントスコアが元のアライメント列より高いアライメント列候補がなくなるまで、すなわち、全てのアライメント列候補がアライメント列候補集合Cに追加されるまで繰り返す。(13)式に示すアライメント列候補集合Qの場合、アライメント列A=(5,3,4,1)の場合に、下記(15)及び(16)式に示すように、アライメントスコアが最大になる。ここで(15)式では,arg(x,y)とarg(j,g)との間で、xとj、yとgがアライメントが取れているため、α(・,・)=1となり、σ(arg(x,y),arg(j,g))の項が0にならずに残っている。同様に、rel*(y,z)とnmod.no(g,h)との間で、yとg、zとhがアライメントが取れているため、σ(rel*(y,z),nmod.no(g,h))の項が残っている。
意味タプルアライメント部106は、最大のアライメントスコアを入力文SとSとの類似度の計算結果とする。また、意味タプルアライメント部106は、アライメントスコアが最大となるアライメント列が示す、意味タプルの最適なアライメント、及び最大のアライメントスコアの計算過程におけるアライメントされた意味タプル間の類似度を、意味タプルのアライメント結果とする。意味タプルアライメント部106は、類似度の計算結果及びアライメント結果を、結果出力部107へ受け渡す。
結果出力部107は、意味タプルアライメント部106から受け渡された意味タプルのアライメント結果及び類似度の計算結果を出力する。図6に、結果出力部107により出力される結果の一例を示す。図6の例では、入力文SとSとの全体の類似度「0.522」が示されると共に、意味タプルのアライメント結果として、アライメントされた意味タプル間の類似度(図6において「部分類似度」)とが示されている。このように、意味タプルのアライメント結果も示されることにより、意味表現の部分構造において一致又は類似する部分の情報も把握することができる。
次に、文比較装置10の作用について説明する。
図7は、文比較装置10による文比較処理の流れを示すフローチャートである。CPU11がROM12又はストレージ14から文比較プログラムを読み出して、RAM13に展開して実行することにより、文比較処理が行なわれる。
ステップS101において、CPU11が、言語識別部101として、文比較装置10に入力された入力文を受け付け、受け付けた入力文の各々について、識別された言語の種類に応じて、記述された言語の種類を識別する。そして、CPU11が、多言語言語解析部102として、言語解析モデル201A、201Bを用いて、受け付けた入力文の各々に対して、構文解析等の言語的な解析を行い、構文解析結果を多言語意味解析部103に受け渡す。
次に、ステップS102で、CPU11が、多言語意味解析部103として、多言語言語解析部102から構文解析結果を受け取って、識別された言語の種類に応じて、意味解析モデル202A、202Bを用いて、入力文の意味的な構造を解析し、構文解析結果を意味表現に変換した意味解析結果を、多言語意味表現比較部104に受け渡す。
次に、ステップS103で、CPU11が、意味タプル変換部105として、多言語意味解析部103から受け取った意味解析結果である意味表現を、「rel(variable,variable)」、及び「inst(variable,concept)」から構成される意味タプルに変換する。
次に、ステップS104で、CPU11が、意味タプル変換部105として、ラベルが共通し(添え字を除く)、かつ第1項に共通する変数を持つ意味タプルを併合して、新しい意味タプル(拡張意味タプル)を作成して追加する。
次に、ステップS105で、CPU11が、意味タプルアライメント部106として、意味タプル変換部105により抽出された変数の集合の間で初期アライメント列Aを設定する。そして、意味タプルアライメント部106は、初期アライメント列Aのアライメントスコアσalign(A)を、例えば、(6)〜(11)式により計算し、σalign_maxに設定する。
次に、ステップS106で、CPU11が、意味タプルアライメント部106として、初期アライメント列Aから、1つの変数を他の変数に対応付けるか、又は、2つアライメントの対応付けを入れ替えるかのいずれかによって、アライメント列候補集合Qを生成する。また、CPU11が、意味タプルアライメント部106として、アライメントスコアを計算済みのアライメント列候補集合Cを空集合として用意する。
次に、ステップS107で、CPU11が、意味タプルアライメント部106として、アライメント列候補集合Qに、未選択のアライメント列候補が存在するか否かを判定する。未選択のアライメント列候補が存在する場合には、処理はステップS108へ移行し、未選択のアライメント列候補が存在しない場合には、処理はステップS113へ移行する。
ステップS108では、CPU11が、意味タプルアライメント部106として、アライメント列候補集合Qから未選択のアライメント列候補Aを1つ選択し、選択したアライメント列候補Aについて、Aに隣接するアライメント列候補を生成し、アライメント列候補集合Qに追加する。Aに隣接するアライメント列候補の生成は、上記ステップS106で初期アライメント列Aに対して行ったものと同様の方法で行う。ただし、既にアライメント列候補集合Q及びCに含まれているアライメント列候補は、アライメント列候補集合Qに加えない。
次に、ステップS109で、CPU11が、意味タプルアライメント部106として、選択したアライメント列候補Aについて、アライメントスコアσalign(A)を計算する。
次に、ステップS110で、CPU11が、意味タプルアライメント部106として、選択したアライメント列候補Aを、アライメント列候補集合Qから取り除くと共に、計算済みのアライメント列候補集合Cに追加する。
次に、ステップS111で、CPU11が、意味タプルアライメント部106として、上記ステップS109で計算したアライメントスコアσalign(A)が、σalign_maxより大きいか否かを判定する。σalign(A)>σalign_maxの場合には、処理はステップS112へ移行し、σalign(A)≦σalign_maxの場合には、処理はステップS107に戻る。
ステップS112では、CPU11が、意味タプルアライメント部106として、上記ステップS109で計算したアライメントスコアσalign(A)をσalign_maxに設定し、ステップS107に戻る。
ステップS113では、CPU11が、意味タプルアライメント部106として、現在σalign_maxに設定されている最大のアライメントスコアσalign(A)を入力文SとSとの類似度の計算結果とする。また、CPU11が、意味タプルアライメント部106として、アライメントスコアが最大となるアライメント列Aが示す、意味タプルの最適なアライメント、及び最大のアライメントスコアの計算過程におけるアライメントされた意味タプル間の類似度を、意味タプルのアライメント結果とする。そして、CPU11が、意味タプルアライメント部106として、意味タプルのアライメント結果及び類似度の計算結果を、結果出力部107へ受け渡し、結果出力部107が、結果を出力して、文比較処理は終了する。
以上説明したように、本実施形態に係る文比較装置によれば、比較対象の複数の言語で記述された多言語の入力文(テキストデータ)の意味解析を行って、意味表現間の比較を行うことにより、入力文間の類似度を計算する。これにより、単純な単語や単語列の類似性に基づく類似度ではなく、入力文の表現する意味内容を捉えて計算された類似度に基づいて、入力文同士を適切に比較することができる。
また、上記実施形態では、意味表現を変換した意味タプル間の類似度も得られるため、入力文全体の類似度だけではなく、意味表現の部分構造の一致又は類似を把握することができる。
また、上記実施形態では、意味表現から、「rel(variable,variable)」、及び「inst(variable,concept)」の形式の意味タプルに変換し、さらに、ラベルが共通し(添え字を除く)、かつ第1項に共通する変数を持つ意味タプルを併合して、新しい意味タプルを拡張意味タプルとして追加する。このような意味表現の拡張を行わない場合、意味解析により得られる意味表現(参考文献9及び10)のみを比較して、入力文間の類似度を計算することになる(参考文献11及び12)。この場合、内容語を介した関係と付属語を介した関係とを柔軟に対応付けることができない場合がある。
例えば、入力文Sでは、arg(wear,dog)及びarg(wear,hat)という内容語“wear”を介した2つの関係(意味タプル)が得られるが、入力文Sからは、nmod.with(チワワ,帽子)という付属語を介した関係が得られ、両者を適切に対応付けることができない。
本実施形態では、上記のように、拡張意味タプルを追加することにより、意味表現の対応付けを柔軟に行うことができるため、意味的内容を捉えた適切な類似度を計算することができる。
参考文献9:Laura Banarescu, Claire Bonial, Shu Cai, Madalina Georgescu, Kira Griffitt, Ulf Hermjakob, Kevin Knight, Philipp Koehn, Martha Palmer and Nathan Schneider: Abstract Meaning Representation for Sembanking, In Proceedings of the Linguistic Annotation Workshop, (2013).
参考文献10:Sebastian Schuster, Ranjay Krishna, Angel Chang, Li Fei-Fei and Christopher D. Manning: Generating Semantically Precise Scene Graphs from Textual Descriptions for Improved Image Retrieval, In Proceedings of the Workshop on Vision and Language (VL15), (2015).
参考文献11:Shu Cai and Kevin Knight: Smatch: an Evaluation Metric for Semantic Feature Structures, In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics, ACL 2013, (2013).
参考文献12:Peter Anderson, Basura Fernando, Mark Johnson and Stephen Gould: SPICE: Semantic Propositional Image Caption Evaluation, In Proceedings of the 14th European Conference on Computer Vision, ECCV 2016, (2016).
なお、上記の実施形態では、各意味タプル間の類似度を計算する際には、動作主と述語との関係(arg)であっても、名詞間の修飾関係(nmod)であっても、同じ重みで類似度を計算する場合について説明したが、simrel(r,r)を変更することにより、意味タプルのrelationによって重みを変えてもよい。
また、上記の実施形態では、UDepLambdaの論理形式型の意味表現を用いたが、Abstract Meaning Representation(AMR)など他の論理形式型の意味表現や、意味グラフ型意味表現を用いてもよい。図8に、上記実施形態で用いた入力文S及びSと同じ2文を意味グラフ型意味解析によって解析した例を示す。意味グラフの各ノードは、図4に示す論理形式型意味表現の変数にあたり、図8の例では、ノード内に、そのノードに対応する変数を明示している。また、ノード間を接続するエッジには、エッジの両端のノードに対応する変数間の関係を示すラベルが付与されている。また、各ノードが示す変数に対応する概念が、葉ノードとして各ノードに接続されている。この各ノードに対応する変数、エッジに付与されたラベル、及び葉ノードが示す概念を用いて、上記実施形態と同様の手順を行うことで、図5と同じ意味タプルを抽出することができる。意味タプルの抽出以降は、上記実施形態の論理形式型意味表現の場合と同様に意味タプルのアライメント及び類似度の計算を行うことが可能である。
なお、上記各実施形態でCPUがソフトウェア(プログラム)を読み込んで実行した文比較処理を、CPU以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、FPGA(Field−Programmable Gate Array)等の製造後に回路構成を変更可能なPLD(Programmable Logic Device)、及びASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、文比較処理を、これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
また、上記各実施形態では、文比較処理プログラムがROM12又はストレージ14に予め記憶(インストール)されている態様を説明したが、これに限定されない。プログラムは、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の非一時的(non−transitory)記憶媒体に記憶された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
以上の実施形態に関し、更に以下の付記を開示する。
(付記項1)
メモリと、
前記メモリに接続された少なくとも1つのプロセッサと、
を含み、
前記プロセッサは、
自然言語で記述された入力文であって、各々異なる言語で記述された複数の入力文の各々を、前記入力文の言語の種類に応じて解析された構文構造に基づいて、前記複数の入力文の各々の意味的な構造を、前記入力文の言語の種類に応じて解析した意味構造の解析結果を受け取り、前記解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する
ように構成されている文比較装置。
(付記項2)
文比較処理を実行するようにコンピュータによって実行可能なプログラムを記憶した非一時的記録媒体であって、
前記文比較処理は、
自然言語で記述された入力文であって、各々異なる言語で記述された複数の入力文の各々を、前記入力文の言語の種類に応じて解析された構文構造に基づいて、前記複数の入力文の各々の意味的な構造を、前記入力文の言語の種類に応じて解析した意味構造の解析結果を受け取り、前記解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する
ことを含む非一時的記録媒体。
10 文比較装置
11 CPU
12 ROM
13 RAM
14 ストレージ
15 入力部
16 表示部
17 通信I/F
19 バス
101 言語識別部
102 多言語言語解析部
103 多言語意味解析部
104 多言語意味表現比較部
105 意味タプル変換部
106 意味タプルアライメント部
107 結果出力部
201A、201B 言語解析モデル
202A、202B 意味解析モデル
203 概念間類似計算モデル
204 対訳辞書
205 多言語シソーラス
206 単語分散表現DB

Claims (7)

  1. 自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析する多言語意味解析部と、
    前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する多言語意味表現比較部と、
    を含む文比較装置。
  2. 前記多言語意味解析部は、文の意味的な構造を論理式により表現する論理形式型意味表現により、前記複数の入力文の各々の意味的な構造を解析する請求項1に記載の文比較装置。
  3. 前記多言語意味解析部は、文に含まれる概念に対応するノード間をノード間の意味的な関係に基づいてエッジで接続した意味グラフにより、前記複数の入力文の各々の意味的な構造を解析する請求項1に記載の文比較装置。
  4. 前記多言語意味表現比較部は、
    前記意味構造の解析結果を、前記入力文中に含まれる概念に対応する変数と概念との関係を示す意味タプル、及び前記変数間の関係を示す意味タプルに変換する意味タプル変換部と、
    前記入力文間で、前記意味タプル変換部により変換された前記意味タプルの対応付けを行う意味タプルアライメント部と、
    を含む請求項1〜請求項3のいずれか1項に記載の文比較装置。
  5. 前記意味タプル変換部は、前記変数間の関係を示す意味タプルのうち、前記変数間の関係及び前記意味タプルに含まれる変数の一方が共通する意味タプルに基づいて、前記意味タプルに含まれる他方の変数を組み合わせた、拡張意味タプルを追加する請求項4に記載の文比較装置。
  6. 多言語意味解析部が、自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析し、
    多言語意味表現比較部が、前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する
    文比較方法。
  7. コンピュータを、
    自然言語で記述された入力文であって、2以上の言語で記述された複数の入力文の各々の文法的な構文構造が、前記入力文の言語の種類に応じて解析された解析結果に基づいて、前記複数の入力文の各々の意味的な構造を前記入力文の言語の種類に応じて解析する多言語意味解析部、及び、
    前記多言語意味解析部による意味構造の解析結果に基づいて、前記入力文同士を比較して、前記入力文間の類似度を計算する多言語意味表現比較部
    として機能させるための文比較プログラム。
JP2019131583A 2019-07-17 2019-07-17 文比較装置、文比較方法、及び文比較プログラム Pending JP2021018442A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019131583A JP2021018442A (ja) 2019-07-17 2019-07-17 文比較装置、文比較方法、及び文比較プログラム
US17/627,628 US20220261552A1 (en) 2019-07-17 2020-07-08 Sentence comparison device, sentence comparison method, and sentence comparison program
PCT/JP2020/026744 WO2021010260A1 (ja) 2019-07-17 2020-07-08 文比較装置、文比較方法、及び文比較プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019131583A JP2021018442A (ja) 2019-07-17 2019-07-17 文比較装置、文比較方法、及び文比較プログラム

Publications (1)

Publication Number Publication Date
JP2021018442A true JP2021018442A (ja) 2021-02-15

Family

ID=74210751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019131583A Pending JP2021018442A (ja) 2019-07-17 2019-07-17 文比較装置、文比較方法、及び文比較プログラム

Country Status (3)

Country Link
US (1) US20220261552A1 (ja)
JP (1) JP2021018442A (ja)
WO (1) WO2021010260A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021161908A1 (ja) * 2020-02-14 2021-08-19 ソニーグループ株式会社 情報処理装置及び情報処理方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210060857A (ko) * 2019-11-19 2021-05-27 현대자동차주식회사 메시지 처리 차량 단말기, 시스템 및 방법
CN113591494A (zh) * 2021-06-30 2021-11-02 中山大学 一种基于多粒度语义对齐的多语言通用翻译方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004318344A (ja) * 2003-04-14 2004-11-11 Fuji Xerox Co Ltd 機械翻訳システム及び機械翻訳方法、並びにコンピュータ・プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004318344A (ja) * 2003-04-14 2004-11-11 Fuji Xerox Co Ltd 機械翻訳システム及び機械翻訳方法、並びにコンピュータ・プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
田中 貴秋 外3名: "意味グラフに基づくテキスト類似性尺度の提案", 一般社団法人 人工知能学会 第32回全国大会論文集DVD [DVD−ROM] 2018年度 人工知能, JPN6022041736, 5 June 2018 (2018-06-05), pages 1 - 4, ISSN: 0005021509 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021161908A1 (ja) * 2020-02-14 2021-08-19 ソニーグループ株式会社 情報処理装置及び情報処理方法

Also Published As

Publication number Publication date
WO2021010260A1 (ja) 2021-01-21
US20220261552A1 (en) 2022-08-18

Similar Documents

Publication Publication Date Title
Martschat et al. Latent structures for coreference resolution
US9910844B2 (en) Entity-relation based passage scoring in a question answering computer system
US20180260474A1 (en) Methods for extracting and assessing information from literature documents
WO2021010260A1 (ja) 文比較装置、文比較方法、及び文比較プログラム
Arora et al. Change impact analysis for natural language requirements: An NLP approach
JP3266246B2 (ja) 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法
Bhatia et al. Mining privacy goals from privacy policies using hybridized task recomposition
Han et al. Translation quality assessment: A brief survey on manual and automatic methods
US10740379B2 (en) Automatic corpus selection and halting condition detection for semantic asset expansion
US10628749B2 (en) Automatically assessing question answering system performance across possible confidence values
US10282678B2 (en) Automated similarity comparison of model answers versus question answering system output
CN114861194B (zh) 一种基于bgru与cnn融合模型的多类型漏洞检测方法
Zvonarev et al. A Comparison of Machine Learning Methods of Sentiment Analysis Based on Russian Language Twitter Data.
Bellan et al. Process Extraction from Text: Benchmarking the State of the Art and Paving the Way for Future Challenges
Marmolejos et al. On the use of textual feature extraction techniques to support the automated detection of refactoring documentation
Zhang et al. Stanford at TAC KBP 2016: Sealing Pipeline Leaks and Understanding Chinese.
Guo et al. Deep review sharing
Attanasio et al. ferret: a Framework for Benchmarking Explainers on Transformers
Kumar et al. OntoCat: Automatically categorizing knowledge in API Documentation
Keim et al. Detecting Inconsistencies in Software Architecture Documentation Using Traceability Link Recovery
Saeidi et al. Context-enhanced concept disambiguation in Wikification
Moharil et al. Tabasco: A transformer based contextualization toolkit
KR20210146832A (ko) 토픽 키워드의 추출 장치 및 방법
Mathew et al. Paraphrase identification of Malayalam sentences-an experience
JP7088490B2 (ja) 文比較装置、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230328