JP6845486B2 - 神経網基盤機械翻訳およびマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）を利用した数学問題概念類型予測サービス提供方法 - Google Patents
神経網基盤機械翻訳およびマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）を利用した数学問題概念類型予測サービス提供方法 Download PDFInfo
- Publication number
- JP6845486B2 JP6845486B2 JP2019173914A JP2019173914A JP6845486B2 JP 6845486 B2 JP6845486 B2 JP 6845486B2 JP 2019173914 A JP2019173914 A JP 2019173914A JP 2019173914 A JP2019173914 A JP 2019173914A JP 6845486 B2 JP6845486 B2 JP 6845486B2
- Authority
- JP
- Japan
- Prior art keywords
- mathematical
- translation
- word
- neural network
- machine translation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013519 translation Methods 0.000 title claims description 170
- 238000013528 artificial neural network Methods 0.000 title claims description 94
- 238000000034 method Methods 0.000 title claims description 93
- 238000004458 analytical method Methods 0.000 claims description 36
- 239000013598 vector Substances 0.000 claims description 32
- 238000004364 calculation method Methods 0.000 claims description 27
- 238000013473 artificial intelligence Methods 0.000 claims description 20
- 238000003058 natural language processing Methods 0.000 claims description 17
- 230000001537 neural effect Effects 0.000 claims description 14
- 239000000284 extract Substances 0.000 claims description 12
- 230000000877 morphologic effect Effects 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 11
- 238000010835 comparative analysis Methods 0.000 claims description 4
- 238000010801 machine learning Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 241001465754 Metazoa Species 0.000 claims description 2
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 230000004807 localization Effects 0.000 claims description 2
- 210000005036 nerve Anatomy 0.000 claims 1
- 230000008569 process Effects 0.000 description 23
- 238000004422 calculation algorithm Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 9
- 239000011159 matrix material Substances 0.000 description 8
- 230000001915 proofreading effect Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000002546 agglutinic effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical compound [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 1
- 241000196324 Embryophyta Species 0.000 description 1
- 241000220317 Rosa Species 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 244000144985 peep Species 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000001373 regressive effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/413—Classification of content, e.g. text, photographs or tables
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本発明は神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法に関し、神経網基盤機械翻訳を利用して文章題を数式で翻訳して解き、その結果を自然語解説で提供するプラットホームを提供する。
最近ディープランニング（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ）で代表される人工知能技術は音声認識と映像認識をはじめとする多様なパターン認識分野で革新的な性能を記録して多くの研究が進行されている。Ａｌｐｈａ Ｇｏなどで現れた最近の人工知能は、ディープブルー（Ｄｅｅｐ Ｂｌｕｅ）で代表される既存の人工技術とは技術的な側面で大いに異なるが、場合の数を計算するコンピューティングパワーだけでなくビッグデータに基づいて知識を自動で蓄積することによって、与えられた分野では人間水準の知能を越えているという点である。多様な成功的な応用分野ののうち、最近質疑応答、文章生成、翻訳などの自然語処理分野においてもディープランニングは成果を出している。特に、ディープランニングが成功裏に適用される代表的な自然語処理分野が機械翻訳と言えるが、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ、ＮＭＴ）は、一つの神経網で翻訳モデルが構成されて学習されるという側面で既存の多様なモジュールに基づいた機械翻訳と異なるパラダイムを提示している。
この時、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ、ＭＷＰ）を人工知能と解く方法が研究および開発されたが、これと関連して、先行技術であるアメリカ登録特許第７３７３２９１号（２００８年０３月１３日公告）には、数学的な認識の正確度を向上させるための新しい情報の根源、言語学的モデルを数学的なドメインに拡張し、自然語認識と関連した方法で数学の人工言語を認知する方法が開示されている。また、アメリカ公開特許第２０１５−０３６３３９０号（２０１５年１２月１７日公開）には、自然語処理を通じて算術または対数文章型問題を解決し応答できるように、入力文を受信して入力文と関連した複数の文章の中にあるそれぞれの文章が数学的観点で適格な文章であるかを決定し、それぞれの適格な文章を方程式を形成するための数学式に変換し、これを再び自然語に解く構成が開示されている。そして、韓国登録特許第１０−１８４２８７３号（２０１８年０３月２８日公告）には、数学式を含む文章やイメージから演算子と因子を認識し、認識した演算子と因子を含んだ数学式に対する意味を翻訳して出力し、因子と演算子の関係を自然語に翻訳して出力することによって数学式の翻訳文を提供し、翻訳は、演算子と因子の関係を解釈し、演算子の自然語意味を抽出した後、抽出した演算子の自然語意味と因子で翻訳文を構成する方式で遂行する構成を開示する。
ただし、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ、ＭＷＰ）を解釈するにおいて、その種類が多様でデータの量も巨大なデータセット（Ｄａｔａ Ｓｅｔ）に適用するには正確度が落ちる問題があり、前述した韓国登録特許を利用するといっても、韓国語基盤数学用語自然語処理のためのマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）の構築が不備であるため、複雑かつ多様な数学問題を解釈し、問題の類型を分類して問題を解くのにその正確度が非常に落ちる。最近、２０１９年度の大学修学能力試験においてもＡＩは、３０質問項目のうち５問題だけを当て、１３０万点に１６点という受験生の平均である５１点にもはるかに及ばない点数を得、推論および思考力問題には全く対応できないことが明らかとなった。すでに、アメリカ、中国および日本は神経網を構築しつつＡＩに国家試験を受けさせているが、韓国は神経網を構築して実験中の国家や団体が全くなく、それさえもすぐにお金となる金融市場にのみ集中しており、基礎科学の研究には疎かな韓国内の現実を覗き見ることができる。
本発明の一実施例は、数学問題のうち、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ、ＭＷＰ）に対して数学問題テキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて数学項を抽出し、神経網翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ、ＮＭＴ）を利用してなぜそのような翻訳方法を選択したかを説明できるようにし、人工知能およびディープランニングで構築されたレベリングおよびマーキングを通じての学習を進行するようにし、セマンティック分析で意味分析を通じての翻訳規則の最適化を通じて、新しい数学問題が入力された時に問題の類型を自動で分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）できる数学エンジンプラットホームを提供できる、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法を提供することができる。ただし、本実施例が達成しようとする技術的課題は前記のような技術的課題に限定されず、さらに他の技術的課題が存在し得る。
前述した技術的課題を達成するための技術的手段として、本発明の一実施例は、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）が入力される段階、数学文章題問題を自然語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ）およびイメージ処理を利用してテキストとイメージに分離する段階、分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行する段階、数式化翻訳された数学項に基づいて概念類型候補群をフィルタリングして抽出および圧縮する段階、数式化翻訳された数学項を既設定された所有格、対象格、時点格、定数項、未知項、および演算項に分類するように分析する段階、および神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）する段階を含む。
前述した本発明の課題解決手段のうちいずれか一つによると、数学問題のうち、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ、ＭＷＰ）に対して数学問題テキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて数学項を抽出し、神経網翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ、ＮＭＴ）を利用してなぜそのような翻訳方法を選択したかを説明できるようにし、人工知能およびディープランニングで構築されたレベリングおよびマーキングを通じての学習を進行するようにし、セマンティック分析で意味分析を通じての翻訳規則の最適化を通じて新しい数学問題が入力された時に問題の類型を自動で分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）できる数学エンジンプラットホームを提供することができる。
以下では添付した図面を参照して、本発明が属する技術分野で通常の知識を有する者が容易に実施できるように本発明の実施例を詳細に説明する。しかし、本発明は多様な異なる形態で具現され得、ここで説明する実施例に限定されない。そして、図面で本発明を明確に説明するために説明と関係のない部分は省略したし、明細書全体を通じて類似する部分については類似する図面符号を付した。
明細書全体において、あう部分が他の部分と「連結」されているとする時、これは「直接的に連結」されている場合だけでなく、その中間に他の素子を挟んで「電気的に連結」されている場合も含む。また、ある部分がある構成要素を「含む」とする時、これは特に反対の記載がない限り、他の構成要素を除くものではなく他の構成要素をさらに含むことができることを意味し、一つまたはそれ以上の他の特徴や数字、段階、動作、構成要素、部分品またはこれらを組み合わせたものなどの存在または付加の可能性をあらかじめ排除しないものと理解されるべきである。
明細書全体において使われる程度の用語「約」、「実質的に」等は、言及された意味に固有な製造および物質許容誤差が提示される時にその数値でまたはその数値に近接した意味として使われ、本発明の理解を助けるために正確または絶対的な数値が言及された開示内容を非良心的な侵害者が不当に利用することを防止するために使われる。本発明の明細書全体において使われる程度の用語「〜（する）段階」または「〜の段階」は「〜のための段階」を意味しない。
本明細書において「部」とは、ハードウェアによって実現されるユニット（ｕｎｉｔ）、ソフトウェアによって実現されるユニット、両方を利用して実現されるユニットを含む。また、１個のユニットが２個以上のハードウェアを利用して具現されてもよく、２個以上のユニットが１個のハードウェアによって具現されてもよい。
本明細書において端末、装置またはデバイスが遂行するものと記述された動作や機能のうち一部は、該当端末、装置またはデバイスと連結されたサーバーで代わりに遂行されてもよい。これと同様に、サーバーが遂行するものと記述された動作や機能のうち一部も、該当サーバーと連結された端末、装置またはデバイスで遂行されてもよい。
本明細書であって、端末とマッピング（Ｍａｐｐｉｎｇ）またはマッチング（Ｍａｔｃｈｉｎｇ）と記述された動作や機能のうち一部は、端末の識別情報（Ｉｄｅｎｔｉｆｙｉｎｇ Ｄａｔａ）である端末機の固有番号や個人の識別情報をマッピングまたはマッチングするという意味で解釈され得る。
以下添付された図面を参照して本発明を詳細に説明する。
図１は、本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供システムを説明するための図面である。図１を参照すると、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供システム１は、少なくとも一つのユーザー端末１００、数学問題概念類型予測サービス提供サーバー３００、少なくとも一つの専門家端末４００を含むことができる。ただし、このような図１の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供システム１は、本発明の一実施例に過ぎないため、図１を通じて本発明が限定解釈されるものではない。
この時、図１の各構成要素は一般にネットワーク（ｎｅｔｗｏｒｋ、２００）を通じて連結される。例えば、図１に図示された通り、少なくとも一つのユーザー端末１００はネットワーク２００を通じて数学問題概念類型予測サービス提供サーバー３００と連結され得る。そして、数学問題概念類型予測サービス提供サーバー３００は、ネットワーク２００を通じて少なくとも一つのユーザー端末１００、少なくとも一つの専門家端末４００と連結され得る。また、少なくとも一つの専門家端末４００は、ネットワーク２００を通じて数学問題概念類型予測サービス提供サーバー３００と連結され得る。
ここで、ネットワークは、複数の端末およびサーバーのようなそれぞれのノードの相互間に情報交換が可能な連結構造を意味するものであって、このようなネットワークの一例には、ＲＦ、３ＧＰＰ（３ｒｄ Ｇｅｎｅｒａｔｉｏｎ Ｐａｒｔｎｅｒｓｈｉｐ Ｐｒｏｊｅｃｔ）ネットワーク、ＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）ネットワーク、５ＧＰＰ（５ｔｈ Ｇｅｎｅｒａｔｉｏｎ Ｐａｒｔｎｅｒｓｈｉｐ Ｐｒｏｊｅｃｔ）ネットワーク、ＷＩＭＡＸ（Ｗｏｒｌｄ Ｉｎｔｅｒｏｐｅｒａｂｉｌｉｔｙ ｆｏｒ Ｍｉｃｒｏｗａｖｅ Ａｃｃｅｓｓ）ネットワーク、インターネット（Ｉｎｔｅｒｎｅｔ）、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、Ｗｉｒｅｌｅｓｓ ＬＡＮ（Ｗｉｒｅｌｅｓｓ Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＰＡＮ（Ｐｅｒｓｏｎａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ブルートゥース（登録商標）（Ｂｌｕｅｔｏｏｔｈ（登録商標））ネットワーク、ＮＦＣネットワーク、衛星放送ネットワーク、アナログ放送ネットワーク、ＤＭＢ（Ｄｉｇｉｔａｌ Ｍｕｌｔｉｍｅｄｉａ Ｂｒｏａｄｃａｓｔｉｎｇ）ネットワークなどが含まれるが、これに限定されはしない。
下記で、少なくとも一つのという用語は単数および複数を含む用語と定義され、少なくとも一つのという用語が存在せずとも各構成要素が単数または複数で存在し得、単数または複数を意味できることは自明であると言える。また、各構成要素が単数または複数で備えられることは、実施例により変更可能であると言える。
少なくとも一つのユーザー端末１００は、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス関連ウェブページ、アプリケーションページ、プログラムまたはアプリケーションを利用して数学問題を解く学生などの端末であり得る。この時、少なくとも一つのユーザー端末１００は、数学問題のうち、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ、ＭＷＰ）の解釈および解説を所望する学生の端末であり得、このために数学文章題問題を数学問題概念類型予測サービス提供サーバー３００で伝送する端末であり得る。そして、少なくとも一つのユーザー端末１００は、リアルタイムで問題解釈および解説などのフィードバックデータを数学問題概念類型予測サービス提供サーバー３００に伝送を受けることができる端末であり得る。この時、少なくとも一つのユーザー端末１００は、数学問題を質疑し得返事をもらう過程を自然語で人工知能チャットボットまたはチャットエージェントと進行できる端末であり得、人工知能チャットボットまたはチャットエージェントは数学問題概念類型予測サービス提供サーバー３００から提供されたインターフェースで駆動され得る。
ここで、少なくとも一つのユーザー端末１００は、ネットワークを通じて遠隔地のサーバーや端末に接続できるコンピュータで具現され得る。ここで、コンピュータは例えば、ナビゲーション、ウェブブラウザ（ＷＥＢ Ｂｒｏｗｓｅｒ）が搭載されたノートパソコン、デスクトップ（Ｄｅｓｋｔｏｐ）、ラップトップ（Ｌａｐｔｏｐ）等を含むことができる。この時、少なくとも一つのユーザー端末１００は、ネットワークを通じて遠隔地のサーバーや端末に接続できる端末で具現され得る。少なくとも一つのユーザー端末１００は、例えば、携帯性と移動性が保証される無線通信装置であって、ナビゲーション、ＰＣＳ（Ｐｅｒｓｏｎａｌ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）、ＰＤＣ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ｃｅｌｌｕｌａｒ）、ＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）、ＩＭＴ（Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｍｏｂｉｌｅ Ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎ）−２０００、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）−２０００、Ｗ−ＣＤＭＡ（Ｗ−Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）、Ｗｉｂｒｏ（Ｗｉｒｅｌｅｓｓ Ｂｒｏａｄｂａｎｄ Ｉｎｔｅｒｎｅｔ）端末、スマートフォン（ｓｍａｒｔｐｈｏｎｅ）、スマートパッド（ｓｍａｒｔｐａｄ）、タブレットＰＣ（Ｔａｂｌｅｔ ＰＣ）等のようなすべての種類のハンドヘルド（Ｈａｎｄｈｅｌｄ）基盤の無線通信装置を含むことができる。
数学問題概念類型予測サービス提供サーバー３００は、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービスウェブページ、アプリケーションページ、プログラムまたはアプリケーションを提供するサーバーであり得る。そして、数学問題概念類型予測サービス提供サーバー３００は、ユーザー端末１００から数学問題のうち数学文章題問題が受信される場合、自然語処理およびイメージ処理を利用してテキストとイメージに分離し、分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて個体名を認識（Ｎａｍｅｄ Ｅｎｔｉｔｙ Ｒｅｃｏｇｎｉｔｉｏｎ）し、数学項を抽出するサーバーであり得る。そして、数学問題概念類型予測サービス提供サーバー３００は、数式化翻訳された数学項に基づいて入力された数学文章題問題に適用された概念と類似する概念類型を有する概念類型候補群を抽出するサーバーであり得る。また、数学問題概念類型予測サービス提供サーバー３００は、数式化翻訳された数学項を分析し、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）と各文章パターンの定義に基づいて構文のパターンを分析して概念類型を分類できるサーバーであり得る。これにより、数学問題概念類型予測サービス提供サーバー３００は、ユーザーが質疑した問題を解くことができる概念類型を正確に予測し、予測した概念類型を適用して問題を解釈し、これを再び自然語に変換してユーザーに説明をする方法でリアルタイムでフィードバックをユーザー端末１００で伝達するサーバーであり得る。前述した処理のために、数学問題概念類型予測サービス提供サーバー３００は、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）モデルを構築するために人工知能機械学習を進行させるサーバーであり得、学習方法は指導学習、半指導学習、強化学習などによって進行され得る。
ここで、数学問題概念類型予測サービス提供サーバー３００は、ネットワークを通じて遠隔地のサーバーや端末に接続できるコンピュータで具現され得る。ここで、コンピュータは例えば、ナビゲーション、ウェブブラウザ（ＷＥＢ Ｂｒｏｗｓｅｒ）が搭載されたノートパソコン、デスクトップ（Ｄｅｓｋｔｏｐ）、ラップトップ（Ｌａｐｔｏｐ）等を含むことができる。
少なくとも一つの専門家端末４００は、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス関連ウェブページ、アプリケーションページ、プログラムまたはアプリケーションを利用する専門家の端末であり得る。この時、少なくとも一つの専門家端末４００は、数学問題概念類型予測サービス提供サーバー３００でトレーニングデータを利用して神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）モデルを構築するために学習する時、人工知能に学習の基準を設定するために数学問題を数学言語に変換した翻訳ファイルを提供する端末であり得る。そして、少なくとも一つの専門家端末４００は、人工知能の学習結果で神経網基盤機械翻訳モデルが構築された時、リアルタイムで受信される数学問題を人工知能で処理した結果を校正したりエラーを正すためのデータを数学問題概念類型予測サービス提供サーバー３００に伝送する端末であり得る。
ここで、少なくとも一つの専門家端末４００は、ネットワークを通じて遠隔地のサーバーや端末に接続できるコンピュータで具現され得る。ここで、コンピュータは例えば、ナビゲーション、ウェブブラウザ（ＷＥＢ Ｂｒｏｗｓｅｒ）が搭載されたノートパソコン、デスクトップ（Ｄｅｓｋｔｏｐ）、ラップトップ（Ｌａｐｔｏｐ）等を含むことができる。この時、少なくとも一つの専門家端末４００は、ネットワークを通じて遠隔地のサーバーや端末に接続できる端末で具現され得る。少なくとも一つの専門家端末４００は、例えば、携帯性と移動性が保証される無線通信装置であって、ナビゲーション、ＰＣＳ（Ｐｅｒｓｏｎａｌ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）、ＰＤＣ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ｃｅｌｌｕｌａｒ）、ＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）、ＩＭＴ（Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｍｏｂｉｌｅ Ｔｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎ）−２０００、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）−２０００、Ｗ−ＣＤＭＡ（Ｗ−Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）、Ｗｉｂｒｏ（Ｗｉｒｅｌｅｓｓ Ｂｒｏａｄｂａｎｄ Ｉｎｔｅｒｎｅｔ）端末、スマートフォン（ｓｍａｒｔｐｈｏｎｅ）、スマートパッド（ｓｍａｒｔｐａｄ）、タブレットＰＣ（Ｔａｂｌｅｔ ＰＣ）等のようなすべての種類のハンドヘルド（Ｈａｎｄｈｅｌｄ）基盤の無線通信装置を含むことができる。
図２は図１のシステムに含まれた数学問題概念類型予測サービス提供サーバーを説明するためのブロック構成図であり、図３〜図６は本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービスが具現された一実施例を説明するための図面である。
図２を参照すると、数学問題概念類型予測サービス提供サーバー３００は、入力部３１０、分離部３２０、翻訳部３３０、フィルタ部３４０、分析部３５０、分類部３６０、学習部３６０、マッチング部３８０、解説部３９０を含むことができる。
本発明の一実施例に係る数学問題概念類型予測サービス提供サーバー３００や連動して動作する他のサーバー（図示されず）が、少なくとも一つのユーザー端末１００、および少なくとも一つの専門家端末４００に神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービスアプリケーション、プログラム、アプリケーションページ、ウェブページなどを伝送する場合、少なくとも一つのユーザー端末１００、および少なくとも一つの専門家端末４００は、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービスアプリケーション、プログラム、アプリケーションページ、ウェブページなどを設置したり開くことができる。また、ウェブブラウザで実行されるスクリプトを利用してサービスプログラムが、少なくとも一つのユーザー端末１００、および少なくとも一つの専門家端末４００で駆動されてもよい。ここで、ウェブブラウザはウェブ（ＷＷＷ：ｗｏｒｌｄ ｗｉｄｅ ｗｅｂ）サービスを利用できるようにするプログラムであって、ＨＴＭＬ（ｈｙｐｅｒ ｔｅｘｔ ｍａｒｋ−ｕｐ ｌａｎｇｕａｇｅ）で叙述されたハイパーテキストを受けて見せてくれるプログラムを意味し、例えばネットスケープ（Ｎｅｔｓｃａｐｅ）、エクスプローラ（Ｅｘｐｌｏｒｅｒ）、クロム（ｃｈｒｏｍｅ）等を含む。また、アプリケーションは端末上のアプリケーション（ａｐｐｌｉｃａｔｉｏｎ）を意味し、例えば、モバイル端末（スマートフォン）で実行されるアプリケーション（ａｐｐ）を含む。
図２を参照すると、入力部３１０は、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）が入力される。この時、数学文章題問題とは、外形的には文章で表現された問題を指すが、文章題の一般的な意味はストーリーが入っている問題であって、数学的な知識を基本内容とするが、これを素材にする問題的状況が文章で提示されている状態の問題を意味する。文章題の構成要素は、問題解決的な要素を中心に問題の構成要素を文章の脈絡（ｃｏｎｔｅｘｔ）、力学（ｍｅｃｈａｎｉｃｓ）、形態（ｆｏｒｍａｔ）を含む。文章題を構成する文章は、指定陳述、関係陳述、質疑陳述、事実陳述の四種類に分けられ得るが、指定陳述はある変数に対して一定の数値を指定する文章である。例えば、「バラ一輪に１０００ウォンである」という文章は指定陳述になる。関係陳述は二つの変数間の算術的関係を表すためにある変数を他の変数と関連させる文章である。例えば、「長方形の横の長さは縦の長さより５ｃｍさらに長い」は関係陳述である。そして、質疑陳述はある変数の値に該当する単一の数値を求めるように要求する文章であり、事実陳述は与えられた問題に統合性を付与するために要求される事実を陳述する文章である。
分離部３２０は、数学文章題問題を自然語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ）およびイメージ処理を利用してテキストとイメージに分離することができる。この時、自然語処理とは、人間が発話する言語現象を機械的に分析してコンピュータが理解できる形態に作る自然言語理解あるいはそのような形態を再び人間が理解できる言語で表現する諸般技術を意味する。自然語処理方式としては伝統的に規則基盤接近法、統計基盤接近法があり、この二つの強みを統合したハイブリッド方式があり、人工神経網方式があるが、最近浮上しているディープランニング（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ）が人工神経網方式に該当する。ディープランニングを利用した方式は入力文章と出力文章を一つの対にして置き、最も適合した表現および翻訳結果を探す方式である。自然語処理方式は、まず品詞の付着（ＰＯＳ ｔａｇｇｉｎｇ）から始まるが、品詞の付着は自然語処理技術のうち最も基本となる技術である。膠着語に該当する韓国語は屈折語である英語とは異なって品詞の付着を形態素分析後で遂行することに一般化されているが、形態素分析をせず、品詞付着を遂行する方法も利用され得る。二番目はパーシング（ｐａｒｓｉｎｇ）過程である構文の分析である。韓国語は語順が自由であって、主語を含んだ必須項の省略が頻繁に起きる特徴により構文分析の難易度が高いが、国で開発したセジョンコーパスが利用され得、これに加え、マスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）も利用され得る。これに加えて、校正（ｓｐｅｌｌｉｎｇ）がさらに含まれ得るが、韓国語校正技術の場合、分かち書き校正と綴り校正技術に大別される。韓国語分かち書きの場合、主にコーパス基盤の統計基盤方式で進行され得るがこれに限定されはしない。韓国語綴り校正研究の場合、韓国語が有する膠着語の特性によりＮ−ｇｒａｍ方式の接近が難しいため、韓国語の綴り校正はｒｕｌｅ−ｂａｓｅｄ方式で校正語彙対を使用することができるが、同様にこれに限定されるものではない。また、重義性解消（Ｗｏｒｄ Ｓｅｎｓｅ Ｄｉｓａｍｂｉｇｕａｔｉｏｎ、ＷＳＤ）は主に小規模の意味タグ付きコーパスや辞書の情報などを利用してエントロピー情報、条件付き確率、相互情報などを使って多様に進行され得る。韓国語学習データには目、手、言葉など、重義性がある語彙に対してそれぞれ数十個のデータが含まれ得る。そして、相互参照（Ｃｏｒｅｆｅｒｅｎｃｅ Ｒｅｓｏｌｕｔｉｏｎ）がさらに含まれ得る。最後に、個体名認識（Ｎａｍｅｄ Ｅｎｔｉｔｙ Ｒｅｃｏｇｎｉｔｉｏｎ、ＮＥＲ）過程がさらに付加され得るが、韓国語個体名認識の場合、多様なドメインで多様なモデルを使うことができる。
翻訳部３３０は、分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行できる。この時、翻訳部３３０は前述した自然語処理技術を続けて利用して形態素を分析し、品詞をタギングし、個体名を認識するなどの過程を遂行できる。本発明の文章題は、テキスト領域とイメージ領域を含む文章題問題を仮定するため、前述した過程が発生する可能性があるが、もしイメージ領域が存在せず、テキスト領域だけで構成される場合には、イメージ領域内の客体認識および意味分析過程は省略され得る。この時、マスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）は、コーパス（Ｃｏｒｐｕｓ）とともに数学の問題モデルを定義し、区分するために数学および数学問題を定義する分野で一つの問題を代表するものと考えられるテキスト、発話またはその他標本のコーパスであって、データベースに保存されたものである。自然語処理でコーパス構築の程度が自然語処理正確度を決めるように、数学問題を処理する過程でも問題モデルであるマスコーパスがどの程度構築されているかにより、問題モデルをタギングし、ドメインを定義し、学習させ分離する過程の正確度が高くなり得る。したがって、翻訳部３３０は、問題モデルを分離するために既構築されたマスコーパスを利用してテキストとイメージから意味分析、翻訳および解決法を探索するための最初の段階として、文章題を翻訳して数学言語に変換させることができる。
フィルタ部３４０は、数式化翻訳された数学項に基づいて概念類型候補群をフィルタリングして抽出および圧縮することができる。図４ｂを参照すると例えば、概念類型が、二進木や上位−下位メニューを区分する形式で構造化され、第１レベルには、問題形式１（単一問題／セット問題）、第２レベルには、二番目に問題形式２（計算題／文章題／図解題）、第３レベルには、問題類型１（計算機演算型、計算パズル型、単位演算型、方程式型、規則適用型、エラー修正型、四則演算型、陳述完成型、例題提示型、数量比較型、エラー校正型、状況類推型、パターン分析型、数値比較型、垂直線型、漫画対話型、図表作成型、類似図表型）、第４レベルには問題類型２（集める、分ける、補助計算、縦計算、横計算、不等式計算、連結計算、樹形図計算、矢印計算、ウォナン計算、足し算の合併型、足し算の添加型、足し算の比較型など）が存在すると仮定すると（レベルの大きさが高くなるほど子ノード）、フィルタ部３４０は、翻訳された数学項が、第１レベルに存在する問題形式１のうちいずれであるかを区分し、もしセット問題であれば、第２レベルに存在する問題形式２のうち計算題セット問題であるか文章題セット問題であるかを比較し、もし計算題問題であれば、計算機演算型であるかなどを区分してその候補群を次第に狭めていくのである。最終的に問題型がセット問題（第１レベル）−計算題（第２レベル）−計算機演算型（第３レベル）−集める（第４レベル）に区分されたのであれば、フィルタ部３４０は、セット問題−計算題−計算機演算型−集める内に含まれた候補群を抽出することになる。
再び図２に戻り、分析部３５０は、数式化翻訳された数学項を既設定された所有格、対象格、時点格、定数項、未知項、および演算項に分類するように分析することができる。この時、翻訳部３３０で分離されたテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行しつつ、分離されたテキストを形態素分析および個体名を認識して所有格、対象格、状況格、および数量格に分ける意味把握段階、分離したテキストのうち、キーワードをキーワード数学翻訳を利用して語彙、数字、数式および記号を用語／記号概念単位未知項、定数項、数式および演算子にそれぞれマッチングして構文分析を数学翻訳に変換する段階、イメージのうち、キーシンボルをキーシンボル数学翻訳を利用して計算機、図形、教具、記号、表、および図を、計算機、形態／意味、定数項、意味、形態／意味、および意味にそれぞれ翻訳し、レンダリングが可能なフォーマットに変換して構文分析を数学翻訳に変換する段階を遂行したので、変換された翻訳を基準として分類するプロセスを遂行できる。ここで、翻訳部３３０で分離されたテキストを形態素分析および個体名を認識して所有格、対象格、状況格、および数量格に分ける意味把握段階は、人物、地域、機関、人工物、および文明に対する個体名は所有格として意味把握し、動物、植物、意味把握で把握された人工物を除いた楽器、武器、および交通手段を含む人工物、文明、物質、および色相模様形態に対する用語は対象格として把握し、一般名詞を含む日、時間および方向に対する用語は状況格として把握し、単位名詞を含む日、時間および数量に対する用語は数量格として把握することで遂行され得る。ただし、前述した定義は前述したものに確定されるものではなく、実施例により変更および変形され得ることは自明であり、人工知能の学習結果により変更され得ることも言うまでもない。
分類部３６０は、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）することができる。この時の分類は、フィルタ部３４０で候補群に抽出した問題類型から抽出した候補群内で最も類似する候補群をマッチングし、最適の規則マッチング問題を抽出して、ユーザーが質疑した数学問題に適用され得る最適の規則および類似問題を分類（予測）するのである。このように、ユーザーが質疑した問題に適用され得る最適の規則および類似問題が抽出されると、後述する解説部３９０で最適の規則を該当質疑した問題に適用して解説を生成することになる。
一方、学習部３７０は、入力部３１０から数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）が入力される前に、該当文章題問題を解くための神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）モデルを構築しなければならない。すなわち、何らかの質疑（Ｑｕｅｒｙ）を処理するためには、これを処理するためのアルゴリズムが構築されなければならない。例えば、ｙ＝ｆ（ｘ）というアルゴリズムが存在する場合、ｘという入力値が処理されるためには、ｆ（）という関数（アルゴリズム）が定義されていないと、ｘを入力とするｙを導き出すことができない。同様に、入力部３１０で入力された質疑（数学文章題問題）を処理するためには、これを分析して解説を進行させるアルゴリズムが設けられていなければならず、本発明の一実施例では神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）モデルを構築して利用する。
この時、神経網基盤機械翻訳は、一つの神経網で翻訳モデルが構成され学習されるという側面で、既存の多様なモジュールに基づいた機械翻訳と異なるパラダイムを提示している。一般的に神経網基盤機械翻訳はエンコーダ（Ｅｎｃｏｄｅｒ）とデコーダ（Ｄｅｃｏｄｅｒ）で構成されるが、単語で構成された入力文章をエンコーダがベクター空間に表現し、これをデコーダが再び出力文章の単語を一つずつ順次作り出すことで翻訳過程が進行される。このような過程は、伝統的な機械翻訳システムが単語をシンボル（Ｓｙｍｂｏｌｓ）水準で直接取り扱っているのと相反する。この時、神経網基盤機械翻訳の説明に先立って、背景知識となるディープランニングの主なアルゴリズムを説明した後に神経網基盤機械翻訳を説明する。
第１は、オートエンコーダ（ＡｕｔｏＥｎｃｏｄｅｒ）である。深層網が逆電波だけでは学習が容易でない場合、事前学習過程を使うことができるが、深層網の階層をあらかじめ非監督学習（Ｕｎｓｕｐｅｒｖｉｓｅｄ ｌｅａｒｎｉｎｇ）で学習後、階層を連結して深層網を構成する。オートエンコーダは簡単な神経網であるが、入力（ｖｉｓｉｂｌｅ）と出力（ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ）のターゲットは同じである。すなわち、エンコーディング後にデコーディングした時に本来の入力と同じにならなければならないというものであって、エンコーディングで発生する情報の損失が最小化されることを期待する。エンコーディング行列に対してデコーディングは転置（ｔｒａｎｓｐｏｓｅ）で表現できるため同じ変数を使用することができる。学習は復旧エラーの逆電波に基づく。神経網モデルで文章をオートエンコーディングできるが、入力文章がベクターでエンコーディングされて表現され、デコーダが本来の文章を復旧することができる。これを時系列オートエンコーダ（Ｓｅｑｕｅｎｔｉａｌ ＡｕｔｏＥｎｃｏｄｅｒ、ＳＡＥ）という。エンコーダとデコーダの言語が異なる場合、翻訳モデルに作られ得るが、例えば文章題数学問題をエンコーディングして表現されたベクターを自然語にデコーディングする場合、これはすなわち、数学の問題解説となる。エンコーダとデコーダは言語別に構成されるが、学習は互いに異なる言語のエンコーダ−デコーダが共に行われなければならない。すなわち、オートエンコーダで各言語別エンコーダとデコーダを学習し、単に互いに異なる言語のエンコーダとデコーダを連結することでは翻訳モデルとしての役割をすることはできない。なぜならば、ＳＡＥで学習する場合、エンコーダが作る文章の表現は意味基盤のものではないためである。ひいては、二つの言語のＳＡＥで学習後に両モデルの文章表現の間のマッピング関数を学習することもできないのであるが、同様の理由である。万一、単一語コーパスでオートエンコーダを学習して意味基盤の文章表現が可能であれば、後述する神経網基盤機械翻訳で並列コーパスの量が足りない問題が現在のようには深刻でないはずである。オートエンコーダ概念は並列コーパスが足りない場合、再翻訳（ｂａｃｋ−ｔｒａｎｓｌａｔｉｏｎ）という技法で再び現れる。翻訳後に再翻訳する場合、本来の入力文章と同じとなることを望むものであるが、この時は翻訳自体がエンコーディングとなり再翻訳がデコーディングとなる形態となる。
第２は、ワードエンベッディング（Ｗｏｒｄ Ｅｍｂｅｄｄｉｎｇ）である。シンボルからなる単語の連続である文章を神経網に入力するにはこれらをベクターに変換しなければならないが、ワードエンベッディングという手順を経て変換する。ワードエンベッディングのために、まずすべての単語を集めた単語辞書を作る。この辞書は普通の辞書とは異なり、ただ単語のリストであって、このリストを作る方法はコーパスで最も頻繁に表れる単語を探して作るのが一般的である。辞書の製作が終ると順序が決まるのであるが、順序に特別な意味はなく、一度決まった順序はその単語のＩＤとなる。このＩＤを利用して各単語に該当するワンホット（ｏｎｅ−ｈｏｔ）表現のベクターを作ることができる。例えば、単語の個数が合計１０Ｋであれば１０Ｋ次元のベクターを作り、その単語のＩＤが７であれば１０Ｋ次元のベクターですべての値は０であり、７番目の値のみ１となるベクターとなる。単語がベクターの形態で表現されたが、各単語間の距離はすべて同じである。すなわちこの表現は何の意味を有さないのであるが、学習前に作られたベクターが無意味なものであることは当然である。ワンホットベクターを意味を表現するベクターに変換する過程はワードエンベッディング行列を使う。Ｄ次元のワードエンベッディングを得るためには、エンベッディング行列はＮｘＤ行列となる。すなわち、Ｎ次元のワンホットベクターをＮｘＤ行列に積算することでＤ次元のベクターを得ることができる。この行列の初期値はよくランダムに与えられ、学習を通じてその値が決定されるが、そのベクター値は空間で単語の意味を含むことになり、類似する意味の単語はベクター空間から近いところに位置することになる。ワードエンベッディング行列は初期値はランダムで始まって学習をする変数であるが、神経網基盤翻訳モデルの入出力に連結されて共に学習されてもよく、他のアルゴリズムで事前に学習した結果を持って行って使うこともできる。事前学習のためのアルゴリズムとしてはモデルとデータの構造により、Ｓｋｉｐ−ｇｒａｍ、ＣＢＯＷ、言語モデル（Ｌａｎｇｕａｇｅ ｍｏｄｅｌ）、ＴｒａｎｓＥなどが使われ得るが、これに限定されるものではない。また、事前学習された結果を固定し、神経網基盤翻訳モデルの他の変数のみ学習してもよく、共に追加学習してもよい。
第３は、複合性原理（Ｔｈｅ Ｐｒｉｎｃｉｐｌｅ ｏｆ Ｃｏｍｐｏｓｉｔｉｏｎａｌｉｔｙ）である。
学習されたワードエンベッディング行列が単語の意味を決定するが、これで文章の意味が決定されるわけではない。例えば、「Ｍａｒｙ ｌｏｖｅｓ Ｊｏｈｎ」と「Ｊｏｈｎ ｌｏｖｅｓ Ｍａｒｙ」は同じ単語で構成されているが、他の意味の文章となる。すなわち、文章の意味は単語の意味と共に結合される方式によって決定されるが、これを複合性原理という。自然語処理で複合性の原理は有限な単語と有限な結合方式を通じてほぼ無限に近い文章を作ることができる生産性（ｐｒｏｄｕｃｔｉｖｉｔｙ）と、このような無限の文章が作られ理解するための体系性（ｓｙｓｔｅｍａｔｉｃｉｔｙ）を含む。これを適用した神経網は以下の通りである。
まず、循環神経網（Ｒｅｃｕｒｒｅｎｔ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ、ＲＮＮｓ）は、一般神経網の各階層で上位階層への連結だけでなく自分自身の階層にも連結を作るが、このような戻ってくる連結はメモリの役割をすることによってデータの時間的な変化をモデリングできるようにする。この時、戻ってくる連結に対する学習はＬＳＴＭ（Ｌｏｎｇ Ｓｈｏｒｔ−Ｔｅｒｍ Ｍｅｍｏｒｙ）、ＧＲＵ（Ｇａｔｅｄ Ｒｅｃｕｒｒｅｎｔ Ｕｎｉｔ）、ｉＲＮＮ、ｕＲＮＮ、ＰＲＵ（Ｐｅｒｓｉｓｔａｎｔ Ｒｅｃｕｒｒｅｎｔ Ｕｎｉｔｓ）が利用され得る。そして、畳み込み神経網（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ、ＣＮＮｓ）の重要な特徴のうち一つは脳神経科学的な発見に基づいたモデルであるということであるが、これは地域的受容野（ｌｏｃａｌ ｒｅｃｅｐｔｉｖｅ ｆｉｅｌｄｓ）、プーリング（ｐｏｏｌｉｎｇ）のような概念に基づいて地域的受容野を全体イメージに畳み込んで（ｃｏｎｖｏｌｕｔｉｏｎ）神経網の連結強度を共有する方法で変数の数を大幅に縮小したものである。事前学習がなくても学習可能な理由は、地域的連結と共有された連結が逆伝播されるエラー情報を消えないようにしエラーの分散を減らすためである。この時、神経網基盤翻訳モデルで畳み込み神経網が使われる場合、複合性の原理はカーネル（ｋｅｒｎｅｌ）によって具現される。つまり、ＲＮＮで循環連結が行う結合の役割を多様な階層のカーネルが行っているのである。また、注意技法（Ａｔｔｅｎｔｉｏｎ Ｍｅｃｈａｎｉｓｍ）は、ＲＮＮあるいはＣＮＮが行う役割を注意技法が代替することによってエンコーダとデコーダにそれぞれ一つずつの注意技法があり、その両者間にもう一つの注意技法があるモデルとなる。ＲＮＮあるいはＣＮＮでの結合の原理がそれぞれ循環連結あるいはカーネル強度によってモデルされ学習されるのに対し、注意技法モデルでは各単語別に必要な単語に注意を置くことによって直接結合する。最後に、言語モデル（Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ）は言語の統辭的あるいは意味的構造をモデリングして学習する。一般的に言語モデルはオート回帰（Ａｕｔｏ Ｒｅｇｒｅｓｓｉｖｅ）モデルと見なすことができるが、その前までに与えられた単語からその次の単語の確率を計算することになり、これを通じて全体の文章の傾向（Ｌｉｋｅｌｉｈｏｏｄ）を確認することができる。
前述した基本概念に基づいて神経網基盤翻訳モデル（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ Ｍｏｄｅｌｓ）を説明する。
神経網基盤翻訳モデルは、入力文章とターゲット文章が共にある学習の場合と入力文章のみがある実際の翻訳の場合、エンコーダの部分は同じであり、デコーダで若干の差がある。翻訳モデルの学習は入力文章が与えられた時にターゲット文章の確率を最大化するように学習し、ターゲット文章の場合、言語モデルのようにその前までの単語も与えられた条件で現在の単語の確率の積で表現される。まず、入力文章の場合、エンコーディングをすることになる。与えられた文章が単語のＩＤで構成されているので、前述したようにワードエンベッディングを経た後単語ベクターに変換する。そして、この単語ベクターを入力に両方向ＲＮＮを経る。ＲＮＮはＬＳＴＭあるいはＧＲＵなどを使うことができる。順方向と逆方向出力値を合わせて（ｃｏｎｃａｔｅｎａｔｅ）エンコーディングの結果ベクターを作る。
デコーダはＲＮＮと単純神経網で構成される。ＲＮＮは隠匿値および入力値を利用して出力データを出力する構造を有することになるが、単純神経網を適用して結果値を得ることになり、最後のアルゴリズムを経ながら出力データを予測することになる。出力データを予測する時の学習の場合にはターゲット文章が存在するのでこれを使用できるが、実際の翻訳の場合には正解ターゲットが存在しないため、予測した結果を使うしかない。この場合、学習と実際の翻訳の間に差が発生し得る。パターン認識の場合、既設定された条件を満足しなければならないが、学習と実際の翻訳間の差を減らすために、スケジュールサンプリング（Ｓｃｈｅｄｕｌｅｄ Ｓａｍｐｌｉｎｇ）技法と強化学習などが利用され得る。
翻訳モデルの学習は他のディープランニングモデルの学習と同様に多様な最適化アルゴリズム（ＲＭＳｐｒｏｐ、Ａｄａｍ、あるいはＡｄａｄｅｌｔａ）の中から選択して使うことができる。翻訳モデルは翻訳システムとしても重要であるが、それ自体でディープランニングにおいて多様な応用分野に直間接的に活用されるという面で重要である。まず要約（ｓｕｍｍａｒｉｚａｔｉｏｎ）は翻訳モデルを略そのまま適用可能である。すなわち段落あるいは文書を入力とし、要約結果を出力として翻訳する。もちろん要約の特性を考慮してモデルを改善することもできる。イメージキャプション生成も翻訳モデルの一部（正確にはデコーダの部分）をそのまま使用することができ、イメージをＣＮＮでエンコーディングし、デコーダは前述した同じ方式を使ってキャプション文章を生成することができる。その他にも時系列データを他の時系列データに変換する応用は翻訳に理解し翻訳モデルを修正して適用することができる。前述した方法は本発明の一実施例の変更につれて、変更または変形適用され得、前述したものに限定されないことは自明である。
前述した神経網基盤翻訳モデルの概念に基づいて、継続学習部３７０のプロセスを説明する。学習部３７０は、数学問題を解決する端緒に対応する数学問題内テキストのキーワード（Ｋｅｙｗｏｒｄ）および数学問題内イメージのキーシンボル（Ｋｅｙ−Ｓｙｍｂｏｌ）の位置および形態を表示したマーキングファイルと、数学問題を構文、数式および解説のトリプルモデル（構文−数式−解釈）の数学言語に変換した翻訳ファイルを類似パターン別に複数対入力を受けることができる。そして、学習部３７０は、類似パターンの新しい数学問題の原本ファイル複数問題の入力を受け、人工知能で既学習した仮説規則に対応するように分析して構文、数式および解説の数学言語に翻訳ファイルを生成することができる。また、専門家端末４００から類似パターンの新しい数学問題の原本ファイル複数問題に対してキーワードおよびキーシンボルが表示されたマーキングファイルと、数学言語に変換された翻訳ファイルの入力を受け、専門家端末４００から入力されたマーキングファイルおよび翻訳ファイルと、人工知能で仮説規則に対応するように分析した翻訳ファイルを比較分析し、比較分析結果に基づいて既学習された仮説規則を修正および補完してアブダクション（Ａｂｄｕｃｔｉｏｎ）規則を生成することができる。この時、アブダクションからくち、結果を通じて中間段階を推理するものである。すなわち、すでに知っている理論と結果を通じて原因を推定するものである。
そして、学習部３７０は、数学問題を解決する端緒に対応する数学問題内テキストのキーワード（Ｋｅｙｗｏｒｄ）および数学問題内イメージのキーシンボル（Ｋｅｙ−Ｓｙｍｂｏｌ）の位置および形態を表示したマーキングファイルと、数学問題を構文、数式および解説のトリプルモデルの数学言語に変換した翻訳ファイルを類似パターン別に複数対入力を受ける時、以下の特徴ベクターを抽出する過程を実行することになり、この時は学習部３７０内の人工知能を通じて遂行される。
学習部３７０は、入力された数学問題の原本ファイルをテキスト領域とイメージ領域に分割してテキスト領域から文章単位で単語表現（Ｗｏｒｄ Ｅｍｂｅｄｄｉｎｇ）ベクターを抽出し、イメージ領域からイメージ領域をなすイメージ客体をそれぞれ分離（Ｏｂｊｅｃｔ Ｌｏｃａｌｉｚａｔｉｏｎ）して第１特徴ベクターを抽出することができる。そして、学習部３７０は、入力された数学問題のマーキングファイルからキーワード単位で、位置情報、字素の形態、個数の情報を第２特徴ベクターとして抽出し、キーシンボルの位置、形態および大きさの情報を第３特徴ベクターとして抽出することができる。また、学習部３７０は、専門家端末４００から数学問題を数学言語に翻訳した翻訳ファイルから構文、数式および解説のそれぞれを第４特徴ベクターとして抽出し、マーキングファイルと原本ファイルから抽出したテキストとイメージに対する第１〜第３特徴ベクターと、翻訳ファイルから抽出した第４特徴ベクターの間の関係を分析して仮説規則を生成することができる。このように生成された仮説規則は、前述した通り翻訳ファイルを生成するために利用される。この時、構文、数式および解説内の数値は可変要素に処理され得、このように学習された結果である神経網基盤翻訳モデルを利用してユーザーから質疑が存在する場合、最適な問題類型をマッチングして解説を生成し、ユーザーに伝達することになる。これについては、後述する。
マッチング部３８０は、分類部３６０で神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）した後、分類した概念類型と類似する問題を段階別にマッチングして比較し、概念類型で適用されてこそ最適の規則を有するマッチング問題を抽出することができる。この時、分類した概念類型と類似する問題は、概念単位であるスキーマの類似問題集合分類内に含まれたモデル問題、同値問題、同型問題、同意問題、交差問題、および推理問題を含むことができるが、これに限定されはしない。
そして、モデル問題は、図３ｄを参照すると、単位概念別に機械学習の指導学習を通じてモデリングされた後にマスコーパスで構築した問題であり、同値問題は形態と意味が同じである同型−同意問題であって、モデル問題と問題の脈絡のキーワードが同じであり解決の手続きも同じである問題であり、同型問題は形態は同じであるが意味は異なる同型−異義問題であって、モデル問題と問題の脈絡のキーワードは同じであるが解決の手続きが異なる問題であり、同意問題は形態は異なるが意味は同じである異型−同意問題であって、モデル問題と問題の脈絡のキーワードは異なるが解決の手続きが同じである問題であり、交差問題は形態が互いに異なり意味も異なる相反−異義問題であって、モデル問題と問題の脈絡のキーワードが反対であり解決の手続きも異なる問題であり、推理問題は形態と意味がすべて異なる異型−異義問題であって、モデル問題と問題の脈絡のキーワードが異なり解決の手続きも異なる問題であり得る。
解説部３９０は、分類部３６０で神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）した後、分類した概念類型に基づいて数学文章題問題の数式および解説を生成し、解説を自然語処理して解説を生成することができる。
以下、前述した図２の数学問題概念類型予測サービス提供サーバーの構成による動作過程を図３〜図６を例にして詳細に説明する。ただし、実施例は本発明の多様な実施例のうちいずれか一つに過ぎず、これに限定されないことは自明である。
図３ａおよび図３ｂを参照すると、小学校の数学問題にテキスト領域とイメージ領域が含まれた文章題問題が存在すると仮定する。これを、ユーザー端末１００で質疑をした場合、数学問題概念類型予測サービス提供サーバー３００は、まずテキスト領域とイメージ領域を分離し、数学問題を解決しようとする核心端緒となるテキストのキーワード（二つの数の和が大きいと、ある数）と、イメージ領域のキーシンボル（９と４、６）の位置と形態を表示したマーキングファイルと、該当問題を［構文］−［数式］−［解説］のトリプルモデルの数学言語に変換した変換ファイルを類似パターン別に１０対を入力する。そして、数学問題概念類型予測サービス提供サーバー３００は、類似パターンの新しい数学問題の原本ファイル３０質問項目を入力し、人工知能ですでに学習した仮説規則に沿って自ら分析して［構文］−［数式］−［解説］の数学言語に翻訳ファイルを生成するようにし、原本ファイル３０質問項目に対して専門家端末４００からキーワードとキーシンボルを表示したマーキングファイルと、数学言語に変換した翻訳ファイルの入力を受けて人工知能で仮説規則で翻訳した結果を比較および分析することによって、仮説規則を修正したアブダクション規則を生成する。この時、前述した過程はｍａｔｈＭＬ基盤のレンダリングが可能なフォーマットで構築され、これは図３ｃの通りである。そして、図３ｄのように最適の規則がマッチングされ、この過程で神経網基盤機械翻訳モデルを利用して類似問題を段階別にマッチングし比較し、最適の規則マッチング問題を抽出することになる。そして、図３ｅを参照すると、テキスト意味分析、キーワード数学翻訳、およびキーシンボル数学翻訳のマッチングテーブルの実施例が記載される。これにより、各テキストと数字図形などが翻訳される。また、図３ｆと図３ｇを参照すると、意味項目別の構文分析要素と、単位名詞を分類したテーブルが図示されるが、これに限定されるものではなく、人工知能学習が進行されながら、または新しい形態がさらに入力される場合、変形され得ることは自明である。
図４ａは表象変換パターンと、表象変換パターンの例示を図示し、図４ｂは初等数学問題分類概要を図示する。この時、各問題形式を階層的構造に分類することについては前述した通りである。図４ｃは小学校の数学１〜２年生の問題を概念単位で内容コード、上位コード、学校級、要素などの内容情報と、教科コード、教育過程、ＩＤ、学校級、学年および学期、単元などに、数学問題についてのテーブルを図示する。図５ａは本発明の一実施例に係る方法を利用して数学ＡＩチューターサービスが進行される概略的な過程を図示する。そして、図５ｂを参照すると、数学翻訳方法は神経網学習結果を翻訳規則でスキーママップを円形モデルで生成するようにする差異点を図示する。そして、円形モデルと変形モデルがスキーマ群集マップとして作動するようにし、専門家が定期的に検討して管理するようにする。
図５および図６は構文分析および数式翻訳規則を定義したテーブルを図示するが、各形態素分析されたキーワードとキーシンボルがどのように翻訳され、数式項に翻訳されるかを定義したテーブルである。また、図６ｆは足算、引き算の文章題に対するタギング（Ｔａｇｇｉｎｇ）を示しているが、これも教科課程が変更される場合等や新しい問題が添加されるのかにより変更可能である。そして、それぞれのテキストはこのテーブルによって翻訳されるが、これに限定されるものではなく、実施例により変更され得ることは自明である。
このような図２〜図６の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法について説明されていない事項は、前述した、図１の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法の内容と同じであるか説明された内容から容易に類推可能であるため、以下では説明を省略する。
図７は、本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法を説明するための動作フローチャートである。図７を参照すると、数学問題概念類型予測サービス提供サーバーは、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）の入力を受けて（Ｓ７１００）、数学文章題問題を自然語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ）およびイメージ処理を利用してテキストとイメージに分離する（Ｓ７２００）。
図７は、本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法を説明するための動作フローチャートである。図７を参照すると、数学問題概念類型予測サービス提供サーバーは、数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）の入力を受けて（Ｓ７１００）、数学文章題問題を自然語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ）およびイメージ処理を利用してテキストとイメージに分離する（Ｓ７２００）。
そして、数学問題概念類型予測サービス提供サーバーは、分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行する（Ｓ７３００）。
また、数学問題概念類型予測サービス提供サーバーは、数式化翻訳された数学項に基づいて概念類型候補群をフィルタリングして抽出および圧縮し（Ｓ７４００）、数式化翻訳された数学項を既設定された所有格、対象格、時点格、定数項、未知項、および演算項に分類するように分析する（Ｓ７４００）。
そして、数学問題概念類型予測サービス提供サーバーは、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）する（Ｓ７５００）。
前述した段階（Ｓ７１００〜Ｓ７５００）間の順序は例示に過ぎず、これに限定されない。すなわち、前述した段階（Ｓ７１００〜Ｓ７５００）間の順序は互いに変動され得、このうち一部の段階は、同時に実行または削除されてもよい。
このような図７の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法について説明されていない事項は、前述した図１〜図６の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法の内容と同じであるか説明された内容から容易に類推可能であるため、以下では説明を省略する。
図７を通じて説明された一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法は、コンピュータによって実行されるアプリケーションやプログラムモジュールのようなコンピュータによって実行可能な命令語を含む記録媒体の形態でも具現され得る。コンピュータ読み取り可能媒体はコンピュータによってアクセスされ得る任意の使用可能媒体であり得、揮発性および不揮発性媒体、分離型および非分離型媒体をすべて含む。また、コンピュータ読み取り可能媒体はコンピュータ保存媒体をすべて含むことができる。コンピュータ保存媒体はコンピュータ読み取り可能命令語、データ構造、プログラムモジュールまたはその他のデータのような情報の保存のための任意の方法または技術で具現された揮発性および不揮発性、分離型および非分離型媒体をすべて含む。
前述した本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法は、端末機に基本的に設置されたアプリケーション（これは、端末機に基本的に搭載されたプラットホームや運営体制などに含まれたプログラムを含むことができる）により実行され得、ユーザーがアプリケーションストアサーバー、アプリケーションまたは該当サービスと関連したウェブサーバーなどのアプリケーション提供サーバーを通じてマスター端末機に直接設置したアプリケーション（すなわち、プログラム）により実行されてもよい。このような意味で、前述した本発明の一実施例に係る神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法は、端末機に基本的に設置されるかユーザーによって直接設置されたアプリケーション（すなわち、プログラム）で具現され、端末機などのコンピュータで読み取り可能な記録媒体に記録され得る。
前述した本発明の説明は例示のためのものであって、本発明が属する技術分野の通常の知識を有する者は、本発明の技術的思想や必須の特徴を変更することなく他の具体的な形態に容易に変形できることが理解できるはずである。したがって、以上で記述した実施例はすべての面で例示的なものであって、限定的ではないものと理解されるべきである。例えば、単一型に説明されている各構成要素は分散して実施されてもよく、同様に分散したものと説明されている構成要素も結合した形態で実施され得る。
本発明の範囲は前記詳細な説明よりは後述する特許請求の範囲によって示され、特許請求の範囲の意味および範囲、そしてその均等概念から導き出されるすべての変更または変形された形態は本発明の範囲に含まれるものと解釈されるべきである。
Claims (10)
- 数学問題概念類型予測サービス提供サーバー（以下、サーバーと呼ぶ）で実行される数学問題概念類型予測サービス提供方法において、
前記サーバーの入力部が、ネットワークを通じてユーザー端末から受信した数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）が入力される段階；
前記サーバーの分離部が、前記数学文章題問題を自然語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ）およびイメージ処理を利用してテキストとイメージに分離する段階；
前記サーバーの翻訳部が、前記分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、前記イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行する段階；
前記サーバーのフィルタ部が、前記数式化翻訳された数学項に基づいて概念類型候補群をフィルタリングして抽出および圧縮する段階；
前記サーバーの分析部が、前記数式化翻訳された数学項を既設定された所有格、対象格、時点格、定数項、未知項、および演算項に分類するように分析する段階；および
前記サーバーの分類部が、神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して前記数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）する段階；を含む、神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記数学文章題問題（Ｍａｔｈ Ｗｏｒｄ Ｐｒｏｂｌｅｍ）が入力される段階前に、前記サーバーの学習部が、
数学問題を解決する端緒に対応する数学問題内テキストのキーワード（Ｋｅｙｗｏｒｄ）および数学問題内イメージのキーシンボル（Ｋｅｙ−Ｓｙｍｂｏｌ）の位置および形態を表示したマーキングファイルと、前記数学問題を構文、数式および解説のトリプルモデルの数学言語に変換した翻訳ファイルを類似パターン別に複数対入力を受ける段階；
前記類似パターンの新しい数学問題の原本ファイル複数問題の入力を受け、人工知能で既学習した仮説規則に対応するように分析して構文、数式および解説の数学言語に翻訳ファイルを生成する段階；
ネットワークを通じて専門家端末から受信した前記類似パターンの新しい数学問題の原本ファイル複数問題に対してキーワードおよびキーシンボルが表示されたマーキングファイルと、数学言語に変換された翻訳ファイルの入力を受ける段階；
入力された前記マーキングファイルおよび前記翻訳ファイルと、前記人工知能で前記仮説規則に対応するように分析した翻訳ファイルを比較分析する段階；
比較分析する段階における比較分析結果に基づいて前記既学習された仮説規則を修正および補完してアブダクション（Ａｂｄｕｃｔｉｏｎ）規則を生成する段階；をさらに含むものである、請求項１に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記数学問題を解決する端緒に対応する前記数学問題内テキストのキーワード（Ｋｅｙｗｏｒｄ）および前記数学問題内イメージのキーシンボル（Ｋｅｙ−Ｓｙｍｂｏｌ）の位置および形態を表示したマーキングファイルと、前記数学問題を構文、数式および解説のトリプルモデルの数学言語に変換した翻訳ファイルを類似パターン別に複数対入力を受ける段階は、
前記入力された数学問題の原本ファイルをテキスト領域とイメージ領域に分割してテキスト領域から文章単位で単語表現（Ｗｏｒｄ Ｅｍｂｅｄｄｉｎｇ）ベクターを抽出し、前記イメージ領域から前記イメージ領域をなすイメージ客体をそれぞれ分離（Ｏｂｊｅｃｔ Ｌｏｃａｌｉｚａｔｉｏｎ）して第１特徴ベクターを抽出する段階；
前記入力された数学問題のマーキングファイルからキーワード単位で位置情報、字素の形態、個数の情報を第２特徴ベクターとして抽出し、前記キーシンボルの位置、形態および大きさの情報を第３特徴ベクターとして抽出する段階；
前記専門家端末から前記数学問題を数学言語に翻訳した翻訳ファイルから構文、数式および解説のそれぞれを第４特徴ベクターとして抽出する段階；
前記マーキングファイルと原本ファイルから抽出したテキストとイメージに対する第１〜第３特徴ベクターと、前記翻訳ファイルから抽出した第４特徴ベクターの間の関係を分析して仮説規則を生成する段階；を遂行して実行されるものである、請求項２に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記構文、数式および解説内の数値は可変要素として処理するものである、請求項３に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。
- 前記神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して前記数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）する段階後に、
前記サーバーのマッチング部が、前記分類した概念類型と類似する問題を段階別にマッチングして比較し、前記概念類型で適用されてこそ最適の規則を有するマッチング問題を抽出する段階；をさらに含み、
前記分類した概念類型と類似する問題は、概念単位であるスキーマの類似問題集合分類内に含まれたモデル問題、同値問題、同型問題、同意問題、交差問題、および推理問題を含むものである、請求項１に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記モデル問題は、単位概念別に機械学習の指導学習を通じてモデリングされた後にマスコーパスで構築した問題であり、
前記同値問題は、形態と意味が同じである同型−同意問題であって、前記モデル問題と問題の脈絡のキーワードが同じであり解決の手続きも同じである問題であり、
前記同型問題は、形態は同じであるが意味は異なる同型−異義問題であって、前記モデル問題と問題の脈絡のキーワードは同じであるが解決の手続きは異なる問題であり、
前記同意問題は、形態は異なって意味は同じである異型−同意問題であって、前記モデル問題と問題の脈絡のキーワードは異なるが解決の手続きは同じである問題であり、
前記交差問題は、形態が互いに異なり意味も異なる相反−異義問題であって、前記モデル問題と問題の脈絡のキーワードが反対であり解決の手続きも異なる問題であり、
前記推理問題は、形態と意味がすべて異なる異型−異義問題であって、前記モデル問題と問題の脈絡のキーワードが異なり解決の手続きも異なる問題であるものである、請求項５に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記神経網（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）基盤機械翻訳（Ｎｅｕｒａｌ Ｍａｃｈｉｎｅ Ｔｒａｎｓｌａｔｉｏｎ）を利用し、既設定された計算題パターン、文章題パターンおよび図解題パターンの定義に基づいて構文のパターンを分析して前記数学文章題問題の概念類型を分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）する段階後に、
前記サーバーの解説部が、前記分類した概念類型に基づいて前記数学文章題問題の数式および解説を生成し、前記解説を自然語処理して解説を生成する段階；をさらに含むものである、請求項１に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記分離したテキストをマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）に基づいて形態素分析および個体名認識を利用して分析し、前記イメージを客体認識および意味分析を利用して分析して数学項を抽出するように数式化翻訳を遂行する段階は、
前記分離したテキストを形態素分析および個体名を認識して所有格、対象格、状況格、および数量格に分ける意味把握段階；
前記分離したテキストのうち、キーワードをキーワード数学翻訳を利用して語彙、数字、数式および記号を用語／記号概念単位未知項、定数項、数式および演算子でそれぞれマッチングして構文分析を数学翻訳に変換する段階；
前記イメージのうち、キーシンボルをキーシンボル数学翻訳を利用して計算機、図形、教具、記号、表、および図を、計算機、形態／意味、定数項、意味、形態／意味、および意味にそれぞれ翻訳し、レンダリング可能なフォーマットに変換して構文分析を数学翻訳に変換する段階；を含むものである、請求項１に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 前記分離したテキストを形態素分析および個体名を認識して所有格、対象格、状況格、および数量格に分ける意味把握段階は、
人物、地域、機関、人工物、および文明に対する個体名は所有格として意味把握する段階；
動物、植物、前記意味把握で把握された人工物を除いた楽器、武器、および交通手段を含む人工物、文明、物質、および色相模様形態に対する用語は対象格として把握する段階；
一般名詞を含む日、時間および方向に対する用語は状況格として把握する段階；および
単位名詞を含む日、時間および数量に対する用語は数量格として把握する段階；を含むものである、請求項８に記載の神経網基盤機械翻訳およびマスコーパスを利用した数学問題概念類型予測サービス提供方法。 - 請求項１〜請求項９のいずれか一項に記載された方法を遂行するプログラムが記録された、コンピュータ読み取り可能な記録媒体。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020190035243A KR101986721B1 (ko) | 2019-03-27 | 2019-03-27 | 신경망 기반 기계번역 및 셈뭉치를 이용한 수학문제 개념유형 예측 서비스 제공 방법 |
| KR10-2019-0035243 | 2019-03-27 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020161111A JP2020161111A (ja) | 2020-10-01 |
| JP6845486B2 true JP6845486B2 (ja) | 2021-03-17 |
Family
ID=66848475
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019173914A Active JP6845486B2 (ja) | 2019-03-27 | 2019-09-25 | 神経網基盤機械翻訳およびマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）を利用した数学問題概念類型予測サービス提供方法 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP6845486B2 (ja) |
| KR (1) | KR101986721B1 (ja) |
Families Citing this family (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20210334461A1 (en) * | 2019-08-30 | 2021-10-28 | Lg Electronics Inc. | Artificial intelligence apparatus and method for generating named entity table |
| KR102129704B1 (ko) * | 2019-11-01 | 2020-07-02 | 주식회사 보인정보기술 | 문항 자동 생성 방법 및 시스템 |
| US20210241644A1 (en) | 2020-02-03 | 2021-08-05 | St Unitas Co., Ltd. | Apparatus, method and recording medium storing command for supporting learning |
| CN111259632B (zh) * | 2020-02-10 | 2023-04-11 | 暗物智能科技(广州)有限公司 | 一种基于语义对齐的树结构数学应用题求解方法及系统 |
| US11861308B2 (en) | 2020-04-15 | 2024-01-02 | Intuit Inc. | Mapping natural language utterances to operations over a knowledge graph |
| KR102265573B1 (ko) * | 2020-09-29 | 2021-06-16 | 주식회사 팀기원매스 | 인공지능 기반 입시 수학 학습 커리큘럼 재구성 방법 및 시스템 |
| CN112949421B (zh) * | 2021-02-05 | 2023-07-25 | 华中师范大学 | 人工智能理科图文题解题方法、装置、设备及存储介质 |
| CN112949410B (zh) * | 2021-02-05 | 2024-01-16 | 华中师范大学 | 人工智能理科文字题解题方法、装置、设备及存储介质 |
| CN113095045B (zh) * | 2021-04-20 | 2023-11-10 | 河海大学 | 一种基于逆向操作的中文数学应用题数据增强方法 |
| CN113435216B (zh) * | 2021-06-24 | 2023-06-23 | 湖南大学 | 神经网络机器翻译模型训练方法、机器翻译方法和装置 |
| KR20230017423A (ko) | 2021-07-28 | 2023-02-06 | 엔에이치엔클라우드 주식회사 | 유사문제 제공 방법 및 그 시스템 |
| KR102476499B1 (ko) * | 2021-11-18 | 2022-12-12 | 주식회사 티맥스에이아이 | 유사 컨텐츠 제공 기법 |
| KR20230106283A (ko) | 2022-01-06 | 2023-07-13 | 서강대학교산학협력단 | 신경망을 이용한 수학 문제 풀이 시스템 및 수학 문제 풀이 방법 |
| CN114120349B (zh) * | 2022-01-10 | 2022-05-03 | 深圳市菁优智慧教育股份有限公司 | 基于深度学习的试卷识别方法及系统 |
| KR20230132205A (ko) | 2022-03-08 | 2023-09-15 | 주식회사 에이치아이컨설팅 | 인공지능 모델을 이용한 자기진단장치(obd) 문서 번역 시스템 및 그 구동방법 |
| KR20230166853A (ko) | 2022-05-30 | 2023-12-07 | 서울대학교산학협력단 | 인간의 전략을 인공신경망에 적용한 문장형 대수 문제 풀이 방법 및 장치 |
| CN117033847B (zh) * | 2023-07-20 | 2024-04-19 | 华中师范大学 | 基于层次性递归树解码模型的数学应用题求解方法及系统 |
| CN116680502B (zh) * | 2023-08-02 | 2023-11-28 | 中国科学技术大学 | 数学应用题智能求解方法、系统、设备及存储介质 |
| CN117521812A (zh) * | 2023-11-20 | 2024-02-06 | 华中师范大学 | 基于变分知识蒸馏的算术文字题自动解答方法及系统 |
| CN117473096B (zh) * | 2023-12-28 | 2024-03-15 | 江西师范大学 | 一种融合latex标签的知识点标注方法及其模型 |
Family Cites Families (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040090439A1 (en) * | 2002-11-07 | 2004-05-13 | Holger Dillner | Recognition and interpretation of graphical and diagrammatic representations |
| WO2012074338A2 (ko) * | 2010-12-02 | 2012-06-07 | 에스케이텔레콤 주식회사 | 자연어 및 수학식 처리 방법과 그를 위한 장치 |
| CN103250149B (zh) * | 2010-12-07 | 2015-11-25 | Sk电信有限公司 | 用于从数学语句提取语义距离并且按照语义距离对数学语句分类的方法和用于该方法的装置 |
| KR101251119B1 (ko) * | 2011-06-24 | 2013-04-09 | 한국과학기술원 | 문제의 개념 구조 모델링을 통한 학습 장치 및 방법 |
| JP6155565B2 (ja) * | 2012-06-29 | 2017-07-05 | カシオ計算機株式会社 | 学習支援装置、学習支援プログラム及び学習支援方法 |
| JP5929657B2 (ja) * | 2012-09-14 | 2016-06-08 | カシオ計算機株式会社 | 学習支援装置及び学習支援プログラム |
| JP5538511B2 (ja) * | 2012-11-20 | 2014-07-02 | 株式会社 スプリックス | 学習支援システム、学習支援サーバ、学習支援方法、及び学習支援プログラム |
| US9082309B1 (en) * | 2013-03-15 | 2015-07-14 | Querium Corporation | Dynamic question template system and architecture |
| KR101621828B1 (ko) * | 2014-04-25 | 2016-05-17 | 주식회사 셈웨어 | 무작위 대수 방정식의 자동 생성 시스템 |
| US9460075B2 (en) * | 2014-06-17 | 2016-10-04 | International Business Machines Corporation | Solving and answering arithmetic and algebraic problems using natural language processing |
| JP2016028346A (ja) * | 2015-09-30 | 2016-02-25 | 洋彰 宮崎 | 自己組織的に処理能力を拡大する人工知能装置 |
| US11128579B2 (en) * | 2016-09-29 | 2021-09-21 | Admithub Pbc | Systems and processes for operating and training a text-based chatbot |
| CN107168949A (zh) * | 2017-04-24 | 2017-09-15 | 成都准星云学科技有限公司 | 基于实体组合的数学自然语言处理实现方法、系统 |
| KR102073644B1 (ko) * | 2017-05-04 | 2020-02-06 | 주식회사 매스프레소 | 이미지에 포함된 텍스트 인식장치, 텍스트 인식방법 및 텍스트 인식방법을 실행하기 위한 프로그램을 기록한 기록매체 |
| KR102056822B1 (ko) * | 2017-05-04 | 2019-12-17 | 주식회사 매스프레소 | 학습 서비스 제공 방법 및 그 장치 |
| CN107153640A (zh) * | 2017-05-08 | 2017-09-12 | 成都准星云学科技有限公司 | 一种面向初等数学领域的分词方法 |
| CN108228568B (zh) * | 2018-01-24 | 2021-06-04 | 上海互教教育科技有限公司 | 一种数学题目语义理解方法 |
-
2019
- 2019-03-27 KR KR1020190035243A patent/KR101986721B1/ko active IP Right Grant
- 2019-09-25 JP JP2019173914A patent/JP6845486B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| KR101986721B1 (ko) | 2019-06-10 |
| JP2020161111A (ja) | 2020-10-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6845486B2 (ja) | 神経網基盤機械翻訳およびマスコーパス（Ｍａｔｈ Ｃｏｒｐｕｓ）を利用した数学問題概念類型予測サービス提供方法 | |
| CN108563653B (zh) | 一种用于知识图谱中知识获取模型的构建方法及系统 | |
| Zong et al. | Text data mining | |
| Tahsin Mayeesha et al. | Deep learning based question answering system in Bengali | |
| CN113127624B (zh) | 问答模型的训练方法及装置 | |
| Tyagi et al. | Demystifying the role of natural language processing (NLP) in smart city applications: background, motivation, recent advances, and future research directions | |
| CN116258137A (zh) | 文本纠错方法、装置、设备和存储介质 | |
| CN114153994A (zh) | 医保信息问答方法及装置 | |
| Utomo et al. | New instances classification framework on Quran ontology applied to question answering system | |
| Kusal et al. | A systematic review of applications of natural language processing and future challenges with special emphasis in text-based emotion detection | |
| Kumar et al. | An abstractive text summarization technique using transformer model with self-attention mechanism | |
| Da et al. | Deep learning based dual encoder retrieval model for citation recommendation | |
| Alipour et al. | Learning bilingual word embedding mappings with similar words in related languages using GAN | |
| Vu et al. | Abstract meaning representation for legal documents: an empirical research on a human-annotated dataset | |
| Kumari et al. | Context-based question answering system with suggested questions | |
| Duan et al. | Enhancement of question answering system accuracy via transfer learning and bert | |
| Manias et al. | An evaluation of neural machine translation and pre-trained word embeddings in multilingual neural sentiment analysis | |
| CN114398903B (zh) | 意图识别方法、装置、电子设备及存储介质 | |
| Alwaneen et al. | Stacked dynamic memory-coattention network for answering why-questions in Arabic | |
| CN115203388A (zh) | 机器阅读理解方法、装置、计算机设备和存储介质 | |
| Nguyen et al. | A study of predicting the sincerity of a question asked using machine learning | |
| CN114297353A (zh) | 数据处理方法、装置、存储介质及设备 | |
| Tuan et al. | Multi-sentence compression using word graph and integer linear programming | |
| CN113536797A (zh) | 一种切片文档关键信息单模型抽取方法及系统 | |
| CN113591493A (zh) | 翻译模型的训练方法及翻译模型的装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190925 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201012 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201027 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210127 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210209 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210209 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6845486 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |