JP6308608B2 - ダイレクトメソッドにもとづく外国語会話学習システム - Google Patents
ダイレクトメソッドにもとづく外国語会話学習システム Download PDFInfo
- Publication number
- JP6308608B2 JP6308608B2 JP2013015545A JP2013015545A JP6308608B2 JP 6308608 B2 JP6308608 B2 JP 6308608B2 JP 2013015545 A JP2013015545 A JP 2013015545A JP 2013015545 A JP2013015545 A JP 2013015545A JP 6308608 B2 JP6308608 B2 JP 6308608B2
- Authority
- JP
- Japan
- Prior art keywords
- scenario
- robot
- learning
- function
- expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 48
- 230000014509 gene expression Effects 0.000 claims description 94
- 230000006870 function Effects 0.000 claims description 40
- 230000000007 visual effect Effects 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 6
- 230000003287 optical effect Effects 0.000 claims description 5
- 230000006399 behavior Effects 0.000 claims description 4
- 230000009471 action Effects 0.000 claims description 3
- 230000004382 visual function Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 description 13
- 230000033001 locomotion Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 230000036544 posture Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 241000282412 Homo Species 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 235000003642 hunger Nutrition 0.000 description 3
- 239000003550 marker Substances 0.000 description 3
- 238000012549 training Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000007595 memory recall Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
Description
このシステムは不慣れな語彙要素の視覚的表示を提供する表示装置と、聴覚的表示を提供する音声合成装置と、学習者の応答を示す信号を発生させる入力装置から構成されている。
まず、学習者に対し、表示装置と音声合成装置の少なくとも1つが選択されて、不慣れな語彙要素が明示される。次いで、学習者が、多様相多感覚併用の予備知識、単語理解および記憶想起に基づいて、前記不慣れな語彙要素に対し応答する。
次いで学習者から得られた応答について、応答基準に基づいて評価を行い、表示装置と音声合成装置を用いて学習者にフィードバックを行う。
しかし、この特許文献1に開示された発明では、学習者に対する不慣れな語彙要素の説明に、慣れた言語が使用されることもあるので、所謂ダイレクトメソッドを用いた語学学習法とは言えない。
次いで、話し手と聞き手との間で発話を繰り返えす。その後、コミットを継続するかどうか再度判断し、コミットを継続するとした場合、発話は更に繰り返されて会話が連鎖する。
しかし、特許文献2は、人間とクリーチャが混然一体になって語学学習が進められる参加型多人数会話システムについての発明であって、クリーチャは用いられるものの、ロボットを用いたダイレクトメソッドの語学学習法とは言えない。
本発明は、ロボットを教師役として実施するダイレクトメソッド語学学習システムの提供により、ダイレクトメソッドの普及の障害になっている、学習コスト、教師の確保、学習者の都合に合わせた学習機会の設定、などの問題を克服しようとするものである。
本語学ロボットは、ダイレクトメソッドを実践する教師ロボットであり、生徒に対し、学習する外国言語のみを話し、外国語のみを聞き取ることしかしないので、学習者の母国語で話かけても母国語でのコミュニケ―ションはできない。
まず、語学ロボットは認識機能と表現機能を作動させて、学習者に外国語を発声させるよう誘導する1のシナリオを実行し、次いで、学習者がこの誘導に呼応して外国語を発声する。この時、語学ロボットは学習者の発声を分析して次に続くシナリオを作成し、これを実行に移す。
語学ロボットは語学学習が終了するまで、この作業を反復する。
語学ロボットのコントローラの主要部は、認識モジュール(1)と、表現モジュール(2)と、シナリオ(3)と、シナリオ理解度評価器(4)と、既学習リスト(5)と、シナリオ生成器(6)と、個人識別器(7)から構成される。
認識する1つ以上の視覚センサとロボット自身の状態をみる内部センサで構成される。
表現モジュール(2)は、発声機能を実施するスピーカと、行動機能を実行する動作デバイス、表示機能を実行する光学系デバイスから構成される。
シナリオ(3)は、認識モジュール(1)からの情報とシナリオの内部状態により表現モジュ
ール(2)への出力を決定するものである。
シナリオ理解度評価器(4)は、語学ロボットが実行するシナリオにおいて学習者が示す反応から理解している外国語の単語と文法とその学習度を選び出すものである。
既学習リスト(5)は、次シナリオの生成に利用するためにシナリオ理解度評価器(4)で選
び出した既学習単語や文法とその学習度を(個人別に)蓄積するものである。
するものであり、シナリオ(3)を更新し続け、語学学習が終了するまでシナリオを生成する。
個人識別器(7)は学習者が複数いる場合、前記(5)の既学習リストを個人別に蓄積し、シナ
リオ(3)においても誰が示す反応かを識別する。
図1に本発明のロボット内部処理システムの構成を示す。図2は、
図1の認識モジュールの詳細図であり、 図3は、図1の表現モジュールの詳細図である。シナリオ3は、入力系列により内部状態を変化させ出力を変えるオートマトンであり、人とロボットの言語や非言語に対するコミュニケーションルールを記述するものである。入力は、
認識モジュール1から出力される学習者の発話や、ロボットのまわりにある視覚情報や聴覚情報や、ロボットの内部状態であり、シナリオの内部状態により選択し入力とする。出力は、ロボットの発話や音や光学的表示やロボットの動作がシナリオの内部状態により選択され、表現モジュール2へ出力される。
表現モジュール2は、発話や移動や視線表現など言語表現や非言語表現をするモジュールである。図3に示す音表現をあわせる音声発話(V)、移動(M)、光学系表現(L) は、すべて既存の技術で実現できるものである。音声発話(V) は、性別や感情ごとに用意される台詞のmp3 などの音声データを再生するものである。
語学ロボットの状態表現を学習者が理解するには、語学ロボットは一台あれば表現できる。図4の例は、非言語表現(空腹動作)と言語表現「Ich habe Hunger!」を同時にすることで、非言語表現を言語表現に関連付けし、学習者にロボットの発話文を理解させようとする例である。
発話することで、非言語表現を言語表現に関連付けし、学習者にロボットの発話文がいつもはじめて会うときに発話する表現(挨拶)であることを理解させようとするものである。
links」が「左へ」、「nach rechts」が「右へ」、「gerade」が「まっすぐ」を意味することを学習者が理解する。
具体的には、青い球を見て「Das ist blau!」、黒い球をみて「Das ist schwarz!」青い立方体をみて「Das ist blau!」、赤い四面体をみて「Das ist rot!」と発話する。これより、学習者は、文の差異「blau」、「schwarz」、「rot」の部分を考え、青い球を見ても、青い立方体をみても、blauと言っていることから、「blau」が「青い」を意味することを理解する。また、「schwarz」、「rot」は、色についての発話だとすると、「黒」、「赤」を意味すると分かる。ここで、色のついた物体は、実物体を用いることもできるが、語学ロボットの光学系デバイスを用いて提示してもよい。
疑問表現や命令表現や呼掛けを用いる会話は、複数での掛け合いになるため、見本を見せるためには1台では無理であり、図8のように2台目のロボットが必要になる。
あるいは、一台のみの語学ロボットでも,落語の演者が一人二役以上をこなすように,語学ロボットも役割により音声を異なるようにしたり,図9に示すように語学ロボットの立ち位置を変える必要がある。
図13の例では、図12の例で単語と文法を理解した学習者が語学ロボットに話しかけられることで参加し既学習単語と文法を確認するものである。
heisse xxx!」、「名呼び」「Guten Tag! xxx」表現は、最も初期に学習されるものである。これらの単語・文法を学習するためのシナリオは、シナリオデータベースに登録され、シナリオ生成器により選択され、実行される。
上記の判定による反復において、全く同じように反復するのでなく、動作や発話の表現を反復の度ゆっくり丁寧にする。
2台のロボットをそれぞれRa、Rbとする。
ここでは、既学習リストには、単語・文法「Guten Tag!」、「Ich
heisse xxx!」、「Guten Tag! xxx」の3つが学習度0で登録される。「xxx」は、学習者の名前やロボットの名前を示す。
また、これらの単語・文法は、それぞれ学習順序が決められている。
ここでは、「Guten Tag!」、「Ich
heisse xxx!」、「Guten Tag!xxx」の順に学習順序が決められているものとする。また、シナリオ生成器は、シナリオデータベースに、図14の「あいさつ表現の学習II」、図16の「名乗り表現の学習」、図17の「名呼び表現の学習」、図18の「名呼び表現も含める名乗り表現の学習」のシナリオをもつものとする。
ロボット2台をそれぞれ決められた位置・姿勢にセットする.このとき、学習者がセットする。
または、画像処理などの既存の技術を用いてセットする。
S2の工程で、シナリオ生成器は、既学習リストの中で学習度が低く学習順位が高い単語・文法を選択し、それを学習するためのシナリオを選択する。ここでは、「Guten Tag!」、「Ich
heisse xxx!」「Guten Tag! xxx」の3つとも学習度が0なので、学習順位の最も高い「Guten Tag!」を学習するために、学習シナリオとして図14の「あいさつ表現の学習 II」を選択する。
このとき、ロボットRbのロボットRaに対する位置・姿勢は初期位置・姿勢から推測できる。
または、画像マーカーを用いるなどの既存の技術で知ることができる。
ロボットRaが「Guten Tag!」と発話する。
このとき、例えば、既存の技術を用いて録音した音声を再生する。
ロボットRbのカメラを、ロボットRaのある方へ向ける。
ロボットRbが「Guten Tag!」と発話する。
このとき、例えば、最もロボットの近くにある人の顔の位置を既存の画像処理技術を用いて見つける。
ロボットRaとRbがともに、「Guten Tag!」と発話する。
できる場合、反復ループを終了し、シナリオ理解度の評価へ、できない場合、シナリオ実行受動部から反復する。
ここでは、既存の音声認識技術を用いて「Guten Tag!」という音声が出ているかどうかを判定する。
「Guten Tag!」以外は認識する必要がないので既存の簡単な音声認識で実行できる。
S7の既学習リスト登録で既学習リスト中の「Guten Tag!」の学習度を理解度に従って高める。
S8のすべての既学習リストに登録されている学習度が十分高くなれば、処理を終了する。そうでなければ、S2のシナリオ生成に戻る。ここでは、まだ、「Ich heisse xxx!」「Guten
Tag! xxx」の学習度が高くないので、処理を終了しない。
S3の工程で「名呼び表現も含める名乗り表現の学習」のシナリオ実行受動部51を実施する。
ロボットRaのカメラを、ロボットRbのある方へ向ける。
このとき、ロボットRbのロボットRaに対する位置・姿勢は初期位置・姿勢の動作系列から推測できる。または、画像マーカーを用いるなどの既存の技術で知ることができる。
ロボットRbのカメラを、ロボットRaのある方へ向ける。
ロボットRaが「Ich heisse Ra! Und
du?」と発話する。
ロボットRbが「Ich heisse Rb!」と発話する。
ロボットRaが「Guten Tag! Rb」と発話する。
ロボットRbが「Guten Tag! Ra」と発話する。
ロボットRaとRbのカメラを学習者の顔の方へ向ける。
このとき、例えば、最もロボットの近くにある人の顔の位置を既存の画像処理技術を用いて見つける。
ロボットRaとRbがそれぞれ、「Ich heisse Ra!」「Ich
heisse Rb!」と時間差で発話する。
ロボットRaとRbがそれぞれ、「Und du?」と同時に発話する。
ここでは、既存の音声認識技術を用いて「Ich heisse xxx!」という音声が学習者から出ているかを判定する。「xxx」の部分は、学習者の名前として既学習リストに記録させる。
「Ich heisse xxx!」以外は認識する必要がないので既存の簡単な音声認識で実行できる。
S7の既学習リスト登録で既学習リスト中の「Ich heisse xxx!」の学習度を理解度に従って高める。また、シナリオの中で使われている「Guten Tag! xxx」の学習度も少し高める。
S8のすべての既学習リストに登録されている学習度が十分高くなれば、処理を終了する。そうでなければ、S2のシナリオ生成に戻る。ここでは、まだ、「Guten Tag! xxx」の学習度が高くないので、処理を終了しない。
heisse xxx!」が高く、「Guten Tag! xxx」の学習度があまり高くないので、「Guten Tag! xxx」を学習するため、図17の「名呼び表現の学習」を次学習シナリオとして選択する。
S3の工程で「名呼び表現の学習」のシナリオ実行受動部41を実施する。
ロボットRaのカメラを、ロボットRbのある方へ向ける。
このとき、ロボットRbのロボットRaに対する位置・姿勢は初期位置・姿勢の動作系列から推測できる。または、画像マーカーを用いるなどの既存の技術で知ることができる。
ロボットRaが「Guten Tag! Rb」と発話する。
ロボットRbのカメラを、ロボットRaのある方へ向ける。
ロボットRbが「Guten Tag! Ra」と発話する。
ロボットRaとRbのカメラを学習者の顔の方へ向ける。
このとき、例えば、最もロボットの近くにある人の顔の位置を既存の画像処理技術を用いて見つける。
ロボットRaとRbがそれぞれ、「Guten Tag! <Pの名>」と同時に発話する。
ここで、<Pの名>は、前記で登録されたものを用いる。
できる場合、反復ループを終了し、シナリオ理解度の評価へ、できない場合、シナリオ実行受動部から反復する。
S7の既学習リスト登録で既学習リスト中の「Guten Tag! xxx」の学習度を理解度に従って高める。
S8のすべての既学習リストに登録されている学習度が十分高くなれば、処理を終了する。そうでなければ、S2のシナリオ生成に戻る。
ここでは、学習度の低い単語と文法がないので、学習を終了する。
まず、小学校において、本発明は、小学校における英語教育に対して有効であると考えられる。現在、小学校において英語教育を実施することになっているが、英語教員の確保などに問題がある。本研究の成果は、全国の小学校に対して英会話教育の基礎部分を実施することができる。
次に、大学・社会において本発明は、大学において第二外国語を学習するときに有効であると考えられる。ほとんどの学生は、選択する第二外国語に対して全くの初心者であるため、本提案手法が有効であると考えられる。
社会においても、中高年で初心者であるビジネスマンの中国語会話学習にも同様に有効であると考えられる。
また、世界において本発明は、ダイレクトメソッドという手法をベースにしているので、母国語に関係なく語学学習をすることができる。つまり、本発明はそのまま日本以外でも用いることができる。それぞれの語学学習現場において利用できる可能性がある。
2 表現モジュール
3 シナリオ
4 シナリオ理解度評価器
5 既学習リスト
6 シナリオ生成器
7 個人識別器
Claims (5)
- 認識機能(聴覚機能と、視覚機能と)と、表現機能(発声機能と、行動機能と、表示機能 )を有し、単一の外国言語のみ聞取・発話するロボットが、言語は前記外国言語のみを用いて学習者との対話等を介して該学習者の前記外国語能力を向上させるダイレクトメソッド外国語会話学習システムであって、
前記ロボットが認識機能と表現機能を作動させて、学習者に外国語を発声させるよう誘導する1つのシナリオを実行し、学習者が呼応して発声する外国語に応じて、次のシナリオを作成して実行する作業を反復するものであって、
前記ロボットのコントローラが、認識モジュール(1)と、表現モジュール(2)と、シナリオ(3)と、シナリオ理解度評価器(4)と、個人別既学習リスト(5)と、シナリオ生成器(6)と、個人識別器(7)とを有しており、
前記認識モジュール(1)が聴覚機能を実行する一つ以上のマイクと、学習者の状態・状況を認識する1つ以上の視覚センサからなり、
前記表現モジュール(2)が発声機能を実施するスピーカと、行動機能を実行する動作デバイスと、表示機能を実行する光学系デバイスからなり、
前記シナリオ(3)は、認識モジュール(1)からの情報とシナリオの内部状態により表現モジュール(2)への出力を決定し、
前記シナリオ理解度評価器(4)が、実行するシナリオにおいて学習者が示す反応から理解している外国語の単語と文法とその学習度を選び出し、
前記既学習リスト(5)が、シナリオ理解度評価器(4)で選び出した既学習単語や文法とその学習度を(個人別に)蓄積し、
前記シナリオ生成器(6)が、既学習リスト(5)と認識モジュール(1)に基づきシナリオを選択し、
前記個人識別器(7)が学習者が複数いる場合、既学習リスト(5)を個人別に蓄積し、シナリオ(3)においても誰が示す反応かを識別することを特徴とするダイレクトメソッド外国語会話学習システム。 - 前記認識機能と表現機能の一部が、前記ロボットとは別の場所に設置される認識機能と表現機能で代用されることを特徴とする請求項1に記載の外国語会話学習システム 。
- 前記視覚センサの代わりに対象物体の視覚情報をもつICタグとその情報を引き出せるシステムをもつことを特徴とする請求項1、2に記載の外国語会話学習システム。
- 前記ロボットを実空間内でなく一部もしくは全てを仮想空間内に設定する請求項1に記載の外国語会話学習システム。
- 学習者の母国言語も補助的に使用できることを特徴とする請求項1、2、3、4に記載の外国語会話学習システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013015545A JP6308608B2 (ja) | 2013-01-30 | 2013-01-30 | ダイレクトメソッドにもとづく外国語会話学習システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013015545A JP6308608B2 (ja) | 2013-01-30 | 2013-01-30 | ダイレクトメソッドにもとづく外国語会話学習システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014145976A JP2014145976A (ja) | 2014-08-14 |
JP6308608B2 true JP6308608B2 (ja) | 2018-04-11 |
Family
ID=51426265
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013015545A Active JP6308608B2 (ja) | 2013-01-30 | 2013-01-30 | ダイレクトメソッドにもとづく外国語会話学習システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6308608B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6763167B2 (ja) * | 2016-03-23 | 2020-09-30 | カシオ計算機株式会社 | 学習支援装置、学習支援システム、学習支援方法、ロボット及びプログラム |
JP6750804B2 (ja) * | 2016-11-09 | 2020-09-02 | 株式会社システムトランジスタ | 教師ロボットによるロボット動作プログラミング学習システム |
JP2018106520A (ja) | 2016-12-27 | 2018-07-05 | 株式会社コロプラ | 仮想空間にコンテンツを提示するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンテンツ提示装置 |
JP7078082B2 (ja) * | 2020-09-09 | 2022-05-31 | カシオ計算機株式会社 | 学習支援装置、学習支援システム、学習支援方法、ロボット及びプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002351305A (ja) * | 2001-05-23 | 2002-12-06 | Apollo Seiko Ltd | 語学研修用ロボット |
JP2006068489A (ja) * | 2004-08-02 | 2006-03-16 | Tomy Co Ltd | 対話型ペットロボット |
JP5020593B2 (ja) * | 2006-10-16 | 2012-09-05 | 株式会社日立ソリューションズ | 外国語学習通信システム |
-
2013
- 2013-01-30 JP JP2013015545A patent/JP6308608B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2014145976A (ja) | 2014-08-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Randall | A survey of robot-assisted language learning (RALL) | |
Halic et al. | Language and academic identity: A study of the experiences of non-native English speaking international students | |
Trofimovich | Interactive alignment: A teaching-friendly view of second language pronunciation learning | |
Arsan et al. | Sign language converter | |
JP6308608B2 (ja) | ダイレクトメソッドにもとづく外国語会話学習システム | |
Tan et al. | iSocioBot: a multimodal interactive social robot | |
Lison et al. | Spoken dialogue systems: the new frontier in human-computer interaction | |
Khalifa et al. | Learning Effect of Implicit Learning in Joining-in-type Robot-assisted Language Learning System. | |
Tsiami et al. | Multi3: Multi-sensory perception system for multi-modal child interaction with multiple robots | |
Lopes et al. | A first visit to the robot language café | |
KR20190130774A (ko) | 언어 교육을 위한 영상의 자막 처리 방법 및 장치 | |
Kanda et al. | A practical experiment with interactive humanoid robots in a human society | |
Blancas et al. | Analyzing children's expectations from robotic companions in educational settings | |
Bharadwaj et al. | Speech automated examination for visually impaired students | |
Kwon et al. | GenieTutor: a computer assisted second-language learning system based on semantic and grammar correctness evaluations | |
Li et al. | Exploring the possibility of using a humanoid robot as a tutor and oral test proctor in Chinese as a foreign language | |
Greymorning | Language rejuvenation and accelerated second language acquisition | |
KR20200095304A (ko) | 영어 코딩 교육 교재 및 이를 포함하는 로봇을 활용한 영어 코딩 교육용 보드 게임 세트 | |
TWI575483B (zh) | 外語口說學習系統、方法及電腦程式產品 | |
Kwon et al. | Task-oriented spoken dialog system for secondlanguage learning | |
Seneff et al. | Spoken dialogue systems for language learning | |
Imamesup | The study of the efectiveness of Audioarticulation model in improving Thai Learners' pronunciation of fricative sounds | |
US11605390B2 (en) | Systems, methods, and apparatus for language acquisition using socio-neuorocognitive techniques | |
Entwistle | the importance of raising learners’ awareness of connected speech | |
Miura et al. | Vowel acquisition based on visual and auditory mutual imitation in mother-infant interaction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160118 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170815 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170921 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180306 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180309 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6308608 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |