JP2011112854A - オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法 - Google Patents

オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法 Download PDF

Info

Publication number
JP2011112854A
JP2011112854A JP2009268945A JP2009268945A JP2011112854A JP 2011112854 A JP2011112854 A JP 2011112854A JP 2009268945 A JP2009268945 A JP 2009268945A JP 2009268945 A JP2009268945 A JP 2009268945A JP 2011112854 A JP2011112854 A JP 2011112854A
Authority
JP
Japan
Prior art keywords
procedure
section
time
phrase
utterance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009268945A
Other languages
English (en)
Other versions
JP5333175B2 (ja
Inventor
Sachiko Onodera
佐知子 小野寺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2009268945A priority Critical patent/JP5333175B2/ja
Publication of JP2011112854A publication Critical patent/JP2011112854A/ja
Application granted granted Critical
Publication of JP5333175B2 publication Critical patent/JP5333175B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】手順説明語句に対応した補足語句を抽出すること。
【解決手段】オペレータ支援装置1は、対応関係記憶部2、操作時間取得部3、区間推定部4、補足語句抽出部5を有する。対応関係記憶部2は、手順説明語句と、該手順説明語句に係る操作部位とを対応付けて記憶する。操作時間取得部3は、切替操作時刻ごとにそこから操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から所定の操作部位が切替操作された時点を示す操作時間を取得する。区間推定部4は、対応関係記憶部2から切替後の操作部位に係る手順説明語句を抽出する。区間推定部4は、音声記録から、手順説明語句出現の発話区間から先の操作時間以降に発話が開始された時点の発話区間の次に現れる、所定期間より長い発話区間の開始までを、手順説明語句の音声区間と推定する。補足語句抽出部5は、推定済みの音声区間から手順説明語句の補足語句を抽出する。
【選択図】図1

Description

本願の開示する技術は、オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法に関する。
多くの企業には、顧客からの電話問合せに応対するためにコールセンタが設置される。このコールセンタでは、応対業務専門のエージェント(以下、オペレータと表記)が顧客からの問合せに応対する。オペレータは、顧客から問合せを受け付けた場合に、問合せ内容に対応する電子マニュアルを端末装置を用いて検索し、その検索結果を参照しながら回答を顧客に説明する。
この電子マニュアルとしては、例えば、QA(Question and Answer)事例が使用される。かかるQA事例は、問合せ事項(Q)と、その問合せ事項が解決に至るまでの手順を示す回答事項(A)とが対応付けられたものである。この回答事項の手順には、1つの手順を説明する場合にキー(重要)となる語句(以下、手順説明語句と表記)が含まれる。オペレータは手順説明語句を中心に一つ一つの手順を説明することにより応対業務を行う。
ところで、コールセンタに問い合わせてくる顧客の知識レベルは様々である。このため、オペレータが端末装置に表示されるQA事例の回答事項を読み上げたとしても、顧客が必ずしもその内容を理解できるとは限らない。そして、顧客の理解が円滑に進まない場合には応対時間が長時間となり、顧客満足度が低下してしまうおそれがある。このため、オペレータには、顧客の知識レベルに応じて回答事項の説明の仕方を変えるなど臨機応変な応対が求められる。しかし、初心者のオペレータにはかかる応対を行うことが難しい。
このことから、手順説明語句を補足する語句(以下、補足語句と表記)を支援キーワードとして提示するオペレータ支援装置が提案されている。このオペレータ支援装置は、同一の事例であって異なるオペレータによって応対された事例の音声データを対象に補足語句を抽出する。すなわち、オペレータ支援装置は、熟練のオペレータが発話したキーワードと初心者のオペレータが発話したキーワードとを突き合わせる。このとき、オペレータ支援装置は、手順説明語句が発話された時刻の近傍で発話されたキーワードであり、かつ熟練のオペレータ及び初心者のオペレータのうち熟練のオペレータだけが発話したキーワードを補足語句として抽出する。このように、オペレータ支援装置は、QA事例を表示する場合に、手順説明語句とともに補足語句を表示させることで、オペレータの応対業務を支援する。
特開2008−33835号公報 特開2001−51876号公報 特開平10−69381号公報 特開2005−293180号公報
しかしながら、上述した従来の技術は、必ずしも手順説明語句に対応した補足語句を抽出することができないという問題がある。
この点を図21及び図22を用いて説明する。図21及び図22は、従来技術における補足語句の抽出要領を説明するための説明図である。図21及び図22の例では、コールセンタでパーソナルコンピュータ(以下、PCと表記)の操作に関する問合せを受け付ける例を想定する。これら図21及び図22は、いずれも顧客からの問合せ事項「ブラウザの設定方法を教えて」に対して、手順X「インターネットオプションの接続タブを開く」を説明する対話の一例を示す。このうち、図21の例では、インターネットオプションが中心となる対話に分岐した場合の対話を示す。また、図22の例では、接続タブが中心となる対話に分岐した場合の対話を示す。ここで、手順Xの手順説明語句は「インターネットオプション」「接続タブ」となる。なお、図21及び図22における横軸は、時間軸を指し、右方向に進むにしたがって時間が進むことを示す。また、図中の「u」は、「utterance」の略記であり、「u1」から「u11」までのブロックはオペレータ又は顧客の発話を示し、これらブロックの横方向の大きさは発話区間の長さを示す。さらに、横軸の上方に図示するブロックは顧客の発話を示し、横軸の下方に図示するブロックはオペレータの発話を示すものとする。
図21に示す例では、以下の会話が行われたものとする。オペレータは「では、インターネットオプションの接続タブを開いて下さい」(u1)と発話する。顧客は「何それ?」(u2)と発話する。オペレータは「メニューバーの右から二番目の・・・」(u3)と発話する。顧客は「メニューバー?」(u4)と発話する。オペレータは「一番上に、ファイル、編集などと並んでいる・・・」(u5)と発話する。顧客は「あ、はいはい」(u6)と発話する。オペレータは「その右から二番目に、ツールとあるのでクリックして下さい」(u7)と発話する。顧客は「二番目・・・はい」(u8)と発話する。オペレータは「すると、一番下にインターネットオプションというものがあります」(u9)と発話する。顧客は「あ、これね」(u10)と発話する。オペレータは「そこの接続タブを選択して下さい」(u11)と発話する。
図21に示す例で言えば、オペレータ支援装置は、u1からu11までの対話を含む音声データの中から、「予め登録されたQA事例の手順説明語句」を抽出する音声認識を行う。図21の例では、オペレータ支援装置は、u1の発話から「インターネットオプション」及び「接続タブ」を手順説明語句として抽出する。また、オペレータ支援装置は、u9の発話から「インターネットオプション」を手順説明語句として抽出し、u11の発話から「接続タブ」を手順説明語句として抽出する。ここで、仮に熟練のオペレータだけが行った発話としてu3の発話における「メニューバー」及びu7の発話における「2番目」を補足語句として抽出したとする。従来技術より、「メニューバー」および「2番目」は、手順Xの手順説明語句である「インターネットオプション」および「接続タブ」の近傍に出現しているため、手順Xの補足語句として抽出される。実際には、u2からu9までの発話では、手順説明語句「インターネットオプション」に関する対話が行われており、手順説明語句「接続タブ」の補足語句ではない。しかし、従来技術では、一手順に対して手順説明語句が複数ある場合、どの手順説明語句の補足語句となるかを特定することができない。
図22に示す例では、以下の会話が行われたものとする。オペレータは「では、インターネットオプションの接続タブを開いて下さい」(u1)と発話する。顧客は「接続タブって何?」(u2)と発話する。オペレータは「インターネットオプションは開きましたか?」(u3)と発話する。顧客は「開いたよ」(u4)と発話する。オペレータは「一番上に、全般、セキュリティなどと並んでいる・・・」(u5)と発話する。顧客は「あ、これか」(u6)と発話する。オペレータは「はい、そこの接続タブを開いてください」(u7)と発話する。顧客は「はい」(u8)と発話する。
図22に示す例で言えば、オペレータ支援装置は、u1の発話から「インターネットオプション」及び「接続タブ」を手順説明語句として抽出する。また、オペレータ支援装置は、u3の発話から「インターネットオプション」を手順説明語句として抽出する。さらに、オペレータ支援装置は、u7の発話から「接続タブ」を手順説明語句として抽出する。ここで、仮に熟練のオペレータだけが行った発話としてu5の発話における「1番上」を補足語句として抽出したとする。従来技術より、「1番上」は、手順Xの手順説明語句である「インターネットオプション」および「接続タブ」の近傍に出現しているため、手順Xの補足語句として抽出される。実際には、接続タブの画面上の表示位置を説明するための語句であるため、「インターネットオプション」の補足語句ではないのだが、従来技術では「接続タブ」のみの補足語句であると特定することができない。
このように、上記の従来技術では、1つの手順の中に複数の手順説明語句が存在する場合には、それら複数の手順説明語句の補足語句であるとしか対応づけることができず、補足語句をどの手順説明語句と対応付けるのかを特定できない。
開示の技術は、上記に鑑みてなされたものであって、手順説明語句に対応した補足語句を抽出することができるオペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法を提供することを目的とする。
本願の開示する技術は、一つの態様において、所定の手順を説明するための語句である手順説明語句と、端末に表示される操作部位のうち該手順説明語句に関係して操作される操作部位とを対応付けて記憶する対応関係記憶部を有する。さらに、本願の開示する技術は、前記端末に表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する操作時間取得部を有する。前記操作時間取得部は、操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から操作時間を取得する。さらに、本願の開示する技術は、区間推定部を有する。前記区間推定部は、前記対応関係記憶部から前記所定の操作部位から切り替えられた操作部位に関係する手順説明語句を抽出する。前記区間推定部は、音声記録から、前記操作時間取得部によって取得された操作時間より以降に発話が開始された時点を抽出する。前記区間推定部は、手順説明語句が出現した発話区間から当該抽出した時点の発話区間の次に現れる、予め定めた期間よりも長い発話区間の開始時刻に至るまでの音声区間を、前記対応関係記憶部から抽出した手順説明語句に関する音声区間として推定する。さらに、本願の開示する技術は、前記音声記録のうち前記区間推定部によって推定された音声区間から、前記手順説明語句を補足するための語句である補足語句を抽出する補足語句抽出部を有する。
本願の開示する技術の一つの態様によれば、手順説明語句に対応した補足語句を抽出することができるという効果を奏する。
図1は、実施例1に係るオペレータ支援装置の構成を示すブロック図である。 図2は、実施例2に係るオペレータ支援装置の構成を示すブロック図である。 図3は、対応関係記憶部に記憶される情報の構成例を示す図である。 図4は、応対履歴リストの一例を示す図である。 図5は、オペレータに係る韻律データリストの一例を示す図である。 図6は、顧客に係る韻律データリストの一例を示す図である。 図7は、オペレータに係る発話区間情報の一例を示す図である。 図8は、顧客に係る発話区間情報の一例を示す図である。 図9は、認識キーワードリストの一例を示す図である。 図10は、操作時間リストの一例を示す図である。 図11は、手順対応区間の推定結果の一例を示す図である。 図12は、手順説明語句の対応区間の推定結果の一例を示す図である。 図13は、補足語句リストの一例を示す図である。 図14は、実施例2に係るオペレータ支援装置における処理の流れを示すフローチャートである。 図15は、実施例2に係る手順対応区間の推定処理の手順を示すフローチャートである。 図16は、実施例2に係る手順説明語句の対応区間の推定処理の手順を示すフローチャートである。 図17は、実施例2に係る補足語句抽出処理の手順を示すフローチャートである。 図18は、実施例2に係る補足語句の抽出要領を説明するための説明図である。 図19は、実施例2に係る補足語句の抽出要領を説明するための説明図である。 図20は、オペレータ支援プログラムを実行するコンピュータを示す図である。 図21は、従来技術における補足語句の抽出要領を説明するための説明図である。 図22は、従来技術における補足語句の抽出要領を説明するための説明図である。
以下に、図面を参照しつつ、本願の開示するオペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法の一実施形態について詳細に説明する。なお、本願の開示するオペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法の一実施形態として以下に説明する実施例により、本願の開示する技術が限定されるものではない。
図1は、実施例1に係るオペレータ支援装置の構成を示すブロック図である。同図に示すように、実施例1に係るオペレータ支援装置1は、記憶部2と、操作時間取得部3と、区間推定部4と、補足語句抽出部5とを有する。
対応関係記憶部2は、所定の手順を説明するための語句である手順説明語句と、端末に表示される操作部位のうち手順説明語句に関係して操作される操作部位とを対応付けて記憶する。操作時間取得部3は、端末に表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する。この操作時間取得部3は、操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から、操作時間を取得する。
区間推定部4は、対応関係記憶部2から、所定の操作部位から切り替えられた操作部位に関係する手順説明語句を抽出するとともに、音声記録から、操作時間取得部3によって取得された操作時間より以降に発話が開始された時点を抽出する。そして、区間推定部4は、手順説明語句が出現した発話区間から抽出した時点の発話区間の次に現れる、予め定めた期間よりも長い発話区間の開始時刻に至るまでの音声区間を、対応関係記憶部2から抽出した手順説明語句に関する音声区間として推定する。補足語句抽出部5は、音声記録のうち区間推定部4によって推定された音声区間から、手順説明語句を補足するための語句である補足語句を抽出する。
このように、操作時間より以降に発話が開始された時点に至るまでの音声区間を手順説明語句に関する音声区間として推定するのは、オペレータが行う端末の操作と、オペレータ及び顧客の対話の間に関連性があるからである。
つまり、オペレータは、回答事項の手順を説明する場合に、1つの手順で到達目標とする操作部位、すなわち手順説明語句に対応する操作部位に至るまで操作部位を操作しながら説明を行う。そして、到達目標とする操作部位へ至った段階で、オペレータは、顧客を到達目標とする操作部位まで誘導できたか否かを確認するために、操作部位(手順説明語句)に関する確認発話を行うのが応対の定石である。かかる確認発話が行われた場合には、その確認発話で登場した操作部位に関する説明をそれ以前にオペレータが行っていたのは明らかであり、それ以前の対話を確認発話で登場した手順説明語句に関する対話とみなすことができる。
このように、本実施例に係るオペレータ支援装置1では、かかる知見に基づく区間推定を行うので、手順説明語句に対応する音声区間を推定できる。このため、本実施例に係るオペレータ支援装置1によれば、手順説明語句に対応した補足語句を抽出することが可能になる。
[オペレータ支援装置の構成]
図2は、実施例2に係るオペレータ支援装置の構成を示すブロック図である。なお、本実施例では、コールセンタでパーソナルコンピュータの操作に関する問合せを受け付ける場合を想定したオペレータ支援装置を説明する。なお、以下では、パーソナルコンピュータをPCと略記することとする。
図2に示すように、オペレータ支援装置100は、PC操作ログ記憶部110と、事例データ記憶部120と、対応関係記憶部125と、音声データ記憶部130と、対応関係設定部140と、韻律情報抽出部150と、発話区間抽出部155とを有する。さらに、オペレータ支援装置100は、音声認識部160と、操作時間取得部170と、区間推定部180と、補足語句抽出部190とを有する。
PC操作ログ記憶部110は、オペレータが使用するPCにおけるPC操作ログを記憶する。PC操作ログ記憶部110は、操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶する。ここで言う「操作部位」とは、OS(Operating System)やアプリケーションによって生成される画面そのものに加え、画面内でのマウス操作やキーボード操作といった操作に応答して表示されるタブやプルダウンメニューなども含む。なお、かかるPC操作ログは、既存の操作ログ取得ソフト又はOSの機能を用いることにより取得できる。
事例データ記憶部120は、オペレータが応対時に参照する事例データを記憶する。この事例データ記憶部120は、事例ID(Identification)ごとにQA(Question and Answer)事例の問合せ事項及び回答事項を対応付けて記憶する。一例を挙げれば、事例ID「QA123」には、問合せ事項「ブラウザの設定方法を教えて」、回答事項に含まれる各手順が対応付けられる。この回答事項は、手順1「インターネットオプションの接続タブを開く」、手順2「LAN(Local Area Network)の設定を開く」、手順3「プロキシサーバーの設定を確認する」を含む。なお、回答事項の各手順には、それぞれの手順番号に対応する数字を枝番とした事例手順IDが付与されるものとする。
対応関係記憶部125は、回答事項に含まれる1つの手順を説明する場合にキー(重要)となる手順説明語句と、その手順説明語句に関係して操作される操作部位との対応関係を記憶する。対応関係記憶部125は、手順説明語句、事例手順ID及び操作部位を対応付けて記憶する。なお、手順説明語句及び操作部位の対応関係は、後述の対応関係設定部140によって設定される。
図3は、対応関係記憶部に記憶される情報の構成例を示す図である。図3に示すように、対応関係記憶部125は、手順説明語句「インターネットオプション」に事例手順ID「QA123−1」及び操作部位「インターネットオプションwindow−全般タブ画面」を対応付けて記憶する。また、対応関係記憶部125は、手順説明語句「接続タブ」に事例手順ID「QA123−1」及び操作部位「インターネットオプションwindow−接続タブ画面」を対応付けて記憶する。さらに、対応関係記憶部125は、手順説明語句「LAN」に事例手順ID「QA123−2」及び操作部位「ローカルエリアネットワーク(LAN)の設定window」を対応付けて記憶する。この図3に示す例では、「インターネットオプション」及び「接続タブ」が同一の事例であり、かつ同じ手順に含まれる手順説明語句である状況を示す。
音声データ記憶部130は、過去の応対業務において録音された音声データを記憶する。例えば、音声データ記憶部130には、1人の顧客の応対で顧客とオペレータの電話の呼が接続されてからその接続が切られるまでの1つのコールが音声データとして録音される。音声データ記憶部130は、後述する機能部から任意の音声データの呼び出しが可能となるように、コールを一意に識別するためのコールIDに対応付けて音声データを記憶する。また、音声データ記憶部130は、後述の機能部で時刻換算可能なように、コールIDに対応付けて録音開始時点の時刻を記憶する。なお、音声データは、例えば、オペレータの音声データ及び顧客の音声データそれぞれを異なる系統から入力されたステレオデータであるものとするが、単一系統から入力されるモノラルデータであってもかまわない。また、音声データの録音区間は、呼の接続から切断までに限定されるものではなく、開始時刻が呼の接続から前後してもよく、また、終了時刻が呼の接続から前後してもかまわない。
また、音声データ記憶部130は、応対履歴リストを記憶する。この応対履歴リストは、コールIDごとにそのコールに係る応対業務でオペレータが参照した事例データを対応付けたリストである。図4は、応対履歴リストの一例を示す図である。図4に示す例で言えば、コールID「call 001」の応対では、事例ID「QA123」に関する問合せを受け付けたことを示す。コールID「call 002」の応対では、事例ID「QA456」に関する問合せを受け付けたことを示す。また、コールID「call 003」の応対では、事例ID「QA135」に関する問合せを受け付けたことを示す。なお、これらコールID及び事例IDは、応対業務終了後にオペレータが使用する端末で両者が対応付けて入力されるものとする。また、ここでは、1つのコールで問合せを受け付ける事例が1つである場合を例示したが、1つのコールで複数の事例に関する問合せを受け付けることもできる。
対応関係設定部140は、事例データ記憶部120に記憶されたQA事例のうち回答事項の各手順に含まれる手順説明語句と、PCの操作全般に関する操作部位との対応関係を設定する。かかる設定の一例として、対応関係設定部140は、事例データ記憶部120に記憶された事例手順IDの昇順または降順にその手順に含まれる事例データを読み出す。このとき、対応関係設定部140は、事例データのうち回答事項に含まれる各手順の文書に対して形態素解析技術などを用いて解析することで、所定の条件、例えば文書中に網かけを施した語などを満たすキーワードを手順説明語句として抽出する。そして、対応関係設定部140は、コールセンタの管理者や熟練のオペレータなどから図示しない入力デバイス等を介して、先に抽出した手順説明語句への対応付け先とする操作部位を選択させる。その後、対応関係設定部140は、このようにして対応付け先として選択された操作部位及び手順説明語句とともにその手順説明語句が含まれる手順に対応する事例手順IDを対応付けて対応関係記憶部125に設定登録する。なお、ここでは、コールセンタの関係者による入力操作によって対応関係を設定する場合を説明したが、ネットワークを介して対応関係を取得してもよい。また、ここでは、回答事項に含まれる各手順の手順説明語句を形態素解析技術を用いて抽出することとしたが、コールセンタ関係者による指定や同一事例で発話頻度が閾値以上のものなど、任意の基準で抽出できる。
韻律情報抽出部150は、音声データ記憶部130に記憶された音声データから韻律データリストを生成する。例えば、韻律情報抽出部150は、韻律情報が未抽出のコールIDが存在する場合に、音声データ記憶部130から音声データを読み出す。そして、韻律情報抽出部140は、ステレオデータである音声データのうちオペレータの音声データから所定の時間間隔でパワー値をサンプリングすることでオペレータの韻律データを抽出する。そして、韻律情報抽出部150は、抽出したオペレータの韻律データからオペレータの韻律データリストを生成する。また、韻律情報抽出部150は、顧客の音声データに対してもオペレータの場合と同様にパワー値をサンプリングする処理を実行し、顧客の韻律データリストを生成する。なお、パワー値は、音声データから取得される信号波形の振幅の大きさから算出される。
図5は、オペレータに係る韻律データリストの一例を示す図である。図5に示すように、オペレータの韻律データリストは、一定時間ごとにパワー値が対応付けられた情報である。図5では、12.8[msec]ごとにサンプリングした場合を例示する図5に示すオペレータの韻律データリストによれば、時間「0」のパワー値が−60.008152であることを示す。時間「12.8」のパワー値が−51.801006であることを示す。時間「25.6」のパワー値が−49.171921であることを示す。時間「38.4」のパワー値が−50.005344であることを示す。時間「51.2」のパワー値が−52.422977であることを示す。時間「64.0」のパワー値が−57.180473であることを示す。時間「76.8」のパワー値が−62.303638であることを示す。時間「89.6」のパワー値が−57.468826であることを示す。時間「102.4」のパワー値が−53.068714であることを示す。また、時間「115.2」のパワー値が−51.655396であることを示す。なお、ここで言う時間とは、音声データの録音の開始時刻をゼロとした場合の経過時間を指すが、標準時刻のタイムスタンプなどの他の時刻を用いることもできる。
図6は、顧客に係る韻律データリストの一例を示す図である。図6に示すように、顧客の韻律データリストは、一定時間ごとにパワー値が対応付けられた情報である。図6では、12.8[msec]ごとにサンプリングした場合を例示する図6に示す顧客の韻律データリストによれば、時間「0」のパワー値が−57.180473であることを示す。時間「12.8」のパワー値が−62.303638であることを示す。顧客の韻律データリストには、時間「25.6」のパワー値が−57.468826であることを示す。時間「38.4」のパワー値が−53.068714であることを示す。時間「51.2」のパワー値が−51.655396であることを示す。時間「64.0」のパワー値が−60.008152であることを示す。時間「76.8」のパワー値が−51.801006であることを示す。時間「89.6」のパワー値が−49.171921であることを示す。時間「102.4」のパワー値が−50.005344であることを示す。また、時間「115.2」のパワー値が−52.422977であることを示す。
発話区間抽出部155は、韻律情報抽出部150より抽出された韻律データから発話区間情報を抽出する。例えば、発話区間抽出部155は、オペレータの韻律データリストから所定の閾値以上のパワー値が連続する区間を検出し、検出した区間の期間が所定の期間以上持続する区間の開始時刻及び終了時刻をオペレータの発話区間として抽出する。そして、発話区間抽出部155は、このようにして抽出したオペレータの発話区間に発話区間を識別するための発話区間IDを採番し、採番した発話区間IDに発話区間を対応付けたオペレータの発話区間情報を生成する。
図7は、オペレータに係る発話区間情報の一例を示す図である。オペレータの発話区間情報は、図7に示すように、発話区間IDごとに開始時刻及び終了時刻が対応付けられた情報である。図7に示すように、発話区間ID「call001−1」の例では、オペレータが開始時刻「10msec」から終了時刻「14320msec」まで発話したことを示す。発話区間ID「call001−3」の例では、オペレータが開始時刻「・・・msec」から終了時刻「・・・msec」まで発話したことを示す。なお、これら開始時刻及び終了時刻は、音声データの録音の開始時刻をゼロとした場合の経過時間を指すが、標準時刻のタイムスタンプなどの他の時刻を用いることもできる。
また、発話区間抽出部155は、顧客の韻律データリストについてもオペレータの韻律データリストと同様にして顧客の発話区間情報を抽出する。図8は、顧客に係る発話区間情報の一例を示す図である。図8に示すように、発話区間ID「call001−2」の例では、顧客が開始時刻「14350msec」から終了時刻「17800msec」まで発話したことを示す。発話区間ID「call001−4」の例では、顧客が開始時刻「・・・msec」から終了時刻「・・・msec」まで発話したことを示す。
音声認識部160は、音声データ記憶部130に記憶された音声データに音声認識を行って認識キーワードリストを作成する。例えば、音声認識部160は、音声データ記憶部130に記憶された音声データのうち処理対象とするコールIDに対応する音声データを読み出すとともに応対履歴リストのうちコールIDに対応する事例IDを読み出す。さらに、音声認識部160は、先に読み出した事例IDに対応する手順説明語句を対応関係記憶部125から読み出す。このようにして、音声認識部160は、オペレータが実際に応対を行ったQA事例の回答事項に含まれる手順説明語句とその発話を含む音声データとを読み出す。その後、音声認識部160は、手順説明語句を認識対象とする認識キーワードとし、認識キーワードに基づく音声認識を音声データに行って手順説明語句の発話が開始された時刻(以下、出現時刻とする)を特定する。このようにして手順説明語句の出現時刻を特定すると、音声認識部160は、コールID、認識キーワード(手順説明語句)、事例手順ID及び出現時刻を含むレコードを追加することにより認識キーワードリストを生成する。なお、音声認識部160は、補足語句が未抽出である音声データが音声データ記憶部130に存在し、かつその音声データに対応する応対履歴リストが音声データ記憶部130に登録されているコールIDを音声認識の処理対象とすることができる。
図9は、認識キーワードリストの一例を示す図である。図9に示すように、「call 001」の音声データの録音開始時刻から「10550msec」が経過した時点でQA事例123の手順1に含まれる手順説明語句「インターネットオプション」の発話が開始されたことを示す。「call 001」の音声データの録音開始時刻から「12870msec」が経過した時点でQA事例123の手順1に含まれる「接続タブ」の発話が開始されたことを示す。「call 001」の音声データの録音開始時刻から「99180msec」が経過した時点でQA事例123の手順1に含まれる「インターネット」の発話が開始されたことを示す。また、「call 001」の音声データの録音開始時刻から「110300msec」が経過した時点でQA事例123の手順2に含まれる「LAN」の発話が開始されたことを示す。
操作時間取得部170は、PC操作ログ記憶部110に記憶されるPC操作ログから、オペレータが使用するPCで表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する。
ここで、PC操作ログとして記憶された切替操作時刻は、操作部位の切替操作が行われた時刻である。この切替操作時刻は、音声データの録音時間と対比されるが、音声データとは別系統で操作ログ取得ソフトを用いて収集されたログであるため、音声データの経過時間とは同一視することはできない。このままでは、後述の区間推定部180で操作部位の切替操作時刻と音声データの経過時間を対比できないので、操作時間取得部170は、両者の対比が可能となるように、時刻を経過時間へ換算するか、或いは経過時間を時刻へ換算する。
このような換算を成立させるには、PC操作ログ記憶部110又は音声データ記憶部130のいずれかに音声データの経過時間及び操作部位の切替操作時刻の対応関係を持たせておくのが好ましい。一例としては、音声データの記録を行う録音ソフトは、音声データの録音時に、音声データの録音開始時点の時刻を音声データのコールIDに対応付けて音声データ記憶部130に登録する。なお、ここでは、音声データとともに録音開始時点の時刻を音声データ記憶部130へ登録させることとしたが、コールIDに対応付けてそのコールの録音開始時点からの切替操作時刻までの時間差をPC操作のログ取得ソフトに登録させるようにしてもよい。
このようにして予め登録された録音開始時点の時刻を用いて、操作時間取得部170は、音声データ記憶部130に記憶された音声データの録音区間を切出し範囲とし、PC操作ログ記憶部110からPC操作ログを切り出す。すなわち、操作時間取得部170は、音声データの録音開始時刻から録音終了時刻までの区間に切替操作時刻が含まれるPC操作ログを切り出す。そして、操作時間取得部170は、各々の切替操作時刻と録音開始時点の時刻との間で差分を求めることにより、切替操作時刻ごとにその切替操作の録音開始時点からの経過時間(操作時間)を算出する。その上で、操作時間取得部170は、PC操作ログの切出しに使用された音声データのコールID、切替後の操作部位及びその切替操作が行われた時点を示す操作時間を対応付けて操作時間リストを生成する。なお、操作時間取得部170は、補足語句が未抽出である音声データのコールIDであれば任意のコールIDを操作時間の取得対象とすることができる。
図10は、操作時間リストの一例を示す図である。操作時間リストは、コールIDごとに操作部位及び操作時間が対応付けられた情報である。図10に示す例では、コールID「call 001」の音声データの録音開始時刻からの経過時間が「17560msec」になった時点で操作部位が「ブラウザwindow」に切り替えられたことを示す。図10に示す例では、コールID「call 001」の音声データの録音開始時刻からの経過時間が「100230msec」になった時点で操作部位が「インターネットオプションwindow−全般タブ画面」に切り替えられたことを示す。
区間推定部180は、手順説明語句に関する音声区間を推定する。区間推定部180は、補足語句が未抽出である音声データのコールIDを対象に、音声データに含まれるオペレータの発話を時系列に追従することにより、その音声データに含まれる手順説明語句に関する音声区間の開始時刻及び終了時刻を推定する。
この区間推定部180は、手順説明語句に関する音声区間を推定するに際して、音声認識部160による認識キーワードリストを用いて、回答事項に含まれる1つの手順が説明された手順対応区間を推定する。その上で、区間推定部180は、操作時間取得部170によって取得された操作時間を用いて、手順説明語句の対応区間を推定する。なお、ここでは、(1)手順対応区間の推定を説明してから、(2)手順説明語句の対応区間の推定を説明する。
(1)手順対応区間の推定
ここでは、区間推定部180による手順対応区間の推定を説明する。区間推定部180は、音声認識部160によって出力された認識キーワードリスト及び発話区間抽出部155によって出力されたオペレータの発話区間情報を用いて、QA事例の回答事項に含まれる手順ごとにその手順に関する説明の開始時刻を推定する。つまり、区間推定部180は、手順説明語句が出現した時点をその手順説明語句が含まれる手順の説明が開始された時点と推定する。
これを順を追って説明すると、区間推定部180は、認識キーワードリストから事例手順ID及び出現時刻(図9参照)を取得するとともに、その出現時刻が含まれるオペレータの発話区間情報(図7参照)を取得する。
このとき、区間推定部180は、認識キーワードリストから事例手順ID及び出現時刻を最初に取得した場合には、出現時刻を含む発話区間の開始時刻を、その事例手順IDに対応する音声区間の開始時刻として推定する。例えば、図7及び図9に示す例で言えば、区間推定部180は、図9に示す認識キーワードリストから事例手順ID「QA123−1」及び出現時刻「10550msec」を最初に取得する。このため、区間推定部180は、この出現時刻「10550msec」を発話区間に含む発話の開始時刻「10msec」(図7参照)を事例手順ID「QA123−1」に対応する音声区間の開始時刻とそのまま推定する。
また、区間推定部180は、認識キーワードリストから取得する事例手順ID及び出現時刻が最初でない場合には、今回に取得する事例手順IDが前回に取得した事例手順IDと同一であるか否かを判定する。このとき、区間推定部180は、今回に取得した事例手順IDが前回に取得した事例手順IDと同じである場合には、同じ事例手順IDの説明が継続しているものとみなし、認識キーワードリストから次の事例手順ID及び出現時刻を取得する。例えば、図7及び図9に示す例で言えば、区間推定部180は、図9に示す認識キーワードリストにおける上から1番目から3番目の事例手順ID及び出現時刻を取得し終えるまでは、事例手順ID「QA123−1」の説明が継続しているとみなす。
一方、区間推定部180は、今回に取得した事例手順IDが前回に取得した事例手順IDと異なる場合には、今回に取得した出現時刻を含む発話区間の開始時刻を、今回に取得した事例手順IDに対応する音声区間の開始時刻として推定する。例えば、区間推定部180は、図9に示す認識キーワードリストから事例手順ID「QA123−2」及び出現時刻「110300msec」を取得した場合に、次の手順の発話に移ったものとみなす。つまり、区間推定部180は、事例手順ID「QA123−1」の説明が終了して事例手順ID「QA123−2」が開始されたものとみなす。なお、この場合には、事例手順ID「QA123−2」に対応する音声区間の開始時刻とみなすので、この開始時刻が事例手順ID「QA123−1」に対応する音声区間の終了時刻と仮に推定されることになる。
このように、区間推定部180は、1つのコールIDの音声データの音声認識結果として得られた認識キーワードリストのレコード全てに上述の処理を行うことにより、手順対応区間の推定結果を得る。つまり、区間推定部180は、1つのコールIDの音声データを手順説明語句の出現時刻で区切ることにより、回答事項に含まれる1つの手順が説明されている区間ごとに区切る処理を行う。なお、ここでは、手順説明語句の出現時刻で区切っただけであり、実際の音声区間の終了時刻が次の手順説明の開始時刻とは限らない。
図11は、手順対応区間の推定結果の一例を示す図である。例えば、図11に示すように、手順対応区間の推定結果は、コールIDごとに事例手順ID、手順対応区間の開始時刻[msec]及び終了時刻[msec]が対応付けられた情報である。図11に示す例で言えば、事例手順ID「QA123−1」に関する対話が開始時刻「10」から終了時刻「131050」まで行われたことを示す。また、事例手順ID「QA123−2」に関する対話が開始時刻「131050」から終了時刻「・・・」まで行われたことを示す。なお、ここでは、コール「call 001」に関する手順対応区間だけを例示したが、補足語句が未抽出である音声データのコールIDすべてに同様の処理が行われる。
(2)手順説明語句の対応区間の推定
次に、区間推定部180による手順説明語句の対応区間の推定を説明する。区間推定部180は、操作時間取得部170によって出力された操作時間リストを用いて、手順説明語句の対応区間を推定する。なお、区間推定部180は、QA事例の回答事項に含まれる1つの手順を処理単位とし、先に推定した手順対応区間全てに対して手順説明語句の対応区間を推定し終えるまで繰り返し処理を行う。
この点を順を追って説明すると、区間推定部180は、先に推定した手順対応区間の開始時刻と終了時刻を取得する。その後、区間推定部180は、操作時間取得部170によって出力された操作時間リストのうち、操作時間(録音開始時刻からの経過時間)が最も短い操作時間から順に操作時間及び切替後の操作部位を取得する。そして、区間推定部180は、切替後の操作部位との間で対応関係を有する手順説明語句を対応関係記憶部125から抽出する。
さらに、区間推定部180は、オペレータの発話区間情報を参照して、切替操作が行われた操作時間に対応するオペレータの発話(N)を取得するとともに取得したオペレータの発話の次のオペレータの発話(N+1)を取得する。ここで、区間推定部180は、操作時間を含むオペレータの発話が存在する場合には、そのオペレータの発話(N)を取得するとともに、取得したオペレータの発話の次のオペレータの発話(N+1)を取得する。一方、区間推定部180は、操作時間を含むオペレータの発話が存在しない場合には、その直後のオペレータの発話(N)を取得するとともに、取得したオペレータの発話の次のオペレータの発話(N+1)を取得する。
このとき、区間推定部180は、次のオペレータの発話区間(N+1の発話区間)が所定の期間よりも長い場合には、次のオペレータの発話(N+1)の開始時刻を手順説明語句に関する音声区間の終了時刻と推定する。また、次のオペレータの発話区間(N+1の発話区間)が所定の期間よりも短い場合には、次々回のオペレータの発話(N+2)を取得し、次々回のオペレータの発話(N+2)が所定の期間よりも短いか否かをさらに判定する。このようにして、区間推定部180は、所定の期間より長いオペレータの発話が見つかるまでオペレータの発話をサーチする。なお、ここで言う所定期間は、オペレータが顧客の発話に対して「はい」や「うん」などの応答発話を行う期間として予想される期間をコールセンタ関係者が任意に設定することができる。
このように、区間推定部180は、操作時間取得部170によって出力された操作時間リストレコード全てに上述の処理を行うことにより、手順説明語句の対応区間の推定結果を得る。つまり、区間推定部180は、操作部位が切り替えられた操作時間を用いて、先に推定した手順対応区間の中を手順説明語句の対応区間で区切る。
図12は、手順説明語句の対応区間の推定結果の一例を示す図である。例えば、図12に示すように、手順説明語句の対応区間の推定結果は、コールIDごとに事例手順ID、手順説明語句及び終了時刻が対応付けられた情報である。図12に示す例では、事例手順ID「QA123−1」に含まれる手順説明語句「インターネットオプション」の対話が終了時刻「110280(msec)」に終了したことを示す。また、事例手順ID「QA123−1」に含まれる手順説明語句の対話が終了時刻「・・・(msec)」に終了したことを示す。
図2の説明に戻り、補足語句抽出部190は、区間推定部180により推定された手順説明語句の音声区間の推定結果と、発話区間抽出部155により抽出されたオペレータの発話区間情報とを用いて、手順説明語句を補足するための補足語句を抽出する。この補足語句抽出部190は、補足語句が未抽出であるコールIDの音声データであり、区間推定部180によって推定された手順説明語句の音声区間が存在する音声データのコールIDを補足語句の抽出対象とすることができる。
具体的に説明すると、補足語句抽出部190は、発話区間抽出部155により抽出されたオペレータの発話区間情報のうち、区間推定部180により推定された手順説明語句の音声区間に含まれるオペレータの発話の発話区間を取得する。例えば、図11及び図12に示す例で言えば、補足語句抽出部190は、手順説明語句「インターネットオプション」に関する音声区間「10(msec)」〜「110280(msec)」に含まれるオペレータの各発話の発話区間を取得する。
その上で、補足語句抽出部190は、先に取得したオペレータの発話の発話区間の音声データを補足語句の抽出範囲とし、その補足語句の抽出範囲の音声データに音声認識を行って補足語句を抽出する。例えば、音声データから補足語句となり得る語句を抽出する音素認識技術としては、韻律データから未知語を検索して抽出する技術やその他の公知の技術を任意に選択して使用できる。また、補足語句となり得る語句から補足語句とする語句を抽出する技術としては、特開2008−33835号公報に開示される技術やその他の公知の技術を任意に選択して使用できる。
その後、補足語句抽出部190は、このようにして抽出した補足語句をその補足語句の抽出範囲を定めるのに使用した音声区間の手順説明語句及びその事例手順IDに対応付けることにより、補足語句リストを生成する。
図13は、補足語句リストの一例を示す図である。例えば、図13に示すように、補足語句リストは、事例手順IDごとに手順説明語句及び補足語句を対応付けられた情報である。図13に示す例で言えば、事例手順ID「QA123−1」の手順説明語句「インターネットオプション」として補足語句「メニューバー」が対応付けたことを示す。また、手順ID「QA123−1」の手順説明語句「インターネットオプション」として補足語句「2番目」が対応付けられたことを示す。また、手順ID「QA123−1」の手順説明語句「接続タブ」として補足語句「1番上」が対応付けられたことを示す。また、手順ID「QA123−2」の手順説明語句「LAN」として補足語句「1番下」が対応付けられたことを示す。
なお、図2に示したオペレータ支援装置100は、上記の韻律情報抽出部150、発話区間抽出部155、音声認識部160、操作時間取得部170、区間推定部180及び補足語句抽出部190の各機能を情報処理装置に搭載することで実現することもできる。この情報処理装置としては、既知のパーソナルコンピュータ、ワークステーション、ASP(Application Service Provider)サーバ装置、携帯電話、PHS端末、移動体通信端末またはPDAなどが挙げられる。
また、PC操作ログ記憶部110、事例データ記憶部120、対応関係記憶部125及び音声データ記憶部130は、以下に示すような記憶装置である。例えば、記憶装置とは、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、ハードディスクや光ディスクなどである。また、対応関係設定部140、韻律情報抽出部150、発話区間抽出部155、音声認識部160、操作時間取得部170、区間推定部180及び補足語句抽出部190は、集積回路や電子回路により実現される。集積回路としては、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などを適用できる。また、電子回路としては、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などを適用できる。
[オペレータ支援装置による処理]
次に、本実施例に係るオペレータ支援装置の処理の流れを説明する。なお、ここでは、(1)オペレータ支援装置100における処理の流れを説明しながら、区間推定部180によって行われる(2)手順対応区間の推定処理を説明し、(3)手順説明語句の対応区間の推定処理を説明する。その後、(1)オペレータ支援装置100における処理の流れを説明しながら、補足語句抽出部190によって行われる(4)補足語句抽出処理を説明する。
(1)オペレータ支援装置における処理の流れ
図14を用いて、本実施例に係るオペレータ支援装置における処理の流れについて説明する。図14は、実施例2に係るオペレータ支援装置における処理の流れを示すフローチャートである。なお、オペレータ支援装置100は、音声データ記憶部130に記憶された応対履歴リストに補足語句が未抽出であるコールID及び事例IDが存在する場合に処理を起動する。
図14に示すように、オペレータ支援装置100は、補足語句が未抽出であるコールIDの音声データを対象に、ステップS101A〜S104Aの音声データ系の処理と、ステップS101B〜S102Bの操作履歴系の処理とを並列して行うことができる。
音声データ系の処理について説明すると、韻律情報抽出部150は、音声データ記憶部130に記憶された音声データからオペレータの韻律データリスト(図5参照)を生成する(ステップS101A)。そして、発話区間抽出部155は、韻律情報抽出部150より抽出されたオペレータの韻律データリストから発話区間情報(図7参照)を生成する(ステップS102A)。その後、音声認識部160は、音声データ記憶部130に記憶された音声データに音声認識を行って手順説明語句の出現時刻を含む認識キーワードリスト(図9参照)を生成する(ステップS103A)。なお、ここでは、韻律情報の抽出、発話区間の抽出を行った後に音声認識を行う場合を説明したが、音声認識については、韻律情報の抽出及び発話区間の抽出と並列して行うこともできる。
このようにしてステップS101A〜S103Aの音声データ系の処理が終了した後に、区間推定部180は、発話区間情報及び認識キーワードリストを用いて、音声区間の開始時刻を推定する処理を行う(ステップS104A)。
(2)手順対応区間の推定処理
ここで、図15を用いて、図14のステップS104Aで示した手順対応区間の推定処理について説明する。図15は、実施例2に係る手順対応区間の推定処理の手順を示すフローチャートである。
図15に示すように、区間推定部180は、認識キーワードリストから事例手順ID及び出現時刻を順次取得する(ステップS201)。そして、区間推定部180は、認識キーワードリストから取得した出現時刻を含むオペレータの発話の発話区間情報を取得する(ステップS202)。
このとき、区間推定部180は、今回に取得する事例手順IDが前回に取得した事例手順IDと同一であるか否かを判定する(ステップS203)。そして、今回及び前回の事例手順IDが同じである場合(ステップS203No)には、区間推定部180は、今回に取得した出現時刻を含む発話区間の開始時刻を、今回に取得した事例手順IDに対応する手順対応区間の開始時刻として推定する(ステップS204)。なお、認識キーワードリストから事例手順ID及び出現時刻を最初に取得した場合にも、区間推定部180は、出現時刻を含む発話区間の開始時刻を、その事例手順IDに対応する手順対応区間の開始時刻として推定する。また、今回及び前回の事例手順IDが同じである場合にだけ、出現時刻を含むオペレータの発話の発話区間情報を取得するステップS202の処理を行うこととしてもかまわない。
一方、今回及び前回の事例手順IDが同じである場合(ステップS203Yes)には、区間推定部180は、同じ事例手順IDの説明が継続しているものとみなし、手順対応い区間の開始時刻を推定することなく、ステップS205へ移行する。
そして、区間推定部180は、認識キーワードリストとして登録された全てのレコードに対して上記のステップS201〜ステップS204までの処理を行うまで(ステップS205No)、上記のステップS201〜ステップS204までの処理を繰り返し行う。その後、認識キーワードリストとして登録された全てのレコードに対する処理が終了すると(ステップS205Yes)、区間推定部180は、手順対応区間の推定を終了する。
図14の説明に戻り、音声データ系の処理を行う一方で、操作時間取得部170は、補足語句が未抽出であるコールIDの音声データの録音区間をPC操作ログの切出し範囲とし、PC操作ログ記憶部110から操作時間リストを生成する(ステップS101B)。
このようにしてステップS101A〜S104A及びステップS101Bが終了した後に、区間推定部180は、操作時間リストを用いて、手順説明語句の対応区間を推定する処理を行う(ステップS105)。
(3)手順説明語句の対応区間の推定処理
ここで、図16を用いて、図14のステップS105で示した手順説明語句の対応区間の推定処理について説明する。図16は、実施例2に係る手順説明語句の対応区間の推定処理の手順を示すフローチャートである。なお、区間推定部180は、QA事例の回答事項に含まれる1つの手順を処理単位として以下の処理を実行するものとし、ステップS104Aで推定された手順対応区間を全て処理するまで繰り返し処理を実行する。
図16に示すように、区間推定部180は、先の手順対応区間の推定で得た手順対応区間の開始時刻と終了時刻を取得する(ステップS301)。その後、区間推定部180は、操作時間取得部170によって出力された操作時間リストのうち、操作時間(録音開始時刻からの経過時間)が最も短い操作時間から順に操作時間及び切替後の操作部位を取得する(ステップS302)。
そして、区間推定部180は、切替後の操作部位との間で対応関係を有する手順説明語句を対応関係記憶部125から抽出する(ステップS303)。このとき、手順説明語句が抽出された場合(ステップS304Yes)には、区間推定部180は、オペレータの発話区間情報を参照して、切替操作が行われた操作時間に対応するオペレータの発話(N)を取得する(ステップS305)。さらに、区間推定部180は、取得したオペレータの発話の次のオペレータの発話(N+1)を取得する(ステップS306)。なお、ステップS305では、操作時間を含むオペレータの発話が存在する場合には、そのオペレータの発話(N)を取得し、また、操作時間を含むオペレータの発話が存在しない場合には、その直後のオペレータの発話(N)を取得する。
このとき、次のオペレータの発話区間(N+1の発話区間)が所定の期間よりも長い場合(ステップS307Yes)には、区間推定部180は、次のオペレータの発話(N+1)の開始時刻を手順説明語句の音声区間の終了時刻と推定する(ステップS308)。
一方、次のオペレータの発話区間(N+1の発話区間)が所定の期間よりも短い場合(ステップS307No)には、区間推定部180は、次々回のオペレータの発話(N+2)を取得する(ステップS306)。そして、区間推定部180は、次々回のオペレータの発話(N+2)が所定の期間よりも短いか否かをさらに判定する。このようにして、区間推定部180は、所定の期間より長いオペレータの発話が見つかるまで(ステップS307Yes)オペレータの発話をサーチする。
また、手順説明語句が抽出されなければ(ステップS304No)、区間推定部180は、切替後の操作部位の遷移が手順説明語句に関係のない操作部位であるため、手順説明語句の対応区間を推定することなく、ステップS309へ移行する。
そして、操作時間リストとして登録された全てのレコードに対して上記のステップS302〜ステップS308までの処理を行うまで(ステップS309No)、上記のステップS302〜ステップS308までの処理を繰り返し行う。
その後、操作時間リストとして登録された全てのレコードに対する処理が終了すると(ステップS309Yes)、区間推定部180は、手順説明語句に関する対応区間の推定結果を補足語句抽出部190へ出力する(ステップS310)。なお、上記のステップS301〜ステップS310の処理は、全ての手順対応区間に対して処理が行われるまで繰り返し行われる。
図14の説明に戻り、補足語句抽出部190は、区間推定部180により推定された手順説明語句の音声区間の推定結果と、発話区間抽出部155により抽出されたオペレータの発話区間情報とを用いて、補足語句を抽出する(ステップS106)。
(4)補足語句抽出処理
ここで、図17を用いて、図14のステップS106で示した手順説明語句の対応区間の推定処理について説明する。図17は、実施例2に係る補足語句抽出処理の手順を示すフローチャートである。なお、補足語句抽出部190は、1つの音声区間の推定結果を処理単位として以下の処理を実行するものとし、ステップS105で推定された音声区間の推定結果を全て処理するまで繰り返し処理を実行する。
図17に示すように、補足語句抽出部190は、発話区間抽出部155により抽出されたオペレータの発話区間情報のうち、区間推定部180により推定された手順説明語句の音声区間に含まれるオペレータの発話の発話区間を取得する(ステップS401)。
そして、補足語句抽出部190は、先に取得したオペレータの発話の発話区間の音声データを補足語句の抽出範囲とし、その補足語句の抽出範囲の音声データに音声認識を行って補足語句を抽出する(ステップS402)。
その後、補足語句抽出部190は、このようにして抽出した補足語句をその補足語句の抽出範囲を定めるのに使用した音声区間の手順説明語句及びその事例手順IDに対応付けることにより、補足語句リストを生成する(ステップS403)。なお、上記のステップS401〜ステップS403の処理は、全ての音声区間の推定結果に対して処理が行われるまで繰り返し行われる。
[補足語句の抽出例]
上述してきたオペレータ支援装置100が音声データから補足語句を抽出する例について、図18及び図19を用いて説明する。図18及び図19は、実施例2に係る補足語句の抽出例を説明するための説明図である。図18及び図19の例では、コールセンタでPCの操作に関する問合せを受け付ける場合を想定する。これら図18及び図19は、いずれも顧客からの問合せ事項「ブラウザの設定方法を教えて」に対して、手順「インターネットオプションの接続タブを開く」を説明する対話の一例を示す。このうち、図18の例では、インターネットオプションが中心となる対話に分岐した場合の対話を示す。また、図19の例では、接続タブが中心となる対話に分岐した場合の対話を示す。
また、図18及び図19における横軸は、時間軸を指し、右方向に進むにしたがって時間が経過することを示す。また、図中の「u」は、「utterance」の略記であり、「u1」から「u12」までのブロックはオペレータ又は顧客の発話を示し、これらブロックの横方向の大きさは発話区間の長さを示す。また、時間軸の上下のブロックのうち横軸の上方に図示するブロックは顧客の発話を示し、横軸の下方に図示するブロックはオペレータの発話を示すものとする。また、図18及び図19の時間軸の下方の「操作部位」には、PC操作ログから取得された切替後の操作部位を示し、矢印が示す範囲の横方向の大きさは操作部位が操作の対象となった時間の長さを示す。また、図18及び図19の時間軸のさらに下方の「対応区間」には、区間推定部180により推定された手順説明語句に関する音声区間を示し、矢印が示す範囲の横方向の大きさは推定された手順説明語句に関する音声区間の長さを示す。
図18に示す例では、以下の会話が行われたものとする。オペレータは「では、インターネットオプションの接続タブを開いて下さい」(u1)と発話する。顧客は「何それ?」(u2)と発話する。オペレータは「メニューバーの右から二番目の・・・」(u3)と発話する。顧客は「メニューバー?」(u4)と発話する。オペレータは「一番上に、ファイル、編集などと並んでいる・・・」(u5)と発話する。顧客は「あ、はいはい」(u6)と発話する。オペレータは「その右から二番目に、ツールとあるのでクリックして下さい」(u7)と発話する。顧客は「二番目・・・はい」(u8)と発話する。オペレータは「すると、一番下にインターネットオプションというのがあります」(u9)と発話する。顧客は「あ、これね」(u10)と発話する。オペレータは「はい」(u’)と発話する。オペレータは「そこの接続タブを選択して下さい」(u11)と発話する。オペレータは「次に、LANの設定を開いて下さい」(u12)と発話する。
また、図18に示す例では、u1からu12までの対話を含む音声データの中から、以下の手順説明語句が抽出されるものとする。u1の発話から「インターネットオプション」及び「接続タブ」が手順説明語句として抽出される。u9の発話から「インターネットオプション」が手順説明語句として抽出される。u11の発話から「接続タブ」が手順説明語句として抽出される。u12の発話から「LAN」が手順説明語句として抽出される。
また、図18に示す例では、時間経過に伴って操作部位が「接続タブ」、「ブラウザウィンドウ」、「インターネットオプション」、「接続タブ」の順に切り替えられたことを示す。また、図18に示す例では、時刻t1はu3の発話開始時刻を指し、時刻t2はインターネットオプション画面に遷移した時刻を指し、時刻t3はu11の発話開始時刻を指し、また、時刻t4はu12の発話開始時刻を指す。
図18に示す例を用いて、手順説明語句「インターネットオプション」に関する音声区間を推定する場合の推定要領を説明する。まず、オペレータ支援装置100は、操作部位が「ブラウザウィンドウ」から「インターネットオプション」へ変化した時刻「t2」を取得する。そして、オペレータ支援装置100は、「t2」を含むオペレータの発話、すなわち「u9」を取得する。そして、オペレータ支援装置100は、さらに次のオペレータの発話、すなわち「u’」を取得する。ここで、オペレータ支援装置100は、取得した発話の期間が所定の期間よりも短い場合には、さらに次の発話を取得する。これは、次の音声区間の開始時刻が相槌などの意味の無い発話から始まることを防止するためである。ここで、「u’」が所定の期間より短いと仮定すると、オペレータ支援装置100は、次の発話「u11」を取得する。ここで、「u11」は所定の期間より長いものとする。そして、オペレータ支援装置100は、「u11」の開始時刻、すなわち「t3」を取得して、手順説明語句「インターネットオプション」の説明に関する音声区間の終了時刻として推定する。このようにして、オペレータ支援装置100は、「インターネットオプション」の説明に関する音声区間を「t1からt3まで」と推定する。
図19に示す例では、以下の会話が行われたものとする。オペレータは「では、インターネットオプションの接続タブを開いて下さい」(u1)と発話する。顧客は「接続タブって何?」(u2)と発話する。オペレータは「インターネットオプションは開きましたか?」(u3)と発話する。顧客は「開いたよ」(u4)と発話する。オペレータは「一番上に、全般、セキュリティなどと並んでいる・・・」(u5)と発話する。顧客は「あ、これか」(u6)と発話する。オペレータは「はい、そこの接続タブを開いてください」(u7)と発話する。顧客は「はい」(u8)と発話する。オペレータは「次に、LANの設定を開いて下さい」(u9)と発話する。
また、図19に示す例では、u1からu9までの対話を含む音声データの中から、以下の手順説明語句が抽出されるものとする。u1の発話から「インターネットオプション」及び「接続タブ」が手順説明語句として抽出される。u3の発話から「インターネットオプション」が手順説明語句として抽出される。u7の発話から「接続タブ」が手順説明語句として抽出される。u9の発話から「LAN」が手順説明語句として抽出される。
また、図19に示す例では、時間経過に伴って操作部位が「接続タブ」、「インターネットオプション」、「接続タブ」の順に切り替えられたことを示す。また、図19に示す例には、時刻t1はu5の発話開始時刻を指し、時刻t2は接続タブ画面に遷移した時刻を指し、時刻t3はu9の発話開始時刻を指す。
図19に示す例を用いて、手順説明語句「接続タブ」に関する音声区間を推定する場合の推定要領を説明する。まず、オペレータ支援装置100は、操作部位が「インターネットオプション」から「接続タブ」へ変化した時刻「t2」を取得する。そして、オペレータ支援装置100は、時刻「t2」を含むオペレータの発話の取得を試みるが、対応する発話が存在しない場合には、さらに次の発話「u7」を取得する。そして、オペレータ支援装置100は、さらに次のオペレータの発話「u9」を取得する。ここで、「u9」は所定の期間より長いと仮定する。そして、オペレータ支援装置100は、「u9」の開始時刻「t3」を取得して、手順説明語句「接続タブ」の説明に関する音声区間の終了時刻として推定する。このように、「u7」における発話の終了時刻ではなく次の発話「u9」の開始時刻を終端とするのは、次の音声区間の開始時刻が無音区間から開始されてしまうことを防止するためである。このようにして、オペレータ支援装置100は、「接続タブ」の説明に関する音声区間を「t1からt3まで」と推定する。
[実施例2による効果]
上述してきたように、実施例2に係るオペレータ支援装置100は、画面に表示される操作部位のうち所定の操作部位の操作によって遷移した画面に関係する手順説明語句を抽出する。また、所定の操作部位を操作した時刻より以降に発話が開始された時刻を抽出し、抽出した時刻に至るまでの音声区間を、抽出した手順説明語句の説明に関係する音声区間として推定する。このため、オペレータ支援装置100は、手順説明語句に対応した補足語句を適切に抽出することができる。
また、実施例2に係るオペレータ支援装置100によれば、相槌などの意味の無い発話を手順説明語句の音声区間の末尾に含めることができ、次に推定する手順説明語句の音声区間の開始時刻を実質的な手順説明語句の説明から開始させることが可能になる。
なお、本実施例に係るオペレータ支援装置100では、区間推定部180によって推定された音声区間を用いて補足語句を抽出する場合を説明したが、開示の装置の構成がこれに限定されるものではない。例えば、区間推定部180によって推定された音声区間の長さは、1つの手順に要した所要時間と等価である。このため、応対業務の所要時間を統計する場合には、本実施例に係るオペレータ支援装置100では、従来のように1つの応対業務の単位で統計するのではなく応対業務を回答事項の手順単位に細分化し、手順単位で所要時間を統計することが可能となる。さらに、本実施例に係るオペレータ支援装置100では、区間推定部180によって推定された音声区間の長さをオペレータのスキルの推定・評価をはじめ、マニュアルとするQA事例の見直しなどにも使用することもできる。この結果、本実施例に係るオペレータ支援装置100によれば、オペレータによる応対業務の改善方針を分析することも可能になる。
さて、これまで開示の装置に関する実施例について説明したが、開示の装置は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、開示の装置に含まれる他の実施例を説明する。
(1)PCの操作説明以外への適用
上記の実施例2では、PC操作に関する問合せを受け付けるコールセンタでの応対を想定して説明したが、本願の開示する技術はこれに限定されない。例えば、所定の機器やソフトウェアに関する問合せをコールセンタで受け付け、その機器やソフトウェアを操作して操作ログを残しつつ回答できる場合には、本願の開示する技術を同様に適用できる。
(2)装置構成等
また、図2に示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、例えば、韻律情報抽出部150、発話区間抽出部155の各機能を集約して統合できる。また、対応関係設定部140、韻律情報抽出部150、発話区間抽出部155、音声認識部160、操作時間取得部170、区間推定部180又は補足語句抽出部190の一部又は全部をオペレータ支援装置の外部装置としてネットワーク経由で接続してもよい。また、対応関係設定部140、韻律情報抽出部150、発話区間抽出部155、音声認識部160、操作時間取得部170、区間推定部180又は補足語句抽出部190の一部又は全部を別の装置が有する構成を採用する。その上で、別の装置がネットワーク接続されて協働することで、上記のオペレータ支援装置100の機能を実現するようにしてもよい。また、PC操作ログ記憶部110、事例データ記憶部120、対応関係記憶部125、音声データ記憶部130の一部又は全部を別の装置がそれぞれ有する構成を採用する。その上で、別の装置がネットワーク接続されて協働することで、上記のオペレータ支援装置100の機能を実現するようにしてもかまわない。
(3)オペレータ支援プログラム
また、上記の実施例で説明したオペレータ支援装置100の各種の処理(例えば、図14参照)は、あらかじめ用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータシステムで実行することによって実現することもできる。そこで、以下では、図20を用いて、上記の実施例で説明したオペレータ支援装置と同様の機能を有するオペレータ支援プログラムを実行するコンピュータの一例を説明する。図20は、オペレータ支援プログラムを実行するコンピュータを示す図である。
図20に示すように、オペレータ支援装置としてコンピュータ200は、通信制御部210、HDD220、RAM230及びCPU240をバス300で接続して構成される。
ここで、通信制御部210は、各種情報のやり取りに関する通信を制御する。HDD220は、CPU240による各種処理の実行に必要な情報を記憶する。RAM230は、各種情報を一時的に記憶する。CPU240は、各種演算処理を実行する。
そして、HDD220には、図20に示すように、上記の実施例で説明したオペレータ支援装置100の各処理部と同様の機能を発揮するオペレータ支援プログラム221と、オペレータ支援用データ222とがあらかじめ記憶されている。なお、このオペレータ支援プログラム221を適宜分散させて、ネットワークを介して通信可能に接続された他のコンピュータの記憶部に記憶させておくこともできる。
そして、CPU240が、このオペレータ支援プログラム221をHDD220から読み出してRAM230に展開することにより、図20に示すように、オペレータ支援プログラム221はオペレータ支援プロセス231として機能するようになる。
すなわち、オペレータ支援プロセス231は、オペレータ支援用データ222等をHDD220から読み出して、RAM230において自身に割り当てられた領域に展開し、この展開したデータ等に基づいて各種処理を実行する。
なお、オペレータ支援プロセス231は、例えば、図2に示したオペレータ支援装置100の対応関係設定部140、韻律情報抽出部150、発話区間抽出部情報155、音声認識部160及び操作時間取得部170において実行される処理に対応する。また、オペレータ支援プロセス231は、例えば、図2に示したオペレータ支援装置100の区間推定部180及び補足語句抽出部190において実行される処理に対応する。
なお、上記したオペレータ支援プログラム221については、必ずしも最初からHDD220に記憶させておく必要はない。例えば、コンピュータ200に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ200がこれらから各プログラムを読み出して実行するようにしてもよい。
さらには、公衆回線、インターネット、LAN、WANなどを介してコンピュータ200に接続される「他のコンピュータ(またはサーバ)」などに各プログラムを記憶させておく。そして、コンピュータ200がこれらから各プログラムを読み出して実行するようにしてもよい。
1 オペレータ支援装置
2 記憶部
3 操作時間取得部
4 区間推定部
5 補足語句抽出部
100 オペレータ支援装置
110 PC操作ログ記憶部
120 事例データ記憶部
125 対応関係記憶部
130 音声データ記憶部
140 対応関係設定部
150 韻律情報抽出部
155 発話区間抽出部
160 音声認識部
170 操作時間取得部
180 区間推定部
190 補足語句抽出部

Claims (3)

  1. 所定の手順を説明するための語句である手順説明語句と、端末に表示される操作部位のうち該手順説明語句に関係して操作される操作部位とを対応付けて記憶する対応関係記憶部と、
    操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から、前記端末に表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する操作時間取得部と、
    前記対応関係記憶部から前記所定の操作部位から切り替えられた操作部位に関係する手順説明語句を抽出するとともに、音声記録から、前記操作時間取得部によって取得された操作時間より以降に発話が開始された時点を抽出し、該手順説明語句が出現した発話区間から当該抽出した時点の発話区間の次に現れる、予め定めた期間よりも長い発話区間の開始時刻に至るまでの音声区間を、前記対応関係記憶部から抽出した手順説明語句に関する音声区間として推定する区間推定部と、
    前記音声記録のうち前記区間推定部によって推定された音声区間から、前記手順説明語句を補足するための語句である補足語句を抽出する補足語句抽出部と
    を有することを特徴とするオペレータ支援装置。
  2. コンピュータに、
    操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から、端末に表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する操作時間取得手順と、
    所定の手順を説明するための語句である手順説明語句と、前記端末に表示される操作部位のうち該手順説明語句に関係して操作される操作部位とを対応付けて記憶する対応関係記憶部から、前記所定の操作部位から切り替えられた操作部位に関係する手順説明語句を抽出するとともに、音声記録から、前記操作時間取得手順によって取得された操作時間より以降に発話が開始された時点を抽出し、該手順説明語句が出現した発話区間から当該抽出した時点の発話区間の次に現れる、予め定めた期間よりも長い発話区間の開始時刻に至るまでの音声区間を、前記対応関係記憶部から抽出した手順説明語句に関する音声区間として推定する区間推定手順と、
    前記音声記録のうち前記区間推定手順によって推定された音声区間から、前記手順説明語句を補足するための語句である補足語句を抽出する補足語句抽出手順と
    を実行させることを特徴とするオペレータ支援プログラム。
  3. コンピュータが、
    操作部位が他の操作部位に切替操作された切替操作時刻ごとにその時刻から操作対象となった操作部位を対応付けて記憶するPC操作ログ記憶部から、端末に表示される操作部位のうち所定の操作部位を切り替える操作が行われた時点を示す操作時間を取得する操作時間取得ステップと、
    所定の手順を説明するための語句である手順説明語句と、前記端末に表示される操作部位のうち該手順説明語句に関係して操作される操作部位とを対応付けて記憶する対応関係記憶部から、前記所定の操作部位から切り替えられた操作部位に関係する手順説明語句を抽出するとともに、音声記録から、前記操作時間取得ステップによって取得された操作時間より以降に発話が開始された時点を抽出し、該手順説明語句が出現した発話区間から当該抽出した時点の発話区間の次に現れる、予め定めた期間よりも長い発話区間の開始時刻に至るまでの音声区間を、前記対応関係記憶部から抽出した手順説明語句に関する音声区間として推定する区間推定ステップと、
    前記音声記録のうち前記区間推定ステップによって推定された音声区間から、前記手順説明語句を補足するための語句である補足語句を抽出する補足語句抽出ステップと
    を実行することを特徴とするオペレータ支援方法。
JP2009268945A 2009-11-26 2009-11-26 オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法 Expired - Fee Related JP5333175B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009268945A JP5333175B2 (ja) 2009-11-26 2009-11-26 オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009268945A JP5333175B2 (ja) 2009-11-26 2009-11-26 オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法

Publications (2)

Publication Number Publication Date
JP2011112854A true JP2011112854A (ja) 2011-06-09
JP5333175B2 JP5333175B2 (ja) 2013-11-06

Family

ID=44235229

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009268945A Expired - Fee Related JP5333175B2 (ja) 2009-11-26 2009-11-26 オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法

Country Status (1)

Country Link
JP (1) JP5333175B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011503340A (ja) * 2007-11-20 2011-01-27 ヘンケル・アクチェンゲゼルシャフト・ウント・コムパニー・コマンディットゲゼルシャフト・アウフ・アクチェン 低い硬化温度を有するレドックス誘導カチオン重合性組成物

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005293180A (ja) * 2004-03-31 2005-10-20 Fujitsu Ltd オペレータ支援プログラム,オペレータ支援システム,及び、オペレータ支援方法
JP2006276754A (ja) * 2005-03-30 2006-10-12 Mitsubishi Electric Information Systems Corp オペレータ業務支援システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005293180A (ja) * 2004-03-31 2005-10-20 Fujitsu Ltd オペレータ支援プログラム,オペレータ支援システム,及び、オペレータ支援方法
JP2006276754A (ja) * 2005-03-30 2006-10-12 Mitsubishi Electric Information Systems Corp オペレータ業務支援システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011503340A (ja) * 2007-11-20 2011-01-27 ヘンケル・アクチェンゲゼルシャフト・ウント・コムパニー・コマンディットゲゼルシャフト・アウフ・アクチェン 低い硬化温度を有するレドックス誘導カチオン重合性組成物

Also Published As

Publication number Publication date
JP5333175B2 (ja) 2013-11-06

Similar Documents

Publication Publication Date Title
US10489451B2 (en) Voice search system, voice search method, and computer-readable storage medium
CN104078044B (zh) 移动终端及其录音搜索的方法和装置
US7940915B2 (en) Apparatus and method for determining part of elicitation from spoken dialogue data
KR101131278B1 (ko) 대화 로그를 이용한 학습 기반 대화 시스템 성능 향상 방법 및 그 장치
US11379768B2 (en) Dialogue data collection system and dialogue data collection supporting apparatus
JP2015176099A (ja) 対話システム構築支援装置、方法、及びプログラム
CN110807093A (zh) 语音处理方法、装置及终端设备
KR101669339B1 (ko) 채팅 말뭉치 구축 방법 및 채팅 말뭉치 구축 시스템
JP2014513828A (ja) 自動会話支援
KR20200011198A (ko) 대화형 메시지 구현 방법, 장치 및 프로그램
CN112562682A (zh) 基于多人通话的身份识别方法、系统、设备及存储介质
JP6254504B2 (ja) 検索サーバ、及び検索方法
CN105869631B (zh) 语音预测的方法和装置
JP5333175B2 (ja) オペレータ支援装置、オペレータ支援プログラム及びオペレータ支援方法
JP2010134233A (ja) 対話選別プログラム、対話選別装置、および対話選別方法
CN110634480B (zh) 语音对话系统与模型创建装置及其方法
US10824520B2 (en) Restoring automated assistant sessions
JP6322125B2 (ja) 音声認識装置、音声認識方法および音声認識プログラム
CN108364654B (zh) 语音处理方法、介质、装置和计算设备
JP2016170248A (ja) 音声データ管理システム、音声データ管理方法および音声データ管理プログラム
JP4760452B2 (ja) 発話訓練装置、発話訓練システム、発話訓練支援方法およびプログラム
JP7125630B2 (ja) 要点抽出装置、要点抽出方法、及びプログラム
US7353175B2 (en) Apparatus, method, and program for speech synthesis with capability of providing word meaning immediately upon request by a user
JP2009282835A (ja) 音声検索装置及びその方法
JP2019109424A (ja) 計算機、言語解析方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120815

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130715

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees