JP7063844B2 - ロボット教示装置 - Google Patents

ロボット教示装置 Download PDF

Info

Publication number
JP7063844B2
JP7063844B2 JP2019086731A JP2019086731A JP7063844B2 JP 7063844 B2 JP7063844 B2 JP 7063844B2 JP 2019086731 A JP2019086731 A JP 2019086731A JP 2019086731 A JP2019086731 A JP 2019086731A JP 7063844 B2 JP7063844 B2 JP 7063844B2
Authority
JP
Japan
Prior art keywords
unit
voice
robot
recognition target
language
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019086731A
Other languages
English (en)
Other versions
JP2020182988A (ja
Inventor
哲平 星山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FANUC Corp
Original Assignee
FANUC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FANUC Corp filed Critical FANUC Corp
Priority to JP2019086731A priority Critical patent/JP7063844B2/ja
Priority to US16/839,298 priority patent/US20200338736A1/en
Priority to DE102020110614.9A priority patent/DE102020110614A1/de
Priority to CN202010321935.5A priority patent/CN111843986A/zh
Publication of JP2020182988A publication Critical patent/JP2020182988A/ja
Application granted granted Critical
Publication of JP7063844B2 publication Critical patent/JP7063844B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/003Controls for manipulators by means of an audio-responsive input
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/0005Manipulators having means for high-level communication with users, e.g. speech generator, face recognition means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/06Control stands, e.g. consoles, switchboards
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0081Programme-controlled manipulators with master teach-in means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • B25J9/161Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/42Recording and playback systems, i.e. in which the programme is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/06Foreign languages
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/005Language recognition
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Description

本発明は、ロボット教示装置に関する。
ロボットの動作プログラムは、教示装置をキー操作して作成・編集するのが一般的である。特許文献1及び特許文献2は、音声入力機能を有する教示装置の例を記載する。特許文献1には、「本発明の場合、操作者が所望の操作メニューを、前記音声入力有効スイッチ7を押し、前記音声入力部6に発話すると、前記音声認識処理部8で、前記音声入力部6で入力された音声信号が該当するテキストに変換され、前記記憶手段10dの登録メニューと比較され登録された当該操作メニュー画面が選択され、前記表示画面5cに表示される。」と記載されている(特許文献1、段落0009)。特許文献2は、「音声入力手段と、1以上の文字列を所定箇所に当て嵌めて1つの文章を完成させるための雛形を複数個記憶する手段と、前記雛形に当て嵌める複数の文字列候補を記憶する文字列候補記憶手段と、前記雛形に前記文字列候補を当て嵌めて完成した文章と、ロボットの教示プログラムで使用する指令との対応関係を記憶する対応関係記憶手段と、前記記憶された何れかの雛形に前記何れかの文字列候補を当て嵌めた文章の中に、前記音声入力手段から入力された文章と一致する文章があれば、該一致する文章を探し出すサーチ手段と、前記サーチ手段によって探し出された前記一致する文章を、前記対応関係記憶手段によって記憶されている対応関係に基づいて、ロボット指令に変換し、該ロボット指令を前記教示プログラムに挿入する手段とを備えたプログラム編集装置」を記載する(特許文献2、請求項1)。
特開2006-68865号公報 特開2005-18789号公報
教示装置を用いたロボットの教示では、オペレータがロボットの教示と並行して別の作業を遂行する場合がある。ロボットの教示におけるオペレータの負担をよりいっそう軽減することができるロボット教示装置が望まれている。
本開示の一態様は、ロボットの教示を行うためのロボット教示装置であって、表示装置と、音声を収集し音声信号を出力するマイクロホンと、前記音声信号から前記音声が表す1以上の単語を識別し該1以上の単語からなる文字データを出力する音声認識部と、ロボットの動作プログラムの編集画面を作成し前記表示装置に表示させるプログラム編集部と、前記動作プログラムの編集画面が前記表示装置に表示された状態において、前記音声認識部から出力される前記文字データが表す言葉を、前記動作プログラム中の指令に対してコメント文として付加するコメント入力部と、前記ロボットの教示に使用する複数種類の指令の各々と、認識対象語とを関連付けて記憶する対応関係記憶部と、付加された前記コメント文を新たな認識対象語とし、該新たな認識対象語と、前記動作プログラム中の前記コメント文が付加された前記指令とを関連付けて前記対応関係記憶部に追加する対応関係追加部と、前記文字データが表す言葉に前記対応関係記憶部に記憶された前記認識対象語が含まれるか否かを判別する認識対象語判別部と、前記文字データが表す言葉に含まれると判別された前記認識対象語に関連付けて前記対応関係記憶部に記憶された前記指令を実行するための信号を出力する指令実行信号出力部と、を備えるロボット教示装置である。また、本開示の別の態様は、ロボットの教示を行うためのロボット教示装置であって、表示装置と、音声を収集し音声信号を出力するマイクロホンと、前記音声信号から前記音声が表す1以上の単語を識別し該1以上の単語からなる文字データを出力する音声認識部と、ロボットの動作プログラムの編集画面を作成し前記表示装置に表示させるプログラム編集部と、前記動作プログラムの編集画面が前記表示装置に表示された状態において、前記音声認識部から出力される前記文字データが表す言葉を、前記動作プログラム中の指令に対してコメント文として付加するコメント入力部と、を備え、前記プログラム編集部は、前記音声認識部により識別された前記1以上の単語をファイル名として用いて動作プログラムのファイルを新規作成する動作プログラム作成部を備える、ロボット教示装置である。
上記構成によれば、オペレータは、ロボット教示装置を手動操作してロボットを教示するために両手がふさがっている状況でも、音声で動作プログラムへのコメント文の入力を行い可読性の高い動作プログラムを作成することができる。したがって、ロボットの教示におけるオペレータの負担が軽減される。
添付図面に示される本発明の典型的な実施形態の詳細な説明から、本発明のこれらの目的、特徴および利点ならびに他の目的、特徴および利点がさらに明確になるであろう。
一実施形態に係るロボット教示装置を含むロボットシステムの全体構成を表す図である。 ロボット教示装置の機能ブロック図である。 音声入力処理を表すフローチャートである。 動作プログラムの編集画面の例を示す図である。 言語切替処理を表すフローチャートである。 音声入力教示処理を表すフローチャートである。 音声入力された命令の実行許可を求めるメッセージ画像の例を示す。 音声が表す言葉が認識対象語に含まれる語を含むという関連性を有する場合の音声入力教示処理を表すフローチャートである。 図8の音声入力教示処理において表示装置に表示されるリストの一例としての選択画面を示す。 音声入力された音声が表す言葉が認識対象語と似た意味の言葉を含むという関連性を有する場合の音声入力教示処理を表すフローチャートである。 図10の音声入力教示処理において表示装置に表示されるリストの一例としての選択画面を示す。
次に、本開示の実施形態について図面を参照して説明する。参照する図面において、同様の構成部分または機能部分には同様の参照符号が付けられている。理解を容易にするために、これらの図面は縮尺を適宜変更している。また、図面に示される形態は本発明を実施するための一つの例であり、本発明は図示された形態に限定されるものではない。
図1は一実施形態に係るロボット教示装置30を含むロボットシステム100の全体構成を表す図である。図2は、ロボット教示装置30の機能ブロック図である。図1に示すように、ロボットシステム100は、ロボット10と、ロボット10を制御するロボット制御装置20と、ロボット制御装置20に接続されたロボット教示装置30とを備える。ロボット教示装置30には、音声を収集し音声信号を出力するマイクロホン40が有線又は無線により接続されている。一例として、図1では、マイクロホン40は、ロボット教示装置30を操作するオペレータOPが装着するヘッドセットタイプのマイクとして構成されている。なお、マイクロホン40は、ロボット教示装置30に内蔵されていても良い。
ロボット10は、例えば、垂直多関節ロボットである。ロボット10として他のタイプのロボットが用いられても良い。ロボット制御装置20は、ロボット教示装置30から入力される各種指令に応じてロボット10の動作を制御する。ロボット制御装置20は、CPU、ROM、RAM、記憶装置、表示部、操作部、外部機器インタフェース、ネットワークインタフェース等を有する一般的なコンピュータとしての構成を有していても良い。ロボット教示装置30は、例えば、教示操作盤、或いはタブレット端末等の携帯型情報端末である。ロボット教示装置30は、CPU、ROM、RAM、記憶装置、表示部、操作部、外部機器インタフェース、ネットワークインタフェース等を有する一般的なコンピュータとしての構成を有していても良い。
ロボット教示装置30は、表示装置31と操作部32とを備える。操作部32には、教示入力のためのハードキー(ハードウェアキー)302が配置されている。表示装置31は、タッチパネルを有し、表示装置31の表示画面上にはソフトキー301が配置されている。オペレータOPは、操作キー(ハードキー302及びソフトキー301)を操作してロボット10の教示或いは操作を行うことができる。図2に示すように、ロボット教示装置30は、マイクロホン40から入力される音声信号から音声が表す1以上の単語を識別し該1以上の単語からなる文字データを出力する音声認識部311と、ロボット10の動作プログラムの編集画面を作成し表示装置31に表示させるプログラム編集部312と、動作プログラムの編集画面が表示装置31に表示された状態において、音声認識部311から出力される文字データが表す言葉を、動作プログラム中の指令に対してコメント文として付加するコメント入力部313とを有する。この構成により、オペレータOPは、ロボット教示装置30を手動操作してロボット10を教示するために両手がふさがっている状況でも、音声で動作プログラムへのコメント文の入力を行い可読性の高い動作プログラムを作成することができる。したがって、ロボットの教示におけるオペレータの負担が軽減される。
図2を参照してロボット教示装置30の機能について更に説明する。ロボット教示装置30は、更に、ロボット10の教示に使用する複数種類の指令の各々と、認識対象語とを関連付けて記憶する対応関係記憶部314と、付加されたコメント文を新たな認識対象語とし、該新たな認識対象語と、動作プログラム中のコメント文が付加された指令とを関連付けて対応関係記憶部314に追加する対応関係追加部315と、文字データが表す言葉に対応関係記憶部314に記憶された認識対象語が含まれるか否かを判別する認識対象語判別部316と、文字データが表す言葉に含まれると判別された認識対象語に関連付けて対応関係記憶部314に記憶された指令を実行するための信号をロボット制御装置20に出力する指令実行信号出力部317と、を備える。図2に示すロボット教示装置30の各種機能は、ソフトウェアにより、或いはハードウェアとソフトウェアと協働により実現することができる。
次に、上述の構成を有するロボット教示装置30において実行されるコメント入力処理について図3及び図4を参照して説明する。図3はコメント入力処理のフローチャートであり、図4は動作プログラムの作成・編集を行う場合の表示装置31上の編集画面の例を示す。図3のコメント入力処理は、ロボット教示装置30のCPUによる制御の下で実行される。はじめに、オペレータOPは、ソフトキー或いはハードキーを操作して、作成中の動作プログラム中のコメント入力を行いたい指令を選択し、ロボット教示装置30をコメント入力待ちの状態に遷移させる(ステップS101)。本明細書において、指令とは、ロボットに対する命令(マクロ命令を含む)、命令に付随するデータ、その他教示に係わる各種データを含む意味で用いる。図4のような編集画面351において、4行目の命令“RO[1]”に“ハンドトジル”とのコメント文を音声入力により付加する場面について説明する。例えば、オペレータOPは、タッチ操作等により、動作プログラの4行目を選択し、コメント文の入力位置にコメント入力を示す記号を入力して、ロボット教示装置30をコメント入力待ちの状態に遷移させる。
次に、オペレータOPは、ソフトキー301の一つとして配置された音声有効スイッチ301a(図1参照)を操作して、ロボット教示装置30を音声入力が有効な状態に設定する(ステップS102)。ここで、音声入力が有効な状態は、マイクロホン40、音声認識部311、及び認識対象語判別部316が作動する状態である。なお、音声有効スイッチ301aは、ハードキー302の一つとして配置されても良い。音声有効スイッチ301aは、例えば、一度押下されると音声入力を有効にしてその状態を維持し、次に押下されると音声入力を無効としてソフトキー及びハードキーによる入力が受け付けられるように機能する。
次に、オペレータOPは、コメント文を音声入力する(ステップS103)。音声認識部311は、マイクロホン40から入力された音声信号に対して辞書データ322に基づいて音声認識処理を行い、音声信号から1以上の単語を識別する。辞書データ322は、音響モデル、言語モデル等の音声認識に必要な各種辞書データを複数種類の言語について有している。識別された単語がない場合(S104:No)、処理はステップS103に戻る。識別された単語がある場合(S104:Yes)、ロボット教示装置30は選択されている指令にコメント文を入力する(ステップS105)。
図4の編集画面351において、1行目の“ワークホジ”、4行目の“ハンドトジル”、5行目の“ワークホジフラグ”はそれぞれ図3のコメント入力処理によって動作プログラムに音声入力されたコメント文の例である。1行目の“ワークホジ”は、図4の動作プログラム全体に対するコメント文であり、この動作プログラムが「ワークを保持する」動作を行うことを表している。4行目の“ハンドトジル”は、命令“RO[1]=オン”が、ロボット10の「ハンドを閉じる」動作であることを表している。5行目の“ワークホジフラグ”は、命令“DO[1]=オン”がワーク保持動作を表すフラグの設定の命令であることを表している。上述したコメント入力処理により、オペレータOPは、ロボット教示装置30を手動操作してロボット10を教示するために両手がふさがっている状況でも、音声で動作プログラムへのコメント文の入力を行い可読性の高い動作プログラムを作成することができる。したがって、ロボットの教示におけるオペレータの負担が軽減される。
図1に示すように、音声認識部311は、音声の識別の対象となる言語を選択するための選択画面を表示装置31に表示し、ユーザ操作による言語の選択を受け付ける言語選択部321を有していても良い。音声認識部311は、各種言語の辞書データ322を有し、言語選択部321を介してユーザ選択された言語の辞書データを用いて音声信号に基づく単語の識別を実行することができる。また、対応関係記憶部314に各種言語の認識対象語を記憶しておくことで、認識対象語判別部316は、言語選択部321を介してユーザ選択された言語に基づいて認識対象語の識別を実行することができる。
ロボット教示装置30(音声認識部311)は、該複数の言語の辞書データ322を用いて音声の言語を推定し、推定された言語が言語選択部321を介して選択中の言語と異なる場合に、選択中の言語を、推定された言語に切り替えることを促すメッセージを表す画像を表示装置31に表示させる機能を有していても良い。図5は、このような言語切替処理を表すフローチャートである。言語切替処理は、例えば、図3のステップS101のようなコメント入力待ちの状態、或いは、教示入力待ちの状態で動作する。はじめに、オペレータOPが音声有効スイッチ301aを操作して、音声入力を有効にする(ステップS201)。この状態で、オペレータOPは、音声入力を行う(ステップS202)。
次に、ロボット教示装置30は、入力された音声に、言語選択部321により選択されている言語で識別された言葉があるか否かを判定する(ステップS203)。言語選択部321により選択されている言語で識別された言葉がある場合(S203:Yes)、本言語切替処理は終了する。他方、言語選択部321により選択されている言語で識別された言葉がない場合(S203:No)、ロボット教示装置30は、各種言語の辞書データ322を用いることで、入力された音声に、言語選択部321により選択されている言語以外の他の言語で識別された言葉があるか否かを判定する(ステップS204)。その結果、他の言語で識別された言葉がある場合(S204:Yes)、音声の識別の対象となる言語をステップS204で判定された他の言語へ切り替えることを促すメッセージを表示装置31に表示させる(ステップS205)。他の言語で識別された言葉がない場合(S204:No)、処理はステップS202に戻る。
次に、ロボット教示装置30は、ステップS205で提案した言語への切替を許可するか否かのユーザ操作を受け付ける(ステップS206)。提案した言語への切替を許可する操作がなされた場合(S206:Yes)、ロボット教示装置30は、提案した言語への切り替えを行う(ステップS207)。他方、提案した言語への切替が許可されなかった場合(S206:No)、本言語切替処理を終了する。なお、対応関係記憶部314において認識対象語も複数種類の言語について記憶されている。これにより、ステップS207において言語の切り替えが行われた場合、認識対象語判別部316は、切り替えられた言語で認識対象語の識別を行うことができる。
次に、ロボット教示装置30が提供する音声入力による教示機能(ロボット10に対する指令の実行、動作プログラムへの指令の入力等を含む)について説明する。ロボット教示装置30の音声入力による教示機能の利便性を説明するに当たり、ここで図4に示した動作プログラムを手動操作により入力する場合の操作例について説明する。図4に示した動作プログラム(“Program 1”)の編集画面351において、例えば、4行目に命令を入力する場合、オペレータOPは、4行目をキー操作により選択する。次に、オペレータOPは、編集画面351の下部の選択メニュー画面361から命令を入力するための項目“命令”(符号361a)をキー操作により選択する。すると、命令の分類項目が一覧表示されたポップアップメニュー画面362が表示される。オペレータOPは、I/O命令を入力するための項目“I/O”(符号362a)をキー操作により選択する。すると、I/O命令に該当する具体的な命令の一覧を示すポップポアップメニュー画像363が表示される。ここで、オペレータOPは、キー操作により、命令“RO[]=”(363a)を選択し、引数として“[]”内に1を入力し、また、イコール記号“=”の右に“オン”を入力する。このような手動によるキー操作を行う場合、ユーザは、予め“RO[]=”という命令が選択メニュー画面361内の項目“I/O”(符号362a)にあることを知っておく必要がある。
本実施形態に係るロボット教示装置30は、認識対象語を予めロボット教示装置30内に記憶させておくことで、オペレータOPが命令に関する詳細な知識を持つことを要求することなく、オペレータOPにとって分かりやすいい表現の言葉を発することで所望の命令の入力等を行うことを可能にする。更に、ロボット教示装置30は、上述のように入力されたコメント文を認識対象語として自動的に登録する。これにより、オペレータOPは、動作プログラムの編集画面において例えば“ハンドトジル”と発話することで、上述のようにメニュー画面を階層的にたどって行く操作を行うことなしに、命令“RO[1]=オン”を入力することができる。
このような音声入力による教示機能は、認識対象語判別部316が音声が表す言葉に対応関係記憶部314に記憶された認識対象語が含まれるか否かを判別し、指令実行信号出力部317が、判別された識対象語に関連付けて対応関係記憶部314に記憶された指令を実行する信号をロボット制御装置20に出力することによって実現される。下記表1は、対応関係記憶部314に記憶されている情報の例を示している。表1では、命令“カクジク イチ”に対して4つの認識対象語“カクジクイチ”、“カクジク”、“カクジクポジション”、“イチキョウジ”が関連付けられている。この場合、オペレータOPは、4つの認識対象語“カクジクイチ”、“カクジク”、“カクジクポジション”、“イチキョウジ”のうちいずれかを発話することで、命令“カクジク イチ”を実行したり動作プログラムへ入力することができる。命令“チョクセン イチ”、命令“DO[]”、命令“RO[]”の各々にも4つの認識対象語が関連づけられている。
Figure 0007063844000001
表1において、命令“DO[]”に関連付けられた4つの認識対象語のうち“ディーオー”、“デジタルアウトプット”、“アウトプット”は予め登録されていた認識対象語であり、“ハンドトジル”は、動作プログラムへのコメント文の音声入力に伴って対応関係追加部315によって対応関係記憶部314に加えられた認識対象語である。また、表1において、命令“RO[]”に関連付けられた4つの認識対象語のうち“アールオー”、“ロボットアウトプット”、“アウトプット”は予め登録されていた認識対象語であり、“ワークホジフラグ”は、動作プログラムへのコメント文の音声入力に伴って対応関係追加部315によって対応関係記憶部314に加えられた認識対象語である。このように、オペレータOPがコメント文として音声入力した言葉が認識対象語として対応関係記憶部314に自動的に追加されることで、以降は、オペレータOPは自らが用いた分かり易い表現の認識対象語を発話することで所望の命令を実行し或いは動作プログラムに入力することができる。
図6は、音声入力による教示機能(以下、音声入力教示処理と記す)を表すフローチャートである。図6の音声入力教示処理は、ロボット教示装置30のCPUによる制御の下で実行される。オペレータOPは、例えば、ロボット教示装置30が教示入力を受け付ける状態において音声有効スイッチ301aを操作して音声入力を有効にする(ステップS11)。次に、オペレータOPは、所望の命令に対応する認識対象語を発話する(ステップS12)。一例として、オペレータOPは、ロボット10のハンドを開く命令“HOP”を意図して“ハンドオープン”と発話する場合を想定する。ロボット教示装置30は、音声入力された言葉が対応関係記憶部314に記憶された認識対象語を含むか否かを識別する(ステップS13)。音声入力された言葉に認識対象語が含まれない場合には(S13:No)、処理はステップS12に戻る。ここでは、オペレータOP発話した“ハンドオープン”が認識対象語として対応関係記憶部314に記憶されているものとする。この場合、音声入力された言葉に認識対象語が含まれると判定され(S13:Yes)、処理はステップS14に進む。
次に、ロボット教示装置30(実行許可要求部331)は、オペレータOPに対して音声入力された命令の実行許可を求めるメッセージ画面401(図7参照)を表示装置31に表示する(ステップS14)。メッセージ画面401は、命令の実行の可否のオペレータOPによる選択操作を受け付けるボタン(“はい”、“いいえ”)を含んでいる。ステップS15では、オペレータOPからの選択操作を受け付ける。オペレータOPは、メッセージ画面401上のボタンを操作して命令“HOP”を実行するか否かを指示することができる。命令の実行を許可する操作が受け付けられた場合(S15:Yes)、指令実行信号出力部317は、命令の実行が許可されたと解釈し(ステップS16)、命令を実行するための信号をロボット制御装置20に送信する(ステップS17)。命令の実行を許可しない操作が受け付けられた場合(S15:No)、処理はステップS12に戻る。
ステップS15において、ロボット教示装置30は、メッセージ画面401が表示された状態で音声入力による選択操作を受け付けるように構成されていても良い。この場合、音声認識部311が命令の実行を許可する単語“はい”を識別できた場合、ロボット教示装置30は、命令の実行が許可されたと判断する。そして、指令実行信号出力部317は、命令“HOP”を実行するための信号をロボット制御装置20に送信する。
認識対象語判別部316は、入力された音声が表す言葉に対応関係記憶部314に記憶された認識対象語が含まれない場合に、音声が表す言葉に対し所定の関連性を有する1以上の認識対象語を対応関係記憶部から抽出し、抽出された1以上の認識対象語と対応関係記憶部314において関連付けられている1以上の命令から1つを選択する操作入力を受け付ける選択画面を表示装置31に表示するように構成されていても良い。図8から図11を参照して、認識対象語判別部316によるこのような機能について2つの例を説明する。
図8は、音声入力された音声が表す言葉と対応関係記憶部314に記憶された認識対象語との間に、音声が表す言葉が認識対象語に含まれる語を含むという関連性を有する場合の音声入力教示処理を表すフローチャートである。図8のフローチャートにおいてステップS21-27は、それぞれ図6のステップS11-S17と同じ処理内容であるためその説明を省略する。ステップS23において、音声入力された言葉が認識対象語を含まないと判断された場合(S23:No)、処理はステップS28に進む。
ステップS28において、ロボット教示装置30は、音声が表す言葉が認識対象語に含まれる語を含むか否かを判断する。音声が表す言葉が認識対象語に含まれる語を含む場合(S28:Yes)、ロボット教示装置30は、音声が表す言葉が認識対象語に含まれる語を含むという関連性を有する認識対象語を対応関係記憶部314から抽出する。そして、ロボット教示装置30は、抽出された認識対象語と対応関係記憶部314において関連付けられた命令のリストを候補として表示装置31に表示する(ステップS29)。音声が表す言葉が認識対象語に含まれる語を含まない場合(S28:No)、処理はステップS22に戻る。図9は、ステップS29において表示装置31に表示されるリストの一例としての選択画面411を示す。例えば、下記表2に示すように、オペレータOPの発話が“おーぷん”を含む場合に、認識対象語の“はんどおーぷん”と“ぼっくすおーぷん”が候補として抽出され得る。また、下記表2に示すように、オペレータOPの発話が“はんど”を含む場合に、認識対象語の“はんどおーぷん”と“はんどくろーず”が候補として抽出され得る。
Figure 0007063844000002
図9の選択画面411は、オペレータOPの発話が“おーぷん”を含む場合に、認識対象語の“はんどおーぷん”と“ぼっくすおーぷん”が候補として抽出された場合の例である。ロボット教示装置30は、オペレータOPによる選択画面411を介しての選択操作を受け付ける(ステップS210)。ロボット教示装置30は、選択画面411を介していずれかの操作(命令)を指定する選択操作が受け付けられた場合(S210:Yes)、指定された操作(命令)を選択して実行する(ステップS211、S27)。選択画面411中にオペレータOPの意図する操作がなく(S210:No)、オペレータOPが選択画面411において“この中にはない”を選択した場合(S212)、処理はステップS22に戻る。図10-11で説明した音声教示入力処理によれば、ロボット教示装置30がオペレータOPの発話内容の一部しか認識できなかった場合でも、オペレータOPは所望の命令を下すことができる。
図10は、音声入力された音声が表す言葉と対応関係記憶部314に記憶された認識対象語との間に、音声入力された音声が表す言葉が対応関係記憶部314に記憶された認識対象語と似た意味の言葉を含むという関連性を有する場合の音声入力教示処理を表すフローチャートである。図10のフローチャートにおいてステップS31-37は、それぞれ図6のステップS11-S17と同じ処理内容であるためその説明を省略する。ステップS33において、音声入力された言葉が認識対象語を含まないと判断された場合(S33:No)、処理はステップS38に進む。
ステップS38において、ロボット教示装置30は、音声が表す言葉が認識対象語と似た意味の言葉を含むか否かを判断する。音声が表す言葉が認識対象語と似た意味の言葉を含む場合(S38:Yes)、ロボット教示装置30は、音声が表す言葉が認識対象語と似た意味の言葉を含むという関連性を有する認識対象語を対応関係記憶部314から抽出する。一例として、ロボット教示装置30(認識対象語判別部316)は、認識対象語となり得る言葉と、そのような言葉と似た意味を有する言葉とを対応付けた辞書データを有していても良い。そして、ロボット教示装置30は、抽出された認識対象語と対応関係記憶部314において関連付けられた命令のリストを候補として表示装置31に表示する(ステップS39)。図11は、ステップS39において表示装置31に表示されるリストの一例としての選択画面421を示す。例えば、下記表3に示すように、オペレータOPの発話が“はんどひらけ”又は“はんどをひらいて”である場合、ロボット教示装置30は、これらの発話の内容を解釈して、発話された内容と似た意味を有する認識対象語として“はんどおーぷん”を抽出することができる。また、下記表3に示すように、オペレータOPの発話が“はんどとじろ”又は“はんどをとじて”である場合、ロボット教示装置30は、これらの発話の内容を解釈して、発話された内容と似た意味を有する認識対象語として“はんどくろーず”を抽出することができる。
Figure 0007063844000003
図11の選択画面421は、オペレータOPの発話が“はんどひらけ”であった場合に、認識対象語の“はんどおーぷん”が候補として抽出された場合の例である。ロボット教示装置30は、オペレータOPによる選択画面421を介しての選択操作を受け付ける(ステップS310)。ロボット教示装置30は、選択画面421を介していずれかの操作(命令)を指定する選択操作が受け付けられた場合(S310:Yes)、指定された操作(命令)を選択して実行する(ステップS311、S37)。選択画面421中にオペレータOPの意図する操作がなく(S310:No)、オペレータOPが選択画面421において“この中にはない”を選択した場合(S312)、処理はステップS32に戻る。図10-11で説明した音声教示入力処理によれば、ロボット教示装置30は、ステップS38において、認識した言葉の中に認識対象語に含まれる言葉に似た言葉が含まれているか否かを元に、それが本来どの認識対象語を意図したものか判断する。したがって、オペレータOPは、認識対象語を正確に覚えていなくても、所望の命令を下すことができる。
プログラム編集部312は、前記音声認識部311により識別された1以上の単語をファイル名として用いて動作プログラムのファイルを新規作成する動作プログラム作成部391を備えていても良い。例えば、ロボット教示装置30において動作プログラムを新規作成する所定のキー操作がなされ音声有効スイッチ301aが操作された場合、動作プログラム作成部391は、音声入力された語をファイル名として用いて動作プログラムを新規作成する。
また、ロボット教示装置30は、複数の動作プログラムを記憶する動作プログラム記憶部318を更に備え、プログラム編集部312は、前記音声認識部311により識別された1以上の単語に基づいて、動作プログラム記憶部318に記憶された複数の動作プログラムからから編集画面の作成の対象となる1つの動作プログラムを選択する動作プログラム選択部392を備えていても良い。例えば、ロボット教示装置30において動作プログラム記憶部318に記憶された動作プログラムのリストを表示するキー操作がなされ音声有効スイッチ301aが操作された場合、動作プログラム選択部392は、音声入力された語に対応する動作ププログラムを編集対象として選択する。
以上、典型的な実施形態を用いて本発明を説明したが、当業者であれば、本発明の範囲から逸脱することなしに、上述の各実施形態に変更及び種々の他の変更、省略、追加を行うことができるのを理解できるであろう。
上述した実施形態に示した音声入力処理(図3)、言語切替処理(図5)、音声入力教示処理(図6、8、10)を実行するプログラムは、コンピュータに読み取り可能な各種記録媒体(例えば、ROM、EEPROM、フラッシュメモリ等の半導体メモリ、磁気記録媒体、CD-ROM、DVD-ROM等の光ディスク)に記録することができる。
10 ロボット
20 ロボット制御装置
30 ロボット教示装置
31 表示装置
32 操作部
40 マイクロホン
301 ソフトキー
302 ハードキー
311 音声認識部
312 プログラム編集部
313 コメント入力部
314 対応関係記憶部
315 対応関係追加部
316 認識対象語判別部
317 指令実行信号出力部
318 動作プログラム記憶部
321 言語選択部
322 辞書データ
331 実行許可要求部
351 編集画面

Claims (11)

  1. ロボットの教示を行うためのロボット教示装置であって、
    表示装置と、
    音声を収集し音声信号を出力するマイクロホンと、
    前記音声信号から前記音声が表す1以上の単語を識別し該1以上の単語からなる文字データを出力する音声認識部と、
    ロボットの動作プログラムの編集画面を作成し前記表示装置に表示させるプログラム編集部と、
    前記動作プログラムの編集画面が前記表示装置に表示された状態において、前記音声認識部から出力される前記文字データが表す言葉を、前記動作プログラム中の指令に対してコメント文として付加するコメント入力部と、
    前記ロボットの教示に使用する複数種類の指令の各々と、認識対象語とを関連付けて記憶する対応関係記憶部と、
    付加された前記コメント文を新たな認識対象語とし、該新たな認識対象語と、前記動作プログラム中の前記コメント文が付加された前記指令とを関連付けて前記対応関係記憶部に追加する対応関係追加部と、
    前記文字データが表す言葉に前記対応関係記憶部に記憶された前記認識対象語が含まれるか否かを判別する認識対象語判別部と、
    前記文字データが表す言葉に含まれると判別された前記認識対象語に関連付けて前記対応関係記憶部に記憶された前記指令を実行するための信号を出力する指令実行信号出力部と、を備えるロボット教示装置。
  2. 前記音声認識部は、前記音声認識部による認識の対象となる言語を選択する操作入力を受け付ける言語選択部を有し、
    前記音声認識部は、前記言語選択部を介して選択された言語に基づき前記1以上の単語の識別を行う、請求項に記載のロボット教示装置。
  3. 前記認識対象語判別部は、前記言語選択部を介して選択された言語に基づき前記文字データが表す言葉に前記認識対象語が含まれるか否かを判別する、請求項に記載のロボット教示装置。
  4. 前記音声認識部は、複数種類の言語の辞書データを有し、該複数種類の言語の辞書データを用いて前記音声の言語を推定し、推定された前記言語が前記言語選択部を介して選択中の前記言語と異なる場合に、前記選択中の言語を、推定された前記言語に切り替えることを促すメッセージを表す画像を前記表示装置に表示させる、請求項又はに記載のロボット教示装置。
  5. 前記指令実行信号出力部は、前記指令を実行するための信号を出力する前に、実行許可を求めるメッセージを表す画像を前記表示装置に表示させる実行許可要求部を備える、請求項からのいずれか一項に記載のロボット教示装置。
  6. 前記実行許可要求部は、操作キーを介した入力操作に基づいて前記指令の実行が許可されたか否かを判定する、請求項に記載のロボット教示装置。
  7. 前記実行許可要求部は、前記マイクロホンを介して前記音声信号として入力され前記音声認識部により識別された前記1以上の単語に基づいて前記指令の実行が許可されたか否かを判定する、請求項に記載のロボット教示装置。
  8. 前記認識対象語判別部は、前記文字データが表す言葉に前記対応関係記憶部に記憶された前記認識対象語が含まれない場合に、前記文字データが表す言葉に対し所定の関連性を有する1以上の前記認識対象語を前記対応関係記憶部から抽出し、抽出された前記1以上の認識対象語と前記対応関係記憶部において関連付けられている1以上の前記指令から1つを選択する操作入力を受け付ける選択画面を前記表示装置に表示する、請求項からのいずれか一項に記載のロボット教示装置。
  9. 前記プログラム編集部は、前記音声認識部により識別された前記1以上の単語をファイル名として用いて動作プログラムのファイルを新規作成する動作プログラム作成部を備える、請求項1からのいずれか一項に記載のロボット教示装置。
  10. 複数の前記動作プログラムを記憶する動作プログラム記憶部を更に備え、
    前記プログラム編集部は、前記音声認識部により識別された前記1以上の単語に基づいて、前記動作プログラム記憶部に記憶された複数の前記動作プログラムから前記編集画面の作成の対象となる1つの動作プログラムを選択する動作プログラム選択部を備える、請求項1からのいずれか一項に記載のロボット教示装置。
  11. ロボットの教示を行うためのロボット教示装置であって、
    表示装置と、
    音声を収集し音声信号を出力するマイクロホンと、
    前記音声信号から前記音声が表す1以上の単語を識別し該1以上の単語からなる文字データを出力する音声認識部と、
    ロボットの動作プログラムの編集画面を作成し前記表示装置に表示させるプログラム編集部と、
    前記動作プログラムの編集画面が前記表示装置に表示された状態において、前記音声認識部から出力される前記文字データが表す言葉を、前記動作プログラム中の指令に対してコメント文として付加するコメント入力部と、を備え、
    前記プログラム編集部は、前記音声認識部により識別された前記1以上の単語をファイル名として用いて動作プログラムのファイルを新規作成する動作プログラム作成部を備える、ロボット教示装置。
JP2019086731A 2019-04-26 2019-04-26 ロボット教示装置 Active JP7063844B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019086731A JP7063844B2 (ja) 2019-04-26 2019-04-26 ロボット教示装置
US16/839,298 US20200338736A1 (en) 2019-04-26 2020-04-03 Robot teaching device
DE102020110614.9A DE102020110614A1 (de) 2019-04-26 2020-04-20 Roboter-lehrvorrichtung
CN202010321935.5A CN111843986A (zh) 2019-04-26 2020-04-22 机器人示教装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019086731A JP7063844B2 (ja) 2019-04-26 2019-04-26 ロボット教示装置

Publications (2)

Publication Number Publication Date
JP2020182988A JP2020182988A (ja) 2020-11-12
JP7063844B2 true JP7063844B2 (ja) 2022-05-09

Family

ID=72839765

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019086731A Active JP7063844B2 (ja) 2019-04-26 2019-04-26 ロボット教示装置

Country Status (4)

Country Link
US (1) US20200338736A1 (ja)
JP (1) JP7063844B2 (ja)
CN (1) CN111843986A (ja)
DE (1) DE102020110614A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11731271B2 (en) * 2020-06-30 2023-08-22 Microsoft Technology Licensing, Llc Verbal-based focus-of-attention task model encoder
WO2023144969A1 (ja) * 2022-01-27 2023-08-03 ファナック株式会社 教示装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001051694A (ja) 1999-08-10 2001-02-23 Fujitsu Ten Ltd 音声認識装置
JP2001075774A (ja) 1999-09-03 2001-03-23 Sony Corp 情報処理装置および方法、並びにプログラム格納媒体
JP2003080482A (ja) 2001-09-07 2003-03-18 Yaskawa Electric Corp ロボット教示装置
JP2003145470A (ja) 2001-11-08 2003-05-20 Toshiro Higuchi マイクロマニピュレータ操作制御装置、マイクロマニピュレータ操作制御方法およびマイクロマニピュレータ操作制御プログラム
JP2005148789A (ja) 2003-11-11 2005-06-09 Fanuc Ltd 音声入力によるロボット教示プログラム編集装置
JP2013039626A (ja) 2011-08-11 2013-02-28 Yaskawa Electric Corp 携帯遠隔操作装置およびロボットシステム
JP2016014874A (ja) 2014-06-30 2016-01-28 ゼロックス コーポレイションXerox Corporation 音声認識
JP2017102516A (ja) 2015-11-30 2017-06-08 セイコーエプソン株式会社 表示装置、通信システム、表示装置の制御方法、及び、プログラム
US20170351486A1 (en) 2015-01-22 2017-12-07 Lg Electronics Inc. Display device and control method thereof
JP2018081185A (ja) 2016-11-15 2018-05-24 クラリオン株式会社 音声認識装置、音声認識システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6252930A (ja) * 1985-09-02 1987-03-07 Canon Inc 半導体製造装置
JPH10322596A (ja) * 1997-05-16 1998-12-04 Sanyo Electric Co Ltd 静止画表示装置及びハイビジョン静止画装置
US7643907B2 (en) * 2005-02-10 2010-01-05 Abb Research Ltd. Method and apparatus for developing a metadata-infused software program for controlling a robot
JP5776544B2 (ja) * 2011-12-28 2015-09-09 トヨタ自動車株式会社 ロボットの制御方法、ロボットの制御装置、及びロボット
KR20150067489A (ko) * 2013-12-10 2015-06-18 삼성전자주식회사 전자 장치에서 입력기 제공 방법 및 장치
DE112014006614B4 (de) * 2014-04-22 2018-04-12 Mitsubishi Electric Corporation Benutzerschnittstellensystem, Benutzerschnittstellensteuereinrichtung, Benutzerschnittstellensteuerverfahren und Benutzerschnittstellensteuerprogramm
JP2015229234A (ja) * 2014-06-06 2015-12-21 ナブテスコ株式会社 作業ロボットの教示データ生成装置及び教示データ生成方法
JP2015231659A (ja) * 2014-06-11 2015-12-24 キヤノン株式会社 ロボット装置
US9794292B2 (en) * 2015-10-26 2017-10-17 Amazon Technologies, Inc. Providing fine-grained access remote command execution for virtual machine instances in a distributed computing environment
CN106095109B (zh) * 2016-06-20 2019-05-14 华南理工大学 基于手势和语音进行机器人在线示教的方法
JP6581056B2 (ja) * 2016-09-13 2019-09-25 ファナック株式会社 ロボット制御部と通信する教示操作盤を備えたロボットシステム
CN106363637B (zh) * 2016-10-12 2018-10-30 华南理工大学 一种机器人快速示教方法及装置
JP6833600B2 (ja) * 2017-04-19 2021-02-24 パナソニック株式会社 相互作用装置、相互作用方法、相互作用プログラム及びロボット
CN107351058A (zh) * 2017-06-08 2017-11-17 华南理工大学 基于增强现实的机器人示教方法
US10239202B1 (en) * 2017-09-14 2019-03-26 Play-i, Inc. Robot interaction system and method
JP2019057123A (ja) * 2017-09-21 2019-04-11 株式会社東芝 対話システム、方法、及びプログラム
CN108284452A (zh) * 2018-02-11 2018-07-17 遨博(北京)智能科技有限公司 一种机器人的控制方法、装置和系统

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001051694A (ja) 1999-08-10 2001-02-23 Fujitsu Ten Ltd 音声認識装置
JP2001075774A (ja) 1999-09-03 2001-03-23 Sony Corp 情報処理装置および方法、並びにプログラム格納媒体
JP2003080482A (ja) 2001-09-07 2003-03-18 Yaskawa Electric Corp ロボット教示装置
JP2003145470A (ja) 2001-11-08 2003-05-20 Toshiro Higuchi マイクロマニピュレータ操作制御装置、マイクロマニピュレータ操作制御方法およびマイクロマニピュレータ操作制御プログラム
JP2005148789A (ja) 2003-11-11 2005-06-09 Fanuc Ltd 音声入力によるロボット教示プログラム編集装置
JP2013039626A (ja) 2011-08-11 2013-02-28 Yaskawa Electric Corp 携帯遠隔操作装置およびロボットシステム
JP2016014874A (ja) 2014-06-30 2016-01-28 ゼロックス コーポレイションXerox Corporation 音声認識
US20170351486A1 (en) 2015-01-22 2017-12-07 Lg Electronics Inc. Display device and control method thereof
JP2017102516A (ja) 2015-11-30 2017-06-08 セイコーエプソン株式会社 表示装置、通信システム、表示装置の制御方法、及び、プログラム
JP2018081185A (ja) 2016-11-15 2018-05-24 クラリオン株式会社 音声認識装置、音声認識システム

Also Published As

Publication number Publication date
US20200338736A1 (en) 2020-10-29
DE102020110614A1 (de) 2020-10-29
JP2020182988A (ja) 2020-11-12
CN111843986A (zh) 2020-10-30

Similar Documents

Publication Publication Date Title
US7260529B1 (en) Command insertion system and method for voice recognition applications
JP4878471B2 (ja) 情報処理装置およびその制御方法
EP1405169B1 (en) Information processing apparatus and method, and program product
JP7063844B2 (ja) ロボット教示装置
JP6993382B2 (ja) ロボット教示装置
JP5002283B2 (ja) 情報処理装置および情報処理方法
JP7063843B2 (ja) ロボット教示装置
JP2000250587A (ja) 音声認識装置及び音声認識翻訳装置
JP3762191B2 (ja) 情報入力方法、情報入力装置及び記憶媒体
JP4509361B2 (ja) 音声認識装置、認識結果修正方法及び記録媒体
JP4749437B2 (ja) 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
JP3903841B2 (ja) 自動通訳装置及び自動通訳用プログラム
JP4012228B2 (ja) 情報入力方法、情報入力装置及び記憶媒体
US20210064640A1 (en) Information processing apparatus and information processing method
JP2002183136A (ja) 機械翻訳装置及び機械翻訳処理方法並びに機械翻訳処理プログラムを記録した記録媒体
JP3877975B2 (ja) キーボードレス入力装置とその方法及びこの方法の実行プログラムとその記録媒体
JPH064264A (ja) 音声入出力システム
US20080256071A1 (en) Method And System For Selection Of Text For Editing
JPS60146327A (ja) 計算機対話方法
JP4749438B2 (ja) 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
JP4305515B2 (ja) 音声出力装置及び音声出力プログラム
JP4168069B2 (ja) キーボードレス入力装置とその方法及びこの方法の実行プログラムとその記録媒体
JP2000200093A (ja) 音声認識装置及びそれに用いる音声認識方法並びにその制御プログラムを記録した記録媒体
JPH0830605A (ja) かな変換装置
JP2002007015A (ja) 情報処理装置およびコンピュータ読み取り可能な記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220421

R150 Certificate of patent or registration of utility model

Ref document number: 7063844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150