JP7075168B2 - 装置、方法、プログラム、及びロボット - Google Patents
装置、方法、プログラム、及びロボット Download PDFInfo
- Publication number
- JP7075168B2 JP7075168B2 JP2018007252A JP2018007252A JP7075168B2 JP 7075168 B2 JP7075168 B2 JP 7075168B2 JP 2018007252 A JP2018007252 A JP 2018007252A JP 2018007252 A JP2018007252 A JP 2018007252A JP 7075168 B2 JP7075168 B2 JP 7075168B2
- Authority
- JP
- Japan
- Prior art keywords
- action
- target person
- robot
- acquired
- current
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
- Y02E60/00—Enabling technologies; Technologies with a potential or indirect contribution to GHG emissions mitigation
- Y02E60/30—Hydrogen technology
- Y02E60/50—Fuel cells
Landscapes
- Manipulator (AREA)
Description
前記装置周辺の映像を取得するカメラと、
前記装置周辺の音を取得するマイクと、
処理部と、
スピーカと、
前記装置を動かす駆動部と、を備え、
前記処理部は、
前記取得された映像および前記取得された音に従って、前記装置に対して、前記対象人物とコミュニケーションするための、第1行動、第2行動、及び第3行動、のいずれかを初期行動として実行させ、前記第2行動は、前記第3行動の一つ上位の行動であり、前記第1行動は、前記第2行動の一つ上位の行動であり、
前記初期行動を含む現在の行動が実行されてから、前記マイクによって取得された音がある場合は、前記現在の行動の一つ上位の行動を前記装置に実行させ、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合は、前記現在の行動が実行されてからの経過時間が閾値未満であるか判断し、
前記経過時間が前記閾値未満であると判断された場合は、前記現在の行動を前記装置に継続させ、
前記経過時間が前記閾値以上であると判断された場合は、前記現在の行動の一つ下位の行動を前記装置に実行させ、
前記装置に、前記第1行動として、所定のタスクを実行させ、
前記スピーカに、前記第2行動として、前記対象人物に話しかける音声を出力させ、前記駆動部を制御して、前記装置に前記第3行動として、前記対象人物の動きと同調した動きをさせる。
上述のように特許文献1では、関与状態と、関与状態以外の非関与状態(自律タスク状態及び休憩状態など)との間の移行タイミングを決定する方法が開示されてる。具体的には、特許文献1では、ユーザがロボットを注視し、且つ、ユーザがロボットからの関与オファー(例えば、問いかけ)に応じた場合、非関与状態から関与状態に移行することが開示されている。また、特許文献1では、関与状態において、会話が不成立となった後に複数回の問いかけに対してユーザからの応答がなく、一定時間、待機状態が継続した場合に非関与状態に移行することが開示されている。
前記装置周辺の映像を取得するカメラと、
前記装置周辺の音を取得するマイクと、
処理部と、
スピーカと、
前記装置を動かす駆動部と、を備え、
前記処理部は、
前記取得された映像および前記取得された音に従って、前記装置に対して、前記対象人物とコミュニケーションするための、第1行動、第2行動、及び第3行動、のいずれかを初期行動として実行させ、前記第2行動は、前記第3行動の一つ上位の行動であり、前記第1行動は、前記第2行動の一つ上位の行動であり、
前記初期行動を含む現在の行動が実行されてから、前記マイクによって取得された音がある場合は、前記現在の行動の一つ上位の行動を前記装置に実行させ、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合は、前記現在の行動が実行されてからの経過時間が閾値未満であるか判断し、
前記経過時間が前記閾値未満であると判断された場合は、前記現在の行動を前記装置に継続させ、
前記経過時間が前記閾値以上であると判断された場合は、前記現在の行動の一つ下位の行動を前記装置に実行させ、
前記装置に、前記第1行動として、所定のタスクを実行させ、
前記スピーカに、前記第2行動として、前記対象人物に話しかける音声を出力させ、前記駆動部を制御して、前記装置に前記第3行動として、前記対象人物の動きと同調した動きをさせる。
前記第4行動の一つ下位の行動は第5行動であり、
前記処理部は、
前記現在の行動が実行されてから、前記マイクによって取得された音がある場合、且つ、前記取得された音に含まれた前記対象人物の音声に、前記装置に備えられた辞書に含まれた語句が含まれる場合は、前記第5行動を前記装置に実行させ、
前記駆動部を制御して、前記装置に前記第4行動として、前記装置の現在位置で所定の動きをさせ、
前記装置に、前記第5行動として、前記対象人物とのコミュニケーションを停止させてもよい。
前記取得された映像から前記対象人物の頭部の傾きを認識した場合は、
前記駆動部を制御して、前記第3行動として、前記装置の上部を、前記頭部の傾きと同じ方向と角度とで、傾けさせてもよい。
前記取得された映像から前記対象人物の所定のリズムに合わせた動作を認識した場合は、
前記駆動部を制御して、前記第3行動として、前記装置を前記リズムに合わせて動かせてもよい。
前記第2行動として、前記対象人物に対応する名前を含んだ音声を、前記スピーカに出力させてもよい。
前記第4行動として、前記装置を左右に揺らせてもよい。
前記第4行動として、重力方向を軸として前記装置を旋回させてもよい。
前記第5行動として、前記装置を前記対象人物から遠ざからせてもよい。
前記第5行動として、重力方向を軸として前記装置を180度旋回させてもよい。
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合、且つ、前記装置に所定の割り込み禁止条件が設定されている場合は、前記装置に前記第5行動を実行させ、
前記所定の割り込み禁止条件は、
所定の時間帯についての条件及び前記対象人物の場所についての条件を含んでもよい。
(全体構成)
以下、本開示の実施の形態について説明する。以下の説明では、本開示の装置をロボットに適用した場合を例に挙げて説明する。
次に、図4及び図5を用いて、ロボット1における関与ステージの決定処理について説明する。図4は、関与ステージの決定処理の一例を示すフローチャートである。図5は図4の続きのフローチャートである。
次に、ロボット1の機構について説明する。図9は、ロボット1の外観の一例を示す図である。ロボット1は、球帯状のメイン筐体401と球冠部402、403とを備えており、メイン筐体401と球冠部402、403とは全体として球体を構成する。即ち、ロボット1は球体形状を有する。また、ロボット1は、球冠部402(もしくは球冠部403)にマイク101とカメラ102とスピーカ301とを備える。また、ロボット1は、図略の制御回路を備える。図1に示す行動実行部200は、この制御回路に実装される。図9の例では、カメラ102は球冠部402と球冠部403とのそれぞれに設けられた2つのカメラを含むステレオカメラで構成されており、周辺環境の映像と距離データを取得する。
100 センサー部
101 マイク
102 カメラ
200 行動実行部
201 音声認識部
202 画像認識部
203 初期関与ステージ判断部
204 関与実行部
205 移行判断部
207 コマンド生成部
208 メモリ
210 プロセッサ
300 出力部
301 スピーカ
302 駆動部
T1 初期関与ステージテーブル
T2 移行テーブル
T3 割り込み禁止条件テーブル
T4 辞書テーブル
Claims (17)
- 所定の行動を実行することによって対象人物とコミュニケーションする装置であって、
前記装置周辺の映像を取得するカメラと、
前記装置周辺の音を取得するマイクと、
処理部と、
スピーカと、
前記装置を動かす駆動部と、を備え、
前記処理部は、
前記取得された映像および前記取得された音に従って、前記装置に対して、前記対象人物とコミュニケーションするための、第1行動、第2行動、及び第3行動、のいずれかを初期行動として実行させ、前記第2行動は、前記第3行動の一つ上位の行動であり、前記第1行動は、前記第2行動の一つ上位の行動であり、
前記初期行動を含む現在の行動が実行されてから、前記マイクによって取得された音がある場合は、前記現在の行動の一つ上位の行動を前記装置に実行させ、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合は、前記現在の行動が実行されてからの経過時間が閾値未満であるか判断し、
前記経過時間が前記閾値未満であると判断された場合は、前記現在の行動を前記装置に継続させ、
前記経過時間が前記閾値以上であると判断された場合は、前記現在の行動の一つ下位の行動を前記装置に実行させ、
前記装置に、前記第1行動として、所定のタスクを実行させ、
前記スピーカに、前記第2行動として、前記対象人物に話しかける音声を出力させ、前記駆動部を制御して、前記装置に前記第3行動として、前記対象人物の動きと同調した動きをさせ、
前記現在の行動が前記第1行動の場合、前記タスクの終了条件が満たされるまで第1行動を継続する、
装置。 - 前記第3行動の一つ下位の行動は第4行動であり、
前記第4行動の一つ下位の行動は第5行動であり、
前記処理部は、
前記現在の行動が実行されてから、前記マイクによって取得された音がある場合、且つ、前記取得された音に含まれた前記対象人物の音声に、前記装置に備えられた辞書に含まれた語句が含まれる場合は、前記第5行動を前記装置に実行させ、
前記駆動部を制御して、前記装置に前記第4行動として、前記装置の現在位置で前記装置を待機させる動きをさせ、
前記装置に、前記第5行動として、前記対象人物とのコミュニケーションを停止させる、
請求項1記載の装置。 - 前記処理部は、前記取得された映像から前記対象人物を認識し、且つ、前記取得された音から前記対象人物の音声を認識した場合は、前記装置に対して前記初期行動として前記第1行動を実行させる、
請求項1記載の装置。 - 前記処理部は、前記取得された映像から前記対象人物を認識せず、且つ、前記取得された音から前記対象人物の音声を認識した場合は、前記装置に対して前記初期行動として前記第2行動を実行させる、
請求項1記載の装置。 - 前記処理部は、前記取得された映像から前記対象人物を認識し、且つ、前記取得された音から前記対象人物の音声を認識しない場合は、前記装置に対して前記初期行動として前記第3行動を実行させる、
請求項1記載の装置。 - 前記処理部は、前記第1行動として、前記スピーカに対して前記対象人物とのコミュニケーションを開始することを提案する音声を出力させる、
請求項3記載の装置。 - 前記処理部は、
前記取得された映像から前記対象人物の頭部の傾きを認識した場合は、
前記駆動部を制御して、前記第3行動として、前記装置の上部を、前記頭部の傾きと同じ方向と角度とで、傾けさせる、
請求項5記載の装置。 - 前記処理部は、
前記取得された映像から前記対象人物の所定のリズムに合わせた動作を認識した場合は、
前記駆動部を制御して、前記第3行動として、前記装置を前記リズムに合わせて動かせる、
請求項5記載の装置。 - 前記処理部は、
前記第2行動として、前記対象人物に対応する名前を含んだ音声を、前記スピーカに出力させる、
請求項4記載の装置。 - 前記処理部は、
前記第4行動として、前記装置を左右に揺らせる、
請求項2記載の装置。 - 前記処理部は、
前記第4行動として、重力方向を軸として前記装置を旋回させる、
請求項2記載の装置。 - 前記処理部は、
前記第5行動として、前記装置を前記対象人物から遠ざからせる、
請求項2記載の装置。 - 前記処理部は、
前記第5行動として、重力方向を軸として前記装置を180度旋回させる、
請求項2記載の装置。 - 前記処理部は、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合、且つ、前記装置に所定の割り込み禁止条件が設定されている場合は、前記装置に前記第5行動を実行させ、
前記所定の割り込み禁止条件は、
所定の時間帯についての条件及び前記対象人物の場所についての条件を含む、
請求項2記載の装置。 - 所定の行動を実行することによって対象人物とコミュニケーションする装置であって、前記装置を動かす駆動部、カメラ、マイクおよびスピーカを備える前記装置、における方法であって、
前記装置周辺の映像を前記カメラにより取得し、
前記装置周辺の音を前記マイクにより取得し、
前記取得された映像及び前記取得された音に従って、前記装置に対して、前記対象人物とコミュニケーションするための、第1行動、第2行動、及び第3行動、のいずれかを初期行動として実行させ、前記第2行動は、前記第3行動の一つ上位の行動であり、前記第1行動は、前記第2行動の一つ上位の行動であり、
前記初期行動を含む現在の行動が実行されてから、前記マイクによって取得された音がある場合は、前記現在の行動の一つ上位の行動を前記装置に実行させ、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合は、前記現在の行動が実行されてからの経過時間が閾値未満であるか判断し、
前記経過時間が前記閾値未満であると判断された場合は、前記現在の行動を前記装置に継続させ、
前記経過時間が前記閾値以上と判断された場合は、前記現在の行動の一つ下位の行動を前記装置に実行させ、
前記装置に、前記第1行動として、所定のタスクを実行させ、
前記スピーカに、前記第2行動として、前記対象人物に話しかける音声を出力させ、前記駆動部を制御して、前記装置に前記第3行動として、前記対象人物の動きと同調した動きをさせ、
前記現在の行動が前記第1行動の場合、前記タスクの終了条件が満たされるまで第1行動を継続する、
方法。 - 請求項15記載の方法を前記装置を制御するコンピュータに実行させるためのプログラム。
- 所定の行動を実行することによって対象人物とコミュニケーションするロボットであって、
前記ロボット周辺の映像を取得するカメラと、
前記ロボット周辺の音を取得するマイクと、
処理部と、
スピーカと、
前記ロボットを動かす駆動部と、を備え、
前記処理部は、
前記取得された映像および前記取得された音に従って、前記ロボットに対して、前記対象人物とコミュニケーションするための、第1行動、第2行動、及び第3行動、のいずれかを初期行動として実行させ、前記第2行動は、前記第3行動の一つ上位の行動であり、前記第1行動は、前記第2行動の一つ上位の行動であり、
前記初期行動を含む現在の行動が実行されてから、前記マイクによって取得された音がある場合は、前記現在の行動の一つ上位の行動を前記ロボットに実行させ、
前記現在の行動が実行されてから、前記マイクによって取得された音が無い場合は、前記現在の行動が実行されてからの経過時間が閾値未満であるか判断し、
前記経過時間が前記閾値未満であると判断された場合は、前記現在の行動を前記ロボットに継続させ、
前記経過時間が前記閾値以上であると判断された場合は、前記現在の行動の一つ下位の行動を前記ロボットに実行させ、
前記ロボットに、前記第1行動として、所定のタスクを実行させ、
前記スピーカに、前記第2行動として、前記対象人物に話しかける音声を出力させ、前記駆動部を制御して、前記ロボットに前記第3行動として、前記対象人物の動きと同調した動きをさせる、
前記現在の行動が前記第1行動の場合、前記タスクの終了条件が満たされるまで第1行動を継続する、
ロボット。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/027,215 US11220008B2 (en) | 2017-07-18 | 2018-07-03 | Apparatus, method, non-transitory computer-readable recording medium storing program, and robot |
CN201810748410.2A CN109262606B (zh) | 2017-07-18 | 2018-07-10 | 装置、方法、记录介质以及机器人 |
EP18183744.4A EP3432225A1 (en) | 2017-07-18 | 2018-07-16 | Apparatus, method, non-transistory computer-readable recording medium storing program, and robot |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017139116 | 2017-07-18 | ||
JP2017139116 | 2017-07-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019018336A JP2019018336A (ja) | 2019-02-07 |
JP7075168B2 true JP7075168B2 (ja) | 2022-05-25 |
Family
ID=65354274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018007252A Active JP7075168B2 (ja) | 2017-07-18 | 2018-01-19 | 装置、方法、プログラム、及びロボット |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7075168B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020241223A1 (ja) * | 2019-05-28 | 2020-12-03 | パナソニックIpマネジメント株式会社 | 片付け誘引システム、片付け誘引家具及び片付け誘引方法 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003255991A (ja) | 2002-03-06 | 2003-09-10 | Sony Corp | 対話制御システム、対話制御方法及びロボット装置 |
JP2003285286A (ja) | 2002-03-27 | 2003-10-07 | Nec Corp | ロボット装置 |
JP2005305631A (ja) | 2004-03-25 | 2005-11-04 | Nec Corp | ロボットおよびその制御方法 |
JP2006088276A (ja) | 2004-09-24 | 2006-04-06 | Advanced Telecommunication Research Institute International | 動作生成システム |
JP2007000938A (ja) | 2005-06-21 | 2007-01-11 | Toshiba Corp | 行動融和型ロボット装置 |
JP2007038406A (ja) | 2002-05-17 | 2007-02-15 | Victor Co Of Japan Ltd | 移動ロボット |
JP2007152445A (ja) | 2005-12-01 | 2007-06-21 | Mitsubishi Heavy Ind Ltd | 自走式ロボット |
JP2009136967A (ja) | 2007-12-06 | 2009-06-25 | Honda Motor Co Ltd | コミュニケーションロボット |
JP2011097531A (ja) | 2009-11-02 | 2011-05-12 | Advanced Telecommunication Research Institute International | 傾聴対話持続システム |
JP2014502566A (ja) | 2011-01-13 | 2014-02-03 | マイクロソフト コーポレーション | ロボットとユーザーの相互作用のためのマルチ状態モデル |
JP2014191029A (ja) | 2013-03-26 | 2014-10-06 | Fuji Soft Inc | 音声認識システムおよび音声認識システムの制御方法 |
US20150120043A1 (en) | 2013-10-30 | 2015-04-30 | Georgia Tech Research Corporation | Methods and systems for facilitating interactions between a robot and user |
JP2016093279A (ja) | 2014-11-13 | 2016-05-26 | 日本電信電話株式会社 | 制御装置、制御装置の動作方法およびコンピュータプログラム |
JP2016220174A (ja) | 2015-05-26 | 2016-12-22 | 株式会社東芝 | 家電制御方法及び家電制御装置 |
JP2017077442A (ja) | 2015-10-22 | 2017-04-27 | 株式会社日本自動車部品総合研究所 | 動作体の動作制御装置及び動作制御方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140047273A (ko) * | 2012-10-12 | 2014-04-22 | 피프가부시끼가이샤 | 로봇 |
-
2018
- 2018-01-19 JP JP2018007252A patent/JP7075168B2/ja active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003255991A (ja) | 2002-03-06 | 2003-09-10 | Sony Corp | 対話制御システム、対話制御方法及びロボット装置 |
JP2003285286A (ja) | 2002-03-27 | 2003-10-07 | Nec Corp | ロボット装置 |
JP2007038406A (ja) | 2002-05-17 | 2007-02-15 | Victor Co Of Japan Ltd | 移動ロボット |
JP2005305631A (ja) | 2004-03-25 | 2005-11-04 | Nec Corp | ロボットおよびその制御方法 |
JP2006088276A (ja) | 2004-09-24 | 2006-04-06 | Advanced Telecommunication Research Institute International | 動作生成システム |
JP2007000938A (ja) | 2005-06-21 | 2007-01-11 | Toshiba Corp | 行動融和型ロボット装置 |
JP2007152445A (ja) | 2005-12-01 | 2007-06-21 | Mitsubishi Heavy Ind Ltd | 自走式ロボット |
JP2009136967A (ja) | 2007-12-06 | 2009-06-25 | Honda Motor Co Ltd | コミュニケーションロボット |
JP2011097531A (ja) | 2009-11-02 | 2011-05-12 | Advanced Telecommunication Research Institute International | 傾聴対話持続システム |
JP2014502566A (ja) | 2011-01-13 | 2014-02-03 | マイクロソフト コーポレーション | ロボットとユーザーの相互作用のためのマルチ状態モデル |
JP2014191029A (ja) | 2013-03-26 | 2014-10-06 | Fuji Soft Inc | 音声認識システムおよび音声認識システムの制御方法 |
US20150120043A1 (en) | 2013-10-30 | 2015-04-30 | Georgia Tech Research Corporation | Methods and systems for facilitating interactions between a robot and user |
JP2016093279A (ja) | 2014-11-13 | 2016-05-26 | 日本電信電話株式会社 | 制御装置、制御装置の動作方法およびコンピュータプログラム |
JP2016220174A (ja) | 2015-05-26 | 2016-12-22 | 株式会社東芝 | 家電制御方法及び家電制御装置 |
JP2017077442A (ja) | 2015-10-22 | 2017-04-27 | 株式会社日本自動車部品総合研究所 | 動作体の動作制御装置及び動作制御方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2019018336A (ja) | 2019-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220254343A1 (en) | System and method for intelligent initiation of a man-machine dialogue based on multi-modal sensory inputs | |
US11220008B2 (en) | Apparatus, method, non-transitory computer-readable recording medium storing program, and robot | |
US11468894B2 (en) | System and method for personalizing dialogue based on user's appearances | |
US11024294B2 (en) | System and method for dialogue management | |
JP6818280B2 (ja) | 対話システム、対話方法、対話装置、およびプログラム | |
JP5982840B2 (ja) | 対話装置、対話プログラムおよび対話方法 | |
US11003860B2 (en) | System and method for learning preferences in dialogue personalization | |
US20210205987A1 (en) | System and method for dynamic robot configuration for enhanced digital experiences | |
JP6583765B2 (ja) | エージェント対話システムおよびプログラム | |
JP7363764B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JPWO2017130486A1 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2008509455A (ja) | ユーザとシステムとの間の通信方法及びシステム | |
JP6992957B2 (ja) | エージェント対話システム | |
JP7075168B2 (ja) | 装置、方法、プログラム、及びロボット | |
JP2007030050A (ja) | ロボット制御装置、ロボット制御システム、ロボット装置、およびロボット制御方法 | |
JP7286303B2 (ja) | 会議支援システム及び会議用ロボット | |
JPWO2018168247A1 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP7432960B2 (ja) | 対話システムおよびプログラム | |
JP7015711B2 (ja) | 装置、ロボット、方法、及びプログラム | |
WO2024084855A1 (ja) | 遠隔会話支援方法、遠隔会話支援装置、遠隔会話システム、及び、プログラム | |
WO2023286224A1 (ja) | 会話処理プログラム、会話処理システムおよび会話型ロボット | |
JP2013167987A (ja) | 遠隔対話支援装置および遠隔対話支援方法 | |
WO2024185417A1 (ja) | 応答制御装置、応答制御方法および応答制御プログラム | |
McCabe | Syllable from Sound | |
WO2021064948A1 (ja) | 対話方法、対話システム、対話装置、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20200605 |
|
A625 | Written request for application examination (by other person) |
Free format text: JAPANESE INTERMEDIATE CODE: A625 Effective date: 20201130 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211202 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220419 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220510 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7075168 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |