JP2017228030A - 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム - Google Patents

作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム Download PDF

Info

Publication number
JP2017228030A
JP2017228030A JP2016122804A JP2016122804A JP2017228030A JP 2017228030 A JP2017228030 A JP 2017228030A JP 2016122804 A JP2016122804 A JP 2016122804A JP 2016122804 A JP2016122804 A JP 2016122804A JP 2017228030 A JP2017228030 A JP 2017228030A
Authority
JP
Japan
Prior art keywords
work
information
work item
dictionary
management server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016122804A
Other languages
English (en)
Other versions
JP2017228030A5 (ja
JP6744025B2 (ja
Inventor
基彦 坂口
Motohiko Sakaguchi
基彦 坂口
仁浩 田淵
Masahiro Tabuchi
仁浩 田淵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
NEC Solution Innovators Ltd
Original Assignee
NEC Corp
NEC Solution Innovators Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, NEC Solution Innovators Ltd filed Critical NEC Corp
Priority to JP2016122804A priority Critical patent/JP6744025B2/ja
Priority to PCT/JP2017/022626 priority patent/WO2017221916A1/ja
Priority to CN201780016642.2A priority patent/CN108780542B/zh
Priority to US16/082,335 priority patent/US20190079919A1/en
Publication of JP2017228030A publication Critical patent/JP2017228030A/ja
Publication of JP2017228030A5 publication Critical patent/JP2017228030A5/ja
Application granted granted Critical
Publication of JP6744025B2 publication Critical patent/JP6744025B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/151Transformation
    • G06F40/157Transformation using dictionaries or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/237Lexical tools
    • G06F40/242Dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/20Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Human Resources & Organizations (AREA)
  • Acoustics & Sound (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Educational Administration (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Machine Translation (AREA)

Abstract

【課題】高騒音下で実施される検査・点検作業に伴う音声入力において音声認識性能の向上を図ること。【解決手段】管理サーバは、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付ける受付部と、前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録する辞書登録部と、前記帳票情報と前記辞書とを関連付けて記憶する記憶部と、前記帳票情報を送信する際に対応する辞書とともに送信する送信部とを備えている。【選択図】図2

Description

本発明は、作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラムに関し、特に作業員によるハンズフリーでの検査・点検作業を支援する作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラムに関する。
人の声を文字に置き換えるための音声認識技術が近年飛躍的に進歩している。これに伴い、音声認識技術はコンタクトセンターにおける業務支援、議事録の作成支援、工場やオフィスにおける検査・点検作業の際の音声入力にも応用され始めている。
関連技術として、特許文献1にはシステムが利用者の発話を誤認識した際にも利用者とシステムがスムーズに対話を進めるための音声対話システムが記載されている。
特開2005−316247号公報
上記特許文献の全開示内容は、本書に引用をもって繰り込み記載されているものとする。以下の分析は、本発明者らによってなされたものである。
工場やオフィスにおける検査・点検作業では、検査・点検項目(以下、「作業項目」という。)は通常多岐に亘る。したがって、作業者は紙ベースの作業項目のリストを参照しつつ、順次作業を進めて行く必要がある。この場合、作業者は作業項目のリストを参照するために一時的に作業を中断する必要があり、作業効率の低下を招くおそれがある。
また、多数の作業項目を実施する場合には、作業者は各作業項目を実施して結果が得られる都度、作業結果を記録(保存)する必要がある。しかしながら、作業結果を所定の書面に手書きで入力し、または、タブレット、スマートフォン、ノートPCなど(以下、「携帯端末」という。)に手作業で入力する場合、作業者は一端作業を中断して入力を行う必要があり、さらに作業効率の低下を招く。
したがって、検査・点検作業を行う場合の作業効率の向上を図るためには、実施すべき作業項目の確認および作業結果の入力を、いずれもハンズフリー(手ぶら)で行うことが望ましい。かかる要望に応える技術として、作業項目を音声で案内しつつ、作業結果を音声入力する技術が実用化されている。
ところで、工場の組み立て(製造)ラインで行われる製品の検査・点検作業では、作業者の周囲の環境は高騒音下である場合も考えられる。このような環境下で作業結果を音声入力した場合、必ずしも作業者が意図した入力結果とならず、正しい入力結果が得られるまで、作業者は発話を繰り返したり、または、音声入力の代わりに手作業で入力し直したりする必要がある。
特許文献1に記載された技術では、システムが誤認識した利用者の発話を修正するために、対話の状態の変化を記録する対話履歴を設け、対話履歴中の情報と予め用意されたテンプレートを用いて利用者の訂正発話を認識するルールを生成し、生成されたルールを用いて利用者の発話が認識された場合に、利用者の発話を訂正発話と見なして誤認識を修正する処理に移行する、といった複雑な処理が必要とされる。また、特許文献1の技術を採用した場合にも、利用者による再度の発話が必要とされる。
このような作業者による再度の音声入力を避けるには、作業環境が高騒音下であっても作業者の音声入力が誤認識される可能性をできるだけ低くすることが望ましい。
そこで、高騒音下で実施される検査・点検作業に伴う音声入力において音声認識性能を向上させることが課題となる。本発明の目的は、かかる課題解決に寄与する作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラムを提供することにある。
本発明の第1の態様に係る管理サーバは、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付ける受付部と、前記帳票情報に含まれる作業結果候補を作業項目、または帳票情報と関連付けて辞書に登録する辞書登録部と、前記帳票情報と前記辞書とを関連付けて記憶する記憶部と、前記帳票情報を送信する際に対応する辞書とともに送信する送信部とを備えている。
本発明の第2の態様に係る携帯端末は、作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得する通信部と、前記作業項目情報を提示する提示部と、前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識する音声認識部と、音声認識した結果を前記作業項目情報に対する作業結果として保持する記憶部と、を備えている。
本発明の第3の態様に係る作業支援システムは、上記管理サーバと上記携帯端末を備えている。
本発明の第4の態様に係る作業支援方法は、管理サーバが、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付けるステップと、前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録するステップと、前記帳票情報と前記辞書とを関連付けて記憶するステップと、前記帳票情報を送信する際に対応する辞書とともに送信するステップと、を含む。
本発明の第5の態様に係る作業支援方法は、携帯端末が、作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得するステップと、前記作業項目情報を提示するステップと、前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識するステップと、音声認識した結果を前記作業項目情報に対する作業結果として保持するステップと、を含む。
本発明の第6の態様に係るプログラムは、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付ける処理と、前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録する処理と、前記帳票情報と前記辞書とを関連付けて記憶する処理と、前記帳票情報を送信する際に対応する辞書とともに送信する処理と、をコンピュータに実行させる。
本発明の第7の態様に係るプログラムは、作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得する処理と、前記作業項目情報を提示する処理と、前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識する処理と、音声認識した結果を前記作業項目情報に対する作業結果として保持する処理と、をコンピュータに実行させる。
なお、プログラムは、非一時的なコンピュータ可読記録媒体(non-transitory computer-readable storage medium)に記録されたプログラム製品として提供することもできる。
本発明に係る作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラムによると、高騒音下で実施される検査・点検作業に伴う音声入力において音声認識性能を向上させることが可能となる。
一実施形態に係る作業支援システムの構成を例示する図である。 第1の実施形態に係る作業支援システムの構成を例示するブロック図である。 第1の実施形態に係る作業支援システムにおいて管理サーバおよび携帯端末が保持するデータを例示する図である。 第1の実施形態における作業帳票のフォーマット(形式)を例示する図である。 第1の実施形態における作業帳票に記載される選択肢の書式を例示する図である。 第1の実施形態における作業帳票に記載される数値の書式を例示する図である。 第1の実施形態におけるカスタム辞書の作成方法を例示する図である。 第1の実施形態における作業結果ファイルの形式を例示する図である。 第1の実施形態に係る作業支援システムの動作を例示するシーケンス図である。 第1の実施形態に係る作業支援システムの動作を例示するフロー図である。 第2の実施形態に係る作業支援システムの構成を例示するブロック図である。 第2の実施形態における作業帳票のフォーマットを例示する図である。 第3の実施形態における作業帳票のフォーマットを例示する図である。 第3の実施形態における作業帳票のフォーマットを例示する図である。 第4の実施形態に係る作業支援システムの構成を例示するブロック図である。 第4の実施形態に係る作業支援システムにおいて管理サーバおよび携帯端末が保持するデータを例示する図である。 第4の実施形態に係る作業支援システムの動作を例示するシーケンス図である。 第5の実施形態に係る作業支援システムにおいて管理サーバおよび携帯端末が保持するデータを例示する図である。 第5の実施形態に係る作業支援システムの動作を例示するシーケンス図である。
はじめに、一実施形態の概要について説明する。なお、この概要に付記する図面参照符号は、専ら理解を助けるための例示であり、本発明を図示の態様に限定することを意図するものではない。
図1は、一実施形態に係る作業支援システムの構成を例示する図である。図1を参照すると、作業支援システムは、管理サーバ1と携帯端末2(例えば作業者が携行するスマートフォン)を備えている。なお、本発明における作業支援システムは、例えば、組立て作業、梱包作業、搬入作業、計測作業など、作業指示書に従って作業する作業に対する作業支援システムである。
図2は、図1に示す作業支援システムにおける管理サーバ1および携帯端末2の構成を例示するブロック図である。図2を参照すると、管理サーバ1は、作業項目を表す作業項目情報(例えば図4の作業項目、作業内容(読み上げ用))と作業結果候補(例えば図4の入力種別、選択肢)とを関連付けて保持する帳票情報を受け付ける受付部(例えば通信部11)と、帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録する辞書登録部13と、帳票情報と辞書とを関連付けて記憶する記憶部12と、帳票情報を送信する際に対応する辞書とともに(例えば携帯端末2に向けて)送信する送信部(例えば通信部11)と、を備えている。一方、携帯端末2は、作業項目を表す作業項目情報を含む帳票情報と、帳票情報と関連付けられた辞書を取得する通信部21と、作業項目情報を提示(例えば表示、読み上げ)する提示部23と、作業項目情報に対して受け付けた音声入力を、辞書を用いて音声認識する音声認識部24と、音声認識した結果を作業項目情報に対する作業結果として保持(例えば図8)する記憶部22と、を備えている。
一実施形態に係る作業支援システムでは、管理サーバは各作業項目の作業結果として作業者が音声入力する入力候補(作業結果候補)を辞書(例えば音声認識辞書)に登録する。また、携帯端末は管理サーバから取得した当該辞書を用いて音声認識を行う。このとき、携帯端末による音声認識において入力候補が辞書に登録された候補(文字列、数式等)に限定されるため、誤認識が生じる可能性を著しく低下させることが可能となる。したがって、一実施形態の作業支援システムによると、作業員が高騒音下で実施する作業に伴う音声入力において、音声認識性能を向上させることが可能となる。
また、一実施形態に係る作業支援システムによると、作業開始前の事前準備として、現場管理者が作業項目と作業結果の入力候補とを関連付けた帳票を管理サーバに登録するだけでよい。したがって、一実施形態の作業支援システムによると、システムのハードウェア・ソフトウェア構成に何ら変更を加えることなく、帳票の記載内容を変更するだけで、さまざまな業種における多様な検査・点検作業に本システムを適用することができる。
<実施形態1>
次に、第1の実施形態に係る作業支援システムについて、図面を参照して説明する。
[構成]
図2は、本実施形態に係る作業支援システムの構成を例示するブロック図である。図2を参照すると、作業支援システムは管理サーバ1と携帯端末2を備えている。図2には、作業支援システムの管理サーバ2にアクセス可能な管理者端末3も併せて示す。
図3は、管理サーバ1および携帯端末2が保持するデータを例示する図である。図3を参照すると、管理サーバ1の記憶部12はテンプレート、作業帳票、カスタム辞書、音声認識辞書、作業者ファイル、および、作業結果ファイルを記憶する。一方、携帯端末2の記憶部22は作業帳票、音声認識辞書、および、作業結果ファイルを記憶する。なお、これらの各ファイルの詳細については後述する。
また、図2には図示しないものの、携帯端末2はヘッドセットと無線または有線で接続され、携帯端末2からの音声出力はヘッドセットのヘッドホンを介して行い、携帯端末2への音声入力はヘッドセットのマイクを経由して行うようにしてもよい。
管理サーバ1は、作業項目と作業結果の入力候補とを関連付けて保持する作業帳票を受け付け、作業帳票に含まれる入力候補を音声認識用の音声認識辞書に登録する。
携帯端末2は、検査・点検作業を実施する作業者が携行する端末(例えばスマートフォン)である。携帯端末2は管理サーバ1から作業帳票と音声認識辞書を取得し、作業帳票に含まれる作業項目を実施する際に受け付けた音声入力を、音声認識辞書を用いて音声認識し、音声認識した結果を作業項目に対する作業結果として保持する。
管理者端末3は、検査・点検作業を管理する管理者が操作する端末(例えばPC(Personal Computer、パーソナルコンピュータ))である。管理者端末3は管理サーバ1への作業帳票の登録、および、携帯端末2が管理サーバ1にアップロードした作業結果ファイルの参照を行う。
はじめに、管理サーバ1の詳細な構成について説明する。図2を参照すると、管理サーバ1は通信部11、記憶部12および辞書登録部13を備えている。
通信部11は、管理者端末3の要求に応じて作業帳票およびカスタム辞書のテンプレートを管理者端末3に送信する。また、通信部11は管理者端末3から記載済の作業帳票およびカスタム辞書を受け付け、受け付けた作業帳票およびカスタム辞書を記憶部12(図3)に保持する。さらに、通信部11は携帯端末2から作業者の登録を受け付けると、受け付けた作業者名を記憶部12に保持する。また、通信部11は携帯端末2に向けて、作業帳票と音声認識辞書を送信する。さらに、通信部11は携帯端末2から作業結果ファイルがアップロードされると、受け付けた作業結果ファイルを記憶部12に蓄積する。また、通信部11は管理者端末3からの閲覧要求に応じて作業結果ファイルを管理者端末3に送信する。
辞書登録部13は、作業帳票に含まれる入力候補(入力種別および選択肢)を音声認識用の音声認識辞書として登録する。図4は、本実施形態における作業帳票のフォーマットを例示する図である。
図4を参照すると、作業帳票は作業項目、作業内容(読み上げ用)、入力種別(種別情報ともいう。)、選択肢、最小値、および最大値を保持している。作業帳票が保持する情報を作業帳票情報という。作業項目は、検査・点検作業に含まれる作業項目の名称を表す。作業内容(読み上げ用)は、作業実施時に作業内容を音声案内する際に読み上げられる。入力種別は、作業結果を入力する形式を表す。ここでは、一例として、入力種別は、選択式、数値、カスタム、または、コード読み取りのいずれかとする。選択肢の欄には、入力種別に応じて入力語句の候補が指定される。なお、作業項目および/または作業内容(読み上げ用)を「作業項目情報」という。また、入力種別および選択肢によって指定される入力語句の候補を「入力候補」(作業結果候補ともいう。)と呼ぶ。最小値および最大値の欄には、入力候補が数値である場合に想定される数値の最小値および最大値を指定する。
入力種別を「選択式」とした場合、選択肢の欄には、入力候補である語句とその読みが指定される。図5は、選択肢の書式と記入例を示す。図5に示すように、選択肢の欄には、入力語句とその読みの組み合わせが指定される。なお、1つの入力語句に対して、複数通りの読みを対応付けることも可能である。
これにより、作業者の発話に特徴(例えば作業者の年齢、出身地に応じた特徴、発音の癖など)がある場合や高騒音下であっても、作業者による音声入力が誤認識される可能性を低減することが可能となる。辞書登録部13は、選択肢に指定された入力語句と読み(1または2以上)との組み合わせを音声認識辞書に登録する。
一方、入力種別を数値とする場合、入力種別の欄には入力候補である数値の書式を指定し、選択肢の欄は空欄とする。図6は、数値の書式の指定方法を例示する図である。数値の書式として「マイナス(−)」を指定すると、正数および負数の双方を指定することができる。また、整数部桁数および小数部桁数の箇所には、それぞれ整数部および小数部の桁数を指定する。辞書登録部13は、数値の書式に応じた数値の読みのパターンを音声認識辞書に登録する。
入力候補が数値である場合、所定の範囲の数値に対する音声認識辞書を単純に作成すると、音声認識辞書を定義するために煩雑な入力作業が必要となる。例えば3ケタの整数が入力候補の場合、想定されるあらゆるパターンの数値(0〜99のすべて)の読み(「ぜろ」〜「きゅうひゃくきゅうじゅうきゅう」)について音声認識辞書を作成する必要がある。しかし、本実施形態によると、管理者は数値の書式を作業帳票に指定するだけで、所定の桁数、小数点位置、符号を有する数値のあらゆるパターンについて容易に音声認識辞書を定義することが可能となる。
次に、入力種別がカスタムの場合について説明する。入力種別がカスタムの場合、入力種別の欄には「カスタム」を指定し、選択肢の欄にはカスタム辞書に定義したルール名を記載する。図7は、カスタム辞書の作成方法を説明するための図である。カスタム辞書では、図7に示すルールに従って入力語句の書式を指定することができる。
例えば、装置型番が1文字の英字と3ケタの数値から成る場合には、図7に示すカスタム辞書を作成することにより、装置型番に対する入力候補の語句(A000〜Z999)とその読みを指定することが可能となる。このとき、辞書登録部13は、カスタム辞書に定義されたルールに基づいて生成される入力語句のあらゆる組み合わせについて、語句とその読みを音声認識辞書に登録する。
かかる構成によると、入力語句が数値のみならず、文字と数値を含むものであっても音声認識辞書を容易に作成することができる。すなわち、入力候補が所定の書式に従う場合(例えば、装置や製品の型番など)、管理者はカスタム辞書に対してわずかな入力作業を行うだけで、すべてのパターンの入力候補に対する音声認識辞書を定義することが可能となる。
次に、携帯端末2の詳細な構成について説明する。図2を参照すると、携帯端末2は通信部21、記憶部22、提示部23、音声認識部24、および、読取部25を備えている。
通信部21は、携帯端末2を用いて検査・点検作業を実施する作業者名を管理サーバ1に送信する。また、通信部21は管理サーバ1が管理者端末3から受け付けた作業帳票と、管理サーバ1が生成した音声認識辞書を管理サーバ1から取得し、取得した作業帳票および音声認識辞書を記憶部22に保持する。さらに、通信部21は、検査・点検作業を実施して得られた作業結果ファイルを管理サーバ1にアップロードする。
図4に例示するように、作業帳票は作業項目と作業項目の内容を表す作業内容を関連付けて保持している。提示部23は、作業項目を実施する際に作業項目名を携帯端末2のディスプレイに表示するとともに、作業項目の内容を示す作業内容を読み上げる(音声出力する)。例えば、図4に示す作業帳票の作業項目「装置・汚れ」を実施する際、提示部23は「装置・汚れ」を携帯端末2のディスプレイに表示するとともに「装置の周囲に汚れは」という音声案内を行う。
かかる構成によると、作業者は実施すべき作業項目をハンズフリーのまま把握することが可能となる。また、「作業項目」をそのまま音声出力する代わりに、作業項目において実施すべき作業内容を具合的に説明する「作業内容(読み上げ用)」を音声案内することで、作業者はスムーズかつ的確に作業を進めることができる。これにより、検査・点検作業の効率を大幅に向上させることが可能となる。
音声認識部24は、作業帳票に含まれる作業項目を実施する際に受け付けた音声入力を、記憶部22が保持する音声認識辞書を用いて音声認識する。また、音声認識部24は、音声認識した結果を、当該作業項目に対する作業結果として記憶部22に記録する。
例えば、音声認識部24は、図4に示す作業帳票の作業項目「装置・汚れ」を実施する際に作業者が発話した音声が、音声認識辞書に蓄積された「かくにんかんりょう」および「よごれあり」のいずれに近似するかを判定し、当該作業項目に対する作業結果の入力語句が「確認完了」または「汚れあり」のいずれであるかを決定する。一例として、図4に示す作業項目「装置・汚れ」に対して音声認識部24が判定した入力語句が「作業完了」である場合、図8に示すように作業結果ファイルの作業結果に反映され、記憶部22に蓄積される。
また、提示部23は、音声認識部24が認識した入力語句を作業者に音声で通知(復唱)してもよい。音声認識部24が認識した入力語句と作業者が意図した入力語句とが異なる場合、作業者は携帯端末2に所定の操作(例えば「前に戻る」旨の音声入力、携帯端末2に対するタップ操作など)を行い、これに応じて携帯端末2は入力語句を再度受け付ける(例えば音声入力、ソフトキー入力)ようにしてもよい。かかる構成によると、作業者が意図していない入力語句が作業結果ファイルに反映されること(すなわち入力ミス)を防ぐことできる。
なお、携帯端末2が入力語句を手動(画面タッチ)で受け付ける際の動作を次のようにしてもよい。具体的には、入力種別が「選択式」の場合、携帯端末2は音声認識辞書に定義された選択肢の情報に従って、点検結果入力画面の下部に結果を手動で入力するプルダウンメニュー(例えば「汚れあり」等)を表示する。同様に、入力種別が「数値」の場合、携帯端末2の画面をタッチすると「数値入力用ソフトキーボード」を自動で起動し、それ以外の入力種別の場合、通常の「ソフトキーボード」を起動する。かかる構成によると、音声認識が不可能な高騒音下や騒音が偶発的に非常に大きくなった場合であっても、シームレスに作業結果の入力を行うことができる。
読取部25は入力候補が作業対象物の識別子(識別情報)である場合に自動的に起動され、当該識別子を読み取る。具体的には、図4の作業帳票の作業項目「装置ID」のように、入力種別が「コード読み取り」の場合、読取部25は携帯端末2に設けられたカメラを起動して、検査・点検対象の装置(または製品)に付されたQRコード(登録商標)、バーコードなどを読み取る。
一例として、図4に示す作業項目「装置ID」に対して読取部25が読み取った装置の識別子が「ABC5678」である場合、図8に示すように作業結果ファイルの作業結果に反映され、記憶部22に蓄積される。
なお、作業者が携帯端末2とともに、専用の(バーコードなど)読取機器を携行する場合には、読取部25は読取機器と無線通信して作業対象物の識別子を取得するようにしてもよい。なお、読取部25が識別子を取得する方法はバーコードなどの読み取りに限定されない。例えば、読取部25は対象物に付されたタグまたはICチップから、近距離無線通信(NFC:near field radio communication)を用いて識別子を取得してもよい。
さらに、携帯端末2は計時部(非図示)を用いて各作業項目を実施するのに要した時間を計測し、計測した時間を作業項目と関連付けて記録してもよい。図8を参照すると、作業結果ファイルには、作業者および作業項目と関連付けて、各作業項目を実施するのに要した時間が蓄積される。図8に示す例では、作業項目「装置・汚れ」について20秒の作業時間を要したことが分かる。このように、作業者および作業項目ごとに作業時間を取得し、これらを分析することにより検査・点検作業の改善および効率化に向けた検討を行うこともできる。
図4に例示するように、作業項目に対する入力種別が数値の場合、作業帳票はさらに入力候補の数値の最小値と最大値を作業項目に関連付けて保持していてもよい。この場合、音声認識部24が認識した入力語句が最小値を下回るとき、または、最大値を上回るとき、提示部23はその旨の通知(警告)を出力(音声、表示、振動など)する。また、携帯端末2は、例えば音声入力、キー入力などにより入力語句を再度受け付けるようにしてもよい。かかる構成によると、作業者による計器(電圧計など)の読み取りミスや入力ミスを防ぐことでき、装置や計器に異常が生じた際には、早期に発見することが可能となる。
[動作]
次に、本実施形態の作業支援システムの動作について、図9のシーケンス図および図10のフロー図を参照して説明する。
図9を参照すると、管理者端末3は作業帳票のテンプレートと、必要に応じてカスタム辞書のテンプレートを管理サーバ1に要求する。管理サーバ1の通信部11はこれらのテンプレートを記憶部12から読みだして管理者端末3に送信する(ステップS1)。ここで、作業帳票のテンプレートは、図4に例示した作業帳票の2行目以降を空欄としたものであってもよい。また、カスタム辞書のテンプレートは、図7に示す記載例を例示したファイルとしてもよい。
管理者は、ダウンロードしたテンプレートを用いて作業帳票、および、必要に応じてカスタム辞書を作成する(ステップS2)。ここでは、一例として、図4に示す作業帳票と、図7に示す<装置型番>を定義するカスタム辞書が作成されたものとする。管理者端末3は、管理者が作成した作業帳票およびカスタム辞書を管理サーバ1にアップロードする(ステップS3)。
管理サーバ1の通信部11は管理者端末3から送信された作業帳票およびカスタム辞書を記憶部12に保存する。また、辞書登録部13は作業帳票に含まれる入力候補(例えば、選択肢、数値の書式、カスタム辞書など)に基づいて、入力候補となる語句とその読みを音声認識辞書に登録する(ステップS4)。
携帯端末2の通信部21は、携帯端末2を用いて検査・点検作業を実施する作業者名を管理サーバ1に送信する(ステップS5)。管理サーバ1の通信部11は携帯端末2から作業者の登録を受け付け、受け付けた作業者名を記憶部12の作業者ファイルに保持する(ステップS6)。
検査・点検作業を開始する際、携帯端末2の通信部21は管理サーバ1が管理者端末3から受け付けた作業帳票と、管理サーバ1が生成した音声認識辞書を管理サーバ1から取得し、取得した作業帳票および音声認識辞書を記憶部22に保持する(ステップS7)。このとき、携帯端末2は作業を開始した旨を管理サーバ1に通知し、これに応じて管理サーバ1は作業帳票のリストを携帯端末2に提示し、携帯端末2によって選択された作業帳票を携帯端末2に送信するようにしてもよい。
次に、現場の作業者は携帯端末2を用いて、検査・点検作業を実施する(ステップS8)。図10は、図9の作業実施(ステップS8)の際の携帯端末2の動作を例示するフロー図である。
図10を参照すると、例えば、図4に示す作業帳票の場合、最初の作業項目として「装置・汚れ」が選択される(ステップA1)。このとき、提示部23は「装置・汚れ」という文字を携帯端末2のディスプレイに表示しつつ、「装置の周囲に汚れは」という音声案内を行う(ステップA2)。
ここでは、作業者が装置の周囲を観察し、汚れがないことを確認して、例えば「かくにんしゅうりょう」と発声したとする。すると、音声認識部24は、図4に示す作業帳票の作業項目「装置・汚れ」を実施する際に作業者が発した音声入力が音声認識辞書に蓄積された「かくにんかんりょう」および「よごれあり」のうちの「かくにんかんりょう」に近似するものと判定し、当該作業項目に対する作業結果の入力語句が「確認完了」であると決定する(ステップA3)。また、提示部23は、音声認識部24が認識した入力語句「確認完了」を音声で作業者に復唱する(ステップA4)。
作業者から訂正を行うための所定の操作(音声入力、タップ操作など)が携帯端末2に対して行われた場合(ステップA5のYes)、ステップA3に戻り、作業からの音声入力(またはテキスト入力)を再度受け付ける。
一方、作業者から訂正を行うための所定の操作が携帯端末2に対して行われない場合(ステップA5のNo)、図8に示すように、作業項目「装置・汚れ」について、作業結果「確認完了」と作業時間「20秒」が作業結果ファイルに蓄積される(ステップA6)。
次に、提示部23は作業帳票に未実施の作業項目が残っているかどうかを判定する(ステップA7)。未実施の作業項目が存在しない場合(ステップA7のNo)、検査・点検作業を終了する。
一方、未実施の作業項目が存在する場合(ステップA7のYes)、提示部23は次の作業項目(例えば「装置・ねじ緩み」)を選択し(ステップA8)、選択した作業項目についてディスプレイ表示および音声案内を行う(ステップA2)。
以上の動作を繰り返すことで、作業帳票に含まれる作業項目が順次実施される。未実施の作業項目が無くなると(ステップA7のNo)、検査・点検作業は終了する。ここでは、図4に示す作業帳票に対して、図8に示す作業結果ファイルが得られたものとする。
図9の説明に戻る。作業帳票に含まれるすべての作業項目が完了すると、携帯端末2の通信部21は作業結果ファイル(図8)を管理サーバ1にアップロードする(図9のステップS9)。管理サーバ1の通信部11は、受信した作業結果ファイルを記憶部12に記録する(ステップS10)。
管理者は、管理者端末3を用いて管理サーバ1から作業結果ファイル(図8)をダウンロードし(ステップS11)、検査・点検作業が問題なく行われたかどうかを確認する(ステップS12)。
[効果]
本実施形態に係る作業支援システムでは、管理サーバは各作業項目の作業結果として作業者が音声入力する入力候補を作業帳票として受け付け、受け付けた作業帳票に含まれる入力候補を音声認識用の音声認識辞書に事前に登録する。また、携帯端末は管理サーバから取得した音声認識辞書を用いて作業者の音声入力に対する音声認識を行う。かかる構成によると、入力候補が絞られるため雑音を拾うおそれがなくなる。したがって、本実施形態によると、工場のような騒音環境における音声入力の認識率が高まるという格別な効果がもたらされる。
すなわち、本実施形態では、作業項目と作業結果の入力候補とが関連付けられているため、作業項目ごとに音声認識の対象となる単語(認識単語)に限定(ないし制約)を課すように携帯端末側で制御することができ、これにより音声認識性能が向上する。また、本実施形態によると、入力候補において典型的な発話のブレ(例えばおっけー/おーけー、じゃんぷ/じゃん等)を定義することができ、発話のブレが存在する場合であっても高い認識率を確保することができる。
また、本実施形態に係る作業支援システムによると、作業開始前の事前準備として、現場管理者などが作業項目と作業結果の入力候補とを関連付けた帳票を管理サーバに登録するのみでよい。したがって、かかる作業支援システムによると、さまざまな分野の検査・点検作業に対してシステムを適用でき、作業項目を容易に変更することもできる。
さらに、本実施形態では、数値、カスタムなどの入力種別を設けたことにより、管理者は作業帳票やカスタム辞書に対するわずかな編集作業を行うだけで、所定の形式の数値、文字列のあらゆる組み合わせ(例えば英字と数字の並び)について、音声認識辞書を定義することができる。
<実施形態1の変形例>
第1の実施形態において、作業帳票に複数の作業項目が含まれる場合(図4参照)、管理サーバ1の辞書登録部13は、図3に示す音声認識辞書を、作業項目ごとの辞書の集合として生成してもよい。具体的には、管理サーバ1において、辞書登録部13は、作業帳票に複数の作業項目が含まれる場合、各作業項目に関連付けられた作業結果候補を、作業項目ごとの辞書に登録し、通信部11は、作業帳票を携帯端末2に送信する際、作業帳票に含まれる各作業項目に対応する各辞書とともに送信する。一方、携帯端末2において、通信部21は、作業帳票に複数の作業項目が含まれる場合、作業帳票を取得する際、各作業項目に関連付けられた作業項目ごとの辞書を取得し、音声認識部24は、音声入力を、各作業項目ごとの辞書を用いて音声認識する。かかる構成によると、音声認識の際に作業項目に対応する辞書を参照することで、音声認識の認識率を向上させることができる。
なお、辞書登録部13は、作業結果候補を作業項目と関連付けて辞書に登録する代わりに、作業結果候補を作業帳票と関連付けて辞書に登録してもよい。
さらに、通信部21は、複数の作業帳票を管理サーバ1からダウンロードするようにしてもよい。このとき、携帯端末2は、音声認識部24を利用することで、作業帳票名の音声発話を認識して、ダウンロード済みの複数の作業帳票の中から所望の作業帳票を選択可能としてもよい。
<実施形態2>
次に、第2の実施形態に係る作業支援システムについて、図面を参照して説明する。本実施形態の作業支援システムは、作業者の検査・点検作業に対する習熟度(例えば、熟練者、初心者など)を判定し、習熟度に応じて作業内容の案内および入力候補を切り替える。以下では、主に本実施形態と第1の実施形態との差異点について説明する。なお、ここでは、簡単のため、習熟度を2段階(初心者と熟練者)とする。ただし、さらに多くの段階の習熟度を設定可能としてもよい。
[構成]
図11は、本実施形態に係る作業支援システムの構成を例示するブロック図である。図11を参照すると、本実施形態の携帯端末2は、さらに習熟度判定部26を備えている点で、第1の実施形態の携帯端末2(図2)と相違する。また、本実施形態では、作業帳票のフォーマットが第1の実施形態とは異なる。
図12は、本実施形態における作業帳票のフォーマットを例示する。本実施形態の作業帳票は、熟練者用および初心者用の「作業内容(読み上げ用)」を有する。また、本実施形態の作業帳票は、熟練者用および初心者用の「選択肢」を有する。なお、本実施形態の作業帳票では、「作業内容(読み上げ用)」および「選択肢」の双方について、習熟度に応じた記入を可能としたが、これらの一方についてのみ習熟度に応じた記入を可能としてもよい。
習熟度判定部26は、作業者ごとに作業帳票を用いて実施した検査・点検作業の回数を記録する。また、習熟度判定部26は、当該作業帳票を用いた作業者の作業回数が所定の回数以上となった場合、作業者の習熟度を「熟練者」と判定し、それ以外の場合、「初心者」と判定する。なお、習熟度判定部26は、作業者の習熟度に対する指定(例えば作業者による携帯端末2への習熟度の入力、管理者による管理サーバ1への習熟度の登録と携帯端末2への通知など)を受け付けた場合、作業者は指定された習熟度を有するものと見なしてもよい。
提示部23は、習熟度判定部26の判定結果に応じて、作業項目の内容を示す作業内容を読み上げる(音声出力する)。
例えば、図12に示す作業帳票の作業項目「装置・ねじ緩み」を実施する際、作業者が「熟練者」である場合、提示部23は「装置・ねじ緩み」を携帯端末2のディスプレイに表示しつつ「ねじ確認」という音声案内を行う。一方、作業項目「装置・ねじ緩み」を実施する際、作業者が「初心者」である場合、提示部23は「装置・ねじ緩み」を携帯端末2のディスプレイに表示しつつ「装置のねじに緩みは、8か所確認」という音声案内を行う。
さらに、音声認識部24は、作業帳票に含まれる作業項目を実施する際に受け付けた音声入力を、作業者の習熟度に応じて指定された選択肢に基づいて音声認識する。
例えば、音声認識部24は、図12に示す作業帳票の作業項目「装置・外観異常」を実施する際、作業者が熟練者である場合、作業者が発話した音声が音声認識辞書に蓄積された「かくにんかんりょう」、「きず」、「よごれ」、「はそん」、「おいるふちゃく」のいずれに近似するかを判定し、当該作業項目に対する作業結果の入力語句が「確認完了」、「傷」、「汚れ」、「破損」、「オイル付着」のいずれであるかを決定する。一方、音声認識部24は、作業項目「装置・外観異常」を実施する際、作業者が初心者である場合、作業者が発話した音声が、音声認識辞書に蓄積された「かくにんかんりょう」、「いじょうあり」のいずれに近似するかを判定し、当該作業項目に対する作業結果の入力語句が「確認完了」、「異常あり」のいずれであるかを決定する。
[動作]
本実施形態の作業支援システムの動作は、作業実施(図9のステップS8)の際、携帯端末2の習熟度判定部26が作業者の習熟度を判定する点と、判定結果に応じて作業内容の音声案内(図10のステップA2)および音声認識(図10のステップA3)が行われる点で、第1の実施形態と相違する。ただし、その他の動作については、本実施形態の動作は第1の実施形態の動作と同様である。
[効果]
本実施形態では、作業者の習熟度を判定し、判定した習熟度に応じた作業内容の音声案内および作業結果の音声入力を行うようにした。かかる構成によると、熟練者に対しては相対的に短い(簡潔な)メッセージで作業内容を案内することができ、熟練者による作業効率をさらに向上させることができる。一方、初心者に対してはより詳細な作業内容を案内することで、作業手順の誤りを防ぐことが可能となる。
また、作業者の習熟度に応じた入力候補の選択肢を設けたことにより、初心者による検査・点検作業からは大まかな作業結果を取得し、熟練者による検査・点検作業から詳細な作業結果を収集することもできる。
<実施形態2の変形例>
第2の実施形態について、以下の変形が可能である。具体的には、習熟度判定部26は、習熟度を作業帳票単位で判定する代わりに、作業者の作業項目ごとの習熟度を判定してもよい。この場合、提示部は、判定した習熟度に基づいて、読み上げ時の指示内容または画像もしくは動画による作業指示の提示内容を変更することが好ましい。また、習熟度判定部26は、複数の作業者について同一の作業項目の作業時間を比較することで、各作業者の当該作業項目に対する習熟度を判定してもよい。さらに、習熟度判定部26は、判定した習熟度を作業者に提示してもよい。
また、携帯端末2は、作業項目ごとに設定された標準時間(すなわち作業者が作業項目を実施するのに要する標準的な時間)を過去(例えば別の作業日)にクリアして(すなわち下回って)いた作業者の作業時間が標準時間を超える回数が所定の閾値以上となった場合、当該作業者は疲労状態にあるものと判定する(さらに表示する)疲労度判定部を備えていてもよい。
さらに、習熟度判定部26は、同一の作業項目に要する作業時間の平均値を測定し、測定した平均値と作業者の作業時間とを比較して、当該作業者の習熟度を判定してもよい。
また、作業者の携帯端末2に、作業項目ごとの作業時間や、作業項目ごとの標準時間との差をフィードバック可能とすることで、作業員に気付きを促すようにしてもよい。具体的には、以下のように実現することが可能である。すなわち、携帯端末2は作業時間の実測値を計測および保持する。また、作業帳票(図4)には、作業項目ごとに標準時間の列を設ける。さらに、作業時間の実測値と標準時間との差を、携帯端末2で計算するか、または、携帯端末2と常時接続された管理サーバ1で計算し、計算した結果を携帯端末2に返却する。なお、作業時間の実測値と標準時間との差が閾値以上である場合、携帯端末2は所定の表示(例えば赤色等)を行うか、または警告音を出す等のアラートを出力し、作業員の気付きを促すようにしてもよい。
<実施形態3>
次に、第3の実施形態に係る作業支援システムについて、図面を参照して説明する。本実施形態の作業支援システムでは、作業結果に応じて次に実施する作業項目を検査・点検中に切り替える(条件分岐する)ことを可能とする。以下、本実施形態と第1の実施形態との差分を中心に説明する。
[構成]
本実施形態に係る作業支援システムの構成は、第1の実施形態の作業支援システムの構成(図2)と同様である。ただし、本実施形態と第1の実施形態では、提示部23の機能、および、作業帳票のフォーマットが相違する。
図13は、本実施形態における作業帳票の構成を例示する図である。図13を参照すると、作業帳票は「条件分岐」の欄を有し、第1の作業項目の作業結果に応じて第1の作業項目の次に実施すべき第2の作業項目と第1の作業項目とを関連付けて保持する。
図13に例示する作業帳票では、作業項目「装置・外観異常」の作業結果として入力された音声が「異常あり」と音声認識された場合、提示部23は次に実施すべき作業項目として作業項目「装置・異常の原因」を選択する。すなわち、提示部23は作業項目「装置・異常の原因」を携帯端末2のディスプレイに表示しつつ「装置の外観異常の原因は」という音声案内を行う。
一方、作業項目「装置・外観異常」の作業結果として入力された音声が「確認完了」と音声認識された場合、提示部23は次に実施すべき作業項目として作業項目「装置型番」を選択する。すなわち、提示部23は作業項目「装置・異常の原因」をスキップし、作業項目「装置型番」を携帯端末2のディスプレイに表示すると同時に「装置型番は」という音声案内を行う。
図13に例示した帳票では、作業結果に応じた遷移先(分岐先)の作業項目は同一の作業帳票内に記載されている。一方、図14に示すように遷移先(分岐先)の作業項目は他の作業帳票に記載された作業項目であってもよい。図14に例示する作業帳票では、作業帳票Aの作業項目「装置・外観異常」の作業結果が「異常あり」の場合、提示部23は次に実施すべき作業項目として作業帳票Bの作業項目「装置・異常の原因」を選択する。さらに、作業帳票Bの作業項目「装置・異常の原因」が終了すると、提示部23は次に実施すべき作業項目として作業帳票Aの作業項目「装置型番」を選択する。
[動作]
本実施形態の作業支援システムの動作は、作業実施(図9のステップS8)の際、提示部23が作業帳票の条件分岐欄に記載された条件に従って次に実施すべき作業項目へと遷移する点で第1の実施形態の動作と相違する。ただし、その他の動作については、本実施形態は第1の実施形態と同様である。
[効果]
本実施形態によると、途中の作業項目の作業結果に応じて、次に実施すべき作業項目を柔軟に切り替えることが可能となる。したがって、作業結果次第では省略し得る作業項目を飛ばして作業を進めることができ、検査・点検作業を効率良く実施することが可能となる。さらに、本実施形態によると、作業結果に応じて複数の作業帳票を切り替えることができる。かかる構成によると、作業の内容に応じて作業項目を分類して複数の作業帳票に分けて管理することができ、管理者による作業帳票の作成および管理が容易となる。
<実施形態4>
次に、第4の実施形態に係る作業支援システムについて、図面を参照して説明する。本実施形態の作業支援システムでは、作業者の発話の特徴を事前に学習し、作業者による音声入力の認識率のさらに向上させる。以下、本実施形態と第1の実施形態との差異点を中心に説明する。
[構成]
図15は、本実施形態に係る作業支援システムの構成を例示するブロック図である。図15を参照すると、本実施形態の携帯端末2は話者学習部27をさらに有する点で、第1の実施形態と相違する。図16は、本実施形態に係る作業支援システムにおいて管理サーバ1および携帯端末2が保持するデータを例示する図である。図16を参照すると、本実施形態の管理サーバ1および携帯端末2は、作業者による発話の特徴を学習した結果である学習結果ファイルをさらに保持する点で、第1の実施形態と相違する。
話者学習部27は、複数(一例として50個程度)の単語とその読みを作業者に提示し、提示した単語を読み上げるように作業者に指示する。話者学習部27は、例えば作業者が発話した音声を正しく認識できるまで作業者に発話を繰り返させるなどの方法により、作業者の発話の特徴を学習する。学習が完了すると、通信部21は、学習結果を作業者名と関連付けた学習結果ファイルを管理サーバ1にアップロードする。管理サーバ1の通信部11は受信した学習結果ファイルを記憶部12(図16)に記録する。
また、本実施形態では、検査・点検作業の開始前に、携帯端末2の通信部21は作業者に対応する学習結果ファイルを管理サーバ1からダウンロードして記憶部22(図16)に保持する。さらに、検査・点検作業の実施時に、音声認識部24は、作業項目を実施する際に受け付けた音声入力を、記憶部22が保持する音声認識辞書と学習結果ファイルを用いて音声認識する。
[動作]
図17は、本実施形態に係る作業支援システムの動作を例示するシーケンス図である。ここでは、本実施形態と第1の実施形態の差分について説明する。
本実施形態では、検査・点検作業を実施する前に、話者学習部27は話者学習を実施する(ステップS13)。また、携帯端末2の通信部21は作業者名を管理サーバ1に送信する際、学習結果ファイルを併せて送信する(ステップS5)。さらに、管理サーバ1の通信部11は携帯端末2から作業者名と学習結果ファイルの登録を受け付け、受け付けた作業者名と学習結果ファイルを記憶部12に保持する(ステップS6)。
また、検査・点検作業を開始する前に、携帯端末2の通信部21は作業帳票および音声認識辞書とともに、学習結果ファイルを管理サーバ1から取得し、取得した作業帳票、音声認識辞書および学習結果ファイルを記憶部22に保持する(ステップS7)。
さらに、検査・点検作業(ステップS8)に含まれる音声認識(図10のステップA3)の際、音声認識部24は作業者による音声入力を、記憶部22が保持する音声認識辞書のみならず学習結果ファイルを用いて音声認識する。
[効果]
本実施形態によると、作業帳票から抽出された入力候補に基づく音声認識辞書のみならず、作業者の発話の特徴を事前に学習した学習結果ファイルを併用して音声認識を行うことにより、高騒音下であっても作業者が意図した通りの音声入力をさらに高い認識率で実現することができる。
<実施形態5>
次に、第5の実施形態に係る作業支援システムについて、図面を参照して説明する。本実施形態の作業支援システムでは、作業内容の読み上げおよび音声認識結果の復唱の際における、正しい読みを可能とする。以下、本実施形態と第1の実施形態との差分を中心に説明する。
[構成]
本実施形態に係る作業支援システムの構成は、第1の実施形態の作業支援システムの構成(図2)と同様である。ただし、本実施形態と第1の実施形態では、管理サーバ1および携帯端末2が保持するデータが相違する。図18は、本実施形態に係る作業支援システムにおいて管理サーバ1および携帯端末2が保持するデータを例示する図である。図18を参照すると、本実施形態の管理サーバ1および携帯端末2は、単語とその読みとを関連付けた読み上げ辞書をさらに保持する点で、第1の実施形態と相違する。
読み上げ辞書には、特に難読語句、専門用語、業界用語、社内用語などの語句とその読みを登録しておくことが好ましい。また、作業内容(読み上げ用)の読み上げ、および、音声認識結果の復唱の際に正しく読み上げられなかった語句と読みを、随時読み上げ辞書に登録するようにしてもよい。
また、本実施形態では、管理サーバ1の通信部11は、管理者端末3の要求に応じて作業帳票、カスタム辞書および読み上げ辞書のテンプレートを管理者端末3に送信する。さらに、通信部11は管理者端末3から記載済の作業帳票、カスタム辞書および読み上げ辞書を受け付け、受け付けた作業帳票、カスタム辞書および読み上げ辞書を記憶部12(図18)に保持する。
また、本実施形態では、携帯端末2の通信部21は作業帳票および音声認識辞書とともに読み上げ辞書を管理サーバ1からダウンロードして記憶部22(図18)に保持する。さらに、提示部23は、作業項目をディスプレイに表示しつつ作業内容を読み上げる際、読み上げ辞書を参照して読み上げを実施する。また、提示部23は、音声認識部24が認識した入力語句を復唱する際にも、読み上げ辞書に登録された入力語句の読みを参照して読み上げを行う。
[動作]
図19は、本実施形態に係る作業支援システムの動作を例示するシーケンス図である。ここでは、本実施形態と第1の実施形態の差分を中心に説明する。
図19を参照すると、管理者端末3は作業帳票(および必要に応じてカスタム辞書)のテンプレートとともに、読み上げ辞書のテンプレートを管理サーバ1からダウンロードする(ステップS1)。読み上げ辞書のテンプレートは、例えば、語句とその読みの定義方法を例示したファイルとしてもよい。
管理者は、ダウンロードしたテンプレートを用いて作業帳票、カスタム辞書および読み上げ辞書を作成する(ステップS2)。管理者端末3は管理者が作成した作業帳票、カスタム辞書および読み上げ辞書を管理サーバ1にアップロードする(ステップS3)。管理サーバ1の通信部11は管理者端末3から送信された作業帳票、カスタム辞書および読み上げ辞書を記憶部12に保存する(ステップS4)。
検査・点検作業を開始する前に、携帯端末2の通信部21は作業帳票および音声認識辞書とともに読み上げ辞書を管理サーバ1から取得し、取得した作業帳票、音声認識辞書および読み上げ辞書を記憶部22に保持する(ステップS7)。
また、検査・点検作業(ステップS8)を実施する際、提示部23は、作業項目をディスプレイに表示しつつ作業内容を読み上げる際、読み上げ辞書を参照して読み上げを実施する(図10のステップA2)。さらに、提示部23は、音声認識部24が認識した入力語句を復唱する際、読み上げ辞書に登録された当該語句の読みに基づいて読み上げを行う(図10のステップA4)。
[効果]
本実施形態によると、作業内容や入力候補の選択肢に専門用語などが含まれる場合であっても、正しい読みに従って音声案内や復唱を行うことができ、誤った読みによって作業者を混乱させたり、作業を中断させたりすることなく、検査・点検作業をスムーズに進めることが可能となる。
<変形例>
上記実施形態に対してさまざまな変形が可能である。例えば、図4に例示した作業帳票において、さらに、作業項目と当該作業項目において作業対象とされる装置(または製品)の画像(静止画)または動画を関連付けて保持するようにしてもよい。この場合、提示部23は、作業項目を実施する際に作業項目名と併せて、作業項目に関連付けられた対象装置(または対象製品)の画像または動画を携帯端末2のディスプレイに表示する(図10のステップA2)。また、提示部23は、当該作業項目の内容を表す作業内容を読み上げるのに伴い、対象装置(または対象製品)の画像または動画を表示中である旨を音声で作業者に通知する(図10のステップA2)ことが好ましい。
かかる変形例によると、作業者は各作業項目において検査・点検の対象とすべき装置(または製品)を容易に把握することができ、迅速かつ正確に作業を進めることができる。
なお、本発明において、下記の形態が可能である。
[形態1]
上記第1の態様に係る管理サーバのとおりである。
[形態2]
前記作業結果候補は、少なくとも作業結果の種別を表す種別情報を含み、前記種別情報は、前記作業結果の種別が少なくとも文字列、数値、カスタム、または、読み取りのいずれか1つであることを表す、
形態1に記載の管理サーバ。
[形態3]
前記受付部は、前記種別が文字列であることを表す前記種別情報と、文字列と、前記文字列に対する1つ以上の読み方を表す文字列の読み情報とを含む前記作業結果候補を保持する帳票情報を受け付け、
前記辞書登録部は、前記文字列に対応付けて、1つ以上の前記文字列の読み情報を前記辞書に登録する、
形態2に記載の管理サーバ。
[形態4]
前記受付部は、前記種別が数値であることを表す前記種別情報と数値の書式とを含む前記作業結果候補を保持する帳票情報を受け付け、
前記辞書登録部は、前記数値の書式に対応付けて、前記数値の読み情報を前記辞書に登録する、
形態1ないし3のいずれか一に記載の管理サーバ。
[形態5]
前記受付部は、前記種別がカスタムであることを表す前記種別情報と、文字列を所定のルールで定義したときのルール名とを含む前記作業結果候補を保持する帳票情報を受け付けるとともに、前記ルール名と前記所定のルールに基づく前記文字列の定義とを対応付けて保持するファイルを受け付け、
前記辞書登録部は、前記ルール名に対応付けて、前記所定のルールに基づく前記文字列の読み情報を前記辞書に登録する、
形態1ないし4のいずれか一に記載の管理サーバ。
[形態6]
前記辞書登録部は、前記帳票情報に複数の前記作業項目情報が含まれる場合、前記各作業項目情報に関連付けられた前記作業結果候補を、前記作業項目情報ごとの辞書に登録し、
前記送信部は、前記帳票情報を送信する際に、前記帳票情報に含まれる前記各作業項目情報に対応する前記各辞書とともに送信する、
形態1ないし5のいずれか一に記載の管理サーバ。
[形態7]
前記送信部は、前記帳票情報と前記帳票情報と関連付けられた辞書を携帯端末に送信し、
前記携帯端末は、前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識するとともに音声認識した結果を前記作業項目情報に対する作業結果として保持する、
形態1ないし6のいずれか一に記載の管理サーバ。
[形態8]
前記携帯端末は、前記作業結果候補に含まれる前記種別情報が読み取りを表す場合に、作業対象物の識別情報を読み取る読取手段を介して受け付けた情報を、前記作業項目情報に対する作業結果として保持する、
形態7に記載の管理サーバ。
[形態9]
前記作業項目情報は、前記作業項目の名称と前記作業項目の内容を表す情報を関連付けて保持し、
前記携帯端末は、前記作業項目の名称を表示するとともに、前記作業項目の内容を表す情報を読み上げる、
形態7または8に記載の管理サーバ。
[形態10]
前記携帯端末は、前記作業項目情報を提示してから前記音声認識が完了するまでに要した時間を前記作業項目情報と関連付けて記録する、
形態7ないし9のいずれか一に記載の管理サーバ。
[形態11]
前記受付部は、前記作業項目情報、および/または、前記作業結果候補を、作業者の習熟度別に保持する前記帳票情報を受け付け、
前記辞書登録部は、前記帳票情報に含まれる習熟度別の作業結果候補を作業項目と関連付けて前記辞書に登録し、
前記携帯端末は、前記作業者の習熟度に応じて前記作業項目情報を提示し、かつ/または、前記辞書のうちの前記作業者の習熟度に対応する作業結果候補を用いて前記音声認識を行う、
形態7ないし10のいずれか一に記載の管理サーバ。
[形態12]
前記携帯端末は、作業者による前記帳票情報を用いた作業回数を作業者ごとに保持し、前記作業回数に基づいて前記作業者の習熟度を判定し、判定した習熟度を用いて前記作業項目情報の提示、および/または、前記音声認識を行う、
形態11に記載の管理サーバ。
[形態13]
前記受付部は、第1の作業項目を表す第1の作業項目情報と前記第1の作業項目の作業結果に応じて前記第1の作業項目の次に実施すべき第2の作業項目を表す第2の作業項目情報とを関連付けて保持する帳票情報を受け付け、
前記携帯端末は、前記第1の作業項目情報に対して受け付けた音声入力を音声認識した結果に応じて、前記第2の作業項目を選択する、
形態7ないし12のいずれか一に記載の管理サーバ。
[形態14]
前記受付部は、前記第1の作業項目情報と前記第2の作業項目情報とを関連付けて保持する第1の帳票情報、および、前記第2の作業項目情報を保持する第2の帳票情報を受け付け、
前記携帯端末は、前記第1の作業項目情報に対して受け付けた音声入力を音声認識した結果に応じて、前記第2の作業項目を前記第2の帳票情報から選択する、
形態13に記載の管理サーバ。
[形態15]
上記第2の態様に係る携帯端末のとおりである。
[形態16]
前記通信部は、前記帳票情報に複数の前記作業項目情報が含まれる場合、前記帳票情報を取得する際に、前記各作業項目情報に関連付けられた作業項目ごとの辞書を取得し、
前記音声認識部は、前記音声入力を、前記各作業項目ごとの辞書を用いて音声認識する、
形態15に記載の携帯端末。
[形態17]
前記通信部は、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付けて前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録するとともに、前記帳票情報と前記辞書とを関連付けて記憶する管理サーバから、前記帳票情報と、前記帳票情報と関連付けられた辞書を取得する、
形態15に記載の携帯端末。
[形態18]
前記作業結果候補は、少なくとも作業結果の種別を表す種別情報を含み、前記種別情報は、前記作業結果の種別が少なくとも文字列、数値、カスタム、または、読み取りのいずれか1つであることを表す、
形態17に記載の携帯端末。
[形態19]
前記作業結果候補に含まれる前記種別情報が読み取りを表す場合に、作業対象物の識別情報を読み取る読取手段を備え、
前記記憶部は、前記読取手段を介して受け付けた情報を、前記作業項目情報に対する作業結果として保持する、
形態18に記載の携帯端末。
[形態20]
前記作業項目情報は、前記作業項目の名称と前記作業項目の内容を表す情報を関連付けて保持し、
前記提示部は、前記作業項目の名称を表示するとともに、前記作業項目の内容を表す情報を読み上げる、
形態16ないし19のいずれか一に記載の携帯端末。
[形態21]
前記記憶部は、前記作業項目情報を提示してから前記音声認識が完了するまでに要した時間を前記作業項目情報と関連付けて記録する、
形態16ないし20のいずれか一に記載の携帯端末。
[形態22]
前記音声認識に失敗した場合、前記作業結果候補を表示し、前記記憶部は、表示した前記作業結果候補のうちの選択された作業結果を前記作業項目情報に対する作業結果として保持する、
形態18に記載の携帯端末。
[形態23]
前記通信部は、前記管理サーバから複数の帳票情報を取得し、
前記音声認識部は、前記複数の帳票情報のうちの少なくともいずれかの帳票情報の名称に対する音声発話を認識する、
形態17に記載の携帯端末。
[形態24]
前記帳票情報は、前記作業項目情報と作業対象物の静止画または動画とを関連付けて保持し、
前記提示部は、前記作業項目情報とともに前記静止画または動画を表示する、
形態15に記載の携帯端末。
[形態25]
形態1ないし14のいずれか一に記載の管理サーバと、
形態15ないし24のいずれか一に記載の携帯端末と、を備える、
ことを特徴とする作業支援システム。
[形態26]
上記第4の態様に係る作業支援方法のとおりである。
[形態27]
上記第5の態様に係る作業支援方法のとおりである。
[形態28]
上記第6の態様に係るプログラムのとおりである。
[形態29]
上記第7の態様に係るプログラムのとおりである。
なお、上記特許文献の全開示内容は、本書に引用をもって繰り込み記載されているものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態の変更・調整が可能である。また、本発明の全開示の枠内において種々の開示要素(各請求項の各要素、各実施形態の各要素、各図面の各要素などを含む)の多様な組み合わせ、ないし、選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
1 管理サーバ
2 携帯端末
3 管理者端末
11 通信部
12 記憶部
13 辞書登録部
21 通信部
22 記憶部
23 提示部
24 音声認識部
25 読取部
26 習熟度判定部
27 話者学習部

Claims (26)

  1. 作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付ける受付部と、
    前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録する辞書登録部と、
    前記帳票情報と前記辞書とを関連付けて記憶する記憶部と、
    前記帳票情報を送信する際に対応する辞書とともに送信する送信部と、を備える、
    ことを特徴とする管理サーバ。
  2. 前記作業結果候補は、少なくとも作業結果の種別を表す種別情報を含み、前記種別情報は、前記作業結果の種別が少なくとも文字列、数値、カスタム、または、読み取りのいずれか1つであることを表す、
    請求項1に記載の管理サーバ。
  3. 前記受付部は、前記種別が文字列であることを表す前記種別情報と、文字列と、前記文字列に対する1つ以上の読み方を表す文字列の読み情報とを含む前記作業結果候補を保持する帳票情報を受け付け、
    前記辞書登録部は、前記文字列に対応付けて、1つ以上の前記文字列の読み情報を前記辞書に登録する、
    請求項2に記載の管理サーバ。
  4. 前記受付部は、前記種別が数値であることを表す前記種別情報と数値の書式とを含む前記作業結果候補を保持する帳票情報を受け付け、
    前記辞書登録部は、前記数値の書式に対応付けて、前記数値の読み情報を前記辞書に登録する、
    請求項1ないし3のいずれか1項に記載の管理サーバ。
  5. 前記受付部は、前記種別がカスタムであることを表す前記種別情報と、文字列を所定のルールで定義したときのルール名とを含む前記作業結果候補を保持する帳票情報を受け付けるとともに、前記ルール名と前記所定のルールに基づく前記文字列の定義とを対応付けて保持するファイルを受け付け、
    前記辞書登録部は、前記ルール名に対応付けて、前記所定のルールに基づく前記文字列の読み情報を前記辞書に登録する、
    請求項1ないし4のいずれか1項に記載の管理サーバ。
  6. 前記辞書登録部は、前記帳票情報に複数の前記作業項目情報が含まれる場合、前記各作業項目情報に関連付けられた前記作業結果候補を、前記作業項目情報ごとの辞書に登録し、
    前記送信部は、前記帳票情報を送信する際に、前記帳票情報に含まれる前記各作業項目情報に対応する前記各辞書とともに送信する、
    請求項1ないし5のいずれか1項に記載の管理サーバ。
  7. 前記送信部は、前記帳票情報と前記帳票情報と関連付けられた辞書を携帯端末に送信し、
    前記携帯端末は、前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識するとともに音声認識した結果を前記作業項目情報に対する作業結果として保持する、
    請求項1ないし6のいずれか1項に記載の管理サーバ。
  8. 前記携帯端末は、前記作業結果候補に含まれる前記種別情報が読み取りを表す場合に、作業対象物の識別情報を読み取る読取手段を介して受け付けた情報を、前記作業項目情報に対する作業結果として保持する、
    請求項7に記載の管理サーバ。
  9. 前記作業項目情報は、前記作業項目の名称と前記作業項目の内容を表す情報を関連付けて保持し、
    前記携帯端末は、前記作業項目の名称を表示するとともに、前記作業項目の内容を表す情報を読み上げる、
    請求項7または8に記載の管理サーバ。
  10. 前記携帯端末は、前記作業項目情報を提示してから前記音声認識が完了するまでに要した時間を前記作業項目情報と関連付けて記録する、
    請求項7ないし9のいずれか1項に記載の管理サーバ。
  11. 前記受付部は、前記作業項目情報、および/または、前記作業結果候補を、作業者の習熟度別に保持する前記帳票情報を受け付け、
    前記辞書登録部は、前記帳票情報に含まれる習熟度別の作業結果候補を作業項目と関連付けて前記辞書に登録し、
    前記携帯端末は、前記作業者の習熟度に応じて前記作業項目情報を提示し、かつ/または、前記辞書のうちの前記作業者の習熟度に対応する作業結果候補を用いて前記音声認識を行う、
    請求項7ないし10のいずれか1項に記載の管理サーバ。
  12. 前記携帯端末は、作業者による前記帳票情報を用いた作業回数を作業者ごとに保持し、前記作業回数に基づいて前記作業者の習熟度を判定し、判定した習熟度を用いて前記作業項目情報の提示、および/または、前記音声認識を行う、
    請求項11に記載の管理サーバ。
  13. 前記受付部は、第1の作業項目を表す第1の作業項目情報と前記第1の作業項目の作業結果に応じて前記第1の作業項目の次に実施すべき第2の作業項目を表す第2の作業項目情報とを関連付けて保持する帳票情報を受け付け、
    前記携帯端末は、前記第1の作業項目情報に対して受け付けた音声入力を音声認識した結果に応じて、前記第2の作業項目を選択する、
    請求項7ないし12のいずれか1項に記載の管理サーバ。
  14. 前記受付部は、前記第1の作業項目情報と前記第2の作業項目情報とを関連付けて保持する第1の帳票情報、および、前記第2の作業項目情報を保持する第2の帳票情報を受け付け、
    前記携帯端末は、前記第1の作業項目情報に対して受け付けた音声入力を音声認識した結果に応じて、前記第2の作業項目を前記第2の帳票情報から選択する、
    請求項13に記載の管理サーバ。
  15. 作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得する通信部と、
    前記作業項目情報を提示する提示部と、
    前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識する音声認識部と、
    音声認識した結果を前記作業項目情報に対する作業結果として保持する記憶部と、を備える、
    ことを特徴とする携帯端末。
  16. 前記通信部は、前記帳票情報に複数の前記作業項目情報が含まれる場合、前記帳票情報を取得する際に、前記各作業項目情報に関連付けられた作業項目ごとの辞書を取得し、
    前記音声認識部は、前記音声入力を、前記各作業項目ごとの辞書を用いて音声認識する、
    請求項15に記載の携帯端末。
  17. 前記通信部は、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付けて前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録するとともに、前記帳票情報と前記辞書とを関連付けて記憶する管理サーバから、前記帳票情報と、前記帳票情報と関連付けられた辞書を取得する、
    請求項15に記載の携帯端末。
  18. 前記作業結果候補は、少なくとも作業結果の種別を表す種別情報を含み、前記種別情報は、前記作業結果の種別が少なくとも文字列、数値、カスタム、または、読み取りのいずれか1つであることを表す、
    請求項17に記載の携帯端末。
  19. 前記作業結果候補に含まれる前記種別情報が読み取りを表す場合に、作業対象物の識別情報を読み取る読取手段を備え、
    前記記憶部は、前記読取手段を介して受け付けた情報を、前記作業項目情報に対する作業結果として保持する、
    請求項18に記載の携帯端末。
  20. 前記作業項目情報は、前記作業項目の名称と前記作業項目の内容を表す情報を関連付けて保持し、
    前記提示部は、前記作業項目の名称を表示するとともに、前記作業項目の内容を表す情報を読み上げる、
    請求項16ないし19のいずれか1項に記載の携帯端末。
  21. 前記記憶部は、前記作業項目情報を提示してから前記音声認識が完了するまでに要した時間を前記作業項目情報と関連付けて記録する、
    請求項16ないし20のいずれか1項に記載の携帯端末。
  22. 請求項1ないし14のいずれか1項に記載の管理サーバと、
    請求項15ないし21のいずれか1項に記載の携帯端末と、を備える、
    ことを特徴とする作業支援システム。
  23. 管理サーバが、作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付けるステップと、
    前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録するステップと、
    前記帳票情報と前記辞書とを関連付けて記憶するステップと、
    前記帳票情報を送信する際に対応する辞書とともに送信するステップと、を含む、
    ことを特徴とする作業支援方法。
  24. 携帯端末が、作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得するステップと、
    前記作業項目情報を提示するステップと、
    前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識するステップと、
    音声認識した結果を前記作業項目情報に対する作業結果として保持するステップと、を含む、
    ことを特徴とする作業支援方法。
  25. 作業項目を表す作業項目情報と作業結果候補とを関連付けて保持する帳票情報を受け付ける処理と、
    前記帳票情報に含まれる作業結果候補を作業項目または帳票情報と関連付けて辞書に登録する処理と、
    前記帳票情報と前記辞書とを関連付けて記憶する処理と、
    前記帳票情報を送信する際に対応する辞書とともに送信する処理と、をコンピュータに実行させる、
    ことを特徴とするプログラム。
  26. 作業項目を表す作業項目情報を含む帳票情報と、前記帳票情報と関連付けられた辞書を取得する処理と、
    前記作業項目情報を提示する処理と、
    前記作業項目情報に対して受け付けた音声入力を、前記辞書を用いて音声認識する処理と、
    音声認識した結果を前記作業項目情報に対する作業結果として保持する処理と、をコンピュータに実行させる、
    ことを特徴とするプログラム。
JP2016122804A 2016-06-21 2016-06-21 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム Active JP6744025B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016122804A JP6744025B2 (ja) 2016-06-21 2016-06-21 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム
PCT/JP2017/022626 WO2017221916A1 (ja) 2016-06-21 2017-06-20 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム
CN201780016642.2A CN108780542B (zh) 2016-06-21 2017-06-20 作业支持系统、管理服务器、便携式终端、作业支持方法以及程序
US16/082,335 US20190079919A1 (en) 2016-06-21 2017-06-20 Work support system, management server, portable terminal, work support method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016122804A JP6744025B2 (ja) 2016-06-21 2016-06-21 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2017228030A true JP2017228030A (ja) 2017-12-28
JP2017228030A5 JP2017228030A5 (ja) 2019-07-18
JP6744025B2 JP6744025B2 (ja) 2020-08-19

Family

ID=60784576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016122804A Active JP6744025B2 (ja) 2016-06-21 2016-06-21 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム

Country Status (4)

Country Link
US (1) US20190079919A1 (ja)
JP (1) JP6744025B2 (ja)
CN (1) CN108780542B (ja)
WO (1) WO2017221916A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109087644A (zh) * 2018-10-22 2018-12-25 奇酷互联网络科技(深圳)有限公司 电子设备及其语音助手的交互方法、具有存储功能的装置
JP2019203987A (ja) * 2018-05-23 2019-11-28 富士電機株式会社 システム、方法、及びプログラム
WO2021166402A1 (ja) * 2020-02-21 2021-08-26 オムロン株式会社 行動解析装置及び行動解析方法
JP2021189502A (ja) * 2020-05-25 2021-12-13 Mintomo株式会社 音声による点検データ保存方法、システム及びプログラム
WO2022113311A1 (ja) * 2020-11-27 2022-06-02 三菱電機株式会社 検査作業支援装置、検査作業支援方法、及び情報処理システム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190267002A1 (en) * 2018-02-26 2019-08-29 William Crose Intelligent system for creating and editing work instructions
CN111381629B (zh) * 2018-12-29 2024-05-14 玳能本股份有限公司 作业支援系统及作业支援方法
CN110335367B (zh) * 2019-07-11 2021-09-07 国家电网有限公司 设备巡检方法、设备巡检装置及终端设备

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11266306A (ja) * 1998-03-16 1999-09-28 Toshiba System Kaihatsu Kk スクリプト作成装置及びctiシステム
JP2005037597A (ja) * 2003-07-18 2005-02-10 Fuji Photo Film Co Ltd 設備の制御システム
JP2005181442A (ja) * 2003-12-16 2005-07-07 Fuji Electric Holdings Co Ltd 音声対話装置、その方法、プログラム
JP2005284543A (ja) * 2004-03-29 2005-10-13 Chugoku Electric Power Co Inc:The 業務支援システム及び方法
JP2007193661A (ja) * 2006-01-20 2007-08-02 Toshiba Mitsubishi-Electric Industrial System Corp 検査業務支援システム及びそれを用いた製品検査方法
JP2007529916A (ja) * 2004-02-03 2007-10-25 アドンド コーポレーション コンピュータでの音声通信
JP2008052676A (ja) * 2006-08-28 2008-03-06 Tokyo Electric Power Co Inc:The コンピュータ実行可能なプログラム、方法、および処理装置
JP2009237386A (ja) * 2008-03-28 2009-10-15 Mitsubishi Electric Information Systems Corp 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
JP2014206880A (ja) * 2013-04-12 2014-10-30 Tis株式会社 作業支援装置

Family Cites Families (90)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5033088A (en) * 1988-06-06 1991-07-16 Voice Processing Corp. Method and apparatus for effectively receiving voice input to a voice recognition system
US4994983A (en) * 1989-05-02 1991-02-19 Itt Corporation Automatic speech recognition system using seed templates
US5465318A (en) * 1991-03-28 1995-11-07 Kurzweil Applied Intelligence, Inc. Method for generating a speech recognition model for a non-vocabulary utterance
US5305244B2 (en) * 1992-04-06 1997-09-23 Computer Products & Services I Hands-free user-supported portable computer
US5452397A (en) * 1992-12-11 1995-09-19 Texas Instruments Incorporated Method and system for preventing entry of confusingly similar phases in a voice recognition system vocabulary list
US5613036A (en) * 1992-12-31 1997-03-18 Apple Computer, Inc. Dynamic categories for a speech recognition system
CA2220004A1 (en) * 1995-05-26 1996-11-28 John N. Nguyen Method and apparatus for dynamic adaptation of a large vocabulary speech recognition system and for use of constraints from a database in a large vocabulary speech recognition system
US5842168A (en) * 1995-08-21 1998-11-24 Seiko Epson Corporation Cartridge-based, interactive speech recognition device with response-creation capability
JP3605682B2 (ja) * 1996-05-16 2004-12-22 本田技研工業株式会社 音声入力制御装置
US6243680B1 (en) * 1998-06-15 2001-06-05 Nortel Networks Limited Method and apparatus for obtaining a transcription of phrases through text and spoken utterances
US6185530B1 (en) * 1998-08-14 2001-02-06 International Business Machines Corporation Apparatus and methods for identifying potential acoustic confusibility among words in a speech recognition system
US6208964B1 (en) * 1998-08-31 2001-03-27 Nortel Networks Limited Method and apparatus for providing unsupervised adaptation of transcriptions
SE9802990L (sv) * 1998-09-04 2000-03-05 Ericsson Telefon Ab L M Förfarande och system för taligenkänning
US6185535B1 (en) * 1998-10-16 2001-02-06 Telefonaktiebolaget Lm Ericsson (Publ) Voice control of a user interface to service applications
US6317039B1 (en) * 1998-10-19 2001-11-13 John A. Thomason Wireless video audio data remote system
US6839669B1 (en) * 1998-11-05 2005-01-04 Scansoft, Inc. Performing actions identified in recognized speech
US6928404B1 (en) * 1999-03-17 2005-08-09 International Business Machines Corporation System and methods for acoustic and language modeling for automatic speech recognition with large vocabularies
US6694296B1 (en) * 2000-07-20 2004-02-17 Microsoft Corporation Method and apparatus for the recognition of spelled spoken words
US6823373B1 (en) * 2000-08-11 2004-11-23 Informatica Corporation System and method for coupling remote data stores and mobile devices via an internet based server
US7925527B1 (en) * 2000-08-16 2011-04-12 Sparta Systems, Inc. Process control system utilizing a database system to monitor a project's progress and enforce a workflow of activities within the project
US6728676B1 (en) * 2000-10-19 2004-04-27 International Business Machines Corporation Using speech recognition to improve efficiency of an inventory task
US6975985B2 (en) * 2000-11-29 2005-12-13 International Business Machines Corporation Method and system for the automatic amendment of speech recognition vocabularies
JP2004516516A (ja) * 2000-12-18 2004-06-03 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 単語を認識するために発言を保存しボキャブラリーを選択する方法
US20020138269A1 (en) * 2001-03-20 2002-09-26 Philley Charles F. Voice recognition maintenance inspection program
US7286985B2 (en) * 2001-07-03 2007-10-23 Apptera, Inc. Method and apparatus for preprocessing text-to-speech files in a voice XML application distribution system using industry specific, social and regional expression rules
WO2003032191A1 (fr) * 2001-10-05 2003-04-17 Fujitsu Limited Systeme de traduction
US7996232B2 (en) * 2001-12-03 2011-08-09 Rodriguez Arturo A Recognition of voice-activated commands
US7219062B2 (en) * 2002-01-30 2007-05-15 Koninklijke Philips Electronics N.V. Speech activity detection using acoustic and facial characteristics in an automatic speech recognition system
US20040117243A1 (en) * 2002-04-15 2004-06-17 Anthony Chepil (Tony) Method and system for merchandising management
CN1241138C (zh) * 2002-11-20 2006-02-08 金宝电子工业股份有限公司 电子字典的查询次数累加记录与显示的方法及其装置
AU2003214512A1 (en) * 2003-04-07 2004-11-01 Nokia Corporation Method and device for providing speech-enabled input in an electronic device having a user interface
US20050033576A1 (en) * 2003-08-08 2005-02-10 International Business Machines Corporation Task specific code generation for speech recognition decoding
WO2006028464A1 (en) * 2003-09-05 2006-03-16 Wifi Med Llc Patient workflow process
JP2005122128A (ja) * 2003-09-25 2005-05-12 Fuji Photo Film Co Ltd 音声認識システム及びプログラム
US20050246177A1 (en) * 2004-04-30 2005-11-03 Sbc Knowledge Ventures, L.P. System, method and software for enabling task utterance recognition in speech enabled systems
US7813928B2 (en) * 2004-06-10 2010-10-12 Panasonic Corporation Speech recognition device, speech recognition method, and program
US7240010B2 (en) * 2004-06-14 2007-07-03 Papadimitriou Wanda G Voice interaction with and control of inspection equipment
KR100682897B1 (ko) * 2004-11-09 2007-02-15 삼성전자주식회사 사전 업데이트 방법 및 그 장치
JP4218758B2 (ja) * 2004-12-21 2009-02-04 インターナショナル・ビジネス・マシーンズ・コーポレーション 字幕生成装置、字幕生成方法、及びプログラム
US8589869B2 (en) * 2006-09-07 2013-11-19 Wolfram Alpha Llc Methods and systems for determining a formula
US9318108B2 (en) * 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8204739B2 (en) * 2008-04-15 2012-06-19 Mobile Technologies, Llc System and methods for maintaining speech-to-speech translation in the field
US20080109292A1 (en) * 2006-11-03 2008-05-08 Sap Ag Voice-enabled workflow item interface
GB2458238B (en) * 2006-11-30 2011-03-23 Nat Inst Of Advanced Ind Scien Web site system for voice data search
JP4451435B2 (ja) * 2006-12-06 2010-04-14 本田技研工業株式会社 言語理解装置、言語理解方法、及び、コンピュータプログラム
US20080312934A1 (en) * 2007-03-07 2008-12-18 Cerra Joseph P Using results of unstructured language model based speech recognition to perform an action on a mobile communications facility
US8200527B1 (en) * 2007-04-25 2012-06-12 Convergys Cmg Utah, Inc. Method for prioritizing and presenting recommendations regarding organizaion's customer care capabilities
US8059882B2 (en) * 2007-07-02 2011-11-15 Honeywell International Inc. Apparatus and method for capturing information during asset inspections in a processing or other environment
US8170874B2 (en) * 2007-07-02 2012-05-01 Canon Kabushiki Kaisha Apparatus and method for recognizing speech based on feature parameters of modified speech and playing back the modified speech
JP5178109B2 (ja) * 2007-09-25 2013-04-10 株式会社東芝 検索装置、方法及びプログラム
WO2009105652A2 (en) * 2008-02-22 2009-08-27 Vocollect, Inc. Voice-activated emergency medical services communication and documentation system
US8676904B2 (en) * 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US20120309363A1 (en) * 2011-06-03 2012-12-06 Apple Inc. Triggering notifications associated with tasks items that represent tasks to perform
US10276170B2 (en) * 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US9009592B2 (en) * 2010-06-22 2015-04-14 Microsoft Technology Licensing, Llc Population of lists and tasks from captured voice and audio content
US20120109686A1 (en) * 2010-11-01 2012-05-03 Oxbow Intellectual Property, LLC Electronic medical record system and method
JP5365644B2 (ja) * 2011-01-13 2013-12-11 オムロン株式会社 はんだ付け検査方法、およびはんだ付け検査機ならびに基板検査システム
CN102184652A (zh) * 2011-06-01 2011-09-14 张建强 一种演示文字书写过程的数字化方法及软件系统
JP2013019958A (ja) * 2011-07-07 2013-01-31 Denso Corp 音声認識装置
JP2013019942A (ja) * 2011-07-07 2013-01-31 Fuji Xerox Co Ltd 情報処理装置、画像形成装置及びプログラム
JP5891664B2 (ja) * 2011-09-08 2016-03-23 富士ゼロックス株式会社 情報管理装置、プログラム、および情報管理システム
US8918789B2 (en) * 2011-10-26 2014-12-23 International Business Machines Corporation Task assignment using ranking support vector machines
US9489940B2 (en) * 2012-06-11 2016-11-08 Nvoq Incorporated Apparatus and methods to update a language model in a speech recognition system
US9646604B2 (en) * 2012-09-15 2017-05-09 Avaya Inc. System and method for dynamic ASR based on social media
US10276157B2 (en) * 2012-10-01 2019-04-30 Nuance Communications, Inc. Systems and methods for providing a voice agent user interface
KR20140056664A (ko) * 2012-10-30 2014-05-12 삼성디스플레이 주식회사 광감지 패널의 검사 방법, 광감지 패널의 검사 장치 및 광검출 장치의 제조 방법
CN104756185B (zh) * 2012-11-05 2018-01-09 三菱电机株式会社 语音识别装置
US9620107B2 (en) * 2012-12-31 2017-04-11 General Electric Company Voice inspection guidance
US9218819B1 (en) * 2013-03-01 2015-12-22 Google Inc. Customizing actions based on contextual data and voice-based inputs
US9626658B2 (en) * 2013-03-15 2017-04-18 Thomas W. Mustaine System and method for generating a task list
US10489750B2 (en) * 2013-06-26 2019-11-26 Sap Se Intelligent task scheduler
US10565984B2 (en) * 2013-11-15 2020-02-18 Intel Corporation System and method for maintaining speech recognition dynamic dictionary
JP5929879B2 (ja) * 2013-12-06 2016-06-08 カシオ計算機株式会社 音声出力装置、プログラム、及び音声出力方法
US9466296B2 (en) * 2013-12-16 2016-10-11 Intel Corporation Initiation of action upon recognition of a partial voice command
US9858039B2 (en) * 2014-01-28 2018-01-02 Oracle International Corporation Voice recognition of commands extracted from user interface screen devices
CA2898078C (en) * 2014-02-05 2020-09-15 Grace Castillo Soyao Systems, devices, and methods for analyzing and enhancing patient health
US10803538B2 (en) * 2014-04-14 2020-10-13 Optum, Inc. System and method for automated data entry and workflow management
US9946985B2 (en) * 2014-04-15 2018-04-17 Kofax, Inc. Touchless mobile applications and context-sensitive workflows
KR102247533B1 (ko) * 2014-07-30 2021-05-03 삼성전자주식회사 음성 인식 장치 및 그 제어 방법
JP5946073B2 (ja) * 2014-11-07 2016-07-05 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 推定方法、推定システム、コンピュータ・システムおよびプログラム
US9947313B2 (en) * 2015-01-26 2018-04-17 William Drewes Method for substantial ongoing cumulative voice recognition error reduction
US20160275942A1 (en) * 2015-01-26 2016-09-22 William Drewes Method for Substantial Ongoing Cumulative Voice Recognition Error Reduction
KR20160098910A (ko) * 2015-02-11 2016-08-19 한국전자통신연구원 음성 인식 데이터 베이스 확장 방법 및 장치
US9865280B2 (en) * 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
CN105575402A (zh) * 2015-12-18 2016-05-11 合肥寰景信息技术有限公司 网络教学实时语音分析方法
US10460024B2 (en) * 2016-01-05 2019-10-29 Adobe Inc. Interactive electronic form workflow assistant that guides interactions with electronic forms in a conversational manner
US11423348B2 (en) * 2016-01-11 2022-08-23 Hand Held Products, Inc. System and method for assessing worker performance
CA3017121C (en) * 2016-01-29 2020-12-29 Liquid Analytics, Inc. Systems and methods for dynamic prediction of workflows
WO2017210784A1 (en) * 2016-06-06 2017-12-14 Nureva Inc. Time-correlated touch and speech command input
DK179343B1 (en) * 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11266306A (ja) * 1998-03-16 1999-09-28 Toshiba System Kaihatsu Kk スクリプト作成装置及びctiシステム
JP2005037597A (ja) * 2003-07-18 2005-02-10 Fuji Photo Film Co Ltd 設備の制御システム
JP2005181442A (ja) * 2003-12-16 2005-07-07 Fuji Electric Holdings Co Ltd 音声対話装置、その方法、プログラム
JP2007529916A (ja) * 2004-02-03 2007-10-25 アドンド コーポレーション コンピュータでの音声通信
JP2005284543A (ja) * 2004-03-29 2005-10-13 Chugoku Electric Power Co Inc:The 業務支援システム及び方法
JP2007193661A (ja) * 2006-01-20 2007-08-02 Toshiba Mitsubishi-Electric Industrial System Corp 検査業務支援システム及びそれを用いた製品検査方法
JP2008052676A (ja) * 2006-08-28 2008-03-06 Tokyo Electric Power Co Inc:The コンピュータ実行可能なプログラム、方法、および処理装置
JP2009237386A (ja) * 2008-03-28 2009-10-15 Mitsubishi Electric Information Systems Corp 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
JP2014206880A (ja) * 2013-04-12 2014-10-30 Tis株式会社 作業支援装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019203987A (ja) * 2018-05-23 2019-11-28 富士電機株式会社 システム、方法、及びプログラム
JP7124442B2 (ja) 2018-05-23 2022-08-24 富士電機株式会社 システム、方法、及びプログラム
CN109087644A (zh) * 2018-10-22 2018-12-25 奇酷互联网络科技(深圳)有限公司 电子设备及其语音助手的交互方法、具有存储功能的装置
CN109087644B (zh) * 2018-10-22 2021-06-25 奇酷互联网络科技(深圳)有限公司 电子设备及其语音助手的交互方法、具有存储功能的装置
WO2021166402A1 (ja) * 2020-02-21 2021-08-26 オムロン株式会社 行動解析装置及び行動解析方法
JP2021189502A (ja) * 2020-05-25 2021-12-13 Mintomo株式会社 音声による点検データ保存方法、システム及びプログラム
WO2022113311A1 (ja) * 2020-11-27 2022-06-02 三菱電機株式会社 検査作業支援装置、検査作業支援方法、及び情報処理システム
JPWO2022113311A1 (ja) * 2020-11-27 2022-06-02
JP7274059B2 (ja) 2020-11-27 2023-05-15 三菱電機株式会社 検査作業支援方法及び情報処理システム

Also Published As

Publication number Publication date
CN108780542A (zh) 2018-11-09
CN108780542B (zh) 2023-05-02
US20190079919A1 (en) 2019-03-14
WO2017221916A1 (ja) 2017-12-28
JP6744025B2 (ja) 2020-08-19

Similar Documents

Publication Publication Date Title
JP6744025B2 (ja) 作業支援システム、管理サーバ、携帯端末、作業支援方法およびプログラム
US20230237999A1 (en) Multiple inspector voice inspection
US20190237077A1 (en) Auto-complete methods for spoken complete value entries
US10121466B2 (en) Methods for training a speech recognition system
JP5150747B2 (ja) 音声認識エラー予測値としての文法適合度評価のための方法およびシステム
JP4574390B2 (ja) 音声認識方法
CN103714048B (zh) 用于校正文本的方法和系统
US20070260977A1 (en) Generation of Codified Electronic Records
JP6526608B2 (ja) 辞書更新装置およびプログラム
KR102199928B1 (ko) 사용자 페르소나를 고려한 대화형 에이전트 장치 및 방법
WO2019024692A1 (zh) 语音输入方法、装置、计算机设备和存储介质
KR101394284B1 (ko) 어학 학습정보 제공 시스템, 이를 이용한 어학 학습정보 제공방법 및 이를 위한 외국어 교정 처리방법
JP2017228030A5 (ja)
US11556708B2 (en) Method and apparatus for recommending word
JP6391925B2 (ja) 音声対話装置、方法およびプログラム
US11514178B2 (en) Method, system, and computer program product for role- and skill-based privileges for an intelligent industrial assistant
JP6427377B2 (ja) 設備点検支援装置
JP4749437B2 (ja) 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
WO2016143576A1 (ja) 測定データの記録・管理装置
JP4749438B2 (ja) 音声文字変換装置、音声文字変換方法及び音声文字変換プログラム
CN112541651B (zh) 电子设备、发音学习方法、服务器装置、发音学习处理系统及记录介质
US20230386508A1 (en) Information processing apparatus, information processing method, and non-transitory recording medium
JP2019049796A (ja) 物品画像識別システムおよび物品画像識別方法
JP7383667B2 (ja) 情報処理装置、方法およびプログラム
JP5149722B2 (ja) 検査システム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20170607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190607

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200618

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200722

R150 Certificate of patent or registration of utility model

Ref document number: 6744025

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150