JP6116650B1 - 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム - Google Patents

学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム Download PDF

Info

Publication number
JP6116650B1
JP6116650B1 JP2015225157A JP2015225157A JP6116650B1 JP 6116650 B1 JP6116650 B1 JP 6116650B1 JP 2015225157 A JP2015225157 A JP 2015225157A JP 2015225157 A JP2015225157 A JP 2015225157A JP 6116650 B1 JP6116650 B1 JP 6116650B1
Authority
JP
Japan
Prior art keywords
image
learning
unit
information
label
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015225157A
Other languages
English (en)
Other versions
JP2017091479A (ja
Inventor
大志 池松
大志 池松
中江 俊博
俊博 中江
藤江 長森
藤江 長森
宇宙 大西
宇宙 大西
Original Assignee
エヌ・ティ・ティ・コムウェア株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エヌ・ティ・ティ・コムウェア株式会社 filed Critical エヌ・ティ・ティ・コムウェア株式会社
Priority to JP2015225157A priority Critical patent/JP6116650B1/ja
Application granted granted Critical
Publication of JP6116650B1 publication Critical patent/JP6116650B1/ja
Publication of JP2017091479A publication Critical patent/JP2017091479A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】画像認識ソフトウェアにおける学習処理のユーザ負担を低減することができる学習支援システム等を提供する。【解決手段】本発明の一態様は、認識対象データに対して認識処理を行って認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、検索部により取得された第1の画像特定情報に基づいて第2の画像を表示する表示部と、表示部により表示された第2の画像のうち、設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、第3の画像を特定する第2の画像特定情報と、ラベル情報とを対応づけて、学習装置に送信する通信部と、を備える、学習支援システムである。【選択図】図1

Description

本発明は、学習支援システム、学習支援方法、学習支援装置、および学習支援プログラムに関する。
従来において、例えば畳み込みニューラルネットワーク(Convolutional Neural Network;CNN)技術を利用した画像認識ソフトウェアにより、画像の特徴量に基づいて画像を分類する技術がある。画像分類技術において、例えば、下記の特許文献1に記載されているように、所望のラベルが付加された画像を検索し、検索された画像から特徴を抽出して効率よく分類結果を得るものがある。ところで、画像分類技術において、画像認識ソフトウェアの認識精度を向上させるためには、学習対象の画像にラベルを付与し、ラベルを付与した多数の画像を用いて学習処理を行うことが重要である。
特開2011−150381号公報
しかしながら、画像認識ソフトウェアの認識精度をより向上させるためには学習処理において膨大な画像を処理する必要があり、ユーザの負担が大きくなる場合があった。
本発明は上記の点に鑑みてなされたものであり、画像認識ソフトウェアにおける学習処理のユーザ負担を低減することができる学習支援システム、学習支援方法、学習支援装置、および学習支援プログラムを提供することを目的とする。
(1)本発明の一態様は、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備え、前記表示部は、前記認識処理ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる、学習支援システムである。
(2)本発明の一態様は、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報であって、画像の評価値を表すスコア型のラベル情報を設定する設定部と、前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備える、学習支援システムである。
(3)本発明の一態様は、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備え、前記設定部は、前記ラベル情報を設定するためにラベル名の入力欄を前記表示部に表示させ、前記ラベル情報の入力を受け付けるために前記ラベル名の入力欄が選択された場合に、既に設定されたラベル情報に対応付けられて前記学習装置に学習された画像の数を並べて表示させる、学習支援システムである。
(4)本発明の一態様は、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備え、前記設定部により設定されたラベル情報を設定し、前記検索部により、前記ラベル情報が設定された状態で、前記第1の画像を検索するための検索キーを含む検索要求を外部装置(学習前処理装置10)に送信し、前記検索キーに基づく第1の画像特定情報を取得する処理と、前記表示部により、前記検索キーに基づく前記第1の画像特定情報に基づいて第2の画像を表示する処理と、前記選択部により、前記第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する処理とを繰り返し、前記通信部が、異なる検索キーで検索した画像に同じラベル情報を対応付けられる画像として前記学習装置に送信する、学習支援システムである。
)本発明の一態様は、上述の学習支援システムであって、前記設定部は、前記認識処理ソフトウェアに対応した第1のラベルと、前記第1のラベルを細分化した第2のラベルとを前記ラベル情報として設定し、前記選択部は、前記設定部により設定された前記第2のラベルを選択し、前記第3の画像に前記第1のラベルおよび前記第2のラベルを付加する。
)本発明の一態様は、上述の学習支援システムであって、前記検索部は、検索された前記第1の画像のうち所定の画像サイズか否かを判定し、所定の画像サイズを有しない画像を前記第1の画像から除外する判定部を備える。
)本発明の一態様は、上述の学習支援システムであって、前記表示部は、前記所定の画像サイズに基づいて前記第2の画像を生成する。
)本発明の一態様は、上述の学習支援システムであって、前記選択部は、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加しない画像を削除し、削除されていない第2の画像を前記第3の画像として選択する。
)本発明の一態様は、上述の学習支援システムであって、前記表示部は、前記画像認識ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる。
10)本発明の一態様は、クライアントコンピュータが、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定し、支援サーバが、前記クライアントコンピュータにより設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得し、前記クライアントコンピュータが、前記第1のサーバにより取得された前記第1の画像特定情報に基づいて第2の画像を表示し、前記クライアントコンピュータが、表示された第2の画像のうち、設定されたラベル情報が付加する第3の画像を選択し、前記クライアントコンピュータまたは前記支援サーバが、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する、学習支援方法であって、前記認識処理ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる、学習支援方法である。
11)本発明の一態様は、第1の画像を検索させる検索キーを受信し、前記検索キーに基づいて検索した第1の画像を特定する第1の画像特定情報を取得する検索部と、前記検索部により取得された前記第1の画像特定情報をクライアントコンピュータに送信し、認識処理ソフトウェアにより誤認識された画像のラベル情報に基づいて、当該誤認識された画像を、前記第1の画像特定情報に基づく画像よりも優先して前記クライアントコンピュータに表示させる、第1の通信部と、前記第1の通信部により送信された前記第1の画像特定情報のうち、前記クライアントコンピュータにより選択された第2の画像特定情報、および前記第2の画像特定情報に対応する第2の画像に付加される情報であって認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する前記認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を受信する受信部と、前記受信部により受信された前記第2の画像特定情報と前記ラベル情報とを前記学習装置に送信する第2の通信部と、を備える、学習支援装置である。
12)本発明の一態様は、コンピュータに、第1の画像を検索させる検索キーを受信し、前記検索キーに基づいて検索した第1の画像を特定する第1の画像特定情報を取得させ、取得された前記第1の画像特定情報をクライアントコンピュータに送信させ、認識処理ソフトウェアにより誤認識された画像のラベル情報に基づいて、当該誤認識された画像を、前記第1の画像特定情報に基づく画像よりも優先して前記クライアントコンピュータに表示させ、前記第1の画像特定情報のうち、前記クライアントコンピュータにより選択された第2の画像特定情報、および前記第2の画像特定情報に対応する第2の画像に付加される情報であって認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する前記認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を受信させ、受信された前記第2の画像特定情報と前記ラベル情報とを前記学習装置に送信させる、学習支援プログラムである。
本発明の一態様によれば、画像認識ソフトウェアにおける学習処理のユーザ負担を低減することができる。
本発明を適用した学習支援システム1の一例を示すブロック図である。 本発明を適用した学習支援システム1における学習前処理装置10の一例を示すブロック図である。 本発明を適用した学習支援システム1における利用者端末20の一例を示すブロック図である。 本発明を適用した学習支援システム1における学習装置40の一例を示すブロック図である。 本発明を適用した学習支援システム1の学習処理を示す図である。 本発明を適用した学習支援システム1による登録処理の流れを示すフローチャートである。 本発明を適用した学習支援システム1における利用者端末20に表示させる学習用画面100の一例を示す図である。 本発明を適用した学習支援システム1における利用者端末20に表示させる学習用画面100の他の一例を示す図である。 本発明を適用した学習支援システム1における利用者端末20に表示させる学習用画面100の他の一例を示す図である。 本発明を適用した学習支援システム1において登録依頼を送信する場合の学習用画面100の一例を示す図である。 本発明を適用した学習支援システム1において誤認識された画像を含む学習用画面100の一例を示す図である。 本発明を適用した学習支援システム1において学習装置40に登録された画像を確認するための確認用画面200の一例を示す図である。 本発明を適用した学習支援システム1において学習依頼の前に認識エンジンを設定するための学習用画面100の一例を示す図である。 本発明を適用した学習支援システム1による学習処理の流れを示すフローチャートである。
以下、本発明を適用した学習支援システム、学習支援方法、学習支援装置、および学習支援プログラムを、図面を参照して説明する。
図1は、本発明を適用した学習支援システム1の一例を示すブロック図である。学習支援システム1は、学習前処理装置10と、利用者端末20と、画像検索装置30と、学習装置40とを備える。学習支援システム1において、学習前処理装置10と利用者端末20とは、インターネット等の通信回線を介して接続され、互いに情報の授受が可能である。学習前処理装置10と学習装置40とは、インターネット等の通信回線を介して接続され、互いに情報の授受が可能である。学習前処理装置10と画像検索装置30とは、インターネット等の通信回線を介して接続され、互いに情報の授受が可能である。
学習前処理装置10は、学習装置40が学習を行うための前処理を行う学習支援装置として機能する。図2は、本発明を適用した学習支援システム1における学習前処理装置10の一例を示すブロック図である。学習前処理装置10は、制御部11と、記憶部12と、端末側通信部13と、通信部14とを備える。
制御部11は、例えばCPU(Central Processing Unit)等のプロセッサがプログラムメモリに格納されたプログラムを実行することにより実現される。制御部11は、学習支援プログラムを実行することで記憶部12、端末側通信部13、および通信部14を統括的に制御する。制御部11は、通信制御部11aと、検索部11bとを備える。通信制御部11aおよび検索部11bのうち一部または全部は、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field-Programmable Gate Array)等のハードウェアにより実現されてもよい。
通信制御部11aは、利用者端末20、画像検索装置30、および学習装置40との間で情報を授受する際に、端末側通信部13および通信部14を制御する。具体的には、通信制御部11aは、利用者端末20により送信された検索キーを端末側通信部13により受信したことに応じて、受信した検索キーを通信部14から画像検索装置30に送信させる。また、通信制御部11aは、画像検索装置30により送信された検索結果を受信したことに応じて、受信した検索結果を端末側通信部13から利用者端末20に送信させる。
通信制御部11aは、利用者端末20により送信された登録依頼を受信する。通信制御部11aは、利用者端末20により送信された登録依頼を受信したことに応じて、画像を登録するリクエストを通信部14から学習装置40に送信させる。通信制御部11aは、利用者端末20により送信された学習依頼を受信する。通信制御部11aは、利用者端末20により送信された学習依頼を受信したことに応じて、学習するリクエストを通信部14から学習装置40に送信させる。
検索部11bは、利用者端末20により送信された検索キーに基づいて、画像検索装置30に画像を検索させる。また、検索部11bは、検索された画像のうち所定の画像サイズか否かを判定し、所定の画像サイズを有しない画像を、検索された画像から除外する判定部11cを備える。
記憶部12は、例えば、HDD(Hard Disc Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、ROM(Read Only Memory)、またはRAM(Random Access Memory)等により実現される。記憶部12は、ファームウェアや学習支援プログラムなどのアプリケーションプログラム等の各種プログラム、制御部11の処理結果などが記憶される。記憶部12は、制御部11の処理結果として、後述する学習画像のセットに含まれるURLのリストが記憶される。
端末側通信部13は、利用者端末20との間で通信を確立して、利用者端末20との間で情報を授受する通信インターフェース回路である。通信部14は、画像検索装置30および学習装置40との間で通信を確立して、画像検索装置30および学習装置40との間で情報を授受する通信インターフェース回路である。
図3は、本発明を適用した学習支援システム1における利用者端末20の一例を示すブロック図である。利用者端末20は、制御部21と、通信部22と、表示部23と、選択部24と、記憶部25とを備える。
制御部21は、例えばCPU等のプロセッサがプログラムメモリに格納されたプログラムを実行することにより実現される。制御部21のうち一部または全部は、LSI、ASIC、またはFPGA等のハードウェアにより実現されてもよい。制御部21は、通信部22、表示部23、選択部24、および記憶部25を統括的に制御する。制御部21は、各種の情報を表示部23に表示させると共に、選択部24により選択された結果に基づいて学習装置40により学習させる画像を選択する。
制御部21は、選択した画像にラベル情報を設定する設定部211を備える。画像に設定されるラベル情報は、画像の属性を表す情報である。ラベル情報は、例えば、画像の種類などの分類を表すラベル型の情報、または画像の評価値などの値を表すスコア型の情報に大別されるが、これに限定されない。評価値は、例えば、画像を見た人間の感性を表す値であるが、これに限定されない。人間の感性は、一例として、画像を見たときに直感的に判断される危険度などが挙げられる。
通信部22は、学習前処理装置10との間で通信を確立して、学習前処理装置10との間で情報を授受する通信インターフェース回路である。
表示部23は、LCD(Liquid Crystal Display)や有機EL(Electroluminescence)表示装置、プラズマディスプレイなどの表示装置である。表示部23は、表示処理部212の制御に従って、学習支援システム1の利用者に各種の情報を提示する。
選択部24は、例えば、キーボード、マウス、タッチパネル等の操作デバイスにより実現される。選択部24は、学習支援システム1の利用者の操作を受け付けて、表示部23に表示された情報を選択することができる。
記憶部25は、例えば、HDD、フラッシュメモリ、EEPROM、ROM、またはRAM等により実現される。記憶部25は、ファームウェアや、利用者に各種の情報を選択させるアプリケーションプログラム等の各種プログラム、制御部21の処理結果などが記憶される。記憶部25は、制御部21の処理結果として、後述する学習画像を選択させるための表示用の画像が記憶される。
図4は、本発明を適用した学習支援システム1における学習装置40の一例を示すブロック図である。学習装置40は、通信部41と、学習画像蓄積部42と、学習処理部43と、認識処理部44とを備える。
通信部41は、学習前処理装置10との間で通信を確立して、学習前処理装置10との間で情報を授受する通信インターフェース回路である。通信部41は、学習前処理装置10により送信されたリクエストに含まれるラベル情報、および画像を特定する情報を受信する。通信部41は、画像を特定する情報に基づいて、学習用の画像データを取得して、学習画像蓄積部42に供給する。通信部41は、画像を特定する情報がURLである場合、URLに格納された画像データをダウンロードし、ダウンロードされた画像データを学習画像蓄積部42に供給する。
学習画像蓄積部42は、画像変換部421と、学習画像データベース422とを有する。
画像変換部421は、通信部41により取得された学習用の画像データの入力を受け付ける。画像変換部421は、学習用の画像データを、学習処理に適した形式に変換する前処理を行う。この前処理は、例えば学習画像の面積変更処理やアスペクト比の調整等である。画像変換部421は、前処理を施した画像を学習画像として学習画像データベース422に蓄積する。
学習画像データベース422には、画像変換部421により変換された画像が学習画像として複数蓄積される。学習画像データベース422には、認識処理ソフトウェアにより実現される認識エンジンごとに、複数の学習画像を区分して記憶してもよい。認識エンジンごとの複数の学習画像は、当該認識エンジンの処理パラメータを学習したひとまとまりの学習セットとして保存される。また、学習画像データベース422には、認識エンジンごとの複数の学習画像における各画像の画像を特定する情報をひとまとまりのリストとして保存してもよい。学習セット、または学習画像のリストは、例えば、学習装置40により学習することで生成した認識エンジンを、他の学習装置により生成させるために利用可能である。
学習処理部43には、学習画像蓄積部42から出力された学習画像が供給される。学習処理部43は、学習画像に付加されたラベル情報が認識結果となるように処理パラメータを学習し、学習結果を生成する。学習結果は、認識処理部44における処理パラメータである。学習結果は、認識処理部44における学習結果データ記憶部441に記憶される。学習処理部43は、学習結果を得ることに応じて学習結果データ記憶部441における学習結果を更新する。これにより、学習処理部43は、学習画像に付加されたラベル情報を認識結果として出力するように処理を行う。
認識処理部44は、学習処理部43により処理パラメータが更新された認識エンジンである。認識処理部44は、学習結果データ記憶部441を有する。学習結果データ記憶部441における学習結果としての認識処理部44の処理パラメータは、学習処理部43によって更新される。なお、実施形態において、学習装置40により生成される認識処理部44を記載したが、学習装置40は、認識処理部44を備えていなくてもよい。
図5は、本発明を適用した学習支援システム1の学習処理を示す図である。学習処理部43には、ラベル情報が付加された学習画像が複数供給される。学習処理部43は、例えば、畳み込みニューラルネットワーク(Convolutional Neural Network;CNN)により実現される認識エンジンの処理パラメータを更新する。畳み込みニューラルネットワークは、中間層としての複数の畳み込み層(フィルタ部)と、出力層とを有する。畳み込み層は、それぞれ、例えば、入力されたデータにフィルタリング(乗算処理)を行い、フィルタリング後の画像(特徴)にバイアス値を加算する。畳み込みニューラルネットワークは、画像データを入力し、中間層によりフィルタ係数に基づくフィルタ処理を行って、出力層により処理済のデータを出力する。フィルタ部は、学習処理部43により生成された学習結果としてのフィルタ係数が設定される。畳み込みニューラルネットワークは、学習画像に付加されたスコア型の評価値(例えば危険度)、またはラベル型の認識結果を出力するようにフィルタ係数が設定される。なお、図5に示した学習処理における畳み込みニューラルネットワークは、畳み込みニューラルネットワークの最終層が一つのスコア型のものであるが、これに限定されない。畳み込みニューラルネットワークは、畳み込みニューラルネットワークの最終層が、ラベルの数だけ存在するラベル型のものであってもよい。
なお、学習処理部43による学習手法は、畳み込みニューラルネットワークの処理パラメータの設定であってもよく、その他の機械学習手法でもよく、学習結果データ記憶部441には、学習手法に応じた学習結果が記憶される。認識処理部44には、認識対象の入力画像が供給された場合に、認識結果を出力する。
以下、本発明を適用した学習支援システム1による登録処理の流れについて説明する。図6は、本発明を適用した学習支援システム1による登録処理の流れを示すフローチャートである。
まず、利用者端末20は、ラベル情報を設定し、ラベル情報を設定した状態で検索キーを含む検索要求を学習前処理装置10に送信する(ステップS100、設定部)。このとき、利用者端末20は、学習装置40の学習を支援するための学習用画面を表示部23に表示させる。図7は、本発明を適用した学習支援システム1における利用者端末20に表示させる学習用画面100の一例を示す図である。学習用画面100には、学習セット名入力欄110、ラベル名入力欄120、検索キー(K)入力欄130、検索実行ボタン131、画像登録ボタン132、画像表示欄140、表示用画像141、ページ指定欄142、全選択実行ボタン150、選択解除実行ボタン151、選択反転実行ボタン152、および学習開始実行ボタン160が含まれる。なお、図7および以降の説明において、未だ利用者端末20に表示されていない表示用画像141を点線で示す。
利用者端末20は、利用者の操作に基づいて、学習セット名入力欄110に入力された情報に基づいて学習セット名(Aセット)を設定し、ラベル名入力欄120に入力された情報に基づいてラベル(B1)を設定する。学習セット名入力欄110には、利用者の操作に基づいて、学習セット名が入力される。学習セット名は、学習セットを特定するための名称である。ラベル名入力欄120には、利用者の操作に基づいて、ラベル名が入力される。ラベル名は、ラベル情報を生成するための情報である。
図8は、本発明を適用した学習支援システム1における利用者端末20に表示させる学習用画面100の他の一例を示す図である。利用者端末20は、学習セット名を入力するために学習セット名入力欄110を選択した場合に、図8に示すように、既に設定された学習セット名111を表示させてもよい。利用者端末20は、学習セット名111に、既に設定された学習セット名のIDを並べて表示させてもよい。利用者端末20は、学習セット名111が選択された場合、選択された学習セット名111が学習セット名入力欄110に入力されことを認識する。
同様に、利用者端末20は、ラベル名を入力するためにラベル名入力欄120を選択した場合に、図8に示すように、既に設定されたラベル名121を表示させてもよい。利用者端末20は、ラベル名121に、既に設定されたラベル名が付加されて登録された画像の枚数(x1,x2,x3など)を並べて表示させてもよい。これにより、機械学習においてクラスごとに登録された画像枚数が極端に違うと認識精度が低下するので、どのような画像をさらに収集した方がよいのかを確認させることができる。利用者端末20は、ラベル名121が選択された場合、選択されたラベル名121がラベル名入力欄120に入力されことを認識する。
利用者端末20は、ラベル名入力欄120に入力されたラベル名B1に対して、当該ラベル名B1よりも下位のラベル名を設定してもよい。利用者端末20は、ラベル名B1をラベル名入力欄120に入力した場合に、既に設定されたラベル名121として、ラベル名B1よりも下位のラベル名B2およびB3を表示させる。上位のラベル名B1および下位のラベル名B2、B3とは、観念的に階層が分けられるラベルである。具体的には、上位のラベル名B1は「犬」であり、下位のラベル名B2は「プードル」、下位のラベル名B3は「チワワ」である。利用者端末20は、下位のラベル名B2またはB3が設定された状態で、表示用画像141が選択された場合、選択された表示用画像141(以下、選択画像141#と記載する。)に対応する学習画像に上位のラベル名のみならず下位のラベル名を付加することができる。
さらに、利用者端末20は、学習セット名111に加えて、図8に示すように、学習セット名を新規に作成する新規作成実行ボタン112を表示させてもよい。利用者端末20は、新規作成実行ボタン112が選択された場合に、図9に示すように、新規ウィンドウ113を表示させる。新規ウィンドウ113には、新規セット名入力欄114、セット属性選択ボタン115、OKボタン116、およびキャンセルボタン117が含まれる。セット属性選択ボタン115は、新規の学習セット名に対応するラベル名の属性がラベル型かスコア型かの何れかを選択するためのボタンであり、ラベル型とスコア型の何れか一方が選択される。
利用者端末20は、新規セット名入力欄114に学習セット名が入力され、且つセット属性選択ボタン115のいずれかが選択された状態で、OKボタン116が選択された場合に、新規の学習セット名を記憶部25に記憶する。利用者端末20は、新規セット名入力欄114に学習セット名が入力されていない、またはセット属性選択ボタン115の何れかが選択されていない状態で、OKボタン116が選択された場合に、学習セット名および属性の入力を促すアラートを表示させてもよい。利用者端末20は、新規ウィンドウ113が表示された状態で、キャンセルボタン117が選択された場合に、新規ウィンドウ113の表示を消滅させる。
同様に、利用者端末20は、ラベル名121に加えて、図8に示すように、学習セット名を新規に作成する新規作成実行ボタン122を表示させてもよい。利用者端末20は、新規作成実行ボタン122が選択された場合に、図9に示すように、新規ウィンドウ123を表示させる。新規ウィンドウ123には、新規ラベル名入力欄124、OKボタン125、およびキャンセルボタン126が含まれる。
利用者端末20は、新規ラベル名入力欄124にラベル名が入力された状態で、OKボタン125が選択された場合に、新規のラベル名を記憶部25に記憶する。このとき、記憶部25は、既に学習セット名入力欄110において入力されている学習セット名に対応づけて新規のラベル名を記憶する。利用者端末20は、新規ラベル名入力欄124にラベル名が入力されていない状態で、OKボタン125が選択された場合に、ラベル名の入力を促すアラートを表示させてもよい。利用者端末20は、新規ウィンドウ123が表示された状態で、キャンセルボタン126が選択された場合に、新規ウィンドウ123の表示を消滅させる。
さらに、利用者端末20は、ラベル名入力欄120が選択された場合、図8の右図に示すように、ラベル名B1と同じ階層のラベル名C1およびD1の入力欄121aおよび12bと共に、ラベル名(B1)に対して下位層のラベル名入力欄121c、121dおよび新規作成実行ボタン122を表示させてもよい。
さらに、利用者端末20は、学習セット名およびラベル名が設定された状態で、利用者の操作に基づいて、検索キー入力欄130に検索キーが入力され、且つ検索実行ボタン131が選択された場合に、検索キー情報を通信部22から学習前処理装置10に送信させる。なお、学習セット名およびラベル名は、検索キー入力欄130に検索キーが入力される前に設定されていることを説明したが、これに限定されない。学習セット名およびラベル名は、画像登録ボタン132が選択される前に設定されていればよく、検索キーに基づいて取得された表示用画像141を表示させている状態で、学習セット名およびラベル名を設定してもよい。
具体的には、利用者端末20は、上位のラベル名B1を「犬」に設定し、検索キーを「いぬ」や「dog」に設定した状態で、検索キー入力欄130が選択された場合に、検索キー情報としての「犬」を学習前処理装置10に送信する。これにより、利用者端末20は、後述するように、ラベル名「犬」のラベル情報を付加する候補画像として、検索キー「いぬ」や「dog」に基づいて検索された画像を画像検索装置30に検索させることができる。さらに、利用者端末20は、同じラベル名「犬」であっても、検索キーを変更する処理と、検索キーに基づいて表示用画像141を表示する操作と、表示用画像141を選択する操作と、画像登録ボタン132が選択されたことに応じて実行される画像登録を繰り返させることで、異なる検索キーで検索した表示用画像141を同じラベル名が付加される画像として登録することができる。
次に、学習前処理装置10は、検索要求を画像検索装置30に送信する(ステップS102、検索部)。このとき、学習前処理装置10は、利用者端末20により送信された検索キー情報を受信したことに応じて、予め設定された画像検索装置30の宛先情報に基づいて、検索キー情報を画像検索装置30に送信する。これにより、画像検索装置30は、検索キー情報に基づいて検索キーに合致する程度を表すスコアが高い画像を優先して取得する。画像検索装置30は、取得した画像のURLを利用者端末20に送信する。
次に、学習前処理装置10は、画像検索装置30により送信された画像URLリストを取得する(ステップS104)。このとき、学習前処理装置10は、画像検索装置30により送信された画像URLと検索キー情報とを対応づけて記憶部12に蓄積することで、画像URLリストを取得する。
次に、学習前処理装置10は、画像検索装置30から受信した画像URLリストを利用者端末20に送信する(ステップS106)。
次に、利用者端末20は、画像URLリストに基づいて、画像を表示させる(ステップS108、表示部)。このとき、利用者端末20は、通信部22により、学習前処理装置10により送信された画像URLリストを記憶部25に記憶させ、画像URLリストからURLを抽出する。利用者端末20は、抽出したURLにアクセスすることで、URLに対応する画像をダウンロードする。利用者端末20は、ダウンロードした画像を、画像表示欄140に表示させるようにサイズ等を変換して、表示部23に供給する。このとき、利用者端末20は、学習装置40における学習処理に適したサイズ(所定の画像サイズ)や形状(例えば正方形)に基づいて、画像を変換することが望ましい。利用者端末20は、画像URLリストに含まれるURLごとに、アクセス、ダウンロード、および変換を繰り返す。これにより、利用者端末20は、画像表示欄140内に、複数の表示用画像141を表示させる。
ステップS104〜108において、学習前処理装置10および利用者端末20は、ページネーション機能を実装してもよい。このために、学習前処理装置10は、一度に利用者端末20に送信する画像URLリストに含まれるURLの数を制限することで、画像表示欄140に一度に表示される表示用画像141の数を制限させる。利用者端末20は、一度に表示させる複数の表示用画像141を画像表示欄140に表示させ、表示できない表示用画像141の数に対応してページ数を計算して、計算したページ数分のページ指定欄142を表示させる。
次に、利用者端末20は、利用者の操作に基づいて、画像を選択する(ステップS110、選択部)。このとき、利用者端末20は、選択部24の操作に基づいて、表示部23に表示させた表示用画像141の位置を指定する情報の入力を受け付けた場合に、当該表示用画像141の位置に対応する画像を選択する。また、利用者端末20は、全選択実行ボタン150の位置を指定する操作を受け付けた場合に、画像表示欄140内に表示された全ての表示用画像141を選択する。さらに、利用者端末20は、選択解除実行ボタン151の位置を指定する操作を受け付けた場合に、画像の選択を解除する。さらに、利用者端末20は、選択反転実行ボタン152の位置を指定する操作を受け付けた場合に、画像の選択と選択解除との間で反転させる。
次に、利用者端末20は、登録依頼を受け付けたか否かを判定する(ステップS112)。このとき、利用者端末20は、画像登録ボタン132の位置を選択する操作を受け付けた場合に、登録依頼を受け付けたと判定する。
利用者端末20は、登録依頼を受け付けたと判定した場合、登録依頼を学習前処理装置10に送信する(ステップS114、通信部)。このとき、利用者端末20は、画像登録ボタン132が選択された場合に、学習セット名、ラベル名、選択した画像のURLを付加した登録依頼を生成して、通信部22から学習装置40に送信させる。登録依頼に含まれる学習セット名、ラベル名、選択した画像のURLは、利用者により画像登録ボタン132が選択された時点において学習セット名入力欄110に入力または選択された学習セット名、ラベル名入力欄120に入力されたラベル名、および選択された表示用画像141に対応する画像のURLである。
図10は、本発明を適用した学習支援システム1において登録依頼を送信する場合の学習用画面100の一例を示す図である。なお、図10において、表示用画像141のうち、選択された画像(選択画像141#)を二重線で示す。利用者端末20は、学習セット名(Aセット)、学習セット名に対応したラベル名(B1)、および検索キー(K)に基づいて検索された表示用画像141のうち、選択画像141#を設定した状態で、画像登録ボタン132が選択されたことに応じて、登録依頼を学習前処理装置10に送信する。
次に、学習前処理装置10は、利用者端末20により送信された登録依頼を受信したことに応じて、登録要求を学習装置40に送信する(ステップS116)。このとき、学習前処理装置10は、登録依頼に含まれた学習セット名、ラベル名、および選択した画像のURLを登録リクエストに付加して、学習装置40に送信する。
次に、学習装置40は、学習前処理装置10により送信された登録リクエストを受信したことに応じて、画像の登録処理を実行する(ステップS118)。
学習装置40は、登録リクエストを受信した場合、登録リクエストに含まれる画像のURLに基づいて画像をダウンロードして、学習画像蓄積部42に出力する。これにより、学習装置40は、ダウンロードした画像を画像変換部421により変換して、学習画像として学習画像データベース422に記憶させる。このとき、学習画像蓄積部42は、登録リクエストに含まれた学習セット名およびラベル名に対応づけて学習画像を学習画像データベース422に登録する。学習装置40は、登録リクエストが完了した場合、処理結果を学習前処理装置10に送信する。これにより、学習前処理装置10は、学習セットおよびラベル名にそれぞれ対応して登録された画像数を更新することができる。
なお、学習前処理装置10は、画像の登録処理を完了した処理結果を受信した場合に、処理結果を利用者端末20に送信してもよい。これにより、利用者端末20は、学習装置40に画像群が登録された学習セットを認識し、学習セットの一覧を表示することができる。この結果、利用者端末20は、学習セットの一覧から学習処理に使用する学習セットを選択させた状態で、学習開始実行ボタン160を選択させることができる。
次に、利用者端末20は、新たな検索キーが設定されたか否かを判定する(ステップS120)。このとき、利用者端末20は、検索キー入力欄130に新たなテキストデータが入力され、且つ検索実行ボタン131の位置を選択する操作を受け付けた場合に、新たな検索キーが設定されたと判定する。利用者端末20は、新たな検索キーが設定された場合、新たな検索キーを含む検索要求を学習前処理装置10に送信して(ステップS122)、ステップS102以降の処理を繰り返す。これにより、利用者端末20は、前回の検索キーに基づいて表示させている表示用画像141をクリアし、新たな検索キーに基づいて取得した表示用画像141を表示させる。なお、利用者端末20は、新たな検索キーが入力されず、処理を終了する操作がされた場合に、当該フローチャートの処理を終了する。
なお、上述した実施形態におけるステップS108において、利用者端末20が表示用画像141を表示する際に、認識エンジンにより誤認識された画像を優先して画像表示欄140に表示させてもよい。図11は、本発明を適用した学習支援システム1において誤認識された画像を含む学習用画面100の一例を示す図である。学習前処理装置10は、例えば学習装置40より認識エンジンにより誤認識された画像のURLを受信し、受信した画像のURLを利用者端末20に送信する。このとき、学習前処理装置10は、誤認識された画像に付加されたラベル情報も利用者端末20に送信する。
利用者端末20は、誤認識された画像のURLおよびラベル情報を受信した場合、図11に示すように、学習用画面100に誤認識画像表示欄140aに、表示用画像141aを表示させる。このとき、利用者端末20は、誤認識された画像のURLに基づいて表示用画像141aを表示させるための画像データを取得することで、表示用画像141aを生成する。また、利用者端末20は、表示用画像141よりも表示用画像141aを優先して表示させる。優先して表示させるとは、利用者に表示用画像141よりも表示用画像141aが目立つように表示位置、表示サイズ、表示色、表示枠、点滅などの表示態様を調整することを含む。
学習支援システム1によれば、図6に示したフローチャートを参照した動作を実施することで、学習セットの設定、ラベル名の設定、検索キーを指定した画像の収集、および画像の登録を繰り返して実施することができる。この結果、学習支援システム1によれば、学習処理に使用可能な学習セットを多数作成して、学習装置40に登録させることができる。また、学習支援システム1によれば、多数作成した学習セットのうち何れかの学習セットを選択して学習装置40に学習処理を実施させることができ、さらに、複数の学習セットを使用して繰り返して学習処理を学習装置40に実施させることができる。
図12は、本発明を適用した学習支援システム1において学習装置40に登録された画像を確認するための確認用画面200の一例を示す図である。確認用画面200には、学習セット名入力欄210、ラベル名表示欄220Aおよび220B(総称する場合には「ラベル名表示欄220」と記載する。)、登録画像表示欄240Aおよび240B(総称する場合には「登録画像表示欄240」と記載する。)、登録画像241Aおよび241B(総称する場合には「確認用画像241」と記載する。)が含まれる。確認用画面200には、ラベル名ごとに、全選択実行ボタン231、選択解除実行ボタン232、選択反転実行ボタン233、ページ指定欄250、および画像削除実行ボタン260が含まれる。
利用者端末20は、学習装置40の学習画像データベース422に登録された画像を確認する場合、利用者の操作に応じて確認用画面200を表示させる。このとき、利用者端末20は、学習セット名入力欄210に学習セット名が入力された場合、学習セット名に対応して学習装置40に登録された画像を表示させる要求(確認要求)を学習前処理装置10に送信する。学習前処理装置10は、学習セット名を含む確認要求を受信した場合、学習セット名を含む確認要求を学習装置40に転送する。学習装置40は、学習セット名を含む確認要求を受信した場合、学習セット名に対応づけて登録されている画像のURLのリストを学習前処理装置10に送信する。画像のURLのリストには、画像のURLごとにラベル情報が付加される。学習前処理装置10は、確認要求に対する画像のURLのリストを受信した場合、受信した画像のURLのリストを、確認要求を送信した利用者端末20に送信する。
これにより、利用者端末20は、画像のURLのリストに基づいて画像を取得し、ラベル名ごとに、登録画像表示欄240に確認用画像241を表示させる。また、利用者端末20は、一度に表示させる複数の確認用画像241を登録画像表示欄240に表示させ、表示できない確認用画像241の数に対応してページ数を計算して、計算したページ数分のページ指定欄250を表示させる。
なお、確認用画面200には、2つのラベル名に対応して学習装置40に登録された画像を表す確認用画像が表示されているが、これに限定されない。確認用画面200には、学習セット名に対応して登録されているラベル名が表示される。すなわち、確認用画面200には、1つのラベル名に対応した確認用画像が含まれていてもよく、3以上のラベル名に対応した確認用画像が含まれていてもよい。
利用者端末20は、選択部24の操作に基づいて、確認用画像241の位置を指定する情報の入力を受け付けた場合に、当該確認用画像241の位置に対応する画像を選択する。利用者端末20は、全選択実行ボタン231の位置を指定する操作を受け付けた場合に、登録画像表示欄240内に表示された全ての確認用画像241を選択する。さらに、利用者端末20は、選択解除実行ボタン232の位置を指定する操作を受け付けた場合に、確認用画像241の選択を解除する。さらに、利用者端末20は、選択反転実行ボタン233の位置を指定する操作を受け付けた場合に、確認用画像241の選択と選択解除との間で反転させる。
利用者端末20は、複数の確認用画像241のうち、図12のように確認用画像241#が選択された状態で、画像削除実行ボタン260の位置を指定する操作を受け付けた場合に、確認用画像241に対応する画像を学習セットから削除する要求(削除要求)を生成して、学習前処理装置10に送信する。利用者端末20は、削除要求に、学習セット名、ラベル名、および画像のURLを含める。学習前処理装置10は、削除要求を受信した場合、学習装置40に削除要求を転送する。学習装置40は、削除要求を受信した場合、学習画像データベース422から、学習セット名に対応づけて登録されている学習用の画像データを削除する。利用者端末20は、複数の確認用画像241を選択することで、同時に複数の画像を学習セットから削除させる。
これにより、学習支援システム1によれば、学習セット名に登録されている画像を一覧で表示させることにより、利用者に学習した画像を確認させることができ、不要な画像、重複した画像がある場合や、認識エンジンの認識結果に不具合がある場合に、登録画像を削除させることができる。
以下、本発明を適用した学習支援システム1による学習処理の流れについて説明する。図13は、本発明を適用した学習支援システム1において学習依頼の前に認識エンジンを設定する学習用画面100の一例を示す図である。図14は、本発明を適用した学習支援システム1による学習処理の流れを示すフローチャートである。
利用者端末20は、学習開始実行ボタン160の位置を選択する操作を受け付けた場合に、学習依頼を受け付けたと判定し(図14、ステップS200)、図13に示すように、新規エンジンの設定ウィンドウ170を表示させる。なお、利用者端末20は、学習依頼を受け付けていない場合には以降の処理を実施しない。
新規エンジンの設定ウィンドウ170には、新規エンジン名入力欄171、学習セット選択ボタン172、OKボタン173、およびキャンセルボタン174が含まれる。学習セット選択ボタン172には、各ボタンに対応して、選択対象の学習セット名(ID)と、学習セット名に対応して登録済みの学習画像の数が表示される。学習支援システム1は、学習画像の数を表示させることで、認識エンジンが学習した画像の枚数を利用者に確認させることができる。学習セット選択ボタン172は、認識エンジンの処理パラメータを更新させるために使用する学習セットを選択するためのボタンであり、何れか一つが選択される。
利用者端末20は、図13に示した新規エンジンの設定ウィンドウ170が表示されている状態で、新規エンジン名入力欄171に認識エンジン名が入力され、且つ学習セット選択ボタン172のいずれかが選択される(ステップS202)。利用者端末20は、認識エンジン名が入力され、学習セット選択ボタン172のいずれかが選択された状態で、OKボタン173が選択された場合に、認識エンジン名と学習セット名との組を記憶部25に記憶する。利用者端末20は、新規エンジン名入力欄171に認識エンジン名が入力されていない、または学習セット選択ボタン172の何れかが選択されていない状態で、OKボタン173が選択された場合に、新規エンジン名入力欄171および学習セット名の入力を促すアラートを表示させてもよい。利用者端末20は、新規エンジンの設定ウィンドウ170が表示された状態で、キャンセルボタン174が選択された場合に、設定ウィンドウ170の表示を消滅させる。
なお、利用者端末20は、新規エンジン名入力欄171を表示させることで認識エンジン名を入力させたが、これに限定されない。利用者端末20は、新規エンジン名入力欄171に代えて、学習装置40において生成された既存の認識エンジンの認識エンジン名を一覧形式で表示させて、いずれかの認識エンジン名を選択させるようにしてもよい。このために、学習前処理装置10は、学習装置40により学習リクエストに対応した学習処理を受信した場合に、認識エンジン名を含む処理結果を利用者端末20に送信する。これにより、利用者端末20は、認識エンジン名を記憶部25に記憶して、認識エンジン名の一覧を表示させることができる。
次に、利用者端末20は、学習依頼を学習前処理装置10に送信する(ステップS204、通信部)。このとき、利用者端末20は、認識エンジン名および学習セット名を付加した学習依頼を生成して、通信部22から学習装置40に送信させる。学習依頼に含まれる認識エンジン名は、利用者によりOKボタン173が選択された時点において新規エンジン名入力欄171に入力された認識エンジン名である。学習依頼に含まれる学習セット名は、利用者によりOKボタン173が選択された時点において選択された学習セット名である。
次に、学習前処理装置10は、利用者端末20により送信された学習依頼を受信したことに応じて、学習要求を学習装置40に送信する(ステップS206)。このとき、学習前処理装置10は、学習依頼に含まれた認識エンジン名および学習セット名を学習リクエストに付加して、学習装置40に送信する。
次に、学習装置40は、学習前処理装置10により送信された学習リクエストを受信したことに応じて、学習処理を実行する(ステップS208)。このとき、学習装置40は、学習リクエストに含まれた認識エンジン名に対応した認識エンジンが既に存在するか否かを判定する。学習装置40は、認識エンジン名が存在する場合、認識エンジン名に対応した認識エンジンが学習セット名により特定される学習セットに含まれる画像群に付されたラベル情報を認識するように、認識エンジンの処理パラメータを更新する。学習装置40は、認識エンジン名が存在しない場合、学習セット名により特定される学習セットに含まれる画像群に付されたラベル情報を認識するように、認識エンジンの処理パラメータを生成することで、新たな認識エンジンを生成する。
学習装置40は、学習後の認識エンジンの処理パラメータに、認識エンジン名を付加して学習結果データ記憶部441に記憶させる。学習装置40は、学習リクエストに対応した学習処理が完了した場合、処理結果を学習前処理装置10に送信する。
なお、学習装置40は、学習処理を実施している場合に、学習処理の処理ステータスを学習前処理装置10に送信してもよい。学習前処理装置10は、学習処理の処理ステータス情報を利用者端末20に送信する。利用者端末20は、学習処理の処理ステータス情報を受信した場合、認識エンジン名に対応して学習処理の処理ステータスを表示させることで、利用者に提示することができる。この結果、学習支援システム1は、利用者に学習処理中、学習処理済みなどを認識させることができる。
以上説明したように、本発明を適用した学習支援システム1によれば、ラベル情報を設定した状態で、検索キーにより第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報(URL)を取得し、第1の画像特定情報に基づいて第2の画像(141)を表示する。そして、学習支援システム1は、第2の画像(表示用画像141)のうち、ラベル情報を付加する第3の画像(141#)を選択することで、第3の画像(141#)を特定する第2の画像特定情報(URL)と、ラベル情報とを対応づけて、学習装置(40)に送信することができる。これにより、学習支援システム1によれば、学習画像を収集して、画像にラベル情報を付加する手間を簡単な操作で実行し、さらに、ラベル情報を付加された画像を学習装置40に取得させることができる。この結果、学習支援システム1によれば、特別なコンピュータスキルを持ち合わせていない利用者であっても、認識エンジンの認識精度を高くする作業ための負担を軽減することができる。
また、学習支援システム1によれば、画像特定情報としてURLを使用することにより、学習前処理装置10により画像を検索して収集するための処理負荷、および利用者端末20により画像を選定させるための処理負荷の双方を抑制することができる。
さらに、学習支援システム1によれば、認識エンジンに対応した第1のラベル(B1)と、第1のラベルを細分化した第2のラベル(B2およびB3)とをラベル情報として設定し、第2のラベルを選択することで、選択画像141#に、上位のラベル名および下位のラベル名を付加することができる。これにより、学習支援システム1によれば、ラベル情報を画像に付加する利用者の負担をさらに軽減することができる。
さらに、学習支援システム1によれば、画像検索装置30により検索された第1の画像のうち所定の画像サイズか否かを判定し、所定の画像サイズを有しない画像を前記第1の画像から除外するので、学習画像に適さない画像を利用者端末20に送信することを回避することができ、学習前処理装置10および利用者端末20の処理負担をさらに軽減することができる。
さらに、学習支援システム1によれば、所定の画像サイズに基づいて表示用画像141を生成するので、学習画像と同じ感覚で利用者に表示用画像141を選択させることができ、学習画像として適しているか否かを利用者が判断する手間を省くことができる。
さらに、学習支援システム1によれば、表示用画像141のうち、ラベル情報を付加しない表示用画像141を削除し、削除されていない学習用の画像として選択することで、さらに利用者の負担を軽減することができる。
さらに、学習支援システム1によれば、認識エンジンにより誤認識された画像のラベル情報に基づいて、表示用画像141aを、表示用画像141よりも優先して表示させるので、学習装置40に再学習させるための利用者の負担を軽減することができる。
なお、上述した学習支援システム1の学習前処理装置10および利用者端末20が備える各構成は、内部に、コンピュータシステムを有している。そして、上述した学習支援システム1および学習前処理装置10が備える各構成の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述した学習前処理装置10および利用者端末20が備える各構成における処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD−ROM等の非一過性の記録媒体であってもよい。
また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部又は外部に設けられた記録媒体も含まれる。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に学習前処理装置10および利用者端末20が備える各構成で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
1 学習支援システム
10 学習前処理装置
11 制御部
11a 通信制御部
11b 検索部
11c 判定部
12 記憶部
13 端末側通信部
14 通信部
20 利用者端末
21 制御部
22 通信部
23 表示部
24 選択部
25 記憶部
30 画像検索装置
40 学習装置
41 通信部
42 学習画像蓄積部
43 学習処理部
44 認識処理部
100 学習用画面
110 学習セット名入力欄
115 セット属性選択ボタン
120 ラベル名入力欄
130 検索キー入力欄
131 検索実行ボタン
132 画像登録ボタン
140 画像表示欄
140a 誤認識画像表示欄
141 表示用画像
160 学習開始実行ボタン
200 確認用画面
421 画像変換部
422 学習画像データベース
441 学習結果データ記憶部

Claims (12)

  1. 認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、
    前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、
    前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、
    前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、
    前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、
    を備え、
    前記表示部は、前記認識処理ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる、
    学習支援システム。
  2. 認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報であって、画像の評価値を表すスコア型のラベル情報を設定する設定部と、
    前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、
    前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、
    前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、
    前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、
    を備える、学習支援システム。
  3. 認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、
    前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、
    前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、
    前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、
    前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備え、
    前記設定部は、前記ラベル情報を設定するためにラベル名の入力欄を前記表示部に表示させ、前記ラベル情報の入力を受け付けるために前記ラベル名の入力欄が選択された場合に、既に設定されたラベル情報に対応付けられて前記学習装置に学習された画像の数を並べて表示させる、
    学習支援システム。
  4. 認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定する設定部と、
    前記設定部により設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得する検索部と、
    前記検索部により取得された前記第1の画像特定情報に基づいて第2の画像を表示する表示部と、
    前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する選択部と、
    前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する通信部と、を備え、
    前記設定部により設定されたラベル情報を設定し、
    前記検索部により、前記ラベル情報が設定された状態で、前記第1の画像を検索するための検索キーを含む検索要求を外部装置に送信し、前記検索キーに基づく第1の画像特定情報を取得する処理と、前記表示部により、前記検索キーに基づく前記第1の画像特定情報に基づいて第2の画像を表示する処理と、前記選択部により、前記第2の画像のうち、前記設定部により設定されたラベル情報を付加する第3の画像を選択する処理と、を繰り返し、
    前記通信部が、異なる検索キーで検索した画像に同じラベル情報を対応付けられる画像として前記学習装置に送信する、
    学習支援システム。
  5. 前記設定部は、前記認識処理ソフトウェアに対応した第1のラベルと、前記第1のラベルを細分化した第2のラベルとを前記ラベル情報として設定し、
    前記選択部は、前記設定部により設定された前記第2のラベルを選択し、前記第3の画像に前記第1のラベルおよび前記第2のラベルを付加する、
    請求項1から4のうち何れか1項に記載の学習支援システム。
  6. 前記検索部は、検索された前記第1の画像のうち所定の画像サイズか否かを判定し、所定の画像サイズを有しない画像を前記第1の画像から除外する判定部を備える、
    請求項1から5のうち何れか1項に記載の学習支援システム。
  7. 前記表示部は、前記所定の画像サイズに基づいて前記第2の画像を生成する、
    請求項に記載の学習支援システム。
  8. 前記選択部は、前記表示部により表示された第2の画像のうち、前記設定部により設定されたラベル情報を付加しない画像を削除し、削除されていない第2の画像を前記第3の画像として選択する、
    請求項1からのうち何れか1項に記載の学習支援システム。
  9. 前記表示部は、前記認識処理ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる、
    請求項からのうち何れか1項に記載の学習支援システム。
  10. クライアントコンピュータが、認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を設定し、
    支援サーバが、前記クライアントコンピュータにより設定されたラベル情報が付加される第1の画像を検索し、検索された第1の画像を特定する第1の画像特定情報を取得し、
    前記クライアントコンピュータが、第1のサーバにより取得された前記第1の画像特定情報に基づいて第2の画像を表示し、
    前記クライアントコンピュータが、表示された第2の画像のうち、設定されたラベル情報が付加する第3の画像を選択し、
    前記クライアントコンピュータまたは前記支援サーバが、前記第3の画像を特定する第2の画像特定情報と、前記ラベル情報とを対応づけて、前記学習装置に送信する、学習支援方法であって、
    前記認識処理ソフトウェアにより誤認識された第4の画像のラベル情報に基づいて、前記第4の画像を、前記第2の画像よりも優先して表示させる、
    学習支援方法。
  11. 第1の画像を検索させる検索キーを受信し、前記検索キーに基づいて検索した第1の画像を特定する第1の画像特定情報を取得する検索部と、
    前記検索部により取得された前記第1の画像特定情報をクライアントコンピュータに送信し、認識処理ソフトウェアにより誤認識された画像のラベル情報に基づいて、当該誤認識された画像を、前記第1の画像特定情報に基づく画像よりも優先して前記クライアントコンピュータに表示させる、第1の通信部と、
    前記第1の通信部により送信された前記第1の画像特定情報のうち、前記クライアントコンピュータにより選択された第2の画像特定情報、および前記第2の画像特定情報に対応する第2の画像に付加される情報であって認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する前記認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を受信する受信部と、
    前記受信部により受信された前記第2の画像特定情報と前記ラベル情報とを前記学習装置に送信する第2の通信部と、
    を備える、学習支援装置。
  12. コンピュータに、
    第1の画像を検索させる検索キーを受信し、前記検索キーに基づいて検索した第1の画像を特定する第1の画像特定情報を取得させ、
    取得された前記第1の画像特定情報をクライアントコンピュータに送信させ、認識処理ソフトウェアにより誤認識された画像のラベル情報に基づいて、当該誤認識された画像を、前記第1の画像特定情報に基づく画像よりも優先して前記クライアントコンピュータに表示させ、
    前記第1の画像特定情報のうち、前記クライアントコンピュータにより選択された第2の画像特定情報、および前記第2の画像特定情報に対応する第2の画像に付加される情報であって認識対象データに対して認識処理を行って前記認識対象データの認識結果を生成する前記認識処理ソフトウェアの処理パラメータを学習装置に学習させるためのラベル情報を受信させ、
    受信された前記第2の画像特定情報と前記ラベル情報とを前記学習装置に送信させる、
    学習支援プログラム。
JP2015225157A 2015-11-17 2015-11-17 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム Active JP6116650B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015225157A JP6116650B1 (ja) 2015-11-17 2015-11-17 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015225157A JP6116650B1 (ja) 2015-11-17 2015-11-17 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム

Publications (2)

Publication Number Publication Date
JP6116650B1 true JP6116650B1 (ja) 2017-04-19
JP2017091479A JP2017091479A (ja) 2017-05-25

Family

ID=58666835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015225157A Active JP6116650B1 (ja) 2015-11-17 2015-11-17 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム

Country Status (1)

Country Link
JP (1) JP6116650B1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10706348B2 (en) * 2016-07-13 2020-07-07 Google Llc Superpixel methods for convolutional neural networks
CN113762504A (zh) * 2017-11-29 2021-12-07 华为技术有限公司 模型训练系统、方法和存储介质
KR102227906B1 (ko) * 2017-12-29 2021-03-16 주식회사 아임클라우드 자동 학습 데이터 생성을 통한 모델 학습 시스템 및 방법
US20210038321A1 (en) * 2018-03-12 2021-02-11 Koninklijke Philips N.V. Ultrasound imaging dataset acquisition for neural network training and associated devices, systems, and methods
WO2022185360A1 (ja) * 2021-03-01 2022-09-09 日本電信電話株式会社 支援装置、支援方法およびプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011018178A (ja) * 2009-07-08 2011-01-27 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP2014215852A (ja) * 2013-04-26 2014-11-17 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011018178A (ja) * 2009-07-08 2011-01-27 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP2014215852A (ja) * 2013-04-26 2014-11-17 オリンパス株式会社 画像処理装置、プログラム及び画像処理方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JPN6016041373; 牛久祥孝,外5名: '複数画像特徴とクラスラベルの相関に着目した距離計量による大規模画像分類' 電子情報通信学会技術研究報告 PRMU2010-208-PRMU2010-236 パターン認識・メデ 第110巻,第414号, 20110210, pp.1-6, 電子情報通信学会 *
JPN6016041376; 濱中雅彦: '主要色線分法を用いた低解像度カラー画像からの文字抽出・認識手法' 電子情報通信学会技術研究報告 PRMU2001-176〜193 パターン認識・メディア理解 第101巻,第525号, 20011214, pp.109-116, 電子情報通信学会 *
JPN6016041377; 柳井啓司: 'Webマルチメディア情報と物体認識技術' 画像ラボ 第23巻,第9号, 20120910, pp.6-15, 日本工業出版株式会社 *

Also Published As

Publication number Publication date
JP2017091479A (ja) 2017-05-25

Similar Documents

Publication Publication Date Title
JP6116650B1 (ja) 学習支援システム、学習支援方法、学習支援装置、および学習支援プログラム
US20190251471A1 (en) Machine learning device
JP2018106662A (ja) 情報処理装置、情報処理方法、プログラム
US20180060297A1 (en) Method and apparatus for natural language query in a workspace analytics system
CN108197311B (zh) 房源数据聚合展示方法、装置、设备及可读存储介质
JP5199939B2 (ja) 画像検索装置、画像検索方法及びプログラム
JPWO2008093569A1 (ja) 情報抽出規則作成支援システム、情報抽出規則作成支援方法及び情報抽出規則作成支援プログラム
US9020976B2 (en) System and method for processing data in diverse storage systems
US11176184B2 (en) Information retrieval
US20130205193A1 (en) Web page control method, computer system and program
JP5140509B2 (ja) 設計事例検索装置,設計事例検索プログラム
JP2009134673A (ja) Gui画面操作シーケンス検証装置、方法、及び、プログラム
JP2005092683A (ja) ユーザ認証システム
JP2014191815A (ja) 医用システム、医用サーバおよび医用辞書情報管理方法
US9471650B2 (en) System and method for contextual workflow automation
JP2010009153A (ja) 設計支援システム、設計支援装置、設計支援プログラム及び該プログラムを記録した記録媒体
US20220172459A1 (en) Labeling support method, labeling support apparatus and program
JP5827447B1 (ja) 情報処理装置、情報処理方法及びプログラム
JP6875626B2 (ja) 分析図取得システム
JP6305473B2 (ja) 分類支援装置、分類支援方法、および分類支援プログラム
JP2021068067A (ja) マッピングルール作成支援装置及び方法
JPWO2019239543A1 (ja) 質問応答装置、質問応答方法およびプログラム
JP2018055262A (ja) 情報処理プログラム、情報処理方法及び情報処理装置
JP2008021213A (ja) アンケート装置及びプログラム
JP6463240B2 (ja) クエリ作成支援方法および情報処理装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170321

R150 Certificate of patent or registration of utility model

Ref document number: 6116650

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250