JP7029363B2 - ラベリング装置、ラベリング方法及びプログラム - Google Patents

ラベリング装置、ラベリング方法及びプログラム Download PDF

Info

Publication number
JP7029363B2
JP7029363B2 JP2018153166A JP2018153166A JP7029363B2 JP 7029363 B2 JP7029363 B2 JP 7029363B2 JP 2018153166 A JP2018153166 A JP 2018153166A JP 2018153166 A JP2018153166 A JP 2018153166A JP 7029363 B2 JP7029363 B2 JP 7029363B2
Authority
JP
Japan
Prior art keywords
data
labeling
time
time series
label
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018153166A
Other languages
English (en)
Other versions
JP2020027540A (ja
Inventor
基至 大木
悠介 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2018153166A priority Critical patent/JP7029363B2/ja
Publication of JP2020027540A publication Critical patent/JP2020027540A/ja
Application granted granted Critical
Publication of JP7029363B2 publication Critical patent/JP7029363B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、ラベリング装置、ラベリング方法及びプログラムに関する。
近年、データ収集技術の発展に伴い、時系列性を保持したデータ(以降、「時系列データ」と表す。)の収集が容易になってきている。このため、時系列データを分析することで、過去からのトレンド変化や季節性、周期性等の時間的傾向を把握することが可能となっている。例えば、データセンタに設置された各種センサから収集された時系列のセンサデータを分析して各種機器の異常発生を予測したり、店舗の日々の売上データを分析して顧客離脱の推移を予測したりすること等が行われている。このような時系列データ分析では、機械学習の手法を用いて、異常発生や顧客離脱の推移等の予測が行われる。
ここで、機械学習の手法を用いて何等かの予測を行う場合、教師あり学習の手法によってモデルの学習が行われることが多い。この場合、モデルの学習や評価のために、時系列データに対応した正解ラベルデータが必要となる。例えば、特許文献1では、時系列のセンサデータを用いて、教師あり学習の手法により行動モデルを学習する技術が開示されている。
正解ラベルデータは、例えば、センサ等によって収集される場合もあるが、時系列データを確認しながら人手で作成される場合もある。人手で正解ラベルデータ(以降では、単に「ラベルデータ」とも表す。)を作成することは、ラベリングと称される。このようなラベリングは、例えば、時系列データのラベリングを行うためのツール(ソフトウェア)を用いて行われることが多い。
特許第5520886号公報
しかしながら、一般に、時系列データはデータ数が膨大であるため、人手でのラベリングには多くの時間を要していた。また、人手でのラベリングでは、或るデータに対するラベリングが漏れたり、適切でないラベリングが行われたりする場合がある。
本発明の実施の形態は、上記の点に鑑みてなされたもので、時系列データに対して効率的なラベリングを行うことを目的とする。
上記目的を達成するため、本発明の実施の形態は、ラベリング対象の時系列データ{x}を入力する入力手段と、複数の時系列予測アルゴリズムのうち、ユーザにより選択された1以上の時系列予測アルゴリズムを用いて、前記時系列データ{x}に含まれる1以上のデータxをラベリングするラベリング手段と、前記ラベリングされた時系列データ{x}を出力する出力手段と、を有することを特徴とする。
時系列データに対して効率的なラベリングを行うことができる。
本発明の実施の形態におけるラベリング装置の機能構成の一例を示す図である。 本発明の実施の形態におけるラベリング処理の流れの一例を示すフローチャートである。 ラベリング画面の一例を示す図(1/2)である。 ラベリング画面の一例を示す図(2/2)である。 本発明の実施の形態におけるラベル付与又はラベル削除の流れの一例を示すフローチャートである。 本発明の実施の形態におけるラベリング装置のハードウェア構成の一例を示す図である。
以下、本発明の実施の形態について説明する。本発明の実施の形態では、時系列データに対して自動又は手動でラベリングを行うと共に、ラベリングに関する情報(例えば、ラベリングの候補となるデータを示す情報や種々の統計量を示す情報等)をユーザに提供することで、効率的なラベリングを可能とするラベリング装置10について説明する。本発明の実施の形態では、ラベリングとは、時系列データに含まれるデータに対してラベルを付与する場合だけでなく、時系列データに含まれるデータに対して既に付与されているラベルを削除する場合も含まれるものとする。すなわち、本発明の実施の形態では、ラベリングは、時系列データに含まれるデータに対するラベルの付与又は削除を意味するものとする。
なお、或る所定の値のラベルがデータに付与されている場合、当該データを「ラベルが付与されていないデータ」(又は、「ラベル付与済みでないデータ」)と見做しても良い。例えば、ラベル値が「0」又は「1」の2値であり、ラベル値「0」が正常データを表し、ラベル値「1」が異常データを表すような場合、「0」のラベルが付与されているデータを「ラベルが付与されていないデータ」と見做しても良い。
ここで、時系列データとは、時系列性を保持したデータのことである。時系列データは、例えば、日時(又は、時刻等であっても良い。)を表すインデックスをtとして、x={x}(t=1,・・・,T)で表される。このとき、各xは、スカラーで表されるデータであっても良いし、ベクトルで表されるデータ(すなわち、複数の変数で表されるデータ)であっても良い。例えば、各xが3つの変数v、v及びvで表されるベクトルデータである場合、各xは、x=(v,v,v)等の形式で表される。なお、Tは或る時間幅の日時を考えた場合における最終日時を表すインデックスである。
また、ラベルデータとは、時系列データに含まれるデータに対するラベルを示すデータのことである。ラベルデータは、例えば、y={y}(t=1,・・・,T)で表される。なお、yは、時系列データに含まれるデータxに対応するラベルである。ただし、ラベルデータは、例えば、時系列データに付与されているラベル値の集合をCとして、y={y|y∈C}で表されるものであっても良い。
なお、時系列データとラベルデータとが別々のデータで表されている必要はなく、1つのデータ(すなわち、ラベル付き時系列データ)で表されていても良い。ラベル付き時系列データに含まれる各xには、当該xに付与されたラベルが含まれる。例えば、各xが変数vで表されるスカラーデータである場合、ラベル付き時系列データに含まれる各xは、x=(v,y)等の形式で表される。又は、例えば、各xが3つの変数v、v及びvで表されるベクトルデータである場合、ラベル付き時系列データに含まれる各xは、x=(v,v,v,y)等の形式で表される。
<ラベリング装置10の機能構成>
まず、本発明の実施の形態におけるラベリング装置10の機能構成について、図1を参照しながら説明する。図1は、本発明の実施の形態におけるラベリング装置10の機能構成の一例を示す図である。
図1に示すように、本発明の実施の形態におけるラベリング装置10は、表示制御部101と、操作受付部102と、データ入力部103と、ラベル処理部104と、統計量計算部105と、ラベル付与候補抽出部106と、データ出力部107とを有する。これら各部は、例えば、ラベリング装置10にインストールされたラベリングプログラム100がCPU(Central Processing Unit)に実行させる処理により実現される。また、本発明の実施の形態におけるラベリング装置10は、記憶部201を有する。なお、ラベリングプログラム100は、1つのプログラムであっても良いし、複数のプログラムモジュールにより構成されていても良い。
記憶部201は、ラベリングプログラム100が利用する記憶領域であり、各種データを記憶する。記憶部201に記憶されるデータとしては、例えば、時系列データやラベリングデータ等が挙げられる。
表示制御部101は、表示に関する各種制御を行う。例えば、表示制御部101は、後述するラベリング画面を表示したり、このラベリング画面内における各種情報を表示したりする。
操作受付部102は、ユーザからの各種操作の入力を受け付ける。例えば、操作受付部102は、表示制御部101により表示されたラベリング画面における各種操作等を受け付ける。
データ入力部103は、時系列データ(ラベル付き時系列データも含む。)を入力する。ここで、データ入力部103は、例えばユーザ選択等に応じて、任意の形式の時系列データを入力することができる。
例えば、データ入力部103は、ラベリング装置10の補助記憶装置等に記憶されているファイルを読み込むことで、このファイルに格納されている時系列データを入力しても良いし、ラベリング装置10と通信ネットワークを介して接続される端末装置等からアップロードされたファイルを読み込むことで、このファイルに格納されている時系列データを入力しても良い。又は、例えば、データ入力部103は、ユーザにより記述又は選択されたSQLクエリによりデータベースサーバ等から時系列データを入力しても良い。なお、このとき、データ入力部103は、例えばJOIN操作等により、複数のデータベースサーバ等から時系列データを入力しても良い。
ラベル処理部104は、データ入力部103により入力された時系列データに対して、自動ラベリング又は手動ラベリングを行う。ここで、手動ラベリングとは、例えば、ユーザの操作により設定されたデータ又はユーザの操作により設定された範囲に属するデータに対してラベリングすることである。また、自動ラベリングとは、例えば、ユーザの操作により選択された時系列予測アルゴリズムとパラメータとを用いて、この時系列予測アルゴリズム及びパラメータから抽出されるデータに対してラベリングすることである。
自動ラベリングを用いることで、ユーザは、複数の時系列予測アルゴリズムの中から所望の時系列予測アルゴリズムを選択すると共に、選択した時系列アルゴリズムのパラメータを設定するだけで、時系列データに対して自動的にラベリングを行うことができるようになる。
統計量計算部105は、時系列データやラベルデータ等から所定の統計量を計算する。ここで、所定の統計量としては、例えば、時系列データのうちのラベルが付与されているデータ数とラベルが付与されていないデータ数との割合(百分率等)が挙げられる、また、これ以外にも、所定の統計量としては、例えば、時系列データのうちのラベルが付与されているデータの最小値や中央値、平均値、最大値等が挙げられる。同様に、例えば、時系列データのうちのラベルが付与されていないデータの最小値や中央値、平均値、最大値等が挙げられる。
統計量計算部105により計算された統計量を示す情報(以降、「統計量情報」とも表す。)は、表示制御部101により、ラベリング画面内に表示される。ラベリング画面内に表示された統計量情報を確認することで、ユーザは、時系列データをラベリングする際の参考とすることができる。
ラベル付与候補抽出部106は、ラベルが付与されているデータ(以降、「ラベル付与済みデータ」とも表す。)の選択とパラメータの設定とに応じて、データ入力部103により入力された時系列データの中からラベル付与の候補となるデータを抽出する。ラベル付与候補抽出部106は、例えば、時系列データの中から部分系列を作成した上で、この部分系列との距離に基づいて、ラベル付与の候補となるデータを抽出する。
ラベル付与候補抽出部106により抽出されたデータは、表示制御部101により、ラベル付与候補情報としてラベリング画面内に表示される。ラベリング画面内に表示されたラベル付与候補情報を確認することで、ユーザは、ラベル付与の候補となるデータを知ることができる。
データ出力部107は、時系列データ(ラベル付き時系列データも含む。)を出力する。ここで、データ出力部107は、例えばユーザの選択等に応じて、任意の形式で時系列データを出力することができる。
例えば、データ出力部107は、ラベリング装置10の補助記憶装置等に対して時系列データをファイルとして出力しても良いし、ラベリング装置10と通信ネットワークを介して接続されるサーバ装置等に時系列データをファイルとして出力しても良い。又は、例えば、データ出力部107は、データベースサーバ等に時系列データを出力しても良い。なお、データ出力部107は、時系列データ又はラベル付き時系列データではなく、ラベルデータのみを出力しても良い。
<ラベリング処理>
以降では、本発明の実施の形態におけるラベリング装置10が実行するラベリング処理について、図2を参照しながら説明する。図2は、本発明の実施の形態におけるラベリング処理の流れの一例を示すフローチャートである。
ステップS101:まず、表示制御部101は、例えばラベリングプログラム100の起動等に応じて、時系列データをラベリングするためのラベリング画面G100を表示する。ここで、ラベリング画面G100について、図3及び図4を参照しながら説明する。図3及び図4は、ラベリング画面G100の一例を示す図である。なお、図3に示すラベリング画面G100と図4に示すラベリング画面G100とは、例えば、スクロールバー等により画面をスクロールさせることで相互に遷移させることができる。ただし、これに限られず、図3に示すラベリング画面G100と図4に示すラベリング画面G100とは、例えば、ボタンの押下等によって相互に遷移させることができるものであっても良い。
ラベリング画面G100には、データ入力欄G110と、表示変数選択欄G120と、時系列データ(グラフ表示)欄G130と、拡大表示欄G140と、手動ラベリング(範囲指定)欄G150と、自動ラベリング欄G160と、ラベル付与又はラベル削除欄G170と、ラベル付与候補抽出欄G180と、データ出力欄G190と、時系列データ(リスト表示)欄G200と、統計量情報欄G210と、ラベル付与候補情報欄G220とが含まれる。
データ入力欄G110は、データ入力部103により時系列データを入力する際の入力方法の設定と実行とを行うためのエリアである。データ入力欄G110には、データ入力の方法を設定するための入力方法設定欄G111と、時系列データの入力を実行するための入力ボタンG112とが含まれる。ユーザは、入力方法設定欄G111において、例えば、ファイルを読み込んで時系列データを入力する、データベースから時系列データを入力する等の各種入力方法を設定することができる。
表示変数選択欄G120は、時系列データ(グラフ表示)欄G130にグラフとして表示される変数を選択するためのエリアである。ユーザは、表示変数選択欄G120において、時系列データに含まれる各データの変数のうち、時系列データ(グラフ表示)欄G130にグラフとして表示する変数(以降、「表示対象変数」とも表す。)を選択することができる。
時系列データ(グラフ表示)欄G130は、データ入力部103により入力された時系列データの或る変数(上記の表示変数選択欄G120で選択された表示対象変数)に関するグラフ(以降では、「時系列グラフ」とも表す。)が表示されるエリアである。拡大表示欄G140は、時系列データ(グラフ表示)欄G130に表示されている時系列グラフを拡大表示するためのエリアである。
手動ラベリング(範囲指定)欄G150は、ラベル処理部104により日時の範囲指定で手動ラベリングを行う際の日時の範囲を設定するためのエリアである。自動ラベリング欄G160は、ラベル処理部104により自動ラベリングを行う際の時系列予測アルゴリズムの選択とパラメータの設定とを行うためのエリアである。ラベル付与又はラベル削除欄G170は、ラベル値の設定と、手動ラベリング又は自動ラベリングの実行とを行うためのエリアである。
ラベル付与候補抽出欄G180は、ラベル付与候補抽出部106によりラベル付与候補を抽出する際のパラメータの設定と実行とを行うためのエリアである。
データ出力欄G190は、データ出力部107によりデータ(時系列データ、ラベル付き時系列データ又はラベルデータ等)を出力する際の出力方法の設定と実行とを行うためのエリアである。
時系列データ(リスト表示)欄G200は、データ入力部103により入力された時系列データに含まれる各データをリストとして表示されるエリアである。すなわち、時系列データ(リスト表示)欄G200は、時系列データに含まれる各データが、いわゆる生データとしてそのまま表示されるエリアである。
統計量情報欄G210は、統計量計算部105により計算された統計量が統計量情報として表示されるエリアである。ラベル付与候補情報欄G220は、ラベル付与候補抽出部106により抽出されたラベル付与候補がラベル付与候補情報として表示されるエリアである。
以上のように、ラベリング画面G100には、複数のエリアが含まれており、これらのエリアにおいて種々の操作や情報の参照等を行うことができる。これらの各エリアの詳細については後述する。なお、ラベリング画面G100におけるユーザの各種操作(例えば、入力操作や選択操作、設定操作等)は、操作受付部102により受け付けられる。
ステップS102:次に、データ入力部103は、ラベリング画面G100のデータ入力欄G110におけるユーザの操作に応じて、時系列データ(ラベル付き時系列データも含む。)を入力する。なお、データ入力部103により入力された時系列データは、記憶部201に記憶される。
ユーザは、データ入力欄G110の入力方法設定欄G111で所望の入力方法を設定した上で、入力ボタンG112を押下する操作を行うことで、この入力方法によって時系列データを入力することができる。なお、ユーザは、入力方法設定欄G111において入力方法を設定する際に、この入力方法に応じたパラメータも設定する。例えば、入力方法として「データベースから入力」を設定した場合には、該当のデータベースから時系列データを入力するためのSQLを記述又は選択する。また、例えば、入力方法として「ファイルから入力」を設定した場合には、該当のファイルの格納先アドレス等を指定又は選択する。
上記のステップS102で時系列データが入力されると、時系列データ(リスト表示)欄G200には、表示制御部101により時系列データに含まれる各データがリストとして表示される。
ステップS103:次に、操作受付部102は、ラベリング画面G100の表示対象変数の選択を受け付ける。ユーザは、表示変数選択欄G120に含まれる選択欄G121に変数を入力することで、表示対象変数を選択することができる。なお、選択欄G121に入力可能な変数は、上記のステップS102で入力された時系列データに含まれる各データの変数のうちのいずれか1つの変数である。例えば、時系列データに含まれる各データxがx=(v,v,v)と表される場合、選択欄G121に入力可能な変数は、v、v及びvのうちのいずれか1つの変数である。
また、時系列データがラベル付き時系列データある場合には、ラベル値を除く変数を選択欄G121に入力可能とする。例えば、ラベル付き時系列データに含まれる各データxがx=(v,v,v,y)で表される場合、選択欄G121に入力可能な変数は、v、v及びvのうちのいずれか1つの変数である。
ただし、選択欄G121に対して2つ以上の変数を入力可能としても良い。この場合、時系列データ(グラフ表示)欄G130には、選択欄G121に入力された複数の表示対象変数に関するグラフがそれぞれ表示される。
上記のステップS103で表示対象変数が選択されると、時系列データ(グラフ表示)欄G130には、表示制御部101により時系列データの表示対象変数に関するグラフが表示される。すなわち、時系列データ(グラフ表示)欄G130には、当該時系列データの全時間区間のグラフG131と、或る時間区間のグラフG132とが含まれる。なお、グラフG131及びG132では、ラベル付与済みのデータに対して、例えば丸印等の目印が表示される。
ここで、グラフG132は、グラフG131の或る時間区間(例えば、ユーザにより指定された時間区間)を拡大表示したグラフである。ユーザは、拡大表示欄G140に含まれる開始日時入力欄G141に所望の開始日時を入力すると共に、終了日時入力欄G142に所望の終了日時を入力した上で、表示ボタンG143を押下することで、入力した開始日時から終了時間までの時間区間の時系列データをグラフG132として表示させることができる。ただし、開始日時<終了日時である。例えば、上記のステップS102で入力された時系列データがx={x}(t=1,・・・,T)である場合、グラフG131は、x,・・・,xの隣接するデータ同士を線分で接続したグラフである。一方で、開始日時をts(≧1),終了日時をte(≦T)とした場合、グラフG132は、xts,・・・,xteの隣接するデータ同士を線分で接続したグラフである。なお、ユーザは、例えば、グラフG131から所望の時間区間を範囲指定等することにより、当該時間区間の時系列データをグラフG132として表示させることもできる。
以降のステップS104~ステップS107は、表示対象変数が選択された後に、ユーザの操作に応じて実行される。すなわち、手動ラベリングを行うための操作又は自動ラベリングを行うための操作をユーザが行った場合はステップS104~ステップS105が実行され、ラベル付与候補を抽出するための操作をユーザが行った場合はステップS106~ステップS107が実行される。また、これらのステップS104~ステップS107は、ラベリング後の時系列データを出力するための操作が行われるまで任意の回数繰り返し実行することができる。
ステップS104:手動ラベリングを行うための操作(以降では、「手動ラベリング操作」と表す。)又は自動ラベリングを行うための操作(以降では、「自動ラベリング操作」と表す。)がユーザにより行われた場合、操作受付部102は、当該操作を受け付ける。そして、ラベル処理部104は、手動ラベリング又は自動ラベリングによりラベル付与又はラベル削除を行う。
ここで、ユーザは、以下の操作により手動ラベリング操作又は自動ラベリング操作を行うことができる。
(手動ラベリング操作)
ユーザは、手動ラベリング(範囲指定)欄G150に含まれる開始日時入力欄G151に所望の開始日時を入力すると共に、終了日時入力欄G152に所望の終了日時を入力する。ただし、開始日時<終了日時である。そして、ラベル付与を行う場合には、ユーザは、ラベル付与又はラベル削除欄G170に含まれる手動/自動区分選択欄G171で「手動」を選択すると共に、ラベル入力欄G172に所望のラベル値を入力した上で、ラベリングボタンG173を押下する。一方で、ラベル削除を行う場合には、ユーザは、ラベル付与又はラベル削除欄G170に含まれる手動/自動区分選択欄G171で「手動」を選択した上で、削除ボタンG174を押下する。
これにより、ユーザは、手動ラベリング操作を行うことができる。手動ラベリング操作が行われることで、時系列データに含まれる各データのうち、開始日時から終了日時までの時間区間に含まれるデータのラベリングが行われる。すなわち、ラベル付与の場合には、当該時間区間に含まれるデータに対して、当該ラベル値のラベルが付与される。一方で、ラベル削除の場合には、当該時間区間に含まれるデータからラベルが削除される。
なお、ユーザは、例えば、時系列データ(グラフ表示)欄G130に表示されているグラフG132中のデータを、マウス等のポインティングデバイスで選択することで手動ラベリング操作を行うことができても良い。このとき、ラベル付与の場合には、ユーザは、例えば、ラベル入力欄G172に所望のラベル値を入力した上で、グラフG132中の所望のデータを、ポインティングデバイスで選択すれば良い。一方で、ラベル削除の場合には、ユーザは、例えば、ラベル入力欄G172には何も入力されていない状態(ブランクの状態)で、グラフG132中の所望のデータを、ポインティングデバイスで選択すれば良い。又は、グラフG132中の所望のデータを、例えばポインティングデバイスでダブルクリックすること等によってラベル削除が行われても良い。
(自動ラベリング操作)
ユーザは、自動ラベリング欄G160に含まれるアルゴリズム選択欄G161から所望の時系列予測アルゴリズム(又は時系列アルゴリズムの組み合わせ)を選択すると共に、選択した時系列予測アルゴリズム(又は時系列アルゴリズムの組み合わせ)でのデータ抽出に必要なパラメータをパラメータ設定欄G162に設定する。そして、ラベル付与を行う場合には、ユーザは、ラベル付与又はラベル削除欄G170に含まれる手動/自動区分選択欄G171で「自動」を選択すると共に、ラベル入力欄G172に所望のラベル値を入力した上で、ラベリングボタンG173を押下する。一方で、ラベル削除を行う場合には、ユーザは、ラベル付与又はラベル削除欄G170に含まれる手動/自動区分選択欄G171で「自動」を選択した上で、削除ボタンG174を押下する。
これにより、ユーザは、自動ラベリング操作を行うことができる。自動ラベリング操作が行われることで、ユーザにより選択された時系列予測アルゴリズム(又は時系列アルゴリズムの組み合わせ)によりデータが抽出された上で、時系列データに含まれる各データうち、抽出されたデータがラベリングされる。なお、アルゴリズム選択欄G161で選択可能な時系列予測アルゴリズムとしては、例えば、Prophet、ARIMA、Singular Spectrum Transformation、Moving Average等が挙げられる。ただし、アルゴリズム選択欄G161で選択可能な時系列予測アルゴリズムは、これらに限られず、時系列データを予測可能なアルゴリズムであれば任意のアルゴリズムがアルゴリズム選択欄G161で選択可能とすることができる。
なお、上記の手動ラベリング操作及び自動ラベリング操作では、手動/自動区分選択欄G171で「手動」又は「自動」のいずれかをユーザが選択したが、この選択操作を不要としても良い。この場合、例えば、ユーザによりラベリングボタンG173又は削除ボタンG174が押下された場合に、ラベル処理部104が「手動」又は「自動」のいずれであるかを判別すれば良い。このとき、例えば、手動ラベリング(範囲指定)欄G150に含まれる開始日時入力欄G151及び終了日時入力欄G152に開始日時及び終了日時がそれぞれ設定されている場合は「手動」と判別する一方で、アルゴリズム選択欄G161で時系列予測アルゴリズムが選択されていると共にパラメータ設定欄G162にパラメータが設定されている場合は「自動」と判別すれば良い。
ここで、上記のステップS104のラベル付与又はラベル削除(すなわち、ラベリング)の処理の流れについて、図5を参照しながら説明する。図5は、本発明の実施の形態におけるラベル付与又はラベル削除の流れの一例を示すフローチャートである。この処理は、手動ラベリング操作又は自動ラベリング操作の何れかの操作を操作受付部102が受け付けた場合に実行される。
ステップS201:まず、ラベル処理部104は、操作受付部102が受け付けた操作が手動ラベリング操作又は自動ラベリング操作のいずれであるかを判定する。この判定結果が手動ラベリング操作である場合、ラベル処理部104は、ステップS202に進む。一方で、この判定結果が自動ラベリング操作である場合、ラベル処理部104は、ステップS203に進む。
ステップS202:ラベル処理部104は、手動ラベリング操作で選択されたデータにしてラベル付与又はラベル削除を行う。すなわち、ラベル付与の場合、ラベル処理部104は、開始日時入力欄G151に入力された開始日時から、終了日時入力欄G152に入力された終了日時までの間の時間区間に含まれるデータに対して、ラベル入力欄G172に入力されたラベル値を付与する。これにより、ラベリング対象のデータx(すなわち、手動ラベリング操作で選択されたデータx)に対してラベルyが付与される。なお、このラベルyは記憶部201に記憶される。
一方で、ラベル削除の場合、ラベル処理部104は、開始日時入力欄G151に入力された開始日時から、終了日時入力欄G152に入力された終了日時までの間の時間区間に含まれるデータに付与されているラベルを削除する。これにより、ラベリング対象のデータx(すなわち、手動ラベリング操作で選択されたデータx)からラベルyが削除される。
なお、ラベルを削除することは、ラベル値を所定の値に更新又は上書きすることであっても良い。例えば、ラベル値が「0」又は「1」の2値であり、ラベル値「0」が正常データを表し、ラベル値「1」が異常データを表すような場合、ラベルの削除は、ラベル値「1」のラベルが付与されているデータのラベル値を「0」に更新又は上書きすることであっても良い。
ステップS203:ラベル処理部104は、自動ラベリング操作で選択された時系列予測アルゴリズム(又は時系列アルゴリズムの組み合わせ)と、この時系列予測アルゴリズム(又は時系列アルゴリズムの組み合わせ)でのデータ抽出に必要なパラメータとによりラベリング対象のデータを抽出する。
ここで、時系列の予測値と信頼区間とが出力される時系列予測アルゴリズムが選択された場合に、ラベル処理部104がラベリング対象のデータを抽出する例について説明する。なお、時系列の予測値と信頼区間とが出力される時系列予測アルゴリズムとしては、例えば、Prophet等が挙げられる。
この場合、時系列予測アルゴリズムは、時系列データx={x}(t=1,・・・,T)を入力として、予測値の時系列データ{^x}(t=1,・・・,T)と、信頼区間{u}及び{l}とを出力する。ここで、u及びlは、それぞれ予測値^xの信頼区間の上限及び下限である。また、予測値であることを示すハット「^」は、便宜上、文字の頭上ではなく、文字の直前に記載する。
このとき、ラベル処理部104は、例えば、x,・・・xのうち、x>u又はl>xのいずれかを満たすxをラベリング対象のデータとして抽出すれば良い。なお、この例の場合、ユーザは、パラメータの設定が不要である。
ただし、これに限られず、例えば、当該時系列予測アルゴリズムのパラメータとして閾値θがユーザにより設定された場合には、この閾値を用いてラベリング対象のデータを抽出しても良い。例えば、x-u>θ又はl-x>θのいずれかを満たすxをラベリング対象のデータとして抽出しても良い。又は、例えば、|x-^x|>θを満たすxをラベリング対象のデータとして抽出しても良い。なお、このとき、パラメータとして重みが設定されても良い。例えば、重みa(0<a≦1)が設定された場合、|x-a×^x|>θを満たすxをラベリング対象のデータとして抽出するようにすれば良い。
また、時系列予測アルゴリズムの組み合わせがユーザにより選択された場合、複数の時系列予測アルゴリズムからラベリング対象のデータが抽出される。例えば、第1の時系列予測アルゴリズムと第2の時系列予測アルゴリズムとの組み合わせが選択された場合、第1の時系列予測アルゴリズムによる予測値の時系列データ{^x´}(t=1,・・・,T)と、第2の時系列予測アルゴリズムによる予測値の時系列データ{^x´´}(t=1,・・・,T)とを用いて、|x-(a×^x´+b×^x´´)|>θを満たすxをラベリング対象のデータとして抽出すれば良い。なお、a、b、θはユーザにより設定されたパラメータであり、a、bは第1の時系列予測アルゴリズムと第2の時系列予測アルゴリズムとの重みであり、例えば、a+b=1、a≧0、b≧0を満たすものである。
上記以外にも、例えば、第1の時系列予測アルゴリズムと第2の時系列予測アルゴリズムとが信頼区間を出力する場合には、第1の時系列予測アルゴリズムが出力する信頼区間を{u´}及び{l´}、第2の時系列予測アルゴリズムが出力する信頼区間を{u´´}及び{l´´}として、x>(u´+u´´)/2又は(l´+l´´)/2>xのいずれかを満たすxをラベリング対象のデータとして抽出しても良い。また、時系列予測アルゴリズムの組み合わせは2つに限られず、3つ以上の時系列予測アルゴリズムの組み合わせであっても良い。
なお、上記では、時系列予測アルゴリズムを用いてラベリング対象のデータを抽出する場合について説明したが、例えば、ユーザにより設定された閾値θと、時系列データx={x}(t=1,・・・,T)との比較によってラベリング対象のデータを抽出しても良い。例えば、x>θを満たすxをラベリング対象のデータとして抽出する(又は、x<θを満たすxをラベリング対象のデータとして抽出する)等としても良い。
また、ラベル入力欄G172に設定されたラベル値に応じて、ラベリング対象のデータを抽出する条件を変更しても良い。例えば、上記の信頼区間が出力される時系列予測アルゴリズムを用いる場合に、ラベル値が「0」であるときはx>uを満たすか否かを判定し、ラベル値が「1」であるときはl>xを満たすか否かを判定する、等である。又は、例えば、予め決められた閾値と時系列データx={x}とを比較する場合に、ラベル値が「0」であるときは、閾値θを用いて、x>θを満たすか否かを判定し、ラベル値が「1」であるときは、閾値θを用いて、x>θを満たすか否かを判定する、等である。 ステップS204:ラベル処理部104は、上記のステップS203で抽出されたデータに対してラベル付与又はラベル削除を行う。すなわち、ラベル付与の場合、ラベル処理部104は、上記のステップS203で抽出されたデータに対して、ラベル入力欄G172に入力されたラベル値を付与する。これにより、ラベリング対象のデータx(すなわち、上記のステップS203で抽出されたデータx)に対してラベルyが付与される。なお、このラベルyは記憶部201に記憶される。
一方で、ラベル削除の場合、ラベル処理部104は、上記のステップS203で抽出されたデータに付与されているラベルを削除する。これにより、ラベリング対象のデータx(すなわち、上記のステップS203で抽出されたデータx)からラベルyが削除される。
なお、上記でラベル付与を行う際に、上記のステップS203で抽出されたデータに既にラベルが付与されている場合も有り得る。この場合、既に付与されているラベルを更新又は上書きしても良い。すなわち、ラベリングボタンG173の押下操作は、ラベル付与だけでなく、ラベルの更新又は上書きをするための操作を意味しても良い。また、ラベルの更新又は上書きだけでなく、上記のステップS203で抽出されたデータに対して追加でラベルを付与しても良い。また、既にラベルが付与されているデータは、上記のステップS203で抽出されないようにしても良い。この場合に、(1)既に付与されているラベルを更新又は上書きするか、(2)追加でラベルを付与するか、(3)既にラベルが付与されているデータが抽出されないようにするか、の(1)~(3)のいずれとするかは、例えば、ユーザにより選択されても良い。
また、上記でラベル付与を行う際に、上記のステップS203で抽出されたデータに対して、ラベル入力欄G172に設定されたラベル値を付与したが、これに限られず、例えば、ラベル入力欄G172へのラベル値の入力操作を不要とし、上記のステップS203で抽出されたデータに応じてラベル値を付与しても良い。この場合、例えば、信頼性区間が出力される時系列予測アルゴリズムでは、x-uの値又はl-xの値に応じたラベル値をxに付与することが考えられる。具体的には、例えば、δ=x-uとして、δが或る範囲内の場合はラベル値「1」、別の或る範囲内の場合はラベル値「2」等のように、データに付与するラベル値を決定することが考えられる。同様に、例えば、ユーザにより設定された閾値θとxとの比較によってラベル値を決定する場合もθとxとの差に応じたラベル値をxに付与することが考えられる。
また、上述したように、ラベルを削除することは、ラベル値を所定の値に更新又は上書きすることであっても良い。例えば、ラベル値が「0」又は「1」の2値であり、ラベル値「0」が正常データを表し、ラベル値「1」が異常データを表すような場合、ラベルの削除は、ラベル値「1」のラベルが付与されているデータのラベル値を「0」に更新又は上書きすることであっても良い。
図2に戻る。ステップS105:統計量計算部105は、時系列データやラベルデータ等から所定の統計量を計算する。そして、表示制御部101は、統計量計算部105により計算された統計量で、統計量情報欄G210に表示されている統計量情報を更新する。
ここで、図4に示す統計量情報欄G210には、時系列データのうちのラベル値「0」のラベルが付与されているデータ数と、ラベル値「1」のラベルが付与されているデータ数との割合が円グラフとして表示されているが、これは一例であって、統計量情報欄G210には、統計量計算部105により計算された任意の統計量が任意の形式で表示される。例えば、円グラフとして、ラベル値「0」のラベルが付与されているデータ数と、ラベル値「1」のラベルが付与されているデータ数と、ラベルが付与されていないデータ数(この場合のラベルが付与されていないデータとは、ラベル値自体が付与されていないデータのことである。)との割合が表示されても良い。また、円グラフ以外にも、例えば、統計量計算部105により計算された統計量が、ラベルが付与されているデータ及びラベルが付与されていないデータそれぞれの最小値、中央値、平均値、最大値等である場合、統計量情報欄G210には、ラベルが付与されているデータに関する箱ひげ図と、ラベルが付与されていないデータに関する箱ひげ図とが表示されていても良い。
ステップS106:ラベル付与候補を抽出するための操作(以降、「ラベル付与候補抽出操作」とも表す。)がユーザにより行われた場合、操作受付部102は、当該操作を受け付ける。そして、ラベル付与候補抽出部106は、データ入力部103により入力された時系列データの中からラベル付与の候補となるデータを抽出する。
ここで、ユーザは、ラベル付与候補抽出欄G180において、ラベル付与候補の抽出に必要なパラメータを設定すると共に、グラフG132の中から基準となるデータ(以降、「基準データ」と表す。)を選択した上で、抽出ボタンG185を押下することで、ラベル付与候補抽出操作を行うことができる。これらのパラメータは、例えば、距離選択欄G181と、ターゲットポイント選択欄G182と、時間長設定欄G183と、出力数設定欄G184とで設定することができる。また、基準データとしては、ラベル付与済みのデータの中から1つのデータが選択される。
距離選択欄G181では、ラベル付与候補の抽出に用いられる距離が選択される。距離選択欄G181で選択可能な距離としては、例えば、DTW(Dynamic Time Warping)やユークリッド距離等が挙げられる。これら以外にも、例えば、フーリエ変換距離や自己回帰係数距離等が選択可能であっても良い。
ターゲットポイント選択欄G182では、時間長設定欄G183で設定された時間長の部分系列を作成する際に、部分系列中の基準位置が選択される。ターゲットポイント選択欄G182で設定可能な基準位置としては、「First」、「Center」、「Last」等がある。
時間長設定欄G183には、部分系列の長さを示す時間長が設定される。ここで、本発明の実施の形態では、時間長は時系列データx={x}のインデックスの長さで表されるものとする。ただし、時間長は、インデックスの長さに限られず、例えば、時間幅等で表されても良い。
出力数設定欄G184には、ラベル付与候補抽出部106により抽出されるデータ数が設定される。
ここで、上記のパラメータと基準データxt´とを用いて、時系列データx={x}(t=1,・・・,T)の中からラベル付与候補を抽出する場合について説明する。なお、一例として、上記のパラメータのうち、時間長はL、出力数はNであるものとする。
まず、ラベル付与候補抽出部106は、基準データxt´を基準位置に含む時間長Lの部分系列を作成する。例えば、基準位置が「First」である場合、ラベル付与候補抽出部106は、基準データxt´が先頭にある時間長Lの部分系列を作成する。また、例えば、基準位置が「Center」である場合、ラベル付与候補抽出部106は、基準データxt´が中心にある時間長Lの部分系列(すなわち、例えば、L/2(L:偶数)番目又は(L+1)/2(L:奇数)番目に基準データxt´がある時間長Lの部分系列)を作成する。また、例えば、基準位置が「Last」である場合、ラベル付与候補抽出部106は、基準データxt´が末尾にある時間長Lの部分系列を作成する。以降では、基準データxt´が含まれる部分系列を「基準部分系列」と表す。
次に、ラベル付与候補抽出部106は、時系列データのうちのラベル付与済みでないデータを基準位置に含む時間長Lの部分系列(以降、「対象部分系列」と表す。)と、基準部分系列との距離を計算する。例えば、時系列データのうちのラベル付与済みでないデータの日時tの集合をSとすれば、例えば、ラベル付与済みでないデータを基準位置「First」に含む対象部分系列は、t∈Sとして、x,・・・,xt+L-1で表される。同様に、例えば、ラベル付与済みでないデータを基準位置「Last」に含む対象部分系列は、t∈Sとして、xt-L+1,・・・,xで表される。したがって、ラベル付与候補抽出部106は、各t∈Sについて、これらの対象部分系列と基準部分系列との距離を計算する。
そして、ラベル付与候補抽出部106は、基準部分系列との距離が小さい順に上位N個の対象部分系列を特定し、特定した対象部分系列の基準位置にあるデータを抽出する。これにより、ラベル付与の候補となるデータが抽出される。これは、基準部分系列と距離が小さい対象部分系列の基準位置にあるデータには、基準データと同様のラベルを付与することができる(又は基準データと同様のラベルが付与される可能性が高い)と考えられるためである。
ステップS107:表示制御部101は、上記のステップS106で抽出されたデータ(ラベル付与候補)で、ラベル付与候補情報欄G220に表示されているラベル付与候補情報を更新する。
ここで、図4に示すラベル付与候補情報欄G220には、「候補」として、上記のステップS106で抽出された上位3件のデータが表示されている。なお、「距離」は、当該データが含まれる対象部分系列と基準部分系列との距離である。また、「基準データ日時」及び「基準データラベル」は、それぞれ基準データの日時及びラベル値である。
なお、表示制御部101は、更に、上記のステップS106で抽出されたデータを示す情報を時系列データ(グラフ表示)欄G130に表示しても良い。例えば、グラフG132において、当該抽出されたデータの日時に縦線を表示したり、目立つ態様のアイコン等を表示したりしても良い。これにより、ユーザは、ラベル付与候補を示すデータがグラフG132上のどのデータであるのかを視覚的に容易に知ることができるようになる。
ステップS108:最後に、データ出力部107は、ラベリング画面G100のデータ出力欄G190におけるユーザの操作に応じて、ラベリング後の時系列データを記憶部201から出力する。
ユーザは、データ出力欄G190の出力方法設定欄G191で所望の出力方法を設定した上で、出力ボタンG192を押下する操作を行うことで、この出力方法によってラベリング後の時系列データを入力することができる。ここで、ラベリング後の時系列データは、ラベル付き時系列データであっても良いし、時系列データとラベルデータとの組であっても良い。また、データ出力部107は、ラベルデータのみを出力しても良い。
なお、ユーザは、出力方法設定欄G191において出力方法を設定する際に、この出力方法に応じたパラメータも設定する。例えば、出力方法として「データベースへ出力」を設定した場合には、該当のデータベースを指定又は選択する。また、例えば、出力方法として「ファイルへ出力」を設定した場合には、該当のファイルの格納先アドレス等を指定又は選択する。
<ラベリング装置10のハードウェア構成>
次に、本発明の実施の形態におけるラベリング装置10のハードウェア構成について、図6を参照しながら説明する。図6は、本発明の実施の形態におけるラベリング装置10のハードウェア構成の一例を示す図である。
図6に示すように、本発明の実施の形態におけるラベリング装置10は、入力装置301と、表示装置302と、外部I/F303と、RAM(Random Access Memory)304と、ROM(Read Only Memory)305と、CPU306と、通信I/F307と、補助記憶装置308とを有する。これら各ハードウェアは、それぞれがバスBを介して通信可能に接続されている。
入力装置301は、例えばキーボードやマウス、タッチパネル等であり、ユーザが各種操作を入力するのに用いられる。表示装置302は、例えばディスプレイ等であり、ラベリング装置10の処理結果を表示する。
外部I/F303は、外部装置とのインタフェースである。外部装置には、記録媒体303a等がある。ラベリング装置10は、外部I/F303を介して、記録媒体303a等の読み取りや書き込みを行うことができる。記録媒体303aには、ラベリングプログラム100等が記録されていても良い。
記録媒体303aとしては、例えば、フレキシブルディスク、CD(Compact Disc)、DVD(Digital Versatile Disk)、SDメモリカード(Secure Digital memory card)、USB(Universal Serial Bus)メモリカード等が挙げられる。
RAM304は、プログラムやデータを一時保持する揮発性の半導体メモリである。ROM305は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリである。ROM305には、例えば、OS(Operating System)に関する設定情報や通信ネットワークに関する設定情報等が格納されている。
CPU306は、ROM305や補助記憶装置308等からプログラムやデータをRAM304上に読み出して、各種の処理を実行する演算装置である。
通信I/F307は、ラベリング装置10を通信ネットワークに接続するためのインタフェースである。ラベリングプログラム100は、通信I/F307を介して、所定のサーバ等から取得(ダウンロード)されても良い。
補助記憶装置308は、例えばHDD(Hard Disk Drive)やSSD(Solid State Drive)等であり、プログラムやデータを格納している不揮発性の記憶装置である。補助記憶装置308に格納されているプログラムやデータには、例えば、OS、アプリケーションプログラム、ラベリングプログラム100等がある。なお、記憶部201は、例えば、補助記憶装置308等により実現される。
本発明の実施の形態におけるラベリング装置10は、図6に示すハードウェア構成を有することにより、上述した各種処理を実現することができる。なお、図6に示す例では、ラベリング装置10が1台のコンピュータで実現される場合のハードウェア構成を示したが、これに限られず、ラベリング装置10は複数台のコンピュータで実現されていても良い。
<まとめ>
以上のように、本発明の実施の形態におけるラベリング装置10は、ラベリング画面G100上で、ユーザの操作によって自動又は手動で時系列データのラベリング(ラベル付与又はラベル削除)を行うことができる。特に、本発明の実施の形態におけるラベリング装置10では、時系列予測アルゴリズムにより時系列データを自動でラベリングすることができる。このため、時系列データに対して効率的なラベリングを行うことができるようになる。すなわち、時系列データに対して、高速に高い精度でラベリングを行うことができるようになる。
また、本発明の実施の形態におけるラベリング装置10は、ラベリング画面G100内に統計量情報やラベル付与候補情報等を表示する。したがって、ユーザは、これらの情報を参考にして、時系列データに対するラベリング結果が妥当か否かを確認したり、ラベルの付与漏れが無いかを確認したりすること等ができるようになる。
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
10 ラベリング装置
100 ラベリングプログラム
101 表示制御部
102 操作受付部
103 データ入力部
104 ラベル処理部
105 統計量計算部
106 ラベル付与候補抽出部
107 データ出力部
201 記憶部

Claims (8)

  1. ラベリング対象の時系列データ{x}を入力する入力手段と、
    複数の時系列予測アルゴリズムのうち、ユーザにより選択された1以上の時系列予測アルゴリズムを用いて、前記時系列データ{x}に含まれる1以上のデータxをラベリングするラベリング手段と、
    前記ラベリングされた時系列データ{x}を出力する出力手段と、
    を有し、
    前記ラベリング手段は、
    前記1以上の時系列予測アルゴリズムによって前記時系列データ{x }から予測された1以上の予測系列と、前記時系列データ{x }とを用いて、前記時系列データ{x }に含まれるデータx と1以上の前記予測系列に含まれるインデックスtの予測データの重み付け和との差と、所定の閾値との比較結果により、前記データx をラベリングする、ことを特徴とするラベリング装置。
  2. ラベリング対象の時系列データ{x }を入力する入力手段と、
    前記時系列データ{x }に含まれるデータx のうち、ラベルが付与されていないデータx を、ラベル付与の候補として抽出する抽出手段と、
    複数の時系列予測アルゴリズムのうち、ユーザにより選択された1以上の時系列予測アルゴリズムを用いて、ラベル付与の候補として抽出された1以上のデータx をラベリングするラベリング手段と、
    前記ラベリングされた時系列データ{x }を出力する出力手段と、
    を有することを特徴とするラベリング装置。
  3. 前記ラベリング手段は、
    前記時系列予測アルゴリズムによって前記時系列データ{x}から予測された予測系列{^x}の信頼区間の上限値系列{u}及び下限値系列{l}と、前記時系列データ{x}とを用いて、前記時系列データ{x}に含まれるデータxと、前記上限値系列{u}に含まれる上限値u又は前記下限値系列{l}に含まれる下限値lとの比較結果により、前記データxをラベリングする、ことを特徴とする請求項に記載のラベリング装置。
  4. 前記抽出手段は、
    ユーザにより選択されたラベル付与済みのデータが含まれる第1の部分系列と、前記時系列データ{x}に含まれる第2の部分系列との距離を計算し、該計算した距離が小さい順に、上位所定の件数の第2の部分系列の所定の位置に含まれるデータを、前記ラベル付与の候補として抽出する、ことを特徴とする請求項2又は3に記載のラベリング装置。
  5. 前記ラベル付与の候補と、前記ラベリングされた時系列データ{x}の所定の統計量を示す情報とが少なくとも含まれる画面を表示する表示手段を有する、ことを特徴とする請求項2乃至4の何れか一項に記載のラベリング装置。
  6. コンピュータが、
    ラベリング対象の時系列データ{x}を入力する入力手順と、
    複数の時系列予測アルゴリズムのうち、ユーザにより選択された1以上の時系列予測アルゴリズムを用いて、前記時系列データ{x}に含まれる1以上のデータxをラベリングするラベリング手順と、
    前記ラベリングされた時系列データ{x}を出力する出力手順と、
    を実行し、
    前記ラベリング手順は、
    前記1以上の時系列予測アルゴリズムによって前記時系列データ{x }から予測された1以上の予測系列と、前記時系列データ{x }とを用いて、前記時系列データ{x }に含まれるデータx と1以上の前記予測系列に含まれるインデックスtの予測データの重み付け和との差と、所定の閾値との比較結果により、前記データx をラベリングする、ことを特徴とするラベリング方法。
  7. コンピュータが、
    ラベリング対象の時系列データ{x }を入力する入力手順と、
    前記時系列データ{x }に含まれるデータx のうち、ラベルが付与されていないデータx を、ラベル付与の候補として抽出する抽出手順と、
    複数の時系列予測アルゴリズムのうち、ユーザにより選択された1以上の時系列予測アルゴリズムを用いて、ラベル付与の候補として抽出された1以上のデータx をラベリングするラベリング手順と、
    前記ラベリングされた時系列データ{x }を出力する出力手順と、
    を実行することを特徴とするラベリング方法。
  8. コンピュータを、請求項1乃至の何れか一項に記載のラベリング装置における各手段として機能させるためのプログラム。
JP2018153166A 2018-08-16 2018-08-16 ラベリング装置、ラベリング方法及びプログラム Active JP7029363B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018153166A JP7029363B2 (ja) 2018-08-16 2018-08-16 ラベリング装置、ラベリング方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018153166A JP7029363B2 (ja) 2018-08-16 2018-08-16 ラベリング装置、ラベリング方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020027540A JP2020027540A (ja) 2020-02-20
JP7029363B2 true JP7029363B2 (ja) 2022-03-03

Family

ID=69620438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018153166A Active JP7029363B2 (ja) 2018-08-16 2018-08-16 ラベリング装置、ラベリング方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7029363B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112021007831T5 (de) * 2021-06-15 2024-04-04 Mitsubishi Electric Corporation Programm, Bezeichnungsunterstützungs-Vorrichtung und Bezeichnungsunterstützungs-Verfahren
WO2023084712A1 (ja) * 2021-11-11 2023-05-19 日本電気株式会社 情報処理装置、情報処理方法及び情報処理プログラム
WO2023170912A1 (ja) * 2022-03-11 2023-09-14 日本電気株式会社 情報処理装置、生成方法、情報処理方法、及びコンピュータ可読媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005285005A (ja) 2004-03-30 2005-10-13 Toshiba Corp プラントデータ処理装置と処理方法及びプログラム。
US20060036542A1 (en) 2004-07-09 2006-02-16 Mcnair Douglas S System and method for behavioral finance
JP2013025367A (ja) 2011-07-15 2013-02-04 Wakayama Univ 設備状態監視方法およびその装置
JP2016076073A (ja) 2014-10-06 2016-05-12 日本電気株式会社 データ処理装置、データ処理方法、及び、コンピュータ・プログラム
JP6317000B1 (ja) 2017-02-20 2018-04-25 三菱電機インフォメーションシステムズ株式会社 ラベリング装置およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005285005A (ja) 2004-03-30 2005-10-13 Toshiba Corp プラントデータ処理装置と処理方法及びプログラム。
US20060036542A1 (en) 2004-07-09 2006-02-16 Mcnair Douglas S System and method for behavioral finance
JP2013025367A (ja) 2011-07-15 2013-02-04 Wakayama Univ 設備状態監視方法およびその装置
JP2016076073A (ja) 2014-10-06 2016-05-12 日本電気株式会社 データ処理装置、データ処理方法、及び、コンピュータ・プログラム
JP6317000B1 (ja) 2017-02-20 2018-04-25 三菱電機インフォメーションシステムズ株式会社 ラベリング装置およびプログラム

Also Published As

Publication number Publication date
JP2020027540A (ja) 2020-02-20

Similar Documents

Publication Publication Date Title
JP7029363B2 (ja) ラベリング装置、ラベリング方法及びプログラム
US20210117863A1 (en) Systems and methods for machine learning interpretability
JP4197328B2 (ja) データを編集する画面の表示を制御するシステム、およびその方法
EP2677451B1 (en) License verification method and apparatus, and computer readable storage medium storing program therefor
JP5790431B2 (ja) 設計支援装置、設計支援方法および設計支援プログラム
JP2008226061A (ja) 画像のタグ指定装置および画像検索装置ならびにそれらの動作制御方法およびそれらのコンピュータを制御するプログラム
JP6237168B2 (ja) 情報処理装置及び情報処理プログラム
JP2018026060A (ja) プログラマブル表示器、更新処理装置、更新方法、情報処理方法およびプログラム
CN104462030A (zh) 字符转换装置、字符转换方法
JP2019169044A (ja) ソフトウェアロボット定義情報生成システム、ソフトウェアロボット定義情報生成方法、及びプログラム
CN104699408A (zh) 触摸屏的操作方法、装置及触摸设备
JP2016531352A (ja) 入力システムをアップデートする方法、デバイス、プログラム及びデバイス
JP2006085645A (ja) データ予測装置及びデータ予測方法並びにプログラム
WO2011055801A1 (ja) 共同開発支援システム、共同開発支援方法及び記録媒体
JP6910494B1 (ja) 情報処理プログラム、情報処理装置及び情報処理方法
US11436029B2 (en) Help information display system, help information display method, and help information display program
CN117689321A (zh) 业务数据处理方法及装置
JP2019101829A (ja) ソフトウェア部品管理システム、計算機および方法
JP2013239203A (ja) 電子機器、方法、及びプログラム
CN111221504A (zh) 同步操作显示系统与非瞬时计算机可读取媒体
JP2006091937A (ja) データ分析装置及びその方法、プログラム
JP7021401B1 (ja) ロギング支援装置、ロギングシステム、ロギング支援方法及びプログラム
JP6777802B1 (ja) 入力項目表示制御システム、および入力項目表示制御方法
JP6049647B2 (ja) プラント監視装置
JP5666011B1 (ja) 方法及び電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220218

R150 Certificate of patent or registration of utility model

Ref document number: 7029363

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150