JP7601112B2

JP7601112B2 - データフロー制御装置、データフロー制御方法、及びデータフロー制御プログラム

Info

Publication number: JP7601112B2
Application number: JP2022561742A
Authority: JP
Inventors: 晃朗石崎; プリヤンカラサンパト
Original assignee: Nippon Telegraph and Telephone Corp; NTT Inc USA
Current assignee: NTT Inc; NTT Inc USA
Priority date: 2020-11-10
Filing date: 2020-11-10
Publication date: 2024-12-17
Anticipated expiration: 2040-11-10
Also published as: US12373384B2; WO2022102001A1; JPWO2022102001A1; US20230334007A1

Description

本発明は、データフロー制御装置、データフロー制御方法、及びデータフロー制御プログラムに関する。

従来、データ処理を行うワークフローのメタデータを基に、データ転送に関する機能を複数の論理的なレイヤに分けて管理する「Kafon」と呼ばれる手法が知られている（例えば、非特許文献１を参照）。

非特許文献１に記載の手法は、システムの各機能を、アプリケーションロジック、転送経路の管理、ノード間の伝送、ミドルウェア実装の４つのレイヤに分けて管理し、転送処理の共通化等によりデータフローの効率化を図るものである。

Cyber Agent, "大規模データ処理", https://www.cyberagent.co.jp/techinfo/labo/tech/detail/id=23934 福田一郎、他、 "サイバーエージェントのデータ活用のためのR&D体制と取組み", 人工知能学会，３０巻３号，pp.318-324.(https://jsai.ixsq.nii.ac.jp/ej/?action=repository_action_common_download&item_id=1892&item_no=1&attribute_id=22&file_no=1)

しかしながら、従来の手法には、システム全体でのデータフローの効率化が困難な場合があるという問題がある。例えば、非特許文献１に記載の手法では、タスクを割り当てる演算器の能力や演算器間のデータ転送等が考慮されておらず、システム全体で必ずしも性能が向上するとは限らない。

上述した課題を解決し、目的を達成するために、データフロー制御装置は、データを処理するシステムにおいて稼働中の第１のデータフローと、入力された第２のデータフローと、の少なくとも一部を共通化して統合したデータフローのうち、前記システムにおいて稼働させた場合のリソースの使用量が所定の条件を満たす第３のデータフローを算出する算出部と、前記システムに対し、前記第１のデータフローを前記第３のデータフローに切り替えることを指示する指示部と、を有することを特徴とする。

本発明によれば、システム全体でデータフローを効率化することができる。

図１は、第１の実施形態に係るデータフロー制御装置の構成例を示す図である。図２は、データフローの一例を示す模式図である。図３は、データフローの切り替えについて説明する図である。図４は、第１の実施形態に係るデータフロー制御装置の処理の流れを示すフローチャートである。図５は、データフロー制御プログラムを実行するコンピュータの一例を示す図である。

以下に、本願に係るデータフロー制御装置、データフロー制御方法、及びデータフロー制御プログラムの実施形態を図面に基づいて詳細に説明する。なお、本発明は、以下に説明する実施形態により限定されるものではない。

［第１の実施形態の構成］
まず、図１を用いて、第１の実施形態に係るデータフロー制御装置の構成について説明する。図１は、第１の実施形態に係るデータフロー制御装置の構成の一例を示す図である。

図１に示すように、データフロー制御装置１０は、データフローの入力を受け付け、データフローの変更指示をデータ処理システム２０に対して出力する。ユーザは、データフローの追加、更新、削除等のためのデータフロー定義情報をデータフロー制御装置１０に入力する。データフロー制御装置１０は、インタフェース部１１、記憶部１２及び制御部１３を有する。なお、データ処理システム２０は、データを処理するシステムの一例である。

インタフェース部１１は、データの入出力及びデータの通信を行うためのインタフェースである。例えば、インタフェース部１１は、キーボード及びマウス等の入力装置からデータの入力を受け付ける。また、例えば、インタフェース部１１は、ディスプレイ及びスピーカ等の出力装置にデータを出力する。また、例えば、インタフェース部１１はNIC（Network Interface Card）であってもよい。

記憶部１２は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、光ディスク等の記憶装置である。なお、記憶部１２は、ＲＡＭ（Random Access Memory）、フラッシュメモリ、ＮＶＳＲＡＭ（Non Volatile Static Random Access Memory）等のデータを書き換え可能な半導体メモリであってもよい。記憶部１２は、データフロー制御装置１０で実行されるＯＳ（Operating System）や各種プログラムを記憶する。また、記憶部１２は、フロー情報管理ＤＢ１２１、演算資源割当管理ＤＢ１２２及び回線情報ＤＢ１２３を記憶する。

フロー情報管理ＤＢ１２１は、データ処理システム２０で稼働中のデータフローに関する情報を保持する。フロー情報管理ＤＢ１２１は、データフローに含まれる各処理のデータ取得元、処理方法及び処理順序等を保持する。また、フロー情報管理ＤＢ１２１は、データ処理システム２０が収集するデータ及びデータフローのユーザの属性に関する各種メタデータを保持する。

演算資源割当管理ＤＢ１２２は、計算リソースごとの、実行可能な処理、及び各処理への割り当てがされているか否かといった情報を保持する。さらに、演算資源割当管理ＤＢ１２２は、各ユーザに対する計算リソースの割り当てが許可されているか否か、すなわちアクセス制御に関する情報を保持する。

回線情報ＤＢ１２３は、サーバ間、ユーザとサーバ間、データ収集元とサーバ間、データセンタ間のネットワークの遅延や帯域に関する情報を保持する。なお、ここでのサーバは、例えばデータ処理システム２０を構成する複数のサーバである。

制御部１３は、データフロー制御装置１０全体を制御する。制御部１３は、例えば、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の電子回路や、ＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field Programmable Gate Array）等の集積回路である。また、制御部１３は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、内部メモリを用いて各処理を実行する。また、制御部１３は、各種のプログラムが動作することにより各種の処理部として機能する。例えば、制御部１３は、確認部１３１、抽出部１３２、算出部１３３、指示部１３４及び更新部１３５を有する。

確認部１３１は、フロー情報管理ＤＢ１２１を参照し、入力されたデータフローに対応するユーザの属性情報が、データフローの共有を許可するものであるか否かを確認する。さらに、確認部１３１は、入力されたデータフローと稼働中のデータフローとの間に重複部分があるか否かを確認する。

例えば、フロー情報管理ＤＢ１２１に、優先利用の権限を持つユーザが保有するデータフローによって、演算器及びネットワーク資源等のリソースが利用されていることが示されている場合、当該リソースは当該ユーザによって占有される。そのため、確認部１３１は、優先利用の権限を持つユーザが保有するデータフローと入力されたデータフローとの統合は許可されていないと判断する。

ここで、図２を用いて、データフローについて説明する。図２は、データフローの一例を示す模式図である。図２の既存のデータフローは、データ処理システム２０で稼働中のデータフローである。また、追加のデータフローは、データフロー制御装置１０にユーザによって入力されたデータフローである。

図２に示すように、既存のデータフローと、追加のデータフローとで、「Ｃａｍｅｒａ→処理Ｐ１」の部分が重複している。このため、図２の例では、確認部１３１は、入力されたデータフローと稼働中のデータフローとの間に重複部分があることを確認する。

抽出部１３２は、既存のデータフローのうち、共有可能なデータフローを抽出する。例えば、抽出部１３２は、ユーザの属性情報によって共有が許可されており、かつ重複部分があるデータフローを抽出する。

算出部１３３は、抽出部１３２によって抽出されたデータフローと、入力されたデータフローと、の少なくとも一部を共通化して統合したデータフローのうちの、データ処理システム２０において稼働させた場合のリソースの使用量が所定の条件を満たすような新たなデータフローを算出する。

ここで、抽出部１３２によって抽出されたデータフローは、データを処理するシステムにおいて稼働中の第１のデータフローの一例である。また、入力されたデータフローは第２のデータフローの一例である。また、新たなデータフローは第３のデータフローの一例である。

まず、算出部１３３は、抽出部１３２によって抽出されたデータフローのそれぞれについて、各データフローを実現可能な空き計算リソース及びネットワークリソースの組み合わせを作成する。このとき、算出部１３３は、演算資源割当管理ＤＢ１２２及び回線情報ＤＢ１２３を参照して組み合わせを作成することができる。

さらに、算出部１３３は、作成した各組み合わせについてリソースの使用量、すなわちコストを計算し、例えばコストが最も小さい組み合わせを選定する。算出部１３３は、各組み合わせの演算資源間、データ提供元と演算資源間、及びデータ出力先と演算資源間のデータ転送遅延時間、ネットワークＮＷ帯域情報を基にコストを計算する。

演算資源は、例えばデータ処理システム２０を構成する情報処理装置の演算装置等である。また、データ提供元は、例えばカメラ及びセンサ等である。また、データ出力先は、例えば他の情報処理装置及びディスプレイ等の出力装置である。

また、前述のように、確認部１３１は、稼働中のデータフローのユーザにあらかじめ設定された属性情報を基に、稼働中のデータフローの共通化が許可されているか否かを確認する。そして、算出部１３３は、確認部１３１によって稼働中のデータフローの共通化が許可されていることが確認された場合に、共通化されたデータフローを算出する。

指示部１３４は、システムに対し、抽出部１３２によって抽出されたデータフローを、算出部１３３によって算出された新たなデータフローに切り替えることを指示する。

図３は、データフローの切り替えについて説明する図である。図３に示すように、切り替え前のデータフローでは、ユーザＵ１がアプリケーションＡＰ１を実行した場合に、演算器ａによって処理Ｐ１が実行されていた。

ここで、ユーザＵ２によるアプリケーションＡＰ１の実行、及びユーザＵ２によるアプリケーションＡＰ１の実行に関するデータフローが追加されたものとする。切り替え前のデータフローと、追加された２つのデータフローとでは、処理Ｐ１を実行する部分が重複している。このため、算出部１３３は、切り替え前のデータフローと追加されたデータフローを統合した「Ｃａｍｅｒａ→処理Ｐ１（演算器ｂ）→ユーザＵ１ＡＰ１」というデータフローを算出する。

そして、算出部１３３によって「Ｃａｍｅｒａ→処理Ｐ１（演算器ｂ）→ユーザＵ１ＡＰ１」というデータフローが選定されると、指示部１３４は、既存のデータフロー「Ｃａｍｅｒａ→処理Ｐ１（演算器ａ）→ユーザＵ１ＡＰ１」を、選定されたデータフロー「Ｃａｍｅｒａ→処理Ｐ１（演算器ｂ）→ユーザＵ１ＡＰ１」に切り替えることをデータ処理システム２０に指示する。

また、切り替え前後では、処理Ｐ１を実行する演算器が変化している。例えば、演算器ｂは、処理Ｐ２及び処理Ｐ３との間に設けられたキューに、処理Ｐ１の実行結果を保存する。

このように、算出部１３３は、既存のデータフローと入力されたデータフローで共通する処理Ｐ１の結果をキューに保存し、入力されたデータフローにおいて処理Ｐ１の結果を利用する処理Ｐ２及び処理Ｐ３が、キューからデータを取得するような統合済みのデータフローを算出することができる。言い換えると、演算器ｃ及び演算器ｄは、それぞれ処理Ｐ２及び処理Ｐ３を実行する過程で、キューから処理Ｐ１の実行結果を取得する。

この場合、データ処理システム２０は、処理Ｐ２及び処理Ｐ３の実行の際に、処理Ｐ１を実行することなく、キューから実行結果を取得することができる。なお、処理Ｐ１の実行結果は、例えば検索によって得られたデータの一覧等である。

なお、算出部１３３は、処理Ｐ１の実行主体を演算器ａから演算器ｂに変更した結果、全体のコストが増大すると判断した場合、図３のようなデータフローの切り替えを選定しないようにすることができる。

更新部１３５は、データフローの新旧切り替えに伴い、各ＤＢの情報を更新する。ここで、切り替え前のデータフローを旧データフローと呼ぶ。また、切り替え後のデータフローを新データフローと呼ぶ。

まず、更新部１３５は、新旧データフローの切り替え前に、新データフローのための計算リソースを確保し、演算資源割当管理ＤＢ１２２を更新する。そして、更新部１３５は、新旧データフローの切り替え後に、フロー情報管理ＤＢ１２１上に新データフローの情報を追加し、旧データフローの情報を更新する。

そして、更新部１３５は、旧データフローで利用していた計算リソースを解放し演算資源割当管理ＤＢ１２２を更新する。さらに、更新部１３５は、旧データフローのフロー情報管理ＤＢ１２１を更新する。

［第１の実施形態の処理］
図４は、第１の実施形態に係るデータフロー制御装置の処理の流れを示すフローチャートである。まず、データフロー制御装置１０は、データフロー情報の入力を受け付ける（ステップＳ１０１）。

次に、データフロー制御装置１０は、ユーザ情報からデータフローを共有するか確認する（ステップＳ１０２）。データフローを共有しない場合（ステップＳ１０３、Ｎｏ）、データフロー制御装置１０はステップＳ１０７に進む。一方、データフローを共有する場合（ステップＳ１０３、Ｙｅｓ）、データフロー制御装置１０はステップＳ１０４に進む。

続いて、データフロー制御装置１０は、入力されたデータフローに既存データフローと重複部分があるか否かを判定する（ステップＳ１０４）。入力されたデータフローに既存データフローと重複部分がない場合（ステップＳ１０４、Ｎｏ）、データフロー制御装置１０はステップＳ１０７に進む。一方、入力されたデータフローに既存データフローと重複部分がある場合（ステップＳ１０４、Ｙｅｓ）、データフロー制御装置１０はステップＳ１０５に進む。

データフロー制御装置１０は、共有可能な既存データフローを抽出する（ステップＳ１０５）。そして、データフロー制御装置１０は、入力されたデータフローと抽出したデータフローとを統合したデータフローを算出する（ステップＳ１０６）。

データフロー制御装置１０は、算出したデータフローを実現可能な空き計算リソース及びＮＷ（ネットワーク）リソースの組み合わせを作成する（ステップＳ１０７）。そして、データフロー制御装置１０は、入力から出力までのコストを基に組み合わせを選定する（ステップＳ１０８）。

ここで、データフロー制御装置１０は、計算リソースの確保をし、演算資源割当管理ＤＢ１２２を更新する（ステップＳ１０９）。そして、データフロー制御装置１０は、データフローの新旧切り替えをデータ処理システム２０に指示する（ステップＳ１１０）。

また、データフロー制御装置１０は、フロー情報管理ＤＢ１２１上に新データフローの情報を追加し、旧データフローの情報を更新する（ステップＳ１１１）。さらに、データフロー制御装置１０は、旧データフローで利用していた計算リソースを解放し演算資源割当管理ＤＢ１２２を更新する（ステップＳ１１２）。そして、データフロー制御装置１０は、旧データフローのフロー情報管理ＤＢ１２１を更新する（ステップＳ１１３）。

［第１の実施形態の効果］
これまで説明してきたように、データフロー制御装置１０は、データを処理するシステムにおいて稼働中の第１のデータフローと、入力された第２のデータフローと、の一部を共通化して統合したデータフローのうち、システムにおいて稼働させた場合のリソースの使用量が所定の条件を満たすような第３のデータフローを算出する。データフロー制御装置１０は、システムに対し、第１のデータフローを第３のデータフローに切り替えることを指示する。このように、データフロー制御装置１０は、新旧のデータフローの一部を共通化するだけでなく、システムのリソース状況を考慮した上で切り替えを行う。その結果、本実施形態によれば、システム全体でデータフローを効率化することができる。また、本実施形態によれば、データフローのプラガブルな処理の入れ替えが可能になる。

データフロー制御装置１０は、第１のデータフローと第２のデータフローで共通する第１の処理の結果をキューに保存し、第２のデータフローにおいて第１の処理の結果を利用する第２の処理が、キューからデータを取得するように第３のデータフローを算出する。この結果、本実施形態によれば、システム全体の処理効率を向上させることができる。

データフロー制御装置１０は、第１のデータフローのユーザにあらかじめ設定された属性情報を基に、第１のデータフローの共通化が許可されているか否かを確認する。データフロー制御装置１０は、確認部１３１によって第１のデータフローの共通化が許可されていることが確認された場合に、第３のデータフローを算出する。データの出力先が複数のユーザであるマルチテナントのシステムが存在する。そのようなシステムの場合、ユーザの属性によっては、データフローの共通化が許可されていない場合がある。本実施形態では、マルチテナントを考慮した上でシステム全体の処理の効率化を図ることができる。

［システム構成等］
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散及び統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、ＣＰＵ（Central Processing Unit）及び当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。なお、プログラムは、ＣＰＵだけでなく、ＧＰＵ等の他のプロセッサによって実行されてもよい。

また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。

［プログラム］
一実施形態として、データフロー制御装置１０は、パッケージソフトウェアやオンラインソフトウェアとして上記のデータフロー制御処理を実行するデータフロー制御プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記のデータフロー制御プログラムを情報処理装置に実行させることにより、情報処理装置をデータフロー制御装置１０として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やＰＨＳ（Personal Handyphone System）等の移動体通信端末、さらには、ＰＤＡ（Personal Digital Assistant）等のスレート端末等がその範疇に含まれる。

また、データフロー制御装置１０は、ユーザが使用する端末装置をクライアントとし、当該クライアントに上記のデータフロー制御処理に関するサービスを提供するデータフロー制御サーバ装置として実装することもできる。例えば、データフロー制御サーバ装置は、データフローを入力とし、データフローの変更指示を出力とするデータフロー制御サービスを提供するサーバ装置として実装される。この場合、データフロー制御サーバ装置は、Ｗｅｂサーバとして実装することとしてもよいし、アウトソーシングによって上記のデータフロー制御処理に関するサービスを提供するクラウドとして実装することとしてもかまわない。

図５は、データフロー制御プログラムを実行するコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。

メモリ１０１０は、ＲＯＭ（Read Only Memory）１０１１及びＲＡＭ（Random Access Memory）１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic Input Output System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。

ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、データフロー制御装置１０の各処理を規定するプログラムは、コンピュータにより実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、データフロー制御装置１０における機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤ（Solid State Drive）により代替されてもよい。

また、上述した実施形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０は、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して、上述した実施形態の処理を実行する。

なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３及びプログラムデータ１０９４は、ネットワーク（ＬＡＮ（Local Area Network）、ＷＡＮ（Wide Area Network）等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３及びプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。

１０データフロー制御装置
１１インタフェース部
１２記憶部
１３制御部
２０データ処理システム
１２１フロー情報管理ＤＢ
１２２演算資源割当管理ＤＢ
１２３回線情報ＤＢ
１３１確認部
１３２抽出部
１３３算出部
１３４指示部
１３５更新部

Claims

データを処理するシステムにおいて稼働中の第１のデータフローのユーザにあらかじめ設定された属性情報を基に、前記第１のデータフローの共通化が許可されているか否かを確認する確認部と、
前記第１のデータフローと、入力された第２のデータフローで共通する第１の処理の結果をキューに保存し、前記第２のデータフローにおいて前記第１の処理の結果を利用する第２の処理が、前記キューからデータを取得するような第３のデータフローを、前記確認部によって前記第１のデータフローの共通化が許可されていることが確認された場合に算出する算出部と、
前記システムに対し、前記第１のデータフローを前記第３のデータフローに切り替えることを指示する指示部と、
を有することを特徴とするデータフロー制御装置。
データフロー制御装置によって実行されるデータフロー制御方法であって、
データを処理するシステムにおいて稼働中の第１のデータフローのユーザにあらかじめ設定された属性情報を基に、前記第１のデータフローの共通化が許可されているか否かを確認する確認工程と、
前記第１のデータフローと、入力された第２のデータフローで共通する第１の処理の結果をキューに保存し、前記第２のデータフローにおいて前記第１の処理の結果を利用する第２の処理が、前記キューからデータを取得するような第３のデータフローを、前記確認工程によって前記第１のデータフローの共通化が許可されていることが確認された場合に算出する算出工程と、
前記システムに対し、前記第１のデータフローを前記第３のデータフローに切り替えることを指示する指示工程と、
を含むことを特徴とするデータフロー制御方法。
コンピュータを、請求項１に記載のデータフロー制御装置として機能させるためのデータフロー制御プログラム。