JP7283404B2 - 情報処理プログラム、情報処理方法、及び情報処理装置 - Google Patents

Description

本発明は、情報処理プログラム、情報処理方法、及び情報処理装置に関する。

センサ及びカメラ等のデバイスの高性能化並びにネットワークの高速化に伴い、データ、例えば動画像及び静止画像等のマルチメディアデータを活用したサービスが増加傾向にある。

このようなサービスを提供するアプリケーション等のプログラムの開発及び実行を支援する開発基盤として、フローベースドプログラミング（Flow-Based Programming）（以下、「ＦＢＰ」と表記する）を利用したデータ処理サービスが知られている。

ＦＢＰは、データフロープログラミング（Dataflow Programming）の一例である。ＦＢＰは、ＧＵＩ（Graphical User Interface）上で処理部品を組み合わせることでプログラムの開発を実現するツールである。「処理部品」は、各々がデータの取得、加工、検出、又は、分析等の「処理」を行なうように定義された機能ブロックであり、「モジュール」の一例である。

ＦＢＰによれば、プログラム（サービス）の開発者は、処理部品、及び、コーディングに精通していなくても、容易又は迅速にプログラムを開発することができる。

特開２０１７－１８８７７１号公報 特開２０１９－９８５７５号公報 特開２０１８－７２９５７号公報

ＦＢＰで作成したプログラムで扱われる（処理される）データには、機微情報が含まれる可能性がある。「機微情報」とは、配慮されるべき情報であり、一例として、個人情報である。

機微情報が処理される場合、個人情報の所有者に対する事前の同意確認、並びに、期間及び場所を制限したデータの保存、等の適切な対策が必要である。これらが未対策である場合、セキュリティリスクが増加するほか、法律違反又は行政指導の対象となり、ビジネスに打撃となる可能性がある。

プログラムの開発者は、プログラムが処理するデータ内の機微情報の有無を判断し、意識的に対策を施す必要がある。しかし、データ内の機微情報の有無は、プログラム（サービス）の実行環境によって変化し得るほか、データ及び処理の組み合わせに応じて、機微情報の生成又は除去が発生する可能性がある。

このように、処理部品間で機微情報が受け渡しされる範囲を適切に把握することは困難である。従って、開発者による機微情報の見落としにより、機微情報が適切に対策されないリスクが発生する。特に、処理部品に精通していない開発者がプログラムを開発する場合、当該リスクは増加する可能性がある。

１つの側面では、本発明は、処理が機微情報を利用するか否かを精度良く判定することを目的とする。

１つの側面では、情報処理プログラムは、機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出し、前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力し、前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する、処理をコンピュータに実行させてよい。

１つの側面では、処理が機微情報を利用するか否かを精度良く判定することができる。

一実施形態に係るアプリ開発システムを説明するための図である。 リスク警告の表示の比較例を示す図である。 機微情報に関するリスク判断を容易とする第１の手法の一例を説明する図である。 第１の手法による処理結果の表示例を示す図である。 機微情報に関するリスク判断を容易とする第２の手法の一例を説明する図である。 第２の手法による処理結果の表示例を示す図である。 第１及び第２の手法による処理結果の表示例を示す図である。 機微情報に関するリスク判断を容易とする第３の手法の一例を説明する図である。 一実施形態に係るサーバの機能構成例を示すブロック図である。 処理部品情報の一例を示す図である。 グラフ情報の一例を示す図である。 出力テーブルの一例を示す図である。 要否テーブルの一例を示す図である。 出力判定処理の動作例を示すフローチャートである。 出力判定処理の動作例を説明する図である。 表示処理の動作例を示すフローチャートである。 表示処理の動作例を説明する図である。 要否判定処理の動作例を示すフローチャートである。 要否判定処理の動作例を説明する図である。 表示処理の動作例を示すフローチャートである。 表示処理の動作例を説明する図である。 変更処理の動作例を示すフローチャートである。 変更処理の動作例を説明する図である。 機微情報有無の判定例を示す図である。 機微情報が削除される処理部品の例を示す図である。 機微情報を必要とする処理部品の例を示す図である。 変更処理の動作例を示すフローチャートである。 変更処理の動作例を示すフローチャートである。 表示制御装置の機能構成例を示すブロック図である。 開発画面上でのグラフの表示手法の変形例を示す図である。 一実施形態に係るコンピュータのハードウェア構成例を示すブロック図である。

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、その趣旨を逸脱しない範囲で種々変形して実施することができる。なお、以下の実施形態で用いる図面において、同一符号を付した部分は、特に断らない限り、同一若しくは同様の部分を表す。

〔１〕一実施形態
〔１－１〕一実施形態の説明
図１は、一実施形態に係るアプリ開発システム１を説明するための図である。図１に示すように、アプリ開発システム１は、例示的に、サーバ１０と、端末装置２０とを備えてよい。なお、図１の例では、アプリ開発システム１は、１台の端末装置２０を備えるが、２台以上の端末装置２０を備えてもよい。

アプリ開発システム１は、アプリケーション等のプログラム、換言すればサービスを開発するためのシステムであり、情報処理システムの一例である。

端末装置２０は、アプリケーション等のプログラムの開発者が操作する情報処理端末の一例である。端末装置２０は、例えば、図示しないネットワークを介してサーバ１０と接続され、ウェブブラウザ等のアプリケーションを利用して、サーバ１０が提供する開発画面１００の操作、及び、サーバ１０が送信するリスク警告の表示を行なう。

端末装置２０としては、例えば、ＰＣ（Personal Computer）及びサーバ等の種々のコンピュータが挙げられる。

サーバ１０は、アプリケーション等のプログラムを開発及び実行するための開発環境を提供するサーバであり、情報処理装置又はコンピュータの一例である。サーバ１０は、例えば、開発環境として、ＦＢＰを利用したデータ処理サービスを端末装置２０に提供してよい。

サーバ１０は、例えば、仮想サーバ（ＶＭ；Virtual Machine）であってもよいし、物理サーバであってもよい。また、サーバ１０の機能は、１台のコンピュータにより実現されてもよいし、２台以上のコンピュータにより実現されてもよい。さらに、サーバ１０の機能のうちの少なくとも一部は、クラウド環境において提供されるハードウェア（ＨＷ）リソース及びネットワーク（ＮＷ）リソースを用いて実現されてもよい。

また、サーバ１０は、他の装置、例えば、１以上の端末装置２０と、ネットワークを介して相互に通信可能に接続されてよい。ネットワークは、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、又はこれらの組み合わせを含んでよい。ＷＡＮにはインターネットが含まれてもよく、ＬＡＮにはＶＰＮ（Virtual Private Network）が含まれてもよい。

図１に示すように、サーバ１０は、例示的に、複数の処理部品１１ａを記憶及び管理してよい。サーバ１０は、端末装置２０による操作（例えばＧＵＩ上の操作）に応じて、選択された処理部品１１ａを組み合わせることで、アプリケーション１１０の開発及び実行を支援してよい。

処理部品１１ａは、各々が固有の（特定の）機能を有する機能ブロック（機能単位）として、サーバ１０が提供するデータ処理サービス上で利用されてよい。処理部品１１ａは、データ（情報）が入力される入力ポート、及び、データ（情報）を出力する出力ポート、の一方又は双方を有し、データに対して所定の処理を行なうモジュールの一例である。処理部品は、「ノード」、「機能ブロック」又は「オブジェクト」と称されてもよい。

処理部品１１ａとしては、図１に例示するように、人間検出フィルタ、性別検出フィルタ、顔検出フィルタ、顔ぼかしフィルタ、及び、色検出フィルタ等の種々のフィルタが挙げられる。また、処理部品１１ａの他の例としては、図１に示すように、顔認証等の種々の処理又は機能が挙げられる。さらに、処理部品１１ａの他の例としては、図１に示すように、入力デバイス（カメラ）、認証結果ＤＢ（Database）、及び、認証結果出力等の種々の装置又は処理が挙げられる。

サーバ１０は、例えば、開発者による端末装置２０からの操作に応じて、処理部品１１ａを開発画面１００に配置及び接続することで、所定の処理を行なうアプリケーション１１０を開発する。開発画面１００は、端末装置２０のウェブブラウザの表示領域に表示されてよい。ウェブブラウザは、端末装置２０のモニタ等の出力装置に表示されてよい。

図１の例では、サーバ１０は、カメラ等の入力デバイス１１１、顔認証１１２、認証結果ＤＢ１１３、及び、認証結果出力１１４の順に、処理部品１１ａを縦続接続（カスケード接続）したアプリケーション１１０を作成する。

なお、アプリケーション１１０において、各処理部品１１ａの入力及び出力の一方又は双方に機微情報が含まれることがある。機微情報が含まれる例としては、始点要素としての処理部品１１ａからの出力、中間要素としての処理部品１１ａへの入力及び出力の一方又は双方、並びに、終点要素としての処理部品１１ａへの入力のいずれか１つ以上が挙げられる。図１の例では、入力デバイス１１１の出力及び顔認証１１２の入力に、映像Ａが含まれ得る。また、顔認証１１２の出力及び認証結果ＤＢ１１３の入力に、映像中の人物名Ｂが含まれ得る。さらに、認証結果ＤＢ１１３及び認証結果出力１１４の入力に、映像中の人物名Ｃが含まれ得る。

一実施形態に係るサーバ１０は、アプリケーション１１０の開発の際に、処理部品１１ａと機微情報とに関するリスク警告を行なう。以下、一実施形態に係るサーバ１０によるリスク警告の出力例を説明する。

まず、リスク警告の比較例について説明する。図２は、リスク警告の表示の比較例を示す図である。

比較例に係るサーバ１０′は、例えば、映像（動画像又は静止画像）が常に機微度の高い情報を含んでいると判断する。機微度の高い情報とは、例えば機微情報であり、一例として、人間の顔や車番（ナンバー）等の個人情報である。

図２に例示するように、開発者が、開発画面１００′において、処理部品１１ａのうちの映像を扱うフィルタ群のいずれかのフィルタ、例えば顔検出フィルタ１１５を利用した場合を想定する。この場合、サーバ１０′は、映像を扱う顔検出フィルタ１１５を用いて開発されるアプリケーション１１０′にはリスクがあると判断し、リスクがあることを示す警告を開発画面１００′上に表示（提示）する。

しかし、この場合、サーバ１０′は、映像に含まれるリスクを正しく判断できない場合がある。例えば、顔ぼかしフィルタのように、リスクを低減させる処理部品１１ａが開発画面１００′で利用される場合、出力には機微情報が含まれない（除去される）が、映像が入力となるために、サーバ１０′により、リスクありと判断される。

このように、映像等の機微情報を含み得るデータを入力とするアプリケーション１１０′の開発段階において、サーバ１０′が、処理部品１１ａが映像を扱うか否かに応じて一律にリスクの有無を判断すると、事前のリスク判断が正確に行なえない場合がある。

また、例えば、商店街に設置された監視カメラによる撮像映像には、人間の顔が機微情報として多数含まれ得る。また、高速道路に設置された定点カメラによる撮像映像には、人間の顔は含まれない一方、車（例えば車番）が機微情報として含まれ得る。さらに、表札及び位置情報を含む映像には、住所情報が機微情報として含まれ得る。一方で、カメラ映像と動き検出フィルタとを組み合わせた場合、動き検出フィルタの出力には、動き検出結果（例えば動きの有無）の情報が含まれ得るが、機微情報は含まれない場合がある。

このように、映像には種々の機微情報が含まれる可能性があるが、実際の映像にどのような機微情報が含まれているかを事前に判断することが困難であるため、アプリケーション１１０の開発段階で、映像によるリスクを予め把握することは困難である。

そこで、一実施形態に係るサーバ１０は、以下の（ａ）～（ｃ）の手法のうちのいずれか１つ、又は、２つ以上の組み合わせ、により、アプリケーション１１０の開発段階における機微情報に関するリスク判断を容易とする手法を提供する。

（ａ）サーバ１０は、処理により出力されるデータに機微情報が含まれるか否かを検出する。例えば、サーバ１０は、以下の（ａ－１）及び（ａ－２）の処理を行なってよい。

（ａ－１）サーバ１０は、機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する。

（ａ－２）サーバ１０は、第２のデータに機微情報が含まれるか否かを、機微情報に対応付けて記憶されたモジュールであって当該機微情報が含まれるか否かを判定する第２の処理を実行するモジュールによる第２のデータに対する第２の処理の実行結果に基づいて判定する。

なお、上記（ａ）の手法において、処理（第１の処理）は、例えば、処理部品１１ａによる処理であってよい。

図３は、上記（ａ）の手法の一例を説明するための図である。図３に示すように、フィルタ１１ｃは、第１のデータ１１ｂに含まれる機微情報に対応付けて記憶されたモジュールであって機微情報が含まれるか否かを判定する第２の処理を実行するモジュールの一例である。一例として、第１のデータ１１ｂは、機微情報として人間の顔の映像を含むサンプル映像であり、フィルタ１１ｃは、入力されるデータから顔の検出結果（例えば検出有無）を出力する第２の処理を実行する顔検出フィルタであってよい。サーバ１０は、第１のデータ１１ｂ及びフィルタ１１ｃの組（セット）を対応付けて予め記憶してよい。

図３の上段に例示するように、フィルタ１１ｃは、第１のデータ１１ｂが入力されると、機微情報あり（例えば顔の検出あり）を示す情報を出力する。

上記（ａ）の手法では、図３の下段に例示するように、サーバ１０は、第１のデータ１１ｂを、第１の処理、例えば処理部品１１ａに入力し、第１の処理からの出力（処理結果）である第２のデータを抽出して、第２のデータをフィルタ１１ｃに入力する。

例えば、フィルタ１１ｃが機微情報ありを示す情報を出力する場合、処理部品１１ａは機微情報をそのまま含む第２のデータを出力する、換言すれば、処理部品１１ａは機微情報に関してリスクがあるといえる。

一方、例えば、フィルタ１１ｃが機微情報なしを示す情報を出力する場合、処理部品１１ａは機微情報を消失させた（削除した）第２のデータを出力する、換言すれば、処理部品１１ａは機微情報に関してリスクがないといえる。

このように、サーバ１０は、事前に用意した第１のデータ１１ｂと機微情報を検出するフィルタ１１ｃとを利用して、第１の処理により出力される第２のデータに機微情報が含まれるか否かを検出する。

以上のように、サーバ１０は、上記（ａ）の手法によって、処理（第１の処理）により出力されるデータ（第２のデータ）が機微情報を含むか否かを精度良く検出することができる。

なお、サーバ１０は、上記（ａ）の手法による検出を、処理部品１１ａがサーバ１０に登録される際に、処理部品１１ａごとに実行してもよい。

また、サーバ１０は、第２のデータに機微情報が含まれるか否かの判定結果（（ａ）の処理結果）を、例えば図４に示すように、開発画面１００等に表示してもよい。判定結果は、例えば、文字列、図、画像、及び、処理部品１１ａに接続される線の種類（例えば色、線種及び／又は線幅）、等の少なくとも１つの表示形態によって、処理部品１１ａから出力されるデータにおける機微情報の有無が区別可能に表示されてよい。判定結果は、図４の例のように、表示対象の処理部品１１ａを含む複数の処理部品１１ａの組み合わせ（例えばアプリケーション１１０）を表示する開発画面１００に表示されてもよいし、１つの処理部品１１ａを表示する開発画面１００に表示されてもよい。判定結果が機微情報あり（リスクあり）を示す情報である場合、開発画面１００への当該情報の表示は、リスク警告（アラート）の表示の一例である。

（ｂ）サーバ１０は、処理が機微情報を利用するか否かを判定する。例えば、サーバ１０は、以下の（ｂ－１）～（ｂ－３）の処理を行なってよい。

（ｂ－１）サーバ１０は、機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する。

（ｂ－２）サーバ１０は、第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、第１の処理を実行して第４のデータを出力する。

（ｂ－３）サーバ１０は、第２のデータと第４のデータとの比較結果に基づいて第１の処理が機微情報を利用する処理であるか否かを判定する。

なお、上記（ｂ）の手法において、処理（第１の処理）は、例えば、処理部品１１ａによる処理であってよい。

図５は、上記（ｂ）の手法の一例を説明するための図である。図５に示すように、フィルタ１１ｃは、第１のデータ１１ｂに含まれる機微情報を消失させるための第２の処理を実行するモジュールの一例である。一例として、第１のデータ１１ｂは、機微情報として人間の顔の映像を含むサンプル映像であり、フィルタ１１ｃは、入力されるデータに含まれる顔をぼかしたデータを出力する顔ぼかしフィルタであってよい。サーバ１０は、第１のデータ１１ｂ及びフィルタ１１ｃの組（セット）を対応付けて予め記憶してよい。

上記（ｂ）の手法では、図５の上段に例示するように、サーバ１０は、第１のデータ１１ｂを、第１の処理、例えば処理部品１１ａに入力し、第１の処理からの出力（処理結果）である第２のデータ（図５の例では「出力ａ」）を抽出する。

また、図５の下段に例示するように、サーバ１０は、第１のデータ１１ｂを第２の処理、例えばフィルタ１１ｃに入力する。そして、サーバ１０は、第２の処理から出力される機微情報が消失した第３のデータを第１の処理に入力し、第１の処理からの出力である第４のデータ（図５の例では「出力ｂ」）を抽出する。

サーバ１０は、図５に例示するように、機微情報を含む第１のデータを入力された第１の処理からの出力ａと、機微情報を含まない第３のデータを入力された第１の処理からの出力ｂとを比較する。そして、サーバ１０は、比較結果に基づいて第１の処理が機微情報を利用する処理であるか否かを判定する。

例えば、出力ａと出力ｂとが同じ（一致する）場合、処理部品１１ａは、機微情報の有無によらず、同じ処理結果を出力する。換言すれば、処理部品１１ａは機微情報を利用しない（機微情報が不要である）ため、処理部品１１ａの前段に第２の処理を実行するモジュール、例えばフィルタ１１ｃを接続して運用することが可能であり、この場合、処理部品１１ａは機微情報に関してリスクがないといえる。

一方、例えば、出力ａと出力ｂとが異なる（一致しない）場合、処理部品１１ａは、機微情報の有無に応じて異なる処理結果を出力する。換言すれば、処理部品１１ａは機微情報を利用する（必要とする）ため、処理部品１１ａは機微情報に関してリスクがあるといえる。

このように、サーバ１０は、事前に用意した第１のデータ１１ｂと機微情報を消失させるフィルタ１１ｃとを利用して、機微情報の有無による第１の処理の出力の比較結果に基づき、第１の処理が機微情報を利用するか否かを判定する。

以上のように、サーバ１０は、上記（ｂ）の手法によって、処理（第１の処理）が機微情報を利用するか否かを精度良く判定することができる。

なお、サーバ１０は、上記（ｂ）の手法による検出を、処理部品１１ａがサーバ１０に登録される際に、処理部品１１ａごとに実行してもよい。

また、出力ａ及び出力ｂは、いずれも、映像以外の出力データ、例えば、判定又は検出等の処理結果を示す情報であってよい。換言すれば、上記（ｂ）の手法における第１の処理は、少なくとも判定又は検出等の処理結果を示す情報を出力する処理部品１１ａであってよい。なお、処理部品１１ａは、出力ａ又は出力ｂを出力する出力ポートとは異なる出力ポートから映像の出力データを出力してもよい。

さらに、サーバ１０は、第１の処理が機微情報を利用するか否かの判定結果（（ｂ）の処理結果）を、例えば図６に示すように、開発画面１００等に表示してもよい。判定結果は、例えば、文字列、図、画像、及び、処理部品１１ａに接続される線の種類（例えば色、線種及び／又は線幅）、等の少なくとも１つの表示形態によって、機微情報の要否が区別可能に表示されてよい。判定結果は、図６の例のように、表示対象の処理部品１１ａを含む複数の処理部品１１ａの組み合わせ（例えばアプリケーション１１０）を表示する開発画面１００に表示されてもよいし、１つの処理部品１１ａを表示する開発画面１００に表示されてもよい。判定結果が機微情報消去不可（必要）、すなわちリスクありを示す情報である場合、開発画面１００への当該情報の表示は、リスク警告（アラート）の表示の一例である。

なお、サーバ１０は、上記（ａ）及び（ｂ）の手法を組み合わせて実行する場合、例えば、或る処理部品１１ａを対象として、上記（ａ）及び（ｂ）のそれぞれの手法を順に実行してよい。上記（ａ）及び（ｂ）の手法はいずれの手法が先に実行されてもよい。この場合、サーバ１０は、例えば、図７に示すように、上記（ａ）及び（ｂ）の手法の判定結果を統合して開発画面１００等に表示してもよいし、図４及び図６に示すように、（ａ）及び（ｂ）の手法の各判定結果を別々に開発画面１００等に表示してもよい。

（ｃ）サーバ１０は、機微情報を含むデータの流れを可視化する。例えば、サーバ１０は、以下の処理を行なってよい。

サーバ１０は、装置又は処理に関する情報を示す複数のアイコンを対応付けて画面上に出力する場合に、対応付けされた複数のアイコンによりそれぞれ特定される装置又は処理間で受け渡しが行なわれるデータに機微情報が含まれるか否かに応じて、アイコン間の対応の表示態様を変化させる。

例えば、サーバ１０は、複数の処理部品１１ａ（装置及び処理）の各々による機微情報の発生又は除去を判定してよい。そして、サーバ１０は、複数の処理部品１１ａのアイコンを相互に対応付けて（例えば接続して）アプリケーション１１０として開発画面１００上に出力する場合、機微情報が受け渡しされる範囲を推定し、推定した範囲を開発画面１００上で強調表示してよい。

図８は、上記（ｃ）の手法の一例を説明するための図である。図８に例示するように、上記（ｃ）の手法において、装置に関する情報は、入力デバイス１１１、認証結果ＤＢ１１３（ＤＢ保存）、ブザー鳴動１１７等の装置に関する処理部品１１ａであってよい。また、処理に関する情報は、例えば、種々のフィルタ、顔認証１１２、動体検出１１６等の処理又は機能に関する処理部品１１ａであってよい。さらに、画面は、例えば、複数の処理部品１１ａを配置して相互に接続した状態を表示する開発画面１００であってよい。

例えば、カメラ等の入力デバイス１１１が人間の顔を含む映像データを出力する場合、サーバ１０は、各処理部品１１ａの機微情報の発生又は除去の判定結果から、以下のように、処理部品１１ａ間で機微情報が受け渡される範囲を推定する。

・入力デバイス１１１の出力と、動体検出１１６及び顔認証１１２の各入力との間（範囲Ａ）では、機微情報に相当する、顔が写っている映像が受け渡される。

・顔認証１１２の出力と、認証結果ＤＢ１１３（ＤＢ保存）の入力との間（範囲Ｂ）では、機微情報に相当する、映像から認識された人物名が受け渡される。

・動体検出１１６とブザー鳴動１１７との間（範囲Ｃ）では、機微情報に相当しない、映像中の動きの有無が受け渡される。

従って、サーバ１０は、開発画面１００に表示される、機微情報が受け渡される範囲Ａ及び範囲Ｂにおける、アイコン間の対応の表示態様を変化させる。一例として、サーバ１０は、アイコン間の接続線の色を変更してよい。図８の例では、アイコン間の接続線のうち、範囲Ａ及び範囲Ｂの接続線（図８では破線）は赤色であり、範囲Ｃの接続線（図８では実線）は黒色又は灰色である。

このように、機微情報に関してリスクのある処理部品１１ａの情報が、開発画面１００上に視覚的に提示されることにより、開発者は、アプリケーション１１０の開発段階において、各処理部品１１ａのリスクを容易に判断することが可能となる。

以上のように、サーバ１０は、上記（ｃ）の手法によって、機微情報を含むデータの流れを可視化することができる。

なお、アイコン間の表示態様を変化させることには、接続線の色を変化させることに代えて又は加えて、例えば、機微情報が含まれるか否かに応じて、アイコン間を接続する接続線の線種及び線幅の一方又は双方を変化させることが含まれてよい。

また、上記（ｃ）の手法において、対応付けされる複数のアイコンによりそれぞれ特定される装置又は処理間で受け渡しが行なわれるデータに機微情報が含まれるか否かの判定には、例えば、上記（ａ）の手法、及び、上記（ｂ）の手法、の一方又は双方の処理結果が利用されてもよい。或いは、当該判定には、上記（ａ）及び（ｂ）とは異なる手法による、データに機微情報が含まれるか否かを判定する処理の処理結果が利用されてもよい。

上記（ａ）及び（ｂ）の一方又は双方の手法と、上記（ｃ）の手法とを組み合わせることは、上記（ａ）及び（ｂ）の一方又は双方の手法の処理結果を開発画面１００等に表示する例（図４、図６、又は、図７）の一態様（一例）であるといえる。

以上のように、サーバ１０は、上記（ａ）～（ｃ）の手法のうちの少なくともいずれか１つの手法により、アプリケーション１１０の開発段階における機微情報に関するリスク判断を容易にするための開発環境を提供することができる。

〔１－２〕サーバの機能構成例
次に、図９を参照して、一実施形態に係るサーバ１０の詳細について説明する。図９は、一実施形態に係るサーバ１０の機能構成例を示すブロック図である。

図９に示すように、サーバ１０は、例示的に、メモリ部１１、情報管理部１２、機微度評価部１３、及び、評価結果提示部１４を備えてよい。

メモリ部１１は、記憶部又は記憶領域の一例であり、開発基盤としてのデータ処理サービスの実行に用いられる種々の情報を記憶する。図９に示すように、メモリ部１１は、例示的に、複数の処理部品１１ａ、複数のデータ１１ｂ、複数のフィルタ１１ｃ、処理部品情報１１ｄ、複数のグラフ情報１１ｅ、出力テーブル１１ｆ、及び、要否テーブル１１ｇを記憶してよい。

なお、以下の説明では、処理部品情報１１ｄ、複数のグラフ情報１１ｅ、出力テーブル１１ｆ、及び、要否テーブル１１ｇのデータ形式をそれぞれテーブル形式として示すが、これに限定されるものではない。これらの情報のデータ形式は、ＤＢ又は配列等の種々の形式であってよい。

処理部品１１ａは、開発基盤に登録されているモジュールの一例である。データ１１ｂは、機微情報を含むサンプルデータであってよい。例えば、データ１１ｂは、人間の顔、及び、車番、等の機微情報の種類ごとに、メモリ部１１に格納されてよい。フィルタ１１ｃは、データ１１ｂと対応付けられたフィルタであってよく、データ１１ｂに含まれる機微情報を検出、又は、除去することが可能なフィルタであってよい。なお、フィルタ１１ｃは、処理部品１１ａの１つであってもよいし、２つ以上の処理部品１１ａの組み合わせであってもよい。

情報管理部１２は、例えば処理部品１１ａの開発者が利用する端末装置２０による、開発画面１００上での操作に応じて、処理部品情報１１ｄ及びグラフ情報１１ｅの管理を行なう。情報管理部１２は、例示的に、処理部品管理部１２ａ、グラフ管理部１２ｂ、及び、リスク対策部１２ｃを備えてよい。

処理部品管理部１２ａは、開発基盤に登録される処理部品１１ａを管理する。例えば、処理部品管理部１２ａは、サーバ１０（例えばメモリ部１１）に処理部品１１ａが登録（例えば保存）される際に、メモリ部１１に処理部品１１ａを保存するとともに、処理部品情報１１ｄを作成又は更新する。

図１０は、処理部品情報１１ｄの一例を示す図である。処理部品情報１１ｄは、図１０に例示するように、「ＩＤ」、「処理部品」、「入力ポート」及び「出力ポート」の項目を含んでよい。

「ＩＤ」は、処理部品１１ａの識別情報の一例である。「処理部品」には、処理部品１１ａを識別するための情報として、例えば、処理部品１１ａの名称が設定されてよい。「入力ポート」には、処理部品１１ａの前段（入力：フローの上流）側のポートを識別するための情報として、例えばポートのＩＤ及び名称の一方又は双方が設定されてよい。「出力ポート」には、処理部品１１ａの後段（出力：フローの下流）側のポートを識別するための情報として、例えばポートのＩＤ及び名称の一方又は双方が設定されてよい。なお、入力デバイス１１１等のグラフの始点となる処理部品１１ａの「入力ポート」、及び、ブザー鳴動１１７や認証結果ＤＢ１１３（ＤＢ保存）等のグラフの終点となる処理部品１１ａの「出力ポート」、には、情報が設定されなくてもよい。

グラフ管理部１２ｂは、図１に例示するように、端末装置２０による開発画面１００上での操作に応じて、アプリケーション１１０として複数の処理部品１１ａを相互に対応付け（例えば接続し）、対応関係をグラフ情報１１ｅとしてメモリ部１１に保存する。

図１１は、グラフ情報１１ｅの一例を示す図である。グラフ情報１１ｅは、グラフ、換言すれば、データの流れを示すフローを定義する情報である。グラフ管理部１２ｂは、端末装置２０により作成又は更新されたグラフごとにグラフ管理部１２ｂを管理してよい。

グラフ情報１１ｅは、図１１に例示するように、「処理部品」、「出力ポート」、及び、「後段処理部品」の項目を含んでよい。「処理部品」には、グラフに含まれる処理部品１１ａのＩＤ及び名称（図１０参照）の一方又は双方が設定されてよい。なお、グラフ情報１１ｅには、グラフの始点に位置する「処理部品」からグラフの終点に位置する「処理部品」に向かって順にエントリが登録されてよい。

「出力ポート」には、「処理部品」の出力ポート（図１０参照）のうち、「後段処理部品」に接続される出力ポートを特定する情報、例えば、ポートのＩＤ及び名称の一方又は双方が設定されてよい。「後段処理部品」には、「処理部品」の後段に接続される処理部品１１ａのＩＤ及び名称の一方又は双方が設定されてよい。

リスク対策部１２ｃは、開発画面１００上に、機微度評価部１３により機微情報を利用しないと判定された処理部品１１ａが配置される際に、当該処理部品１１ａの機微情報に関するリスクを低下（例えば無くす）ための処理を行なう。例えば、リスク対策部１２ｃは、当該処理部品１１ａの前段に、機微情報を消失させるためのフィルタ１１ｃを挿入してよい。リスク対策部１２ｃの詳細は後述する。

機微度評価部１３は、上記（ａ）及び（ｂ）の一方又は双方の手法により、処理部品１１ａが機微情報を出力するか否か、及び、機微情報を利用するか否か、の一方又は双方を含む機微度を評価する。例えば、機微度評価部１３は、処理部品管理部１２ａにより処理部品１１ａがメモリ部１１に保存される際に、当該処理部品１１ａを評価対象として機微度を評価してよい。機微度評価部１３は、例示的に、実行部１３ａ、判定部１３ｂ、及び、情報登録部１３ｃを備えてよい。

実行部１３ａは、評価対象の処理部品１１ａに対して、データ１１ｂ及びフィルタ１１ｃを利用して、上記（ａ）及び（ｂ）の一方又は双方の手法を実行し、評価に用いるデータを取得する。

判定部１３ｂは、実行部１３ａが取得したデータを用いて、評価対象の処理部品１１ａの機微度を評価する。

情報登録部１３ｃは、判定部１３ｂによる判定結果（評価結果）に基づき、出力テーブル１１ｆ及び要否テーブル１１ｇの一方又は双方を作成又は更新する。

図１２は、出力テーブル１１ｆの一例を示す図である。図１２に例示するように、出力テーブル１１ｆは、「Ｎｏ．」、「処理部品」、「出力ポート」、及び、「機微情報種類」の項目を含んでよい。出力テーブル１１ｆでは、エントリは、「処理部品」ごと、且つ、「出力ポート」ごとに登録され、過去に実行された評価結果が蓄積されてよい。

「Ｎｏ．」は、出力テーブル１１ｆのエントリの識別情報である。「処理部品」には、評価対象の処理部品１１ａのＩＤ及び名称の一方又は双方が設定されてよい。「出力ポート」には、出力ポートのＩＤ及び名称の一方又は双方が設定されてよい。

「機微情報種類」には、評価対象となる機微度の種別ごとに、評価結果が設定されてよい。図１２の例では、「機微情報種類」として、人間の顔を示す「顔情報」、及び、車番を示す「車番情報」等が設定される。

このように、図１２に示す出力テーブル１１ｆは、評価対象の処理部品１１ａに機微情報を含むデータが入力される場合に、各出力ポートから出力されるデータに機微情報が含まれるか否かを、機微情報の種類別に示す情報である。換言すれば、出力テーブル１１ｆは、上記（ａ）の手法による処理結果を示す情報である。

図１３は、要否テーブル１１ｇの一例を示す図である。図１３に例示するように、要否テーブル１１ｇは、「Ｎｏ．」、「処理部品」、「入力ポート」、及び、「機微情報種類」の項目を含んでよい。要否テーブル１１ｇでは、エントリは、「処理部品」ごと、且つ、「入力ポート」ごとに登録され、過去に実行された評価結果が蓄積されてよい。

「Ｎｏ．」は、要否テーブル１１ｇのエントリの識別情報である。「処理部品」には、評価対象の処理部品１１ａのＩＤ及び名称の一方又は双方が設定されてよい。「入力ポート」には、入力ポートのＩＤ及び名称の一方又は双方が設定されてよい。

「機微情報種類」には、評価対象となる機微度の種別ごとに、評価結果が設定されてよい。図１３の例では、「機微情報種類」として、人間の顔を示す「顔情報」、及び、車の車番（ナンバー）を示す「車番情報」等が設定される。

このように、図１３に示す要否テーブル１１ｇは、評価対象の処理部品１１ａが、入力されるデータに含まれる機微情報を利用するか否かを、機微情報の種類別に示す情報である。換言すれば、要否テーブル１１ｇは、上記（ｂ）の手法による処理結果を示す情報である。

評価結果提示部１４は、機微度評価部１３による機微度の評価結果を、アプリケーション１１０の開発者に提示する。例えば、評価結果提示部１４は、アプリケーション１１０の開発者が利用する端末装置２０による開発画面１００上での操作に応じてグラフが作成される際に、グラフに利用される個々の処理部品１１ａのアイコンの表示態様を、評価結果に基づき制御してよい。

このため、評価結果提示部１４は、例示的に、探索部１４ａ、表示判定部１４ｂ、及び、表示出力部１４ｃを備えてよい。

探索部１４ａは、開発画面１００上に表示されるグラフにおける複数の処理部品１１ａの対応関係、換言すれば、複数の処理部品１１ａの相互の接続関係を、グラフ情報１１ｅに基づき探索する。

表示判定部１４ｂは、探索部１４ａが探索した処理部品１１ａについて、出力テーブル１１ｆ及び要否テーブル１１ｇに基づき、開発画面１００上で表示態様を変化させるか否かを判定する。

表示出力部１４ｃは、表示判定部１４ｂによる判定結果に応じて、開発画面１００上の表示態様の制御を行なう。

また、表示出力部１４ｃは、表示判定部１４ｂによる判定結果に応じて、リスク対策部１２ｃと協働して、開発画面１００上に表示されるグラフに対して、フィルタ１１ｃを挿入する制御を行なってよい。

以下、上述した機微度評価部１３及び評価結果提示部１４の詳細を説明する。以下の説明では、機微度評価部１３による、機微情報の出力判定処理、及び、要否判定処理、並びに、評価結果提示部１４による表示態様の変更処理、の詳細を説明する。なお、サーバ１０は、出力判定処理、要否判定処理、及び、変更処理を、互いに独立して実行でき、或いは、これらの２つ以上の処理を並行して又は時間的に前後して実行できる。

〔１－３〕機微情報の出力判定処理の動作例
まず、機微度評価部１３による機微情報の出力判定処理の動作例を説明する。出力判定処理は、上記（ａ）の手法の一例である。図１４は、出力判定処理の動作例を示すフローチャートであり、図１５は、出力判定処理の動作例を説明する図である。

図１４に示すように、機微度評価部１３の実行部１３ａは、処理部品管理部１２ａによりメモリ部１１に処理部品１１ａが登録されたことを、処理部品管理部１２ａからの通知、又は、処理部品情報１１ｄの監視等により検出する（ステップＡ１）。

実行部１３ａは、処理部品情報１１ｄから、登録された（未評価の）処理部品１１ａを、評価対象の処理部品１１ａとして１つ抽出する（ステップＡ２）。抽出した処理部品１１ａは、第１の処理の一例である。

例えば、実行部１３ａは、処理部品情報１１ｄに新たに追加された１以上のエントリのうちの１つのエントリの情報を抽出してよい。図１５の例では、実行部１３ａは、動体検出フィルタ又は顔ぼかしフィルタの情報を抽出する。

実行部１３ａは、メモリ部１１から、データ１１ｂ及びフィルタ１１ｃの組を１つ抽出する（ステップＡ３）。抽出したデータ１１ｂは、第１のデータの一例であり、抽出したフィルタ１１ｃは、第２の処理の一例である。

図１５の例では、実行部１３ａは、データ１１ｂとして、顔を含む映像のサンプルデータを抽出し、当該データに対応するフィルタ１１ｃとして、顔検出フィルタを抽出する。このように、出力判定処理において用いられるフィルタ１１ｃは、フィルタ１１ｃに対応付けられたデータ１１ｂ内の機微情報を「検出」可能なフィルタであってよい。なお、データ１１ｂが車番を含む映像のサンプルデータである場合、フィルタ１１ｃは、車番を検出するフィルタであってよい。

次いで、実行部１３ａは、抽出したデータ１１ｂを、評価対象の処理部品１１ａに入力し、当該処理部品１１ａからの出力を、抽出したフィルタ１１ｃに入力する（ステップＡ４：図３の下段参照）。フィルタ１１ｃは、第２の処理の一例である。また、実行部１３ａは、機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する抽出部の一例である。

図１５の例では、実行部１３ａは、顔映像のサンプルデータを処理部品１１ａに入力し、当該処理部品１１ａからの出力を顔検出フィルタに入力する。なお、実行部１３ａは、処理部品情報１１ｄを参照して、データ形式が一致するように、フィルタ１１ｃの入力ポートに接続する処理部品１１ａの出力ポートを特定してもよい。

判定部１３ｂは、フィルタ１１ｃからの出力が機微情報の検出を示すか否かを判定する（ステップＡ５）。図１５の例では、判定部１３ｂは、顔検出フィルタが、処理部品１１ａから出力されたデータに顔情報を検出したか否かを判定する。

換言すれば、判定部１３ｂは、第２のデータに機微情報が含まれるか否かを、機微情報に対応付けて記憶されたモジュールであって機微情報が含まれるか否かを判定する第２の処理を実行するモジュールによる第２のデータに対する第２の処理の実行結果に基づいて判定する。

なお、例えば、評価結果提示部１４は、第２のデータに機微情報が含まれるか否かの判定結果を出力してもよい。換言すれば、評価結果提示部１４は、判定部１３ｂによる判定結果を出力する判定結果出力部の一例である。例えば、評価結果提示部１４は、判定結果を、開発画面１００上にメッセージとして出力してもよいし、メモリ部１１にログとして出力してもよく、その他の種々の態様で出力してもよい。

フィルタ１１ｃからの出力が機微情報の検出を示すと判定した場合（ステップＡ５でＹＥＳ）、情報登録部１３ｃは、出力テーブル１１ｆに対して、評価対象である処理部品１１ａの出力ポートのエントリを作成し、評価結果を登録する（ステップＡ６）。このとき、情報登録部１３ｃは、当該エントリにおいて、データ１１ｂに対応する機微情報の出力が“あり”である旨を設定する（図１２の「Ｎｏ．：１、２、４、５」参照）。

フィルタ１１ｃからの出力が機微情報の検出を示さないと判定した場合（ステップＡ５でＮＯ）、情報登録部１３ｃは、出力テーブル１１ｆに対して、評価対象である処理部品１１ａの出力ポートのエントリを作成し、評価結果を登録する（ステップＡ７）。このとき、情報登録部１３ｃは、当該エントリにおいて、データ１１ｂに対応する機微情報の出力が“なし”である旨を設定する（図１２の「Ｎｏ．：３、６」参照）。

換言すれば、情報登録部１３ｃは、処理部品１１ａから出力されたデータに機微情報が含まれると判定部１３ｂが判定した場合に、処理部品１１ａに機微情報に関する情報を対応付けて出力テーブル１１ｆに記憶させるのである。

そして、実行部１３ａは、メモリ部１１にデータ１１ｂ及びフィルタ１１ｃの未使用の他の組が保存されているか否かを判定する（ステップＡ８）。

未使用の他の組が保存されていると判定した場合（ステップＡ８でＹＥＳ）、処理がステップＡ３に移行し、実行部１３ａは、未使用の他のデータ１１ｂ及びフィルタ１１ｃの組を抽出して、機微情報の出力判定処理を行なう。図１５の例では、実行部１３ａは、例えば、車番を含む映像のサンプルデータと、車番を検出するフィルタとを抽出してよい。

一方、未使用の他の組が保存されていないと判定した場合（ステップＡ８でＮＯ）、実行部１３ａは、未評価の他の処理部品１１ａがメモリ部１１に存在するか否かを、例えば処理部品情報１１ｄを参照して判定する（ステップＡ９）。

未評価の他の処理部品１１ａがメモリ部１１に存在すると判定した場合（ステップＡ９でＹＥＳ）、処理がステップＡ２に移行し、実行部１３ａは、未評価の他の処理部品１１ａを用いて、機微情報の出力判定処理を行なう。

一方、未評価の他の処理部品１１ａがメモリ部１１に存在しないと判定した場合（ステップＡ９でＮＯ）、処理が終了する。

以上のように、一実施形態の一実施例に係る機微情報の出力判定処理を実行するサーバ１０によれば、サンプルデータ（サンプル映像）に対する処理部品１１ａによる機微情報の出力有無を検出することができる。これにより、開発者は、アプリケーション１１０の開発の際に、検出結果に基づき処理部品１１ａの機微情報に関するリスク判断を行なうことができる。

なお、判定部１３ｂは、登録を検出した処理部品１１ａ、又は、当該処理部品１１ａに類似する処理部品１１ａが既に出力テーブル１１ｆに登録されている場合、出力テーブル１１ｆの登録内容に基づいて、処理部品１１ａの機微情報出力有無を判定してもよい。登録を検出した処理部品１１ａに類似する処理部品１１ａとは、例えば、入力されるデータに対して同様の処理を行なう処理部品１１ａであってよい。

換言すれば、判定部１３ｂは、第２のデータに機微情報が含まれるか否かを、第１の処理に対応付けて記憶された機微情報に基づいて判定する。これにより、サーバ１０は、出力判定処理の少なくとも一部の処理を省略することができるため、処理負荷を低減させることができる。この場合においても、評価結果提示部１４は、判定部１３ｂによる判定結果を出力してもよい。

（表示処理の一例）
次に、機微度評価部１３による出力判定処理の処理結果を表示する表示処理の一例を説明する。図１６は、表示処理の動作例を示すフローチャートであり、図１７は、表示処理の動作例を説明する図である。

図１６に示すように、評価結果提示部１４は、開発画面１００上で処理部品１１ａが利用されたこと、例えば開発画面１００に配置されたことを、グラフ管理部１２ｂからの通知等により検出する（ステップＡ１１）。図１７の例では、評価結果提示部１４は、動体検出フィルタ及び顔ぼかしフィルタが開発画面１００上に配置されたことを検出する。

評価結果提示部１４は、事前に評価済みの出力テーブル１１ｆを参照して、検出された処理部品１１ａが機微情報を出力するか否かを判定する（ステップＡ１２）。

検出された処理部品１１ａが機微情報を出力すると判定した場合（ステップＡ１２でＹＥＳ）、評価結果提示部１４は、開発画面１００上にリスク警告を提示し（ステップＡ１３）、処理が終了する。図１７の例では、動体検出フィルタが顔情報を出力することが出力テーブル１１ｆに登録されているため、評価結果提示部１４は、処理部品１１ａが機微情報を出力すると判定し、開発画面１００上にリスクありを示す警告を表示する。

換言すれば、評価結果提示部１４は、処理部品１１ａに機微情報が対応付けて記憶されているか否かを判定し、機微情報が対応付けて記憶されていると判定した場合に、機微度評価部１３によるフィルタ１１ｃに基づいた判定を実行せずにアラートを出力するアラート部の一例である。

一方、検出された処理部品１１ａが機微情報を出力しないと判定した場合（ステップＡ１２でＮＯ）、評価結果提示部１４は、リスク警告を非表示、又は、開発画面１００上にリスクなしの旨を提示し（ステップＡ１４）、処理が終了する。図１７の例では、顔ぼかしフィルタが機微情報を出力しないことが出力テーブル１１ｆに登録されているため、評価結果提示部１４は、処理部品１１ａが機微情報を出力しないと判定し、開発画面１００上にリスクなしを示すメッセージを表示する。

以上のように、サーバ１０は、出力判定処理の判定結果である出力テーブル１１ｆに基づき、機微情報を出力すると検出（評価）された処理部品１１ａが開発画面１００で利用される際にリスク警告を端末装置２０に提示する。このように、サーバ１０は、アプリケーション１１０で機微情報が扱われることを、開発画面１００上に視覚的に提示することができる。従って、開発者は、容易にリスク判断を行なうことができる。

なお、図１６及び図１７に示す表示処理は、図４を参照して説明した表示処理の一例である。

〔１－４〕機微情報の要否判定処理の説明
次に、機微度評価部１３による機微情報の要否判定処理について説明する。要否判定処理は、上記（ｂ）の手法の一例である。図１８は、要否判定処理の動作例を示すフローチャートであり、図１９は、要否判定処理の動作例を説明する図である。

図１８に示すように、機微度評価部１３の実行部１３ａは、図１４のステップＡ１及びＡ２と同様に、処理部品１１ａの登録を検出すると（ステップＢ１）、処理部品情報１１ｄから、登録された処理部品１１ａを１つ抽出する（ステップＢ２）。図１９の例では、実行部１３ａは、性別検出フィルタ又は色検出フィルタの情報を抽出する。

実行部１３ａは、メモリ部１１から、データ１１ｂ及びフィルタ１１ｃの組を１つ抽出する（ステップＢ３）。抽出したデータ１１ｂは、第１のデータの一例であり、抽出したフィルタ１１ｃは、第２の処理の一例である。

図１９の例では、実行部１３ａは、データ１１ｂとして、顔を含む映像のサンプルデータを抽出し、当該データに対応するフィルタ１１ｃとして、顔ぼかしフィルタを抽出する。このように、要否判定処理において用いられるフィルタ１１ｃは、フィルタ１１ｃに対応付けられたデータ１１ｂ内の機微情報を「除去」可能なフィルタであってよい。なお、データ１１ｂが車番を含む映像のサンプルデータである場合、フィルタ１１ｃは、車番を除去、例えばぼかすフィルタであってよい。

次いで、実行部１３ａは、抽出したデータ１１ｂを、評価対象の処理部品１１ａに入力し、当該処理部品１１ａからの出力ａを取得する（ステップＢ４：図５の上段参照）。換言すれば、実行部１３ａは、機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する抽出部の一例である。

また、実行部１３ａは、抽出したデータ１１ｂを、抽出したフィルタ１１ｃに入力し、当該フィルタ１１ｃからの出力を評価対象の処理部品１１ａに入力し、当該処理部品１１ａからの出力ｂを取得する（ステップＢ５：図５の下段参照）。換言すれば、実行部１３ａは、第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、第１の処理を実行して第４のデータを出力する出力部の一例である。

図１９の例では、実行部１３ａは、顔映像のサンプルデータを処理部品１１ａに入力して出力ａを取得し、また、顔映像のサンプルデータを顔ぼかしフィルタに入力し、当該フィルタからの出力を当該処理部品１１ａに入力して出力ｂを取得する。なお、実行部１３ａは、処理部品情報１１ｄを参照して、データ形式が一致するように、処理部品１１ａの入力ポートに接続するフィルタ１１ｃの出力ポートを特定してもよい。

判定部１３ｂは、ステップＢ４及びＢ５でそれぞれ取得した出力ａ及び出力ｂが互いに一致するか否かを判定する（ステップＢ６）。図１９の例では、判定部１３ｂは、顔を含む映像のサンプルデータを入力された処理部品１１ａの出力ａと、顔を除去された映像のサンプルデータを入力された処理部品１１ａの出力ｂとが一致するか否かを判定する。換言すれば、判定部１３ｂは、第２のデータと第４のデータとの比較結果に基づいて第１の処理が機微情報を利用する処理であるか否かを判定する。

なお、例えば、評価結果提示部１４は、第１の処理が機微情報を利用する処理であるか否かの判定結果を出力してもよい。換言すれば、評価結果提示部１４は、判定部１３ｂによる判定結果を出力する判定結果出力部の一例である。例えば、評価結果提示部１４は、判定結果を、開発画面１００上にメッセージとして出力してもよいし、メモリ部１１にログとして出力してもよく、その他の種々の態様で出力してもよい。

出力ａと出力ｂとが一致すると判定した場合（ステップＢ６でＹＥＳ）、情報登録部１３ｃは、要否テーブル１１ｇに対して、評価対象の処理部品１１ａの入力ポートのエントリを作成し、評価結果を登録する（ステップＢ７）。このとき、情報登録部１３ｃは、当該エントリにおいて、データ１１ｂに対応する機微情報は処理部品１１ａでは“不要”である旨を設定する（図１３の「Ｎｏ．：１、３、４」参照）。

出力ａと出力ｂとが一致しないと判定した場合（ステップＢ６でＮＯ）、情報登録部１３ｃは、要否テーブル１１ｇに対して、評価対象の処理部品１１ａの入力ポートのエントリを作成し、評価結果を登録する（ステップＢ８）。このとき、情報登録部１３ｃは、当該エントリにおいて、データ１１ｂに対応する機微情報は処理部品１１ａでは“要”である旨を設定する（図１３の「Ｎｏ．：２」参照）。

そして、実行部１３ａは、メモリ部１１にデータ１１ｂ及びフィルタ１１ｃの未使用の他の組が保存されているか否かを判定する（ステップＢ９）。

未使用の他の組が保存されていると判定した場合（ステップＢ９でＹＥＳ）、処理がステップＢ３に移行し、実行部１３ａは、未使用の他のデータ１１ｂ及びフィルタ１１ｃの組を抽出して、機微情報の要否判定処理を行なう。図１９の例では、実行部１３ａは、例えば、車番を含む映像のサンプルデータと、車番をぼかすフィルタとを抽出してよい。

一方、未使用の他の組が保存されていないと判定した場合（ステップＢ９でＮＯ）、実行部１３ａは、未評価の他の処理部品１１ａがメモリ部１１に存在するか否かを判定する（ステップＢ１０）。

未評価の他の処理部品１１ａがメモリ部１１に存在すると判定した場合（ステップＢ１０でＹＥＳ）、処理がステップＢ２に移行し、実行部１３ａは、未評価の他の処理部品１１ａを用いて、機微情報の要否判定処理を行なう。

一方、未評価の他の処理部品１１ａがメモリ部１１に存在しないと判定した場合（ステップＢ１０でＮＯ）、処理が終了する。

以上のように、一実施形態の一実施例に係る機微情報の要否判定処理を実行するサーバ１０によれば、サンプルデータ（サンプル映像）内の機微情報の有無を変化させて処理部品１１ａの出力変化を比較することで、処理部品１１ａの機微情報要否を判定できる。これにより、開発者は、アプリケーション１１０の開発の際に、判定結果に基づき処理部品１１ａの機微情報に関するリスク判断を行なうことができる。

また、処理部品１１ａが機微情報を必要とするか否かをサーバ１０が判定するため、開発者が判定を行なうよりも正確な判定結果を出力できる。

なお、サーバ１０が、出力判定処理及び要否判定処理の双方を実行する場合、図１４のステップＡ１及びＡ２の処理と、図１８のステップＢ１及びＢ２の処理とは、いずれか一方の処理が実行されればよい。ステップＡ３～Ａ８の処理、及び、ステップＢ３～Ｂ９の処理は、時間的に前後して実行されてもよいし、並行して実行されてもよい。ステップＡ３で抽出されるデータ１１ｂ及びフィルタ１１ｃと、ステップＢ３で抽出されるデータ１１ｂ及びフィルタ１１ｃとは、互いに異なってよい。

（表示処理の一例）
次に、機微度評価部１３による要否判定処理の処理結果を表示する表示処理の一例を説明する。図２０は、表示処理の動作例を示すフローチャートであり、図２１は、表示処理の動作例を説明する図である。

図２０に示すように、評価結果提示部１４は、図１６のステップＡ１１と同様に、開発画面１００上で処理部品１１ａが利用されたことを検出する（ステップＢ１１）。図２１の例では、評価結果提示部１４は、性別検出フィルタ及び色検出フィルタが開発画面１００上に配置されたことを検出する。処理部品１１ａが利用されたことは、第１のデータに対する第１の処理の指定を受け付けたことの一例である。

評価結果提示部１４は、事前に評価済みの要否テーブル１１ｇを参照して、検出された処理部品１１ａが、機微情報を利用するか（必要とするか）否かを判定する（ステップＢ１２）。

検出された処理部品１１ａが機微情報を利用すると判定した場合（ステップＢ１２でＹＥＳ）、評価結果提示部１４は、開発画面１００上にリスク警告を提示し（ステップＢ１３）、処理が終了する。図２１の例では、性別検出フィルタが機微情報を利用することが要否テーブル１１ｇに登録されているため、評価結果提示部１４は、処理部品１１ａが機微情報を利用すると判定し、開発画面１００上にリスクありを示す警告を表示する。

一方、検出された処理部品１１ａが機微情報を利用しないと判定した場合（ステップＢ１２でＮＯ）、評価結果提示部１４は、検出された処理部品１１ａが利用する機微情報を消去するためのフィルタ１１ｃの挿入をリスク対策部１２ｃに指示する。例えば、評価結果提示部１４は、要否テーブル１１ｇを参照して、当該フィルタ１１ｃを特定してよい。

リスク対策部１２ｃは、開発画面１００上に配置された処理部品１１ａの前段に、指示されたフィルタ１１ｃを挿入（配置）し、フィルタ１１ｃの出力ポートと処理部品１１ａの入力ポートとを接続する（ステップＢ１４）。また、リスク対策部１２ｃは、挿入したフィルタ１１ｃをグラフに組み込むために、グラフ情報１１ｅを更新してよい。

図２１の例では、色検出フィルタが機微情報を利用しないことが要否テーブル１１ｇに登録されているため、評価結果提示部１４は、処理部品１１ａが機微情報を利用しないと判定し、リスク対策部１２ｃに対して、顔ぼかしフィルタの挿入を指示する。リスク対策部１２ｃは、顔ぼかしフィルタを色検出フィルタの前段に挿入及び接続する。

次いで、評価結果提示部１４は、開発画面１００上にリスクなし（対策済み）を示すメッセージを表示し（ステップＢ１５）、処理が終了する。

なお、評価結果提示部１４は、ステップＢ１２でＮＯの場合、ステップＢ１４の前に、以下のステップＢ１６及びＢ１７の処理を実行してもよい。

例えば、評価結果提示部１４は、開発画面１００上に、リスク警告であって、対策が可能である旨を表示する警告を提示し（ステップＢ１６）、リスク対策を実行するか否かを端末装置２０に問い合わせる（図２１の「対策を提案」参照）。

評価結果提示部１４は、端末装置２０から、リスク対策の要求を受信したか否かを判定し（ステップＢ１７）、受信した場合（ステップＢ１７でＹＥＳ）、ステップＢ１４の処理を実行する。一方、評価結果提示部１４は、端末装置２０からリスク対策の要求を受信しない場合（例えばリスク対策不要の旨の指示を受信した場合）（ステップＢ１７でＮＯ）、処理が終了する。

このように、評価結果提示部１４は、第１の処理が機微情報を利用する処理である場合にアラートを出力するアラート部の一例である。

また、評価結果提示部１４及びリスク対策部１２ｃは、第１の処理が機微情報を利用しない処理である場合に、第１のデータから機微情報を除去するための第２の処理に関する情報を出力する、又は、第１のデータに対する第２の処理を実行するアラート部の一例である。

以上のように、サーバ１０は、要否判定処理の判定結果である要否テーブル１１ｇに基づき、機微情報を利用すると判定（評価）された処理部品１１ａが開発画面１００で利用される際にリスク警告を端末装置２０に提示する。このように、サーバ１０は、アプリケーション１１０で機微情報が扱われることを、開発画面１００上に視覚的に提示することができる。従って、開発者は、容易にリスク判断を行なうことができる。

また、サーバ１０は、機微情報を利用しないと判定（評価）された処理部品１１ａが開発画面１００で利用される際に、機微情報を除去するフィルタ１１ｃを処理部品１１ａの前段に挿入及び接続する。これにより、当該処理部品１１ａよりも上流に機微情報を出力する他の処理部品１１ａが接続される場合であっても、フィルタ１１ｃにより機微情報を除去できるため、機微情報に関するリスクを低下（例えば無くす）ことができる。

なお、図２０及び図２１に示す表示処理は、図６を参照して説明した表示処理の一例である。

また、サーバ１０が、出力判定処理及び要否判定処理の双方を実行する場合、図１６のステップＡ１１の処理と、図２０のステップＢ１１の処理とは、いずれか一方の処理が実行されればよい。ステップＡ１２～Ａ１４の処理、及び、ステップＢ１２～Ｂ１７の処理は、時間的に前後して実行されてもよいし、並行して実行されてもよい。この場合の表示処理は、図７を参照して説明した表示処理の一例である。

〔１－５〕表示態様の変更処理の説明
次に、評価結果提示部１４による表示態様の変更処理について説明する。変更処理は、上記（ｃ）の手法の一例である。以下、変更処理の３つの実施例を説明する。

（変更処理の第１実施例）
第１実施例では、評価結果提示部１４は、出力テーブル１１ｆ及び要否テーブル１１ｇのうち、双方を利用しない場合、又は、出力テーブル１１ｆを利用する場合、の動作例を説明する。図２２は、変更処理の動作例を示すフローチャートであり、図２３は、変更処理の動作例を説明する図である。

図２２に示すように、評価結果提示部１４は、開発画面１００上でのグラフの作成、又は、グラフ管理部１２ｂによるグラフ情報１１ｅの作成又は更新等の検出により、グラフの登録を検出する（ステップＣ１）。

評価結果提示部１４の探索部１４ａは、登録されたグラフの始点の処理部品１１ａを、グラフ情報１１ｅから抽出する（ステップＣ２）。なお、探索部１４ａは、例えば、グラフアルゴリズムを利用して、親ノードが存在しないノードを探索する等の手法により、グラフ情報１１ｅから始点の処理部品１１ａを探索してよい。図２３の例では、探索部１４ａは、グラフ情報１１ｅから始点の処理部品１１ａとして入力デバイス１１１を抽出する（図１１参照）。

表示判定部１４ｂは、始点の処理部品１１ａの出力が、機微情報を含むか否かを判定する（ステップＣ３）。例えば、表示判定部１４ｂは、始点の処理部品１１ａの種類に応じて、出力が機微情報を含むか否かを判定してよい。

一例として、図２４に示すように、表示判定部１４ｂは、始点の処理部品１１ａがカメラ等の入力デバイス１１１である場合、入力デバイス１１１からの出力には、映像への映り込みにより機微情報が含まれると判定してよい。

或いは、表示判定部１４ｂは、サーバ１０が出力判定処理を実行する場合、生成された出力テーブル１１ｆを参照して、始点の処理部品１１ａの出力ポートから機微情報が出力されるか否かを判定してもよい。

始点の処理部品１１ａの出力が機微情報を含まないと判定した場合（ステップＣ３でＮＯ）、処理が終了する。

一方、始点の処理部品１１ａの出力が機微情報を含むと判定した場合（ステップＣ３でＹＥＳ）、表示判定部１４ｂは、当該処理部品１１ａからの出力を赤色にする等の上述した手法により、表示態様を変化させると判定する（ステップＣ４）。

そして、探索部１４ａは、未判定の処理部品１１ａがグラフ情報１１ｅに存在するか否かを判定する（ステップＣ５）。

例えば、探索部１４ａは、グラフ情報１１ｅを参照して、判定済みの処理部品１１ａの後段に、未判定の後段処理部品が存在するか否かを判定してよい。また、後段処理部品が存在しない場合、探索部１４ａは、グラフ情報１１ｅを参照して、判定済みの処理部品１１ａの前段に接続された処理部品１１ａに、未判定の他の後段処理部品が存在するか否かを判定してよい。このように、探索部１４ａは、例えば、グラフアルゴリズムを利用して、子ノードを探索する等の手法により、グラフの始点から終点に向かって順に、未判定の処理部品１１ａを探索してよい。

図２３の例では、探索部１４ａは、未判定の処理部品１１ａとして、入力デバイス１１１の後段処理部品である動体検出１１６及び顔認証１１２を特定する。

未判定の処理部品１１ａがグラフ情報１１ｅに存在しないと判定した場合（ステップＣ５でＮＯ）、表示出力部１４ｃは、表示判定部１４ｂによる判定結果に応じて、開発画面１００上のグラフの表示態様を変更し（ステップＣ１０）、処理が終了する。

未判定の処理部品１１ａがグラフ情報１１ｅに存在すると判定した場合（ステップＣ５でＹＥＳ）、探索部１４ａは、未判定の処理部品１１ａをグラフ情報１１ｅから１つ抽出する（ステップＣ６）。図２３の例では、探索部１４ａは、動体検出１１６を選択する。

表示判定部１４ｂは、抽出した処理部品１１ａの出力が、機微情報を含むか否かを判定する（ステップＣ７）。例えば、表示判定部１４ｂは、抽出した処理部品１１ａの種類に応じて、出力が機微情報を含むか否かを判定してよい。

一例として、図２５に示すように、表示判定部１４ｂは、抽出した処理部品１１ａが、顔ぼかしフィルタや動体検出フィルタのように機微情報を削除する処理部品１１ａである場合、機微情報を含まないデータを出力すると判定してよい。なお、動体検出フィルタは、出力ポートによっては機微情報を含む場合もあるため（図１０の「動体検出」参照）、表示判定部１４ｂは、グラフ情報１１ｅにおける、抽出した処理部品１１ａの出力ポートを考慮して判定を行なってよい。

また、表示判定部１４ｂは、処理部品１１ａから出力されるデータが、機微情報が含まれるデータであるか否かを、データに対応付けられた契約に関する情報や、データの保管場所等に基づいて決定してもよい。例えば、機微情報が処理される場合、データの提供者や個人情報の所有者と、開発者との間で、事前の同意確認や、期間及び保管場所を制限したデータの保存、等の契約が行なわれる場合がある。換言すれば、機微情報であるか否かは、保管場所等の条件、契約に応じて変わる場合がある。

そこで、表示判定部１４ｂは、処理部品１１ａが処理するデータが、このような事前の取り決めのあるデータか否かを、保管場所や契約等に関する情報に基づき判定してもよい。例えば、表示判定部１４ｂは、事前に同意確認できているデータや制限された保管場所に保存されるデータの場合、処理部品１１ａから出力されるデータが機微情報を含んでいても、表示態様を変化させないと判定してもよい。

或いは、表示判定部１４ｂは、サーバ１０が出力判定処理を実行する場合、生成された出力テーブル１１ｆを参照して、抽出した処理部品１１ａの出力ポートから機微情報が出力されるか否かを判定してもよい。

抽出した処理部品１１ａの出力が機微情報を含まないと判定した場合（ステップＣ７でＮＯ）、表示判定部１４ｂは、表示態様を変化させないと判定し（ステップＣ９）、処理がステップＣ５に移行する。

一方、抽出した処理部品１１ａの出力が機微情報を含むと判定した場合（ステップＣ７でＹＥＳ）、表示判定部１４ｂは、当該処理部品１１ａからの出力を赤色にする等の上述した手法により、表示態様を変化させると判定する（ステップＣ８）。そして、処理がステップＣ５に移行する。

図２３の例では、表示判定部１４ｂは、図２３及び図２５に示すように、動体検出１１６の出力ポート２は機微情報を出力しないため、動体検出１１６の出力は機微情報を含まないと判定する。この場合、探索部１４ａは、動体検出１１６の後段処理部品の探索は抑止し、他の未判定の処理部品１１ａを探索してもよい。

また、表示判定部１４ｂは、図２３及び図２６に示すように、顔認証１１２の出力ポート１は機微情報を入力されると機微情報を出力するため、顔認証１１２の出力は機微情報を含むと判定する。

或いは、表示判定部１４ｂは、サーバ１０が出力判定処理を実行する場合、生成された出力テーブル１１ｆを参照して、動体検出１１６の出力ポート２、及び、顔認証１１２の出力ポート２の機微情報（例えば顔情報）の有無を判定してもよい。

なお、図２３の例において、探索部１４ａは、顔認証１１２の判定後のステップＣ５及びＣ６において、顔認証１１２の後段処理部品としてＤＢ保存１１３を抽出する。

表示判定部１４ｂは、ＤＢ保存１１３には出力が存在しないため、ＤＢ保存１１３から先（後段）の表示態様の変化は行なわないと判定する。なお、ＤＢ保存１１３には、前段から入力される機微情報がそのまま保存されるため、例えば、ＤＢ保存１１３が健康や医療関係のＤＢへの保存である場合、ヘルスデータが機微情報になり得る。このように、表示判定部１４ｂは、データの保管場所に応じて、アイコン間のデータに機微情報が含まれるか否かを判定してよい。

ＤＢ保存１１３は、グラフの終点であり、後段処理部品は存在しないため、ＤＢ保存１１３の判定後は、処理がステップＣ５でＮＯとなり、表示出力部１４ｃによるグラフの表示態様の変更が行なわれ（図２３参照）、処理が終了する。

表示態様の変更では、表示出力部１４ｃは、機微情報が含まれる対応の始点のアイコンと終点のアイコンとの少なくともいずれかの表示態様を変化させてよい。図２３の例では、表示出力部１４ｃは、入力デバイス１１１と動体検出１１６との間、入力デバイス１１１と顔認証１１２との間、及び、顔認証１１２とＤＢ保存１１３との間、の表示態様を変化させてよい。

（変更処理の第２実施例）
第２実施例では、評価結果提示部１４は、出力テーブル１１ｆ及び要否テーブル１１ｇのうち、双方を利用しない場合、又は、要否テーブル１１ｇを利用する場合、の動作例を説明する。図２７は、変更処理の動作例を示すフローチャートである。なお、以下の説明において、図２２のフローチャートと同様の処理については説明を省略する。

図２７に示すように、ステップＣ６で未判定の処理部品１１ａが抽出されると、表示判定部１４ｂは、抽出した処理部品１１ａが機微情報を必要とするか否かを判定する（ステップＣ１１）。例えば、表示判定部１４ｂは、抽出した処理部品１１ａの種類に応じて、処理部品１１ａが機微情報を必要とするか否かを判定してよい。

一例として、図２６に示すように、表示判定部１４ｂは、抽出した処理部品１１ａが、顔認証のように機微情報を必要とする処理部品１１ａである場合、抽出した処理部品１１ａの入力に機微情報が含まれるか否かに応じて、機微情報の要否を判定してよい。

或いは、表示判定部１４ｂは、サーバ１０が要否判定処理を実行する場合、生成された要否テーブル１１ｇを参照して、抽出した処理部品１１ａが機微情報を必要とするか否かを判定してもよい。

抽出した処理部品１１ａが機微情報を必要としないと表示判定部１４ｂが判定した場合（ステップＣ１１でＮＯ）、処理がステップＣ９に移行する。一方、抽出した処理部品１１ａが機微情報を必要とすると表示判定部１４ｂが判定した場合（ステップＣ１１でＹＥＳ）、処理がステップＣ８に移行する。

なお、第２実施例では、探索部１４ａは、ステップＣ９において表示態様を変化させないと判定された処理部品１１ａの後段処理部品を、続くステップＣ５及びＣ６で抽出してもよい。

（変更処理の第３実施例）
第３実施例では、評価結果提示部１４は、出力テーブル１１ｆ及び要否テーブル１１ｇのうち、双方を利用する場合の動作例を説明する。図２８は、変更処理の動作例を示すフローチャートである。なお、以下の説明において、図２２又は図２７のフローチャートと同様の処理については説明を省略する。

図２８に示すように、ステップＣ６で未判定の処理部品１１ａが抽出されると、表示判定部１４ｂは、抽出した処理部品１１ａが機微情報を必要とするか否かを判定する（ステップＣ１３）。例えば、表示判定部１４ｂは、生成された要否テーブル１１ｇを参照して、抽出した処理部品１１ａの入力ポートが機微情報を必要とするか否かを判定する。

抽出した処理部品１１ａが機微情報を必要としないと判定した場合（ステップＣ１３でＮＯ）、表示判定部１４ｂは、抽出した処理部品１１ａの出力が機微情報を含むか否かを判定する（ステップＣ１５）。例えば、表示判定部１４ｂは、生成された出力テーブル１１ｆを参照して、抽出した処理部品１１ａの出力ポートからの出力に機微情報が含まれるか否かを判定する。

出力に機微情報が含まれないと判定した場合（ステップＣ１５でＮＯ）、処理がステップＣ９に移行する。すなわち、表示判定部１４ｂは、表示態様を変化させないと判定する。

出力に機微情報が含まれると判定した場合（ステップＣ１５でＹＥＳ）、処理がステップＣ８に移行する。すなわち、表示判定部１４ｂは、表示態様を変化させると判定する。

図２３の例では、表示判定部１４ｂは、動体検出１１６の入力ポートは機微情報（例えば顔情報）が不要であると判定する（図１３の「Ｎｏ．：１」参照）。また、表示判定部１４ｂは、動体検出１１６の出力ポート２は機微情報を出力しないと判定する（図１２の「Ｎｏ．：３」参照）。従って、表示判定部１４ｂは、動体検出１１６からの出力の表示態様を変化させないと判定する（ステップＣ９）。

なお、表示判定部１４ｂは、動体検出１１６の判定後、探索部１４ａにより抽出されるブザー鳴動１１７については、機微情報が不要であると判定し、出力ポートがないため、出力に機微情報が含まれないと判定する。

ステップＣ１３において、抽出した処理部品１１ａが機微情報を必要とすると判定した場合（ステップＣ１３でＹＥＳ）、表示判定部１４ｂは、抽出した処理部品１１ａの入力が機微情報を含むか否かを判定する（ステップＣ１４）。例えば、表示判定部１４ｂは、抽出した処理部品１１ａの前段に接続された処理部品１１ａ（前段処理部品）からの出力に機微情報が含まれるか否かを、以前の判定結果に基づき判定してよい。

入力が機微情報を含まないと判定した場合（ステップＣ１４でＮＯ）、表示判定部１４ｂは、リスク警告を提示すると判定し（ステップＣ１６）、処理がステップＣ５に移行する。

入力が機微情報を含むと判定した場合（ステップＣ１４でＹＥＳ）、処理がステップＣ１５に移行する。例えば、上述のように、表示判定部１４ｂは、抽出した処理部品１１ａの出力が機微情報を含むか否かを判定する。

出力に機微情報が含まれないと判定した場合（ステップＣ１５でＮＯ）、処理がステップＣ９に移行する。すなわち、表示判定部１４ｂは、表示態様を変化させないと判定する。

出力に機微情報が含まれると判定した場合（ステップＣ１５でＹＥＳ）、処理がステップＣ８に移行する。すなわち、表示判定部１４ｂは、表示態様を変化させると判定する。

図２３の例では、表示判定部１４ｂは、顔認証１１２の入力ポートは機微情報（例えば顔情報）が必要であると判定する（図１３の「Ｎｏ．：２」参照）。また、表示判定部１４ｂは、顔認証１１２の出力ポート２は機微情報を出力すると判定する（図１２の「Ｎｏ．：５」参照）。従って、表示判定部１４ｂは、顔認証１１２からの出力の表示態様を変化させると判定する（ステップＣ８）。

以上のように、一実施形態の一実施例に係る表示態様の変更処理を実行するサーバ１０によれば、開発画面１００に表示される処理部品１１ａ間の表示態様を、当該処理部品１１ａ間で受け渡しされるデータの機微情報の有無に基づき変化させることができる。これにより、開発者は、アプリケーション１１０の開発段階において、機微情報に関するリスクを、視覚的な提示によって容易に判断することが可能となる。

換言すれば、評価結果提示部１４は、装置に関する情報又は処理に関する情報を示す複数のアイコンを対応付けて開発画面１００上に出力する場合に、対応付けされる複数のアイコンによりそれぞれ特定される装置又は処理間で受け渡しが行なわれるデータに機微情報が含まれるか否かに応じて、アイコン間の対応の表示態様を変化させる、表示制御部の一例である。

上述した処理を行なう評価結果提示部１４の機能は、他の観点では、図２９に例示する表示制御装置１４０と捉えることもできる。

表示制御装置１４０は、例示的に、機微情報生成点検出部１４０ａ、機微情報除去点検出部１４０ｂ、機微情報範囲推定部１４０ｃ、及び、強調表示部１４０ｄを備えてよい。また、表示制御装置１４０は、これらの機能ブロック１４０ａ～１４０ｄが参照する情報として、処理部品情報１１ｄ、グラフ情報１１ｅ、出力テーブル１１ｆ、及び、要否テーブル１１ｇを備えてよい。

機微情報生成点検出部１４０ａ及び機微情報除去点検出部１４０ｂは、それぞれ、機微情報が生成される処理部品１１ａ、及び、機微情報が除去される処理部品１１ａを検出するものであり、探索部１４ａ及び表示判定部１４ｂの一例である。

機微情報範囲推定部１４０ｃは、グラフにおいて処理部品１１ａ間で受け渡しされるデータに機微情報が含まれる範囲を推定するものであり、表示判定部１４ｂの一例である。

強調表示部１４０ｄは、機微情報範囲推定部１４０ｃが推定した範囲内における処理部品１１ａ間の接続線を強調表示（例えば赤色で表示）するものであり、表示出力部１４ｃの一例である。

〔１－６〕変形例
一実施形態に係る機微度評価部１３は、機微情報の種類ごとに、処理部品１１ａが機微情報を出力するか否か、及び、処理部品１１ａが機微情報を利用するか否かを判定する。変形例に係る評価結果提示部１４は、機微情報の種類ごとに、機微度評価部１３による評価結果を出力してもよい。

図３０は、開発画面１００上でのグラフの表示手法の変形例を示す図である。図３０に示すように、開発画面１００には、表示する機微情報の種類（カテゴリ）を選択するための選択領域１０１と、選択された種類に対応する評価結果を表示する１以上の表示領域１０２と、が含まれてよい。

例えば、評価結果提示部１４は、選択領域１０１で「すべて」が選択された場合、機微情報の種類の数に相当する数の表示領域１０２を開発画面１００上に表示し、各表示領域１０２に対応付けて、機微情報の種類ごとのグラフを表示してよい。各グラフは、機微情報の種類に対応する評価結果に従い表示態様が変更されてよい。

また、評価結果提示部１４は、選択領域１０１でいずれかの機微情報の種類が選択された場合、１つの表示領域１０２を開発画面１００上に表示し、表示領域１０２に、選択された機微情報に対応する評価結果に従い表示態様が変更されたグラフを表示してよい。

これにより、開発者は、機微情報の種類ごとのリスク判断を容易とすることができる。

〔１－７〕ハードウェア構成例
図３１は、サーバ１０の機能を実現するコンピュータ３０のＨＷ構成例を示すブロック図である。サーバ１０の機能を実現するＨＷリソースとして、複数のコンピュータが用いられる場合は、各コンピュータが図３１に例示するＨＷ構成を備えてよい。

図３１に示すように、コンピュータ３０は、ＨＷ構成として、例示的に、プロセッサ３０ａ、メモリ３０ｂ、記憶部３０ｃ、ＩＦ（Interface）部３０ｄ、Ｉ／Ｏ（Input / Output）部３０ｅ、及び読取部３０ｆを備えてよい。

プロセッサ３０ａは、種々の制御や演算を行なう演算処理装置の一例である。プロセッサ３０ａは、コンピュータ３０内の各ブロックとバス３０ｉで相互に通信可能に接続されてよい。なお、プロセッサ３０ａは、複数のプロセッサを含むマルチプロセッサであってもよいし、複数のプロセッサコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。

プロセッサ３０ａとしては、例えば、ＣＰＵ、ＭＰＵ、ＧＰＵ、ＡＰＵ、ＤＳＰ、ＡＳＩＣ、ＦＰＧＡ等の集積回路（ＩＣ；Integrated Circuit）が挙げられる。なお、プロセッサ３０ａとして、これらの集積回路の２以上の組み合わせが用いられてもよい。ＣＰＵはCentral Processing Unitの略称であり、ＭＰＵはMicro Processing Unitの略称である。ＧＰＵはGraphics Processing Unitの略称であり、ＡＰＵはAccelerated Processing Unitの略称である。ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific ICの略称であり、ＦＰＧＡはField-Programmable Gate Arrayの略称である。

メモリ３０ｂは、種々のデータやプログラム等の情報を格納するＨＷの一例である。メモリ３０ｂとしては、例えばＤＲＡＭ（Dynamic Random Access Memory）等の揮発性メモリ、及び、ＰＭ（Persistent Memory）等の不揮発性メモリ、の一方又は双方が挙げられる。

記憶部３０ｃは、種々のデータやプログラム等の情報を格納するＨＷの一例である。記憶部３０ｃとしては、ＨＤＤ（Hard Disk Drive）等の磁気ディスク装置、ＳＳＤ（Solid State Drive）等の半導体ドライブ装置、不揮発性メモリ等の各種記憶装置が挙げられる。不揮発性メモリとしては、例えば、フラッシュメモリ、ＳＣＭ（Storage Class Memory）、ＲＯＭ（Read Only Memory）等が挙げられる。

また、記憶部３０ｃは、コンピュータ３０の各種機能の全部若しくは一部を実現するプログラム３０ｇ（情報処理プログラム及び画面表示プログラムの一方又は双方）を格納してよい。例えば、サーバ１０のプロセッサ３０ａは、記憶部３０ｃに格納されたプログラム３０ｇをメモリ３０ｂに展開して実行することにより、図９又は図２９に例示するサーバ１０としての機能を実現できる。

なお、メモリ３０ｂ及び記憶部３０ｃの少なくとも１つが有する記憶領域は、メモリ部１１の一例であり、各種情報１１ａ～１１ｇを記憶してよい。

ＩＦ部３０ｄは、ネットワークとの間の接続及び通信の制御等を行なう通信ＩＦの一例である。例えば、ＩＦ部３０ｄは、イーサネット（登録商標）等のＬＡＮ、或いは、ＦＣ（Fibre Channel）等の光通信等に準拠したアダプタを含んでよい。当該アダプタは、無線及び有線の一方又は双方の通信方式に対応してよい。例えば、プログラム３０ｇは、当該通信ＩＦを介して、ネットワークからコンピュータ３０にダウンロードされ、記憶部３０ｃに格納されてもよい。

Ｉ／Ｏ部３０ｅは、入力装置、及び、出力装置、の一方又は双方を含んでよい。入力装置としては、例えば、キーボード、マウス、タッチパネル等が挙げられる。出力装置としては、例えば、モニタ、プロジェクタ、プリンタ等が挙げられる。

読取部３０ｆは、記録媒体３０ｈに記録されたデータやプログラムの情報を読み出すリーダの一例である。読取部３０ｆは、記録媒体３０ｈを接続可能又は挿入可能な接続端子又は装置を含んでよい。読取部３０ｆとしては、例えば、ＵＳＢ（Universal Serial Bus）等に準拠したアダプタ、記録ディスクへのアクセスを行なうドライブ装置、ＳＤカード等のフラッシュメモリへのアクセスを行なうカードリーダ等が挙げられる。なお、記録媒体３０ｈにはプログラム３０ｇが格納されてもよく、読取部３０ｆが記録媒体３０ｈからプログラム３０ｇを読み出して記憶部３０ｃに格納してもよい。

記録媒体３０ｈとしては、例示的に、磁気／光ディスクやフラッシュメモリ等の非一時的なコンピュータ読取可能な記録媒体が挙げられる。磁気／光ディスクとしては、例示的に、フレキシブルディスク、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disc）、ブルーレイディスク、ＨＶＤ（Holographic Versatile Disc）等が挙げられる。フラッシュメモリとしては、例示的に、ＵＳＢメモリやＳＤカード等の半導体メモリが挙げられる。

上述したコンピュータ３０のＨＷ構成は例示である。従って、コンピュータ３０内でのＨＷの増減（例えば任意のブロックの追加や削除）、分割、任意の組み合わせでの統合、又は、バスの追加若しくは削除等は適宜行なわれてもよい。例えば、サーバ１０において、Ｉ／Ｏ部３０ｅ及び読取部３０ｆの少なくとも一方は、省略されてもよい。

なお、情報処理端末の一例である端末装置２０の機能は、上述したコンピュータ３０と同様のＨＷ構成により実現されてもよい。例えば、端末装置２０のプロセッサ３０ａは、記憶部３０ｃに格納されたプログラム３０ｇをメモリ３０ｂに展開して実行することにより、端末装置２０としての機能を実現できる。

〔２〕その他
上述した一実施形態に係る技術は、以下のように変形、変更して実施することができる。

例えば、図９及び図２９に示す各機能ブロックは、それぞれ任意の組み合わせで併合してもよく、分割してもよい。

また、上述した一実施形態及び変形例では、機微情報が映像であるものとしたが、これに限定されるものではない。機微情報は、例えば、個人情報が含まれる文字列であってもよいし、個人情報が含まれる音（例えば音声）であってもよい。処理部品１１ａ及びフィルタ１１ｃは、機微情報の形態に応じた処理を行なえばよい。例えば、機微情報が文字列又は音である場合、処理部品１１ａ及びフィルタ１１ｃは、文字列又は音に対する、加工、検出、除去等の処理を行なうモジュールであってよい。

さらに、一実施形態及び変形例では、機微度評価部１３が機微情報の種類ごとに評価を行ない、変形例では、評価結果提示部１４が機微情報の種類ごとにグラフの表示を行なうものとしたが、これに限定されるものではなく、機微情報は１種類であってもよい。

〔３〕付記
以上の実施形態に関し、さらに以下の付記を開示する。

（付記１）
機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出し、
前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力し、
前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する、
処理をコンピュータに実行させることを特徴とする情報処理プログラム。

（付記２）
前記第２のデータと前記第４のデータとが異なる場合に、前記第１の処理は機微情報を利用する処理であると判定する、
処理を前記コンピュータに実行させることを特徴とする付記１に記載の情報処理プログラム。

（付記３）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用する処理である場合にアラートを出力する、
処理を前記コンピュータに実行させることを特徴とする付記１又は付記２に記載の情報処理プログラム。

（付記４）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用しない処理である場合に、前記第１のデータから前記機微情報を除去するための第２の処理に関する情報を出力する、又は、前記第１のデータに対する前記第２の処理を実行する、
処理を前記コンピュータに実行させることを特徴とする付記１又は付記２に記載の情報処理プログラム。

（付記５）
機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出し、
前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力し、
前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する、
処理をコンピュータが実行することを特徴とする情報処理方法。

（付記６）
前記第２のデータと前記第４のデータとが異なる場合に、前記第１の処理は機微情報を利用する処理であると判定する、
処理を前記コンピュータが実行することを特徴とする付記５に記載の情報処理方法。

（付記７）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用する処理である場合にアラートを出力する、
処理を前記コンピュータが実行することを特徴とする付記５又は付記６に記載の情報処理方法。

（付記８）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用しない処理である場合に、前記第１のデータから前記機微情報を除去するための第２の処理に関する情報を出力する、又は、前記第１のデータに対する前記第２の処理を実行する、
処理を前記コンピュータが実行することを特徴とする付記５又は付記６に記載の情報処理方法。

（付記９）
機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する抽出部と、
前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力する出力部と、
前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する判定部と、
を備えることを特徴とする情報処理装置。

（付記１０）
前記判定部は、前記第２のデータと前記第４のデータとが異なる場合に、前記第１の処理は機微情報を利用する処理であると判定する、
ことを特徴とする付記９に記載の情報処理装置。

（付記１１）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用する処理である場合にアラートを出力するアラート部、
を備えることを特徴とする付記９又は付記１０に記載の情報処理装置。

（付記１２）
前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用しない処理である場合に、前記第１のデータから前記機微情報を除去するための第２の処理に関する情報を出力する、又は、前記第１のデータに対する前記第２の処理を実行するアラート部、
を備えることを特徴とする付記９又は付記１０に記載の情報処理装置。

１ アプリ開発システム
１０ サーバ
１１ メモリ部
１１ａ 処理部品
１１ｂ データ
１１ｃ フィルタ
１１ｄ 処理部品情報
１１ｅ グラフ情報
１１ｆ 出力テーブル
１１ｇ 要否テーブル
１２ 情報管理部
１２ａ 処理部品管理部
１２ｂ グラフ管理部
１２ｃ リスク対策部
１３ 機微度評価部
１３ａ 実行部
１３ｂ 判定部
１３ｃ 情報登録部
１４ 評価結果提示部
１４ａ 探索部
１４ｂ 表示判定部
１４ｃ 表示出力部
２０ 端末装置
３０ コンピュータ
１００ 開発画面
１４０ 表示制御装置
１４０ａ 機微情報生成点検出部
１４０ｂ 機微情報除去点検出部
１４０ｃ 機微情報範囲推定部
１４０ｄ 強調表示部

Claims (6)

1. 機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出し、
   前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力し、
   前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する、
   処理をコンピュータに実行させることを特徴とする情報処理プログラム。
2. 前記第２のデータと前記第４のデータとが異なる場合に、前記第１の処理は機微情報を利用する処理であると判定する、
   処理を前記コンピュータに実行させることを特徴とする請求項１に記載の情報処理プログラム。
3. 前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用する処理である場合にアラートを出力する、
   処理を前記コンピュータに実行させることを特徴とする請求項１又は請求項２に記載の情報処理プログラム。
4. 前記第１のデータに対する前記第１の処理の指定を受け付け、前記第１の処理が前記機微情報を利用しない処理である場合に、前記第１のデータから前記機微情報を除去するための第２の処理に関する情報を出力する、又は、前記第１のデータに対する前記第２の処理を実行する、
   処理を前記コンピュータに実行させることを特徴とする請求項１又は請求項２に記載の情報処理プログラム。
5. 機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出し、
   前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力し、
   前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する、
   処理をコンピュータが実行することを特徴とする情報処理方法。
6. 機微情報を含む第１のデータに対する第１の処理を実行して第２のデータを抽出する抽出部と、
   前記第１のデータに対して機微情報を消失させるための第２の処理を実行した第３のデータに対し、前記第１の処理を実行して第４のデータを出力する出力部と、
   前記第２のデータと前記第４のデータとの比較結果に基づいて前記第１の処理が機微情報を利用する処理であるか否かを判定する判定部と、
   を備えることを特徴とする情報処理装置。

Images