JP2021128402A - 摂動プログラム、摂動方法、および情報処理装置 - Google Patents
摂動プログラム、摂動方法、および情報処理装置 Download PDFInfo
- Publication number
- JP2021128402A JP2021128402A JP2020021200A JP2020021200A JP2021128402A JP 2021128402 A JP2021128402 A JP 2021128402A JP 2020021200 A JP2020021200 A JP 2020021200A JP 2020021200 A JP2020021200 A JP 2020021200A JP 2021128402 A JP2021128402 A JP 2021128402A
- Authority
- JP
- Japan
- Prior art keywords
- perturbation
- image
- brightness
- range
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 44
- 230000010365 information processing Effects 0.000 title claims description 21
- 235000019557 luminance Nutrition 0.000 claims abstract description 99
- 238000012545 processing Methods 0.000 claims abstract description 16
- 230000003094 perturbing effect Effects 0.000 claims abstract description 13
- 238000005070 sampling Methods 0.000 claims description 31
- 230000008569 process Effects 0.000 claims description 25
- 230000002093 peripheral effect Effects 0.000 claims description 11
- 238000010586 diagram Methods 0.000 description 20
- 239000003086 colorant Substances 0.000 description 13
- 238000010801 machine learning Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000009467 reduction Effects 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013434 data augmentation Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Digital Computer Display Output (AREA)
- Image Analysis (AREA)
Abstract
【課題】グラフィカルユーザインタフェース部品の画像に応じた好ましい輝度調節パラメータの摂動範囲を決定する。【解決手段】一実施形態に係る摂動プログラムは、グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、輝度を調節する輝度調節パラメータを変更することで2つの輝度を摂動させて探索を行い、摂動後の2つの輝度のコントラスト比が所定値以上となるように輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、決定する処理で決定される摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、部品画像の輝度調節パラメータを摂動させて複数の摂動画像を生成する、処理をコンピュータに実行させる。【選択図】図8
Description
本発明は、摂動プログラム、摂動方法、および情報処理装置に関する。
グラフィカルユーザインタフェース(GUI:Graphical User Interface)アプリケーションを作成する際に、設定したグラフィカルユーザインタフェース部品が表示画面上に存在しているかを確認する作業が行われている。一例では、検査員が目視で対象のGUI部品が表示されているかを検査している。なお、以下では、グラフィカルユーザインタフェース部品をGUI部品と記載することがある。
検査の負荷を軽減するために、機械学習による学習済みモデルを用いてGUI部品を自動的に検出するための技術も開発されている。こうしたGUI部品の検出技術では、例えば、GUI部品の存在する表示領域の特定が行われ、続いて、特定したGUI部品の表示領域の画像データを、GUI部品の種別を分類するための学習済みモデルに入力してGUI部品の種別の特定が行われる。
また、例えば、機械学習に用いる教師データを増やすためのデータ拡張(Data Augmentation)技術が知られている。
また更に、以上に関連する技術として、機械学習を用いた画像認識に関連する技術が知られている(例えば、特許文献1)。また、画像のデータ拡張に関連する技術も知られている(例えば、特許文献2および特許文献3)。
例えば、GUI部品の表示領域の画像に、並行移動、拡大縮小、輝度の調節などの様々な摂動を与えることで、複数の摂動画像を生成することができる。しかしながら、GUIでは、ユーザによる視認性を保つために、様々な規約や推奨事項が定められている。一例として、GUI部品では、文字、記号、および印などの部品上の表記の色と、部品の背景に用いられる色とのコントラスト比が所定値以上となるように規約や推奨事項が設けられている。そして、予め定められている固定的な摂動範囲で輝度を調節する輝度調節パラメータを変更し、GUI部品の表示領域の画像を摂動させた場合、こうした規定や推奨事項を満たさない摂動画像が生成されてしまうことがある。このようにGUI部品として好ましくない摂動画像を生成し、機械学習に用いてしまうと、生成される学習済みモデルの信頼性に問題が生じる恐れがある。そのため、GUI部品の画像において文字、記号、および印などの表記の色と、背景の色とのコントラスト比が、好ましい値となるように摂動画像を生成することのできる技術の提供が望まれている。
1つの側面では、本発明は、GUI部品の画像に応じた好ましい輝度調節パラメータの摂動範囲を決定することを目的とする。
本発明の一つの態様の摂動プログラムは、グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、輝度を調節する輝度調節パラメータを変更することで2つの輝度を摂動させて探索を行い、摂動後の2つの輝度のコントラスト比が所定値以上となるように輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、決定する処理で決定される摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、部品画像の輝度調節パラメータを摂動させて複数の摂動画像を生成する、処理をコンピュータに実行させる。
GUI部品の画像に応じた好ましい輝度調節パラメータの摂動範囲を決定することができる。
以下、図面を参照しながら、本発明のいくつかの実施形態について詳細に説明する。なお、複数の図面において対応する要素には同一の符号を付す。
上述のように、例えば、GUIアプリケーションの検査では、設計上で表示対象となっているGUI部品が画面上にきちんと存在しているかを確認する作業が行われている。この確認は、一例では目視で行われているが、確認にかかる労力を削減するため、自動化する仕組みの開発も行われている。
図1は、例示的なGUI部品の検出と分類の流れを説明する図である。例えば、図1では、まず、アプリケーションの表示画面のスクリーンショットを撮った画像データからGUI部品の表示領域の特定が行われている(例えば、図1(a))。なお、GUI部品は、例えば、ボタン、テキストボックス、およびドロップダウンボックスなどの種別を含んでよい。
続いて、特定したGUI部品の表示領域の画像を抽出し(例えば、図1(b))、得られた画像をGUI部品を分類する学習済みモデルに入力して、画像に含まれるGUI部品の種別を特定する(例えば、図1(c))。図1の例では、分類結果としてGUI部品がボタンであると判定されている。このようなGUI部品を自動的に検出するための技術の一例として、Faster RCNN(Regions with Convolutional Neural Networks)が知られている。また、GUI部品を分類するための学習済みモデルは、例えば、機械学習により生成することができる。
図2は、例示的なGUI部品を分類するための学習済みモデルの生成の流れを示す図である。図2(a)には、モデルの学習フェーズが示されている。まず、教師データとして様々なGUI部品が写る複数の画像データを用意する。なお、複数の画像データには、その画像データに写るGUI部品の分類がラベルされていてよい。
そして、学習フェーズでは、教師データをモデルに入力して得られた出力データとラベルとのズレの大きさを損失関数で計算し、その損失値が小さくなるようにモデルに付随するパラメータを更新する。この処理を、教師データとして用意した複数の画像データに対して繰り返し実行することで、モデルのパラメータを学習して学習済みモデルを生成することができる。
また、図2(b)には、学習済みモデルの評価フェーズが示されている。評価フェーズでは、生成された学習済みモデルの推定精度を、学習に用いていないラベル付きの画像データを用いて評価する。例えば、学習済みモデルにGUI部品の画像データを入力して得られる出力データと、ラベルのGUI部品の分類とが一致していれば正解として、正解が出力される割合から学習済みモデルによる判定の正確度を評価することができる。
なお、学習済みモデルの生成には、既知の様々な機械学習アルゴリズムを利用することができる。一例では、学習済みモデルは、ディープラーニングなどのニューラルネットワーク、サポートベクターマシンなどの機械学習アルゴリズムを用いて生成されてよい。
例えば、以上のようにして、GUI部品を分類する学習済みモデルを生成することができる。しかしながら、多様なGUI部品を適切に分類することができるロバストな学習済みモデルを構築するためには、多くの教師データを用意することが望ましい。例えば、教師データの数が十分でない場合、生成した学習済みモデルが誤った分類をしてしまうことが知られている。
そのため、機械学習に用いる教師データを増やすためのデータ拡張の技術が注目されている。図3は、実施形態に係るGUI部品の画像データを増やすためのデータ拡張の手順を説明する図である。例えば、図3(a)に示すように、GUI部品の写る画像データに様々な摂動を与えることで、多様な画像データを生成することができる。なお、画像に与える摂動の種類としては、例えば、並行移動(X方向)、並行移動(Y方向)、拡大縮小、ブライトネスの調節、およびコントラストの調節などのパラメータの調節が挙げられる。
図3(b)は、GUI部品の画像データに対する摂動処理の一例を示している。図3(b)の例では、GUI部品の写る画像データを、X軸方向に+2ピクセル平行移動し、次に画像サイズを1.1倍に拡大し、ブライトネスを0.8倍に調節し、最後にコントラストを0.8倍に調節して、摂動済みの画像を生成している。なお、図3(b)の例では、画像データのX軸は、画像データの横軸と一致しており、また、Y軸は画像データの縦軸と一致しているものとする。摂動の結果、図3(b)では、X軸方向の2ピクセルの移動により画像データが存在しなくなった領域が黒色で表示されている。また、画像サイズは元の画像サイズの1.1倍に拡大されている。更に、ブライトネスおよびコントラストなどの輝度を調節するパラメータを変更した結果、元の画像よりも摂動後の画像データは全体的に暗くなっている。なお、輝度を調節するパラメータを、輝度調節パラメータと呼ぶことがある。
このように、パラメータに摂動を与えて画像データを変換することで、1つの画像データから複数の摂動済みの画像データを生成することができる。また、摂動を与えても画像に写っているGUI部品の分類は変わらないため、生成された画像データには、元の画像に付されていたラベルを流用することができる。そのため、摂動された画像データを用いてモデルの学習に用いる教師データを水増しすることができる。
なお、摂動処理において、画像データに与える各パラメータの摂動の範囲は、例えば、経験則などに基づいて好ましい範囲を予め設定しておくことができる。
図4は、実施形態に係る摂動範囲を示す摂動範囲情報400を例示する図である。図4の摂動範囲情報400では、X軸方向およびY軸方向の並行移動については、−3ピクセル(px)〜3ピクセル(px)に摂動範囲が設定されている。また、拡大縮小は、0.9倍〜1.1倍に摂動範囲が設定されている。輝度調節パラメータであるブライトネスおよびコントラストは、0.8倍〜1.2倍に摂動範囲が設定されている。
しかしながら、このように摂動対象の画像データによらず固定的に設定した摂動範囲に従って画像データを摂動させると、好ましくない画像データが生成されてしまうことがある。
例えば、ボタン、テキストボックス、ドロップダウンボックスなどのGUI部品では、GUI部品に文字、記号、および印などの表記が含まれ得る。こうした文字、記号、および印などの表記の色は、人間の目で見やすいように、GUI部品の背景となる色とのコントラスト比が所定値以上となるように設定されることが好ましい。
例えば、WCAG2.0では、ウェブコンテンツをよりアクセシブルにするための広範囲に及ぶ推奨事項が規定されており、そのレベルAA基準として文字と背景のコントラスト比は4.5:1以上とすることが規定されている。なお、WCAGは、Web Content Accessibility Guidelinesの略称である。
しかしながら、摂動対象とする画像データによらず、固定的に定めた摂動範囲により、輝度調節パラメータ(例えば、ブライトネスやコントラスト)を摂動させて画像データを生成すると、コントラスト比が推奨されるレベルを下回ってしまうことがある。
図5は、摂動によりコントラスト比が推奨されるレベルを下回ってしまう場合を例示する図である。例えば、図5(a)では、摂動前は、コントラスト比が14.8と十分に高い値を有している。しかしながら、ブライトネスを1.00、コントラストを0.75で摂動させた結果、コントラスト比が3.83にまで低下してしまい、コントラスト比の推奨されるレベル:4.5を下回ってしまっている。
また同様に、図5(b)では、摂動前は、コントラスト比が4.8と十分に高い値を有している。しかしながら、ブライトネスを0.83、コントラストを0.92で摂動させた結果、コントラスト比が2.55にまで低下してしまい、コントラスト比の推奨されるレベル:4.5を下回ってしまっている。
コントラスト比の推奨されるレベルは、利用者の視認性などを考慮して定められているため、GUIのアプリケーションを作成する場合、利用者の利便性に配慮して、推奨されるレベルを満たすようにGUIのアプリケーションを作成することが多い。そのため、例えば、コントラスト比の推奨レベルを満たしていないGUI部品は作成されないことが多い。そして、このような実際にはあまり用いられないコントラスト比を有する画像を用いて機械学習を行ってしまうと、学習済みモデルによる分類の信頼性が低下してしまう恐れがある。そのため、予め定められているコントラスト比の規定を満たすように輝度調節パラメータの摂動範囲を決定することのできる技術の提供が望まれている。
以下で述べる実施形態では、ブライトネスおよびコントラストなどの輝度調節パラメータを変更しながらコントラスト比が規定を満たす範囲を探索し、輝度調節パラメータの摂動範囲を決定する。それにより、輝度調節パラメータの摂動範囲をコントラスト比が規定を満たす範囲に適切に決定することができる。そのため、輝度調節パラメータを摂動させて生成した摂動画像を機械学習モデルに用いた場合の推定の信頼性を保つことができる。以下、実施形態を更に詳細に説明する。
図6は、実施形態に係る情報処理装置600の機能ブロック構成を例示する図である。情報処理装置600は、例えば、パーソナルコンピュータ(PC)、ノートPC、タブレット端末などのコンピュータであってよい。情報処理装置600は、例えば、制御部601および記憶部602を含む。制御部601は、例えば変換部611、特定部612、決定部613、および生成部614などを含み、また、その他の機能部を含んでもよい。情報処理装置600の記憶部602は、例えば、GUI部品の画像データ、摂動範囲情報400、および、画像摂動範囲情報1500などの情報を記憶していてよい。これらの各部の詳細については後述する。
続いて、コントラスト比についての例を説明する。
式1において、Lは相対輝度を表しており、L1は明るい方の色の相対輝度、また、L2は暗い方の色の相対輝度を表す。相対輝度:Lは、例えば以下のように求めることができる。例えば、24ビットで表されるRGB(Red-Green-Blue color model)カラーの色があるとする。この場合、赤、緑、青の各色の成分の大きさは8ビットで表されてよく、その8ビット値を以下ではC8bitと記載する。なお、C8bitの最大値は255であり、最小値は0の256階調であってよい。続いて、以下の式2で輝度を0〜1の範囲の値に正規化したCsを求める。
続いて、得られたCsの値にガンマ補正をかけてXcを求める。なお、下記の式3によりガンマ補正を近似することができる。式3では、Csが0.03928以下であれば上段の式を適用し、Csが0.03928よりも大きければ下段の式を適用してXcが計算される。
そして、得られた赤、緑、青の各色のXcを用いて以下の式4を計算することで相対輝度:Lを計算することができる。なお、式4では赤色の成分に対して計算したXcをXR、緑色の成分に対して計算したXcをXG、青色の成分に対して計算したXcをXBとしている。
そして、例えば、以上のようにして、相対輝度:Lをコントラスト比を求める対象とする2つの色について特定し、式1に代入することで、コントラスト比を求めることができる。なお、コントラスト比の算出は、以上の例に限定されるものではない。例えば、別の実施形態では、RGBの値からガンマ補正等を介さずに直接計算された相対輝度を用いてコントラスト比が計算されてもよい。また、コントラスト比の算出式は、式1とは異なる式であってもよい。
続いて、輝度を調節するための輝度調節パラメータの例として、ブライトネスおよびコントラストについて説明する。なお、ブライトネスは、明度と呼ばれてもよい。以下、ブライトネスおよびコントラストによる輝度の調節について説明する。
図7は、輝度調節パラメータによる輝度の調節について説明する図である。まず、ブライトネスによる輝度の調節についての例を説明する。
(ブライトネスの調節)
図7(a)は、ブライトネスの調節について説明する図である。図7(a)では、上側にブライトネスの値が示されており、下側に輝度の値が示されている。そして、例えば、黒色の輝度を0.0とし、また、白色の輝度を1.0とする。一方、ブライトネスについては、黒色の輝度:0.0のときのブライトネス:0.0とし、ブライトネスの調節対象とする色の輝度のときのブライトネス:1.0とする。この場合に、ブライトネス:1.0に対する調節後のブライトネスの値に応じて輝度が調節される。例えば、調節対象とする色の輝度が0.3の場合、ブライトネスを2.0に調節すると、0.3×2.0/1.0=0.6に輝度が調節される。また、調節対象とする色の輝度が0.8の場合、ブライトネスを1.2に調節すると、0.8×1.2/1.0=0.96に輝度が調節される。この様に、ブライトネスの調節では、ブライトネスの値に対する輝度の調節の度合いが、調節対象とする色の輝度に応じて変化する。
図7(a)は、ブライトネスの調節について説明する図である。図7(a)では、上側にブライトネスの値が示されており、下側に輝度の値が示されている。そして、例えば、黒色の輝度を0.0とし、また、白色の輝度を1.0とする。一方、ブライトネスについては、黒色の輝度:0.0のときのブライトネス:0.0とし、ブライトネスの調節対象とする色の輝度のときのブライトネス:1.0とする。この場合に、ブライトネス:1.0に対する調節後のブライトネスの値に応じて輝度が調節される。例えば、調節対象とする色の輝度が0.3の場合、ブライトネスを2.0に調節すると、0.3×2.0/1.0=0.6に輝度が調節される。また、調節対象とする色の輝度が0.8の場合、ブライトネスを1.2に調節すると、0.8×1.2/1.0=0.96に輝度が調節される。この様に、ブライトネスの調節では、ブライトネスの値に対する輝度の調節の度合いが、調節対象とする色の輝度に応じて変化する。
続いて、コントラストによる輝度の調節についての例を説明する。
(コントラストの調節)
図7(b)は、コントラストによる輝度の調節について説明する図である。図7(b)では、上側にコントラストの値が示されており、下側に輝度の値が示されている。そして、例えば、黒色の輝度を0.0とし、また、白色の輝度を1.0とする。一方、コントラストについては、灰色の輝度:0.5をコントラスト:0.0とし、コントラストの調節対象とする色の輝度をコントラスト:1.0とする。この場合に、コントラスト:0.0と対応する灰色の輝度:0.5に対する調節対象とする色の輝度の配置と、コントラスト:1.0に対する調節後のコントラストの値に応じて輝度が調節される。例えば、調節対象とする色の輝度が0.3の場合、コントラストを2.0に調節すると、0.5+(0.3−0.5)×2.0=0.1に輝度が調節される。従って、調節対象とする色の輝度がコントラスト:0.0の灰色の輝度:0.5よりも低いと、輝度が小さくなるように調節される。また、調節対象とする色の輝度が0.6の場合、コントラストを1.5に調節すると、0.5+(0.6−0.5)×1.5=0.65に輝度が調節される。従って、調節対象とする色の輝度がコントラスト:0.0の灰色の輝度:0.5よりも高いと、輝度が大きくなるように調節される。この様に、コントラストの調節では、コントラストの値に対する輝度の調節の度合いが、調節対象とする色の輝度に応じて変化し、また、調節対象とする色の輝度がコントラスト:0.0の輝度:0.5よりも大きいか否かによって輝度の調節の方向が変化する。
図7(b)は、コントラストによる輝度の調節について説明する図である。図7(b)では、上側にコントラストの値が示されており、下側に輝度の値が示されている。そして、例えば、黒色の輝度を0.0とし、また、白色の輝度を1.0とする。一方、コントラストについては、灰色の輝度:0.5をコントラスト:0.0とし、コントラストの調節対象とする色の輝度をコントラスト:1.0とする。この場合に、コントラスト:0.0と対応する灰色の輝度:0.5に対する調節対象とする色の輝度の配置と、コントラスト:1.0に対する調節後のコントラストの値に応じて輝度が調節される。例えば、調節対象とする色の輝度が0.3の場合、コントラストを2.0に調節すると、0.5+(0.3−0.5)×2.0=0.1に輝度が調節される。従って、調節対象とする色の輝度がコントラスト:0.0の灰色の輝度:0.5よりも低いと、輝度が小さくなるように調節される。また、調節対象とする色の輝度が0.6の場合、コントラストを1.5に調節すると、0.5+(0.6−0.5)×1.5=0.65に輝度が調節される。従って、調節対象とする色の輝度がコントラスト:0.0の灰色の輝度:0.5よりも高いと、輝度が大きくなるように調節される。この様に、コントラストの調節では、コントラストの値に対する輝度の調節の度合いが、調節対象とする色の輝度に応じて変化し、また、調節対象とする色の輝度がコントラスト:0.0の輝度:0.5よりも大きいか否かによって輝度の調節の方向が変化する。
例えば、以上で述べたブライトネスおよびコントラストによる輝度の調節は、画像編集のアプリケーションなどで利用されている。なお、ブライトネスおよびコントラストによる輝度の調節は、上記の例に限定されるものではなく、その他の形式でブライトネスおよびコントラストにより輝度が調節されてもよい。
続いて、実施形態に係る摂動範囲の決定処理について説明する。摂動範囲の決定処理では、画像内にある文字の色などの第1の色と、背景などの第2の色とが所定のコントラスト比を満たすように、画像の輝度調節パラメータであるコントラストおよびブライトネスの摂動範囲、或いはその摂動範囲の上限または下限を決定する。
図8は、実施形態に係る摂動範囲の決定処理の動作フローを例示する図である。例えば、情報処理装置600の制御部601は、摂動範囲の決定を行う処理対象の画像の指定とともに摂動範囲の決定処理の実行指示が入力されると、図8の動作フローを開始してよい。処理対象の画像は、例えば、図3を参照して例示したように、GUI部品の表示領域が抽出された画像であってよい。
ステップ801(以降、ステップを“S”と記載し、例えば、S801と記載する)において制御部601は、処理対象の画像を輝度画像に変換する。なお、輝度画像は、画像中の位置に応じた輝度の成分を行列で表した輝度行列であってもよい。
図9は、実施形態に係る輝度画像への画像変換を例示する図である。例えば、制御部601は、図9に示すように、8ビット値で表される各色の256階調のRGBの値から画像内の各位置と対応する輝度を求め、画像を輝度で表した輝度画像を生成してよい。なお、輝度画像の各画素の輝度には、一例では、上述の式2から式4により求められる相対輝度:Lを用いることができる。
S802において制御部601は、輝度画像から画素をサンプリングする。例えば、制御部601は、輝度画像の全画素に対して所定の割合まで画素のサンプリングを実行してよい。例えば、制御部601は、輝度画像の画素数の0.3%〜3%などの数までサンプリングを実行してよく、一例では、1%の数までサンプリングを実行してよい。また、制御部601は、輝度画像の中心付近での画素のサンプリングの回数が、輝度画像の周辺付近での画素のサンプリングの回数よりも高くなるように、画素のサンプリングを実行してよい。
図10は、実施形態に係る輝度画像からの画素のサンプリングを例示する図である。図10(a)には輝度画像が例示されている。GUI部品の場合、GUI部品の画像領域において文字、記号、および印などの表記は画像の中心付近に配置されることが多い。例えば、図10(a)では、「完了」の文字がGUI部品の中心付近に配置されている。そのため、GUI部品の中心領域でのサンプリング数が、中心領域の外側にある周辺領域でのサンプリング数よりも多くなるように画素をサンプリングすることで、表記の表示に用いられている色の画素を効率的にサンプリングすることができる。また、GUI部品内には文字、記号、および印などの表記の色よりも背景の色の方が多く含まれる傾向がある。そのため、この様に中心付近を重点的にサンプリングすることで、GUI部品の表示領域の全体からランダムにサンプリングを行った場合と比較して、表記の色を有する画素と、背景の色を有する画素とを近しい量比でサンプリングすることができる。なお、中心領域は、例えば、画像の中心を含む所定サイズの領域であってよく、一例では、中心から所定の画素数の範囲の領域を中心領域としてよい。なお、中心領域のサイズは、例えば、GUI部品に用いられる表記のフォントなどのサイズに応じて表記の領域が抽出され易いように定めることができる。また、画像において周辺領域は、中心領域の外側の領域であってよい。中心領域と周辺領域とは、一例では接していてもよく、別の例では接していなくてもよい。
なお、GUI部品の中心領域でのサンプリング数が、中心領域の外側にある周辺領域でのサンプリング数よりも多くなるように画素をサンプリングする手法の1つとして、正規分布に従った頻度で、画像内から画素をサンプリングすることが考えられる。図10(b)は、X軸方向の座標に沿ったサンプリング頻度を示す図である。ここで、図10(a)の画像では、横方向がX軸であり、縦方向がY軸であるものとする。この場合に、図10(b)に示すように、制御部601は、正規分布に従う頻度で画像の中心領域でのサンプリング回数が、中心領域の外側にある周辺領域でのサンプリング回数よりも多くなるように画素のサンプリングを行ってよい。それにより、制御部601は、表記の色と対応する輝度を効率的に収集することができる。なお、制御部601は、Y軸の方向にも同様に、正規分布に従う頻度で中心領域でのサンプリング回数が、中心領域の外側にある周辺領域でのサンプリング回数よりも多くなるように画素のサンプリングを行ってよい。サンプリングの手法は、以上の手法に限定されるものではなく、その他の手法で画素のサンプリングが実行されてもよい。例えば、制御部601は、画像の中心領域でのサンプリングの頻度が、中心領域の外側にある周辺領域よりも多くなる分布であればその他の分布に従ってサンプリングを行ってもよい。
また更に別の実施形態では、制御部601は、文字が画像の中心領域にあることを想定し、画像の端を所定のピクセル数だけ取り除いてサンプリングを行ってもよい。それにより、周辺領域のうち取り除かれた領域ではサンプリングが行われなくなるため、中心領域のサンプリング頻度を周辺領域よりも高めることができる。この場合、サンプリングは、一例ではランダムな位置で行われてもよい。
続くS803からS808の処理では、制御部601は、サンプリングした画素の輝度を用いて、文字、記号、および印などのGUI部品の表記の色と対応する輝度と、背景の色と対応する輝度とを特定する処理を実行する。なお、図11は、実施形態に係る表記の色の輝度および背景の色の輝度の特定の例を説明する図である。
S803において制御部601は、それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度画像からサンプリングした画素の輝度を分類し、グループごとにグループに属するサンプリングした画素の数を集計する。例えば、制御部601は、輝度の範囲(例えば、0.0から1.0の全体)を所定の間隔で複数のグループに区切り、サンプリングした画素を輝度で各グループに分類し、各グループごとに画素の数を集計してよい。図11(a)には、0.0から1.0の輝度範囲を0.1間隔でグループに分けて、グループに属する画素の数をカウントした例が示されている。なお、図11の例では、輝度範囲には、範囲の最小値の輝度が登録されており、また、輝度範囲は1つ下段の輝度範囲の最小値未満までの範囲を有していてよい。例えば、輝度範囲:0.1は、グループの輝度範囲が0.1以上で0.2未満であることを表していてよい。
S804において制御部601は、複数のグループの画素の数を代表する代表数を特定する。なお、代表数は、一例では、各グループの画素の数の中央値であってよい。例えば、図11(b)では、制御部601は、グループに属する画素の数でソートを行っており、図11(c)では、ソートした結果から画素の数の中央値を画素の数を代表する代表数として特定している。なお、代表数は、中央値に限定されるものではなく、平均値などのその他の統計値や、最大の画素の数に対して所定の割合の数などのその他の値であってもよい。
S805において制御部601は、画素の数が、代表数に対して所定の条件を満たして多いグループを特定する。所定の条件は、例えば、輝度範囲の全体において顕著に高いピークを特定する条件であればよい。一例では、所定の条件は、複数のグループの画素数の中央値の2倍の画素数を有するグループを抽出する条件であってよい。図11の例では、制御部601は、図11(d)に示すように、代表数として特定した中央値:122の2倍以上の数を有する輝度範囲:0.1のグループと、輝度範囲:0.9のグループとを特定している。
S806において制御部601は、ピークとして特定されたグループの数が2以上であるか否かを判定する。ピークとして特定されたグループの数が2以上でなければ、GUI部品の表記および背景と対応するピークを検出するのに十分な画素のサンプリングが行われていない可能性が考えられる。そのため、ピークとして特定されるグループの数が2以上でない場合(S806がNO)、フローはS802に戻り、制御部601は、輝度画像からの更なる画素のサンプリングを行い、画素の数を増やして以降の処理を繰り返す。一方、ピークとして特定されたグループの数が2以上である場合(S806がYES)、フローはS807に進む。
S807において制御部601は、ピークとして特定されたグループの数が2であるか、またはグループの数が10以下であるか否かを判定する。ピークとして特定されたグループの数が2ではなく、かつ、グループの数が10よりも多い場合(S807がNO)、フローは808に進む。
S808において制御部601は、グループ数を減らしてグループの1つあたりに割り当てられる輝度範囲を拡張する。一例では、制御部601は、グループの輝度範囲を2倍に拡張して、隣接する2つのグループの画素の数を1つのグループに統合してよい。
図12は、グループの輝度範囲を拡張した際のピークの変化を例示する図である。図12には、縦軸に画素の数、横軸に輝度をとったヒストグラムが示されている。図12(a)のヒストグラムでは、0.0から1.0の輝度範囲を100等分した100個のビンが示されている。この場合に、1.0付近のビンは目立った高いピークで示されているが、その他には目立ったピークがない。GUI部品では、例えば、アンチエイリアス処理により文字、記号、および印などの表記のエッジ付近に中間色が多数生成されることがある。この場合、表記の色と対応する輝度のピークは散らばってしまう傾向がある。例えば、この様な場合にも、ビンの数を少なくすることで、隣接するビンのピークが統合され、表記の色と対応する輝度のピークを目立たせることが可能である。例えば、図12(b)には、ビンの数を100個から25個に減らし、0.0から1.0の輝度範囲を25等分した25個のビンが示されている。そして、このようにビンの数を減らすことで、図12(b)では0.0付近に他の輝度領域と比較して顕著に高いピークが出現している。その結果、図12の例では、代表数の2倍以上の数を有するピークとして2つのピークを検出することが可能となっている。
そして、S807において、ピークとして特定されたグループの数が2である場合(S807がYES)、フローはS809に進む。なお、この様に、サンプリングした画素において顕著に高い頻度で検出された上位の2つのグループの輝度は、GUI部品の表記の色および背景の色の輝度と対応している可能性が高い。また、S807では、制御部601は、グループの数が10以下であるか否かの判定も行っている。これは、グループの数をあまりに少なくしてしまうと、ピークが表記や背景の輝度を表さない可能性が増大するためである。そのため、制御部601は、グループ数が10以下となった場合には、強度が上位の2つのピークを表記および背景のピークとみなして処理を進めてよい。
そして、S809において制御部601は、2つのピークから2つの輝度を取得し、2つの輝度を用いてコントラスト比を算出する。ピークの輝度は、例えば、ピークとして検出されたグループに属する画素の輝度の代表値であってよく、輝度の代表値には、一例では平均値、中央値、最頻値などの統計値を用いることができる。
S810において制御部601は、得られたコントラスト比が所定値以上か否かを判定する。所定値は、一例では、上述のWCAG2.0のAA基準で定められているコントラスト比の閾値:4.5などの規約によって定められた値であってよい。コントラスト比が所定値以上である場合(S810がYES)、フローはS811に進む。
S811において制御部601は、摂動後のコントラスト比が所定値以上となるように輝度調節パラメータの摂動範囲を特定する。制御部601は、例えば、ブライトネスおよびコントラストを0.0から探索し、コントラスト比が所定値以上の値となるブライトネスおよびコントラストの範囲を決定してよい。一例では、制御部601は、ブライトネスおよびコントラストを同じ値に設定して動かし、コントラスト比が所定値以上となる条件が満たされる範囲の探索を行ってよい。
図13は、実施形態に係るブライトネスおよびコントラストの摂動範囲の探索を例示する図である。例えば、制御部601は、0.0から0.1ずつブライトネスおよびコントラストの値を増やしながら、コントラスト比が4.5を超える点を線形探索してよい。なお、コントラストおよびブライトネスが0.0の点では、2つの色は完全な黒であるため、コントラスト比は1.0となる。図13では、0.0から順に0.1ずつ輝度調節パラメータ(ブライトネスおよびコントラスト)の値を増やして探索を行い、そのときのコントラスト比を求めている。そして、摂動パラメータが0.2から1.9の範囲でコントラスト比が4.5を超えている。そのため、制御部601は、コントラストおよびブライトネスの摂動範囲の上限および下限を、0.2〜1.9の範囲に定めてよい。
なお、コントラストおよびブライトネスの値は、白色を超えるとそれ以上高くしても明るくはならず頭打ちとなる。そのため、一例では、コントラストおよびブライトネスの探索範囲の上限は、2.0など所定の値に定められていてよく、制御部601は、その値を超えたら探索を終了してもよい。この場合、制御部601は、コントラストおよびブライトネスの下限値および上限値の少なくとも一方のみを探索により決定してよい。
図14は、以上で述べたブライトネスとコントラストの探索をグラフで表した例を示す図である。図14において縦軸はコントラストであり、横軸はブライトネスである。グラフ内の各座標位置には、その座標でのブライトネスおよびコントラストの値に応じたコントラスト比がプロットされているものとする。この場合に、図14に示すように、コントラスト比が4.5以上の領域が円状の領域として示される。そして、コントラストとブライトネスの値を0.0から0.1ずつ上げてコントラスト比を求めることで、図14の矢印のラインに沿って探索を行うことができ、コントラスト比が4.5を超える範囲の下限値:1.45を特定することができる。なお、図14の例では、探索範囲を2.0で打ち切っており、下限の1.45は特定されているが、上限は特定されていない。別の実施形態では、更に探索を続けて上限を特定してもよい。
S812において制御部601は、特定した摂動範囲を処理対象の画像と対応づけて出力し、本動作フローは終了する。例えば、制御部601は、S811で特定したコントラスト比が4.5以上となる摂動範囲の下限値および上限値の少なくとも一方に基づいて摂動範囲を決定し、処理対象の画像と対応づけて画像摂動範囲情報1500に登録してよい。或いは、制御部601は、好ましい範囲として予め定められている摂動範囲情報400の摂動範囲を、コントラスト比に基づき特定した摂動範囲の下限値および上限値の少なくとも一方を用いて狭めて画像摂動範囲情報1500に登録してもよい。例えば、機械学習の教師データを生成する上で好ましい摂動範囲として、摂動範囲情報400に例示するように、ブライトネスおよびコントラストの摂動範囲が予め0.8から1.2の範囲に定められているものとする。また、コントラスト比が4.5を超える範囲として、0.96〜2.0の範囲が特定されたとする。この場合、制御部601は、コントラストの摂動範囲の下限値に0.96を端として用いて、摂動範囲を0.96〜1.2の範囲に定めてよい。この様に摂動範囲を決定することで、摂動範囲情報400などに予め登録されている摂動範囲内にコントラスト比が所定値未満となる範囲が含まれてしまっている場合にも、コントラスト比が所定値未満とならないように摂動範囲を狭めることができる。
また、摂動範囲情報400などに予め登録されている摂動範囲の内側に、S811において摂動範囲の上限値および下限値が決定されたとする。この場合には、制御部601は、決定された上限値および下限値を端とする摂動範囲を、処理対象の画像に対する摂動範囲として画像摂動範囲情報1500に登録してよい。更には、摂動範囲情報400などに予め登録されている摂動範囲の外側に、S811において摂動範囲の上限値および下限値が決定されたとする。この場合には、制御部601は、摂動範囲情報400などに予め登録されている摂動範囲を、処理対象の画像に対する摂動範囲として画像摂動範囲情報1500に登録してもよい。
図15は、実施形態に係る画像摂動範囲情報1500を例示する図である。画像摂動範囲情報1500には、例えば、画像識別子、ブライトネス、およびコントラストが対応づけられたレコードが登録されている。画像識別子は、例えば、GUI部品の画像を識別する識別子である。また、ブライトネスは、レコードの画像識別子で識別されるGUI部品の画像に対して設定されたブライトネスの摂動範囲が登録されている。コントラストは、レコードの画像識別子で識別されるGUI部品の画像に対して設定されたコントラストの摂動範囲が登録されている。例えば、以上で述べたように、S812の処理では制御部601は、決定した摂動範囲に関する情報を、画像摂動範囲情報1500にレコードとして登録してよい。
一方、S810においてコントラスト比が所定値未満である場合(S810がNO)、フローはS813に進む。この場合、GUI部品の表記の色と背景の色とがコントラスト比の規定を満たしていないことを表している。例えば、入力が禁止されているGUI部品などの場合、入力が禁止されていることを利用者が認識し易いように、故意に見えづらいコントラスト比に設定してGUI部品を作成することがある。このようなGUI部品は、学習済みモデルの生成のための教師データとして好ましくない可能性がある。そのため、S813では制御部601は、コントラストおよびブライトネスを1.0に設定して画像を摂動させなくてよい。
以上で述べたように実施形態によれば、輝度調節パラメータの摂動範囲を、GUI部品の表記の色と背景の色とのコントラスト比が所定値以上となるように設定することができる。そのため、実際には利用されないコントラスト比を有する不自然な画像を摂動により生成して機械学習に用いてしまうことを抑制することができる。その結果、学習済みモデルの推定結果の信頼性を向上させることができる。
また、上述の実施形態では、摂動範囲は摂動対象の画像に応じて決定される。そのため、例えば、複数の画像に対して同じ摂動範囲で画像を摂動させる場合と比較して、コントラスト比が適切な値を有する範囲で、多様な画像を生成することが可能となる。
なお、上述の実施形態において図13および図14の説明では、コントラスト比が満たされる範囲を、ブライトネスおよびコントラストの双方を同じ値で動かして探索する例を述べているが、実施形態はこれに限定されるものではない。例えば、別の実施形態では、ブライトネスとコントラストの一方の摂動範囲の決定に、上述の実施形態が利用されてもよい。例えば、画像に対してブライトネスとコントラストの調節を適用する場合、図3に示すように、一方の輝度調節パラメータを調節した後で、他方の輝度調節パラメータの調節が行われる。そのため、一実施形態においては、制御部601は、前段で適用する輝度調節パラメータの摂動範囲を固定的に定められた範囲の上限値および下限値で摂動させてよい。その後、制御部601は、後段で適用する輝度調節パラメータの摂動範囲の上限値および下限値の少なくとも一方を、上述の実施形態に従って摂動画像で表記と背景の色のコントラスト比の所定値以上となるように決定してもよい。
また、GUIの設計において、見やすさを向上させる別な観点として、GUI部品の表記と背景に補色を採用することが考えられる。しかしながら、たとえ補色を採用した場合でも、コントラスト比が不十分である場合、見やすさは損なわれて見にくい画像となってしまう。即ち、GUI部品の見やすさを確保するためには表記と背景のコントラスト比が十分に大きいことが重要である。そのため、GUI部品の表記と背景に補色を用いる場合にも、上述の実施形態によるコントラスト比の摂動範囲の決定は有用である。
続いて、実施形態により決定された摂動範囲を用いた摂動画像の生成について説明する。図16は、実施形態に係る摂動画像の生成処理を例示する図である。制御部601は、例えば、摂動対象とするGUI部品の画像の指定とともに摂動画像の生成指示が入力されると、図16の動作フローを開始してよい。
S1601において制御部601は、指定された摂動対象のGUI部品画像を読み出す。S1602において制御部601は、読み出したGUI部品画像と対応する摂動範囲を画像摂動範囲情報1500から読み出す。例えば、制御部601は、指定された摂動対象のGUI部品画像の画像識別子と対応するブライトネスの摂動範囲と、コントラストの摂動範囲とを読み出してよい。
S1603において制御部601は、読み出した摂動範囲に従ってGUI部品画像を摂動させて摂動画像を生成する。なお、摂動画像の生成では、コントラストとブライトネスの摂動に加えて、例えば、並行移動、拡大縮小などのその他の摂動をGUI部品画像に与えてもよく、それにより、複数の摂動画像が生成されてよい。また、コントラストとブライトネスの適用順序は、例えば、画像摂動範囲情報1500に登録されている摂動範囲の決定の際の適用順序と一致していれば、どちらが先であってもよい。
S1604において制御部601は、生成した摂動画像を記憶部602に保存し、本動作フローは終了する。
図16の動作フローによれば、表記の色と背景の色とのコントラスト比が所定値以上となる複数の摂動画像を生成することができる。そのため、実際にGUI部品として利用されている表記の色と背景の色とのコントラスト比を有する好ましい摂動画像を生成して機械学習に用いることが可能となる。その結果、学習済みモデルの推定結果の信頼性を向上させることができる。
以上において、実施形態を例示したが、実施形態はこれに限定されるものではない。例えば、上述の動作フローは例示であり、実施形態はこれに限定されるものではない。可能な場合には、動作フローは、処理の順番を変更して実行されてもよく、別に更なる処理を含んでもよく、または、一部の処理が省略されてもよい。例えば、上述の図8では、画像中の一部の画素をサンプリングし、十分な数のピークが見つからなければサンプリング数を増やす処理を行う例を述べている(例えば、S806の判定による繰り返し処理)。しかしながら、実施形態はこれに限定されるものではない。別の実施形態では、ピークの検出に十分な数の画素を最初からサンプリングすることで、S806の処理は省略されてもよい。
なお、上述の図8の動作フローにおいて、例えば、S801の処理では、情報処理装置600の制御部601は、変換部611として動作する。また、例えば、S802〜809の処理では、情報処理装置600の制御部601は、特定部612として動作する。例えば、S810〜813の処理では、情報処理装置600の制御部601は、決定部613として動作する。また、例えば、図16の動作フローでは制御部601は、生成部614として動作する。
図17は、実施形態に係る情報処理装置600を実現するためのコンピュータ1700のハードウェア構成を例示する図である。図17の情報処理装置600を実現するためのハードウェア構成は、例えば、プロセッサ1701、メモリ1702、記憶装置1703、読取装置1704、通信インタフェース1706、および入出力インタフェース1707を備える。なお、プロセッサ1701、メモリ1702、記憶装置1703、読取装置1704、通信インタフェース1706、入出力インタフェース1707は、例えば、バス1708を介して互いに接続されている。
プロセッサ1701は、例えば、シングルプロセッサであっても、マルチプロセッサやマルチコアであってもよい。プロセッサ1701は、メモリ1702を利用して例えば上述の動作フローの手順を記述したプログラムを実行することにより、上述した制御部601の一部または全部の機能を提供する。例えば、情報処理装置600のプロセッサ1701は、記憶装置1703に格納されているプログラムを読み出して実行することで、変換部611、特定部612、決定部613、および生成部614として動作する。
メモリ1702は、例えば半導体メモリであり、RAM領域およびROM領域を含んでいてよい。記憶装置1703は、例えばハードディスク、フラッシュメモリ等の半導体メモリ、または外部記憶装置である。なお、RAMは、Random Access Memoryの略称である。また、ROMは、Read Only Memoryの略称である。
読取装置1704は、プロセッサ1701の指示に従って着脱可能記憶媒体1705にアクセスする。着脱可能記憶媒体1705は、例えば、半導体デバイス、磁気的作用により情報が入出力される媒体、光学的作用により情報が入出力される媒体などにより実現される。なお、半導体デバイスは、例えば、USB(Universal Serial Bus)メモリである。また、磁気的作用により情報が入出力される媒体は、例えば、磁気ディスクである。光学的作用により情報が入出力される媒体は、例えば、CD−ROM、DVD、Blu-ray Disc等(Blu-rayは登録商標)である。CDは、Compact Discの略称である。DVDは、Digital Versatile Diskの略称である。
記憶部602は、例えばメモリ1702、記憶装置1703、および着脱可能記憶媒体1705を含んでいる。例えば、情報処理装置600の記憶装置1703には、GUI部品の画像データ、摂動範囲情報400、および、画像摂動範囲情報1500が格納されている。
通信インタフェース1706は、プロセッサ1701の指示に従って、他の装置と通信する。一例では、通信インタフェース1706は、有線または無線通信で他の装置とデータを送受信してよい。
入出力インタフェース1707は、例えば、入力装置および出力装置との間のインタフェースであってよい。入力装置は、例えばユーザからの指示を受け付けるキーボード、マウス、タッチパネルなどのデバイスである。出力装置は、例えばディスプレーなどの表示装置、およびスピーカなどの音声装置である。
実施形態に係る各プログラムは、例えば、下記の形態で情報処理装置600に提供される。
(1)記憶装置1703に予めインストールされている。
(2)着脱可能記憶媒体1705により提供される。
(3)プログラムサーバなどのサーバから提供される。
(1)記憶装置1703に予めインストールされている。
(2)着脱可能記憶媒体1705により提供される。
(3)プログラムサーバなどのサーバから提供される。
なお、図17を参照して述べた情報処理装置600を実現するためのコンピュータ1700のハードウェア構成は、例示であり、実施形態はこれに限定されるものではない。例えば、上述の構成の一部が、削除されてもよく、また、新たな構成が追加されてもよい。また、別の実施形態では、例えば、上述の制御部601の一部または全部の機能がFPGA、SoC、ASIC、およびPLDなどによるハードウェアとして実装されてもよい。なお、FPGAは、Field Programmable Gate Arrayの略称である。SoCは、System-on-a-chipの略称である。ASICは、Application Specific Integrated Circuitの略称である。PLDは、Programmable Logic Deviceの略称である。
以上において、いくつかの実施形態が説明される。しかしながら、実施形態は上記の実施形態に限定されるものではなく、上述の実施形態の各種変形形態および代替形態を包含するものとして理解されるべきである。例えば、各種実施形態は、その趣旨および範囲を逸脱しない範囲で構成要素を変形して具体化できることが理解されよう。また、前述した実施形態に開示されている複数の構成要素を適宜組み合わせることにより、種々の実施形態が実施され得ることが理解されよう。更には、実施形態に示される全構成要素からいくつかの構成要素を削除して、または実施形態に示される構成要素にいくつかの構成要素を追加して種々の実施形態が実施され得ることが当業者には理解されよう。
以上の実施形態に関し、更に以下の付記を開示する。
(付記1)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、
処理をコンピュータに実行させる摂動プログラム。
(付記2)
前記輝度画像からの前記画素のサンプリングは、前記輝度画像の中心領域よりも、前記中心領域の外側に位置する周辺領域の方が低い頻度となるように実行される、付記1に記載の摂動プログラム。
(付記3)
前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する代表数に対して、所定の条件を満たして多い画素の数を有する2つのグループの輝度を前記2つの輝度として特定する、ことを特徴とする、付記1または2に記載の摂動プログラム。
(付記4)
前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する前記代表数に対して、前記所定の条件を満たして多い画素の数を有するグループが2つよりも多い場合、前記複数のグループの数を減らして各グループの前記輝度範囲を拡張する処理を更に含む、付記3に記載の摂動プログラム。
(付記5)
前記輝度調節パラメータは、ブライトネスおよびコントラストの少なくとも一方を含む、付記1から4のいずれかに記載の摂動プログラム。
(付記6)
前記特定する処理は、前記グラフィカルユーザインタフェース部品の表記の色の輝度と背景の色の輝度とを、前記2つの輝度として特定する、ことを特徴とする、付記1から5のいずれかに記載の摂動プログラム。
(付記7)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、ことを含む、コンピュータが実行する摂動方法。
(付記8)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換する変換部と、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定する特定部と、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定する決定部と、
前記決定部で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する生成部と、
を含む、情報処理装置。
(付記1)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、
処理をコンピュータに実行させる摂動プログラム。
(付記2)
前記輝度画像からの前記画素のサンプリングは、前記輝度画像の中心領域よりも、前記中心領域の外側に位置する周辺領域の方が低い頻度となるように実行される、付記1に記載の摂動プログラム。
(付記3)
前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する代表数に対して、所定の条件を満たして多い画素の数を有する2つのグループの輝度を前記2つの輝度として特定する、ことを特徴とする、付記1または2に記載の摂動プログラム。
(付記4)
前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する前記代表数に対して、前記所定の条件を満たして多い画素の数を有するグループが2つよりも多い場合、前記複数のグループの数を減らして各グループの前記輝度範囲を拡張する処理を更に含む、付記3に記載の摂動プログラム。
(付記5)
前記輝度調節パラメータは、ブライトネスおよびコントラストの少なくとも一方を含む、付記1から4のいずれかに記載の摂動プログラム。
(付記6)
前記特定する処理は、前記グラフィカルユーザインタフェース部品の表記の色の輝度と背景の色の輝度とを、前記2つの輝度として特定する、ことを特徴とする、付記1から5のいずれかに記載の摂動プログラム。
(付記7)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、ことを含む、コンピュータが実行する摂動方法。
(付記8)
グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換する変換部と、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定する特定部と、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定する決定部と、
前記決定部で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する生成部と、
を含む、情報処理装置。
400 摂動範囲情報
600 情報処理装置
601 制御部
602 記憶部
611 変換部
612 特定部
613 決定部
614 生成部
1500 画像摂動範囲情報
1700 コンピュータ
1701 プロセッサ
1702 メモリ
1703 記憶装置
1704 読取装置
1705 着脱可能記憶媒体
1706 通信インタフェース
1707 入出力インタフェース
1708 バス
600 情報処理装置
601 制御部
602 記憶部
611 変換部
612 特定部
613 決定部
614 生成部
1500 画像摂動範囲情報
1700 コンピュータ
1701 プロセッサ
1702 メモリ
1703 記憶装置
1704 読取装置
1705 着脱可能記憶媒体
1706 通信インタフェース
1707 入出力インタフェース
1708 バス
Claims (6)
- グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、
処理をコンピュータに実行させる摂動プログラム。 - 前記輝度画像からの前記画素のサンプリングは、前記輝度画像の中心領域よりも、前記中心領域の外側に位置する周辺領域の方が低い頻度となるように実行される、請求項1に記載の摂動プログラム。
- 前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する代表数に対して、所定の条件を満たして多い画素の数を有する2つのグループの輝度を前記2つの輝度として特定する、ことを特徴とする、請求項1または2に記載の摂動プログラム。
- 前記特定する処理は、前記複数のグループのそれぞれに分類された画素の数を代表する前記代表数に対して、前記所定の条件を満たして多い画素の数を有するグループが2つよりも多い場合、前記複数のグループの数を減らして各グループの前記輝度範囲を拡張する処理を更に含む、請求項3に記載の摂動プログラム。
- グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換し、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定し、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定し、
前記決定する処理で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する、ことを含む、コンピュータが実行する摂動方法。 - グラフィカルユーザインタフェース部品が表示されている領域の画像である部品画像を輝度画像に変換する変換部と、
それぞれのグループが異なる輝度範囲を有する複数のグループに、輝度の値に基づいて前記輝度画像からサンプリングした画素を分類し、各グループに属する画素の数に基づいて2つの輝度を特定する特定部と、
輝度を調節する輝度調節パラメータを変更することで前記2つの輝度を摂動させて探索を行い、摂動後の前記2つの輝度のコントラスト比が所定値以上となるように前記輝度調節パラメータの摂動範囲の下限値および上限値の少なくとも一方を決定する決定部と、
前記決定部で決定される前記摂動範囲の下限値および上限値の少なくとも一方を端とする摂動範囲で、前記部品画像の前記輝度調節パラメータを摂動させて複数の摂動画像を生成する生成部と、
を含む、情報処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020021200A JP2021128402A (ja) | 2020-02-12 | 2020-02-12 | 摂動プログラム、摂動方法、および情報処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020021200A JP2021128402A (ja) | 2020-02-12 | 2020-02-12 | 摂動プログラム、摂動方法、および情報処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021128402A true JP2021128402A (ja) | 2021-09-02 |
Family
ID=77488497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020021200A Pending JP2021128402A (ja) | 2020-02-12 | 2020-02-12 | 摂動プログラム、摂動方法、および情報処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021128402A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114185506A (zh) * | 2021-12-10 | 2022-03-15 | 惠州华星光电显示有限公司 | 消除拼接屏拼缝的方法、装置、显示设备及电子设备 |
JP7517590B2 (ja) | 2021-03-17 | 2024-07-17 | 日本電信電話株式会社 | 分類装置、分類方法、および、分類プログラム |
WO2024176362A1 (ja) * | 2023-02-21 | 2024-08-29 | オーティファイ株式会社 | テスト支援システム、テスト支援方法及びプログラム |
US12131093B2 (en) | 2021-12-10 | 2024-10-29 | Huizhou China Star Optoelectronics Display Co., Ltd. | Method for eliminating splicing gap of splicing screens and display device |
-
2020
- 2020-02-12 JP JP2020021200A patent/JP2021128402A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7517590B2 (ja) | 2021-03-17 | 2024-07-17 | 日本電信電話株式会社 | 分類装置、分類方法、および、分類プログラム |
CN114185506A (zh) * | 2021-12-10 | 2022-03-15 | 惠州华星光电显示有限公司 | 消除拼接屏拼缝的方法、装置、显示设备及电子设备 |
US12131093B2 (en) | 2021-12-10 | 2024-10-29 | Huizhou China Star Optoelectronics Display Co., Ltd. | Method for eliminating splicing gap of splicing screens and display device |
WO2024176362A1 (ja) * | 2023-02-21 | 2024-08-29 | オーティファイ株式会社 | テスト支援システム、テスト支援方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2021128402A (ja) | 摂動プログラム、摂動方法、および情報処理装置 | |
CN108229485B (zh) | 用于测试用户界面的方法和装置 | |
EP2515257A1 (en) | Character recognition method, character recognition device, and character recognition program | |
JP5337563B2 (ja) | 帳票認識方法および装置 | |
CN114299036B (zh) | 电子元件的检测方法及装置、存储介质、电子设备 | |
US20220044147A1 (en) | Teaching data extending device, teaching data extending method, and program | |
JP4495606B2 (ja) | 色識別装置及び色識別プログラム | |
US20200293570A1 (en) | Information processing method, information processing apparatus, and non-transitory computer-readable storage medium for storing information processing program | |
WO2021130888A1 (ja) | 学習装置、推定装置および学習方法 | |
WO2024103828A1 (zh) | 灰尘检测方法和装置、存储介质 | |
JP4853560B2 (ja) | 画像処理方法、画像処理装置およびコンピュータプログラム | |
US20220262040A1 (en) | Microstructural image analysis device and microstructural image analysis method | |
JP2007200246A (ja) | 画像処理アルゴリズムの評価方法、生成方法、装置、プログラムおよび記録媒体 | |
KR20210098997A (ko) | 자동화된 실시간 하이 다이나믹 레인지 콘텐츠 검토 시스템 | |
JP2019067365A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム | |
JP7467247B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2004199622A (ja) | 画像処理装置、画像処理方法、記録媒体およびプログラム | |
JP5716504B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US11669949B2 (en) | Apparatus and method for inferring contrast score of an image | |
CN113537253B (zh) | 一种红外图像目标检测方法、装置、计算设备及存储介质 | |
JP2012155586A (ja) | 画像2値化方法および画像2値化装置 | |
RU2571510C2 (ru) | Метод и устройство, использующие увеличение изображения для подавления визуально заметных дефектов на изображении | |
JP2018005505A (ja) | 画像認識パラメータ設定装置、画像認識パラメータ設定方法、および画像認識パラメータ設定プログラム | |
JP5104528B2 (ja) | 画像処理装置および画像処理プログラム | |
JP4207256B2 (ja) | カラー画像の領域分割方法およびプログラム記憶媒体 |