JP7241201B2 - サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体 - Google Patents

サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体 Download PDF

Info

Publication number
JP7241201B2
JP7241201B2 JP2021556976A JP2021556976A JP7241201B2 JP 7241201 B2 JP7241201 B2 JP 7241201B2 JP 2021556976 A JP2021556976 A JP 2021556976A JP 2021556976 A JP2021556976 A JP 2021556976A JP 7241201 B2 JP7241201 B2 JP 7241201B2
Authority
JP
Japan
Prior art keywords
sampling
users
version
application
identification module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021556976A
Other languages
English (en)
Other versions
JP2023503734A (ja
Inventor
▲鵬▼▲飛▼ ▲呉▼
瀚猛 ▲劉▼
冬 王
Original Assignee
バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN202011240584.1A external-priority patent/CN112306836B/zh
Application filed by バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド filed Critical バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド
Publication of JP2023503734A publication Critical patent/JP2023503734A/ja
Application granted granted Critical
Publication of JP7241201B2 publication Critical patent/JP7241201B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/3495Performance evaluation by tracing or monitoring for systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3452Performance evaluation by statistical analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3664Environments for testing or debugging software
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3684Test management for test design, e.g. generating new test cases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/70Software maintenance or management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Stored Programmes (AREA)
  • Debugging And Monitoring (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、2020年11月09日に中国専利局に提出された出願番号が202011240584.1である中国特許出願に対して優先権を主張するものであり、該出願の全ての内容を引用により本発明に援用する。
本発明は、移動通信技術に関し、例えば、サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体に関し、本発明は、アプリケーション性能評価の分野に適用できる。
モバイルアプリケーションは、移動通信の技術分野における重要な構成部分である。モバイルアプリケーションは、新バージョンのリリースが頻繁で、マルチバージョンが共存する等の特点を有する。モバイルアプリケーションの性能評価を行うために、例えば、モバイルアプリケーションの最新バージョンの性能評価を行い、モバイルアプリケーションに対して新バージョンをリリースする度に、「最新バージョン」の全体性能、体験等の製品効果を正確に評価できるように、リリースされたモバイルアプリケーションの「最新バージョン」をデータ分析する必要がある。これらの製品効果は、例えば、モバイルアプリケーションの起動成功率、モバイルアプリケーションの起動速度、モバイルアプリケーションによる白とび率およびモバイルアプリケーションのレンダリング成功率等を含んでもよい。
しかし、移動通信の技術分野において、モバイルアプリケーションの新バージョンがリリースされた後、異なるOS(OS、Operating System)、異なる機種のモバイルデバイスのモバイルアプリケーションを更新する前後順序は異なる。例えば、アンドロイド(登録商標)OSがインストールされたモバイルデバイスでは、通常、ハイエンド機が先にモバイルアプリケーションを更新する一方、アップル(登録商標)モバイルデバイスOSがインストールされたモバイルデバイスはちょうど逆であり、通常、ローエンド機が先にモバイルアプリケーションを更新する。ハイエンド機の性能がローエンド機の性能よりも良いため、アンドロイドOSがインストールされたモバイルデバイスのデータ表現は、先に良いが、後に悪くなり、アップルモバイルデバイスOSがインストールされたモバイルデバイスのデータ表現は、先に悪いが、後に良くなることで、統計データの大きな変動を引き起こし、モバイルアプリケーションの「最新バージョン」に対する全体効果評価の正確性に大きな挑戦をもたらす。
本発明の実施例により、サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体を提供する。
アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定することと、アプリケーションのバージョンの高い順に従い、少なくとも1つのバージョンを特定することと、少なくとも1つのバージョンのユーザから、サンプリング数のユーザをサンプリング対象として特定することとを含み、前記少なくとも1つのバージョンのユーザ数の合計数がサンプリング数以上である、サンプリング対象特定方法を提供する。
アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定するように構成されるサンプリング数特定モジュールと、アプリケーションのバージョンの高い順に従い、少なくとも1つのバージョンを特定するように構成されるバージョン特定モジュールと、少なくとも1つのバージョンのユーザから、サンプリング数のユーザをサンプリング対象として特定するように構成されるサンプリング対象特定モジュールとを備え、前記少なくとも1つのバージョンのユーザ数の合計数がサンプリング数以上である、サンプリング対象特定装置を提供する、
少なくとも1つのプロセッサと、少なくとも1つのプロセッサに通信接続されたメモリとを備える電子機器であって、メモリには、少なくとも1つのプロセッサによって実行可能な命令が記憶され、該命令は、少なくとも1つのプロセッサが本発明の第1態様による方法を実行可能であるように、少なくとも1つのプロセッサにより実行される、電子機器を提供する。
上記方法をコンピュータに実現させるためのコンピュータ命令が記憶されている、非一時的なコンピュータ可読記憶媒体を提供する。
本発明に記載の内容は、本発明の実施例のキーとなるまたは重要な特徴を標識するためのものではなく、本発明の範囲を限定するものでもないことが理解されるべきである。本発明の他の特徴は、以下の明細書により容易に理解することができる。
本発明の例示的な実施例において、同じ参照番号は、通常、同じコンポーネントを表す。図面は本形態をより良く理解するためのものであり、本発明を限定するものではない。
本発明のいくつかの実施例におけるサンプリング対象特定方法を実現可能なアプリケーション評価環境の例示的なブロック図を示す。 本発明の実施例によるサンプリング対象特定方法のフローチャートを示す。 本発明の実施例による新バージョンのユーザ数の増加の曲線の模式図を示す。 本発明の実施例によるサンプリング対象特定装置の例示的なブロック図を示す。 本発明の実施例によるアプリケーション評価効果の曲線の模式図を示す。 本発明の実施例による電子機器の例示的なブロック図を示す。
複数の図面において、同じまたは対応する番号は、同じまたは対応する部分を表す。
以下、図面を参照しながら本発明について説明する。図面に本発明の実施例が示されるが、様々な形で本発明を実現することができ、ここで記載される実施例に限定されるべきではないことが理解されるべきである。本発明をより徹底的かつ完全にさせ、且つ、本発明の範囲を完全に当業者に伝えることができるように、これらの実施例を提供する。
本発明で使用される「含む」という用語およびその変形は、開放的な包含、即ち、「を含むが、これらに限定されない」を表す。特に明記しない限り、「または」という用語は、「および/または」を表す。「に基づく」という用語は、「少なくとも部分的に基づく」を表す。「1つの例示的な実施例」および「1つの実施例」という用語は、「少なくとも1つの例示的な実施例」を表す。「別の実施例」という用語は、「少なくとも1つの別の実施例」を表す。「第1」、「第2」等の用語は、異なるまたは同じ対象を指してもよい。以下には、他の明確で暗黙的な定義が含まれる可能性もある。
以上の背景技術に記述されたように、モバイルアプリケーションの新バージョンがリリースされる度に、「最新バージョン」の全体性能、体験等の製品効果を正確に評価することができるように、リリースされたモバイルアプリケーションの「最新バージョン」をデータ分析する必要がある。従来のモバイルアプリケーションデータ評価において、主に2種類の方式を採用する。
第1種の方式において、モバイルアプリケーションに対して最新バージョンと履歴バージョンとが混合された後の全体的な効果を見る。この方式において、ログの生産、イベント追跡(Event Tracking)によりバージョン識別子を増加し、ログコレクタを利用してデータを収集して分散型記憶装置にアップロードし、且つ、全てのバージョンのユーザコミュニティのデータを分析し、全てのバージョンのデータを分析し、効果評価データを取得する。
第1種の方式を採用する場合、新バージョンの業務表現が明らかではないという欠点が存在する。その原因として、最新バージョンと履歴バージョンのデータとが混合され、且つ、新バージョンのリリース初期において、新バージョンのモバイルアプリケーションがインストールされたモバイルデバイスまたは新バージョンを使用しているユーザのデータ量の占有率が小さいため、新バージョンのリリースによる業務指標の向上または降下表現を発見しにくいためである。
第2種の方式において、モバイルアプリケーションに対して最新バージョンの全体的な効果のみを見る。この方式において、同様にログの生産、イベント追跡によりバージョン識別子を増加し、ログコレクタを利用してデータを収集して分散型記憶装置にアップロードするが、記憶データから最新バージョンのユーザコミュニティのデータのみを取得し、最新バージョンのユーザコミュニティのデータを分析し、最新バージョンのみに対する評価データを取得する。
第2種の方式を採用する場合、データの統計変動が大きくなり、確信度は低くなる。前述したように、モバイルアプリケーションの新バージョンがリリースされた後、異なるOS、異なる機種のモバイルデバイスのモバイルアプリケーションを更新する前後順序が異なるため、バージョンをリリースする優先順位、バージョンをリリースする速度およびユーザ数の増加の収束率はいずれも異なり、統計データの変動を引き起こし、業務評価に大きく影響を及ぼす。例えば、モバイルアプリケーションがインストールされたアンドロイドOSおよびアップルモバイルデバイスOSのデータ量またはユーザ数の割合が10:3であると仮定する。実際の動作において、アンドロイドOSおよびアップルモバイルデバイスOSのアプリケーションのアップグレードの前後順序が異なり、通常、モバイルアプリケーションがインストールされたアンドロイドOSのユーザ数の増加は、該モバイルアプリケーションがインストールされたアップルモバイルデバイスOSのユーザ数の増加よりも収束が速いため、該モバイルアプリケーションがインストールされたアンドロイドOSおよびアップルモバイルデバイスOSのデータ量またはユーザ数は、実際に増加し続け、且つ、該モバイルアプリケーションがインストールされたアンドロイドOSおよびアップルモバイルデバイスOSのデータ量またはユーザ数の割合は10:3に近い。例えば、割合は、100:3から、80:3、20:1……10:1……最終的に10:3に達することができる。しかし、この割合の変化過程は、次のバージョンがリリースされるまでも真に10:3に達しない可能性がある。この場合、アップルモバイルデバイスOSの占有率が小さすぎるため、効果評価データは、アンドロイドOSがインストールされたモバイルデバイスの表現を表すことが多い。
本発明の実施例は、サンプリング対象特定方法を提供し、このような方法を使用することで、最新バージョンから新しい順に複数のバージョンのデータを収集することによりモバイルアプリケーションの効果評価を行うことができ、且つ、最新バージョンにアップグレードされたユーザ数の増加速度が初めて緩やかな増加速度に達した時の最新バージョンのユーザ数により、アクティブユーザとモバイルアプリケーションのユーザ総数との割合を特定し、更にサンプリング比を特定することができる。従って、本発明におけるサンプリング対象特定方法を採用することで、アプリケーションに対して代表的な性能評価を行うことに使用可能なサンプリング対象を容易に特定でき、特定されたサンプリング対象についてアプリケーションの性能評価を行うことによりアプリケーションの新たにリリースされたバージョンによる性能変化を正確に反映することができ、アプリケーションの発行者がアプリケーションをアップグレードして改良することに寄与するだけでなく、アプリケーションのユーザ体験の向上にも寄与することができる。
図1は、本発明のいくつかの実施例におけるサンプリング対象特定方法を実現できるアプリケーション評価環境の例示的なブロック図を示す。本発明の実施例によれば、アプリケーション評価環境100はクラウド環境であってもよい。図1に示すように、アプリケーション評価環境100は計算装置110を備える。アプリケーション評価環境100において、アプリケーション統計データ120は、計算装置110の入力として計算装置110に提供され、サンプリング対象130および性能評価140は計算装置110の出力とされる。本発明の実施例は、モバイルアプリケーションのみに適用されるものではなく、デスクトップコンピュータにインストールされた固定アプリケーションにも適用され得ることが理解されるべきである。本発明の実施例で使用される「アプリケーション」という用語は、「モバイルアプリケーション」を表すために使用できるだけでなく、「固定アプリケーション」を表すためにも使用でき、この用語の選択は例に過ぎず、本発明の保護範囲を限定するものではない。
アプリケーション評価環境100は、例示的なものに過ぎず、限定的なものではなく、且つ、アプリケーション評価環境100は拡張可能であり、アプリケーション評価環境100にはより多く計算装置110が含まれてもよく、且つ、計算装置110により多くのアプリケーション統計データ120を入力として提供することができ、計算装置110は、より多くのサンプリング対象130および性能評価140を出力とすることもでき、これにより、より多くのユーザがより多くの計算装置110を同時に利用し、更により多くのアプリケーション統計データ120を利用し、より多くのアプリケーションに対してより多くのサンプリング対象130および性能評価140を特定するニーズを満たすことができる。また、計算装置110は、サンプリング対象130および性能評価140を同時に出力する必要がなく、サンプリング対象130および性能評価140の一方のみを出力してもよい。更に、計算装置110は、サンプリング対象130および性能評価140を実際に出力せず、計算のみでサンプリング対象130および性能評価140を取得してもよい。
本発明の実施例によれば、アプリケーション評価環境100において、計算装置110に提供されるアプリケーション統計データ120は、例えば、アプリケーションのユーザ総数、アプリケーションの複数のバージョンのユーザ数、アプリケーションのバージョン情報、異なるOSにインストールされたアプリケーションのデータ量の割合、アプリケーションの新バージョンがインストールされたユーザ数の増加状況等を含んでもよい。
本発明の実施例によれば、アプリケーション評価環境100における計算装置110がアプリケーション統計データ120を受信すると、計算装置110は、アプリケーション統計データ120を利用してサンプリング対象130および性能評価140を特定することができる。サンプリング対象130は、アプリケーションのユーザのうちの一部のユーザを含み、この一部のユーザに対してアプリケーションの性能評価を行う。性能評価140は、サンプリング対象130にについて、アプリケーションの性能評価を行う性能評価結果を含む。
図1に示すアプリケーション評価環境100において、計算装置110にアプリケーション統計データ120を入力すること、および計算装置110からサンプリング対象130および性能評価140を出力することは、ネットワークを介して行うことができる。
図2は、本発明の実施例によるサンプリング対象特定方法のフローチャートを示す。方法200は、図1に示すアプリケーション評価環境100における計算装置110により実行できる。方法200は、示されていない追加の動作を含んでもよいし、および/または示された動作を省略してもよく、本発明の範囲はこの点で限定されない。
ブロック202において、計算装置110は、アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定する。本発明の実施例によれば、サンプリング比は、アプリケーションの全てのユーザのうちのどのぐらいをサンプリングするかを表すことができ、アプリケーションのユーザ総数にサンプリング比を乗算することで、サンプリング数を得ることができる。
本発明の実施例によれば、計算装置110は、アプリケーションの新バージョンがリリースされた後、新バージョンのユーザ数の増加速度が初めて緩やかになり始める時の新バージョンのユーザ数および総数により、サンプリング比を特定する。
図3は、本発明の実施例による新バージョンのユーザ数の増加の曲線の模式図を示す。ユーザ数の増加の曲線300は、部分曲線310を含み、部分曲線310は、増加速度が初めて緩やかになる点320を含む。
部分曲線310は、アプリケーションの新バージョンがリリースされた後、新バージョンのユーザ数の増加状況を表す。部分曲線310の水平方向は、左から右へ時間の増加を表し、部分曲線310の垂直方向は、下から上へ新バージョンがインストールされたユーザ数を表す。部分曲線310は3つの部分に分割でき、それぞれ、傾きが小さい左側部分、傾きが大きい中間部分、および傾きが小さい右側部分である。新バージョンがリリースされた後、新バージョンがインストールされたユーザ数は、部分曲線310の左側部分に示すように、緩やかに増加し始める。その後、1つの時点から、新バージョンがインストールされたユーザ数は、部分曲線310の中間部分に示すように、急速に増加する。別の時点から、新バージョンがインストールされたユーザ数の増加速度が低下し、この時点は部分曲線310で増加速度が初めて緩やかになる点320としてマークされる。
増加速度が初めて緩やかになる点320時に、アプリケーションの新バージョンがインストールされたユーザは、アクティブユーザとして考えられる。本発明の実施例によれば、アクティブユーザ数をアプリケーションのユーザ総数で割ることで、サンプリング比を取得することができる。このサンプリング比を用いて得られたサンプリング数のユーザに基づいてアプリケーションの新バージョンの性能評価を行うことは、アプリケーションの新バージョンによる性能変化を正確に反映することができる。このサンプリング比よりも高い数値をサンプリング比として選択すると、従来技術における第1種の方式に存在する問題が現れ、この場合、サンプリング比が高いため、特定されたサンプリング対象はより多くの古いバージョンのデータを含み、これらの古いバージョンのデータと最新バージョンの評価データとの異なりが大きく、新バージョンによる業務表現を良好に反映することができない。このサンプリング比よりも低い数値をサンプリング比として選択すると、従来技術における第2種の方式に存在する問題が現れ、新バージョンのリリース初期のアンドロイドOSのユーザうち、通常、ハイエンド機のユーザが先にアプリケーションを更新する一方、アップルモバイルデバイスOSのユーザはちょうど逆に、ローエンド機のユーザが先にアプリケーションを更新するため、得られたアクティブユーザコミュニティは、アップグレード後の最新バージョンのユーザコミュニティのみである可能性があり、そのため、機種の分布の不均一の影響を受け、評価データが信用できなくなる可能性がある。
本発明の実施例によれば、サンプリング比が40%である場合、このサンプリング比を用いて得られたサンプリング数のユーザが性能評価を行うことは、アプリケーションの新バージョンによる性能変化を最も正確に反映することができる。
ブロック204において、計算装置110は、アプリケーションのバージョンの高い順に従って少なくとも1つのバージョンを特定し、該少なくとも1つのバージョンのユーザ数の合計数は、ブロック202のステップで特定されたサンプリング数以上である。本発明の実施例によれば、アプリケーションの全てのユーザのうち、できるだけ高いバージョンのユーザに対してデータを収集し、収集されたデータは、アプリケーションの新バージョンによる性能変化をより直観的に反映することができるため、アプリケーションのバージョンの高い順に従ってサンプリング数のユーザを特定することができる。
本発明の実施例によれば、現在の最新バージョンのユーザ数が既にブロック202のステップで特定されたサンプリング数以上である場合、後続の動作用のこの現在の最新バージョンおよび対応するユーザを特定すれば良く、現在の最新バージョンのユーザ数がブロック202のステップで特定されたサンプリング数よりも小さい場合、現在の次に新バージョンのユーザ数を統計し続け、現在の最新バージョンと次に新バージョンのユーザ数との和が既にブロック202のステップで特定されたサンプリング数以上である場合、後続の動作用のこの2つのバージョンおよび対応するユーザを特定することができ、以降は同様にする。
ブロック206において、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザから、ブロック202のステップで特定されたサンプリング数のユーザをサンプリング対象として特定する。
本発明の1つの実施例によれば、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザから、ブロック202のステップで特定されたサンプリング数のユーザをサンプリング対象としてランダムに特定することができる。例えば、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザから、ブロック202のステップで特定されたサンプリング数のユーザを任意に選択してサンプリング対象として特定することができる。
本発明の別の実施例によれば、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザ数の合計数およびブロック202のステップで特定されたサンプリング数によりサンプリング係数を特定し、且つ、ブロック204のステップで特定された少なくとも1つのバージョンのユーザから、特定されたサンプリング係数を利用してブロック202のステップで特定されたサンプリング数のユーザを選択してサンプリング対象として特定することができる。例えば、計算装置110は、ブロック202のステップで特定されたサンプリング数をブロック204のステップで特定された少なくとも1つのバージョンのユーザ数の合計数で割ることで、サンプリング係数を取得することができ、このサンプリング係数は1よりも小さい値である。その後、計算装置は、得られたこのサンプリング係数を利用し、ブロック204のステップで特定された少なくとも1つのバージョンのユーザからサンプリングし、ブロック202のステップで特定されたサンプリング数のユーザをサンプリング対象として取得することができる。
本発明の別の実施例によれば、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザから、バージョンの高い順および対応するバージョンがインストールされてからの時間の長い順に従い、バージョンの最も高く、かつ対応するバージョンがインストールされた時間の最も長いブロック202のステップで特定されたサンプリング数のユーザをサンプリング対象として特定することができる。例えば、計算装置110は、ブロック204のステップで特定された少なくとも1つのバージョンのユーザを、バージョンの高い順および対応するバージョンがインストールされてからの時間の長い順に従って並べ替え、且つ、配列内の最初のサンプリング数個のユーザをサンプリング対象として特定することができる。
本発明の実施例によれば、ブロック202、ブロック204およびブロック206に対応するステップは、前記アプリケーションをインストールするための少なくとも2種のOSのそれぞれについて実行される。即ち、少なくとも2種のOSのそれぞれに対し、アプリケーションがインストールされた前記各OSのユーザ総数およびサンプリング比により、前記各OSに対応するサンプリング数を特定し、前記アプリケーションのバージョンの高い順に従って少なくとも1つのバージョンを特定し、前記少なくとも1つのバージョンの前記各OSのユーザ数の合計数は前記サンプリング数以上であり、前記少なくとも1つのバージョンの前記各OSのユーザから、前記各OSに対応するサンプリング数のユーザを前記各OSに対応するサンプリング対象として特定する。
本発明の実施例によれば、アプリケーションは、アンドロイドOSおよびアップルモバイルデバイスOSを含む少なくとも2種のOSに同時にインストールされ得る。このような場合、これらのOSのそれぞれに対し、ブロック202、ブロック204およびブロック206に対応するステップを実行し、複数種のOSに対して特定されたサンプリング対象のセットを、アプリケーションがインストールされた全てのOSに対するサンプリング対象のセットとして特定することができる。少なくとも2種のOSに対して等割合のサンプリングを行ったため、複数種のOSに対して得られたサンプリング対象の数の間の割合は、複数種のOSのユーザ総数の間の割合と同じであり、異なるOSのバージョンのリリースペースが異なることで評価結果に悪影響を与えることはない。
ブロック202、ブロック204およびブロック206に対応するステップを実行することにより、アプリケーションに対して代表的な性能評価を行うことに使用可能なサンプリング対象を正確に特定することができる。
方法200は、図2で破線の枠の形式で示されたオプション的なブロック208を更に含む。オプション的なブロック208において、計算装置110は、ブロック206で特定されたサンプリング対象についてアプリケーションの性能評価を行う。例えば、ブロック206で特定されたサンプリング対象にインストールされた該アプリケーションに関連するデータに基づき、アプリケーションの性能評価を行う。本発明の実施例によれば、アプリケーションの性能評価は、アプリケーションの起動成功率、アプリケーションの起動速度、アプリケーションによる白とび率およびアプリケーションのレンダリング成功率等の性能に対する評価を含む。
以上、図1~図3を参照し、本発明のいくつかの例示的な実施例における命令実行方法を実現できるアプリケーション評価環境100および本発明の実施例によるサンプリング対象特定方法200用の関連内容を記述した。上記は、本発明に記載された内容を示すためのものであり、いかなる方式で制限するものではない。
本発明の上記複数の図面で採用された複数の要素の数および物理量のサイズは例に過ぎず、本発明の保護範囲を限定するものではない。上記数およびサイズは、必要に応じて任意に設定することができ、本発明の実施形態の正常な実施に影響を与えることがない。
以上、図1~図3を参照し、本発明の実施形態によるサンプリング対象特定方法の詳細内容について既に記述した。以下、図4を参照し、サンプリング対象特定装置における複数のモジュールについて説明する。
図4は、本発明の実施例によるサンプリング対象特定装置の例示的なブロック図である。図4に示すように、サンプリング対象特定装置400は、アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定するように構成されるサンプリング数特定モジュール410と、前記アプリケーションのバージョンの高い順に従い、少なくとも1つのバージョンを特定するように構成されるバージョン特定モジュール420と、前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザをサンプリング対象として特定するように構成されるサンプリング対象特定モジュール430とを備え、前記少なくとも1つのバージョンのユーザ数の合計数が前記サンプリング数以上である。
いくつかの実施例において、前記サンプリング数特定モジュール410、前記バージョン特定モジュール420および前記サンプリング対象特定モジュール430は、アプリケーションをインストールするための少なくとも2種のOSのそれぞれについて対応する動作を実行させるように構成される。
いくつかの実施例において、サンプリング対象特定装置400は、前記アプリケーションの新バージョンがリリースされた後、前記新バージョンのユーザ数の増加速度が初めて緩やかになり始める時の前記新バージョンのユーザ数および前記総数により、前記サンプリング比を特定するように構成されるサンプリング比特定モジュール(図示せず)を更に備える。
いくつかの実施例において、前記サンプリング比は40%である。
いくつかの実施例において、前記サンプリング対象特定モジュール430は、前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザを前記サンプリング対象としてランダムに特定するように構成される第1サンプリング対象特定モジュール(図示せず)を含む。
いくつかの実施例において、前記サンプリング対象特定モジュール430は、前記合計数および前記サンプリング数によりサンプリング係数を特定するように構成されるサンプリング係数特定モジュール(図示せず)と、前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング係数を用いて前記サンプリング数のユーザを前記サンプリング対象として特定するように構成される第2サンプリング対象特定モジュール(図示せず)とを含む。
いくつかの実施例において、前記サンプリング対象特定モジュール430は、前記少なくとも1つのバージョンの前記ユーザから、バージョンの高い順および対応するバージョンがインストールされてからの時間の長い順に従い、バージョンの最も高く、かつ対応するバージョンがインストールされた時間の最も長い前記サンプリング数のユーザを前記サンプリング対象として特定するように構成される第3サンプリング対象特定モジュール(図示せず)を含む。
いくつかの実施例において、前記少なくとも2種のOSは、アンドロイドOSとアップルモバイルデバイスOSとを含む。
いくつかの実施例において、サンプリング対象特定装置400は、前記サンプリング対象について前記アプリケーションの性能評価を行うように構成される性能評価モジュール440を更に備える。性能評価モジュール440は、サンプリング対象特定方法200におけるオプション的なブロック208中のステップに対応する動作を実行するように構成されるため、図4において、破線の形式でオプション的なモジュールとして示される。
本発明の実施例によれば、本発明は、電子機器およびコンピュータ可読記憶媒体を更に提供する。
図5は、本発明の実施例によるアプリケーション評価効果の曲線500の模式図を示す。アプリケーション評価効果の曲線500は、第1曲線510、第2曲線520および第3曲線530を含む。アプリケーション評価効果の曲線500は、アプリケーションがアンドロイドOSおよびアップルモバイルデバイスOSという2種のOSにインストールされることを例として説明する。
第1曲線510は、従来形態における第1種の方式でアプリケーションの最新バージョンと履歴バージョンとを混合した後の全体的な効果を評価測定する曲線である。この場合にサンプリングされたアンドロイドOSのユーザ数とサンプリングされたアップルモバイルデバイスOSのユーザ数との割合が、アンドロイドOSのユーザ総数とアップルモバイルデバイスOSのユーザ総数との割合と同じであり、例えば、10:3であるが、第1曲線510が平滑すぎることが見られるため、最新バージョンの業務表現を表示しにくい。
第2曲線520は、従来形態における第2種の方式でアプリケーションの最新バージョンを評価測定する曲線である。機種の分布の不均一の影響により、この場合にサンプリングされたアンドロイドOSのユーザ数とサンプリングされたアップルモバイルデバイスOSのユーザ数との割合が、アンドロイドOSのユーザ総数とアップルモバイルデバイスOSのユーザ総数との割合と異なり、サンプリングされたアンドロイドOSの数が、サンプリングされたアップルモバイルデバイスOSの数よりも遥かに大きく、例えば、12:1であるため、評価データの変動は大きく、且つ、評価データはほとんどアンドロイドOSの業務表現を反映する。
第3曲線530は、本発明のサンプリング対象特定方法に基づいてアプリケーションの最新バージョンを評価測定する曲線である。この場合、最新の1つまたは複数のバージョンをサンプリングするため、この場合にサンプリングされたアンドロイドOSのユーザ数とサンプリングされたアップルモバイルデバイスOSのユーザ数との割合が、アンドロイドOSのユーザ総数とアップルモバイルデバイスOSのユーザ総数との割合と同じ、例えば、10:3であるだけでなく、第3曲線530は、変動の小さい段階的な向上のような、業務表現に対する新バージョンの影響を正確に反映することもでき、この場合、評価データは高い確信度を有する。
以上、図1~図5の記述を参照することにより、本発明の実施形態による技術案は、従来形態に対して多くの利点を有する。例えば、上記技術案を利用することで、アプリケーションに対して代表的な性能評価を行うことに使用可能なサンプリング対象を容易に特定することができ、特定したサンプリング対象についてアプリケーションの性能評価を行うことにより、アプリケーションの新たにリリースされたバージョンによる性能変化を正確に反映することができ、アプリケーションの発行者がアプリケーションをアップグレードして改良することに寄与するだけでなく、アプリケーションのユーザ体験の向上にも寄与する。
図6は、本発明の実施例による電子機器の例示的なブロック図を示す。例えば、図1に示す計算装置120および図4に示すサンプリング対象特定装置400は、電子機器600により実施できる。電子機器600は、ラップトップ型コンピュータ、デスクトップ型コンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレーム、および他の適切なコンピュータのような様々な形式のデジタルコンピュータを表す。電子機器600は、携帯端末、携帯電話、スマートフォン、ウェララブル機器および他の類似する計算装置のような様々な形式の移動装置を表すこともできる。本発明に示されたコンポーネント、コンポーネントの接続、関係、およびコンポーネントの機能は例示的なものに過ぎず、本発明に記載および/または要求される本発明の実現を限定するものではない。
図6に示すように、該電子機器600は、1つのまたは複数のプロセッサ601と、メモリ602と、複数のコンポーネントを接続するための高速インタフェースおよび低速インタフェースを含むインタフェースとを備える。複数のコンポーネントは、異なるバスで互に接続され、共通のマザーボードに取り付けられるかまたは必要に応じて他の方式で取り付けることができる。プロセッサ601は、電子機器600内で実行される命令を処理することができ、メモリ602内またはメモリ602上に記憶されて外部の入力/出力装置(例えば、インタフェースにカップリングされた表示デバイス)にグラフィカルユーザインタフェース(Graphical User Interface、GUI)のグラフィクス情報を表示するための命令を含む。他の実施形態において、必要があれば、複数のプロセッサ601および/または複数本のバスと、複数のメモリ602とを共に使用することができる。それと同様に、複数の電子機器600に接続することができ、複数の機器は、一部の必要な動作(例えば、サーバアレイ、ブレードサーバ群、またはマルチプロセッサシステムとする)を提供する。図6において、1つのプロセッサ601を例とする。
メモリ602は、本発明に係る非一時的なコンピュータ可読記憶媒体である。本発明に係るサンプリング対象特定方法を前記少なくとも1つのプロセッサに実行させるために、前記メモリには少なくとも1つのプロセッサにより実行可能な命令が記憶されている。本発明の非一時的なコンピュータ可読記憶媒体はコンピュータ命令を記憶し、該コンピュータ命令は、本発明に係るサンプリング対象特定方法をコンピュータに実行させることに用いられる。
メモリ602は、非一時的なコンピュータ可読記憶媒体として、非一時的なソフトウェアプログラム、非一時的なコンピュータ実行可能プログラムおよびモジュール、例えば、本発明の実施例におけるサンプリング対象特定方法に対応するプログラム命令/モジュール(例えば、図4に示すサンプリング数特定モジュール410、バージョン特定モジュール420、サンプリング対象特定モジュール430および性能評価モジュール440)を記憶するために使用できる。プロセッサ601は、メモリ602に記憶された非一時的なソフトウェアプログラム、命令およびモジュールを実行することにより、サーバの様々な機能アプリケーションおよびデータ処理を実行し、即ち、上記方法の実施例におけるサンプリング対象特定方法を実現する。
メモリ602は、プログラム記憶エリアおよびデータ記憶エリアを備えてもよく、ここで、プログラム記憶エリアは、OS、少なくとも1つの機能に必要なアプリケーションプログラムを記憶することができ、データ記憶エリアは、電子機器600の使用に基づいて作成されたデータ等を記憶することができる。また、メモリ602は、高速ランダムアクセスメモリを含んでもよく、少なくとも1つの磁気ディスク記憶デバイス、フラッシュメモリ、または他の非一時的な固体記憶デバイスのような非一時的なメモリを更に含んでもよい。いくつかの実施例において、メモリ602は、プロセッサ601に対してリモートに設けられたメモリを含むことが好ましく、これらのリモートメモリは、ネットワークを介して電子地図の検索の電子機器に接続することができる。上記ネットワークの実例は、インターネット、イントラネット、ローカルエリアネットワーク、移動体通信ネットワークおよびその組み合わせを含んでもよいが、それらに限定されない。
電子機器600は、入力装置603と、出力装置604とを備えてもよい。プロセッサ601、メモリ602、入力装置603および出力装置604は、バスまたは他の方式で接続することができ、図6において、バスを介して接続することを例とする。
入力装置603は、入力された数字または文字情報を受信し、電子機器600のユーザ設定および機能制御に関連するキー信号入力を生成することができ、例えば、タッチパネル、キーパッド、マウス、トラックパッド、タッチパッド、インジケータ、1つまたは複数のマウスボタン、トラックボール、ジョイスティック等の入力装置である。出力装置604は、表示デバイス、補助照明装置(例えば、発光ダイオード(Light Emitting Diode、LED))、および触覚フィードバック装置(例えば、振動モータ)等を含んでもよい。該表示デバイスは、液晶ディスプレイ(Liquid Crystal Display、LCD)、LEDディスプレイ、およびプラズマディスプレイを含んでもよいが、これらに限定されない。いくつかの実施形態において、表示デバイスはタッチパネルであってもよい。
ここで説明するシステムおよび技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、特定用途向け集積回路(Application Specific Integrated Circuit、ASIC)、コンピュータハードウェア、ファームウェア、ソフトウェア、および/またはそれらの組み合わせで実現できる。これらの様々な実施形態は以下を含んでもよい。1つまたは複数のコンピュータプログラムに実施され、該1つまたは複数のコンピュータプログラムは、少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステムで実行および/または解釈することができ、該プログラマブルプロセッサは、ストレージシステム、少なくとも1つの入力装置、および少なくとも1つの出力装置からデータおよび命令を受信し、且つデータおよび命令を、該ストレージシステム、該少なくとも1つの入力装置、および該少なくとも1つの出力装置に伝送することができる専用または汎用のプログラマブルプロセッサであってもよい。
これらの計算プログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる)は、プログラマブルプロセッサの機械命令を含み、且つ、高度なプロセスおよび/またはオブジェクト指向プログラミング言語、および/またはアセンブリ/機械言語を用いてこれらの計算プログラムを実施することができる。本発明に使用されるように、「機械可読媒体」および「コンピュータ可読媒体」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するための任意のコンピュータプログラム製品、機器、および/または装置(例えば、磁気ディスク、光ディスク、メモリ、プログラマブル論理デバイス(Programmable Logic Device、PLD))を意味し、機械可読信号としての機械命令を受信する機械可読媒体を含む。「機械可読信号」という用語は、機械命令および/またはデータをプログラマブルプロセッサに提供するための任意の信号を意味する。
ユーザとのインタラクションを提供するために、ここで説明するシステムおよび技術をコンピュータで実施することができ、該コンピュータは、ユーザに情報を表示するための表示装置(例えば、陰極線管(Cathode Ray Tube、CRT)またはLCDモニタ)と、ユーザがそれにより入力をコンピュータに提供することができるキーボードおよび指向装置(例えば、マウスまたはトラックボール)とを有する。他の種類の装置は、更にユーザとのインタラクションを提供するために使用できる。ユーザに提供されるフィードバックは、任意の形式のセンシングフィードバック(例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック)であってもよく、且つ、任意の形式(音入力、音声入力または、触覚入力を含む)でユーザからの入力を受信することができる。
ここで説明するシステムおよび技術を、バックグラウンドコンポーネントを含むコンピューティングシステム(例えば、データサーバとする)、または中間コンポーネントを含むコンピューティングシステム(例えば、アプリケーションサーバ)、またはフロントエンドコンポーネントを含むコンピューティングシステム(例えば、ユーザがそれによりここで説明するシステムおよび技術の実施形態とインタラクションできるグラフィカルユーザインタフェースまたはネットワークブラウザを有するユーザコンピュータ)、またはこのようなバックグラウンドコンポーネント、中間コンポーネント、またはフロントエンドコンポーネントの任意の組み合わせを含むコンピューティングシステムに実施することができる。任意の形式または媒体のデジタルデータ通信(例えば、通信ネットワーク)により、システムのコンポーネントを互に接続することができる。通信ネットワークの例は、ローカルエリアネットワーク(Local Area Network、LAN)、ワイドエリアネットワーク(Wide Area Network、WAN)、およびインターネットを含む。
コンピュータシステムはクライアントおよびサーバを含んでもよい。クライアントとサーバとは、一般的に互いに離れ、且つ、通常、通信ネットワークを介してインタラクションを行う。対応するコンピュータで実行されて互いにクライアント-サーバ関係を持つコンピュータプログラムにより、クライアントとサーバとの関係を生成する。
本発明の実施例による技術案は、最新バージョンから新しい順に複数のバージョンのデータを収集することによりアプリケーションの効果評価を行うことができ、且つ、最新バージョンにアップグレードされたユーザ数の増加速度が初めて緩やかになる際の最新バージョンのユーザ数により、ヘッドユーザの占有率を特定し、更にサンプリング比を特定する。この技術案を採用し、複数のOSに対して新バージョンをリリースする時間ウィンドウの不一致および収束速度の影響を受けない場合、新バージョンリリースによる影響を柔軟かつ容易に発見することができる。
上記に示す様々な形式のフローを用い、ステップを並べ替え、追加または削除することができることを理解すべきである。例えば、本発明に記載された各ステップは、並列に実行されてもよいし、順に実行されてもよいし、異なる順序で実行されてもよく、本発明に開示された技術案の所望する結果を達成できる限り、本発明はここで限定しない。

Claims (21)

  1. アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定することと、
    前記アプリケーションのバージョンの高い順に従い、少なくとも1つのバージョンを特定することと、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザをサンプリング対象として特定することとを含み、
    前記少なくとも1つのバージョンのユーザ数の合計数が前記サンプリング数以上である、
    サンプリング対象特定方法。
  2. アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定するステップ、前記アプリケーションのバージョンの高い順に従って少なくとも1つのバージョンを特定するステップ、および前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザをサンプリング対象として特定するステップは、
    前記アプリケーションをインストールするための少なくとも2種のOSのそれぞれについて実行される、
    請求項1に記載の方法。
  3. 前記アプリケーションの新バージョンがリリースされた後、前記新バージョンのユーザ数の増加速度が初めて緩やかになり始める時の前記新バージョンのユーザ数および前記総数により、前記サンプリング比を特定することを更に含む、
    請求項1に記載の方法。
  4. 前記サンプリング比は40%である、
    請求項1に記載の方法。
  5. 前記サンプリング数のユーザをサンプリング対象として特定することは、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザを前記サンプリング対象としてランダムに特定することを含む、
    請求項1に記載の方法。
  6. 前記サンプリング数のユーザをサンプリング対象として特定することは、
    前記合計数および前記サンプリング数によりサンプリング係数を特定することと、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング係数を用いて前記サンプリング数のユーザを前記サンプリング対象として特定することとを含む、
    請求項1に記載の方法。
  7. 前記サンプリング数のユーザをサンプリング対象として特定することは、
    前記少なくとも1つのバージョンの前記ユーザから、バージョンの高い順および対応するバージョンがインストールされてからの時間の長い順に従い、バージョンの最も高く、かつ対応するバージョンがインストールされた時間の最も長い前記サンプリング数のユーザを前記サンプリング対象として特定することを含む、
    請求項1に記載の方法。
  8. 前記少なくとも2種のOSは、アンドロイド(登録商標)OSとアップル(登録商標)モバイルデバイスOSとを含む、
    請求項2に記載の方法。
  9. 前記サンプリング対象について前記アプリケーションの性能評価を行うことを更に含む、
    請求項1に記載の方法。
  10. アプリケーションのユーザ総数およびサンプリング比により、サンプリング数を特定するように構成されるサンプリング数特定モジュールと、
    前記アプリケーションのバージョンの高い順に従い、少なくとも1つのバージョンを特定するように構成されるバージョン特定モジュールと、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザをサンプリング対象として特定するように構成されるサンプリング対象特定モジュールとを備え、
    前記少なくとも1つのバージョンのユーザ数の合計数が前記サンプリング数以上である、
    サンプリング対象特定装置。
  11. 前記サンプリング数特定モジュール、前記バージョン特定モジュールおよび前記サンプリング対象特定モジュールは、
    前記アプリケーションをインストールするための少なくとも2種のOSのそれぞれについて対応する動作を実行させるように構成される、
    請求項10に記載の装置。
  12. 前記アプリケーションの新バージョンがリリースされた後、前記新バージョンのユーザ数の増加速度が初めて緩やかになり始める時の前記新バージョンのユーザ数および前記総数により、前記サンプリング比を特定するように構成されるサンプリング比特定モジュールを更に備える、
    請求項10に記載の装置。
  13. 前記サンプリング比は40%である、
    請求項10に記載の装置。
  14. 前記サンプリング対象特定モジュールは、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング数のユーザを前記サンプリング対象としてランダムに特定するように構成される第1サンプリング対象特定モジュールを含む、
    請求項10に記載の装置。
  15. 前記サンプリング対象特定モジュールは、
    前記合計数および前記サンプリング数によりサンプリング係数を特定するように構成されるサンプリング係数特定モジュールと、
    前記少なくとも1つのバージョンの前記ユーザから、前記サンプリング係数を用いて前記サンプリング数のユーザを前記サンプリング対象として特定するように構成される第2サンプリング対象特定モジュールとを含む、
    請求項10に記載の装置。
  16. 前記サンプリング対象特定モジュールは、
    前記少なくとも1つのバージョンの前記ユーザから、バージョンの高い順および対応するバージョンがインストールされてからの時間の長い順に従い、バージョンの最も高く、かつ対応するバージョンがインストールされた時間の最も長い前記サンプリング数のユーザを前記サンプリング対象として特定するように構成される第3サンプリング対象特定モジュールを含む、
    請求項10に記載の装置。
  17. 前記少なくとも2種のOSは、アンドロイド(登録商標)OSとアップル(登録商標)モバイルデバイスOSとを含む、
    請求項11に記載の装置。
  18. 前記サンプリング対象について前記アプリケーションの性能評価を行うように構成される性能評価モジュールを更に備える、
    請求項10に記載の装置。
  19. 少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサに通信接続されたメモリとを備える電子機器であって、
    前記メモリには、前記少なくとも1つのプロセッサによって実行可能な命令が記憶され、
    前記命令は、前記少なくとも1つのプロセッサが請求項1~9のいずれか1項に記載の方法を実行可能であるように、前記少なくとも1つのプロセッサにより実行される、
    電子機器。
  20. 請求項1~9のいずれか1項に記載の方法をコンピュータに実行させるためのコンピュータ命令が記憶されている、
    非一時的なコンピュータ可読記憶媒体。
  21. 請求項1~9のいずれか1項に記載の方法をコンピュータに実行させるためのプログラム。
JP2021556976A 2020-11-09 2021-05-10 サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体 Active JP7241201B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202011240584.1 2020-11-09
CN202011240584.1A CN112306836B (zh) 2020-11-09 2020-11-09 采样对象确定方法、装置、电子设备存储介质和程序产品
PCT/CN2021/092643 WO2022095395A1 (zh) 2020-11-09 2021-05-10 采样对象确定方法、装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
JP2023503734A JP2023503734A (ja) 2023-02-01
JP7241201B2 true JP7241201B2 (ja) 2023-03-16

Family

ID=78610291

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021556976A Active JP7241201B2 (ja) 2020-11-09 2021-05-10 サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体

Country Status (4)

Country Link
US (1) US11934292B2 (ja)
EP (1) EP4024217A4 (ja)
JP (1) JP7241201B2 (ja)
KR (1) KR20210124488A (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013513883A (ja) 2009-12-24 2013-04-22 エンパイア テクノロジー ディベロップメント エルエルシー 動的なモバイルアプリケーションサービス品質の監視および報告
JP2018160047A (ja) 2017-03-22 2018-10-11 日本電気株式会社 携帯端末、サーバ装置、情報処理システム、制御方法、及びプログラム
JP2020502708A (ja) 2016-12-08 2020-01-23 アップ アニー インコーポレイテッド 母集団に対するモバイルアプリケーションの使用状況データの決定

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7908593B2 (en) 2007-01-04 2011-03-15 International Business Machines Corporation Technique for evaluating software performance online to support online tuning
US10733078B2 (en) * 2014-10-30 2020-08-04 Wix.Com Ltd. System and method of handling complex experiments in a distributed system
US9411573B2 (en) 2012-10-11 2016-08-09 Google Inc. Testing framework for applications
US9483393B1 (en) 2013-12-05 2016-11-01 Amazon Technologies, Inc. Discovering optimized experience configurations for a software application
US8990637B1 (en) 2014-03-17 2015-03-24 Splunk Inc. Computing and accessing quality indicators of computer applications
CN107767155B (zh) * 2016-08-18 2021-06-18 腾讯科技(深圳)有限公司 一种评估用户画像数据的方法及系统
US20190325351A1 (en) * 2018-04-20 2019-10-24 Microsoft Technology Licensing, Llc Monitoring and comparing features across environments
US11226804B2 (en) 2018-07-16 2022-01-18 Uber Technologies, Inc. Staged rollout framework for feature release
CN109558382B (zh) 2018-12-06 2022-07-19 Oppo广东移动通信有限公司 文件管理方法、电子装置及计算机可读存储介质
CN110276514B (zh) 2019-05-06 2023-04-07 创新先进技术有限公司 业务相关因素的评估方法、装置及设备
CN110377521B (zh) 2019-07-23 2022-11-18 郑州阿帕斯科技有限公司 一种目标对象验证方法及装置
CN110941447A (zh) 2019-11-28 2020-03-31 江苏满运软件科技有限公司 应用程序的定向发布方法、装置、介质及电子设备
CN111309614B (zh) 2020-02-17 2022-10-18 支付宝(杭州)信息技术有限公司 A/b测试方法、装置及电子设备
CN112306836B (zh) 2020-11-09 2023-07-25 百度在线网络技术(北京)有限公司 采样对象确定方法、装置、电子设备存储介质和程序产品

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013513883A (ja) 2009-12-24 2013-04-22 エンパイア テクノロジー ディベロップメント エルエルシー 動的なモバイルアプリケーションサービス品質の監視および報告
JP2020502708A (ja) 2016-12-08 2020-01-23 アップ アニー インコーポレイテッド 母集団に対するモバイルアプリケーションの使用状況データの決定
JP2018160047A (ja) 2017-03-22 2018-10-11 日本電気株式会社 携帯端末、サーバ装置、情報処理システム、制御方法、及びプログラム

Also Published As

Publication number Publication date
US20230267065A1 (en) 2023-08-24
EP4024217A4 (en) 2022-08-10
EP4024217A1 (en) 2022-07-06
JP2023503734A (ja) 2023-02-01
US11934292B2 (en) 2024-03-19
KR20210124488A (ko) 2021-10-14

Similar Documents

Publication Publication Date Title
KR102501968B1 (ko) 애플릿 처리 방법, 서버, 기기, 저장 매체 및 컴퓨터 프로그램
US9483240B1 (en) Data binding dependency analysis
CN108459964B (zh) 测试用例选择方法、装置、设备以及计算机可读存储介质
CN112306836B (zh) 采样对象确定方法、装置、电子设备存储介质和程序产品
CN110944048A (zh) 业务逻辑配置方法及装置
CN111582477B (zh) 神经网络模型的训练方法和装置
US11132362B2 (en) Method and system of optimizing database system, electronic device and storage medium
CN112015468B (zh) 一种接口文档处理方法、装置、电子设备以及存储介质
US11934287B2 (en) Method, electronic device and computer program product for processing data
CN111949272A (zh) 寄宿应用的编译优化方法、装置、电子设备及可读存储介质
CN112446574B (zh) 产品评估方法、装置、电子设备及存储介质
CN111178937B (zh) 应用的用户奖励方法、装置、电子设备及可读存储介质
CN111061743A (zh) 数据加工方法、装置和电子设备
JP7241201B2 (ja) サンプリング対象特定方法、装置、電子機器およびコンピュータ可読記憶媒体
CN112667795A (zh) 对话树构建方法和装置、对话树运行方法、装置以及系统
JP2022539935A (ja) リソース処理方法、装置、電子機器及び記憶媒体
CN111061522A (zh) 基于后端生成前端卡片组件的方法、装置、设备及存储介质
CN113656028B (zh) Ui组件代码生成、crud页面生成方法、装置和设备
CN111596897B (zh) 代码复用的处理方法、装置及电子设备
US11941055B2 (en) Method and apparatus for graph computing, electronic device and storage medium
CN111639116B (zh) 数据访问连接会话保护方法以及装置
CN113656533A (zh) 一种树形控件处理方法、装置及电子设备
CN110618944A (zh) 设备模拟方法、装置、电子设备及存储介质
CN116301869B (zh) 前端页面配置管控系统、方法、设备、介质
CN111930748B (zh) 流式计算系统数据追踪方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210922

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230306

R150 Certificate of patent or registration of utility model

Ref document number: 7241201

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150