JP6934082B2 - デバイスの画面損傷検出 - Google Patents

デバイスの画面損傷検出 Download PDF

Info

Publication number
JP6934082B2
JP6934082B2 JP2020068522A JP2020068522A JP6934082B2 JP 6934082 B2 JP6934082 B2 JP 6934082B2 JP 2020068522 A JP2020068522 A JP 2020068522A JP 2020068522 A JP2020068522 A JP 2020068522A JP 6934082 B2 JP6934082 B2 JP 6934082B2
Authority
JP
Japan
Prior art keywords
image
screen
graphic
damage
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020068522A
Other languages
English (en)
Other versions
JP2020126661A (ja
Inventor
ナイア,ビジュ
シン,ビクラムジット
ナイア,サティシュ・ジィ
レッディ,ラム・モハン
ドゥウィベディ,ラジブ・クマール
ヘイスタッド,クリストファー
グリフィス,レベカー・ジェーン
チン,ジョナサン・ブライアン
メディナ,カール・フェリクス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyla Mobile Inc
Original Assignee
Hyla Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyla Inc filed Critical Hyla Inc
Publication of JP2020126661A publication Critical patent/JP2020126661A/ja
Priority to JP2021135016A priority Critical patent/JP7417793B2/ja
Application granted granted Critical
Publication of JP6934082B2 publication Critical patent/JP6934082B2/ja
Priority to JP2023119106A priority patent/JP2023156332A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0278Product appraisal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30121CRT, LCD or plasma display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Strategic Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Finance (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Human Computer Interaction (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Tourism & Hospitality (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Description

関連出願の相互参照
本出願は、すべて本明細書において参照により本明細書に組み込まれる、2017年3月7日に出願された「デバイスの画面損傷検出(SCREEN DAMAGE DETECTION FOR DEVICES)」と題する米国非仮特許出願第15/452,707号、および、2016年3月7日に出願された「携帯デバイスの画面損傷検出(SCREEN DAMAGE DETECTION FOR MOBILE DEVICES)」と題する米国仮特許出願第62/304,729号に対する優先権を主張する。
技術分野
本発明は、1つまたは複数のデバイス画面の状態を判定することに関する。
背景
スマートフォン、時計、タブレットなどのデバイスは、消費者がデバイスをアップグレードする際に製造元または第三者にしばしば売り戻される。これらの中古デバイスは、デバイスの状態に基づいて再販市場で価値を有する場合がある。例えば、ユーザは中古電話機を再販業者に提供し得、再販業者は電話機の状態を評価し、評価に基づいて価格を提示し得る。しかしながら、デバイスの状態の評価は、人間によって行われ、したがって時間がかかり、主観的であることが多い。さらに、ユーザは、提示価格を受けるために評価を(例えば、キオスク、店舗などで)待たなければならず、ユーザが中古デバイスを再販する意欲を低減し、および/または、そのプロセスに対するユーザの満足度を低下させる可能性がある。
概要
様々な実施態様において、デバイス上の1つまたは複数の画面の状態が判定される(例えば、画面の損傷が存在するか否か)。ユーザは、デバイス上のリターンアプリケーションを介して、画面および/またはデバイスの状態の評価を要求することができる。リターンアプリケーションは、(例えば、価値の判定、再販、保険金請求、保証請求のために)デバイスの状態を判定することができる。リターンアプリケーションは、デバイスの画面上に第1のグラフィックを表示し、ユーザに、(例えば、鏡内のデバイスの反射像がデバイス自体によって捕捉されることを可能にするために)鏡などの反射面の前にデバイスを位置決めするように促すことができる。リターンアプリケーションは、画面の状態を正確に評価するために使用することができる画像が捕捉される確率を増加させるために、デバイスを所定の位置(例えば、鏡により近い)に位置付けするようにユーザを誘導することができる。デバイスの画面の画像を得ることができる(例えば、画像を自動的に撮影することができ、および/または、ユーザが撮影することができる)。例えば、鏡内の画面の反射の写真を捕捉することができる。画面の画像は、処理および/または分析することができ、分析された画像に基づいて画面が損傷しているか否かの判定を行うことができる。画面損傷の分析に基づいて、1つまたは複数の通知および/またはフラグを生成、送信、および/または表示することができる。
いくつかの実施態様では、第2のデバイスを利用して、デバイスの画面の状態の識別を容易にすることができる。例えば、第1のデバイスは、カメラが破損および/もしくは損傷している場合があり、および/または、第1のデバイスの画面の損傷がひどすぎて、第
1のデバイス上のリターンアプリケーションと相互作用することができない場合がある(例えば、画面の亀裂がユーザの指を傷つけるおそれがある)。したがって、第2のデバイス上のリターンアプリケーションを利用して、第1のデバイスの画面の状態を識別することができる。
様々な実施態様において、デバイス(例えば、携帯デバイス、ラップトップなどの電子機器)の1つまたは複数の画面の状態を識別することができる。第1のデバイスの画面またはその一部の状態の評価を求める要求を、第1のデバイス上のリターンアプリケーションを介して受け取ることができる。第1のデバイスの画面(例えば、表示構成要素)上に、第1の識別コードを含む第1のグラフィックを提示することが可能であり得る。リターンアプリケーションは、第1のグラフィックが第1のデバイスの画面上に表示されるようにすることができる。第1のグラフィックの第1の画像の少なくとも一部は、第1のデバイスのカメラによって捕捉されてもよい。第1の画像は、鏡のような反射面上の第1のグラフィックの反射を含むことができる。1つまたは複数の第2のグラフィックを、第1のデバイスの画面上に提示することが(例えば、リターンアプリケーションを介して)可能であり、第2のグラフィックのうちの少なくとも1つの第2の画像の1つまたは複数の少なくとも一部分を、(例えば、第1のデバイスのカメラを介して)捕捉することができる。第2の画像のうちの1つまたは複数は、鏡のような反射面上の、第2のグラフィックのうちの少なくとも1つの反射を含むことができる。リターンアプリケーションは、第1のデバイスのカメラ構成要素を制御することおよび/またはユーザが当該カメラ構成要素を制御することを許容することが可能であり得る。リターンアプリケーションは、第1のデバイスのカメラによって捕捉されている画像にアクセスすることができる。第1のデバイスの画面の状態を判定するために、第2の画像のうちの1つまたは複数を処理することができる。第2の画像(複数可)を処理することは、第2の画像を部分に分割することと、第2の画像の部分のうちの1つまたは複数が損傷を含むか否かを判定することと、損傷を含む部分の1つまたは複数に隣接する部分を識別することとを含む。第1のデバイスの画面の状態は、第2の画像のうちの1つまたは複数の部分のうちの1つまたは複数が損傷を含むと判定されたか否か、および、損傷を含むと判定されている部分の1つに隣接する部分のうちの1つまたは複数もが損傷を含むか否かに基づいて判定することができる。
実施態様は、以下の特徴の1つまたは複数を含むことができる。第1のデバイスのアイデンティティは、第1の識別コードの分析に基づいて検証することができる。第2のグラフィックを含む第2の捕捉画像に、第1のグラフィックから、第1の識別コードまたはその一部を埋め込むか、またはその他の方法でタグ付けすることができる。第2のグラフィック(複数可)の第2の画像(複数可)の少なくとも一部を捕捉することは、第1のグラフィックの捕捉画像に基づいてデバイスの向きを判定することと、判定された向きに基づいて、デバイスの向きを調整するための誘導を提供することとを含むことができる。第1のグラフィックの追加の画像の少なくとも一部が、第1のデバイスのカメラを介して捕捉されてもよい。いくつかの実施態様では、デバイスの向きは、第1のグラフィックの捕捉画像に基づいて判定することができ、判定された向きに基づいてデバイスの向きを調整するための誘導を提供することができる。第2のグラフィックの追加の画像(複数可)の少なくとも一部は、第1のデバイスのカメラを介して捕捉されてもよく、追加の画像の各々は、反射面上の第2のグラフィックのうちの少なくとも1つの反射を含む。捕捉されている第1の画像(複数可)および/または捕捉されている第2の画像(複数可)が処理可能な画像ではないと判定された場合、処理可能な画像を捕捉するために、第1のデバイスが向きを変えることを可能にすることができる。処理可能な画像を捕捉するために、いくつかの実施態様では、捕捉された第1の画像または1つもしくは複数の捕捉された第2の画像に基づいて、デバイスの向きを判定することができ、判定された向きに基づいてデバイスの向きを調整するための誘導を提供することができる。捕捉された第2の画像(複数可
)は、捕捉された第1の画像の少なくとも一部をタグ付けすることができる。いくつかの実施態様では、例えば、画像が捕捉されている間および/またはリターンアプリケーションが動作している間に、第1のデバイスの1つまたは複数のプロセスが制限され得る(例えば、ポップアップ、アラート、バナーなど)。第2の画像内で第1のデバイスの画面またはその一部を識別することは、コーナ検出および/またはエッジ検出を利用して、第2の画像内で第1のデバイスの画面を識別することを含むことができる。第2の画像のうちの1つを処理することは、第2の画像内で第1のデバイスの画面またはその一部を識別することと、第3の画像を生成することとを含むことができ、第2の画像の、第2の画像内で画面またはその一部として識別されない部分は、第3の画像に含まれないように制約される。第3の画像は、(例えば、第2の画像と重複しない、および/または、第2の画像に加えて)部分に分割することができ、第3の画像の部分のうちの1つまたは複数が損傷を含むか否かを判定することができる。損傷を含む、または含まない部分の1つまたは複数に隣接する部分を識別することができる。第1のデバイスの画面の状態を判定することは、第3の画像のうちの1つまたは複数の部分のうちの1つまたは複数が損傷を含むと判定されるか否か、および、損傷を含むと判定されている部分のうちの1つに隣接する部分のうちの1つまたは複数が損傷を含むか否かに基づくことができる。第3の画像を生成することは、第2の画像の、画面またはその一部として識別されない部分が除去されるように、第2の画像を変更することを含むことができる。画面またはその一部を識別することは、第1のデバイスの画面のアクティブ領域を識別することを含むことができる。
様々な実施態様において、デバイス(例えば、携帯デバイスなどの電子デバイス)の画面(複数可)の状態を識別することができる。例えば、第1のデバイスの状態は、第2のデバイスを使用して識別することができる。第1のデバイスまたは第2のデバイスのうちの少なくとも1つは、カメラ(例えば、外部画像捕捉構成要素)を含むことができる。第1のデバイスおよび第2のデバイスは、同じデバイスであってもなくてもよい。第1のデバイスの画面またはその一部の状態の評価を求める要求を、第2のデバイス上のリターンアプリケーションを介して受け取ることができる。第1のデバイスが、リターンアプリケーションを含んでもよい。第1の識別コードを含む第1のグラフィックを、第1のデバイス上のリターンアプリケーションを介して第1のデバイスの画面上に提示することを可能にすることができる。第1のデバイス上に提示される第1のグラフィックの少なくとも一部は、第2のデバイスのカメラを介して捕捉されてもよい。第1のデバイスの画面上に1つまたは複数の第2のグラフィックを提示することを可能にすることができ、第1のデバイスに提示される第2のグラフィック(複数可)の少なくとも一部は、第2のデバイスのカメラを介して捕捉されてもよい。第1のデバイスの画面の状態を判定するために、第2の画像の1つまたは複数を処理(例えば、前処理および/または処理)することができる。第2の画像を処理することは、第2の画像を部分に分割することと、第2の画像の部分の1つまたは複数が損傷を含むか否かを判定することとを含むことができる。いくつかの実施態様では、ニューラルネットワークが、画像の処理などのリターンアプリケーションの動作を実行することができる。損傷を含む部分の1つまたは複数に隣接する部分を識別することができる。隣接する部分が、損傷を含む場合があり、または含まない場合がある。第1のデバイスの画面の状態は、第2の画像の部分の1つまたは複数が損傷を含むと判定されるか否か、および、隣接する部分の1つまたは複数が損傷を含むか否かに基づいて判定することができる。
様々な実施態様において、状態第1のデバイスが損傷していると判定された場合、損傷情報を判定することができる。損傷情報に基づいて損傷を含むと判定された第2の画像の部分の1つまたは複数を識別するためにフラグを生成することができる。第1のデバイスの状態が損傷したと判定された場合、第1のデバイスのタッチスクリーンを(例えば、既知のタッチスクリーンテストに従って)テストすることができる。第1のデバイスの画面の輝度は、(例えば、画像処理および/または正確度を促進するために)捕捉されている
第1の画像に基づいて較正することができる。第1のデバイスの画面上に第2のグラフィックを提示することを可能にすることは、第1のデバイス上にバースト画像のセットを提示することを可能にすることを含むことができる。バースト画像のセットは、複数の明度レベルの第2のグラフィックのうちの少なくとも1つを含む。第1のデバイス上に提示される1つまたは複数の第2のグラフィックの少なくとも一部を捕捉することは、第1のデバイス上に提示されるバースト画像のセットを捕捉することと、捕捉されたバースト画像セットのいずれの色が基準色と最も類似しているかを判定することによって、捕捉されているバースト画像のうちの1つを選択することとを含むことができる。選択された捕捉バースト画像は、(例えば、前処理および/または処理のための)捕捉された第2のグラフィックの1つとして識別され得る。第2のグラフィックのうちの少なくとも1つの第2の画像の1つまたは複数の少なくとも一部を捕捉することは、第1のグラフィックの捕捉画像に基づいてデバイスの向きを判定することと、判定された向きに基づいてデバイスの向きを調整するための誘導を提供することとを含むことができる。第1のグラフィックの追加の画像の少なくとも一部が、第1のデバイスのカメラを介して捕捉されてもよい。第1のデバイスの画面上に1つまたは複数の第2のグラフィックを提示することを可能にすることは、第1のデバイスの画面上に2つ以上の第2のグラフィックを順次提示することを可能にすることを含むことができる。第2のグラフィックのうちの1つまたは複数の少なくとも一部を捕捉することは、第1のデバイスの画面上に順次提示される第2のグラフィックの各々の少なくとも1つの画像を捕捉することを含むことができる。第1のデバイスの画面上に1つまたは複数の第2のグラフィックを提示することを可能にすることは、第1のデバイスの画面上に2つ以上の第2のグラフィックを同時に提示することを可能にすることを含むことができる。
1つまたは複数の実施態様の詳細が、添付の図面および以下の説明に記載されている。実施態様の他の特徴、目的、および利点は、以下の説明および図面から明らかになるであろう。
本開示およびその特徴のより完全な理解のために、ここで以下の説明を添付の図面と併せて参照する。
例示的なシステムの実施態様を示す図である。 デバイスの画面の状態を判定する例示的なプロセスの実施態様を示す図である。 鏡の正面におけるデバイスの例示的な位置決めの実施態様を示す図である。 デバイス画面を含む画像の例示的な捕捉の実施態様を示す図である。 リターンアプリケーションによって表示される例示的な通知の実施態様を示す図である。 デバイス画面が損傷しているか否かを判定する例示的なプロセスの実施態様を示す。 例示的な画像の実施態様を示す図である。 例示的な画像の実施態様を示す図である。 処理前の例示的な画像の実施態様を示す図である。 処理後の例示的な画像の実施態様を示す図である。 画像の分割の一部分の実施態様を示す図である。 デバイス画面の例示的な捕捉画像の実施態様を示す図である。 図8Aに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す図である。 デバイス画面の例示的な捕捉画像の実施態様を示す図である。 図8Cに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す図である。 デバイス画面の例示的な捕捉画像の実施態様を示す図である。 図8Eに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す図である。 例示的な学習ツールの実施態様を示す図である。 学習ツールが得られた例示的な第2の画像の実施態様を示す図である。 図9Bに示された例示的な第2の画像の例示的な処理の実施態様を示す図である。 例示的な学習ツールの実施態様を示す図である。 学習ツールが得られた例示的な第2の画像の実施態様を示す図である。 図10Bに示された例示的な第2の画像の例示的な処理の実施態様を示す図である。 例示的な学習ツールの実施態様を示す図である。 学習ツールが得られた例示的な第2の画像の実施態様を示す図である。 図9Bに示された例示的な第2の画像の例示的な処理の実施態様を示す図である。 例示的なニューラルネットワークの例示的な正確度結果の実施態様を示す図である。 例示的なニューラルネットワークの例示的な交差エントロピー結果の実施態様を示す図である。
様々な図面における同様の参照符号は同様の要素を示す。
詳細な説明
様々な実施態様において、デバイス(例えば、スマートフォン、時計、タブレット、電子リーダ、ラップトップ、携帯ゲームコンソールなどの電子デバイス)は、デバイスの1つまたは複数の画面の状態について評価され得る。デバイスは、(例えば、スクリーンショットのような画面上に表示されるグラフィカルユーザインターフェースの画像を保存することができる構成要素とは対照的に)カメラのような、外部画像を撮影することができる構成要素を含むことができる。
画面の状態は、美観および/または使い勝手に影響を及ぼす可能性があり(例えば、亀裂は使用前に修復が必要であり得、ならびに/または使用および/もしくはデバイス上での視聴に影響を及ぼす可能性があり、もしくは影響を及ぼさない可能性があるため)、したがって、売りに出されたときにデバイスの価格が変わる可能性がある。人間の評価は、評価が主観的である可能性があるため、変動性を引き起こす可能性がある。人間の評価は、ユーザがデバイスを売りに出すときと、そのデバイスの価格が提示されるときとの間に時間差を生じさせる可能性がある。これらの要因は、デバイスを再販売する意欲を低減する可能性があり、プロセスに対するユーザの満足度を低減する可能性があり、それによって良好なデバイスを市場から離れさせる可能性があり、再販価格を増加させる可能性があり(例えば、供給がより制限されるため)、および/または(例えば、デバイスが保管または廃棄される可能性があるため)デバイスのリサイクルを低減する可能性がある。いくつかの実施態様において、画面状態の自動判定は、詐欺行為を低減することができる。例えば、画面状態は、保険目的(例えば、保険契約証書発行および/または請求)および/または再利用のために検証することができる。記載されているように画面状態を自動的に判定することによって、詐欺行為の発生を低減することができ、それによって、保険コストを低減することができ(例えば、状態を検証することができ、および/または客観的に判定することができるため)、および/またはユーザ満足度を増加させることができる(例えば、状態を検証するためにデバイスを店頭に持ち込む必要をなくすことができるため、および/または、デバイスの客観的状態を可能な再使用のために得ることができるため
)。したがって、デバイスに画面損傷が存在するか否かなど、デバイスまたはその構成要素の状態の自動検出が必要である。
図1に示すように、1つまたは複数のデバイス110は、(例えば、インターネットまたは他の通信ネットワークなどのネットワークを介して)サーバ120に結合され得る。サーバ120は、任意の適切なサーバとすることができる。いくつかの実施態様では、サーバ120は、ニューラルネットワークを含むことができる。ニューラルネットワークは、ソフトウェアおよび/またはハードウェアを介してサーバ上に実装することができる(例えば、ニューラルネットワークのいくつかの実施態様は、市場で入手することができ、ならびに/または、IBM(登録商標)、CogniMem(登録商標)からFANNライブラリを介して、および/もしくはGoogle(登録商標)tensorflowフレームワーク上の畳み込みニューラルネットワークを使用して構築することができる)。いくつかの実施態様では、畳み込みニューラルネットワークが、いくつかの実施態様において、他のニューラルネットワークよりも画像処理の能力がより高い(例えば、より高速で、より正確になど)ものであり得るため、畳み込みニューラルネットワークを利用することができる。
ニューラルネットワークは、いくつかの実施態様では、画面損傷検出の正確度を向上させるためにシステムの更新に基づいて自己調整および/または調整することができる。例えば、捕捉画像および/またはマークされた損傷(例えば、損傷したと識別された部分が、例えば、色および/またはパターンの変化によりフラグ立てされた捕捉画像)のような学習ツールをニューラルネットワークに提供して、ニューラルネットワークがデバイスの状態を識別することをさらに学習することを促進および/または可能にすることができる。(例えば、ニューラルネットワークがデバイスまたはその一部の状態を識別することができるように)ニューラルネットワークを開発するために、ニューラルネットワークは、学習ツール、関連する捕捉画像を分析し、関連する捕捉画像を処理し、処理を介して損傷を識別し、ならびに/または、識別された損傷を有する部分と学習ツールとの間の相違点および/もしくは類似点を識別することができる。いくつかの実施態様では、ニューラルネットワークは、画素および/またはデバイスの他の部分に対する知覚された損傷に対するそれ自体の学習を、(例えば、ニューラルネットワークに提供される学習ツールおよび/または捕捉画像の処理に基づいて)系統化することができる。
デバイス110は、1つまたは複数のデバイス画面115(例えば、モニタ、LCD画面、ガラス、ゴリラガラスなど)を含むことができる。デバイス110は、デバイス画面の画像の反射を捕捉することができるカメラ(例えば、正面向きカメラ、または、デバイスの、デバイス画面と同じ側にあるカメラ)を含むことができる。デバイス110は、デバイスのメモリに格納され、デバイスのプロセッサによって実行可能なリターンアプリケーションを含むことができる。リターンアプリケーションは、デバイス110がサーバ120と通信することを可能にすることができる。リターンアプリケーションは、ユーザからの入力を受け取り、ユーザに入力を提供するように、および/もしくは、デバイスを位置決めするように促し、画像および/もしくは通知を送信し、グラフィックを生成し、画像を捕捉し、カメラなどのデバイスの構成要素に画像を捕捉するよう指示し、デバイスの構成要素(例えば、フラッシュ)を制限し、デバイスの動作(例えば、リターンアプリケーションの動作および/または画像捕捉の間のポップアップ、バナー、アラート、リマインダなど)を制限し、ならびに/またはサーバ120のような他のデバイスと通信することができる。いくつかの実施態様では、リターンアプリケーションは、アプリケーションを介してデバイスの売却を許可し、デバイスまたはその構成要素の状態を判定し、デバイスの状態に基づいてデバイスの価値が判定されることを可能にし、デバイスの再使用のためにデバイスまたはその構成要素の状態を判定し、保険請求のためにデバイスまたはその構成要素の状態を判定し(例えば、ユーザがデバイス保険契約証書の請求を提出すること
を所望する場合、リターンアプリケーションは、デバイスまたは構成要素の状態を判定することができる)、保証請求のためにデバイスの状態を判定することなどができる。
サーバおよびデバイス110は、記述されている動作の1つまたは複数を別個におよび/または他のデバイスと連携して実行することができる。いくつかの実施態様では、サーバは利用されなくてもよく、(例えば、サーバではなく)リターンアプリケーションが、記載されている動作の1つまたは複数を実行してもよい。いくつかの実施態様では、動作の速度を増加させるために、サーバが、記述されているプロセスの1つまたは複数の動作を実行することができる。いくつかの実施態様では、デバイス110および/またはサーバのうちの1つまたは複数は、互いに連携して動作の1つまたは複数を実行することができる。いくつかの実施態様では、サーバはクラウドベースとすることができ、デバイス(複数可)は画像処理および/または分析(例えば状態の識別)などの動作を実行するためにサーバと通信することができる。
いくつかの実施態様では、ユーザがデバイスを売ることを決定したとき(例えば、デバイスをアップグレードするとき、デバイスを切り替えるときなど)、ユーザはデバイス上でリターンアプリケーションを選択することができる。リターンアプリケーションは、デバイスに関する情報(例えば、デバイスの状態、モデルのようなデバイスの特性、市場再販価格など)を判定し、デバイスの価格を表示することができる。画面の状態は、画面損傷が一部のユーザにとって審美的に不快であり、他の構成要素に対する損傷を示す可能性があり、かつ/または交換および/もしくは修理するのに費用がかかる可能性があるため、アプリケーションを介してデバイスに提示される価格を調整し得る。画面状態は、アプリケーションおよび/またはサーバによって自動的に判定され得るため、評価はより迅速に行うことができ、および/またはより高い一貫性が提供され得る(例えば、人間が状態を判定していないため)。また、画面状態を自動的に判定することができるため、ユーザが意図的に画面状態を不正確に報告する可能性を低減することができる(例えば、画面状態の良好なデバイスはより高い市場価格を有するため、ユーザは、画面が亀裂を有しまたは破損している場合であっても、画面状態が良好であると報告しようとする。自動検出は、自己報告および/または人間ベースの分析システムに共通する詐欺行為を防止することができる)。加えて、画面状態(例えば、大きな亀裂、深い亀裂など)は、システムが、デバイスの他の構成要素も損傷している可能性があるか否かを判定するように促し得る。デバイス画面および/またはデバイスの状態が判定されると、(例えば、サーバおよび/またはリターンアプリケーションによって)デバイスについての提供価格を判定することができる。いくつかの実施態様では、(例えば、再販価格、リサイクル価格、市場情報、類似デバイスの供給、および/またはデバイスに対する需要に少なくとも部分的に基づいて)デバイスの基本コストを判定することができ、デバイスの状態に基づいて基本価格を調整することができる(例えば、画面への損傷について低減し、他の構成要素への損傷について低減し、および/または新品箱入りについて増大する)。次いで、ユーザは、受け取った価格に基づいてデバイスを売るか否かに関する決定を行うことができる。価格を提示するエンティティは、ユーザによる再販のためのプロセスの開始と、価格の受け取りとの間の大きな時間遅延を生じることなく、画面状態の知識によって提示を行うことができる。したがって、一部の実施態様では、中古デバイスを購入するか、または、その請求もしくは保険可能性を検証するユーザおよび/またはエンティティに対してプロセスに対する満足度を高めることができる。
いくつかの実施態様では、再販目的に加えておよび/または再販目的の代わりに、保険請求(例えば、デバイス保険)のためにデバイスの状態を(例えば、リターンアプリケーションおよび/またはサーバによって)判定することができる。例えば、デバイスが損傷している場合があり、および/または、損傷が疑われる場合がある。デバイスまたはその構成要素の状態を判定および/または報告して、保険請求を提出および/または検証する
ことができる。いくつかの実施態様では、リターンアプリケーションを利用して、デバイス保険を購入する際にデバイスまたはその一部の状態を判定することができる。したがって、デバイスまたはその構成要素の状態を判定するために、自己報告に依拠し、および/または、デバイスを物理的な店舗に持ち込むのではなく、デバイス上のリターンアプリケーションを介して状態を判定することができる。
いくつかの実施態様では、デバイスの状態は、デバイス保証のために(例えば、リターンアプリケーションおよび/またはサーバによって)判定することができる。たとえば、製造元、再販業者、修理業者および/または改修業者が、デバイスを保証する場合がある。保証は複雑であり得、ユーザは、どの部分がカバーされているか、および/またはどのタイプの損傷がカバーされているかを理解するのが困難な場合がある。デバイスおよび/またはその構成要素の状態および/または損傷した構成要素が保証の対象であるか否かの判定を、リターンアプリケーションを使用して判定することができる。いくつかの実施態様では、リターンアプリケーションを介して判定された状態を使用して、保証請求を提出および/または検証することができる。
いくつかの実施態様では、デバイスの状態を判定して、デバイスが(例えば、別のユーザによって)再利用可能か否かを判定することができる。例えば、第2のユーザが、デバイス上のリターンアプリケーションを介して第1のユーザのデバイスの状態を取得することができる場合がある(例えば、リターンアプリケーションは、デバイスの状態を有する通知を第2のユーザに送信することができる)。その後、第2のユーザは、(例えば、人間の評価よりも)詐欺行為、主観、または誤差に対する心配の少ないデバイスの状態の評価を得ることができる。第2のユーザは、(例えば、システムによって識別された損傷を修復されたまたはされていない)損傷のあるおよび/または損傷のないデバイスを使用することができる。リターンアプリケーションは、どの修理が実施され得るか、および/または修理なしにデバイスが使用され得るか否かを識別するために使用され得る。
図2は、デバイスの画面の状態を判定するための例示的なプロセス200の実施態様を示す。デバイスのデバイス画面の画像(複数可)を、デバイス上のリターンアプリケーションを介して受信することができる(動作210)。例えば、ユーザはデバイス上でリターンアプリケーションを開くことができる。いくつかの実施態様では、リターンアプリケーションは、(例えば、デバイスの最近の基本価格を取得する、ソフトウェア更新を取得するなどのために)サーバとの通信を開始することができる。ユーザは、デバイスの価格の提示を要求して、デバイスが再使用可能か否かを判定し、保険請求を提出し、保険請求および/もしくは契約のために、ならびに/または、デバイスの状態を判定するための他の適切な理由のためにデバイス状態を検証することができる。リターンアプリケーションは、ユーザに、デバイス画面の画像を取得するように(例えば、視覚、音声、および/または触覚通知を介して)促すことができる。例えば、リターンアプリケーションは、ユーザに、デバイス画面を鏡に向けるように、デバイスを位置決めするように促すことができる。画像の品質が、デバイス画面の状態(例えば、デバイス画面が損傷しているか否か)を判定する能力に影響を及ぼす可能性があるため、リターンアプリケーションは、ユーザに、デバイスの位置を調整するように促すことができる。例えば、リターンアプリケーションは、指示によってユーザに、デバイスをより近くに、遠くに移動させる、画像をタップして画像を再合焦させる、デバイスが保持される角度を調整するなど、デバイスの位置を調整するように(例えば、視覚的および/または聴覚的通知を介して)促すことができる。デバイスが所定の位置にあるとき、1つまたは複数の画像を捕捉することができる。リターンアプリケーションが、デバイスが所定の位置(例えば、画像を捕捉するための最適位置)にあると判定した後に、画像を自動的に捕捉することができる。リターンアプリケーションは、画像内のデバイスを検出し、デバイス上のカメラを自動的に焦点合わせすることができる。さらに、リターンアプリケーションはまた、画像内のデバイスをトリミ
ングすることもできる。捕捉される画像は、鏡内のデバイスの反射であってもよく、デバイス画面を含み得る。デバイス画面上に提示されるインターフェースの画像ではなく、画面の外部の画像を取得するために、デバイスの「スクリーンキャプチャ」機能を使用するのではなく、鏡内のデバイスの反射が捕捉され得る。
いくつかの実施態様では、リターンアプリケーションを介して捕捉されない、サーバおよび/またはリターンアプリケーションへの画像のアップロードを禁止することができる(動作220)。画面画像状態が画像に基づいて判定される場合、詐欺行為の可能性が存在する場合がある。例えば、ユーザは、損傷したデバイスに提示される価格を高めるために、損傷を受けていない同様のデバイスの画像を撮影する場合がある。デバイス画面(複数可)の不正なまたは不完全な/誤った表示に関連するコストを削減するために、リターンアプリケーションを介して捕捉されていない画像のアップロードや選択を受け付けないことができる。例えば、リターンアプリケーションは、アプリケーションによって捕捉された画像を処理することができる(例えば、アプリケーションは、デバイス上のカメラアプリケーションにアクセスし、カメラアプリケーションによって撮影された画像を処理し、捕捉画像に、識別情報、日付および/またはタイムスタンプのようなデバイス情報をタグ付けする)。リターンアプリケーションは、デバイスまたはクラウドストレージの写真ライブラリからの画像を受け付けないことができる(たとえば、ユーザが、デバイス画面の画像を撮影し、デバイスの写真ライブラリから画像を選択することは許容され得ない)。
受信画像(複数可)に基づいてデバイス画面が損傷しているか否かを判定することができる(動作230)。リターンアプリケーションは、受信画像(複数可)を分析のためにサーバに送信することができる。サーバは、画像(複数可)を処理および/または分析して、デバイス画面が損傷しているか否かを判定することができる。例えば、サーバは、損傷した画面および/または画面もしくはその一部が損傷している確率を識別するように訓練されているニューラルネットワークを含むことができる。いくつかの実施態様では、既知の亀裂、破損、および/もしくは他の損傷を有する画面を含む画像、ならびに/または損傷のない画像のセットを処理することによって、損傷した画面を識別するようにニューラルネットワークを訓練することができる。ニューラルネットワークは、画像のセットから画面損傷に関連するパターンを識別することを学習することができる。サーバは、画面損傷を認識するように訓練されたニューラルネットワークによる受信画像(複数可)の分析に基づいて、デバイス画面が損傷しているか否かを判定することができる。ニューラルネットワーク(例えば、サーバ上に存在する)は、例えば、反射(単数または複数)、ロゴ(複数可)、影(複数可)、および/または、デバイスの画像に見出され得る他のアーティファクト(複数可)などの、損傷に関連しない典型的な画面画像を識別する(例えば、前処理)ように訓練され得る第1の層または外層を有することができる。損傷に関連しない典型的な画面画像を識別するように外層ニューラルネットワークを訓練することによって、損傷が実際にはデバイス上にないときにいずれかの損傷(例えば、亀裂、チップ、擦れ)が存在するという誤った評価の発生を低減し、および/損傷の正確な評価を増大させることができる。加えて、損傷に関連しない典型的な画面画像を識別するようにニューラルネットワークの外層を訓練することによって、(例えば、損傷の画像のより正確な処理を得るために)画面の画像の再捕捉を可能にすることができる。
プロセス200は、システム100などの様々なシステムによって実装することができる。さらに、様々な動作が追加、削除、および/または変更されてもよい。例えば、リターンアプリケーションは、デバイス画面が損傷しているか否かを判定する際に、1つまたは複数の動作を実行することができる。リターンアプリケーションは、例えば、画像の分析の少なくとも一部を実行することができる。いくつかの実施態様では、2つ以上の画像を捕捉および処理して、デバイスの画面が損傷しているか否かを判定することができる。
いくつかの実施態様では、デバイスの画面が損傷していると判定された場合、デバイスの基本コストを調整することができる。例えば、デバイス画面が損傷している場合、基本コストは、画面交換コスト、画面修理コスト、処理時間コスト、および/または人件費によって減少する可能性がある。
いくつかの実施態様では、(例えば、サーバおよび/またはデバイス上の)リターンアプリケーションは、画像を前処理することができる。例えば、リターンアプリケーションは、捕捉された低品質の画像(例えば、低品質)(例えば、リターンアプリケーションを介して捕捉された画像のうちの1つまたは複数)を識別することができる。リターンアプリケーションは、(例えば、ニューラルネットワークの外層を介して、および/またはユーザデバイスのリターンアプリケーションを介して)画像を前処理して(例えば、亀裂および/または欠陥を「隠す」可能性がある状態を検出するように設定および訓練されているニューラルネットワーク上の外部分類器を介して)不良な画像を識別することができる。例えば、前処理は、指および/または他の障害物が画面上に含まれている、画像内の物体が電話機ではない、画面全体が画像内にない、および/または、反射によって亀裂が隠れている可能性があるなど、低品質の詳細を(例えば、外部分類器を介して)識別することができる。いくつかの実施態様では、ニューラルネットワーク上の外部層は、(訓練を介して)不良な画像を引き起こす他の欠陥を識別することができる。いくつかの実施態様では、前処理は、ぼやけおよび/または不良な色などの画像を分析することによって計算することができる他の要因に少なくとも部分的に基づいて画像をフィルタリングすることができる。低画像品質に関連するぼやけは、画像の焦点が合っているか否かを判定するために、エッジ上の色の変化率に基づいて計算することができる。低画像品質に関連し得る画像の不良な色は、色の強度を調べることによって検出することができる。
いくつかの実施態様では、第1のデバイスの状態は、第2のデバイス(例えば、第1のデバイスとは異なるデバイス)を使用して判定されてもよい。例えば、第1のデバイスの第1の画面は損傷している場合があり、それによって、ユーザは、デバイスを使用することができない場合があるか、または、デバイスを使用することを所望され得ない(例えば、指が画面の亀裂によって外傷を受ける可能性がある、画面からチップが緩む、画面が使用によってさらに損傷する可能性がある、など)。したがって、第2のデバイスを利用して、第1のデバイスの画像を捕捉することができる。第1のデバイスおよび第2のデバイスが、リターンアプリケーションを含むことができる(例えば、リターンアプリケーションの1つまたは複数の動作は、第1のデバイスおよび第2のデバイスのプロセッサによって実行され得る)。第1のデバイスの画面またはその一部の状態の、第2のデバイス上のリターンアプリケーションを介した評価を求める要求が受信され得る。第1のデバイスおよび第2のデバイス上のリターンアプリケーションは、(例えば、直接的におよび/またはサーバ上のリターンアプリケーションを介して間接的に)通信することができる。例えば、第2のデバイス上のリターンアプリケーションは、第1のデバイス上のリターンアプリケーションと通信して、グラフィックが、リターンアプリケーションを介して第1のデバイスの画面上に提示されることを可能にすることができる。リターンアプリケーションは、第1のデバイスに画像(例えば、第1のグラフィックおよび/または第2のグラフィックを含む)を提示し、提示された画像が第2のデバイスによって捕捉されることを可能にすることができる。捕捉画像は、第1のデバイスの画面の状態を判定するために、前処理および/または処理することができる。したがって、第1のデバイスは(例えば、損傷のために)使用が制限される場合があっても、第1のデバイスの画面の状態の評価を得ることができる。
いくつかの実施態様では、デバイスは、デバイスの位置を自動的に調整することができる。デバイスは、ほぼ平坦な表面上で平衡を保つことができ、したがって、デバイスは、鏡の前の表面上に配置され得る。デバイスは、デバイスを自動的に再配置(例えば、回転
)させるために、1つまたは複数の振動を自動的にトリガすることができる。いくつかの実施態様では、自動調整が画像捕捉のための所定の位置にデバイスを位置決めできない場合、リターンアプリケーションは、ユーザに通知(例えば、音響、触覚、および/または視覚)を介して位置を調整するよう促すことができる。
通知(複数可)は、いくつかの実施態様では、デバイスをどのように再配置するか(例えば、より近くに、より遠くに移動するなど)の指示をユーザに送信することができる。いくつかの実施態様では、リターンアプリケーションは、デバイス上に表示するための位置決め補助を生成することができる。位置決め補助は、デバイスが所定の位置にあるか否か、デバイスが所定の位置にどれくらい近接しているか、ならびに/またはデバイスがどの方向において定位置内にあるおよび/もしくは定位置外にあるかを(例えば、視覚、聴覚、および/または触覚信号を介して)示すことができる。例えば、位置決め補助は、電子的に生成される気泡水準器(例えば、デバイス内の加速度計;および/またはGPSは、デバイスの向きの判定を容易にすることができ、画像内のどこでデバイスが検出されるかを計算することができ、ならびに/または、デバイスが保持されている位置(複数可)および/もしくは角度(複数可)の変化のリアルタイムフィードバックを提供することができる)を含んでもよい。いくつかの実施態様では、指示は、デバイスが位置決めされている環境(例えば、部屋)をどのように変更するかに関する指示を含むことができる。例えば、指示は、照明を増加および/または減少させるための指示、(例えば、グレアを低減するために)窓(複数可)を閉じるための指示、および/またはその他の適切な指示を含んでもよい。
いくつかの実施態様では、リターンアプリケーションは、キュー(例えば、音響、触覚、および/または視覚)を使用して画像の捕捉を容易にすることができる。例えば、リターンアプリケーションのグラフィカルユーザインターフェースは、グラフィカルユーザインターフェース内に(例えば、3D正方形形成を介して)「トンネル」の印象を与えることができる。例えば、グラフィカルユーザインターフェースは、必要な整列された正方形へのサイズおよび/または形状マッチャsを有するトンネルの端部に識別コード(例えば、QRコード(登録商標))を有するトンネルの見かけを生成することができる。これにより、鏡から正しい角度および距離でデバイスを整列させ、位置決めするように、ユーザを誘導することができる。リターンアプリケーションは、他の視覚および/または音響キューを含むことができる。例えば、グラフィカルユーザインターフェースは、ユーザにデバイスの向きを変える(例えば、電話機を横向きおよび/または上下に傾ける、前後に動かす)ように指示するように指し示す矢印(例えば2Dおよび/または3D)を(例えば、オーバーレイ、ポップアップ、埋め込み画像などを介して)含むことができる。
いくつかの実施態様では、画像(複数可)の捕捉に成功したときに、デバイス上に表示するために、リターンアプリケーションによって通知を生成することができる。例えば、捕捉画像は前処理されてもよい。いくつかの実施態様では、画像(複数可)が処理可能ではないと前処理中に判定された場合(例えば、デバイスの画像が切れている、および/または、画面全体を示さないため、サーバが画面状態を判定することができない)、ユーザは、1つまたは複数の通知を受信することができ、および/または、ユーザは、プロセスまたはその一部を再開するように促され得る。リターンアプリケーションのニューラルネットワークは、前処理動作のうちの1つまたは複数を実行することができる。例えば、ニューラルネットワーク(例えば、多層ニューラルネットワークの外層)は、限定されないが、指が画面を塞いでいる、および/または、窓の光反射などの問題がある画像を前処理中に拒絶するフィルタとして機能することが(例えば、訓練によって)可能であり得る。ニューラルネットワークは、捕捉画像の品質が悪いという理由の少なくとも一部を含む通知をユーザに提供することが可能であり得る。この拒絶の理由は、(例えば、ユーザにとって)訂正プロセスを容易にすることができる(例えば、捕捉画像の拒絶の理由を判定す
る際にユーザによる推測作業を低減する)。いくつかの実施態様では、リターンアプリケーションは、ユーザに、再販プロセスを開始するように促すことができ、および/または、リターンアプリケーションを開いたときに自動的に再販プロセスを開始することができる。
様々な実施態様において、画面の状態を判定するために、リターンアプリケーションは、デバイス画面の画像(複数可)を(例えば、自動的におよび/またはユーザからの選択によって手動で)捕捉することができる。アプリケーションは、いくつかの実施態様では、デバイス画面上に表示するための1つまたは複数のグラフィック(例えば、絵図、パターン、単色表示、および/またはグラフィカルユーザインターフェース)を生成することができる。リターンアプリケーションによって生成されるグラフィックは、1つまたは複数の色(例えば、黒、白、緑、紫など)、1つまたは複数のパターン、写真、絵図、識別子(例えば、QRコード(登録商標)、バーコードなど)、その他の適切なグラフィック、および/またはそれらの組み合わせを含むことができる。グラフィックの生成は、(例えば、デバイスの、および/またはデバイスに結合された)メモリからグラフィックを取り出すこと、および/または、(例えば、IMEI情報、ユーザ情報、日時のような時間情報などのデバイス情報、および/または、以前に撮影された良好なデバイス画像または別のデバイスの画像の再使用を排除するための規定の閾値内でのリアルタイムのそのような情報の検証に基づいて)識別子を生成することを含むことができる。いくつかのグラフィックは、画面状態の検出を容易にすることができる。例えば、アプリケーションによって生成されるグラフィックは、表示画面の少なくとも一部(例えば、表示画面のアクティブ部分またはその一部)を覆う、単色の緑、黒、および/または、白のグラフィックを含んでもよい。
いくつかの実施態様では、アプリケーションは、識別子を含む第1のグラフィックおよび1つまたは複数の第2のグラフィックを生成することができる。第1のグラフィックおよび/または第2のグラフィック(複数可)は、デバイス画面状態を判定するために分析される。例えば、第1のグラフィックは、QRコード(登録商標)などの識別子を含むことができる。識別子は、リターンアプリケーションによって生成されてもよい。例えば、デバイス情報(例えば、IMEI情報、デバイス使用期間、デバイスモデル、メモリ容量など)および/またはユーザ情報を、識別子に符号化することができる。図3Aは、鏡の正面におけるデバイスの位置決めの例を示し、リターンアプリケーションは、デバイス画面上に表示するための識別子を生成する。リターンアプリケーションが、ユーザに、デバイス画面が鏡に反射されるようにデバイスを位置決めするように促すと、リターンアプリケーションは、デバイス画面に表示するための識別子を生成することができる。その後、リターンアプリケーションは、デバイスの位置を調整すべきか否かを判定するために、カメラ(例えば、デバイスの正面向きのカメラ)を介して鏡に表示された識別子の反射を分析することができる。例えば、識別子が鏡内の識別子の反射においてぼやけている場合、ユーザに通知して、デバイスの位置を調整するように促すことができる。いくつかの実施態様では、デバイスが適切な位置に置かれると、リターンアプリケーションは、識別子コードを含む鏡内のデバイス画面の反射の画像を捕捉してもよく、捕捉しなくてもよい。いくつかの実施態様では、リターンアプリケーションおよび/またはサーバは、捕捉されたQRコード(登録商標)がデバイスに関連付けられていることを検証することができる(例えば、既知のデバイス情報などと比較してQRコード(登録商標)を復号することができる)。
次いで、リターンアプリケーションは、1つまたは複数の第2のグラフィック(例えば、緑色画面、白色画面、および/または他のグラフィック)を生成し、鏡内の第2の画像(複数可)の反射の捕捉を可能にすることができる。図3Bは、鏡の正面におけるデバイスの位置決めの例を示し、デバイス上のリターンアプリケーションは、第2のグラフィッ
クを生成する。いくつかの実施態様では、図3Cに示すように、画像(複数可)の捕捉が完了すると、リターンアプリケーションは通知を生成することができる。捕捉された第2の画像(複数可)は、画面の状態を判定するために分析されてもよい。例えば、捕捉された第2の画像(複数可)は、サーバ上のニューラルネットワークによる分析のためにサーバに送信されてもよい。
いくつかの実施態様では、識別子コードが合焦、捕捉、および/または処理(例えば、検証)されると、リターンアプリケーションは、第2のグラフィックを自動的に生成することができる。いくつかの実施態様において、識別子コードが捕捉および/または認証されると、第2のグラフィックを利用することにより、デバイス画面の状態をより容易に識別することができる。例えば、画面状態の検出は、ニューラルネットワークによって容易に識別可能なグラフィックを用いてより容易に判定され得る。いくつかの実施態様では、第2のグラフィックは、詐欺行為を防止するために、画面デバイスの画像を捕捉する直前に(例えば、デバイス画面の反射を撮影することによって)、および/または、デバイスが適切な位置にある(例えば、識別子が第1のグラフィックの捕捉画像上で焦点が合っている)とリターンアプリケーションが判定した後の短時間の間に、迅速に生成することができる。いくつかの実施態様では、関連する第2の画像を順次捕捉することを可能にするために、第2のグラフィックを順次生成することができる。いくつかの実施態様では、画像の捕捉を自動化して、グラフィック生成および画像捕捉を協調させることができる。
いくつかの実施態様では、第1の画像は、第2の画像に、第1の画像、その一部、および/または復号された識別子がタグ付け(例えば、添付および/または符号化)されるように、捕捉および/または処理されてもよい。いくつかの実施態様では、第1の画像の前および/または後に第2の画像を捕捉することができる。第2の画像に第1の画像またはその一部(例えば、識別子を復号することによって得られる情報)をタグ付けすることによって、詐欺行為が低減され得る。例えば、ユーザは、アップロードされた画像が符号化部分を含まない可能性があるため、異なるデバイス画面(例えば、そのデバイスのものではないデバイス画面)の画像をアップロードすることを禁止され得る。いくつかの実施態様では、リターンアプリケーションおよび/またはサーバは、デバイス画面(複数可)の不正な画像を識別するためにタグ付けされていない第2の画像を識別することが可能であり得る。
いくつかの実施態様では、画像がデバイスによって捕捉される距離も管理されてもよい。例えば、カメラの焦点距離はアプリケーションによって設定されてもよく、デバイス画面上の識別子グラフィックが、カメラによって取得された画像内で焦点が合うまで、デバイスの位置が調整されてもよい。いくつかの実施態様では、画像内の識別子(例えば、QRコード(登録商標))のサイズが、ユーザが鏡からデバイスを位置決めすべき適切な距離を判定することができる。いくつかの実施態様では、コーナ角検出が、デバイスが鏡に近接して位置決めされる角度に関して、デバイスが画像捕捉のための所定の位置に位置決めされているか否かの判定を容易にすることができる。例えば、画像捕捉のための所定の位置は、鏡の表面に平行にデバイスを位置決めすることを含むことができ、したがって、コーナ角検出によって、画像内のコーナ角を識別することができ、また画像捕捉時にデバイスが鏡の表面に平行であったか否かを判定するために、各コーナでの角度を決定することができる。
いくつかの実施態様では、リターンアプリケーションは、デバイス画面画像の捕捉を容易にするために、デバイスの1つまたは複数の構成要素を調整することができる。例えば、リターンアプリケーションは、フラッシュをオフにすることができる(例えば、グレアを避けるために)。別の例として、リターンアプリケーションは、当該リターンアプリケーションによって生成されるグラフィックの画像が追加のグラフィカルユーザインターフ
ェースおよび/またはオーバーレイなしで生成されることを可能にするように、デバイス通知(例えば、バナー、アラートなど)をブロック(例えば、一時的に)することができる。
画像(複数可)がリターンアプリケーションによって捕捉された後、画像の1つまたは複数が分析されて、デバイス画面の状態が判定されてもよい。例えば、分析される画像(複数可)は、第2のグラフィック(複数可)を含むことができる。図4は、デバイス画面の状態を判定する(例えば、画面が損傷しているか否かを判定する)ための例示的なプロセス400の実施態様を示す。デバイス画面を含む画像が受信され得る(動作410)。例えば、サーバは、リターンアプリケーションを介して画像を受信することができる。画像は、自動的にサーバにアップロードすることができ、および/または、リターンアプリケーションを介してユーザによるアップロードのために選択することができる。画像は、リターンアプリケーションによって生成され、デバイス画面に表示される1つまたは複数のグラフィックを含むことができる。
画像はサーバによって処理されてもよい。受信画像の選択される部分を識別することができる(動作420)。例えば、リターンアプリケーションによって捕捉されている画像は、デバイス画面およびデバイス画面に近接する領域を含むことができる。デバイス画面および/またはデバイス画面のアクティブ部分(例えば、点灯部分および/またはタッチに応答する部分)など、画像の選択される部分を識別することができる。いくつかの実施態様では、受信画像の選択される部分は、画像のサイズを、デバイス画面の状態の分析に関連する部分に縮小するように、選択することができる(例えば、デバイスに近接する領域の分析は、画面が損傷しているか否かを示すことができない)。図5Aは、デバイス画面510を含む例示的な画像500の実施態様を示す。図示のように、画像は、デバイス画面510と、デバイス画面に近接する領域520とを含む。デバイス画面510は、図5Bの画像530に示すように、コーナ検出535を使用して検出することができる。図6Bは、デバイス画面610を含む例示的な画像600の実施態様を示す。図示のように、画像は、デバイス画面510と、デバイスに近接する領域620とを含む。いくつかの実施態様では、画像内のデバイスのエッジ630のエッジ検出を使用して、画像内でデバイスの構成要素を識別することができる。図示されているように、デバイス画面610、マイクロホン、スピーカ、およびケースを、画像内で識別することができる。1つまたは複数の構成要素を識別することによって、デバイス画面のアクティブ領域外のデバイス画面の状態の判定を容易にすることができ、および/または、他の構成要素に対する損傷の識別子を促進することができる(例えば、マイクロホンの上の亀裂は、マイクロホンも損傷していることを示すことができる)。
いくつかの実施態様では、画像の選択される部分のみが変更された画像に示されるように、画像サイズを変更(例えば、トリミングまたはその他の方法で縮小)することができる。いくつかの実施態様では、受信画像の選択される部分は、ラベル付けされるか、またはその他の方法で画像内で識別され得る。
画像の選択されている部分を調整することができる(動作430)。例えば、サーバは、コントラスト、明るさ、着色、シャープネス、露出、にじみ、整列、画像変換、サイズ、および/または画像の他の適切な態様を調整することができる。いくつかの実施態様では、よりノイズに帰属せしめられるべきマーキングとは対照的に、画面損傷の識別子を促進するためにノイズを低減することができる。図6Aは、画像が調整される前のデバイス画面610を含む例示的な画像600の実施態様を示し、図6Bは、調整された画像650の例を示す。調整された画像650は、デバイス内のノイズ640(例えば、線、陰影、および/または画面の損傷に帰属せしめられるべきでない他の特徴)を低減している。
調整された画像を、部分に分割することができる(動作440)。例えば、調整された画像を複数の部分に分割することができる。図7は、デバイス画面710および結果として生じる部分720を含む調整された画像の一例の実施態様を示す。分割は、画像を小さい部分にトリミングすること、画像の領域を部分として識別すること、および/またはその他の方法で画像を適切に分割することによって行うことができる。画像の選択された部分の各部分の処理は、サーバ(例えば、サーバのニューラルネットワーク)によって、画像全体がサーバによって処理された場合よりも迅速に処理することができる。したがって、画像を分割することにより、画像または調整された画像が処理される速度が増加することができる。例えば、調整された画像の各部分は、ニューラルネットワークのノードによって分析されてもよい。したがって、各ノードが画像の別個の部分を分析しているため、画像全体がサーバによって分析された場合よりも速く分析を実行することができる。いくつかの実施態様では、画像を部分に分割することにより、画面状態が検出される確率を増大することができ、および/または、画面状態が誤って識別される確率を低減することができる。例えば、画面損傷は画像の2つ以上の部分に及ぶことがあるため、1つまたは複数の隣接する部分における画面の損傷の高い確率の識別子は、第1の部分における画面損傷の確率を増大させることができる。いくつかの実施態様では、損傷のサイズおよび/または形状、ならびに、隣接する部分が所定の損傷の確率を含むか否かを分析して、部分、したがってデバイスが損傷を含むか否かを判定することができる。例えば、選択された形状および/または大きさの亀裂は、複数の隣接する部分にわたって延在することが知られている場合があり、複数の隣接する部分が所定の損傷の確率を含まない場合、画面損傷の全体的な確率は減少し得る。別の例として、選択された形状および/または大きさのチップは、画像の複数の隣接する部分にわたって延在しない場合があり、隣接する部分内の所定の損傷の確率の欠如は、画面損傷の全体的な確率を調整し得ない。
画像の1つまたは複数の部分(複数可)が損傷を示すか否かの判定を行うことができる(動作450)。例えば、サーバは、画面損傷が存在するか否か(例えば、亀裂、窪み、チップ、ピクセル損傷など)を判定するために部分を分析することができる。サーバのニューラルネットワークは、以前のデバイス画面画像および/または既知の画面画像のセット(例えば、画面損傷を有するまたは有しないことが分かっている)から学習されたパターンおよび/または識別子技術に基づいて調整された画像の1つまたは複数の部分の分析を実行することができる。いくつかの実施態様では、サーバのニューラルネットワークによって部分が分析されることを可能にすることによって、ニューラルネットワークの容易なアップグレードおよびメンテナンスを可能にし、(例えば、複数のデバイスからの以前のデバイス画面画像を分析しておくことができるため)正確度を向上させることができる。
デバイス画面が損傷しているか否かの判定を、部分が損傷を示すか否か、および/または、隣接部分が損傷を示すか否かの判定に基づいて行うことができる(動作460)。部分が損傷していると判定された場合(例えば、イエスまたはノー損傷のようなバイナリ判定、損傷の確率が、50%の損傷の確率などの所定の確率を超える)、サーバは隣接する部分(複数可)を識別することができる。1つまたは複数の隣接する部分が損傷しているか否かを判定することができ、画面が損傷していると識別されるべきか否かを判定するために、サーバ(例えば、ニューラルネットワーク)によって利用することができる。例えば、1つの部分が20%の損傷の確率を有し、近接する4つの部分が50%の損傷の確率を有する場合、画面が損傷していると判定することができる。別の例として、1つの部分が50%の損傷の確率を有し、近接するいずれの部分も25%を超える損傷の確率を有しない場合、画面は損傷していないと(例えば、サーバによって)判定することができる。いくつかの実施態様では、デバイス画面に対する損傷の全体的な確率は、損傷の特性(例えば、位置、サイズ、および/または形状)に基づいて、隣接する部分における損傷の確率に基づいて減少しない場合がある。いくつかの実施態様では、ニューラルネットワーク
の正確度が向上すると、損傷した画面(複数可)に関連する確率の所定の範囲が減少し得る。例えば、システムは、画面損傷の確率が部分内で70%より大きい場合、画面損傷が存在すると判定することができることを示すことができ、ニューラルネットワークの正確度が向上すると、システムは、画面損傷の確率がある部分において50%より大きい場合、画面損傷が存在すると判定することができることを示すことができる。
通知(複数可)を、デバイス画面が損傷しているか否かの判定に基づいて送信することができる(動作470)。例えば、画面が損傷しているか、または損傷していないと判定された場合、ユーザはこの判定に基づいて通知を受け取ることができる。いくつかの実施態様では、デバイス画面が損傷したと判定された場合、ユーザは、プロセスの1つまたは複数の動作を再開する(例えば、デバイスを再配置し、および/または画像を再撮影する)ことによって判定を争うことを可能にされ得る。いくつかの実施態様では、デバイス画面が損傷しているか否かの通知、および/またはデバイス画面の状態に基づく価格が、リターンアプリケーションを介してユーザに提示するためにアプリケーションに送信され得る。
通知は、ニューラルネットワークがデバイス画面の状態を正確に評価できないという判定に基づいて送信されてもよい。例えば、画像処理中に、サーバは画像内に全画面がないことを識別することができる。判定は、予測画面アスペクト比、画面の予測角度値、モデルの予測寸法などを計算することによって行うことができる。サーバは、リターンアプリケーションを介してユーザに、別の画像を捕捉するように指示することができる。サーバは、最善の方法でリターンアプリケーションを介してユーザに、リアルタイムでデバイスを位置決めするように指示を与えることができる。
プロセス400は、システム100などの様々なシステムによって実装することができる。さらに、様々な動作が追加、削除、および/または変更されてもよい。いくつかの実施態様では、プロセス400は、プロセス200などの他のプロセスと組み合わせて実行されてもよい。例えば、デバイスの状態は、デバイスの再販のために判定されてもよい。デバイスの再販価格および/または再販市場におけるデバイスに対する需要は、デバイスの状態に少なくとも部分的に基づき得るため、デバイスおよび/またはその構成要素の状態を自動的に判定することによって、(例えば、再販されることになる)デバイスについて提示するための価格の決定を促進することができる。いくつかの実施態様では、デバイスの状態を判定して、デバイスが(例えば、別のユーザによって)再利用され得るか否かの判定を促進することができる。状態を判定することができ、他のユーザは、デバイスについて提示する価格、デバイスが再利用可能であるか否か、デバイスをそのまま使用するべきであるか否か、および/またはデバイスを修復するか否かを判定することができる。いくつかの実施態様では、デバイスの状態は、デバイス保険契約での使用のために判定されてもよい。例えば、ユーザがデバイス保険を取得することを望む場合、リターンアプリケーションを利用して、デバイスおよび/またはその構成要素の状態を判定することができる。デバイスの状態および/またはデバイスの状態の履歴(例えば、修復されている複数の画面亀裂)を利用して、デバイス保険契約を提供すべきか否か、デバイス保険契約について設定する価格を判定し、および/または、ユーザによって提供されるデバイスの状態を検証することができる。いくつかの実施態様では、ユーザは保険請求を提出することを所望する場合があり、保険請求とともに提出し、および/または保険請求の部分を検証するために、そのデバイスまたはその構成要素の状態を、リターンアプリケーションによって判定することができる。
いくつかの実施態様では、第1のグラフィックおよび/または識別コードではなく、および/または、それに代えて、IMEIおよび/または他のデバイスおよび/またはオペレーティングシステム特有のコードを取得および/または利用して、デバイスの識別を容
易にすることができる。例えば、IMEIおよび/または他のコードは、特定のデバイスを識別するために、第2のグラフィックを介して捕捉される画面の画像と関連付けられてもよい。ユーザは、IMEIが表示されるデバイスの設定ページに(例えば、リターンアプリケーションのグラフィカルユーザインターフェース上のプロンプトを介して)誘導されてもよく、および/または、ユーザは、IMEIを表示するために自動ダイヤル装置上でコードをダイヤルするように促されてもよい。ユーザは、IMEIのスクリーンショットを捕捉することができる(例えば、画像を捕捉するために使用されているデバイスおよび/または第2のデバイスのカメラを介して)。リターンアプリは、IMEIを識別するためにスクリーンショットを処理してもよい(例えば、OCRを介して)。いくつかの実施態様では、ユーザは、MDMサーバと同様のサーバ設定からプロファイルをインストールすることができる。プロファイルは、IMEIをサーバに提供することができる。サーバは、IMEIをリターンアプリケーションに渡すことができる。いくつかの実施態様では、プロファイルは、リターンアプリケーションにIMEIを提供するためにユーザが実行するステップの数を減らすことができる。いくつかの実施態様では、これらの機能の1つまたは複数は、リターンアプリケーションによって自動的に実行されてもよい。得られたIMEIは、捕捉画像(例えば、第2のグラフィック)をタグ付けし、および/または(例えば、得られたIMEIを介して)真正性を保証するためにリターンアプリによって利用されてもよい。
いくつかの実施態様では、第1のデバイスの状態は、第2のデバイスを使用して判定されてもよい。例えば、第1のデバイスの画面は損傷している場合があり、それによって、ユーザは、デバイスを使用することができない場合があるか、または、デバイスを使用することを所望されない場合があり得る(例えば、指が画面の亀裂によって外傷を受ける可能性がある、画面からチップが緩む、画面が使用によってさらに損傷する可能性がある、など)。したがって、第2のデバイスを利用して、第1のデバイスの画像を捕捉することができる。第1のデバイスおよび第2のデバイスが、リターンアプリケーションを含むことができる(例えば、リターンアプリケーションの1つまたは複数の動作は、第1のデバイスおよび第2のデバイスのプロセッサによって実行され得る)。第1のデバイスの画面またはその一部の状態の、第2のデバイス上のリターンアプリケーションを介した評価を求める要求が受信され得る。第1のデバイスおよび第2のデバイス上のリターンアプリケーションは、(例えば、直接的におよび/またはサーバ上のリターンアプリケーションを介して間接的に)通信することができる。例えば、第2のデバイス上のリターンアプリケーションは、第1のデバイス上のリターンアプリケーションと通信して、グラフィックが、リターンアプリケーションを介して第1のデバイスの画面上に提示されることを可能にすることができる。第1のグラフィックを、第1のデバイス上のリターンアプリケーションを介して第1のデバイスの画面上に提示することができ、グラフィックは、第1の識別コードを含むことができる。第1のデバイス上に提示される第1のグラフィックの少なくとも一部は、第2のデバイスのカメラを介して捕捉されてもよい。リターンアプリケーションは、デバイスのカメラ機能にアクセスすることができ、したがって、リターンアプリケーションは画像の捕捉を可能にすることが可能であり得る。1つまたは複数の第2のグラフィックを、(例えば、第1のデバイス上のリターンアプリケーションを介して)第1のデバイスの画面上に提示することができ、第1のデバイス上で提示される第2のグラフィックのうちの1つまたは複数の少なくとも一部分を、第2のデバイスのカメラを介して捕捉することができる。第1のデバイスの画面の状態を判定するために、第2の画像の1つまたは複数を前処理および/または処理することができる。第1のグラフィックの画像は、(例えば、第1のデバイスのアイデンティティを検証するために)第1のグラフィックの識別コードを復号するために利用されてもよい。いくつかの実施態様では、識別コードは、第1のデバイスおよび/または第1のデバイスの画面から捕捉される画像のアイデンティティを検証するためにリターンアプリケーションによって利用することができる、IMEI番号などの第1のデバイスに固有のコードを含むことができる。
いくつかの実施態様では、第1のグラフィックは、第1のデバイスの状態を判定するために第2のデバイスを利用するときに、提示および/または捕捉されてもよく、されなくてもよい。リターンアプリケーションによって評価されるべきデバイス上の画像を捕捉するリターンアプリケーションによって提供されるセキュリティおよび/または認証のレベルは、分析されている第1のデバイスから画像を捕捉するために第2のデバイスが利用される場合ほど強くない場合がある。したがって、いくつかの実施態様では、詐欺的なユーザ動作におけるリスクの増加を考慮するために、保険請求、査定、引受け、および/または払い戻しを調整することができる。
いくつかの実施態様では、第2の画像を処理することは、第2の画像を部分に分割することと、第2の画像の部分の1つまたは複数が損傷を含むか否かを判定することと、損傷を含む部分の1つまたは複数に隣接する部分を識別することと、第2の画像の部分のうちの1つまたは複数が損傷を含むと判定されたか否か、および、損傷を含むと判定された部分の1つに隣接する部分のうちの1つまたは複数も損傷を含むか否かに基づいて、第1のデバイスの画面の状態を判定することとを含むことができる。画面および/またはその一部(アクティブ領域)は、画像を部分に分割する前に、第2の画像から識別されてもよく、されなくてもよい。例えば、ニューラルネットワークは、いくつかの実施態様では、アクティブ領域が分離されていなくても、画像の損傷を識別するように訓練されてもよい。
いくつかの実施態様では、上記動作の1つまたは複数は、1つまたは複数の追加の画像によって実行することができる。デバイス画面が損傷しているか否かの判定は、いくつかの実施態様では、画像および追加の画像の分析に基づいてもよい。いくつかの実施態様では、リターンアプリケーションは、画像をサーバに送信する前に、画像を処理するか、または少なくとも部分的に処理することができる。いくつかの実施態様では、画像は分析前に分割されなくてもよい。いくつかの実施態様では、画像は画面状態の分析前に処理されなくてもよい。デバイス画面が損傷しているか否かの判定は、いくつかの実施態様において、隣接部分が損傷を示さなくても、部分が損傷を示すか否かの判定に基づいて行うことができる。例えば、部分が100%の損傷および/または深い亀裂の確率を示す場合、デバイス画面が損傷していると判定することができる。いくつかの実施態様では、リターンアプリケーションは、(例えば、サーバの代わりにおよび/またはサーバに加えて)画像を捕捉し、画像を受信し、および/または画像を格納する。いくつかの実施態様では、リターンアプリケーションは、(例えば、サーバの代わりに、またはサーバと連携して)またはより多くの動作を実行することができる。
いくつかの実施態様では、複数の画像を第2のグラフィックとして利用することができる。例えば、リターンアプリケーションは、第2の画像のセットを提示および/または捕捉することができる。第2の画像のセットは、色付けが異なる場合がある。第2の画像のセットは、捕捉のバースト(例えば、複数の画像を手動で捕捉するのとは対照的に、短時間で複数の画像を自動的に捕捉すること)によって捕捉することができる。捕捉のバーストは、同じまたは異なる捕捉設定(例えば、フラッシュ、露出、焦点距離など)を使用することができる。(例えば、デバイス上のおよび/またはサーバ上のニューラルネットワークを介した)リターンアプリケーションは、捕捉画像の1つまたは複数を、所定の基準色および/または所定の基準色を含む画像と比較して、捕捉された第2の画像を(例えば、画面の健全性を判定するための)処理のために識別することができる。着色および/またはぼやけなどの低画像品質の画像が、いくつかの実施態様において、捕捉された第2の画像として識別されてもよく、されなくてもよい。
いくつかの実施態様では、1つまたは複数の他の自動調整を利用して画像を捕捉することができる。例えば、捕捉バーストは、捕捉される画像のより良好な一貫性を得るために
(例えば、一貫性がニューラルネットワークによる分析を容易にすることができるので、健全性をより正確に判定するために)、輝度、色、向き、焦点距離などを変えることができる。例えば、捕捉画像のセットを提供するために、捕捉バースト中に第2の画像の輝度を変化させることができる。(例えば、画面の状態を判定するための)さらに他の処理のために捕捉された第2の画像を識別するために、セット内の画像を基準色と比較することができる。いくつかの実施態様では、リターンアプリケーションは、ユーザに、捕捉画像のセットを得るために(例えば、複数の画像を撮影して1つの角度では見えない場合がある亀裂の視点を変えることができるので、異なる角度で画像を捕捉することを可能にするために)、デバイスの向きを変えるように促すことができる。
いくつかの実施態様では、異なる画面設定によって同じセッションにおいて捕捉される複数の画像を得ることにより、ニューラルネットワークに対する亀裂の視認性を高めることができる(例えば、画像は画面亀裂の異なる種類および/または位置を強調し得る)。リターンアプリケーションは、損傷した画面の識別を容易にするために、異なる色の第2のグラフィックを利用することができる。いくつかの実施態様では、iii。適切な位置決めを誘導するためのUIによる複数の傾斜角度−
いくつかの実施態様では、捕捉画像のセットは、デバイスの状態を判定するためにどの画像をさらに処理するかを選択するために、基準画像(例えば、色、強度など)と比較することができる。例えば、リターンアプリケーションは、正確度結果を改善するための訓練に使用される画像の輝度/色/強度に最も近い画像を選択することができる。いくつかの実施態様では、リターンアプリケーションの動作を使用して、画面であることが分かっている画像の領域に色が引き継がれる。色は、反射、不良な色などの他の欠陥を最小限に抑えながら、亀裂の視認性を最もよく表示することが知られている基準色と照合される。基準色に最も近い色の画像は、処理のためにニューラルネットワークに送られる。画像の一貫性の向上は、分析を(例えば、リターンアプリケーションのニューラルネットワークによって実行される)照明状態にあまり依存しないようにすることができる。
いくつかの実施態様では、画像のバースト捕捉は、明度レベルが同じでない(例えば、同じまたは異なるグラフィックを有する)1つまたは複数の画像の捕捉を容易にすることができる。次いで、画像内の色の1つまたは複数を基準色と照合して、基準色に最も近い(例えば、バースト捕捉画像のセットからの)捕捉画像を識別することができる。異なる明度レベルによるバースト捕捉を利用することにより、画像捕捉プロセスおよび/または分析のためにニューラルネットワークに送られる捕捉画像のより高い一貫性を可能にし、および/または、変動性を低減することができる。これにより、いくつかの実施態様では、分析の誤差を減らすことができる。
いくつかの実施態様では、第1のグラフィックの捕捉は、初期露出設定(複数可)を提供することができる。例えば、第1のグラフィックの画像を取得し、分析して、初期露出設定を識別することができる(例えば、画像が明るすぎる場合、ぼやけた場合など)。初期露出設定を生成することによって、画像捕捉を改善することができる。
様々な実施態様において、デバイス(例えば、携帯デバイス、ラップトップなどの電子機器)の1つまたは複数の画面の状態を識別することができる。デバイスの状態は、デバイスの動作および/または他のデバイスの動作を使用して判定することができる。例えば、第1のデバイスがカメラを欠いており、かつ/または動作可能なカメラを欠く場合、第2のデバイスを利用して、第1のデバイスまたはその一部(例えば、画面、前面など)の画像を捕捉することができる。別の例として、第1のデバイスの構成要素が第1のデバイスを少なくとも部分的に動作不能にする(例えば、使用によってユーザを傷害し、かつ/または、デバイスをさらに損傷させる可能性があるような画面亀裂、タッチスクリーンが機能しない、スタックピクセルが使用を妨げるなど)場合、第2のデバイスを利用して、
第1のデバイスまたはその一部(例えば、画面、前面、背面など)の画像を捕捉することができる。
いくつかの実施態様では、第1のデバイスを利用して、鏡などの反射面にデバイスの画像を捕捉することができるようにデバイスを位置決めすることによって、第1のデバイスの画像を捕捉することができる。(例えば、同様のデバイスの画像が代わりに提示されないように)画像を捕捉するためにデバイス自体のカメラを利用することによって、詐欺行為に関連するリスクを減少させることができる。画面のような第1のデバイスの構成要素またはその一部の状態の評価を求める要求を、第1のデバイス上のリターンアプリケーションを介して受け取ることができる。リターンアプリケーションは、第1のデバイスに常駐してもよく、および/または第1のデバイスによってアクセス可能であってもよい(例えば、遠隔に格納されてもよい)。リターンアプリケーションは、ユーザとの通信を容易にし、および/またはデバイスの画面上にグラフィックを提示するために、1つまたは複数のグラフィカルユーザインターフェースを提示することができる。
リターンアプリケーションは、第1のデバイスのカメラによる捕捉のために、(例えば、リターンアプリケーションによって生成されたグラフィカルユーザインターフェースを介して)第1のデバイスの画面上に1つまたは複数のグラフィックを提示することができる。例えば、第1のグラフィックを、(例えば、リターンアプリケーションによって)第1のデバイスの画面(例えば、表示構成要素)上で生成および/または提示することができる。第1のグラフィックは、デバイスに関連付けられたIMEI、リターンアプリケーションによって生成され、デバイスに関連付けられたコード番号、QRコード(登録商標)などの1つまたは複数の第1の識別コードを含むことができる。識別コードは、第1のデバイスのアイデンティティを検証するために分析することができる(例えば、復号される、コードの一覧と比較されるなど)。第1のグラフィックの第1の画像の少なくとも一部は、第1のデバイスのカメラによって捕捉されてもよい。第1の画像は、鏡のような反射面上の第1のグラフィックの反射を含むことができる。第1のグラフィックおよび/または第1のグラフィックの識別コードは、他の捕捉画像(例えば、第2のグラフィックを含む第2の画像)にタグ付けまたはその他の方法で埋め込まれてもよい。第1のグラフィックは、後のグラフィックの提示および/または捕捉に使用される初期設定(例えば、輝度、コントラスト、向き、反射面までの距離など)を判定するためにリターンアプリケーションによって利用されてもよい。いくつかの実施態様では、第1のグラフィックは利用(例えば、生成および/または捕捉)されなくてもよい。
デバイスまたはその一部(例えば、画面)における損傷の識別を容易にするために、リターンアプリケーションによって他の画像を生成および/または提示することができる。1つまたは複数の第2のグラフィックが、(例えば、リターンアプリケーションのグラフィカルユーザインターフェースを介して)第1のデバイスの画面上で生成および/または提示されてもよい。第2のグラフィックは、(例えば、訓練されたニューラルネットワークを使用した)リターンアプリケーションによる損傷(例えば、亀裂、凹み、チップなど)の識別を容易にするように構成されたグラフィックを含むことができる。例えば、第2のグラフィックは、単色、色の変化、パターン(複数可)、画像などを含むことができる。いくつかの実施態様では、第2のグラフィックは、グラフィック内に表示される画像が変化する、および/または、第2のグラフィックを画面上に提示するために使用される設定が変化するグラフィックのセットを含むことができる。例えば、提示される画像の明度は、捕捉のために第2のグラフィックを別様に提示するように変更することができる。いくつかの実施態様では、単一の第2のグラフィックを生成および/または提示することができる(例えば、単色の緑のグラフィック)。第2のグラフィックのうちの少なくとも1つの第2の画像のうちの1つまたは複数の少なくとも一部が、(例えば、第1のデバイスのカメラを介して)捕捉されてもよい。第2の画像のうちの1つまたは複数は、鏡のよう
な反射面上の、第2のグラフィックのうちの少なくとも1つの反射を含むことができる。捕捉画像は、画面よりも多く(例えば、前面、デバイスに近接する領域など)を含むことができる。リターンアプリケーションは、第1のデバイスのカメラ構成要素を制御することおよび/またはユーザが当該カメラ構成要素を制御することを許容することが可能であり得る。リターンアプリケーションは、第1のデバイスのカメラによって捕捉されている画像にアクセスすることができる。
いくつかの実施態様では、捕捉画像(例えば、捕捉されている第1の画像および/または第2の画像)は前処理されてもよい。前処理は、ユーザデバイス上および/またはサーバ上のリターンアプリケーションによって(例えば、訓練されたニューラルネットワークを使用して)実行されてもよい。前処理は、例えば、提示画像および/または画面の損傷に関連しない捕捉画像内の部分(例えば、障害物、フラッシュ反射など)を識別することによって、低品質画像を識別することができる。前処理は、部分画像および/またはぼやけた画像を識別することができる。いくつかの実施態様では、捕捉画像の品質が悪いという前処理におけるリターンアプリケーションによる判定によって、リターンアプリケーションが画像を拒絶し、および/または画像の再捕捉を要求することができる。画像を再捕捉すると、リターンアプリケーションは、第1のデバイスの画面上のグラフィックを再生成および/または提示することができる。リターンアプリケーションは、グラフィック、デバイス設定を修正し、および/または、ユーザに、再捕捉における調整(例えば、フラッシュの制限、向きの調整など)を促すことができる。いくつかの実施態様では、低品質の画像を処理して、デバイスの構成要素の状態を識別することができる。
第1のデバイスの画面のような構成要素の状態を判定するために、第2の画像のうちの1つまたは複数を処理することができる。第2の画像(複数可)を処理することは、第2の画像を部分に分割することと、第2の画像の部分の1つまたは複数が損傷を含むか否かを判定することとを含むことができる。第2の画像は、(例えば、画像処理全体と比較したときに)より迅速な処理を可能にし、(例えば、損傷の確率を判定する際に近接領域の分析を可能にすることによって)正確度を向上させるために、部分に分割することができる。いくつかの実施態様において、損傷を含む部分のうちの1つまたは複数に隣接する部分を、隣接部分として識別することができる。隣接部分は、損傷を含む場合があり、または含まない場合がある。
第1のデバイスの画面の状態は、第2の画像のうちの1つまたは複数の部分のうちの1つまたは複数が損傷を含むと判定されたか否か、および、損傷を含むと判定されている部分の1つに隣接する部分(例えば、特定の部分に近接する部分)のうちの1つまたは複数もが損傷を含むか否かに基づいて判定することができる。例えば、ニューラルネットワークは、共通の損傷パターンを識別するように訓練されてもよく、隣接する部分に関する情報(例えば、近接する部分が損傷しているか否か)を用いてある部分が損傷しているか否かを判定してもよい。
いくつかの実施態様では、第1のデバイスの画面などの構成要素が損傷しているか否かの判定は、レーティング(例えば、重症度レーティング、損傷タイプのレーティングなど)、損傷の位置などの追加の損傷情報を含むことができる。付加的な損傷情報および/またはデバイスの構成要素が損傷しているか否かの判定は、ユーザに提示することができ、および/または、リターンアプリケーションの他の動作において利用することができる(例えば、保険請求、保証請求などに対する評価の低減)。
記載されているプロセスは、システム100などの様々なシステムによって実装することができる。さらに、様々な動作が追加、削除、および/または変更されてもよい。いくつかの実施態様では、プロセスまたはその一部は、プロセス200および/または400
などの他のプロセスからの動作と組み合わせて実行されてもよい。例えば、第2の画像の捕捉は、第2の画像のバースト捕捉を含んでもよい。バースト捕捉が許可されるとき、デバイス設定が変更されてもよい。捕捉画像は、捕捉画像のいずれのセットを処理すべきかを識別するために、基準画像と比較することができる。例えば、基準色と最も近い色を有する画像が選択されてもよい(例えば、輝度および/またはコントラストをデバイス上で調整して、画像捕捉のバーストが行われるときに第2の画像内の異なる色を得ることができる)。捕捉画像のセットは、どの画像が処理され得るかを識別するために前処理されてもよい。別の例として、捕捉された第2の画像を処理することは、画像のうちデバイスの画面に関連付けられていない部分が画像から除去されている(例えば、トリミングされている)第3の画像の生成を含むことができる。この第3の画像は、画面が損傷しているか否かを識別するために、ニューラルネットワークの少なくとも一部によって分析されてもよい(例えば、部分に分割され、および/または分析されてもよい)。いくつかの実施態様では、低品質の画像を処理して、デバイスの構成要素の状態を識別することができる。例えば、ぼやけた画像が処理されてもよく、ニューラルネットワークは、(例えば、損傷の過度の識別を回避するために損傷検出の感度を低下させることによって)分析において画像のぼやけを考慮することができる。
いくつかの実施態様では、第1のデバイスの状態を取得するために、第2のデバイスによって動作のうちの1つまたは複数が実行されてもよい。例えば、第2のデバイスは、リターンアプリケーションによって第1のデバイスに提示される画像を捕捉するためのカメラを含むことができる。第2のデバイス上のリターンアプリケーションは、画像の捕捉を可能にし、ならびに/または、第1のデバイス上の画像の提示、捕捉画像の処理(例えば、前処理および/または処理)、および/もしくは、第1のデバイスの状態の識別を協調させることができる。いくつかの実施態様では、状態が判定されているデバイスとは異なるデバイスを使用して画像を捕捉することに関連する詐欺行為の変化の増大を、保険引受、セキュリティ措置(例えば、下取り、売却、および/または返品のためのデバイスの受領時の物理的検査)、および/または割引(例えば、判定された価値および/または販売価格の低下)において考慮することができる。
いくつかの実施態様では、画像の捕捉は、少なくとも部分的に自動化されてもよい。画像が初期露出設定を満たすとき、画像を得ることができる。例えば、ユーザは電話機を動かす場合があり、電話機が最適な位置にあるとき(例えば、初期露出設定を満たすとき)、画像は自動的に捕捉され得る。初期露出設定は、画面および/または鏡に対するカメラの配置、傾斜角、フラッシュ設定、輝度設定などに関する基準を含むことができる。いくつかの実施態様では、初期露出設定の電話機画面輝度は、電話機識別コードを位置付ける前に較正することができる。いくつかの実施態様では、輝度は、異なる輝度および露出設定によって較正期間中に調整されてもよい。QRコード(登録商標)などの識別コードの所定の視認性の輝度が、現在の照明状態における基準輝度として選択され得る。この基準輝度は、いくつかの実施態様において、輝度が異なる複数の画像捕捉の中央値として使用されてもよい。
いくつかの実施態様では、捕捉画像は、フル解像度またはより低い解像度でニューラルネットワークによって処理されてもよい。異なるレベルに送信される画像は、変化しても変化しなくてもよい。例えば、捕捉画像は、フル解像度でニューラルネットワークのすべてのレベルに通され、PNGファイルのままであってもよい。いくつかの実施態様では、画像がニューラルネットワークの第1のレベルに送られると、画像は(例えば128x256に)縮小され得る。ダウンサンプリングされた画像は、色の強度のアレイとしてニューラルネットワークの1つまたは複数の層に送られてもよい。例えば、Byte(red) Byte(green) Byte(blue), Byte(red), Byte(green), Byte(blue)はピクセル(0,0)およびピクセル(0,
1)の2ピクセルである。いくつかの実施態様では、ニューラルネットワークの第1の層は、前処理(例えば、画像の品質が悪く、処理不能である、および/または、画像が処理可能であるという結果を返す)であってもよい。いくつかの実施態様では、捕捉画像が最終層に送られるとき、捕捉画像は、パッチおよびスライドによってサンプリングされてもよい(例えば、パッチは32であってもよく、それによって、タイルは32×32であり、スライドは17であってもよく、それによって、ネットワークは1,1からタイルを取り出し、次に、次のタイルは1,17から取り出され、ならびに/または、その他の適切なパッチおよび/またはスライドであってもよい)。ニューラルネットワークの内層に送られるタイルについて、重複があってもよく、なくてもよい。サンプル(例えば、32×32タイル)は、色強度を表すRGBバイト値のアレイとして最終的なニューラルネットワーク層に送られてもよい。いくつかの実施態様では、これは、長手方向および/または幅方向に行うことができる。ニューラルネットワークは、捕捉画像の任意の適切な点において開始することができる。いくつかの実施態様では、画面が画像の中心にあり、エッジが無視され得る背景を含むので、ほぼ中央で開始することは処理において速度的に有利であり得る。
いくつかの実施態様では、前処理は、捕捉画像の品質が悪いか否かを識別することができる。前処理は、いくつかの実施態様において、ニューラルネットワーク(例えば、ニューラルネットワークの第1の層)によって実行されてもよい。例えば、ニューラルネットワークは、粒子の粗い画像、ぼやけた画像、不良なコントラスト(例えば、暗い)、悪い色(例えば、輝度)、ミスマッチな画像(電話機が予測されるときに電話機がない)、指、電話機ケースなどの障害物、部分画面などのような、不良な画像を識別することができる。
いくつかの実施態様では、リターンアプリケーション(例えば、リターンアプリケーションのニューラルネットワーク)は、デバイスまたはその一部の状態を損傷しているまたは損傷していないものとして識別することができる。リターンアプリケーションは、損傷の種類、損傷の程度などを識別することができる。例えば、ニューラルネットワークは、損傷の種類および/または損傷の程度を識別するように訓練することができる。ニューラルネットワークは、損傷の重症度をレーティングすることができる。例えば、ニューラルネットワークの出力は、亀裂、凹み、スタックピクセル、欠陥軽微、良好などのような、状態に関する詳細を提供することができる。いくつかの実施態様では、状態および/またはニューラルネットワークの出力は、単純な整数0〜x、バイナリ000001、および/または合計すると1.0になる割合などの出力フォーマットで提供されてもよい。
いくつかの実施態様では、ニューラルネットワークは、(例えば、処理の前に)ゼロレベルを有することができる。いくつかの実施態様では、2つ以上のレベル(例えば、最終処理層を含む)を有するニューラルネットワークを利用することによって、処理を促進することができ、および/または正確度を改善することができる。リターンアプリケーションは、所望のパラメータに基づいてカスタマイズすることができる。例えば、ぼやけた画像を識別することは、障害物を判定するより容易かつ/または迅速であり得、したがって、ぼやけた画像を識別するためだけに前処理するリターンアプリケーションは、障害物および/または他の低い画像品質について前処理するリターンアプリケーションよりも少ない層を有することができる。いくつかの実施態様では、リターンアプリケーションによって提供される誘導は、より良好な画像捕捉を可能にすることができ、欠陥を識別するために単一層(例えば、最終層)ニューラルネットワークを利用することができる。
いくつかの実施態様では、リターンアプリケーションは、品質の悪い捕捉画像を処理することができる。例えば、色および/またはぼやけに基づいて画像を排除するのではなく、部分のレーティングおよび/または色強度を、リターンアプリケーションによって処理
することができる。リターンアプリケーションは、他の部分の処理を禁止してもよく、しなくてもよい。例えば、レーティングは、レーティングが0であれば画像がぼやけていないことを示し、レーティング255はこの画像が非常にぼやけていることを示すなど、値、色および/または他の指標であってもよい。レーティング尺度は、線形または非線形であってもよい。リターンアプリケーション(例えば、ニューラルネットワーク)は、レーティングに基づいて調整(例えば、感度を増加および/または減少)することができる。例えば、リターンアプリケーションは、レーティング255の捕捉画像の亀裂を識別する際に感度/強度を低下させることができる。したがって、様々な欠陥画像を、低品質画像に基づいて処理することができ、および/またはほぼ正確に処理することができる。
いくつかの実施態様では、デバイスの他の部分が、説明したようにリターンアプリケーションによって捕捉され、および/または処理されてもよい。例えば、リターンアプリケーションは、携帯電話ケーシング(例えば、前面および/または背面)上の亀裂の評価を容易にすることができる。
いくつかの実施態様では、デバイス画面が損傷しているか否かの判定は、損傷の程度、損傷が1つまたは複数の損傷カテゴリ(例えば、完全、亀裂、引っ掻き、反射)に関連するか否か、損害が存在する確率、および/またはその他の適切な損傷分類の判定であってもよい。例えば、デバイス画面が損傷しているか否かの判定は、画面に亀裂があるか、亀裂がないかの判定であってもよい。いくつかの実施態様では、判定は、例えば、−1と1の間の結果をもたらしてもよく、0より小さい値は亀裂のないデバイス画面に関連付けられ、0より大きい値は亀裂のあるデバイス画面に関連付けられる。例えば、いくつかの実施態様では、値は、デバイス画面が損傷している確率に関連付けられてもよく、デバイス画面は、確率が所定の値よりも大きい場合、損傷または亀裂があるものとして識別され得る。例えば、デバイス画面に亀裂がある確実性が90%を超える(例えば、>.80)場合、デバイスおよび/またはデバイス画面は亀裂があると識別することができる。いくつかの実施態様では、分析は、各部分、隣接する部分のセット、すべてのデバイス部分、および/またはデバイス全体について実行されてもよい。
いくつかの実施態様では、デバイス画面に対する損傷の位置、範囲(例えば、どれくらいの深さ、どの層(複数可)にあるかなど)、および/または損傷が他の構成要素に影響を及ぼすか否かを(例えば、システムのニューラルネットワークによって)判定することができる。例えば、損傷が個別の部分で検出されることがあるため、いくつかの実施態様では、損傷のおおよその位置を判定し、および/またはユーザに送信することができる。いくつかの実施態様では、損傷の位置は、デバイスについて提示される基本価格を調整し得る。例えば、デバイス画面のアクティブ領域にない、画面内の小さな亀裂は、デバイス画面のアクティブ領域にある亀裂よりも価格の下げ幅が小さい場合がある。いくつかの実施態様では、ユーザに画面損傷の位置が通知されてもよい。この情報は、ユーザが、識別された画面損傷が実際に画面損傷であるか、または取り除くことができるデバイス上のマークであるかを判定するのを助けることができる。いくつかの実施態様では、損傷の範囲は、(例えば、デバイスを修復するとき)画面が修復可能であるか、または交換がより適切であるかの識別を容易にするために判定され得る。
いくつかの実施態様では、損傷が検出されたデバイス画面の部分の位置にフラグを付けることができる(例えば、異なる色、パターン、フラグ、および/またはその他の適切な印)。図8Aは、デバイス画面の例示的な捕捉画像の実施態様を示す。図示されているように、デバイス画面は、捕捉画像内に目に見える亀裂を含む。捕捉画像は、複数の部分に分割され、部分のうちの1つまたは複数が所定の確率よりも高い損傷の確率を有するか否かを判定するために分析される。いくつかの実施態様では、隣接する部分が損傷を含むか否かによって、デバイス画面および/またはその部分が損傷を受けているか否かを判定す
ることができる。システムは、フラグを用いて所定の確率よりも高い損傷を有する部分を識別することができる。図8Bは、図8Aに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す。インターフェースは、(例えば、リターンアプリケーションおよび/またはサーバに結合されたウェブサイトを介して)生成され、ユーザに提示されてもよい。図示されているように、より暗い(例えば、赤色)フラグは、損傷部分として識別されている部分を示す。ユーザは、フラグを視認し、デバイス画面の損傷部分ではないとユーザが考えるフラグと争い、および/または損傷部分を検証することができる。図8Cは、デバイス画面の例示的な捕捉画像の実施態様を示す。図示されているように、デバイス画面は損傷していない。したがって、デバイス画面の画像が分析されるとき、フラグは生成されない。図8Dは、図8Cに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す。図示されているように、デバイス画面の状態の自動判定は損傷を全く検出せず、したがってデバイス画面のどの部分にも損傷があるとしてフラグを付されていない。別の例として、図8Eは、デバイス画面の例示的な捕捉画像の実施態様を示す。図示されているように、デバイス画面は損傷を含む。図8Fは、図8Eに示すデバイス画面が損傷しているか否かの判定の結果として生成されるインターフェースの実施態様を示す。デバイス画面の状態の判定の結果として、値appは、デバイス画面の損傷した部分にフラグを立てることができる。より暗いフラグ(例えば、赤色のフラグ)は、システムによって、損傷を受けたとしてラベル付けされたデバイスの部分を示す。
様々な実施態様では、デバイス画面の状態の判定(例えば、デバイス画面が損傷しているか損傷していないか)を使用して、デバイスの状態を判定し、および/またはデバイスをさらにテストすることができる(例えば、一般的に使用されている技法および/または記載されている技法に従って)。例えば、デバイスの構成要素に近接して画面に亀裂がある場合、および/または所定の最大サイズよりも大きなサイズ(例えば、深さおよび/または幅)を有する亀裂がある場合、さらに他のテストが実行されて、1つまたは複数の他の構成要素 (例えば、マイクロホン、スピーカ、タッチスクリーン層、および/またはケース)が損傷しているか否かを判定することができる。例えば、構成要素の動作を(例えば、自動的に、半自動的に、および/または手動で)試験することができる。デバイス(例えば、画面を含む構成要素)の状態、市場データ、現在の再販価格、および/または他の情報を利用して価格を判定することができる。価格は、ユーザに送信することができ、および/またはリターンアプリケーションを介して表示することができる。ユーザは、いくつかの実施態様では、リターンアプリケーションに提示された価格に基づいてデバイスを販売することができる。
いくつかの実施態様では、デバイス画面が損傷していると判定された場合、タッチスクリーンテストを実行することができる。タッチスクリーンテストは、リターンアプリケーションを介して実行することができる。例えば、リターンアプリケーションは、ユーザに、リターンアプリケーションからの指示に基づいて入力を提供するように促すことができ、ユーザによって提供される入力に基づいてタッチスクリーンの状態(例えば、損傷しているかまたは損傷していないか、損傷の位置および/または損傷の範囲)に関する判定を行うことができる。タッチスクリーンテストの結果は、デバイス画面への損傷の深さおよび/またはデバイスの1つまたは複数の他の構成要素への損傷を判定するために利用され得る。
いくつかの実施態様では、デバイスのグレードは、デバイス画面が損傷しているか否か、損傷が存在する場合の画面上の損傷の位置、損傷が存在する場合の画面に対する損傷の大きさ、デバイスの1つまたは複数の他の構成要素が損傷しているか否か、再販価格、リサイクル/スクラップ値、および/または他の適切な基準の判定に少なくとも部分的に基づいてもよい。例えば、デバイスが画面損傷を受けていない場合、デバイスは第1のグレ
ードを受けることができる。デバイスの画面が損傷している場合、第1のグレードよりも低い第2のグレードをデバイスに割り当てることができる。デバイスに画面損傷およびタッチスクリーン損傷がある場合、第2のグレードより低い第3のグレードをデバイスに割り当てることができる。デバイスのグレーディングは、ユーザがデバイスの販売のために提示される価格および/またはデバイスが再販される価格(例えば、市場において、第三者に対してなど)に関連し得る。
いくつかの実施態様では、デバイス画面に対する損傷の評価は、主観性を減じることができ(例えば、損傷が自動的に判定され得るため)および/または一貫性を高めることができる(例えば、位置および/またはサイズ)ので、デバイスの全体的な評価をより詳細にすることができ、および/または、より多くの可能なレベルにわたってグレーディングを行うことができる。そのため、デバイスの状態間のより小さい差異をより一貫してより迅速に提供することができる。たとえば、画面のアクティブ領域と重複しない画面の損傷は、画面の損傷領域としてグレーディングされ得るが、画面のアクティブ領域に損傷がある画面よりも高いグレーディングが適用される。
いくつかの実施態様では、画像(複数可)は、デバイスのメモリおよび/またはデバイスに結合されたメモリ(例えば、クラウドストレージおよび/またはサーバのメモリ)に格納されてもよい。リターンアプリケーションは、デバイスのネットワーク接続(例えば、LTE、Wi−Fiなど)に基づいて、サーバへの画像のアップロードを管理することができる。
いくつかの実施態様では、人間(例えば、品質制御オペレータ)によって画面の損傷を検証することができ、このフィードバックをニューラルネットワークに提供して正確度を上げ、および/またはサーバのニューラルネットワークによって提供される分析を調整することを可能にすることができる。
画面状態は、亀裂による損傷の観点から説明されているが、ピクセルへの損傷(例えば、破損、スタックなど)、凹みなどの他の損傷もまた、リターンアプリケーションを介して判定することができる。例えば、アプリケーションは、デバイス画面上に1つまたは複数のグラフィックが表示されるようにすることができ、(例えば、デバイス上のカメラを介して)デバイス画面上のグラフィックの画像が捕捉されるようにすることができる。例えば、グラフィックは、画面上に提示される単一の色、様々な色を有するグラフィック、パターン(複数可)を有するグラフィック、および/または画面損傷の識別を容易にするように設計されたグラフィックを含むことができる。画像に提示される色は、1つまたは複数のピクセルが正確に色を提示していないかを判定するために(例えば、サーバのニューラルネットワークによって)分析されてもよい。いくつかの実施態様では、k平均を使用して、画像内のほぼ同じ色の特徴を認識することができる。したがって、ピクセルへの損傷は、捕捉画像(複数可)の分析に少なくとも部分的に基づいて識別され得る。
実施態様は市販のニューラルネットワークを含むことができるが、いくつかの実施態様では、ニューラルネットワークは、パターンを学習し、亀裂を認識し、デバイス上に存在する損傷の確率を割り当てることが可能である、および/または他の適切な機能を有するカスタマイズされたニューラルネットワークであってもよい。いくつかの実施態様では、ニューラルネットワークは、リターンアプリケーションによってアクセス可能なクラウドベースのシステムを含むことができる。いくつかの実施態様では、ニューラルネットワークは、デバイス上に格納され動作可能であってもよい。
いくつかの実施態様では、ニューラルネットワークは、ニューラルネットワークがデバイスの画面の状態をどのように識別するかを学習することを可能にする学習ツールを使用
して訓練することができる。図9A、図10Aおよび図11Aは、学習ツールの実施態様を示し、図9B、図10Bおよび図11Bは、関連する第2の画像を示す。図9C、図10Cおよび図11Cは、ニューラルネットワークによる第2の画像の処理の例を示し、図12A〜図12Bは、ニューラルネットワークによって達成される正確度および交差エントロピーの例を示す。ニューラルネットワークは、0以上の層を含むことができる。いくつかの実施態様では、ニューラルネットワークは、捕捉画像からのデバイスの画面の状態の処理および識別を容易にするために多層化されてもよい。ニューラルネットワークは、図9B〜図11Bに示される例示的な捕捉画像および図9A〜図11Aに示される損傷が識別される対応する例示的な画像などの例示的な画像を提供することによって訓練され得る。図9B〜図11Bに示すように、損傷が(例えば、異なる色および/またはパターンによって)識別される。ニューラルネットワークは、記載されている動作のうちの1つまたは複数に従って画像9B〜11Bのような例示的な捕捉画像を処理することができる。例えば、捕捉画像は、複数の部分に分割されてもよく、その中のどの部分が損傷を含むかをニューラルネットワークによって判定することができる。この結果は、学習ツールと比較することができ、図12A〜図12Bに示すように、ニューラルネットワークが学習してより正確になることができる。
鏡が、デバイスの画面上に提示された画像を反射する反射面を提供するものとして説明してきたが、鏡の代わりに、および/または鏡と共に、任意の反射面を使用することができる。例えば、金属の反射片および/またはプラスチックの反射片を使用して、デバイス画面の画像を捕捉することができる。
ユーザは人間として説明されているが、ユーザは、1人の人、人のグループ、1つまたは複数のコンピュータと相互作用する1人または複数の人、および/またはコンピュータシステム(例えば、デバイス、ロボット)であってもよい。
様々な実施態様において、デバイスが記載されている。デバイスは、スマートフォン、タブレット、ラップトップ、ゲームコンソール、携帯メディアプレーヤ(例えば、電子リーダおよび/またはビデオプレーヤ)、ウェアラブル(例えば、時計、宝飾品など)、アプリケーションの実行および/またはデバイスの写真の撮影を行うことができるビデオカメラのような、任意の適切なデバイスであってもよい。デバイスは、メモリ、プロセッサ、およびカメラ(例えば、画像を捕捉することができる構成要素)を含むことができる。デバイスは、リターンアプリケーションをメモリに格納することができ、プロセッサは、リターンアプリケーションを実行して、記載された動作のうちの1つまたは複数を実行することができる。いくつかの実施態様では、デバイスは、サーバの代わりに、またはサーバと連携して、サーバによって実行されるように記載された動作のうちの1つまたは複数を実行することができる。
様々な実施態様において、サーバが説明されている。サーバ110は、メモリと、命令を実行し、サーバの動作を実行するためにデータを操作するプロセッサとを含むことができる。サーバは、いくつかの実施態様では、クラウドベースであってもよく、および/またはクラウドベースの処理および記憶をサポートしてもよい。説明したように、ニューラルネットワークはサーバのメモリに格納されてもよく、プロセッサはニューラルネットワークの機能を実行してもよい。メモリは、データのリポジトリ(例えば、データベース)を含むことができる。データは、ニューラルネットワークを教示および/または設定するためのデータ(例えば、画像のセット、正確におよび/または誤って識別された損傷に関するフィードバック、パターン等)、再販価格、デバイスについて提示するための価格、画面修理および/または交換コスト、画像補足情報の所定の位置、市場情報、再使用情報、保険情報、デバイスの識別を確認するための情報、および/またはその他の適切な情報を含むことができる。
さらに、様々なソフトウェアがサーバのメモリに格納されてもよい。例えば、ソフトウェアは、デバイスと通信すること、デバイス画面の状態を判定する1つまたは複数の動作を実行すること、デバイスの1つまたは複数の構成要素に対してテストを実行すること等が可能であり得る。様々な実施態様では、捕捉画像のうちの1つまたは複数は、デバイスもしくはサーバのメモリに格納することができ、および/または(例えば、ユーザデバイスからサーバへ、および/またはその逆に)送信され得る。
サーバ上のソフトウェアおよび/またはリターンアプリケーションは、ユーザとの対話を容易にするグラフィカルインターフェースを含むことができる。通信インターフェースが、サーバがネットワークを介して他のリポジトリおよび/またはデバイスと通信することを可能にすることができる。通信インターフェースは、ネットワークプロトコル(例えば、TCP/IP、ブルートゥース(登録商標)、および/またはWi−Fi)および/またはバス(例えば、シリアル、パラレル、USB、および/またはFireWire)を介して、サーバへとおよび/もしくはサーバからデータを送信することができ、ならびに/または、デバイスおよび/もしくは結合リポジトリおよび/もしくは他のコンピュータシステムからデータを受信することができる。
サーバおよび/またはリターンアプリケーションのグラフィカルユーザインターフェース(GUI)は、デバイスの画面などの提示インターフェース上に表示することができる。GUIは、デバイスのユーザがリポジトリおよび/またはサーバと対話することを可能にするように動作可能であってもよい。一般に、GUIは、サーバおよび/またはリターンアプリケーションによって提供されるデータの効率的かつユーザフレンドリな提示を、デバイスのユーザに提供する。GUIは、対話型フィールド、プルダウンリスト、およびユーザによって操作されるボタンを有する複数の表示を含むことができる。一例として、GUIは探索型インターフェースを提示し、ユーザからコマンドを受信する。グラフィカルユーザインターフェースという用語は、特定のグラフィカルユーザインターフェースの表示の各々の中の1つまたは複数のグラフィカルユーザインターフェースを記述するために、単数形または複数形で使用されてもよいことを理解されたい。さらに、GUIは、サーバおよび/またはデバイス内の情報を処理し、その情報をユーザに効率的に提示する、一般的なウェブブラウザのような任意のグラフィカルユーザインターフェースを企図する。いくつかの実施態様では、GUIは、リターンアプリケーションおよび/またはサーバからのコンテンツを埋め込むウェブページを提示することができる。サーバは、ウェブブラウザ(例えば、Microsoft Internet ExplorerまたはSafari)を介してデバイスからデータを受け取り、適切なハイパーテキストマークアップ言語(HTML)または拡張可能マークアップ言語(XML)の応答を返すことができる。
図1は、本開示で使用することができるサーバの一例を提供しているが、サーバは、サーバ以外のコンピュータおよびサーバプールを用いて実装することができる。例えば、サーバは、汎用パーソナルコンピュータ(PC)、Macintosh(登録商標)、ワークステーション、UNIX(登録商標)ベースのコンピュータ、サーバコンピュータ、またはその他の適切なデバイスを含むことができる。一実施態様によれば、サーバは、ウェブサーバおよび/またはクラウドベースのサーバを含むことができる。サーバは、UNIX(登録商標)、Linux(登録商標)、Windows(登録商標)、またはその他の適切なオペレーティングシステムを含む任意のオペレーティングシステムを実行するように適合されてもよい。手短に言えば、サーバは、データへのアクセスを提供し、および/またはデータを適切な互換フォーマットに変換するのに適した任意の組み合わせのソフトウェアおよび/またはハードウェアを含むことができる。
実施態様は、サーバおよび/またはデバイス内の単一のプロセッサを記述しているが、特定のニーズに応じて複数のプロセッサを使用することができ、プロセッサへの参照は、適切な場合に複数のプロセッサを含むように意図されている。プロセッサは、プログラム可能論理デバイス、マイクロプロセッサ、または論理的に情報を操作するためのその他の適切なデバイスを含むことができる。
実施態様は、リターンアプリケーションの分析の少なくとも一部を実行するためのニューラルネットワークの使用を論じているが、他のコンピューティングデバイスによって実装される分析フレームワークを適宜使用することができる。実施態様は、ニューラルネットワークをサーバ(複数可)(例えば、物理サーバおよび/または仮想サーバ)に含まれるものとして説明しているが、ニューラルネットワークは他のデバイスに収容されてもよい。例えば、ニューラルネットワークは、モバイルデバイスのような第1のデバイスおよび/または第2のデバイスなどのユーザデバイス上で実行および/または少なくとも部分的に実行することができる。ニューラルネットワークは、いくつかの実施態様では、クラウドベースであってもよく、サーバおよび/またはユーザデバイス(例えば、第1のデバイスおよび/または第2のデバイス)によってアクセスされてもよい。
実施態様は、サーバおよび/またはデバイスの単一のメモリを記述するが、複数のメモリを適宜使用することができる。例えば、メモリは、SQLデータベース、リレーショナルデータベース、オブジェクト指向データベース、分散データベース、XMLデータベース、クラウドベースメモリ、デバイスメモリ、および/またはウェブサーバリポジトリを含むことができる。さらに、メモリは、読み出し専用メモリ(ROM)、光学メモリ(例えば、CD、DVD、またはLD)、磁気メモリ(例えば、ハードディスクドライブ、フロッピー(登録商標)ディスクドライブ)、NANDフラッシュメモリ、NORフラッシュメモリ、電気的消去可能プログラマブル読み出し専用メモリ(EEPROM)、強誘電体ランダムアクセスメモリ(FeRAM)、磁気抵抗ランダムアクセスメモリ(MRAM)、不揮発性ランダムアクセスメモリ(NVRAM)、不揮発性スタティックランダムアクセスメモリ(nvSRAM)、および/または相変化メモリ(PRAM)のような揮発性メモリ(例えば、RAM)または不揮発性メモリのような、1つまたは複数の形態のメモリを含むことができる。
実施態様は記載された特定のシステムまたはプロセスに限定されず、当然のことながら変更することができることを理解されたい。また、本明細書で使用する用語は、特定の実施態様を説明するためのものにすぎず、限定するものではないことも理解されたい。本明細書中で使用される場合、単数形「a」、「an」および「the」は、内容が明らかにそうでないことを示さない限り、複数の指示対象を含む。したがって、例えば、「1つの画像」への言及は、2つ以上の画像の組み合わせを含み、「1つのグラフィック」への言及は、複数の異なるタイプおよび/またはグラフィックの組み合わせを含む。
本開示を詳細に説明したが、添付の特許請求の範囲によって規定される本開示の精神および範囲から逸脱することなく、本明細書において様々な変更、置換および改変を行うことができることを理解されたい。さらに、本出願の範囲は、本明細書に記載されるプロセス、機械、製造、組成物、手段、方法およびステップの特定の実施形態に限定されることを意図するものではない。当業者であれば本開示から容易に理解するように、本明細書において説明されている対応する実施形態と実質的に同じ機能を果たすか、または実質的に同じ結果を達成する、現在存在するまたは後に開発されるであろうプロセス、機械、製造、組成物、手段、方法またはステップを、本開示に従って利用することができる。したがって、添付の特許請求項は、そのようなプロセス、機械、製造、組成物、手段、方法またはステップをその範囲内に含むことが意図されている。

Claims (27)

  1. 電子デバイスの1つまたは複数の画面の状態を識別するための方法であって、
    第1のデバイスが、前記第1のデバイスの画面または前記画面の一部の状態の評価を求める要求を、リターンアプリケーションを介して受け取ることと、
    前記リターンアプリケーションが、前記第1のデバイスの前記画面上に第1のグラフィックを提示することとを含み、前記第1のグラフィックは第1の識別コードを含み、前記方法は、
    前記第1のデバイスが、前記第1のグラフィックの第1の画像の少なくとも一部を、前記第1のデバイスのカメラによって捕捉することを含み、前記第1の画像は、反射面上の前記第1のグラフィックの反射を含み、前記方法は、
    前記リターンアプリケーションが、1つまたは複数の第2のグラフィックを、前記第1のデバイスの前記画面上に提示することと
    前記第1のデバイスが、前記第2のグラフィックのうちの少なくとも1つの第2の画像のうちの1つまたは複数の少なくとも一部を、前記第1のデバイスの前記カメラを介して捕捉することとを含み、前記第2の画像の各々は、前記反射面上の、前記第2のグラフィックのうちの少なくとも1つの反射を含み、前記方法は、
    前記第1のデバイスおよび前記第1のデバイスに通信可能に接続されたサーバのうちの一方が単独で、または両方が連携して、前記第1のデバイスの前記画面の状態を判定するために、前記第2の画像のうちの1つまたは複数を処理することを含む、方法。
  2. 前記第1のデバイスまたは前記サーバが、前記第1の識別コードの分析に基づいて前記第1のデバイスのアイデンティティを検証することをさらに含む、請求項1に記載の方法。
  3. 前記第1のデバイスが、前記第2のグラフィックのうちの少なくとも1つの第2の画像のうちの1つまたは複数の少なくとも一部を捕捉することは、
    前記第1のデバイスの前記カメラを介して捕捉された前記第1の画像の少なくとも一部に基づいて前記第1のデバイスの向きを判定することと、
    前記判定された向きに基づいて前記第1のデバイスの向きを調整するための誘導を提供することと、
    を含む、請求項1に記載の方法。
  4. 前記第1のデバイスが、前記第1のグラフィックの追加の画像の少なくとも一部を、前記第1のデバイスの前記カメラを介して捕捉することをさらに含む、請求項3に記載の方法。
  5. 前記第1のデバイスが、前記第1のデバイスの向きを、前記第1のデバイスの前記カメラを介して捕捉された前記第1の画像の少なくとも一部に基づいて判定することと、
    前記第1のデバイスが、前記判定された向きに基づいて前記第1のデバイスの向きを調整するための誘導を提供することと、
    前記第1のデバイスが、前記第2のグラフィックのうちの少なくとも1つの追加の画像のうちの1つまたは複数の少なくとも一部を、前記第1のデバイスの前記カメラを介して捕捉することとをさらに含み、前記追加の画像の各々は、前記反射面上の前記第2のグラフィックのうちの少なくとも1つの反射を含む、請求項3に記載の方法。
  6. 前記第1のデバイスまたは前記サーバが、前記捕捉され第1の画像または前記捕捉され第2の画像のうちの1つまたは複数のうちの少なくとも1つが処理可能な画像ではないと判定することと、
    前記第1のデバイスが、以下を行なうことによって、処理可能な画像を捕捉するために前記第1のデバイスが向きを変えることを可能にすることとをさらに含み、
    前記以下を行なうことは、
    前記捕捉された第1の画像または前記1つもしくは複数の捕捉された第2の画像に基づいて、前記第1のデバイスの向きを判定することと、
    前記判定された向きに基づいて前記第1のデバイスの向きを調整するための誘導を提供することと、
    を含む、請求項3に記載の方法。
  7. 前記第1のデバイスが、前記捕捉された第2の画像のうちの1つまたは複数に、前記捕捉された第1の画像の少なくとも一部をタグ付けすることをさらに含む、請求項1に記載の方法。
  8. 前記サーバが、前記第2の画像内で前記第1のデバイスの画面または前記画面の一部を識別することは、コーナ検出またはエッジ検出の少なくとも1つを利用して、前記第2の画像内で前記第1のデバイスの画面を識別することを含む、請求項1に記載の方法。
  9. 前記第2の画像のうちの1つを処理することは、
    前記第2の画像内で前記第1のデバイスの前記画面または前記画面の一部を識別することと、
    第3の画像を生成することとを含み、前記第2の画像の、前記第2の画像内で画面または前記画面の一部として識別されない部分は、前記第3の画像に含まれないように制約され、
    前記第3の画像を部分に分割することと、
    前記第3の画像の前記部分のうちの1つまたは複数が損傷を含むか否かを判定することと、
    損傷を含む前記部分の1つまたは複数に隣接する部分を識別することと、
    を含み、
    前記第1のデバイスの前記画面の状態を判定することは、前記第3の画像のうちの1つまたは複数の前記部分のうちの1つまたは複数が損傷を含むと判定されるか否か、および、前記隣接する部分のうちの1つまたは複数が損傷を含むか否かに基づく、請求項1に記載の方法。
  10. 前記第3の画像を生成することは、前記第2の画像の、前記画面または前記画面の一部として識別されない部分が除去されるように、前記第2の画像を変更することを含む、請求項に記載の方法。
  11. 前記画面または前記画面の一部を識別することは、前記第1のデバイスの前記画面のアクティブ領域を識別することを含む、請求項に記載の方法。
  12. 前記第2の画像のうちの1つまたは複数を処理することは、
    前記第2の画像を部分に分割することと、
    前記第2の画像の前記部分のうちの1つまたは複数が損傷を含むか否かを判定することと、
    を含む、請求項1に記載の方法。
  13. 前記第2の画像のうちの1つまたは複数を処理することは、
    損傷を含む部分の1つまたは複数に隣接する部分を識別することと、
    前記第2の画像のうちの1つまたは複数の前記部分のうちの1つまたは複数が損傷を含むと判定されるか否か、および、損傷を含むと判定されている部分の1つに隣接する前記部分のうちの1つまたは複数も損傷を含むか否かに基づいて、前記第1のデバイスの前記画面の状態を判定することと、
    を含む、請求項12に記載の方法。
  14. 前記リターンアプリケーションは前記第1のデバイス上で実行される、請求項1に記載の方法。
  15. 前記リターンアプリケーションは、前記第1のデバイスから遠隔に実行され、前記第1のデバイス上で実行されるウェブブラウザを用いてアクセスされる、請求項1に記載の方法。
  16. 電子デバイスの1つまたは複数の画面の状態を識別する方法であって、
    第1のデバイスの画面または前記画面の一部の状態の評価を求める要求を、第2のデバイスが、前記第2のデバイス上でアクセスされるリターンアプリケーションを介して受け取ることと、
    前記リターンアプリケーションが、第1のグラフィックを、前記第1のデバイスの前記画面上に提示することとを含み、前記グラフィックは第1の識別コードを含み、
    前記第2のデバイスが、前記第1のデバイス上に提示される前記第1のグラフィックの第1の画像の少なくとも一部を、前記第2のデバイスのカメラを介して捕捉することと、
    前記リターンアプリケーションが、前記第1のデバイスの前記画面上に1つまたは複数の第2のグラフィックを提示することと
    前記第2のデバイスが、前記第1のデバイスに提示される前記第2のグラフィックのうちの少なくとも1つの第2の画像のうちの1つまたは複数の少なくとも一部を、前記第2のデバイスの前記カメラを介して捕捉することと、
    前記第1のデバイス、前記第2のデバイス、および前記第1のデバイスと前記第2のデバイスとに通信可能に接続されたサーバのうちの一つが単独で、または少なくとも2つ以上が連携して、前記第1のデバイスの前記画面の状態を判定するために、前記第2の画像の1つまたは複数を処理することとを含む、方法。
  17. 記第1のデバイスが損傷していると判定された場合、前記第1のデバイス、前記第2のデバイス、または前記サーバが、損傷情報を判定することと、前記第1のデバイス、前記第2のデバイス、または前記サーバが、前記判定された損傷情報に基づいて損傷を含むと判定された前記第2の画像の前記部分の1つまたは複数を識別するためにフラグを生成することとをさらに含む、請求項1に記載の方法。
  18. 前記第1のデバイスが損傷していると判定された場合、前記第1のデバイス、前記第2のデバイス、または前記サーバが、前記第1のデバイスのタッチスクリーンをテストすることをさらに含む、請求項1に記載の方法。
  19. 前記第1のデバイスが、前記捕捉された第1の画像に基づいて、前記第1のデバイスの前記画面の輝度を較正することをさらに含む、請求項1に記載の方法。
  20. 前記第1のデバイスが、前記第1のデバイスの前記画面上に前記第2のグラフィックのうちの1つまたは複数を提示することは
    前記第1のデバイス上にバースト画像のセットを提示することを含み、前記バースト画像のセットは、複数の明度レベルの前記第2のグラフィックのうちの少なくとも1つを含み、
    前記第2のデバイスが、前記第1のデバイス上に提示される前記第2のグラフィックのうちの1つまたは複数の少なくとも一部を捕捉することは、
    前記第1のデバイス上に提示される前記バースト画像のセットを捕捉することと、
    前記捕捉されたバースト画像セットのいずれの色が基準色と最も類似しているかを判定することによって、前記捕捉されバースト画像のうちの1つを選択することと、
    前記選択された捕捉されたバースト画像を、前記捕捉された第2のグラフィックの1つとして識別することと、
    を含む、請求項1に記載の方法。
  21. 前記第2のデバイスが、前記第2のグラフィックのうちの少なくとも1つの第2の画像の1つまたは複数の少なくとも一部を捕捉することは、
    前記第2のデバイスの前記カメラを介して捕捉された前記第1の画像の少なくとも一部に基づいて前記第1のデバイスの向きを判定することと、
    前記判定された向きに基づいて前記第1のデバイスの向きを調整するための誘導を提供することと、
    前記第1のグラフィックの追加の画像の少なくとも一部を、前記第1のデバイスの前記カメラを介して捕捉することと、
    を含む、請求項1に記載の方法。
  22. 前記第1のデバイスが前記第1のデバイスの前記画面上に1つまたは複数の第2のグラフィックを提示することは、前記第1のデバイスの前記画面上に2つ以上の第2のグラフィックを順次提示することを含み、前記第2のグラフィックのうちの1つまたは複数の少なくとも一部を捕捉することは、前記第1のデバイスの前記画面上に順次提示される前記第2のグラフィックの各々の少なくとも1つの画像を捕捉することを含む、請求項1に記載の方法。
  23. 前記第1のデバイスが前記第1のデバイスの前記画面上に1つまたは複数の第2のグラフィックを提示することは、前記第1のデバイスの前記画面上に2つ以上の第2のグラフィックを同時に提示することを含む、請求項1に記載の方法。
  24. 前記リターンアプリケーションは前記第1のデバイス上で実行される、請求項16に記載の方法。
  25. 前記リターンアプリケーションは、前記第2のデバイスから遠隔に実行され、前記第2のデバイス上で実行されるウェブブラウザを用いてアクセスされる、請求項16に記載の方法。
  26. 前記第2の画像のうちの1つまたは複数を処理することは、
    前記第2の画像を部分に分割することと、
    前記第2の画像の前記部分のうちの1つまたは複数が損傷を含むか否かを判定することと、
    を含む、請求項16に記載の方法。
  27. 前記第2の画像のうちの1つまたは複数を処理することは、
    損傷を含む部分の1つまたは複数に隣接する部分を識別することと、
    前記第2の画像のうちの1つまたは複数の前記部分のうちの1つまたは複数が損傷を含むと判定されるか否か、および、損傷を含むと判定されている部分の1つに隣接する前記部分のうちの1つまたは複数も損傷を含むか否かに基づいて、前記第1のデバイスの前記画面の状態を判定することと、
    を含む、請求項26に記載の方法。
JP2020068522A 2016-03-07 2020-04-06 デバイスの画面損傷検出 Active JP6934082B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021135016A JP7417793B2 (ja) 2016-03-07 2021-08-20 デバイスの画面損傷検出
JP2023119106A JP2023156332A (ja) 2016-03-07 2023-07-21 デバイスの画面損傷検出

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662304729P 2016-03-07 2016-03-07
US62/304,729 2016-03-07
JP2018548084A JP6754843B2 (ja) 2016-03-07 2017-03-07 デバイスの画面損傷検出
US15/452,707 2017-03-07
US15/452,707 US10332249B2 (en) 2016-03-07 2017-03-07 Screen damage detection for devices

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018548084A Division JP6754843B2 (ja) 2016-03-07 2017-03-07 デバイスの画面損傷検出

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021135016A Division JP7417793B2 (ja) 2016-03-07 2021-08-20 デバイスの画面損傷検出

Publications (2)

Publication Number Publication Date
JP2020126661A JP2020126661A (ja) 2020-08-20
JP6934082B2 true JP6934082B2 (ja) 2021-09-08

Family

ID=59723635

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2018548084A Active JP6754843B2 (ja) 2016-03-07 2017-03-07 デバイスの画面損傷検出
JP2020068522A Active JP6934082B2 (ja) 2016-03-07 2020-04-06 デバイスの画面損傷検出
JP2021135016A Active JP7417793B2 (ja) 2016-03-07 2021-08-20 デバイスの画面損傷検出
JP2023119106A Pending JP2023156332A (ja) 2016-03-07 2023-07-21 デバイスの画面損傷検出

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018548084A Active JP6754843B2 (ja) 2016-03-07 2017-03-07 デバイスの画面損傷検出

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021135016A Active JP7417793B2 (ja) 2016-03-07 2021-08-20 デバイスの画面損傷検出
JP2023119106A Pending JP2023156332A (ja) 2016-03-07 2023-07-21 デバイスの画面損傷検出

Country Status (6)

Country Link
US (2) US10332249B2 (ja)
EP (4) EP3731157B1 (ja)
JP (4) JP6754843B2 (ja)
CA (1) CA3016367C (ja)
ES (3) ES2819699T3 (ja)
WO (1) WO2017156046A1 (ja)

Families Citing this family (63)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10445708B2 (en) 2014-10-03 2019-10-15 Ecoatm, Llc System for electrically testing mobile devices at a consumer-operated kiosk, and associated devices and methods
EP3968255A1 (en) 2014-10-31 2022-03-16 ecoATM, LLC Systems and methods for recycling consumer electronic devices
US20170270613A1 (en) * 2016-03-15 2017-09-21 Technology Enhanced Claims Handling, Inc. Agent dispatch system
US10876914B2 (en) 2016-04-28 2020-12-29 Blancco Technology Group IP Oy Systems and methods for detection of mobile device fault conditions
US11210777B2 (en) * 2016-04-28 2021-12-28 Blancco Technology Group IP Oy System and method for detection of mobile device fault conditions
US10269110B2 (en) 2016-06-28 2019-04-23 Ecoatm, Llc Methods and systems for detecting cracks in illuminated electronic device screens
US11032471B2 (en) 2016-06-30 2021-06-08 Nokia Technologies Oy Method and apparatus for providing a visual indication of a point of interest outside of a user's view
US10587796B1 (en) * 2017-02-24 2020-03-10 State Farm Mutual Automobile Insurance Company Technology for automatically ensuring consistent digital image capture parameters
US10559283B2 (en) * 2017-03-20 2020-02-11 Paypal, Inc. Automated user device damage remediation
US10540489B2 (en) * 2017-07-19 2020-01-21 Sony Corporation Authentication using multiple images of user from different angles
CN110045878B (zh) * 2017-07-26 2023-08-25 Oppo广东移动通信有限公司 触摸屏的响应控制方法、装置、存储介质及终端
US20190236416A1 (en) * 2018-01-31 2019-08-01 Microsoft Technology Licensing, Llc Artificial intelligence system utilizing microphone array and fisheye camera
US11734477B2 (en) * 2018-03-08 2023-08-22 Concurrent Technologies Corporation Location-based VR topological extrusion apparatus
CN108921811B (zh) * 2018-04-03 2020-06-30 阿里巴巴集团控股有限公司 检测物品损伤的方法和装置、物品损伤检测器
US11790453B2 (en) 2018-05-04 2023-10-17 Assurant, Inc. Systems and methods for generating contextually relevant device protections
US20190340693A1 (en) * 2018-05-04 2019-11-07 Hyla, Inc. Systems and methods for generating contextually relevant device protections
CN108805270B (zh) * 2018-05-08 2021-02-12 华中科技大学 一种基于存储器的卷积神经网络系统
US11050278B1 (en) * 2018-06-08 2021-06-29 Confinement Telephony Technology, Llc Methods and systems for charging and monitoring electronic devices in confinement institutions
US10908863B2 (en) 2018-07-12 2021-02-02 Manufacturing Resources International, Inc. System and method for providing access to co-located operations data for an electronic display
US11645029B2 (en) 2018-07-12 2023-05-09 Manufacturing Resources International, Inc. Systems and methods for remotely monitoring electronic displays
JP6578607B1 (ja) * 2018-07-18 2019-09-25 ゼアーウィンスリーサービス株式会社 タイヤパンク修理判定システム、タイヤパンクの保証申請の可否を判断する装置及び、タイヤパンクの保証申請の可否を判断する装置の作動方法
US11989710B2 (en) 2018-12-19 2024-05-21 Ecoatm, Llc Systems and methods for vending and/or purchasing mobile phones and other electronic devices
US11741763B2 (en) * 2018-12-26 2023-08-29 Allstate Insurance Company Systems and methods for system generated damage analysis
AU2020222971A1 (en) 2019-02-12 2021-09-23 Ecoatm, Llc Connector carrier for electronic device kiosk
CA3130102A1 (en) 2019-02-12 2020-08-20 Ecoatm, Llc Kiosk for evaluating and purchasing used electronic devices
WO2020172190A1 (en) * 2019-02-18 2020-08-27 Ecoatm, Llc Neural network based physical condition evaluation of electronic devices, and associated systems and methods
WO2020176416A1 (en) * 2019-02-25 2020-09-03 Manufacturing Resources International, Inc. Monitoring the status of a touchscreen
US11402940B2 (en) 2019-02-25 2022-08-02 Manufacturing Resources International, Inc. Monitoring the status of a touchscreen
US10812921B1 (en) 2019-04-30 2020-10-20 Microsoft Technology Licensing, Llc Audio stream processing for distributed device meeting
US11875796B2 (en) 2019-04-30 2024-01-16 Microsoft Technology Licensing, Llc Audio-visual diarization to identify meeting attendees
US11650164B2 (en) * 2019-05-15 2023-05-16 Getac Technology Corporation Artificial neural network-based method for selecting surface type of object
WO2020234634A1 (en) * 2019-05-21 2020-11-26 Service Lee Technologies Pvt., Ltd. Cracked screen detection system and method
DE102019209019A1 (de) * 2019-06-21 2020-12-24 Robert Bosch Gmbh Vorrichtung und Verfahren zur Bildverarbeitung
US10607331B1 (en) * 2019-06-28 2020-03-31 Corning Incorporated Image segmentation into overlapping tiles
CN110376217B (zh) * 2019-07-24 2021-12-21 千享科技(北京)有限公司 一种电子设备显示屏损伤的主动检测方法及系统
US20210056559A1 (en) * 2019-08-24 2021-02-25 Eli Altaras Digital device warranty method and devices
US11704887B2 (en) 2019-09-16 2023-07-18 Assurant, Inc. System, method, apparatus, and computer program product for utilizing machine learning to process an image of a mobile device to determine a mobile device integrity status
JP2022553084A (ja) * 2019-10-22 2022-12-21 ブランコ テクノロジー グループ アイピー オイ モバイル・デバイスのディスプレイおよび筐体の診断のためのシステムおよび方法
CN110827249A (zh) * 2019-10-28 2020-02-21 上海悦易网络信息技术有限公司 电子设备背板外观瑕疵检测方法及设备
CN113127272B (zh) * 2019-12-31 2024-05-14 华为技术有限公司 屏幕检测方法和屏幕检测的电子设备
CN111175318A (zh) * 2020-01-21 2020-05-19 上海悦易网络信息技术有限公司 屏幕划痕碎裂检测方法及设备
EP4094222A4 (en) * 2020-01-23 2024-04-03 Service Lee Tech Pvt Ltd METHOD AND SYSTEM FOR DETECTING CRACKS ON THE BACK OF AN ELECTRONIC DEVICE
JP2021139718A (ja) * 2020-03-04 2021-09-16 日本発條株式会社 検査システムの点検方法、検査システム、およびコンピュータプログラム。
CN111476759B (zh) * 2020-03-13 2022-03-25 深圳市鑫信腾机器人科技有限公司 一种屏幕表面检测方法、装置、终端及存储介质
JP6811500B1 (ja) * 2020-05-07 2021-01-13 株式会社トライグル 情報処理装置およびプログラム
JP2021197257A (ja) * 2020-06-12 2021-12-27 株式会社日立ハイテク 荷電粒子ビーム装置
JP6932364B1 (ja) * 2020-08-17 2021-09-08 Assest株式会社 買取価格推定プログラム
US11922467B2 (en) 2020-08-17 2024-03-05 ecoATM, Inc. Evaluating an electronic device using optical character recognition
CN112116574A (zh) * 2020-09-16 2020-12-22 北京小米移动软件有限公司 屏幕修复方法、装置以及存储介质
US11900581B2 (en) 2020-09-22 2024-02-13 Future Dial, Inc. Cosmetic inspection system
US11836912B2 (en) * 2020-09-22 2023-12-05 Future Dial, Inc. Grading cosmetic appearance of a test object based on multi-region determination of cosmetic defects
CN112268912A (zh) * 2020-10-09 2021-01-26 支付宝(杭州)信息技术有限公司 基于镜面拍摄的屏幕损伤验证方法和装置
US11176516B1 (en) * 2020-12-21 2021-11-16 Coupang Corp. Systems and methods for automated information collection and processing
CN112597931A (zh) * 2020-12-28 2021-04-02 京东数字科技控股股份有限公司 屏幕状态检测方法、装置、电子设备、服务器和存储介质
US11941792B2 (en) * 2021-04-09 2024-03-26 Dell Products L.P. Machine learning-based analysis of computing device images included in requests to service computing devices
CN113360329A (zh) * 2021-06-15 2021-09-07 读书郎教育科技有限公司 一种检测Android终端花屏和闪屏的装置及方法
US20230011330A1 (en) * 2021-07-09 2023-01-12 At&T Intellectual Property I, L.P. Device condition determination
CN113537218B (zh) * 2021-07-27 2024-02-06 京东科技信息技术有限公司 图像识别方法及其装置
US11921010B2 (en) 2021-07-28 2024-03-05 Manufacturing Resources International, Inc. Display assemblies with differential pressure sensors
US11965804B2 (en) 2021-07-28 2024-04-23 Manufacturing Resources International, Inc. Display assemblies with differential pressure sensors
CN113783996B (zh) * 2021-08-17 2023-01-17 咪咕文化科技有限公司 屏幕缺陷优化方法、装置、设备及计算机存储介质
US20230188998A1 (en) 2021-12-09 2023-06-15 Assurant, Inc. Remote verification of the condition of a mobile device
US11972672B1 (en) 2022-10-26 2024-04-30 Manufacturing Resources International, Inc. Display assemblies providing open and unlatched alerts, systems and methods for the same

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01112382A (ja) * 1987-10-26 1989-05-01 Komatsu Ltd ひびわれ画像データ処理方法
JP3297950B2 (ja) * 1993-07-13 2002-07-02 シャープ株式会社 平面型表示パネル検査装置
JP3343444B2 (ja) * 1994-07-14 2002-11-11 株式会社アドバンテスト Lcdパネル画質検査装置及びlcd画像プリサンプリング方法
WO2001041068A1 (fr) * 1999-11-29 2001-06-07 Olympus Optical Co., Ltd. Systeme de detection de defaut
JP4479877B2 (ja) * 2003-02-20 2010-06-09 谷電機工業株式会社 画像認識による不良検査方法
KR20060044032A (ko) * 2004-11-11 2006-05-16 삼성전자주식회사 표시패널용 검사 장치 및 이의 검사 방법
JP2009032112A (ja) * 2007-07-27 2009-02-12 Kitami Information Technology Co Ltd 携帯端末を用いた付帯情報管理方法及び管理システム
US20100053604A1 (en) * 2008-08-31 2010-03-04 Paul Rice Broken screen detector
JP2010066186A (ja) 2008-09-12 2010-03-25 Olympus Corp 検査装置および検査方法
US8200533B2 (en) * 2008-10-02 2012-06-12 ecoATM, Inc. Apparatus and method for recycling mobile phones
US20150066677A1 (en) * 2008-10-02 2015-03-05 ecoATM, Inc. Pre-Acquisition Auction For Recycled Electronic Devices
US20130144797A1 (en) * 2008-10-02 2013-06-06 ecoATM, Inc. Method And Apparatus For Recycling Electronic Devices
KR20130072213A (ko) 2010-05-19 2013-07-01 가부시키가이샤 니콘 형상 측정 장치 및 형상 측정 방법
JP5496016B2 (ja) * 2010-08-19 2014-05-21 京セラ株式会社 入力装置
JP2013114049A (ja) * 2011-11-29 2013-06-10 Sharp Corp 画像表示端末ならびに画像表示端末を制御するための方法およびプログラム
CN104067600B (zh) * 2012-02-01 2017-05-03 埃科亚特姆公司 用于回收电子设备的方法与装置
US20140253494A1 (en) * 2013-03-11 2014-09-11 Motorola Mobility Llc Method and device for detecting display damage and reconfiguring presentation data and actuation elements
US9488589B2 (en) * 2013-10-29 2016-11-08 The Boeing Company Mapping damaged regions on objects
US20150330910A1 (en) 2014-04-25 2015-11-19 Gdt, Inc. Cosmetic Evaluation Box for Used Electronics
US20160019685A1 (en) * 2014-07-21 2016-01-21 Tu Nguyen Method for Performing a Cosmetic Evaluation of a Used Electronic Device
KR102271433B1 (ko) * 2014-08-22 2021-07-01 엘지전자 주식회사 자가진단시스템 및 디스플레이 디바이스의 자가진단 방법
US9703325B2 (en) * 2015-08-12 2017-07-11 Apple Inc. Coverglass fracture detection
US11850631B2 (en) * 2015-08-31 2023-12-26 Helmerich & Payne Technologies, Llc System and method for estimating damage to a shaker table screen using computer vision
US10001878B2 (en) * 2016-02-04 2018-06-19 Motorola Mobility Llc Method and device for detecting fascia damage and repairing the same

Also Published As

Publication number Publication date
ES2819699T3 (es) 2021-04-19
JP7417793B2 (ja) 2024-01-19
US10810732B2 (en) 2020-10-20
EP3731157B1 (en) 2022-04-27
CA3016367A1 (en) 2017-09-14
ES2912577T3 (es) 2022-05-26
EP3427198B1 (en) 2020-07-08
ES2820230T3 (es) 2021-04-20
JP2023156332A (ja) 2023-10-24
JP2020126661A (ja) 2020-08-20
JP2019513262A (ja) 2019-05-23
US20190266720A1 (en) 2019-08-29
JP2021185510A (ja) 2021-12-09
CA3016367C (en) 2021-11-23
EP3540690A1 (en) 2019-09-18
US20170256051A1 (en) 2017-09-07
JP6754843B2 (ja) 2020-09-16
EP3540690B1 (en) 2020-07-08
EP3731157A1 (en) 2020-10-28
WO2017156046A1 (en) 2017-09-14
EP3427198A1 (en) 2019-01-16
EP3427198A4 (en) 2019-08-28
US10332249B2 (en) 2019-06-25
EP4036852A1 (en) 2022-08-03

Similar Documents

Publication Publication Date Title
JP6934082B2 (ja) デバイスの画面損傷検出
US20210110366A1 (en) Kiosks for remote collection of electronic devices for value, and associated mobile application for enhanced diagnostics and services
JP7253503B2 (ja) モバイル・デバイス障害状態の検出のためのシステムおよび方法
JP2023538776A (ja) 電子デバイスの評価および再生利用
US20230360353A1 (en) System, method, apparatus, and computer program product for utilizing machine learning to process an image of a mobile device to determine a mobile device integrity status
CN109872233A (zh) 合同签订方法、装置、计算机设备及存储介质
US10775266B2 (en) Methods and systems for testing of eyeglasses
EP4049218A1 (en) System and method for mobile device display and housing diagnostics
US11010884B2 (en) System and method for evaluating displays of electronic devices
US20240013246A1 (en) Portable evaluation device, associated systems and methods
CN110891049A (zh) 基于视频的账户登录方法、装置、介质、电子设备
CA2997335A1 (en) Automatically generating image datasets for use in image recognition and detection
CN113486725A (zh) 智能车辆定损方法及装置、存储介质及电子设备
CN115953601A (zh) 一种车辆标牌视觉检测方法、装置、终端设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210622

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210715

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210820

R150 Certificate of patent or registration of utility model

Ref document number: 6934082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350