CH712380A2 - Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata. - Google Patents

Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata. Download PDF

Info

Publication number
CH712380A2
CH712380A2 CH00526/16A CH5262016A CH712380A2 CH 712380 A2 CH712380 A2 CH 712380A2 CH 00526/16 A CH00526/16 A CH 00526/16A CH 5262016 A CH5262016 A CH 5262016A CH 712380 A2 CH712380 A2 CH 712380A2
Authority
CH
Switzerland
Prior art keywords
augmented reality
assistance
video
electronic device
computer vision
Prior art date
Application number
CH00526/16A
Other languages
English (en)
Inventor
Moccetti Dante
Rezzonico Fabio
Veragouth Pietro
Tramonte Antonio
Campo Lorenzo
Bosio Jacopo
Leonardo Jacopo Murciano Antonio
Original Assignee
Newbiquity Sagl C/O Amministra Sa
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Newbiquity Sagl C/O Amministra Sa filed Critical Newbiquity Sagl C/O Amministra Sa
Priority to CH00526/16A priority Critical patent/CH712380A2/it
Priority to PCT/EP2017/059290 priority patent/WO2017182523A1/en
Publication of CH712380A2 publication Critical patent/CH712380A2/it

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/453Help systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

Il metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, comprende le seguenti fasi: fornire un motore di realtà aumentata presentante programmi di computing vision e residente in parte in un dispositivo elettronico di un richiedente assistenza ed in parte in una rete informatica di cloud computing; ed in cui sono eseguite in tempo reale le seguenti fasi: acquisire, con una telecamera del dispositivo elettronico del richiedente assistenza, un video di un ambiente di lavoro; trasmettere e visualizzare detto video su un dispositivo elettronico di un fornitore assistenza; apporre, da parte di detto fornitore assistenza, un marcatore grafico in realtà aumentata su un punto da segnalare in detto video; eseguire detti programmi di computing vision così da visualizzare detto video recante detto marcatore grafico sul dispositivo elettronico di detto richiedente assistenza, le coordinate spaziali del marcatore grafico essendo ricalcolate così che nella sequenza di immagini del video visualizzato su detto dispositivo elettronico di detto richiedente assistenza il marcatore grafico punta permanentemente sul punto segnalato.

Description

Descrizione [0001] La présente invenzione si riferisce ad un metodo ed un sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata.
[0002] Più in particolare, quindi, la présente invenzione riguarda un metodo di manutenzione/assistenza cliente a distanza che utilizza la computer vision per consentire, in real time, ad un utente esperto, di arricchire di contenuto l’ambiente di un utente nécessitante supporta.
[0003] I meccanismi di computer vision utilizzati consentono di estrarre «features» caratteristiche dall’ambiente per poter cosi riconoscere oggetti, texture, parti di oggetti, rispetto ad un’immagine. I contenuti che vengono apposti all’ambiente che la videocamera del richiedente supporta cattura sono «tag» esposti corne simboli grafici in realtà aumentata.
[0004] Per realtà aumentata (in inglese augmented reality, abbreviato AR), o realtà mediata dall’elaboratore, si intende l’arricchimento délia percezione sensoriale umana mediante informazioni, in genere manipolate e convogliate elettronica-mente, che non sarebbero percepibili con i cinque sensi.
[0005] La realtà aumentata - già usata in ambiti molto specifici corne militare, medicale o ricerca - nel 2009 grazie al miglioramento délia tecnologia è arrivata al grande pubblico sia nella forma di campagne di comunicazione «augmented advertising» pubblicate sui giornali o sulla rete, sia attraverso un numéro sempre crescente di applicazioni per smartphone che hanno obiettivi di intrattenimento (giochi) o di approfondimento mediante l’arricchimento di contenuti da associare all’ambiente. Sono noti sistemi di manutenzione/supporto che utilizzano la realtà aumentata.
[0006] Tali sistemi software consentono ad un operatore non specializzato che non conosce quindi l’ambiente e l’oggetto su cui deve operare di ricevere una sérié di informazioni di realtà aumentata per svolgere l’operazione richiesta.
[0007] In genere per la manutenzione/supporto con tecniche di realtà aumentata vengono utilizzate informazioni che il sistema possiede già in memoria.
[0008] In questo caso quindi non esiste un rapporta real time tra operatore esperto e operatore richiedente supporta.
[0009] In questi casi il riconoscimento dell’ambiente si basa sui riconoscimento di un oggetto specifico e il supporta fornito dal sistema è quindi limitato ad un oggetto particolare su cui il sistema è stato «addestrato» e su una sequenza di contenuti rigida. In questi casi non vi è quindi analisi di un ambiente variabile e il riconoscimento dell’oggetto puô avvenire o attraverso markers fisici apposti sull’oggetto oppure attraverso image récognition specifica a cui il sistema viene addestrato.
[0010] Esistono poi sistemi «live» che presuppongono un rapporta tra richiedente e operatore esterno che offre supporta. Tali sistemi prevedono in genere solo l’invio di immagini statiche. In altre parole l’operatore esperto lavora su un frame statico e l’operatore che richiede supporta riceve una fotografia su cui sono stati apposti dei contenuti «illustrativi».
[0011] Infine sono ipotizzabili sistemi nei quali viene utilizzata una videochiamata per offrire un supporta live sui video. In questi casi tuttavia i calcoli vengono svolti interamente localmente sui processore del device che o cattura o il video o aggiunge contenuti di realtà aumentata. Questo approccio potrebbe risultare efficace nel caso in cui il device che svolge i calcoli fosse un elaboratore potente. In questi casi perô si evidenzierebbero due tipologie di problematiche dovute al fatto che i calcoli di computer vision, utilizzati in parallelo ad uno streaming video, impegnano in maniera robusta la CPU dei device mobili.
[0012] In primo luogo uno scostamento temporale tra il momento in cui viene rilevato l’ambiente in cui l’operatore non esperto deve operare e le informazioni di risposta su cosa fare che causa grosse difficoltà sulla corretta interpretazione da parte dell’operatore non esperto su cosa fare e dove farlo.
[0013] In secondo luogo l’uso di algoritmi veloci benché poco sofisticati causa un grande numéro di falsi positivi e di falsi negativi (in altri termini rilevazioni erronee).
[0014] Questi problemi emergerebbero in maniera molto marcata qualora il richiedente supporta abbia modificato il proprio punto di osservazione rispetto a quello che ha determinato la rilevazione dell’ambiente e dell’oggetto in cui operare.
[0015] Questo perché i calcoli in questa casistica si devono susseguire in maniera più veloce e devono contemporanea-mente offrire risultati robusti.
[0016] Compito tecnico dell’invenzione è porre rimedio agli inconvenienti lamentati nella tecnica nota fermo restando l’utilizzo di un sistema che fa le proprie operazioni in real time.
[0017] Nell’ambito di questo compito tecnico, uno scopo délia présente invenzione è fornire un metodo ed un sistema di assistenza a distanza con impiego di computer vision e realtà aumentata, che garantiscano assistenza efficiente ed affidabile in tempo reale.
[0018] Questo e altri scopi délia présente invenzione sono conseguiti da un metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, caratterizzato dal fatto di comprendere le seguenti fasi: - fornire una rete informatica di cloud computing - fornire un motore di realtà aumentata présentante programmi di computing vision residenti in un dispositivo elettronico mobile di un richiedente assistenza ed in detta rete informatica di cloud computing; ed in cui sono eseguite in tempo reale le seguenti fasi: - acquisire, con una telecamera del dispositivo elettronico del richiedente assistenza, un video di un ambiente di lavoro; - trasmettere e visualizzare detto video su un dispositivo elettronico di un fornitore assistenza; - apporre, da parte di detto fornitore assistenza, un marcatore grafico in realtà aumentata su un punto da segnalare in detto video; - eseguire detti programmi di computing vision cosi da visualizzare detto video recante detto marcatore grafico sul dispositivo elettronico di detto richiedente assistenza, le coordinate spaziali del marcatore grafico essendo ricalcolate cosi che nella sequenza di immagini del video visualizzato su detto dispositivo elettronico di detto richiedente assistenza il marcatore grafico punta permanentemente sul punto segnalato.
[0019] In un modo di realizzazione preferito dell’invenzione detti programmi residenti in detta rete informatica di cloud computing operano in modalità on demand quando detti programmi residenti in detto dispositivo elettronico di detto richiedente assistenza non forniscono un risultato affidabile.
[0020] In un modo di realizzazione preferito dell’invenzione detta rete di cloud computing comprende un server di streaming.
[0021] In un modo di realizzazione preferito dell’invenzione detti programmi comprendono un programma di estrazione di immagini da un video e trasformazione delle immagini in matrici di punti.
[0022] In un modo di realizzazione preferito dell’invenzione detti programmi comprendono un filtro di realtà aumentata.
[0023] In un modo di realizzazione preferito dell’invenzione detto filtro di realtà aumentata opéra su dette matrici di punti per ricalcolare le coordinate spaziali del marcatore grafico.
[0024] In un modo di realizzazione preferito dell’invenzione detto video acquisito da detto dispositivo elettronico di detto richiedente assistenza è trasmesso a detto server di streaming da cui è a sua volta trasmesso a detto dispositivo elettronico di detto fornitore assistenza che appone detto marcatore grafico e restituisce le coordinate spaziali del punto segnalato a detto server di streaming. In un modo di realizzazione preferito dell’invenzione dette coordinate spaziali sono rese disponibili a detto filtro di realtà aumentata per essere elaborate.
[0025] In un modo di realizzazione preferito dell’invenzione dette coordinate spaziali elaborate sono rese disponibili a detto dispositivo elettronico di richiesta assistenza e a detto dispositivo elettronico di fornitura assistenza.
[0026] La présente invenzione rivela altresl un sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, caratterizzato dal fatto di comprendere i seguenti componenti: - un dispositivo elettronico di un richiedente assistenza munito di telecamera e schermo di visualizzazione ed un dispositivo elettronico di un fornitore assistenza munito di schermo di visualizzazione; - una rete informatica di cloud computing comprendente almeno un server di streaming; - un motore di realtà aumentata présentante programmi di computing vision residenti in detto dispositivo elettronico di detto richiedente assistenza ed in detta rete informatica di cloud computing; detto motore di realtà aumentata essendo configurato in modo taie da visualizzare su detto dispositivo elettronico del richiedente assistenza un video acquisito da detto richiedente assistenza a cui dal fornitore assistenza è apposto in realtà aumentata un marcatore grafico su un punto le cui coordinate spaziali sono ricalcolate cosi che nella sequenza di immagini del video il marcatore grafico punta permanentemente sul punto segnalato.
[0027] Il motore di realtà aumentata présenta quindi programmi di computing vision suddivisi in due differenti parti, una prima parte che disegna i contenuti di realtà aumentata, ed una seconda parte, differente dalla prima parte, che fa i calcoli di computer vision necessari a stabilire dove disegnare i contenuti di realtà aumentata. Il metodo di assistenza distanza conforme all’invenzione si basa su un rilevamento dell’ambiente che awiene in maniera duplice sul dispositivo elettronico del richiedente assistenza ed in cloud. Taie sistema, mantenendo una modalità real time nel rapporto tra fornitore assistenza e richiedente assistenza, si rivela maggiormente affidabile, anche nei casi in cui la scena cambia variando la posizione del richiedente assistenza, e maggiormente veloce dei sistemi oggi noti.
[0028] Tali vantaggi derivano dallo spostare parte del calcolo (la parte più pesante e complessa) su di una rete di cloud computing e nell’utilizzare quindi in parallelo sia risorse di calcolo distribuite, vale a dire risorse locali nel dispositivo elettronico del richiedente assistenza, che risorse centrali, vale a dire risorse délia rete di cloud computing.
[0029] I calcoli complessi, che utilizzano algoritmi di computer vision pesanti, anziché quindi essere svolti «localmente» vengono svolti in «cloud» in una modalità on demand quando i calcoli svolti localmente danno risultati non sufficientemente affidabili, mentre i calcoli più leggeri vengono svolti localmente in maniera continuativa.
[0030] Svolgendo i calcoli più onerosi in cloud diventa quindi più accessibile e più agile un’integrazione del servizio in applicazioni terze.
[0031] Essendo perô i calcoli effettuati in cloud svolti solo on demand, quando le probabilità di errore dei calcoli locali si rivelano troppo elavati, l’architettura consente di contenere i costi infrastrutturali del cloud.
[0032] Inoltre, essendo i calcoli svolti in cloud, diventa più semplice affinare la qualité del processo di posizionamento del marcatore grafico.
[0033] Questo per due différent! ragioni: da un lato non vi sono limitazioni stringenti relative aile risorse di calcolo e si possono utilizzare parallelamente diversi algoritmi; dall’altro lato gli algoritmi in cloud vengono utilizzati quando gli algoritmi più «veloci e leggeri» utilizzati localmente falliscono.
[0034] Questo migliora l’affidabilità e la precisione del sistema. Parte del motore di realtà aumentata puô essere migliorato e implementato senza richiedere agli utenti di installare aggiornamenti o nuove versioni di software dato che gli aggiorna-menti software possono direttamente essere fatti sul cloud. Questi ed altri aspetti dell’invenzione saranno maggiormente chiariti alla lettura délia descrizione che segue di un suo modo di realizzazione preferito, in cui: - la fig. 1 mostra uno schéma a blocchi di funzionamento del sistema di assistenza.
[0035] Il sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, comprende un dispositivo elettronico 1 di un richiedente assistenza, un dispositivo elettronico 2 di un fornitore assistenza, una rete informatica 3 di cloud computing comprendente almeno un server di streaming 4, ed un motore di realtà aumentata 5, 6, 7, 8, 9 présentante programmi di computing vision residenti nel dispositivo elettronico 1 del richiedente assistenza e nella rete informatica 3 di cloud computing.
[0036] I dispositivi elettronici 1, 2 a cui faremo riferimento di seguitosono in particolare dispositivi portatili quali smartphone, restando inteso che qualunque dispositivo elettronico di altro tipo idoneo allô scopo puô essere impiegato.
[0037] Il motore di realtà aumentata 5, 6, 7, 8, 9 prevede pertanto una parte 7,8, 9 residente localmente sullo smartphone 1 del richiedente assistenza e una parte 5, 6 residente nella rete di cloud computing 3.
[0038] Il metodo di assistenza si articola nelle seguenti fasi.
[0039] Il richiedente assistenza, tramite il suo smartphone, contatta il fornitore assistenza sul suo smartphone.
[0040] Quando il fornitore assistenza risponde alla richiesta di supporta si attiva una video chiamata a senso unico in cui il richiedente assistenza invia il video, catturato dalla videocamera del proprio smartphone, allô smartphone del fornitore assistenza.
[0041] Il richiedente assistenza inquadra col proprio smartphone l’oggetto sul quale desidera ricevere supporta.
[0042] Il fornitore assistenza riceve il video e mediante un’apposita interfaccia puô apporre dei tag in realtà aumentata sull’oggetto. I tag funzionano corne riferimenti che indicano specifiche parti délia scena su cui si sta dando supporta.
[0043] I tag vengono mantenuti nella corretta posizione anche quando il richiedente assistenza sposta il proprio smartphone. Ciô è reso possibile mediante il supporta dei suddetti programmi di computer vision, ad esempio ma non neces-sariamente programmi resi disponibili dalla libreria open source OpenCV.
[0044] I programmi di computer vision vengono attivati corne segue.
[0045] Il fornitore assistenza, quando pone un tag sul video che riceve dallo smartphone del richiedente assistenza, invia, mediante il server di streaming 4, le coordinate x e y del punto da «segnalare». Tali coordinate segnalano quindi un punto su un’immagine.
[0046] Gli algoritmi di computer vision possono cosl analizzare parte délia scena procedendo a estrarre delle «features» caratteristiche che serviranno, via via che si susseguono le immagini del video, a ricalcolare le coordinate x e y del punto da segnalare, potendolo cosl spostare a seconda dell’evolversi délia situazione per mantenerlo sull’oggetto o parte dell’oggetto da segnalare. Gli algoritmi di computer vision utilizzati servono quindi a raccogliere delle «features» caratteristiche utilizzabili per denotare una parte di informazione rilevante all’interno delle immagini che si susseguono nello streaming video.
[0047] Queste «features» caratteristiche permettono quindi agli algoritmi stessi di calcolare e ricalcolare via via la corretta posizione in cui poi i tag devono essere disegnati e inseriti con un metodo di realtà aumentata.
[0048] Nello specifico gli algoritmi utilizzati svolgono operazioni di «vicinanza» applicate ad una immagine, strutture specifiche dell’immagine in sé, a punti o linee in un’immagine fino a strutture complesse corne oggetti in immagini.
[0049] Le «features» caratteristiche possono anche essere in relazione a una sequenza di immagini in movimento, a forme definite in termini di curve o confini tra différent! regioni dell’immagine o a propriété specifiche di una regione dell’immagine.
[0050] Alcuni algoritmi sono molto veloci e «leggeri» in termine di risorse di calcolo, corne ad esempio gli algoritmi basati su trasformazioni geometriche.
[0051] Questi algoritmi possono quindi essere svolti sullo smartphone del richiedente assistenza.
[0052] Altri algoritmi invece sono più lenti e consumano maggiori risorse. Tali algoritmi più pesanti sono utilizzati in cloud e risultano quindi più affidabili.
[0053] Va notato infatti corne gli algoritmi più veloci e leggeri tendano ad avéré margini di errore maggiori in specifiche condizioni, corne ad esempio nei casi in cui la scena cambia completamente e poi si ritorna su quella scena stessa.
[0054] In altri termini il metodo di assistenza prevede di utilizzare laddove le risorse sono limitate, quindi sullo smartphone del richiedente assistenza, algoritmi efficienti ed economici, e invece laddove le risorse sono scalabili, quindi in rete cloud, algoritmi più affidabili e potenti.
[0055] In questo modo si hanno a disposizione dei risultati in maniera veloce e tali risultati, quando considerati inadeguati vengono aggiustati mediante calcoli più robusti.
[0056] Allô stesso tempo dove i calcoli veloci falliscono si possono provare calcoli più complessi che possono invece dare risultati. Di seguito viene descritto più in dettaglio il funzionamento del sistema di assistenza.
[0057] Lo smartphone 1 del richiedente assistenza invia al server di streaming 4, basato ad esempio sul software pro-prietario Wowza, il flusso video catturato dalla propria videocamera.
[0058] Il server di streaming 4 rende disponibile taie flusso video allô smartphone 2 del fornitore assistenza che lo visua-lizza.
[0059] Lo smartphone 2 del fornitore assistenza è opportunamente dotato di interfaccia grafica e comandi che consentono di posizionare su un punto da segnalare sullo schermo un marker grafico. Una volta posizionato il marker grafico vengono inviati al server di streaming 4 dei metadati che rappresentano le coordinate spaziali x e y del punto da segnalare.
[0060] Tali metadati (coordinate spaziali x e y) vengono resi disponibili ed utilizzati dal programma?, 8 del motore di realtà aumentata residente nello smartphone 1 del richiedente assistenza per svolgere dei calcoli di posizionamento e computer vision «leggeri e veloci». Tali calcoli consentono di riposizionare il punto da segnalare nel susseguirsi delle immagini video.
[0061] Taie meccanismo consente di «legare» un marker grafico a elementi, o a parti di elementi, presenti sullascenacosl corne ripresa dallo smartphone 1 del richiedente assistenza. In pratica un programma 7 del motore di realtà aumentata residente nello smartphone 1 del richiedente assistenza scompone il video in immagini e le trasforma in matrici di punti, ed un programma 8 del motore di realtà aumentata sempre residente nello smartphone 1 dei richiedente assistenza esegue i calcoli sulle matrici di punti per il ricalcolo delle coordinate spaziali x e y da segnalare sulle immagini del video.
[0062] Infine, un programma 9 del motore di realtà aumentata sempre residente nello smartphone 1 del richiedente assistenza utilizza le coordinate spaziali x e y, cosl ricalcolate, per disegnare il «tag» in realtà aumentata sulle immagini del video.
[0063] I calcoli utilizzati localmente dallo smartphone 1 del richiedente assistenza per il posizionamento sono calcoli basati su matrici di punti e sulle loro trasformazioni nel susseguirsi delle immagini video e richiedono un’estrazione di «features» caratteristiche dell’immagine relativamente moderata.
[0064] Questa scelta consente grande velocità e basso consumo di risorse di calcolo.
[0065] Tuttavia in situazioni peculiari o complesse esso si espone ad un incremento di falsi positivi o falsi negativi nel riconoscimento. Per questo motivo il motore di realtà aumentata présenta anche programmi di supporto residenti nella rete di cloud computing che non è sottoposta a limitazioni stringenti nelle risorse di calcolo ed interviene quando i programmi del motore di realtà aumentata residenti localmente nello smartphone 1 del richiedente assistenza evidenziano un riconoscimento non sufficientemente attendibile. Disponendo delle immagini video che mediante il server di streaming 4 gli giungono dallo smartphone 1 del richiedente assistenza e dei metadati relativi aile coordinate spaziali x, y del punto da segnalare che mediante il server di streaming 4 gli giungono dallo smartphone 2 del fornitore assistenza, i programmi di supporto residenti nella rete di cloud computing 3 dispongono delle informazioni necessarie al loro funzionamento.
[0066] I programmi di supporto residenti nella rete di cloud computing 3 sono almeno due.
[0067] Il primo programma di supporto 5 residente nella rete di cloud computing ha il compito di scorporare dal flusso video inviato dallo smartphone 1 del richiedente assistenza le singole immagini che verranno trasformate in matrici.
[0068] Il secondo programma di supporto 6 residente nella rete di cloud computing, ad esempio scritto in Java e basato sulla libreria di Computer Vision denominata OpenCV, ha il compito di analizzare le matrici create a partire dalle immagini del video e, utilizzando i metadati inviati dallo smartphone 2 del fornitore assistenza, effettuare i calcoli necessari per fornire nuovi metadati, vale a dire le coordinate spaziali x e y del punto da segnalare per ogni immagine video.
[0069] Il primo programma di supporto 5 si rende necessario poiché gli algoritmi di computer vision analizzano immagini (quindi frame) trasformate in matrici.
[0070] Le matrici descrivono relazioni tra immagini délia stessa scena.
[0071] Data la proiezione di un punto délia scena in una delle immagini si puô cercare il punto corrispondente nell’altra immagine.
[0072] Il flusso normale dello streaming attraverso il server di streaming 4 non permetterebbe di svolgere operazioni di calcolo su matrici di punti.
[0073] Infatti il server di streaming 4, di per sé, serve unicamente a ricevere un flusso video da una fonte e renderlo disponibile a un audience.

Claims (10)

  1. [0074] Il primo programma di supporta 5, appoggiandosi ad una funzione messa a disposizione dal server di streaming 4 per accedere aile immagini del video, trasforma le immagini in matrici di punti che possono essere a questo punto processate dal secondo programma di supporta 6. [0075] Il secondo programma di supporta 6 quindi, utilizzando diversi algoritmi di computer vision basati sul concetto di image récognition, riesce a rimappare le coordinate x e y posizionate dallo smartphone del fornitore assistenza 2 su ogni immagine successive del flusso video. [0076] Il secondo programma di supporta 6 rende disponibili nuovi metadati quando i calcoli svolti localmente vengono ritenuti non sufficientemente affidabili. [0077] In questo modo entrambi gli smartphone 1,2 ricevono dal server di streaming 4 nuove coordinate xe y che possono cosl essere utilizzate per disegnare i marker sulle immagini video. Il metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata cos) concepiti sono suscettibili di numerose modifiche e varianti tutte rientranti nell’ambito del concetto inventivo descritto e rivendicato. Rivendicazioni
    1. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, caratterizzato dal fatto di comprendere le seguenti fasi: - fornire una rete informatica di cloud computing; - fornire un motore di realtà aumentata présentante programmi di computing vision residenti in un dispositivo elettro-nico di un richiedente assistenza ed in detta rete informatica di cloud computing; ed in cui sono eseguite in tempo reale le seguenti fasi: - acquisire, con una telecamera del dispositivo elettronico del richiedente assistenza, un video di un ambiente di lavoro; - trasmettere e visualizzare detto video su un dispositivo elettronico di un fornitore assistenza; - apporre, da parte di detto fornitore assistenza, un marcatore grafico in realtà aumentata su un punto da segnalare in detto video; - eseguire detti programmi di computing vision cosi da visualizzare detto video recante detto marcatore grafico sul dispositivo elettronico di detto richiedente assistenza, le coordinate spaziali del marcatore grafico essendo ricalcolate cosi che nella sequenza di immagini del video visualizzato su detto dispositivo elettronico di detto richiedente assistenza il marcatore grafico punta permanentemente sul punto segnalato.
  2. 2. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo la rivendi-cazione precedente, caratterizzato dal fatto che detti programmi residenti in detta rete informatica di cloud computing operano in modalità on demand quando detti programmi residenti in detto dispositivo elettronico di detto richiedente assistenza non forniscono un risultato affidabile.
  3. 3. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo la riven-dicazione 1, caratterizzato dal fatto che detta rete di cloud computing comprende un server di streaming.
  4. 4. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo un qualunque rivendicazione precedente, caratterizzato dal fatto che detti programmi comprendono un programma di estrazione di immagini da un video e trasformazione delle immagini in matrici di punti.
  5. 5. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo una qualunque rivendicazione precedente, caratterizzato dal fatto che detti programmi comprendono un filtro di realtà aumentata.
  6. 6. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo la rivendicazione precedente, caratterizzato dal fatto che detto filtro di realtà aumentata opéra su dette matrici di punti per ricalcolare le coordinate spaziali del marcatore grafico.
  7. 7. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo una qualunque rivendicazione precedente, caratterizzato dal fatto che detto video acquisito da detto dispositivo elettronico di detto richiedente assistenza è trasmesso a detto server di streaming da cui è a sua volta trasmesso a detto dispositivo elettronico di detto fornitore assistenza che appone detto marcatore grafico e restituisce le coordinate spaziali del punto segnalato a detto server di streaming.
  8. 8. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo la rivendicazione precedente, caratterizzato dal fatto che dette coordinate spaziali sono rese disponibili a detto filtro di realtà aumentata per essere elaborate.
  9. 9. Metodo di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata secondo la rivendicazione precedente, caratterizzato dal fatto che dette coordinate spaziali elaborate sono rese disponibili a detto dispositivo elettronico di richiesta assistenza e a detto dispositivo elettronico di fornitura assistenza.
  10. 10. Sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata, caratterizzato dal fatto di comprendere i seguenti componenti: - un dispositivo elettronico di un richiedente assistenza munito di telecamera e schermo di visualizzazione ed un dispositivo elettronico di un fornitore assistenza munito di schermo di visualizzazione; - una rete informatica di cloud computing comprendente almeno un server di streaming; - un motore di realtà aumentata présentante programmi di computing vision e residente in detto dispositivo elettronico di detto richiedente assistenza ed in detta rete informatica di cloud computing; detto motore di realtà aumentata essendo configurato in modo taie da visualizzare su detto dispositivo elettronico del richiedente assistenza un video acquisito da detto richiedente assistenza a cui dal fornitore assistenza è apposto in realtà aumentata un marcatore grafico su un punto le cui coordinate spaziali sono ricalcolate cosl che nellasequenza di immagini del video il marcatore grafico punta permanentemente sul punto segnalato.
CH00526/16A 2016-04-20 2016-04-20 Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata. CH712380A2 (it)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CH00526/16A CH712380A2 (it) 2016-04-20 2016-04-20 Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata.
PCT/EP2017/059290 WO2017182523A1 (en) 2016-04-20 2017-04-19 A method and a system for real-time remote support with use of computer vision and augmented reality

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CH00526/16A CH712380A2 (it) 2016-04-20 2016-04-20 Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata.

Publications (1)

Publication Number Publication Date
CH712380A2 true CH712380A2 (it) 2017-10-31

Family

ID=60164518

Family Applications (1)

Application Number Title Priority Date Filing Date
CH00526/16A CH712380A2 (it) 2016-04-20 2016-04-20 Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata.

Country Status (1)

Country Link
CH (1) CH712380A2 (it)

Similar Documents

Publication Publication Date Title
US11704923B2 (en) Efficient image analysis
US9349039B2 (en) Gesture recognition device and control method for the same
CN107077589B (zh) 基于图像的生物计量中的面部假冒检测
WO2017185630A1 (zh) 基于情绪识别的信息推荐方法、装置和电子设备
US8704682B1 (en) Object detection to determine road priority
JP5991224B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
US9378570B2 (en) Information processing device, information processing method and program
WO2019071664A1 (zh) 结合深度信息的人脸识别方法、装置及存储介质
CN108876804B (zh) 抠像模型训练和图像抠像方法、装置和系统及存储介质
JP2018537925A5 (it)
WO2015000286A1 (zh) 基于增强现实的三维互动学习系统及方法
US10291838B2 (en) Focusing point determining method and apparatus
US9418446B2 (en) Method and apparatus for determining a building location based on a building image
JPWO2020263471A5 (it)
US20190065900A1 (en) Information processing device, information processing program, and information processing method
SG10201705921VA (en) Method and apparatus for dynamically identifying a user of an account for posting images
NZ630397A (en) Image recognition of vehicle parts
WO2017182523A1 (en) A method and a system for real-time remote support with use of computer vision and augmented reality
JP2016099643A (ja) 画像処理装置、画像処理方法および画像処理プログラム
CN104156689B (zh) 一种对目标对象的特征信息进行定位的方法和设备
JP6202938B2 (ja) 画像認識装置および画像認識方法
JP2008123360A (ja) 人体特定領域抽出・判定装置、人体特定領域抽出・判定方法、人体特定領域抽出・判定プログラム
JP5651659B2 (ja) 物体検出システムおよびプログラム
CH712380A2 (it) Metodo e sistema di assistenza a distanza in tempo reale con impiego di computer vision e realtà aumentata.
CN104463142B (zh) 一种基于人脸图像的性别识别方法及装置

Legal Events

Date Code Title Description
AZW Rejection (application)