IT201800001891A1 - Metodo di imaging risolto nel tempo ad alta risoluzione spaziale. - Google Patents

Metodo di imaging risolto nel tempo ad alta risoluzione spaziale. Download PDF

Info

Publication number
IT201800001891A1
IT201800001891A1 IT201800001891A IT201800001891A IT201800001891A1 IT 201800001891 A1 IT201800001891 A1 IT 201800001891A1 IT 201800001891 A IT201800001891 A IT 201800001891A IT 201800001891 A IT201800001891 A IT 201800001891A IT 201800001891 A1 IT201800001891 A1 IT 201800001891A1
Authority
IT
Italy
Prior art keywords
time
image
intensity
resolved
images
Prior art date
Application number
IT201800001891A
Other languages
English (en)
Inventor
Giuseppe Vicidomini
Marco Castello
Giorgio Tortarolo
Alberto Tosi
Mauro Buttafava
Federica Villa
Paolo Bianchini
Alberto Diaspro
Colin J R Sheppard
Original Assignee
Fondazione St Italiano Tecnologia
Milano Politecnico
Univ Degli Studi Genova
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fondazione St Italiano Tecnologia, Milano Politecnico, Univ Degli Studi Genova filed Critical Fondazione St Italiano Tecnologia
Priority to IT201800001891A priority Critical patent/IT201800001891A1/it
Priority to EP19702971.3A priority patent/EP3743758B1/en
Priority to PCT/IB2019/050595 priority patent/WO2019145889A1/en
Priority to US16/961,819 priority patent/US11422348B2/en
Priority to CN201980010127.2A priority patent/CN111971606B/zh
Priority to JP2020540440A priority patent/JP7181537B2/ja
Publication of IT201800001891A1 publication Critical patent/IT201800001891A1/it

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0028Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders specially adapted for specific applications, e.g. for endoscopes, ophthalmoscopes, attachments to conventional microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0036Scanning details, e.g. scanning stages
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems

Description

DESCRIZIONE dell'invenzione industriale dal titolo: "Metodo di imaging risolto nel tempo ad alta risoluzione spaziale"
DESCRIZIONE
La presente invenzione si riferisce alle tecniche di microscopia ottica.
La microscopia ottica è uno degli strumenti analìtici più potenti nelle scienze della vita perché permette di visualizzare la morfologia tridimensionale di campioni viventi (da cellule a tessuti, da organi ad animali) con elevata risoluzione spazio-temporale. Se combinata con la fluorescenza, la microscopia ottica (microscopia ottica a fluorescenza) è in grado di fornire elevate specificità e sensibilità molecolari che permettono la comprensione dei processi biomolecolari che avvengono nei campioni viventi. Infatti, molecole fluorescenti (note come fluorofori) possono essere legate con elevata specificità a biomolecole di interesse (ad es. proteine) all'interno del campione, grazie a numerosi protocolli e metodi di labeling. Un microscopio ottico focalizza luce sul campione per indurre il fenomeno della fluorescenza e visualizzare solo le biomolecole di interesse. La fluorescenza è il processo con il quale un fluoroforo, dopo esser stato eccitato grazie all'assorbimento di un fotone (SPE) con una certa energia, emette un fotone avente un'energia minore (emissione spontanea). Nell'eccitazione multi-fotone (MPE) l'energia necessaria per eccitare il fluoroforo è ottenuta per assorbimento "simultaneo" di più fotoni di energia minore. Il microscopio ottico, separando spettralmente la luce fluorescente generata dalle biomolecole di interesse dalla luce diffusa/riflessa, fornisce una mappa tridimensionale specifica e altamente sensibile delle biomolecole di interesse.
Inoltre, i fluorofori possono essere usati come sensori per estrarre altre importanti informazioni sulla biomolecola di interesse. Ad esempio, la fluorescenza può essere usata per investigare le caratteristiche dell'ambiente nel quale è posizionata una biomolecola o per comprendere la sua prossimità ad altre biomolecole. In molti casi, ciò può essere ottenuto misurando la cosiddetta vita media di fluorescenza. Quando è in uno stato eccitato, un fluoroforo ha diversi percorsi per diseccitarsi (tra questi l'emissione spontanea o la fluorescenza); di conseguenza, il tempo che un fluoroforo passa nello stato eccitato è un processo stocastico. Il tempo medio passato dal fluoroforo nello stato eccitato suddetto è indicato come vita media dello stato eccitato (o vita media di fluorescenza). La presenza di altre molecole in prossimità del fluoroforo può modificare il rate (o probabilità istantanea) del percorso di diseccitazione, e quindi la vita media del fluoroforo. Quindi, monitorando la vita media di un fluoroforo è possibile, in generale, rilevare (indirettamente) la presenza di altre molecole (ad esempio per il rilevamento del pH). Un'altra opzione è quella di sfruttare il meccanismo del trasferimento di energia per risonanza (FRET) per misurare la distanza nanometrica fra due fluorofori (un donatore e un accettore). Ad esempio, la FRET è usata in modo estensivo per misurare variazioni strutturali macromolecolari legando i fluorofori donatore e accettore a differenti sotto-unità della macromolecola: variazioni della struttura comportano una variazione della distanza fra donatore e accettore e, di conseguenza, una variazione della vita media del donatore. Il time-correlated-single-photon-counting (TCSPC) è uno dei metodi più comuni per misurare la vita media dello stato eccitato; tale classe di esperimenti viene anche indicata come misurazione risolta nel tempo. Un laser pulsato viene utilizzato per eccitare i fluorofori in corrispondenza di un ben definita posizione temporale e per fornire un segnale di sincronizzazione a un dispositivo di acquisizione dati. Lo stesso dispositivo registra il segnale fornito dal rivelatore dopo la raccolta di un fotone fluorescente. Grazie al segnale di sincronizzazione del laser, il dispositivo di acquisizione dati misura il ritardo temporale fra l'evento di eccitazione e la registrazione del fotone, il cosiddetto tempo di arrivo del fotone. L'operazione viene ripetuta diverse volte per costruire il cosiddetto istogramma dei tempi di arrivo dei fotoni.
La vita media del fluoroforo può essere estratta da tale istogramma mediante un'analisi ad-hoc, che nella maggior parte dei casi è basata su una routine di fitting o su una trasformazione in fasori. Dal momento che i fluorofori più comuni (organici o proteine fluorescenti) hanno una vita media nell'intervallo fra 1 e 10 ns, i componenti di un'apparecchiatura TCSPC devono soddisfare certi vincoli temporali: (i) gli impulsi di eccitazione devono avere un'ampiezza piccola (centinaio di ps); (ii) il rivelatore deve registrare il singolo fotone con un'elevata risoluzione temporale, cioè con un basso jitter (incertezza) temporale (poche centinaia di ps); (iii) il dispositivo di acguisizione dati deve fornire il ritardo fra il segnale di sincronizzazione e il segnale del rivelatore con un'elevata risoluzione temporale (meno di 100 ps).
Il microscopio a scansione laser confocale a fluorescenza (CLSM) è una specifica implementazione del microscopio ottico a fluorescenza che offre diversi importanti vantaggi rispetto alla microscopia a campo largo (WFM) a fluorescenza, quali sezionamento ottico, maggior penetrazione ed elevata risoluzione temporale. In un CLSM, un fascio laser in grado di eccitare il fluoroforo (mediante eccitazione a singolo fotone o multi-fotone) viene focalizzato dalla lente obiettivo sul campione generando un volume di eccitazione limitato dalla diffrazione. La luce di fluorescenza emessa dai fluorofori entro tale volume viene raccolta dalla stessa lente obiettivo e registrata da un rivelatore a singolo punto/elemento. Un pinhole, posizionato prima del rivelatore e in un piano otticamente coniugato con il piano immagine del sistema, agisce come un filtro spaziale che blocca la luce fluorescente fuori-fuoco e riduce il volume di osservazione effettivo del microscopio (rispetto al volume di eccitazione). La scansione punto per punto di tale volume di osservazione sul campione permette la ricostruzione di immagini che rappresentano una sezione ottica del campione (capacità di sezionamento ottico) con risoluzione spaziale laterale oltre il limite di diffrazione.
Quando si registra solo la quantità totale del segnale di fluorescenza (o dei fotoni fluorescenti) il CLSM fornisce un'immagine di intensità. Dal momento che il segnale fluorescente è proporzionale alla concentrazione di fluorofori nei volumi di eccitazione associati a ciascun pixel, l'immagine di intensità fornisce una mappa di concentrazione dei fluorofori nel campione.
Il CLSM può essere combinato con un contatore di singoli fotoni in funzione del tempo (TCSPC) per fornire sia un'immagine di intensità sia un'immagine risolta nel tempo. Un'immagine risolta nel tempo è un'immagine tridimensionale nella quale il terzo asse rappresenta gli istogrammi di tempo di arrivo per i fotoni di fluorescenza registrati nel pixel. Chiaramente, le immagini di intensità possono essere ottenute dall'immagine risolta nel tempo mediante integrazione nella terza dimensione. Data l'immagine risolta nel tempo è possibile ricostruire la mappa della vita media dello stato eccitato del campione, la cosiddetta immagine di vita media di fluorescenza (microscopia FLI, FLIM), applicando un fitting o un'analisi in fasori.
In termini di risoluzione spaziale, il CLSM è stato il primo metodo in grado di superare il limite imposto dalla diffrazione della luce. Specificamente, esso offre teoricamente un miglioramento della risoluzione di un fattore di ~1.4 rispetto alla convenzionale WFM: usando la luce visibile e un obiettivo con un'elevata apertura numerica, la CLSM offre una risoluzione di -140 nm, invece di -200 nm. Purtroppo, tale miglioramento di risoluzione può essere ottenuto solo con una apertura (pinhole) ideale avente dimensioni infinitesimamente piccole, che comporterebbe una grossa diminuzione del livello del segnale; di conseguenza si usa sempre un pinhole relativamente più grande per ottenere immagini con un accettabile livello di segnale a discapito della risoluzione spaziale. La microscopia a scansione di immagine (ISM) offre una soluzione a tale problema. In essenza, tale tecnica permette di ottenere il miglioramento di risoluzione di 1.4 senza sacrificare il segnale. La microscopia a scansione di immagine è stata teoricamente proposta da Bertero, Pike e Sheppard [1,2] e rappresenta il primo tentativo per superare il compromesso fra risoluzione e segnale nella CLSM; fondamentalmente, essa consiste di un upgrade della CLSM standard ove il rivelatore a singolo punto/elemento viene sostituito da una matrice bidimensionale di rivelatori, posizionata in un piano immagine coniugato, e l'imaging viene effettuato in una configurazione a pinhole aperto per evitare perdita di segnale. Per preservare il sezionamento ottico si usa solitamente un pinhole la cui dimensione proiettata sul piano oggetto corrisponde a 1 unità di Airy. L'immagine finale ad alta risoluzione e alto rapporto segnale/rumore viene ottenuta combinando (in post-elaborazione) le immagini acquisite singolarmente dalla matrice di rivelatori in corrispondenza di ciascun punto di eccitazione del campione. Recentemente la ISM è stata implementata con un sensore ottico bidimensionale (ad esempio CCD o CMOS) o con un fascio di fibre a ingresso arrotondato, i cui nuclei a un capo della fibra (ingresso) sono posti seguendo una ben nota geometria bidimensionale e all'altro capo (uscita) sono sigillati a una schiera lineare di rivelatori.
Le caratteristiche tecniche di un sistema ISM, quali la sua effettiva risoluzione spaziale, la sua risoluzione temporale di imaging, la sua versatilità e la sua compatibilità con tutti gli altri metodi avanzati di microscopia a fluorescenza, in particolare con 1'imaging di vita media di fluorescenza, dipende da due aspetti chiave: (i) le caratteristiche tecniche della matrice di rivelatori utilizzata per l'implementazione ISM e (ii) il metodo computazionale utilizzato per generare le immagini finali.
Nella microscopia a scansione laser convenzionale, l'idea di sostituire un rivelatore a singolo punto/elemento con un rivelatore di imaging (matrice di rivelatori) che prende un'immagine di intensità della luce emessa per ciascun punto di eccitazione del campione è stata proposta inizialmente da Bertero e Pike in [1]. Per ciascuna posizione di scansione del campione, essi proponevano di "invertire" la matrice bidimensionale (immagine) ottenuta dalla matrice di rivelatori. L'inversione della matrice è ottenuta utilizzando una decomposizione ai valori singolari (SVD) dell'operatore lineare che descrive il processo di formazione dell'immagine nella matrice di rivelatori. L'immagine finale "migliorata" è il mosaico ottenuto fondendo tutte le matrici ottenute dall'inversione SVD. Successivamente Sheppard in [2] ha descritto la stessa apparecchiatura e proposto le cosiddette strategie di riassegnazione dei pixel (PR) per ottenere l'immagine finale ad alta risoluzione. Essenzialmente, ciascun singolo elemento della matrice di rivelatori produce un'immagine traslata del campione. L'immagine finale è ottenuta (i) traslando al contrario tutte le immagini, prodotte da ciascun elemento rivelatore, di metà della distanza dell'elemento rivelatore (che produce l'immagine) dall'elemento centrale (scalata dell'ingrandimento del sistema); (ii) sommando tutte le immagini trasiate.
La prima implementazione dell'architettura ottica proposta da Bertero, Pike e Sheppard è riportata in [3]. Questo è stato anche il lavoro che per primo ha introdotto il termine microscopio a scansione di immagine (ISM), comunemente utilizzato per descrivere tale tecnica di microscopia. In questo caso si usava una camera convenzionale. Rispetto alla microscopia a scansione convenzionale che utilizza veloci rivelatori a singolo punto/elemento, quali tubi fotomoltiplicatori (PMT), fotodiodi a valanga (APD) o diodi a valanga a singolo fotone (SPAD), tale implementazione riduce significativamente la risoluzione temporale di imaging (basso frame-rate, cioè basso numero di immagini per secondo): l'intera immagine (o parte di essa) deve essere letta (dal computer) prima di spostare il punto di illuminazione su una differente regione del campione. Inoltre, tale implementazione basata su camera (CCD o CMOS) non è compatibile con una tecnica TCSPC per ottenere un'immagine risolta nel tempo dalla quale si ricostruisce un'immagine FLIM.
Per migliorare la risoluzione temporale di imaging (frame-rate) sono state implementate alternative di ISM completamente ottiche basate su camera
[4,5]; tuttavia queste aumentano la complessità dell'architettura, poiché richiedono un completo re-design del sistema (ottico e/o elettronico). Tali implementazioni non richiedono calcoli per ricostruire l'immagine di intensità ad alta risoluzione, perché il metodo di riassegnazione dei pixel (spostamento e somma) è ottenuto grazie alla riscansione del fascio di fluorescenza e all'integrazione del segnale fluorescente effettuata dalla camera durante l'esposizione. Tuttavia, dal momento che non vengono più prodotti dati "grezzi", non è più possibile effettuare una postelaborazione per compensare disallineamenti e aberrazioni. Inoltre, l'uso di CCD o CMOS preclude ancora la combinazione con la tecnica risolta nel tempo basata su TCSPC.
È stata proposta un'ulteriore implementazione di ISM completamente ottica basata su camera, che riduce la complessità dell'architettura [6], ma che ancora impedisce la post-elaborazione e la combinazione con la TCSPC, e per di più richiede un'eccitazione non lineare: in questa architettura il sezionamento ottico è ottenuto utilizzando un'eccitazione non lineare, perché non è possibile utilizzare un pinhole di dimensioni dell'unità di Airy (primo disco di Airy). In tale contesto, è importante sottolineare che in un'implementazione ISM convenzionale, ove la matrice di rivelatori registra un' "immagine" per ciascuna posizione del campione e l'immagine ad alta risoluzione viene ricostruita in maniera computazionale, un pinhole fisico può essere sostituito da un pinhole virtuale: solo un sottoinsieme di elementi vicini all'elemento centrale vengono utilizzati per ricostruire l'immagine finale ad alta risoluzione.
Infine, si menziona la cosiddetta implementazione Airy Scan rilasciata sul mercato da Zeiss. Tale implementazione sostituisce il rivelatore a singolo elemento di un microscopio a scansione convenzionale con una matrice di rivelatori, senza variazione dell'architettura ottica; essa è compatibile con un'eccitazione a fotone singolo e richiede una post-elaborazione per ottenere l'immagine finale ad alta risoluzione. Nello specifico, tale implementazione utilizza un fascio di 32 fibre a ingresso arrotondato, i cui nuclei all'ingresso seguono una ben nota geometria esagonale e all'uscita sono sigillati a una schiera lineare di PMT. L'apparecchiatura e il metodo computazionale (postelaborazione) utilizzato per ottenere l'immagine finale sono descritti in [7]. Lo stesso sistema rivelatore è anche utilizzato in [8,9], ove gli autori descrivevano differenti metodi computazionali per ottenere l'immagine finale.
Nessuno dei metodi summenzionati descrive la possibilità di combinare ISM con misurazione TCSPC per ottenere un'immagine risolta nel tempo ad alta risoluzione, dalla quale è possibile ricostruire un'immagine FLIM.
Si inizia ora a formulare da un punto di vista matematico il problema che i metodi computazionali sopra descritti tentano di risolvere per generare un'immagine di intensità ad alta risoluzione.
Data la matrice/set di immagini di intensità
raccolte usando un microscopio a scansione provvisto di una matrice di rivelatori composta da Mx X My elementi (ove (ic,jc) denota l'elemento centrale della matrice di rivelatori), il problema di ricostruire un'immagine ad alta risoluzione consiste nello stimare la funzione oggetto (o campione) f(n). In breve, la funzione oggetto/campione descrive (è proporzionale a) la concentrazione di fluorofori nel punto n del campione. È stato dimostrato che la ricostruzione di f dalla matrice di immagini g porta a una più fedele stima di f (genera cioè un'immagine di intensità a risoluzione maggiore) rispetto alla ricostruzione di f che si ottiene da una serie di immagini confocali "identiche" ottenute da un singolo elemento rivelatore. La ragione principale di tale miglioramento di risoluzione è la capacità della matrice di rivelatori di generare molte differenti immagini indipendenti dello stesso campione.
Usando una notazione continua, il processo di formazione dell'immagine od operatore diretto (forward), cioè la relazione fra gij ed f, è il seguente
ove hi j(x,y) denota la funzione di diffusione del punto (PSF) associata all'immagine gij e * denota l'operatore convoluzione. Essenzialmente, ciascuna immagine gij associata all'elemento (i,j) della matrice di rivelatori descrive lo stesso oggetto ma è raccolta usando una differente PSF, che dipende dalla posizione dell'elemento (ij) nella matrice di rivelatori. Poiché ciascun elemento della matrice di rivelatori varia rispetto agli altri perché è spostato nel piano immagine di valori fissi
è possibile scrivere la PSF di ciascun elemento come funzione della stessa PSF di illuminazione (o eccitazione) h<exc >e della stessa PSF di rilevamento hdet
ove si assume che le PSF di eccitazione e rilevamento siano co-allineate nell'elemento centrale della matrice di rivelatori, cioè
Tale eguazione aiuta a spiegare la strategia di ricostruzione nota come riassegnazione dei pixel, cioè il metodo proposto da Sheppard [2] per ottenere un'immagine ad alta risoluzione fPR dalla matrice di immagini g. Se si considerano per semplicità h<exc >e h<det >come due identiche funzioni gaussiane, è chiaro che è anche essa una funzione gaussiana centrata esattamente a metà fra la PSF di eccitazione e la PSF di rilevamento. Di conseguenza ciascuna immagine gij :
1. differisce dalle altre in termini di rapporto segnale/rumore (SNR), per cui più l'elemento (i,j) è vicino all'elemento (ic,jc), maggiore è il SNR;
2. è traslata (sul piano immagine) rispetto a
di metà della distanza fra l'elemento (i,j) e l'elemento (ic,jc) , cioè i valori di deriva sono
Con tale assunto, il metodo di riassegnazione dei pixel propone di ottenere l'immagine ad alta risoluzione fPR : (i) traslando indietro ciascuna immagine dei valori di deriva e e (ii) successivamente sommando tutte le immagini.
Una differente strategia consiste nell'invertire le equazioni descrivendo i processi di formazione delle immagini e ripristinando la funzione campione f, risolvendo cioè un problema di ripristino/deconvoluzione di immagine.
Nel caso più generale h<exc >, h<det >, e non sono noti a priori, per cui il problema non è solo quello di trovare una stima della funzione oggetto f, ma anche una stima della PSF di eccitazione h<exc>, della PSF di rilevamento h<det >e delle matrici di spostamento s<x >e s<y >. Qui, h<exc>(n) e h<det>(n) rappresentano la discretizzazione delle funzioni continue h<exc >e h<det >.
Tale problema può essere riformulato da un punto di vista statistico e trasformato in un problema di minimizzazione. In particolare, assumendo che il rumore gaussiano domini nel processo di formazione delle immagini, il problema diventa la minimizzazione del funzionale errore quadratico medio (MSE)
rispetto a h<exc >, h<det>, s<x>, s<y >e f
Il problema di ripristino/deconvoluzione dell'immagine nel quale la funzione oggetto e le PSF vengono simultaneamente stimate a partire dalle stesse immagini è chiamato ripristi-no/deconvoluzione cieca di immagine. Il problema di ripristino/deconvoluzione dell'immagine nel quale si utilizzano più immagini dello stesso campione per ottenere una singola soluzione è chiamato ri-pristino/deconvoluzione multi-immagine.
La tecnica nota [7] propone di minimizzare il funzionale JMSE (deconvoluzione cieca multiimmagine) per stimare le funzioni di diffusione del punto di eccitazione h<exc >e di rilevamento h<det >ma, chiaramente, la minimizzazione del funzionale JMSE fornisce anche una stima di f.
In alternativa, se si assume un rumore Poissoniano, il problema diventa la minimizzazione del cosiddetto funzionale di distanza di Kullback-Leibler (KL)
rispetto a
Il numero di elementi ignoti h<exc>, h<det>, s<x >, s<y >e f che devono essere determinati è alto, e può portare a soluzioni instabili. Un approccio per ridurre il numero di elementi ignoti e quindi l'instabilità è rappresentato dal cosiddetto ripristino di immagine cieco parametrico, nel quale le PSF sono parametrizzate usando particolari modelli
e , e la funzione JKL/MSE viene minimizzata rispetto ai parametri del modello
La tecnica nota [7] propone una parametrizzazione basata sui polinomi di Zernike. Un altro tipico esempio è quello di considerare le PSF di eccitazione e rilevamento come funzioni gaussiane circolari
con chiaramente possono essere utilizzati altri modelli.
Tuttavia, anche dopo la parametrizzazione delle PSF il numero di elementi ignoti è ancora troppo alto e può indurre instabilità nella soluzione; in pratica può introdurre artefatti nell'immagine ripristinata.
Nella tecnica nota [8] è proposto un metodo per stimare f da g, che combina la riassegnazione dei pixel e il ripristino di immagine. In questo caso l'immagine di riassegnazione dei pixel fPR è dapprima ottenuta usando valori teorici per e
basati sulla geometria fisica della matrice di rivelatori e sull'ingrandimento del microscopio. Successivamente si applica un algoritmo di ricostruzione/deconvoluzione a immagine singola sull'immagine fPR usando una PSF teorica hPR ottenuta usando lo stesso principio del metodo di riasse-gnazione dei pixel: (i) si utilizza un modello teorico per ottenere la PSF hi,j associata a ciascuna immagine, (ii) successivamente ciascuna PSF hi,j viene spostata dei valori e precedentemente utilizzati per ottenere fPR , (iii) infine, si sommano tutte le PSF per ottenere hPR . Nel lavoro successivo dello stesso gruppo [9] i valori di spostamento e vengono stimati direttamente dalla matrice di immagini g : per stimare le matrici di spostamento d<x >e d<y >si usa una correlazione nel dominio spaziale, che comporta un elevato sforzo computazionale e non fornisce la possibilità di ottenere valori di spostamento sub-pixel. Inoltre, tali metodi usano un approccio di deconvoluzione a immagine singola, e non multi-immagine. È importante ricordare che l'approccio di deconvoluzione multiimmagine fornisce una soluzione più robusta rispetto all'approccio di deconvoluzione a immagine singola, perché permette di esplorare meglio il differente contenuto informativo nel dominio delle frequenze di ciascuna singola immagine.
Uno scopo della presente invenzione è quello di rendere disponibile una soluzione che permetta di ricostruire sia immagini risolte nel tempo, sia immagini di intensità.
Un altro scopo dell'invenzione è quello di rendere disponibile un metodo di ricostruzione delle immagini che sia meno affetto da instabilità rispetto ai metodi sopra discussi.
A fronte di tale scopo, forma oggetto dell'invenzione un metodo di funzionamento di un microscopio a scansione laser puntiforme, comprendente
scansionare un campione con un fascio laser focalizzato di illuminazione;
registrare, per mezzo di una matrice di elementi rivelatori, una pluralità di immagini del campione durante una scansione del fascio laser, in cui ciascuno (i,j) di detti elementi rivelatori genera un segnale di rilevamento per ciascuna di differenti posizioni n del fascio di illuminazione sul campione, a partire dal quale con la scansione del campione si produce una rispettiva immagine del campione, e in cui detti elementi rivelatori sono configurabili in un modo intensità, nel quale le immagini registrate sono immagini di intensità gi,j(n) relative ai fotoni raccolti nell'intero tempo di permanenza del fascio di illuminazione sulla singola posizione n, o in un modo risolto nel tempo, nel quale le immagini registrate sono immagini risolte nel tempo nelle quali i fotoni raccolti sono discriminati sulla base dei loro tempi di arrivo ai singoli elementi rivelatori;
se gli elementi rivelatori sono configurati nel modo risolto nel tempo, calcolare una pluralità di immagini di intensità integrando rispetto al tempo la pluralità di immagini risolte nel tempo
calcolare un'immagine impronta digitale a, sommando la pluralità di immagini di intensità
rispetto a tutte le posizioni n del fascio di illuminazione sul campione, detta immagine impronta digitale dipendendo contemporaneamente dalla funzione di diffusione del punto di illuminazione, nel seguito PSF dì illuminazione, h<exc >, e dalla funzione di diffusione del punto di rilevamento, nel seguito PSF di rilevamento, h<det >,
stimare matrici di spostamento s<x >e s<y >a partire dalle immagini di intensità
ricostruire almeno una fra:
i) una funzione oggetto risolta nel tempo f<t>, sulla base della pluralità di immagini risolte nel tempo dell'immagine impronta digitale a e delle matrici di spostamento s<x >e s<y>, e
ii) una funzione oggetto di intensità f, sulla base della pluralità di immagini di intensità
dell'immagine impronta digitale a e delle matrici di spostamento s<x >e s<y >, oppure integrando rispetto al tempo la funzione oggetto risolta nel tempo f<t >, e,
visualizzare almeno una fra immagine ad alta risoluzione risolta nel tempo f<t~ >e immagine ad alta risoluzione di intensità f<~>, sulla base di dette funzione oggetto risolta nel tempo e funzione oggetto di intensità.
Caratteristiche e vantaggi del metodo e del sistema microscopio proposti verranno presentati nel-la seguente descrizione dettagliata, che si riferisce ai disegni allegati, forniti unicamente a tito-lo di esempio non limitativo, in cui:
le figure 1a-1c sono schemi prospettici che rappresentano tre forme di realizzazione di uno spettrometro secondo l'invenzione;
la figura 1 riporta una rappresentazione funzionale di un microscopio secondo l'invenzione;
la figura 2 riporta una rappresentazione schematica di un rivelatore del microscopio di figura 1 (sinistra) e un'immagine impronta digitale (destra);
la figura 3 riporta le prestazioni di un prototipo secondo l'invenzione: risoluzione temporale (jitter) di un singolo elemento rivelatore (sinistra), risoluzione temporale in funzione della posizione dove è raccolto il fotone (centro) ed efficienza normalizzata di rilevamento fotoni all'interno dell'area attiva del rivelatore (destra); e
la figura 4 riporta un esempio di ricostruzione di un'immagine di intensità ad alta risoluzione. In alto, da sinistra verso destra: serie di immagini di intensità g ottenute con un array 5 per 5 di rivelatori SPAD (barra di scala: 1 μm), che mostrano il citoscheletro di una cellula fissa; immagine impronta digitale a calcolata da g; matrice di deriva d<x >e d<y >stimata da g; PSF calcolate per ciascun elemento dell'array di SPAD (barra di scala: 100 nm) ottenute dalla PSF di eccitazione hexc, dalla PSF di rilevamento hdet , e dalle matrici di spostamento s<x >e s<y >stimate. In basso, da sinistra verso destra: immagine di intensità registrata dal pixel centrale (barra di scala: 1 pm); immagine di intensità CLSM convenzionale a bassa risoluzione (barra di scala: 1 pm); immagine di intensità ricostruita mediante deconvoluzione multi-immagine (barra di scala: 1 μm).
Con riferimento alla figura 1 si descrive ora un'apparecchiatura di microscopio a scansione laser configurata per ottenere l'insieme di dati dai quali si estrae l'immagine risolta nel tempo e/o l'immagine di intensità ad alta risoluzione. In sintesi, l'apparecchiatura un'unità principale 10, di per sé convenzionale, e un modulo di rilevamento 20. Un fascio di eccitazione a singolo- o multifotone EB viene generato da una sorgente laser (non illustrata) e riflesso verso una lente obiettivo 11 tramite uno specchio dicroico 13. Tramite la lente obiettivo 11 il fascio di eccitazione viene focalizzato su un oggetto da analizzare (non illustrato). Con 14 è indicato un modulatore spaziale di luce, realizzato come un dispositivo a microspecchio, mentre con 15 è indicato un modulatore di tipo acusto-ottico (AOM) o elettro-ottico (EOM). Con 16 è indicato un dispositivo per realizzare la scansione dell'oggetto da analizzare, realizzato ad esempio come uno specchio galvanometrico. Il segnale di fluorescenza FS emesso dall'oggetto viene raccolto dalla stessa lente obiettivo 11 e trasmesso attraverso lo specchio dicroico 13 e attraverso un pìnhole confocale 17 verso il modulo dì rilevamento 20. Il pinhole 17 può essere completamente aperto (diametro >> 1 unità di Airy) quando necessario.
Il modulo di rilevamento 20 comprende essenzialmente un sistema a lente di zoom 21 e una matrice di elementi rivelatori 23, insieme con la relativa elettronica di controllo 25. Ciascuno degli elementi rivelatori della matrice 23 può essere un rivelatore SPAD o un rivelatore con simili prestazioni temporali.
La lente di zoom 21 coniuga il piano del pinhole 17 (che è posizionato in un piano immagine del sistema del microscopio) con il piano dove è posizionata la matrice di rivelatori 23. La funzione della lente di zoom 21 è quella di controllare le dimensioni fisiche della PSF di rilevamento proiettata nel piano immagine (o nel piano immagine coniugato) dove è posizionata la matrice di rivelatori 23. In altre parole, la lente di zoom 21 controlla le dimensioni fisiche dello spot di diffrazione di fluorescenza generato da una sorgente fluorescente di singolo punto posizionata nel piano oggetto e della quale si forma l'immagine sulla matrice di rivelatori 23. Essenzialmente, la lente di zoom 21 controlla l'ingrandimento del sistema nel piano immagine dove è posizionata la matrice di rivelatori 23. Tale ingrandimento è scelto in modo tale che (i) le dimensioni di ogni singolo elemento rivelatore, proiettata sul piano di rilevamento, sia molto minore di un'unità di Airy, e (ii) la maggior parte della luce di fluorescenza sia raccolta dalla matrice di rivelatori 23. Chiaramente tali due requisiti devono essere bilanciati quando si usa una matrice di rivelatori con un numero relativamente piccolo di elementi rivelatori.
L'introduzione della lente di zoom 21, invece di un molto più semplice telescopio a ingrandimento fisso, è preferibile per preservare la generalità del sistema, ad es. per lavorare con differenti lunghezze d'onda e differenti lenti di obiettivo.
La matrice di rivelatori 23 è rappresentata da una matrice (bidimensionale) di Mx x My elementi rivelatori, ciascuno dei quali è indipendente (si-stema pienamente parallelo), ha una sensibilità a livello di singolo fotone e ha una risoluzione temporale (basso jitter temporale) tale da permettere di misurare la vita media di fluorescenza dei più comuni fluorofori usati nella microscopia a fluorescenza. I parametri operativi della matrice di rivelatori (tensione di bias di eccesso, tempo di hold-off e il numero di elementi attivi) possono essere regolati prima di ogni misurazione.
Ciascun elemento della matrice di rivelatori 23 presenta un'area attiva quadrata (altre forme sono utilizzabili), circondata da una cornice inattiva (figura 2, sinistra). In analogia con altri dispositivi basati su pixel, il passo di pixel può essere definito come la distanza fra (i baricentri di) due pixel adiacenti (se il pixel è quadrato tali pixel giacciono sulla stessa linea o sulla stessa colonna). Una caratteristica importante del rivelatore è il fattore di riempimento che può essere calcolato come il rapporto fra l'area attiva e il quadrato del passo di pixel. L'efficienza di rilevamento dei fotoni (PDE) complessiva del rivelatore, cioè la probabilità che un fotone che raggiunge il rivelatore sia registrato, ha una diretta dipendenza dal fattore di riempimento. Per migliorare ulteriormente la PDE, si utilizza una matrice di microlenti 24 per convogliare i fotoni verso il centro di ciascun elemento rivelatore. Ciascun elemento della matrice di rivelatori segnala l'arrivo di un fotone con un segnale a logica TTL (logica transistor-transistor) su un canale digitale dedicato. Tre linee digitali addizionali costituiscono un bus di comunicazione utile per la configurazione iniziale dell'intera matrice durante l'avvio della misurazione.
L'elettronica di controllo e l'acquisizione dati del modulo di rilevamento 20 sono sviluppati con un processore field-programmable-gate-array (FPGA). Ciò permette di integrare tutti i fotoni raccolti durante il tempo di permanenza sul singolo punto n (modo intensità) o di misurare i tempi di arrivo rispetto a un segnale di riferimento esterno (ad es. l'impulso del laser di eccitazione) grazie all'integrazione onboard di convertitori tempodigitale (TDC) (modo risolto nel tempo o TCSPC).
È importante sottolineare che il rivelatore e l'elettronica di acquisizione dati sono configurati per operare in modo completamente asincrono, cioè quando un fotone viene rilevato, viene contato o se ne misura il tempo di arrivo, e gli elementi sono indipendenti l'uno dall'altro, senza un frame-rate limitata o gli inconvenienti di una lettura sequenziale.
La comunicazione (sincronizzazione) con il sistema di controllo del microscopio (indicato con 18 in figura 1) è effettuata tramite linee digitali di clock di pixel/linea/immagine, fornite dal produttore.
Prima di descrivere il metodo secondo l'invenzione, è necessario introdurre la formazione dell'immagine nel caso di imaging risolto nel tempo.
Usando una formulazione continua l'operatore diretto che descrive la formazione delle immagini per il caso risolto nel tempo è il seguente
dove è f la funzione oggetto che include anche l'informazione temporale, cioè la distribuzione/probabilità di emettere un fotone fluorescente dopo un certo tempo dall'evento di eccitazione. La convoluzione è applicata solo sulla dimensione spaziale.
Passo 1. Registrare la serie/matrice di immagini risolte nel tempo (o TCSPC) g<t >con l'architettura sopra descritta.
Per differenti posizioni del fascio laser focalizzato di eccitazione (a singolo fotone o multifotone) sul campione, i segnali generati dagli elementi della matrice di rivelatori 23 vengono letti, e viene ottenuta la serie/matrice di immagini risolte nel tempo g<t>
con
Essenzialmente, ogni immagine è una matrice tridimensionale dove l'asse temporale t riporta l'istogramma del tempo di arrivo dei fotoni ottenuto con la misurazione TCSPC, cioè il numero di fotoni raccolti in un pixel spaziale (nx,ny) e in una certa finestra temporale (contenitore temporale) t dall'evento di eccitazione.
Passo 2. Calcolare la serie di immagini di intensità g da g<t>
Data la matrice TCSPC di immagini g<t >raccolta con l'apparecchiatura sopra descritta in modo TCSPC, si integra la matrice nella dimensione temporale e si ottiene la matrice di immagini di intensità g
Passo 3. Calcolare l'immagine "impronta digitale" a Data la matrice delle immagini di intensità g si calcola la cosiddetta immagine "impronta digitale" a, dalla quale si stima la PSF di eccitazione h<exc >e la PSF di rilevamento h<det>.
L'immagine impronta digitale a è definita come segue. Tutti i fotoni raccolti da ciascun elemento rivelatore durante un'intera misurazione vengono integrati, producendo l'immagine impronta digitale a . In pratica, durante un singolo esperimento si ottengono Mx x My immagini, e l'immagine impronta digitale a viene prodotta sommando tutti i valori di intensità immagine per immagine:
Per comprendere le proprietà dell'immagine impronta digitale a e come ottenere le PSF da essa, è importante derivare a nel dominio continuo.
Considerando una matrice di rivelatori composta da elementi infinitesimali, si osserva che l'immagine gx,y, acquisita da un elemento in corrispondenza della posizione si può esprimere come
dove / è la funzione oggetto/campione, denota la PSF associata all'elemento rivelatore nella posizione e * denota l'operatore convoluzione; l'immagine impronta digitale a(x',y') , definita rispetto alle coordinate del rivelatore, è
Applicando la proprietà di integrazione della convoluzione, l'immagine impronta digitale è
dove Φ è il flusso totale di fotoni dal campione. Si noti che a(x',y') è indipendente dal campione nella condizione Φ>0 (Φ» 0), ma è strettamente connesso alla PSF del sistema del microscopio.
Ricordando che la PSF di ciascun elemento infinitesimale è
e sostituendo nell'equazione precedente, è possibile ottenere
dove * denota l'operatore correlazione. In sintesi, l'immagine impronta digitale è dipendente dallo strumento e indipendente dal campione. Inoltre, essa dipende sia dalla PSF di eccitazione sia dalla PSF di rilevamento.
Si noti che l'immagine impronta digitale può essere usata anche per allineare il sistema. In particolare, per co-allineare la PSF di eccitazione e la PSF di rilevamento sul pixel centrale (icjc) della matrice di rivelatori. Tale procedura è molto importante per un rivelatore con un numero piccolo di elementi. Un disallineamento produce una perdita di fotoni di fluorescenza. Se il sistema è correttamente allineato, il pixel centrale è il più luminoso e i valori di intensità dei pixel sono distribuiti simmetricamente e isotropicamente rispetto al centro. È così possibile implementare un sistema di controllo a retroazione (feedback) che misura l'immagine impronta digitale e regola di conseguenza la posizione xy del rivelatore per massimizzare l'intensità del pixel centrale.
Inoltre l'immagine impronta digitale può essere utilizzata come figura di merito per adattare in continuo degli elementi ottici (ottica adattiva, adaptive optics, AO) quali modulatori di luce spaziale (spatial light modulator, SLM) o specchi deformabili (deformable mirror, DM)e compensare aberrazioni ottiche introdotte dal campione o dal sistema microscopio durante la focalizzazione del fascio laser o del fascio di fluorescenza.
Passo 4. Stimare le matrici di spostamento s<x >e s<y >, le matrici di deriva d<x >e d<y >, e l'ingrandimento del microscopio Magn
Data la matrice delle immagini di intensità g si calcolano le matrici di spostamento s<x >e s<y >.
Come descritto per il metodo di riassegnazione dei pixel ogni immagine è traslata (nel piano immagine) rispetto a di metà della distanza fra l'elemento ( i.j) e l'elemento ( ic,jc) , cioè
<e> Pertanto le matrici di spostamento s<x >e s<y >possono essere stimate recuperando lo spostamento fra le differenti immagini Diversamente dalla tecnica nota [9] si usa un metodo di correlazione di fase per la sua resilienza al rumore e la maggior velocità rispetto agli algoritmi nel dominio spaziale. La correlazione di fase stima lo spostamento fra due immagini simili affidandosi a una rappresentazione dei dati nel dominio delle frequenze, che nella presente descrizione è ottenuta mediante trasformate veloci di Fourier (FFT).
Per calcolare la correlazione di fase fra le due differenti immagini del campione
si definisce prima il cosiddetto correlogramma
e successivamente si trova il massimo del correlogramma, la cui posizione denota la deriva fra le due immagini:
La posizione del massimo è ottenuta usando un algoritmo di fitting o un algoritmo basato su centroide per ottenere valori sub-pixel, dove
Date le matrici di deriva d<x >e d<y >, le matrici di spostamento s<x >e s<y >possono essere calcolate come segue
Altri approcci che stimano le matrici di spostamento usano: (i) un modello teorico, basato sulla distanza fisica fra gli elementi rivelatori e l'ingrandimento del sistema, (ii) un campione di calibrazione, ad es. sfere.
Tuttavia, tali approcci non permettono di tener conto delle peculiarità di ciascun campione e delle condizioni della specifica misurazione. Inoltre, l'ingrandimento del campione non è sempre facile da stimare. Dall'altro lato, l'approccio sopra descritto è sensibile all'assunto di forma gaussiana per la PSF di eccitazione e per la PSF di rilevamento. Tuttavia, per (i,j) entro il primo disco di Airy centrato in ( ic,jc) l'assunto è solido e la stima di s<x/y>(i,j) è robusta. Un approccio ottimale potrebbe integrare nella stima del massimo del correlogramma alcuni vincoli basati su conoscenze legate alla forma geometrica del rivelatore e sull'ingrandimento del sistema.
L'ingrandimento Magn del sistema può essere determinato usando i valori di stimati per i vicini del primo ordine ( N ) dell'elemento (ic, jc ) , cioè unitamente al passo di pixel del detector (PP) e alla dimensione di pixel dell'immagine (DP):
Passo 5. Calcolare la funzione oggetto risolta nel tempo f<t >.
Data la matrice delle immagini risolte nel tempo g<t >, l'immagine impronta digitale a e le matrici di spostamento s<x >, s<y >si calcola una stima della funzione oggetto f<t >nel modo descritto qui di seguito (passi 5.1-5.3).
Passo 5.1. Stimare la PSF di eccitazione h<exc >e la PSF di rilevamento h<det>
Sulla base della relazione con l'immagine impronta digitale a sopra descritta, la PSF di eccitazione h<exc >e la PSF di rilevamento h <det >possono essere stimate secondo il problema di minimizzazione
o
nel caso di una parametrizzazione delle PSF. Qui il funzionale MSE è
La minimizzazione della funzione MSE può essere effettuata con tecniche numeriche secondo pratiche note.
Passo 5.2. Calcolare la funzione oggetto risolta nel tempo mediante deconvoluzione multi-immagine (MID).
Poiché tutta l'informazione riguardante le PSF (compresi i valori di spostamento) è stata precedentemente stimata, il problema originale può essere risolto usando una deconvoluzione multi-immagine convenzionale, in particolare minimizzando la distanza di Kullback-Leibler (KL) o la distanza dell'errore quadratico medio (MSE)
Nel caso risolto nel tempo, la distanza KL è
e la distanza MSE è
La minimizzazione del funzionale MSE o KL può essere effettuata con tecniche numeriche secondo le pratiche note.
Passo 5.3. Calcolare la funzione oggetto risolta nel tempo f<t >mediante riassegnazione dei pixel (PR).
Seguendo l'approccio della riassegnazione dei pixel un'immagine risolta nel tempo ad alta risoluzione può essere ottenuta semplicemente sommando tutte le immagini dopo aver spostato indietro ogni immagine della quantità stimata
Essenzialmente, ciascuna immagine 2D associata a ciascun contenitore temporale e a ciascun elemento rilevatore viene spostata indipendentemente. Per tale ragione sia la FFT sia la FFT inversa sono effettuate in 2d.
Passo 6. Calcolare la funzione oggetto di intensità f.
Data: (i) la matrice di immagini di intensità g, l'immagine impronta digitale a, e le matrici di spostamento s<x >, s<y >o (ii) la funzione oggetto risolta nel tempo f<t >precedentemente stimata, si calcola una stima della funzione oggetto di intensità f, nel modo descritto gui di seguito (passi 6.1-6.3).
Passo 6.1. Calcolare la funzione oggetto di intensità f mediante integrazione temporale.
Data l'immagine risolta nel tempo ad alta risoluzione è possibile ottenere un'immagine di intensità ad alta risoluzione integrando la dimensione temporale della funzione oggetto risolta nel tempo ricostruita
Passo 6.2. Calcolare la funzione oggetto di intensità f mediante deconvoluzione multi-immagine.
Data la PSF di eccitazione h<exc>, la PSF di rilevamento hdet e le matrici di spostamento s<x>,s<y >la funzione oggetto di intensità f può essere calcolata direttamente dalla serie di immagini di intensità g mediante deconvoluzione multi-immagine e senza stimare la funzione oggetto risolta nel tempo f<t >, con una sostanziale riduzione dello sforzo computazionale.
In questo caso è necessario minimizzare la distanza KL o MSE solo rispetto a f
La minimizzazione del funzionale MSE o KL può essere effettuata con tecniche numeriche secondo pratiche note.
Passo 6.3. Calcolare la funzione oggetto di intensità f mediante riassegnazione dei pixel.
Date le matrici di spostamento s<x>,s<y>, la funzione oggetto di intensità f può essere calcolata direttamente dalla serie di immagini di intensità g mediante riassegnazione dei pixel e senza stimare la funzione oggetto risolta nel tempo f<t >, con una sostanziale riduzione dello sforzo computazionale.
In guesto caso la stima di riassegnazione dei pixel è
Se l'apparecchiatura del microscopio opera nel modo intensità (cioè senza effettuare misure TCSPC) viene generata solo la matrice di immagini di intensità g . In questo caso si possono usare solo i metodi proposti nei passi 6.2 e 6.3. Per un fascio laser che opera in onda continua decade l'importanza di registrare il segnale nel modo TCSPC.
I vantaggi tecnici legati ai metodi sopra descritti sono i seguenti.
Ricostruzione delle immagini di intensità (o risolte nel tempo) robusta e senza parametri.
La capacità di stimare separatamente le PSF e le matrici di spostamento e solo successivamente una stima della funzione campione rende il metodo di ricostruzione più robusto. La stima delle matrici di spostamento usando un approccio di correla
zione di fase permette risultati sub-pixel e calcoli rapidi.
Immagine impronta digitale.
La corretta impostazione del sistema (in termini di allineamento xy) può essere ottenuta mediante un sistema di controllo ad anello chiuso (sistema di retroazione) che usa l' "immagine impronta digitale" come metrica ed elementi meccanici per muovere il rivelatore lungo x e y.
Compatibilità con le misurazioni risolte nel tempo.
Ciò permette di combinare ISM con l'imaging di vita media di fluorescenza (FLIM).
Semplice (ed eventualmente automatico) allineamento del sistema, grazie all' "immagine impronta digitale".
I principali vantaggi tecnici dell'apparecchiatura sopra descritta sono i seguenti.
Matrice di rilevatori SPAD
I fotoni sono raccolti da una matrice di Mx per My rivelatori a foto-diodo a valanga a singolo fotone (SPAD) con sensibilità a livello di fotone (nell'esempio illustrato la matrice è composta da 25 elementi, cioè Mx e My sono uguali a 5). Si può dimostrare che, anche con un numero relativamente basso di elementi (>= 25 elementi), la risoluzione spaziale dell'immagine ricostruita (mediante PR) si avvicina al miglioramento di risoluzione teorico del microscopio confocale a pinhole chiuso. Tale considerazione è cruciale perché un numero grande di elementi rivelatori richiederebbe 1) un'elettronica strettamente integrata, sacrificando il fattore di riempimento, e 2) una lettura sequenziale (lo stesso principio della camera), introducendo un frame-rate e scartando l'informazione temporale alla sorgente.
Tutti i rivelatori sono pienamente indipendenti l'uno dall'altro: (i) l'interferenza (cross-talk) fra gli elementi è trascurabile (la matrice di SPAD mostra valori di interferenza < 1% per i primi vicini in orizzontale e < 0.2% per i primi vicini in diagonale) e (ii) ciascun elemento rivela l'arrivo di un fotone immediatamente con un segnale digitale di tipo TTL su una linea dedicata. Dispositivi caratterizzati da quest'ultima proprietà vengono talvolta indicati con i nomi di "camere comandate da eventi" o "camere asincrone", perché ogni fotone genera un segnale di accensione e non vi è un frame-rate fisso.
Tutti i rivelatori hanno un jitter temporale (o risoluzione temporale) pienamente compatibile con la misura del tempo di vita medio dello stato eccitato dei fluorofori più usati nella microscopia di fluorescenza, i cui valori ricadono nell'intervallo 1-10 ns (la matrice SPAD ha una risoluzione temporale fra 110 e 160 ps).
Tutti i rivelatori hanno un hold-off che garantisce ampiezze di banda di lettura compatibili con sistemi di scansione veloci (nella matrice SPAD sopra descritta, il tempo di hold-off e la tensione di bias di eccesso possono essere impostati con un bus di comunicazione rispettivamente nell'intervallo da 25 ns a 200 ns, e da 4V a 6V). Ad esempio, la possibilità di impostare 1'hold-off a 25 ns permette ad ogni singolo elemento di lavorare con un'ampiezza di banda di lettura di 40 MHz. Inoltre, l'indipendenza fra tutti gli elementi rivelatori permette una maggior ampiezza di banda effettiva di lettura del sistema di.rivelatori: dato che nell'architettura di scansione laser puntiforme sopra descritta le dimensioni della matrice SPAD proiettate sul piano oggetto sono minori delle dimensioni di diffrazione, i fotoni generati dal volume di osservazione (scansionato lungo il campione) sono diffusi sull'intera matrice di rivelatori, pertanto la matrice SPAD può raccogliere un flusso di fotoni (generato dal volume di osservazione) più elevato della lettura da singolo elemento. Tale caratteristica tecnica è particolarmente importante quando si combina il rivelatore con un sistema di scansione risonante veloce, quali specchi risonanti o ottiche a fuoco regolabile basate su gradiente acustico.
Una matrice di Mx per My microlenti, nella quale ciascuna lente è focalizzata nel centro di un elemento della matrice di rivelatori, può essere utilizzata per incrementare il fattore di riempimento e quindi l'efficienza di rilevamento dei fotoni (PDE). Un sistema a lente di zoom è utilizzato per espandere il fascio di rilevamento, in modo tale che le dimensioni dell'intero rivelatore, proiettate sul piano di rilevamento, siano intorno a 1 unità di Airy. Il sistema a lente di zoom garantisce la generalità dell'architettura sopra descritta, in termini della lunghezza d'onda utilizzata, dell'ingrandimento e dell'apertura numerica dell'obiettivo.
Processore FPGA
L'elettronica di controllo del sistema è stata sviluppata usando hardware riconfigurabile. Un processore FPGA permette di acquisire il segnale da un numero sufficiente di linee digitali. Un convertitore digitale di intervalli di tempo (TDC) implementato direttamente sul processore FPGA permette di acquisire un segnale digitale con una risoluzione temporale (jitter temporale) di decine di picosecondi.
Un prototipo è stato costruito dagli inventori, modificando la parte di rilevamento di un CLSM. Lo strumento è equipaggiato con una sorgente laser di eccitazione con una lunghezza d'onda di 635 nm (LDH-D-C640, PicoQuant). Il fascio laser viene scansionato sul campione da una coppia di specchi galvanometrici (6215HM40B, CTI-Cambridge) e una lente di obiettivo (CFI Pian Apo VC60x oil, Nikon). I fotoni fluorescenti sono raccolti dalla stessa lente obiettivo, de-scansionati e filtrati da uno specchio dicroico (H643LPXR, AHF Analysentechnik). Infine, il fascio viene espanso e proiettato sulla matrice di rivelatori SPAD. La matrice di rivelatori ha 25 elementi disposti in una matrice 5 per 5, è montata su un supporto commerciale con viti micrometriche per l'allineamento fine sui tre assi.
Sono state determinate le prestazioni spaziali e temporali del rivelatore, mostrando un jitter fra 110 e 160 ps all'interno dell'area attiva e un'eccellente uniformità del rilevamento (figura 3). Il sistema può essere allineato e l'ingrandimento regolato usando il metodo della "matrice di allineamento" sopra descritto, per effettuare immagini di campioni reali (figura 4).
La matrice di rivelatori è comandata da una scheda operativa dedicata che fornisce l'alimentazione e fornisce il condizionamento del segnale elettronico. La scheda fornisce 25 canali di uscita digitale (ognuno legato all'arrivo di un fotone su uno specifico elemento della matrice di rivelatori), che vengono immessi nel sistema di acquisizione dati.
Il sistema di acquisizione dati è stato sviluppato con una scheda di sviluppo FPGA commerciale (National Instruments USB-7856R), provvista di un processore FPGA Kintex7, collegato a un personal computer. Per sincronizzare il sistema di acquisizione con il sistema di controllo del microscopio sono state utilizzate linee digitali di clock pixel/linea/immagine standard.
Quando il microscopio è utilizzato per imaging in tempo reale, i fotoni raccolti da ciascun pixel da ciascun rivelatore vengono processati da algoritmi dedicati eseguiti su unità di elaborazione grafica (GPU) per fornire in tempo reale immagini ad alta risoluzione del campione.
Naturalmente sono possibili modifiche rispetto all'architettura del sistema e agli utilizzi dei metodi sopra descritti.
Ad esempio, anche se il numero di elementi (25, disposti in una matrice 5 per 5) è stato scelto come un compromesso ottimale fra guadagno di risoluzione e complessità del sistema di acguisizione (ogni elemento costituisce un canale digitale), il numero di elementi può essere aumentato a 49 (matrice 7 per 7) o 81 (matrice 9 per 9).
Inoltre, il sistema di rilevamento basato sulla matrice SPAD può essere utilizzato per altre tecniche di microscopia a scansione puntiforme laser non basate sulla fluorescenza, quali microscopia a generazione di seconda armonica, Raman e scattering.
Inoltre, il sistema di rilevamento può essere usato nella microscopia a deplezione mediante emissione stimolata (microscopia STED).
Poiché l'immagine impronta digitale è una diretta rappresentazione delle PSF di illuminazione e rilevamento, è possibile utilizzare l'immagine impronta digitale per derivare una metrica da fornire a un sistema di controllo ad ottica adattiva (ad esempio, basato su modulatori spaziali di luce SLM) per compensare aberrazioni indotte dal sistema o dal campione.
Riferimenti bibliografici
[1] US 4549204 A
[2] Super-resolution in confocal imaging. Sheppard, C.J.R., Optik, 80(2), (1988)
[3] Image scanning microscopy. Muller, C. B., Enderlein, J., Phys. Rev. Lett. 104, 198101 (2010) [4] Optical Photon Reassignment Microscopy (OPRA). Roth, S., Sheppard, C.J.R., Wicker, K., Heintzmann, R., Optical Nanoscopy, 2-5, (2013)
[5] Re-scan confocal microscopy: scanning twice for better resolution. De Luca, G.M.R. et al., Biomedicai Optics Express 2014, 4(11)
[6] Rapid nonlinear image scanning microscopy. Gregor, I. et al., Nature Methods 2017, In Press [7] WO 2015/055534 Al
[8] Method of super-resolution based on array detection and maximum-likelihood estimation. Li, H. et al., Applied Optics 2016, 55(35): 9925-9931
[9] Parallel detecting super-resolution microscopy using correlation-based image restoration. Yu, Z. et al., Optics Communications 2017, 404(35): 139-146

Claims (9)

  1. RIVENDICAZIONI 1. Metodo di funzionamento di un microscopio a scansione laser puntiforme, comprendente scansionare un campione con un fascio laser focalizzato di illuminazione (EB); registrare, per mezzo di una matrice di elementi rivelatori (23), una pluralità di immagini del campione durante una scansione del fascio laser, in cui ciascuno (i,j) di detti elementi rivelatori genera un segnale di rilevamento per ciascuna di differenti posizioni n del fascio di illuminazione (EB) sul campione, a partire dal quale con la scansione del campione si produce una rispettiva immagine del campione, e in cui detti elementi rivelatori (23) sono configurabili in un modo intensità, nel quale le immagini registrate sono immagini di intensità gi,j (n) relative ai fotoni raccolti nell'intero tempo di permanenza del fascio di illuminazione sulla singola posizione n, o in un modo risolto nel tempo, nel quale le immagini registrate sono immagini risolte nel tempo nelle quali i fotoni raccolti sono discriminati sulla base dei loro tempi di arrivo ai singoli elementi rivelatori (23); se gli elementi rivelatori (23) sono configurati nel modo risolto nel tempo, calcolare una pluralità di immagini di intensità gij(n), integrando rispetto al tempo la pluralità di immagini risolte nel tempo
    calcolare un'immagine impronta digitale a, sommando la pluralità di immagini di intensità rispetto a tutte le posizioni n del fascio di illuminazione (EB) sul campione, detta immagine impronta digitale dipendendo contemporaneamente da una funzione di diffusione del punto di illuminazione, nel seguito PSF di illuminazione, h<exc >, e da una funzione di diffusione del punto di rilevamento, nel seguito PSF di rilevamento, h<det>, stimare matrici di spostamento s<x >e s<y >a partire dalle immagini di intensità ricostruire almeno una fra: i) una funzione oggetto risolta nel tempo f<t>, sulla base della pluralità di immagini risolte nel tempo , dell'immagine impronta digitale a e delle matrici di spostamento s<x >e s<y>, e ii) una funzione oggetto di intensità f, sulla base della pluralità di immagini di intensità gi,j (n) , dell'immagine impronta digitale a e delle matrici di spostamento s<x >e s<y >, oppure integrando rispetto al tempo la funzione oggetto risolta nel tempo f<t >, e, visualizzare almeno una fra immagine ad alta risoluzione risolta nel tempo f<t>~ e immagine ad alta risoluzione di intensità f~, sulla base di dette funzione oggetto risolta nel tempo e funzione oggetto di intensità.
  2. 2. Metodo secondo la rivendicazione 1, in cui ricostruire la funzione oggetto risolta nel tempo f<t >comprende: stimare la PSF di illuminazione h<exc >e la PSF di rilevamento h<det >sulla base dell'immagine impronta digitale a, e stimare la funzione oggetto risolta nel tempo f<t>mediante deconvoluzione multi-immagine.
  3. 3. Metodo secondo la rivendicazione 1, in cui ricostruire la funzione oggetto risolta nel tempo f<t >comprende: calcolare la funzione oggetto risolta nel tempo f*mediante riassegnazione dei pixel.
  4. 4. Metodo secondo una delle rivendicazioni precedenti, in cui ricostruire la funzione oggetto di intensità f comprende stimare la PSF di illuminazione h<exc >e la PSF di rilevamento h<det >sulla base dell'immagine impronta digitale a, e stimare la funzione oggetto di intensità fmediante deconvoluzione multi-immagine.
  5. 5. Metodo secondo una delle rivendicazioni 1 a 4, in cui ricostruire la funzione oggetto di intensità f comprende calcolare la funzione oggetto di intensità fmediante riassegnazione dei pixel.
  6. 6. Metodo secondo una delle rivendicazioni precedenti, comprendente inoltre allineare detta matrice di elementi rivelatori (23) con un asse ottico del microscopio a scansione sulla base dell'immagine impronta digitale a calcolata.
  7. 7. Metodo secondo una delle rivendicazioni precedenti, comprendente inoltre calcolare l'ingrandimento del microscopio sulla base delle matrici di spostamento s<x >e s<y >stimate.
  8. 8. Microscopio a scansione configurato per attuare un metodo secondo una delle rivendicazioni precedenti.
  9. 9. Microscopio secondo la rivendicazione 8, comprendente una matrice di elementi rivelatori (23), ciascun elemento rivelatore essendo un rivelatore a singolo punto e presentando una risoluzione temporale dell'ordine di 100 ps.
IT201800001891A 2018-01-25 2018-01-25 Metodo di imaging risolto nel tempo ad alta risoluzione spaziale. IT201800001891A1 (it)

Priority Applications (6)

Application Number Priority Date Filing Date Title
IT201800001891A IT201800001891A1 (it) 2018-01-25 2018-01-25 Metodo di imaging risolto nel tempo ad alta risoluzione spaziale.
EP19702971.3A EP3743758B1 (en) 2018-01-25 2019-01-24 Time-resolved imaging method with high spatial resolution
PCT/IB2019/050595 WO2019145889A1 (en) 2018-01-25 2019-01-24 Time-resolved imaging method with high spatial resolution
US16/961,819 US11422348B2 (en) 2018-01-25 2019-01-24 Time-resolved imaging method with high spatial resolution
CN201980010127.2A CN111971606B (zh) 2018-01-25 2019-01-24 具有高空间分辨率的时间分辨成像方法
JP2020540440A JP7181537B2 (ja) 2018-01-25 2019-01-24 高空間分解能の時間分解イメージング法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
IT201800001891A IT201800001891A1 (it) 2018-01-25 2018-01-25 Metodo di imaging risolto nel tempo ad alta risoluzione spaziale.

Publications (1)

Publication Number Publication Date
IT201800001891A1 true IT201800001891A1 (it) 2019-07-25

Family

ID=62386649

Family Applications (1)

Application Number Title Priority Date Filing Date
IT201800001891A IT201800001891A1 (it) 2018-01-25 2018-01-25 Metodo di imaging risolto nel tempo ad alta risoluzione spaziale.

Country Status (6)

Country Link
US (1) US11422348B2 (it)
EP (1) EP3743758B1 (it)
JP (1) JP7181537B2 (it)
CN (1) CN111971606B (it)
IT (1) IT201800001891A1 (it)
WO (1) WO2019145889A1 (it)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023509611A (ja) * 2019-12-24 2023-03-09 ジ オーストラリアン ナショナル ユニバーシティ レーザースキャンシステム
DE102020120190A1 (de) * 2020-07-30 2022-02-03 Carl Zeiss Microscopy Gmbh Verfahren zum detektieren von emissionslicht, detektionsvorrichtung und laser-scanning-mikroskop
IT202100017018A1 (it) 2021-06-29 2022-12-29 Fondazione St Italiano Tecnologia Imaging simultaneo multispecie in super-risoluzione mediante multiplazione temporale e array di rivelatori a fotone singolo
CN117091760B (zh) * 2023-10-20 2024-02-13 国科大杭州高等研究院 单光子时间相关测距和气体浓度探测方法、装置及介质
CN117369106B (zh) * 2023-12-05 2024-03-08 北京大学 一种多点共聚焦图像扫描显微镜及成像方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2317362A1 (de) * 2009-10-28 2011-05-04 Carl Zeiss MicroImaging GmbH Mikroskopisches Verfahren und Mikroskop mit gesteigerter Auflösung
DE102012023024A1 (de) * 2012-11-07 2014-05-08 Carl Zeiss Microscopy Gmbh Lichtmikroskop und Mikroskopieverfahren

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8204551A (nl) 1981-11-26 1983-06-16 Secr Defence Brit Afbeeldingssystemen met beperkte diffractie.
JP6002232B2 (ja) 2011-10-25 2016-10-05 センター フォー スペース サイエンス アンド アプライド リサーチ、 チャイニーズ アカデミー オブ サイエンスズCenter For Space Science And Applied Research, Chinese Academy Of Sciences 時間分解単一光子計数イメージングスペクトルシステム
JP6253266B2 (ja) 2013-06-11 2017-12-27 オリンパス株式会社 共焦点画像生成装置
DE102013218795A1 (de) 2013-09-19 2015-03-19 Carl Zeiss Microscopy Gmbh Laserscanningmikroskop und Verfahren zur Korrektur von Abbildungsfehlern insbesondere in der hochauflösenden Scanning-Mikroskopie
DE102013015933A1 (de) * 2013-09-19 2015-03-19 Carl Zeiss Microscopy Gmbh Hochauflösende Scanning-Mikroskopie
DE102013017124A1 (de) 2013-10-15 2015-04-16 Carl Zeiss Microscopy Gmbh Scanmikroskop und Verfahren zum Betreiben eines Scanmikroskops
DE102014111167A1 (de) * 2014-08-06 2016-02-11 Carl Zeiss Microscopy Gmbh Hochauflösende Scanning-Mikroskopie mit der Unterscheidung mindestens zweier Wellenlängenbereiche
CN104807761A (zh) * 2015-05-08 2015-07-29 南开大学 一种实现微区光谱测量的光谱仪设计方法
DE102015116435A1 (de) * 2015-09-29 2017-03-30 Carl Zeiss Microscopy Gmbh Hochauflösende Scanning-Mikroskopie mit der Unterscheidung mindestens zweier Spektralbereiche
CN107402197A (zh) * 2017-02-23 2017-11-28 武汉能斯特科技有限公司 一种延迟发光的扫描探测方法及设备
DE102018104693A1 (de) * 2018-03-01 2019-09-05 Carl Zeiss Microscopy Gmbh Verfahren zur beschleunigten, hochauflösenden Scanning-Mikroskopie

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2317362A1 (de) * 2009-10-28 2011-05-04 Carl Zeiss MicroImaging GmbH Mikroskopisches Verfahren und Mikroskop mit gesteigerter Auflösung
DE102012023024A1 (de) * 2012-11-07 2014-05-08 Carl Zeiss Microscopy Gmbh Lichtmikroskop und Mikroskopieverfahren

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CLAUS B. M?LLER ET AL: "Image Scanning Microscopy", PHYSICAL REVIEW LETTERS, vol. 104, no. 19, 1 May 2010 (2010-05-01), XP055153448, ISSN: 0031-9007, DOI: 10.1103/PhysRevLett.104.198101 *
GIULIA M.R. DE LUCA ET AL: "Re-scan confocal microscopy: scanning twice for better resolution", BIOMEDICAL OPTICS EXPRESS, vol. 4, no. 11, 25 October 2013 (2013-10-25), pages 2644, XP055141694, ISSN: 2156-7085, DOI: 10.1364/BOE.4.002644 *

Also Published As

Publication number Publication date
US11422348B2 (en) 2022-08-23
CN111971606A (zh) 2020-11-20
CN111971606B (zh) 2022-01-18
WO2019145889A1 (en) 2019-08-01
JP2021510850A (ja) 2021-04-30
EP3743758B1 (en) 2022-03-02
US20200386974A1 (en) 2020-12-10
EP3743758A1 (en) 2020-12-02
JP7181537B2 (ja) 2022-12-01

Similar Documents

Publication Publication Date Title
IT201800001891A1 (it) Metodo di imaging risolto nel tempo ad alta risoluzione spaziale.
US10606055B2 (en) Aperture scanning Fourier ptychographic imaging
US9435993B2 (en) Three dimensional microscopy imaging
US20170276608A1 (en) Super resolution microscopy
ITTO20130692A1 (it) Microscopia a deplezione mediante emissione stimolata (sted), con gating temporale del fascio di eccitazione e rilevamento sincrono dell&#39;emissione di fluorescenza
Popleteeva et al. Fast and simple spectral FLIM for biochemical and medical imaging
US11231323B2 (en) Time-resolved hyper-spectral single-pixel imaging
Nikolenko et al. Spatial light modulator microscopy
Michalet et al. New photon-counting detectors for single-molecule fluorescence spectroscopy and imaging
US20200378830A1 (en) System and method for hyperspectral imaging in highly scattering media by the spectral phasor approach using two filters
Ingargiola et al. Parallel multispot smFRET analysis using an 8-pixel SPAD array
Ingelberts et al. A proof-of-concept fluorescence lifetime camera based on a novel gated image sensor for fluorescence-guided surgery
Lapauw et al. Sub-nanosecond time-gated camera based on a novel current-assisted CMOS image sensor
Fang et al. Wide-field intensity fluctuation imaging
Gennerich et al. Sizing-up finite fluorescent particles with nanometer-scale precision by convolution and correlation image analysis
Tosi et al. TIME-RESOLVED IMAGING METHOD WITH HIGH SPATIAL RESOLUTION
Park et al. Advancements in fluorescence lifetime imaging microscopy Instrumentation: Towards high speed and 3D
Kazarine et al. Third Harmonic Generation Imaging using Common Histological Dyes
Schmidt et al. Method for High Frequency Tracking and Sub-Nm Sample Stabilization in Single-Molecule Fluorescence Microscopy
Kim et al. Real-time fluorescence lifetime imaging microscopy implementation by analog mean-delay method through parallel data processing
Ghezzi et al. Time-resolved multi-spectral wide-field fluorescence lifetime imaging microscopy with a SPAD array detector
Oleske Multi-Modal Superresolution Microscopy through Superresolution Radial Fluctuations (SRRF)
IT202100017018A1 (it) Imaging simultaneo multispecie in super-risoluzione mediante multiplazione temporale e array di rivelatori a fotone singolo
Weiss et al. Monitoring Self-Organization Events in the Early Embryogenesis of Caenorhabditis elegans with Lightsheet Microscopy
Fang et al. Precision of Time Super-Resolution Imaging by Event Correlation Microscopy