EP2158522B1 - Analytisches verfahren zur berechnung von videohologrammen in echtzeit - Google Patents

Analytisches verfahren zur berechnung von videohologrammen in echtzeit Download PDF

Info

Publication number
EP2158522B1
EP2158522B1 EP08750322.3A EP08750322A EP2158522B1 EP 2158522 B1 EP2158522 B1 EP 2158522B1 EP 08750322 A EP08750322 A EP 08750322A EP 2158522 B1 EP2158522 B1 EP 2158522B1
Authority
EP
European Patent Office
Prior art keywords
hologram
sub
region
object point
slm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
EP08750322.3A
Other languages
English (en)
French (fr)
Other versions
EP2158522A2 (de
Inventor
Alexander Schwerdtner
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SeeReal Technologies SA
Original Assignee
SeeReal Technologies SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SeeReal Technologies SA filed Critical SeeReal Technologies SA
Publication of EP2158522A2 publication Critical patent/EP2158522A2/de
Application granted granted Critical
Publication of EP2158522B1 publication Critical patent/EP2158522B1/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/02Details of features involved during the holographic process; Replication of holograms without interference recording
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0808Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/22Processes or apparatus for obtaining an optical image from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/22Processes or apparatus for obtaining an optical image from holograms
    • G03H1/2294Addressing the hologram to an active spatial light modulator
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0808Methods of numerical synthesis, e.g. coherent ray tracing [CRT], diffraction specific
    • G03H2001/0833Look up table
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2210/00Object characteristics
    • G03H2210/40Synthetic representation, i.e. digital or optical object decomposition
    • G03H2210/45Representation of the decomposed object
    • G03H2210/452Representation of the decomposed object into points

Definitions

  • a method is to be created whereby hologram values for Object points can be calculated at any position within the reconstruction space, the frustrum.
  • the associated hologram values are to be determined in real time.
  • the object of the invention is to significantly reduce the expenditure required for determining the hologram values and thus to underpin the real-time capability of the method.
  • the imaging element is located in the hologram plane of the holographic display device.
  • the hologram plane is defined by the location of a screen means, with the screen means being the light modulator itself for simplicity in the following explanations.
  • the pixel values for a particular holographic display device are determined based on the complex hologram values of the overall hologram (or sub-hologram).
  • the complex hologram values are converted to Burckhardt components, two-phase components, or other suitable coding.
  • This method is based on the advantage that the position of the object point to be reconstructed within the reconstruction region (frustrum) is arbitrary and is not approximated by a discretization, such as cutting planes.
  • look-up tables are filled with the generated sub-holograms by the method according to the invention.
  • a defined area of space is structured into object points and the sub-hologram is stored in a look-up table for each object point.
  • the said spatial area is, for example, the permissible or defined space in which the pupils of the observer can be located, or the reconstruction space (frustrum), which spans between the light modulator means and the visibility area.
  • Such a generated look-up table thus allows the previously calculated sub-hologram of an object point to be read out and used in the course of generating the hologram data.
  • Fig. 2c shows analogously a vertically acting, passing through the abscissa prism wedge (PV).
  • the two prism wedges are superimposed as explained below.
  • step (G) the sub-holograms of the object points are added up to form a total hologram (H ⁇ SLM ).
  • the individual sub-holograms (SH i ) of the object points are superposable and are added to the overall hologram (H ⁇ SLM ) complex.
  • Fig. 4 illustrates that by the method object points (OP), which are behind the hologram plane (HE), can be reconstructed analogously in principle.
  • the imaging element (OS) comprises the aforementioned prisms (P) analogously, but in this case the lens in the imaging element is a scattering lens (L), for which the wavefront in the modulator region can be determined analogously.

Description

  • Die Erfindung betrifft ein analytisches Verfahren zur Berechnung von Videohologrammen für eine holographische Wiedergabeeinrichtung in Echtzeit sowie eine holographische Wiedergabeeinrichtung.
  • Einer derartigen holographischen Wiedergabeeinrichtung liegt im Wesentlichen das Prinzip zugrunde, dass mit mindestens einem Lichtmodulatormittel, in welches eine in Objektpunkte zerlegte Szene als Gesamthologramm kodiert wird und als Rekonstruktion von einem Sichtbarkeitsbereich aus zu sehen ist, der innerhalb eines Periodizitätsintervalls der Rekonstruierten des Videohologramms liegt, zusammen mit jedem zu rekonstruierenden Objektpunkt der Szene ein Subhologramm definiert und das Gesamthologramm aus einer Überlagerung von Subhologrammen gebildet wird. Dabei wird im Wesentlichen das Prinzip verfolgt, vorrangig jene Wellenfront, die ein Objekt aussenden würde, in ein oder mehrere Sichtbarkeitsregionen zu rekonstruieren. Im Detail liegt einer derartigen Einrichtung das Prinzip zugrunde, dass die Rekonstruktion eines einzelnen Objektpunkts jeweils nur ein Subhologramm als Teilmenge des am Lichtmodulatormittel kodierten Gesamthologramms erfordert. Die holographische Wiedergabeeinrichtung enthält wenigstens ein Bildschirmmittel. Dabei wird als Bildschirmmittel entweder der Lichtmodulator selbst bezeichnet, in dem das Hologramm einer Szene kodiert ist, oder ein optisches Element - beispielsweise Linse oder Spiegel -, auf das ein im Lichtmodulator kodiertes Hologramm oder eine im Lichtmodulator kodierte Wellenfront einer Szene abgebildet wird.
  • Die Festlegung des Bildschirmmittels und die zugehörigen Prinzipien zur Rekonstruktion der Szene in den Sichtbarkeitsbereich sind durch Dokumente des Anmelders beschrieben. In den Dokumenten WO 2004/044659 A2 sowie WO 2006/027228 A1 ist das Bildschirmmittel der Lichtmodulator selbst. Im Dokument WO 2006/119760 A2 , Projektionsvorrichtung und Verfahren zur holographischen Rekonstruktion von Szenen ist das Bildschirmmittel ein optisches Element, auf das ein im Lichtmodulator kodiertes Hologramm abgebildet wird. In DE 10 2006 004 300 , Projektionsvorrichtung zur holographischen Rekonstruktion von Szenen, ist das Bildschirmmittel ein optisches Element, auf das eine im Lichtmodulator kodierte Wellenfront der Szene abgebildet wird. WO 2006/066919 A1 des Anmelders beschreibt ein Verfahren zum Berechnen von Videohologrammen.
  • Ein "Sichtbarkeitsbereich" ist ein begrenzter Bereich, durch welchen der Betrachter die gesamte rekonstruierte Szene mit ausreichend großer Sichtbarkeit ansehen kann. Innerhalb des Sichtbarkeitsbereichs überlagern sich die Wellenfelder so, dass die rekonstruierte Szene für den Betrachter sichtbar wird. Der Sichtbarkeitsbereich befindet sich auf den oder nahe den Augen des Betrachters. Der Sichtbarkeitsbereich kann in die Richtungen X, Y und Z bewegt werden und wird mit bekannten Positionserkennungs- beziehungsweise Nachführeinrichtungen der aktuellen Betrachterposition nachgeführt. Es ist möglich, zwei Sichtbarkeitsbereiche zu verwenden, nämlich einen für jedes Auge. Aufwändigere Anordnungen von Sichtbarkeitsbereichen sind ebenfalls möglich. Es ist ferner möglich, Videohologramme so zu kodieren, dass für den Betrachter einzelne Objekte oder die ganze Szene scheinbar hinter dem Lichtmodulator liegen.
  • In diesem Dokument wird als Lichtmodulatormittel beziehungsweise SLM eine Einrichtung zum Steuern der Intensität, Farbe und/oder Phase durch Schalten, Austasten oder Modulieren von Lichtstrahlen einer oder mehrerer unabhängiger Lichtquellen bezeichnet. Eine holographische Wiedergabeeinrichtung beinhaltet in der Regel eine Matrix steuerbarer Pixel, wobei die Pixel die Amplitude und/oder Phase von durchstrahlendem Licht verändern und so die Objektpunkte rekonstruieren. Ein Lichtmodulatormittel umfasst eine derartige Matrix. Das Lichtmodulatormittel kann beispielsweise diskret als akusto-optischer Modulator AOM oder auch kontinuierlich ausgeführt sein. Eine Ausführung zur Rekonstruktion der Hologramme durch Amplitudenmodulation kann mit einem Liquid Crystal Display (LCD) erfolgen. Die vorliegende Erfindung bezieht sich ebenso auf weitere steuerbare Vorrichtungen, um hinreichend kohärentes Licht zu einer Lichtwellenfront oder zu einem Lichtwellenrelief zu modulieren.
  • Die Bezeichnung Pixel umfasst ein steuerbares Hologramm-Pixel des Lichtmodulators, repräsentiert einen diskreten Wert des Hologrammpunktes und ist einzeln adressiert und gesteuert. Jedes Pixel repräsentiert einen Hologrammpunkt des Hologramms. Im Falle eines LC-Displays bedeutet ein Pixel ein individuell ansteuerbares Display-Pixel. Für eine DMD (Digital Micromirror Device, Mikrospiegelarray), z.B. DLP (Digital Light Processing), ist ein Pixel ein individuell steuerbarer Mikrospiegel oder eine kleine Gruppe davon. Bei einem kontinuierlichen Lichtmodulatormittel umfasst ein Pixel eine imaginäre Region, welche den Hologrammpunkt repräsentiert. Bei einer Farbdarstellung wird in der Regel ein Pixel in mehrere Subpixel unterteilt, welche die Grundfarben repräsentieren.
  • Der Begriff "Transformation" ist so weit auszulegen, dass er jede mathematische oder rechnerische Technik einschließt, die einer Transformation gleichkommt oder diese annähert. Transformationen im mathematischen Sinne sind lediglich Annäherungen physikalischer Prozesse, die genauer durch die Maxwellschen Wellenausbreitungsgleichungen beschrieben werden. Transformationen wie etwa Fresneltransformationen oder die spezielle Gruppe von Transformationen, die als Fouriertransformationen bekannt sind, beschreiben Annäherungen zweiter Ordnung. Transformationen führen in der Regel auf algebraische und nicht differentielle Beschreibungen und können folglich rechentechnisch effizient und performant gehandhabt werden. Überdies können sie präzise als optische Systeme modelliert werden.
  • Die US 5,400,155 beschreibt ein Verfahren zur Berechnung von Videohologrammen, in dem die darzustellende Szene zerlegt wird, um jeweils in eindimensionalen ausgedehnten "calculating regions" in einer Displayebene entsprechende eindimensionale (Teil)hologramme zu erstellen und diese dann aufzusummieren.
  • WO 2006/066919 A1 des Anmelders beschreibt ebenfalls ein Verfahren zum Berechnen von Videohologrammen. Es basiert im Wesentlichen darauf, eine Zerlegung der Szene in Ebenenschnitte parallel zur Ebene eines Lichtmodulators durchzuführen, alle Ebenenschnitte in einen Sichtbarkeitsbereich zu transformieren und dort aufzusummieren. Anschließend werden die summierten Ergebnisse in die Hologrammebene, in welcher auch der Lichtmodulator liegt, zurück transformiert und so die komplexen Hologrammwerte des Videohologramms ermittelt.
  • DE 10 2006 042 324 beschreibt ein Verfahren zum Generieren von Videohologrammen in Echtzeit. Es nutzt das Prinzip, dass die Rekonstruktion eines einzelnen Objektpunkts nur ein Subhologramm als Teilmenge des auf dem SLM kodierten Gesamthologramms erfordert. Es ist dadurch charakterisiert, dass für jeden Objektpunkt die Beiträge der Subhologramme aus Look-Up-Tabellen bestimmbar sind und die Subhologramme zu einem Gesamthologramm zur Rekonstruktion der gesamten Szene akkumuliert werden.
  • Auch in Lucente M.: "interactive computation of holograms using a look-up table", Journal of Electronic Imaging, Bd. 2, Nr. 1, 1993, S. 28-34 wird die Verwendung von Look-up-Tabellen vorgeschlagen, um die Generierung von Videohologrammen zu beschleunigen.
  • Die erstgenannten Verfahren für die Generierung von Videohologrammen ist für die interaktive Echtzeitdarstellung nur mit sehr hohem Aufwand an Ressourcen realisierbar. Aufgrund der Vielzahl der aufwändigen Berechnungsschritte ist die Generierung der Videohologramme überdies mit hohem Rechenaufwand verbunden und erfordert hoch performante und kostspielige Recheneinheiten. Als Folge der langen Berechnungszeit besteht die Gefahr, dass Videosequenzen und interaktive 3D-Echtzeitanwendungen nicht in der gewünschten Wiederholfrequenz dargeboten werden können.
  • Analog zur herkömmlichen Videotechnik ist jedoch eine hohe Rate der Bildwiederholung für die Anzeige der computergenerierten Videohologramme wünschenswert und unerlässlich. In gleicher Weise nachteilig sind die Verfahren dadurch charakterisiert, dass Hologrammwerte nur für Objektpunkte an bestimmten diskreten Orten beziehungsweise an Orten diskreter Schnittebenen generiert werden können.
  • Es ist die Aufgabe der Erfindung, den Nachteil im Stand der Technik zu beseitigen. Es soll ein Verfahren geschaffen werden, wodurch Hologrammwerte für Objektpunkte an jeder beliebigen Position innerhalb des Rekonstruktionsraums, des Frustrums, berechnet werden können. Die zugehörigen Hologrammwerte sollen in Echtzeit ermittelt werden. Überdies liegt der Erfindung die Aufgabe zugrunde, den erforderlichen Aufwand für die Ermittlung der Hologrammwerte signifikant zu reduzieren und somit die Echtzeitfähigkeit des Verfahrens zu untermauern.
  • Diese Aufgabe wird durch ein Verfahren mit den Merkmalen des Patentanspruchs 1 sowie durch eine holographische Wiedergabeeinrichtung mit den Merkmalen des Patentanspruchs 13 gelöst.
  • Das erfindungsgemäße Verfahren zum Generieren von Videohologrammen ist für holographische Wiedergabeeinrichtungen mit mindestens einem Lichtmodulatormittel, in welches eine in Objektpunkte zerlegte Szene als Gesamthologramm kodiert wird und als Rekonstruktion von einem Sichtbarkeitsbereich aus zu sehen ist, der innerhalb eines Periodizitätsintervalls der Rekonstruierten des Videohologramms liegt geeignet, wobei der Sichtbarkeitsbereich zusammen mit jedem zu rekonstruierenden Objektpunkt der Szene ein Subhologramm definiert und das Gesamthologramm aus einer Überlagerung von Subhologrammen gebildet wird. Einer derartigen holographischen Wiedergabeeinrichtung mit entsprechenden Lichtmodulatormitteln liegt dabei das Prinzip zugrunde, die mit Informationen von Objektpunkten einer Szene modulierten Wellenfronten in wenigstens einem Sichtbarkeitsbereich zu überlagern. Die Begriffsbestimmungen zum Sichtbarkeitsbereich wurden bereits erläutert.
  • Im Weiteren wird das Prinzip genutzt, dass die Rekonstruktion eines einzelnen Objektpunkts einer Szene jeweils nur ein Subhologramm als Teilmenge des auf den Lichtmodulatormitteln kodierten Gesamthologramms erfordert. Ein einzelner Objektpunkt wird jeweils durch ein Subhologramm erzeugt, dessen Lage von der Position des Objektpunkts und dessen Größe von der Position des Betrachters abhängt. Der Bereich des Subhologramms auf dem Lichtmodulatormittel wird nachfolgend als Modulatorbereich bezeichnet. Der Modulatorbereich ist jener Teilbereich des Lichtmodulatormittels, welcher erforderlich ist, um den Objektpunkt zu rekonstruieren. Der Modulatorbereich beschreibt gleichzeitig, welche Pixel auf dem Lichtmodulator entsprechend angesteuert werden müssen, um diesen Objektpunkt zu rekonstruieren. Die Position des Modulatorbereichs bleibt fest, wenn es sich um einen so genannten ortsfesten Objektpunkt handelt. Dabei ändert der zu rekonstruierende Objektpunkt seine Lage in Abhängigkeit von der Betrachterposition. Durch Änderung des Modulatorbereichs in Abhängigkeit der Betrachterposition wird erreicht, dass der Objektpunkt ortsfest kodiert wird, das heißt, er ändert seine räumliche Lage in Abhängigkeit der Betrachterposition nicht. In Bezug auf die Erfindung können diese Prinzipien analog behandelt werden.
  • Das Zentrum des Modulatorbereichs liegt in einer einfachsten Lösungsmöglichkeit auf der Geraden durch den zu rekonstruierenden Objektpunkt und das Zentrum des Sichtbarkeitsbereichs. Die Größe des Modulatorbereichs wird in einer einfachsten Lösungsmöglichkeit mit Hilfe des Strahlensatzes ermittelt, wobei der Sichtbarkeitsbereich durch den zu rekonstruierenden Objektpunkt auf das Lichtmodulatormittel rückverfolgt wird. Auch bei der vorteilhaften Verwendung von Subhologrammen gilt, dass ein Pixel, als kleinste steuerbare Einheit des Lichtmodulatormittels, nicht nur die Information eines einzelnen Subhologramms, sondern als Resultat der Überlagerungen die Informationen mehrerer Subhologramme enthält.
  • Der Erfindung liegt der Gedanke zugrunde, dass die komplexen Hologrammwerte eines Subhologramms aus der Wellenfront des jeweils zu rekonstruierenden Objektpunkts in einem Modulatorbereich des Lichtmodulatormittels ermittelt werden, indem die Transmissions- oder Modulationsfunktionen eines im Modulatorbereich modellierten Abbildungselements, in dessen Brennpunkt der zu rekonstruierende Objektpunkt liegt, berechnet und ausgewertet werden.
  • Das Abbildungselement befindet sich dabei in der Hologrammebene der holographischen Wiedergabeeinrichtung. Die Hologrammebene ist durch den Ort eines Bildschirmmittels festgelegt, wobei zur Vereinfachung in den nachfolgenden Erläuterungen das Bildschirmmittel der Lichtmodulator selbst ist.
  • In einer besonders bevorzugten Ausführungsform des Verfahrens umfasst das Abbildungselement eine in der Hologrammebene liegende Linse mit der Brennweite f, welche geneigt ist. Eine geneigte Linse ist eine Zusammensetzung aus einer in Bezug auf die Hologrammebene nicht geneigten Linse sowie einem vertikal und einem horizontal wirkenden Prisma. Streng genommen wird durch ein Prisma kein Subhologramm definiert, da durch die nichtfokale Prismenfunktion kein Objektpunkt rekonstruiert wird. Im Sinne der Klarheit des Erfindungsgedankens wird dies nachfolgend jedoch so bezeichnet, da das Prisma im Modulatorbereich ebenso einen Beitrag zu den komplexen Hologrammwerten liefert. Anhand einer Linse und eines Prismas wird das Verfahren nachfolgend weiter detailliert. Es ist selbstverständlich für eine Linse allein oder Prisma allein ebenso gültig, in diesem Falle werden Verfahrensschritte oder die entsprechenden Terme natürlich nicht durchgeführt oder nicht beachtet. Zur Berechnung der komplexen Werte des Subhologramms umfasst diese Detaillierung des Verfahrens für jeden Objektpunkt der Szene die nachfolgenden Schritte:
    • A: Ermittlung der Größe und Lage des Modulatorbereichs, analog den oben genannten Ausführungen, jedoch wird nachfolgend dem Modulatorbereich ein lokales Koordinatensystem zugrunde gelegt, wobei der Ursprung des Systems im Zentrum liegt, die x-Koordinate die Abszisse und die y-Koordinate die Ordinate beschreibt. Für den Modulatorbereich wird "a" als halbe Breite und "b" als halbe Höhe als Bemaßung gewählt, wobei diese Intervallgrenzen in die nachfolgenden Terme eingehen.
    • B: Ermittlung des Subhologramms der Linse in der Hologrammebene:
      • B1: Bestimmung der Brennweite f der Linse:
        Die Brennweite f der Linse ist vorzugsweise der Normalabstand des zu rekonstruierenden Objektpunkts von der Hologrammebene.
      • B2: Komplexe Werte des zugehörigen Subhologramms der Linse:
        • Die komplexen Werte des zugehörigen Subhologramms werden aus z L = exp + / i* π / λf * x 2 + y 2 ,
          Figure imgb0001
        • ermittelt, mit λ als Bezugswellenlänge, f als Brennweite und dem zugehörigen Koordinatenpaar (x, y). Das negative Vorzeichen folgt hier aus der Eigenschaft einer konkaven Linse. Eine konvexe Linse ist durch ein positives Vorzeichen gekennzeichnet.
      • B3: Aufgrund der Symmetrie in x und y ist es ausreichend, die komplexen Werte in einem Quadranten zu ermitteln und unter Beachtung der Vorzeichen die weiteren Werte auf die anderen Quadranten zu übertragen.
    • C: Ermittlung der Subhologramme der Prismen (P) in der Hologrammebene: Die gewählten Prismen gehen dabei, siehe auch die nachfolgenden Figuren, durch die Abszisse beziehungsweise Ordinate.
      • C1: Bestimmung des Linearfaktors Cx des Prismas (PH) mit horizontaler Wirkungsrichtung, welcher im Intervall x ∈ [-a, a] beschrieben wird durch C x = M * 2 π / λ ;
        Figure imgb0002
        mit M als Neigung des Prismas.
      • C2: Bestimmung des Linearfaktors Cy des Prismas (PV) mit vertikaler Wirkungsrichtung, welcher analog im Intervall y ∈ [-b, b] beschrieben wird durch C y = N * 2 π/λ ;
        Figure imgb0003
        mit N als Neigung des Prismas.
      • C3: Ermittlung der komplexen Werte des zugehörigen Subhologramms der kombinierten Prismen:
        • Die komplexen Werte für das zugehörige Subhologramm werden aus der Überlagerung der beiden Prismenterme Z P = exp i C x * x a + C y * y b
          Figure imgb0004
        • ermittelt. Das überlagerte Prisma geht durch den Ursprung des lokalen Koordinatensystems.
      • C4: Ein entsprechender Prismenterm entfällt, wenn die holographische Wiedergabeeinrichtung die Eigenschaft aufweist, die Lichtquelle in den Sichtbarkeitsbereich abzubilden.
    • D: Modulation der Subhologramme für Linse und Prismen:
      Zur Ermittlung des kombinierten Subhologramms werden die komplexen Werte der Linse und der Prismen komplex multipliziert: z SH = z L * z P
      Figure imgb0005
      beziehungsweise symbolisch SH = SH L * SH P
      Figure imgb0006
    • E: Anwendung der Zufallsphase:
      • Jedem modulierten Subhologramm aus Schritt D wird eine zufallsverteilte Phase zugeordnet, um eine homogene Helligkeitsverteilung im Sichtbarkeitsbereich zu gewährleisten. Die Zufallsphase wird zum Subhologramm aufaddiert, indem eine komplexe Multiplikation ausgeführt wird: z SH : = z SH exp i Φ 0
        Figure imgb0007
      • beziehungsweise symbolisch SH:=SHexp i Φ 0
        Figure imgb0008
        Die Zufallsphase wird jedem Subhologramm einzeln zugeordnet. Vorzugsweise sind insgesamt global betrachtet die Zufallsphasen aller Subhologramme gleich verteilt.
    • F: Intensitätsmodulation:
      • Die komplexen Werte werden mit einem zusätzlichen Multiplikationsfaktor, welcher die Intensität beziehungsweise die Helligkeit repräsentiert, versehen. z SH = C * z SH
        Figure imgb0009
        beziehungsweise symbolisch SH : = C * SH ;
        Figure imgb0010
    • G: Wird das Gesamthologramm berechnet, so werden die Subhologramme zum Gesamthologramm überlagert. In einer einfachen Lösung werden die Subhologramme zum Gesamthologramm - unter Beachtung der Lage der Subhologramme - komplex aufaddiert.
      Gesamthologramm = komplexe Summe der Subhologramme mit H Σ SLM = Σ SH i
      Figure imgb0011
      beziehungsweise symbolisch z SLM = Σ z SHi
      Figure imgb0012
      (mit Bezug auf ein globales Koordinatensystem)
  • Das Verfahren wird vorzugsweise nur für sichtbare Objektpunkte angewendet. Die Sichtbarkeit des Objektpunkts wird im Zuge des Renderns der Szene von einer 3D-Rendering-Graphikpipeline bestimmt und folgt aus der Betrachterposition, also der entsprechenden Position der Pupillen und folglich aus der Position des Sichtbarkeitsbereichs, welcher der Position der Pupillen nachgeführt ist.
  • Die detaillierte Beschreibung bezieht sich darauf, die bestmögliche Lösung zu berechnen. Es ist selbstverständlich möglich, die genannten Funktionsterme durch einfachere zu ersetzen, wenn eine Verschlechterung der Rekonstruktion akzeptiert oder gar gewünscht wird. Auf der anderen Seite ist es ersichtlich, dass aufdatierte Verfahrensschritte angewendet werden, um die Qualität der Rekonstruktion zu erhöhen. Beispielsweise können Linsen beziehungsweise Prismen speziell gewählt werden, um Aberrationen, toleranzbehaftete Lichtmodulatormittel oder dergleichen zu kompensieren. Dies gilt ebenso für die beispielhaft genannten Methoden, den Modulatorbereich zu bestimmen.
  • In einer Erweiterung des Verfahrens werden ausgehend von den komplexen Hologrammwerten des Gesamthologramms (oder des Subhologramms) die Pixelwerte für eine bestimmte holografische Wiedergabeeinrichtung ermittelt. Beispielsweise werden die komplexen Hologrammwerte in Burckhardt-Komponenten, Zweiphasenkomponenten oder eine andere geeignete Kodierung umgewandelt.
  • Diesem Verfahren liegt der Vorteil zugrunde, dass die Lage des zu rekonstruierenden Objektpunkts innerhalb des Rekonstruktionsbereichs (Frustrum) beliebig ist und nicht durch eine Diskretisierung, wie beispielsweise Schnittebenen, angenähert ist.
  • Neben einer Generierung der Hologrammwerte für die Darstellung auf einer holographischen Wiedergabeeinrichtung werden mit dem erfindungsgemäßen Verfahren bevorzugt Look-Up-Tabellen mit den generierten Subhologrammen befüllt. Dabei wird ein festgelegter Raumbereich in Objektpunkte strukturiert und für jeden Objektpunkt das Subhologramm in eine Look-Up-Tabelle abgelegt. Der genannte Raumbereich ist beispielsweise der zulässige oder definierte Raum, in dem sich die Pupillen des Betrachters befinden können, oder der Rekonstruktionsraum (Frustrum), welcher sich zwischen dem Lichtmodulatormittel und dem Sichtbarkeitsbereich aufspannt. Eine derartige generierte Look-Up-Tabelle erlaubt es somit, das vorab berechnete Subhologramm eines Objektpunkts auszulesen und im Zuge der Generierung der Hologrammdaten zu verwenden.Vorzugsweise werden die Look-Up-Tabellen mit den Subhologrammen des Abbildungselements, also der kombinierten Linsen- und Prismenfunktion befüllt. Es ist jedoch denkbar, entsprechende Tabellen separat mit den auf die Linsenbeziehungsweise Prismenfunktion bezogenen Subhologrammen zu befüllen. Generell erlauben diese Look-Up-Tabellen eine nachhaltige Beschleunigung von Verfahren, wo analog dem erfindungsgemäßen Verfahren ebenso das Prinzip von Subhologrammen in vorteilhafter Weise genutzt wird. Derartige Look-Up-Tabellen erlauben beispielsweise weiterführende beziehungsweise rechenintensive Verfahren zu beschleunigen.
  • Mit Hilfe dieses Verfahrens können in Echtzeit für die interaktive holographische Darstellung Objektpunkte an beliebigen Positionen innerhalb des Rekonstruktionsraums mit heute verfügbaren Standardkomponenten der Hardware generiert werden. Bei höherer Leistung der Verarbeitungseinheit, welche das Verfahren durchführt, kann die Szene feiner strukturiert und die Qualität der Rekonstruktion signifikant erhöht werden. Das erfindungsgemäße Verfahren vermeidet ansonsten verwendete aufwändige Transformationen und ist durch einen einfachen Aufbau analytisch durchführbarer Schritte gekennzeichnet. Damit ist die Echtzeitfähigkeit des erfindungsgemäßen Verfahrens nachhaltig untermauert.
  • Anhand von Ausführungsbeispielen wird die Erfindung nachstehend weiterführend erläutert. In den zugehörigen Figuren zeigen
  • Fig. 1
    das zugrunde liegende Prinzip einer holographischen Wiedergabeeinrichtung und einen Modulatorbereich eines Objektpunkts,
    Fig. 2a
    die Wiedergabeeinrichtung in einer Seitenansicht mit einem Abbildungselement aus Linse und Prisma,
    Fig. 2b
    einen Modulatorbereich und ein vertikal wirkendes Prisma,
    Fig. 2c
    einen Modulatorbereich und ein horizontal wirkendes Prisma,
    Fig. 3
    einen Ablaufplan des erfindungsgemäßen Verfahrens und
    Fig. 4
    eine Variante des Verfahrens zur Rekonstruktion eines Objektpunkts hinter der Hologrammebene.
  • Fig. 1 veranschaulicht das zugrunde liegende Prinzip einer holographischen Wiedergabeeinrichtung (HAE) für einen Betrachter. Das Prinzip ist für mehrere Betrachter analog. Die Position eines Betrachters ist dabei durch die Position seiner Augen, respektive seiner Pupillen (VP) charakterisiert. Die Einrichtung enthält ein Lichtmodulatormittel (SLM), welches zur einfacheren Darstellung in dieser Ausführungsform gleich dem Bildschirmmittel (B) ist, und überlagert die mit Informationen von Objektpunkten einer Szene (3D-S) modulierten Wellenfronten in wenigstens einem Sichtbarkeitsbereich (VR). Der Sichtbarkeitsbereich ist den Augen nachgeführt. Die Rekonstruktion eines einzelnen Objektpunkts (OP) einer Szene (3D-S) erfordert dabei jeweils nur ein Subhologramm (SH) als Teilmenge des auf Lichtmodulatormitteln (SLM) kodierten Gesamthologramms (HΣSLM). Der Bereich des Subhologramms auf dem Lichtmodulator (SLM) ist der Modulatorbereich (MR).
  • Wie aus dieser Figur ersichtlich, ist der Modulatorbereich (MR) nur ein kleiner Teilbereich des Lichtmodulatormittels (SLM). Das Zentrum des Modulatorbereichs (MR) liegt in einer einfachsten Lösungsmöglichkeit auf der Geraden durch den zu rekonstruierenden Objektpunkt (OP) und das Zentrum des Sichtbarkeitsbereichs (VR). Die Größe des Modulatorbereichs (MR) wird in einer einfachsten Lösungsmöglichkeit mit Hilfe des Strahlensatzes ermittelt, wobei der Sichtbarkeitsbereich (VR) durch den zu rekonstruierenden Objektpunkt (OP) auf das Lichtmodulatormittel (SLM) zurückverfolgt wird. Im Weiteren ergeben sich dadurch die Indices jener Pixel auf dem Lichtmodulatormittel (SLM), die zur Rekonstruktion dieses Objektpunkts erforderlich sind. Wie aus der Figur ersichtlich, wird dem Modulatorbereich (MR) ein Koordinatensystem zugrunde gelegt, wobei der Ursprung des Systems im Zentrum liegt, die x-Koordinate die Abszisse und die y-Koordinate die Ordinate beschreibt. Der Modulatorbereich (MR) ist mit "a" als halbe Breite und "b" als halbe Höhe bemaßt.
  • Fig. 2a zeigt die holographische Wiedergabeeinrichtung (HAE) in einer Seitenansicht und veranschaulicht das Grundprinzip des Verfahrens. Analog zu Fig. 1 wird der Modulatorbereich (MR) abgeleitet. Dieser Bereich ist in der Hologrammebene (HE), in welcher sich der Lichtmodulator (SLM) befindet. Im Modulatorbereich (MR) liegt das Abbildungselement (OS), welches hier eine Sammellinse (L) und ein Prisma (P) umfasst. Für das Prisma ist nur der vertikal wirkende Prismenkeil eingezeichnet, und das Abbildungselement (OS) ist in der Figur zur besseren Sichtbarkeit vor dem Lichtmodulatormittel (SLM) liegend eingezeichnet.
  • Fig. 2b zeigt einen horizontal wirkenden Prismenkeil (PH) vor dem Modulatorbereich (MR) mit den entsprechend verwendeten Koordinaten und Bemaßungen. Der Prismenkeil geht hier durch die Ordinate.
  • Fig. 2c zeigt analog einen vertikal wirkenden, durch die Abszisse gehenden Prismenkeil (PV). Die beiden Prismenkeile werden, wie nachfolgend erläutert, überlagert.
  • Fig. 3 zeigt einen Ablaufplan des erfindungsgemäßen Verfahrens. Ausgangspunkt des Verfahrens ist eine dreidimensionale Szene (3D-S), welche in eine Vielzahl von Objektpunkten (OP) strukturiert wird. Zu den Objektpunkten (OP) sind Farb- und Tiefeninformationen verfügbar. Anhand der Tiefeninformation des Objektpunkts wird dessen Sichtbarkeit gemäß der Betrachterposition, respektive der Pupillen des Betrachters, ermittelt. Für jeden sichtbaren Objektpunkt wird im Schritt (A) die Größe und Lage des zugehörigen Modulatorbereichs (MR) in der Hologrammebene (HE) beziehungsweise auf den Lichtmodulatormitteln bestimmt. Dem Gedanken der Erfindung folgend wird der zu rekonstruierende Objektpunkt (OP) als der Brennpunkt eines in der Hologrammebene liegenden Abbildungselements interpretiert und das Abbildungselement als Kombination einer Sammellinse (L) und, siehe Fig. 2b, 2c, von vertikal beziehungsweise horizontal wirkenden Prismen (PH, PV) aufgefasst. Die komplexen Hologrammwerte des Subhologramms (SH) werden aus der Wellenfront des jeweils zu rekonstruierenden Objektpunkts (OP) in einem Modulatorbereich (MR) des Lichtmodulatormittels ermittelt, indem die Transmissions- oder Modulationsfunktionen des im Modulatorbereich (MR) modellierten Abbildungselements (OS), in dessen Brennpunkt der zu rekonstruierende Objektpunkt (OP) liegt, berechnet und ausgewertet werden. Für jeden sichtbaren Objektpunkt wird somit im Schritt (B1) die Brennweite der Linse (L) als Normalabstand des Objektpunkts (OP) zur Hologrammebene (HE) ermittelt.
  • Die komplexen Werte für das zugehörige Subhologramm (SHL) werden im Schritt (B2) aus z L = exp i* π / λf * x 2 + y 2
    Figure imgb0013
    ermittelt, mit λ als Bezugswellenlänge, f als Brennweite, und dem zugehörigen lokalen Koordinatenpaar (x, y). Das Koordinatensystem ist wie eingangs beschrieben festgelegt.
  • Im Schritt (C) werden die Subhologramme (SHP) der Prismen (P) in der Hologrammebene ermittelt. Die Bestimmung des Linearfaktors Cx des Prismas (PH) mit horizontaler Wirkungsrichtung erfolgt durch C x = M* 2 π/λ ;
    Figure imgb0014
    wobei M als Neigung des Prismas definiert ist. Dies erfolgt für das vertikale Prisma analog mit N als Neigung. Die komplexen Werte des zugehörigen Subhologramms (SHP) werden aus der Überlagerung der beiden Prismenterme SH P : = z P = exp i * C x * x a + C y * y b
    Figure imgb0015
    ermittelt. Ein Prismenterm entfällt, wenn die holographische Wiedergabeeinrichtung die Eigenschaft aufweist, die Lichtquelle in den Sichtbarkeitsbereich (VR) abzubilden.
  • Nachdem die Subhologramme (SHL) der Linse (L) und jene (SHP) der Prismen (P) nun vorliegen, werden sie überlagert, indem im Schritt (D) für das kombinierte Subhologramm (SH) die komplexen Werte der Linse und der Prismen mit z SH = z L * z P
    Figure imgb0016
    beziehungsweise symbolisch SH = SHL * SHP
    komplex multipliziert werden.
  • Im Schritt (E) wird das Subhologramm (SH) mit einer gleich verteilten Zufallsphase versehen.
  • Im Schritt (F) erfolgt eine Intensitätsmodulation, wobei das Subhologramm (SH) durch z SH = C * z SH
    Figure imgb0017
    beziehungsweise symbolisch SH := C * SH
    mit einem Intensitätsfaktor versehen wird.
  • Das kombinierte Subhologramm (SH) eines Objektpunkts (OP) liegt nun vollständig vor.
  • In einem weiteren Verfahrensschritt (G), welcher auch getrennt erfolgen kann, werden die Subhologramme der Objektpunkte zu einem Gesamthologramm (HΣSLM) aufaddiert. Die einzelnen Subhologramme (SHi) der Objektpunkte sind superponierbar und werden zum Gesamthologramm (HΣSLM) komplex aufaddiert.
  • Gesamthologramm = komplexe Summe der Subhologramme der Objektpunkte mit H Σ SLM = Σ SH i
    Figure imgb0018
    beziehungsweise zSLM= ΣzSHi (mit Bezug auf ein globales Koordinatensystem)
  • Das Gesamthologramm (HΣSLM) repräsentiert das Hologramm aller Objektpunkte. Es repräsentiert und rekonstruiert somit die gesamte Szene (3D-S).
  • In einem abschließenden Schritt (H) kann, wie bereits erläutert, durch eine Kodierung das Gesamthologramm in Pixelwerte für eine holographische Wiedergabeeinrichtung, welche ebenso das Prinzip der Subhologramme in vorteilhafter Weise nutzt, umgewandelt werden. Insbesondere sind dies, analog bereits erfolgten Erläuterungen, Einrichtungen nach WO 2004/044659 A2 , WO 2006/027228 A1 , WO 2006/119760 A2 sowie DE 10 2006 004 300 .
  • Fig. 4 veranschaulicht, dass durch das Verfahren Objektpunkte (OP), welche hinter der Hologrammebene (HE) liegen, prinzipiell analog rekonstruiert werden können. Das Abbildungselement (OS) umfasst in diesem Fall analog die genannten Prismen (P), jedoch ist in diesem Fall die Linse im Abbildungselement eine Streulinse (L), für welche die Wellenfront im Modulatorbereich analog ermittelt werden kann.
  • Liste der verwendeten Bezugszeichen
  • 3D-S
    Szene
    VR
    Sichtbarkeitsregionen
    OP
    Objektpunkt, allgemein
    OPn
    Objektpunkt, speziell mit Bezugsindex
    SH
    Subhologramm, allgemein
    SHL
    Subhologramm einer Linse
    SHP
    Subhologramm eines Prismas
    MR
    Modulatorbereich
    SHi
    Subhologramm, allgemein, indiziert
    SLM
    Gesamthologramm
    HAE
    holographische Wiedergabeeinrichtung mit
    B
    Bildschirmmittel
    SLM
    Lichtmodulatormittel
    HE
    Hologrammebene
    VP
    Betrachteraugen/Betrachterposition
    OS
    Abbildungselement
    L
    Linse
    P
    Prisma
    PH
    Prisma mit horizontaler Wirkungsrichtung
    PV
    Prisma mit vertikaler Wirkungsrichtung

Claims (16)

  1. Analytisches Verfahren zur Berechnung eines Videohologramms einer in eine Vielzahl von Objektpunkten zerlegte Szene (3D-S) zur Verwendung für eine holographische Wiedergabeeinrichtung (HAE) mit mindestens einem Lichtmodulatormittel (SLM),
    bei dem ein Sichtbarkeitsbereich (VR) innerhalb eines Periodizitätsintervalls der Rekonstruierten des Videohologramms definiert wird,
    bei dem anschließend durch den Sichtbarkeitsbereich (VR) zusammen mit jedem zu rekonstruierenden Objektpunkt (OP) der Szene (3D-S) die Lage und die Größe eines Subhologramms (SH) auf dem Lichtmodulatormittel bestimmt werden, indem der Sichtbarkeitsbereich (VR) durch den zu rekonstruierenden Objektpunkt auf das Lichtmodulatormittel (SLM) rückverfolgt wird, wobei ein Modulatorbereich (MR) dem Bereich des Subhologramms (SH) auf dem Lichtmodulatormittel (SLM) entspricht, wobei für jeden Modulatorbereich (MR) ein Subhologramm (SH) des zu rekonstruierenden Objektpunkts (OP) berechnet und das Gesamthologramm (HΣSLM) aus einer Überlagerung von Subhologrammen (SH) gebildet wird,
    dadurch gekennzeichnet, dass die komplexen Hologrammwerte eines Subhologramms (SH) aus der Wellenfront des jeweils zu rekonstruierenden Objektpunkts (OP) in einem Modulatorbereich (MR) des Lichtmodulatormittels ermittelt werden, indem die Modulationsfunktionen eines im Modulatorbereich (MR) modellierten Abbildungselements (OS), in dessen Brennpunkt der zu rekonstruierende Objektpunkt (OP) liegt, berechnet werden, mit denen das Subhologramm (SH) dieses Objektpunktes darstellbar ist.
  2. Verfahren nach Anspruch 1, wobei das Abbildungselement (OS) wenigstens eine Linse (L) umfasst.
  3. Verfahren nach Anspruch 1 oder 2, wobei das Abbildungselement (OS) zusätzlich wenigstens ein Prisma (P) umfasst.
  4. Verfahren nach Anspruch 1, welches für jeden Objektpunkt (OP) der Szene die nachfolgenden Schritte umfasst:
    A: Ermittlung der Größe und Lage des Subhologramms (SH) als Modulatorbereich (MR), der mit "a" als halbe Breite und "b" als halbe Höhe bemaßt und mit lokalen Koordinaten versehen wird;
    B: Ermittlung des Subhologramms einer modellierten Linse (L) im Modulatorbereich (MR) umfassend:
    B1: Bestimmung der Brennweite f der Linse (L) als Normalabstand des zu rekonstruierenden Objektpunkts (OP) vom Modulatorbereich (MR) ;
    B2: Ermittlung der komplexen Werte des zugehörigen Subhologramms (SHL) der Linse (L) aus z L = exp + / i* π/λf * x 2 + y 2 ,
    Figure imgb0019
    mit λ als Bezugswellenlänge, f als Brennweite und dem zugehörigen Koordinatenpaar (x, y), sowie vorzeichenbehaftet für eine konkave/konvexe Linse;
    C: Ermittlung der Subhologramme von modellierten Prismen (P) im Modulatorbereich (MR) umfassend:
    C1: Bestimmung des Linearfaktors Cx eines Prismas (PH) mit horizontaler Wirkungsrichtung, welcher im Intervall x ∈ [-a, a] beschrieben wird durch C x = M* 2 π / λ ,
    Figure imgb0020
    mit M als Neigung des Prismas;
    C2: Bestimmung des Linearfaktors Cy eines Prismas (PV) mit vertikaler Wirkungsrichtung, welcher analog im Intervall y ∈ [-b, b] beschrieben wird durch C y = N * 2 π/λ ,
    Figure imgb0021
    mit N als Neigung des Prismas;
    C3: Ermittlung der komplexen Werte des zugehörigen Subhologramms (SHP) der kombinierten Prismen aus der Überlagerung der beiden Prismenterme z P = exp i * C x * x a + C y * y b ;
    Figure imgb0022
    D: Überlagerung des Subhologramms (SHL) der Linse (L) und des Subhologramms (SHP) der Prismen (P), wobei die komplexen Werte der Linse und der Prismen mit z SH = z L * z P
    Figure imgb0023
    beziehungsweise symbolisch SH = SHL * SHP
    multipliziert werden;
    E: Anwendung der Zufallsphase, wobei jedem modulierten Subhologramm eine zufallsverteilte Phase Φz zugeordnet wird und mit z SH : = z SH * exp i Φ z
    Figure imgb0024
    beziehungsweise SH := SH * exp (iΦz) eine komplexe Multiplikation ausgeführt wird;
    F: Intensitätsmodulation, wobei mit zSH := C * zSH beziehungsweise SH := C * SH die Werte des modulierten Subhologramms mit einem reellen Intensitätsfaktor C versehen werden.
  5. Verfahren nach Anspruch 2 oder 4, wobei die komplexen Hologrammwerte des Subhologramms der modellierten Linse (L) im Modulatorbereich (MR) aufgrund der Symmetrie in einem Quadranten ermittelt werden und unter Beachtung der Vorzeichen die ermittelten komplexen Hologrammwerte auf die anderen Quadranten übertragen werden.
  6. Verfahren nach Anspruch 4, wobei unter Beachtung der Lage der Subhologramme (SH) deren Überlagerung zum Gesamthologramm (HΣSLM) mit HΣSLM = Σ SHi als komplexe Summe der Subhologramme (SH) gebildet wird.
  7. Verfahren nach Anspruch 4, wobei jedem modulierten Subhologramm (SH) eines Objektpunkts jeweils eine zufallsverteilte Phase zugeordnet wird und die Zufallsphasen aller Subhologramme insgesamt gleich verteilt sind.
  8. Verfahren nach Anspruch 4, wobei die Lage des Modulatorbereichs (MR) so ermittelt wird, dass das Zentrum des Modulatorbereichs (MR) auf der Geraden durch den zu rekonstruierenden Objektpunkt (OP) und das Zentrum des Sichtbarkeitsbereichs (VR) liegt.
  9. Verfahren nach einem der Ansprüche 1 bis 8, wobei die komplexen Hologrammwerte in Pixelwerte des Lichtmodulatormittels (SLM) umgewandelt werden.
  10. Verfahren nach Anspruch 9, wobei die komplexen Hologrammwerte in Burckhardt-Komponenten oder Zweiphasenkomponenten umgewandelt werden.
  11. Verfahren nach einem der Ansprüche 1 bis 10, wobei ein festgelegter Raumbereich in Objektpunkte strukturiert wird und für jeden Objektpunkt das Subhologramm in eine Look-Up-Tabelle abgelegt wird.
  12. Verfahren nach einem der Ansprüche 1 bis 10, wobei ein festgelegter Raumbereich in Objektpunkte strukturiert wird und für jeden Objektpunkt das auf wenigstens eine Komponente des Abbildungselements (OS) bezogene Subhologramm ermittelt und in zugehörige Look-Up-Tabellen abgelegt wird.
  13. Holographische Wiedergabeeinrichtung zur Darstellung eines Videohologramms einer in eine Vielzahl von Objektpunkten zerlegten Szene (3D-S), umfassend:
    ein Bildschirmmittel (B), ein Lichtmodulatormittel (SLM),
    einen Sichtbarkeitsbereich (VR) innerhalb eines Periodizitätsintervalls der Rekonstruierten des Videohologramms,
    einen durch den Sichtbarkeitsbereich (VR) und einem zu rekonstruierenden Objektpunkt (OP) definierten Modulatorbereich (MR) auf dem Lichtmodulatormittel (SLM),
    dadurch gekennzeichnet, dass im Modulatorbereich (MR) auf dem Lichtmodulatormittel (SLM) Modulationsfunktionen eines modellierten Abbildungselements mittels des Verfahrens nach einem der Ansprüche 1 bis 12 kodiert werden, mit denen ein Subhologramm (SH) des zu rekonstruierenden Objektpunktes (OP) darstellbar ist und das Gesamthologramm (HΣSLM) aus einer Überlagerung von Subhologrammen (SH) gebildet wird.
  14. Holographische Wiedergabeeinrichtung nach Anspruch 13, wobei das Bildschirmmittel (B) das Lichtmodulatormittel (SLM) selbst bezeichnet, in dem das Videohologramm der Szene (3D-S) kodiert ist.
  15. Holographische Wiedergabeeinrichtung nach Anspruch 13, wobei das Bildschirmmittel (B) ein optisches Element umfasst, auf das ein im Lichtmodulatormittel kodiertes Videohologramm der Szene (3D-S) oder eine im Lichtmodulatormittel kodierte Wellenfront der Szene abgebildet wird.
  16. Holographische Wiedergabeeinrichtung nach Anspruch 15, wobei das optische Element eine Linse oder ein Spiegel ist.
EP08750322.3A 2007-05-16 2008-05-16 Analytisches verfahren zur berechnung von videohologrammen in echtzeit Active EP2158522B1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102007023785.7A DE102007023785B4 (de) 2007-05-16 2007-05-16 Analytisches Verfahren zu Berechnung von Videohologrammen in Echtzeit und holographische Wiedergabeeinrichtung
PCT/EP2008/056024 WO2008138981A2 (de) 2007-05-16 2008-05-16 Analytisches verfahren zur berechnung von videohologrammen in echtzeit

Publications (2)

Publication Number Publication Date
EP2158522A2 EP2158522A2 (de) 2010-03-03
EP2158522B1 true EP2158522B1 (de) 2018-08-01

Family

ID=39917197

Family Applications (1)

Application Number Title Priority Date Filing Date
EP08750322.3A Active EP2158522B1 (de) 2007-05-16 2008-05-16 Analytisches verfahren zur berechnung von videohologrammen in echtzeit

Country Status (9)

Country Link
US (2) US8437056B2 (de)
EP (1) EP2158522B1 (de)
JP (1) JP5416094B2 (de)
KR (1) KR101496802B1 (de)
CN (1) CN101681143B (de)
CA (1) CA2687369A1 (de)
DE (1) DE102007023785B4 (de)
TW (1) TWI457730B (de)
WO (1) WO2008138981A2 (de)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5265546B2 (ja) * 2006-09-01 2013-08-14 シーリアル テクノロジーズ ソシエテ アノニム サブホログラムを使用してビデオホログラムをリアルタイムに生成する方法
DE102007023785B4 (de) * 2007-05-16 2014-06-18 Seereal Technologies S.A. Analytisches Verfahren zu Berechnung von Videohologrammen in Echtzeit und holographische Wiedergabeeinrichtung
US9581965B2 (en) * 2007-05-16 2017-02-28 Seereal Technologies S.A. Analytic method for computing video holograms in real time
JP5448981B2 (ja) 2009-04-08 2014-03-19 株式会社半導体エネルギー研究所 液晶表示装置の駆動方法
JP2012008213A (ja) * 2010-06-22 2012-01-12 Kwang Woon Univ Industry-Academic Collaboration Foundation ルックアップテーブルを用いた計算機合成ホログラムの算出と再生方法及びその装置
US9588489B2 (en) * 2010-06-24 2017-03-07 Disney Enterprises, Inc. Computational highlight holography
KR101766272B1 (ko) 2010-11-01 2017-08-08 삼성전자주식회사 시준화된 지향성의 백라이트 유닛을 사용하는 홀로그래픽 영상 디스플레이 장치 및 방법
FR2986874A1 (fr) * 2012-02-15 2013-08-16 France Telecom Procede de codage de motif holographique, dispositif de codage et programme d'ordinateur correspondants
JP6232778B2 (ja) 2013-06-27 2017-11-22 セイコーエプソン株式会社 画像処理装置、画像表示装置、および画像処理装置の制御方法
WO2015054797A1 (en) * 2013-10-20 2015-04-23 Mtt Innovation Incorporated Light field projectors and methods
CA2917585C (en) 2014-05-15 2016-09-27 Mtt Innovation Incorporated Optimizing drive schemes for multiple projector systems
US10191196B2 (en) 2014-11-20 2019-01-29 Samsung Electronics Co., Ltd. Backlight unit for holographic display apparatus and holographic display apparatus including the same
US10191450B2 (en) 2015-12-18 2019-01-29 Electronics And Telecommunications Research Institute Method and apparatus for generating binary hologram
KR102470738B1 (ko) * 2016-08-24 2022-11-24 시리얼 테크놀로지즈 에스.에이. 홀로그래픽 디스플레이 디바이스
US10609423B2 (en) 2016-09-07 2020-03-31 Qualcomm Incorporated Tree-type coding for video coding
WO2018074623A1 (ko) 2016-10-19 2018-04-26 주식회사 케이티 굴절식 광학 스크린 및 이를 이용한 플로팅 홀로그램 시스템
FR3094802B1 (fr) * 2019-04-05 2021-04-23 Fond B Com Procédé de construction d’un hologramme numérique et système d’holographie numérique associé
DE102019218627A1 (de) 2019-11-29 2021-06-02 Volkswagen Aktiengesellschaft Augmented-Reality-Head-up-Display
KR102277100B1 (ko) * 2020-01-29 2021-07-15 광운대학교 산학협력단 인공지능 및 딥러닝 기술을 이용한 랜덤위상을 갖는 홀로그램 생성방법

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0619892A4 (en) * 1992-01-03 1996-10-02 Kenneth A Haines Methods of hologram constructions using computer-processed objects.
JP2999637B2 (ja) * 1992-10-14 2000-01-17 富士通株式会社 ホログラム情報作成方法
JP2989115B2 (ja) * 1995-03-27 1999-12-13 浜松ホトニクス株式会社 立体表示方法および立体表示装置
US5850352A (en) * 1995-03-31 1998-12-15 The Regents Of The University Of California Immersive video, including video hypermosaicing to generate from multiple video views of a scene a three-dimensional video mosaic from which diverse virtual video scene images are synthesized, including panoramic, scene interactive and stereoscopic images
EP1978417A2 (de) * 1996-12-06 2008-10-08 Nippon Telegraph And Telephone Corporation Verfahren und System zur Herstellung von computererzeugten Hologrammen mit Erzeugung holographischer Videoproduktionen in Echtzeit und Anzeige
DE19934162B4 (de) * 1999-07-21 2006-06-29 Eads Deutschland Gmbh Verfahren und Vorrichtung zur Herstellung von Bildschirmhologrammen, sowie Bildschirmhologramm
LT4842B (lt) * 1999-12-10 2001-09-25 Uab "Geola" Hologramų spausdinimo būdas ir įrenginys
US6323971B1 (en) * 2000-10-23 2001-11-27 Zebra Imaging, Inc. Hologram incorporating a plane with a projected image
AU2002214131A1 (en) * 2000-11-07 2002-05-21 Holographic Imaging Llc Improved 3d display
GB0027103D0 (en) * 2000-11-07 2000-12-20 Secr Defence Improved 3D display
EP1332475A1 (de) * 2000-11-07 2003-08-06 Holographic Imaging LLC Anzeigesystem für computergenerierte hologramme
US20040021918A1 (en) * 2000-11-07 2004-02-05 Cameron Colin. D 3D Display
GB2378337B (en) * 2001-06-11 2005-04-13 Canon Kk 3D Computer modelling apparatus
DE10228103A1 (de) 2002-06-24 2004-01-15 Bayer Cropscience Ag Fungizide Wirkstoffkombinationen
US7839548B2 (en) * 2002-11-13 2010-11-23 Seereal Technologies Gmbh Video hologram and device for reconstructing video holograms
WO2006000020A1 (en) 2004-06-29 2006-01-05 European Nickel Plc Improved leaching of base metals
DE102004044111B4 (de) 2004-09-08 2015-05-07 Seereal Technologies Gmbh Verfahren und Vorrichtung zum Kodieren und Rekonstruieren von computergenerierten Videohologrammen
JP4761432B2 (ja) * 2004-10-13 2011-08-31 株式会社リコー レーザ加工装置
DE102004063838A1 (de) * 2004-12-23 2006-07-06 Seereal Technologies Gmbh Verfahren und Einrichtung zum Berechnen computer generierter Videohologramme
WO2006119760A2 (de) 2005-05-13 2006-11-16 Seereal Technologies Gmbh Projektionsvorrichtung und verfahren zur holographischen rekonstruktion von szenen
GB0512179D0 (en) * 2005-06-15 2005-07-20 Light Blue Optics Ltd Holographic dispaly devices
DE102006004300A1 (de) 2006-01-20 2007-08-02 Seereal Technologies S.A. Projektionsvorrichtung zur holographischen Rekonstruktion von Szenen
DE102006042324B4 (de) 2006-09-01 2014-06-18 Seereal Technologies S.A. Verfahren zum Generieren computer-generierter Videohologramme in Echtzeit mittels Teilhologrammen
DE102007023785B4 (de) * 2007-05-16 2014-06-18 Seereal Technologies S.A. Analytisches Verfahren zu Berechnung von Videohologrammen in Echtzeit und holographische Wiedergabeeinrichtung

Also Published As

Publication number Publication date
WO2008138981A3 (de) 2009-09-17
KR101496802B1 (ko) 2015-03-02
CN101681143A (zh) 2010-03-24
EP2158522A2 (de) 2010-03-03
US20100149312A1 (en) 2010-06-17
US9086681B2 (en) 2015-07-21
CA2687369A1 (en) 2008-11-20
WO2008138981A4 (de) 2009-11-19
TW200912570A (en) 2009-03-16
DE102007023785A1 (de) 2008-12-04
TWI457730B (zh) 2014-10-21
WO2008138981A2 (de) 2008-11-20
JP5416094B2 (ja) 2014-02-12
KR20100017609A (ko) 2010-02-16
US8437056B2 (en) 2013-05-07
US20130250049A1 (en) 2013-09-26
JP2010527039A (ja) 2010-08-05
CN101681143B (zh) 2013-05-01
DE102007023785B4 (de) 2014-06-18

Similar Documents

Publication Publication Date Title
EP2158522B1 (de) Analytisches verfahren zur berechnung von videohologrammen in echtzeit
DE102007023739B4 (de) Verfahren zum Rendern und Generieren von Farbvideohologrammen in Echtzeit und holographische Wiedergabeeinrichtung
EP2160655B1 (de) Verfahren zum generieren von videohologrammen in echtzeit zur erweiterung einer 3d-rendering-graphikpipeline
DE102007013431B4 (de) Verfahren und Einrichtung zum Rekonstruieren einer dreidimensionalen Szene mit korrigierter Sichtbarkeit
DE10353439B4 (de) Einrichtung zur Rekonstruktion von Videohologrammen
EP2024793B1 (de) Verfahren und einrichtung zum rendern und generieren computer-generierter videohologramme
EP2005259B1 (de) Verfahren zum rendern und generieren computer-generierter videohologramme in echtzeit
WO2008025844A1 (de) Verfahren zum generieren computer-generierter videohologramme in echtzeit mittels propagation
DE102008000589B4 (de) Verfahren zur Kodierung von computergenerierten Hologrammen in pixelierten Lichtmodulatoren
WO2008138980A2 (de) Verfahren zur generierung von videohologrammen für eine holographische wiedergabeeinrichtung mit wahlfreier adressierung
WO2008025839A1 (de) Verfahren zum generieren von videohologrammen in echtzeit mittels subhologrammen
DE102004063838A1 (de) Verfahren und Einrichtung zum Berechnen computer generierter Videohologramme
EP2062100B1 (de) Verfahren und vorrichtung zur kodierung von computergenerierten hologrammen in pixelierten lichtmodulatoren
EP2181361B1 (de) Holographische rekonstruktionseinrichtung
DE102006062377A1 (de) Verfahren und Einrichtung zum Reduzieren von Speckle
DE102006042324B4 (de) Verfahren zum Generieren computer-generierter Videohologramme in Echtzeit mittels Teilhologrammen
WO2008025841A1 (de) Holografische kodiereinheit zum generieren von videohologrammen
DE102006042323B4 (de) Verfahren zum Generieren computer-generierter Videohologramme in Echtzeit mittels Propagation
DE102006042326A1 (de) Holographische Kodiereinheit zum Generieren computergenerierter Videohologramme
WO2007085233A2 (de) Verfahren zur datenkompression computergenerierter videohologramme

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20091216

AK Designated contracting states

Kind code of ref document: A2

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MT NL NO PL PT RO SE SI SK TR

AX Request for extension of the european patent

Extension state: AL BA MK RS

DAX Request for extension of the european patent (deleted)
17Q First examination report despatched

Effective date: 20121128

17Q First examination report despatched

Effective date: 20121219

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: SEEREAL TECHNOLOGIES S.A.

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

GRAJ Information related to disapproval of communication of intention to grant by the applicant or resumption of examination proceedings by the epo deleted

Free format text: ORIGINAL CODE: EPIDOSDIGR1

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

INTG Intention to grant announced

Effective date: 20180122

INTG Intention to grant announced

Effective date: 20180212

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MT NL NO PL PT RO SE SI SK TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

Ref country code: AT

Ref legal event code: REF

Ref document number: 1025005

Country of ref document: AT

Kind code of ref document: T

Effective date: 20180815

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 502008016228

Country of ref document: DE

REG Reference to a national code

Ref country code: NL

Ref legal event code: FP

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181102

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181101

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181201

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181101

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 502008016228

Country of ref document: DE

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20190503

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190531

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190531

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20190531

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190516

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190531

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181201

REG Reference to a national code

Ref country code: AT

Ref legal event code: MM01

Ref document number: 1025005

Country of ref document: AT

Kind code of ref document: T

Effective date: 20190516

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190516

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180801

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20080516

P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230529

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: NL

Payment date: 20230519

Year of fee payment: 16

Ref country code: IE

Payment date: 20230516

Year of fee payment: 16

Ref country code: FR

Payment date: 20230517

Year of fee payment: 16

Ref country code: DE

Payment date: 20230525

Year of fee payment: 16

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20230515

Year of fee payment: 16