DE102016103975A1 - System for generating 360 ° image data - Google Patents

System for generating 360 ° image data Download PDF

Info

Publication number
DE102016103975A1
DE102016103975A1 DE102016103975.6A DE102016103975A DE102016103975A1 DE 102016103975 A1 DE102016103975 A1 DE 102016103975A1 DE 102016103975 A DE102016103975 A DE 102016103975A DE 102016103975 A1 DE102016103975 A1 DE 102016103975A1
Authority
DE
Germany
Prior art keywords
camera
image data
module
terminal
lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
DE102016103975.6A
Other languages
German (de)
Inventor
Jan P. Köster
Markus Rall
Ahim Kandler
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Joinvr Tech Ltd
Joinvr Technologies Ltd
Original Assignee
Joinvr Tech Ltd
Joinvr Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Joinvr Tech Ltd, Joinvr Technologies Ltd filed Critical Joinvr Tech Ltd
Priority to DE102016103975.6A priority Critical patent/DE102016103975A1/en
Publication of DE102016103975A1 publication Critical patent/DE102016103975A1/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, TV cameras, video cameras, camcorders, webcams, camera modules for embedding in other devices, e.g. mobile phones, computers or vehicles
    • H04N5/225Television cameras ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, camcorders, webcams, camera modules specially adapted for being embedded in other devices, e.g. mobile phones, computers or vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/21Combinations with auxiliary equipment, e.g. with clocks or memoranda pads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, TV cameras, video cameras, camcorders, webcams, camera modules for embedding in other devices, e.g. mobile phones, computers or vehicles
    • H04N5/225Television cameras ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, camcorders, webcams, camera modules specially adapted for being embedded in other devices, e.g. mobile phones, computers or vehicles
    • H04N5/2251Constructional details
    • H04N5/2254Mounting of optical parts, e.g. lenses, shutters, filters or optical parts peculiar to the presence or use of an electronic image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, TV cameras, video cameras, camcorders, webcams, camera modules for embedding in other devices, e.g. mobile phones, computers or vehicles
    • H04N5/225Television cameras ; Cameras comprising an electronic image sensor, e.g. digital cameras, video cameras, camcorders, webcams, camera modules specially adapted for being embedded in other devices, e.g. mobile phones, computers or vehicles
    • H04N5/232Devices for controlling television cameras, e.g. remote control ; Control of cameras comprising an electronic image sensor
    • H04N5/23238Control of image capture or reproduction to achieve a very large field of view, e.g. panorama
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera

Abstract

Die Erfindung betrifft ein System (2), umfassend mindestens ein mobiles Endgerät (4) mit einer ersten an einer Vorderseite (6) des Endgeräts (4) angeordneten Kamera (10) und mindestens einer weiteren an einer Rückseite (8) des Endgeräts (4) angeordneten Kamera (12), ein erstes Linsenmodul (14) mit einem Bildwinkel von mindestens 180°, mindestens ein weiteres Linsenmodul (16) mit einem Bildwinkel von mindestens 180°, wobei in einem bestimmungsgemäßen Betriebszustand des Systems (2) das erste Linsenmodul (14) mit der ersten Kamera (10) gekoppelt ist und das weitere Linsenmodul (16) mit der weiteren Kamera (12) gekoppelt ist, mindestens ein Steuerungsmodul (26) eingerichtet zum Steuern der ersten Kamera (10) und der weiteren Kamera (12), derart, dass in dem bestimmungsgemäßen Betriebszustand die erste Kamera (10) und die weitere Kamera (12) gleichzeitig aktivierbar sind und mindestens ein Generierungsmodul (30) eingerichtet zum Generieren von 360° Bilddaten aus ersten von der ersten Kamera (10) erzeugten Rohbilddaten und weiteren von der weiteren Kamera (12) erzeugten Rohbilddaten.The invention relates to a system (2) comprising at least one mobile terminal (4) with a first camera (10) arranged on a front side (6) of the terminal (4) and at least one further on a rear side (8) of the terminal (4 ) arranged camera (12), a first lens module (14) with an angle of view of at least 180 °, at least one further lens module (16) with an angle of view of at least 180 °, wherein in a normal operating condition of the system (2) the first lens module ( 14) is coupled to the first camera (10) and the further lens module (16) is coupled to the further camera (12), at least one control module (26) is arranged to control the first camera (10) and the further camera (12). such that, in the intended operating state, the first camera (10) and the further camera (12) can be activated simultaneously and at least one generation module (30) is set up to generate 360 ° image data from first of the e The first camera (10) generated raw image data and other generated by the other camera (12) raw image data.
Figure DE102016103975A1_0001

Description

  • Die Erfindung betrifft ein System, umfassend mindestens ein mobiles Endgerät mit einer ersten an einer Vorderseite des Endgeräts angeordneten Kamera und mindestens einer weiteren an einer Rückseite des Endgeräts angeordneten Kamera. Darüber hinaus betrifft die Erfindung ein Verfahren, ein mobiles Endgerät, eine Aufsatzanordnung für ein mobiles Endgerät und ein Computerprogramm.The invention relates to a system comprising at least one mobile terminal with a first camera arranged on a front side of the terminal and at least one further camera arranged on a rear side of the terminal. Moreover, the invention relates to a method, a mobile terminal, a mobile terminal attachment and a computer program.
  • Um einen möglichst realistischen Eindruck von einer Umgebung, wie einem Raum oder einer Landschaft, zu erhalten, ist es mit komplexen Kamera-Systemen möglich, hiervon so genannte 360° Bilddaten bzw. sphärische Bilddaten, insbesondere 360° Videodaten, zu erzeugen. Die 360° Bilddaten können über ein Anzeigenmodul angezeigt werden. Dies ermöglicht es, (anderen) Nutzern einen möglichst realen Eindruck von der aufgenommen Umgebung zu erhalten.In order to obtain the most realistic possible impression of an environment such as a room or a landscape, it is possible with complex camera systems to generate so-called 360 ° image data or spherical image data, in particular 360 ° video data. The 360 ° image data can be displayed via a display module. This makes it possible for (other) users to get the most realistic possible impression of the captured environment.
  • Da zur Erzeugung von 360° Bilddaten Spezial-Kamerasysteme notwendig sind, ist es Nutzern, die über kein entsprechendes Spezialsystem verfügen, nicht möglich, entsprechende Bilddaten bzw. Videos von einer Umgebung zu erzeugen.Since special camera systems are necessary for generating 360 ° image data, it is not possible for users who do not have a corresponding special system to generate corresponding image data or videos from an environment.
  • Auf der anderen Seite besitzt eine Vielzahl von Nutzern mobile bzw. tragbare Endgeräte, die mit Kameras ausgestattet sind. Mobiltelefone und andere tragbare Endgeräte weisen heutzutage in der Regel eine erste Kamera an der Vorderseite des Endgeräts und eine Kamera an der Rückseite des Endgeräts auf. Zwar bieten diese tragbaren Endgeräte die Möglichkeit, Panorama-Bilddaten, insbesondere Panorama-Fotos, zu erstellen. Jedoch ist es im Stand der Technik nicht möglich, mit einem herkömmlichen mobilen Endgerät 360° Bilddaten zu generieren.On the other hand, a large number of users own mobile or portable terminals equipped with cameras. Today, mobile phones and other portable terminals typically have a first camera on the front of the terminal and a camera on the back of the terminal. Although these portable devices provide the ability to create panoramic image data, especially panoramic photos. However, it is not possible in the prior art to generate 360 ° image data with a conventional mobile terminal.
  • Daher liegt der Erfindung die Aufgabe zugrunde, ein System mit einem mobilen Endgerät zur Verfügung zu stellen, welches die Generierung von 360° Bilddaten ermöglicht.It is therefore the object of the invention to provide a system with a mobile terminal which enables the generation of 360 ° image data.
  • Diese Aufgabe wird gemäß einem ersten Aspekt der Erfindung bei einem System gemäß dem Anspruch 1 gelöst. Das System umfasst mindestens ein mobiles Endgerät mit einer ersten an einer Vorderseite des Endgeräts angeordneten Kamera und mindestens einer weiteren an einer Rückseite des Endgeräts angeordneten Kamera. Das System umfasst ein erstes Linsenmodul mit einem Bildwinkel von mindestens 180°. Das System umfasst mindestens ein weiteres Linsenmodul mit einem Bildwinkel von mindestens 180°. In einem bestimmungsgemäßen Betriebszustand des Systems ist das erste Linsenmodul mit der ersten Kamera gekoppelt und das weitere Linsenmodul ist mit der weiteren Kamera gekoppelt. Das System umfasst mindestens ein Steuerungsmodul eingerichtet zum Steuern der ersten Kamera und der weiteren Kamera, derart, dass in dem bestimmungsgemäßen Betriebszustand die erste Kamera und die weitere Kamera gleichzeitig aktivierbar sind. Das System umfasst mindestens ein Generierungsmodul eingerichtet zum Generieren von 360° Bilddaten aus ersten von der ersten Kamera erzeugten Rohbilddaten und weiteren von der weiteren Kamera generierten Rohbilddaten.This object is achieved according to a first aspect of the invention in a system according to claim 1. The system comprises at least one mobile terminal with a first camera arranged on a front side of the terminal and at least one further camera arranged on a rear side of the terminal. The system comprises a first lens module with a viewing angle of at least 180 °. The system comprises at least one additional lens module with a viewing angle of at least 180 °. In an intended operating state of the system, the first lens module is coupled to the first camera and the further lens module is coupled to the other camera. The system comprises at least one control module configured to control the first camera and the further camera, such that in the intended operating state the first camera and the further camera can be activated simultaneously. The system comprises at least one generation module configured to generate 360 ° image data from first raw image data generated by the first camera and further raw image data generated by the further camera.
  • Indem im Gegensatz zum Stand der Technik erfindungsgemäß die auf gegenüberliegenden Seiten des Endgeräts angeordneten Kameras jeweils über ein Linsenmodul mit einem Bildwinkel von mindestens 180° koppelbar sind und ein Steuerungsmodul vorgesehen ist, welches den gleichzeitigen, insbesondere (zeitlich) parallelen Betrieb, also die gleichzeitig Erzeugung von Rohbilddaten, ermöglicht, können mittels eines Generierungsmodul aus den Rohbilddaten der Kameras 360° Bilddaten generiert werden.In contrast to the prior art, the cameras arranged on opposite sides of the terminal can each be coupled via a lens module with an angle of view of at least 180 ° and a control module is provided, which simultaneously, in particular (temporally) parallel operation, ie the simultaneous generation from raw image data, a 360 ° image data can be generated from the raw image data of the cameras by means of a generation module.
  • Unter 360° Bilddaten oder einem 360° Bilddatensatz sind vorliegend sphärische Bilddaten bzw. ein sphärischer Bilddatensatz, insbesondere sphärische Videodaten oder sphärische Fotos, zu verstehen.360 ° image data or a 360 ° image data set are to be understood here as spherical image data or a spherical image data set, in particular spherical video data or spherical photos.
  • Das System kann beispielsweise ein herkömmliches mobiles Endgerät umfassen. Beispielhafte und nicht abschließende mobile Endgeräte sind Mobiltelefone, Tablet-Computer und Notebooks. Das mobile Endgerät verfügt über mindestens zwei Kameras. Eine Kamera ist dazu eingerichtet, bei Aktivierung der Kamera Bilddaten zu erzeugen. Vorliegend erzeugt daher eine aktivierte Kamera insbesondere bis zu einer Deaktivierung Rohbilddaten.For example, the system may include a conventional mobile terminal. Exemplary and non-terminating mobile terminals are mobile phones, tablet computers and notebooks. The mobile device has at least two cameras. A camera is set up to generate image data when the camera is activated. In the present case, therefore, an activated camera generates raw image data, in particular until deactivation.
  • Eine erste Kamera ist an einer Vorderseite des Endgeräts angeordnet während die mindestens eine weitere Kamera an der Rückseite des Endgeräts angeordnet ist. Mit anderen Worten sind die erste und die weitere Kamera an gegenüberliegenden Seiten des Endgeräts angeordnet.A first camera is arranged on a front side of the terminal while the at least one further camera is arranged on the rear side of the terminal. In other words, the first and the further camera are arranged on opposite sides of the terminal.
  • Darüber hinaus umfasst das System zwei Linsenmodule. Ein erstes Linsenmodul ist zumindest mit der ersten Kamera koppelbar. Ein weiteres Linsenmodul ist zumindest mit der weiteren Kamera koppelbar. Im bestimmungsgemäßen Zustand des Systems, also wenn sphärische Bilddaten von der Umgebung aufgezeichnet bzw. generiert werden sollen, kann das erste Linsenmodul optisch mit der ersten Kamera und das weitere Linsenmodul optisch mit der weiteren Kamera gekoppelt sein.In addition, the system includes two lens modules. A first lens module can be coupled at least with the first camera. Another lens module can be coupled at least with the other camera. In the intended state of the system, that is, when spherical image data is to be recorded or generated by the environment, the first lens module can be optically coupled to the first camera and the further lens module can be optically coupled to the further camera.
  • In einer Ausführung kann ein Linsenmodul integraler Bestandteil der Kamera sein. Mit anderen Worten weist in diesem Fall das mobile Endgerät eine Kamera mit einem Linsenmodul mit einem Bildwinkel von mindestens 180° auf. Auch kann vorgesehen sein, dass ein Linsenmodul ein separates Element ist, welches im bestimmungsgemäßen Zustand mit einer Kamera gekoppelt ist, so dass unter Verwendung des Linsenmoduls Bilddaten durch die Kamera erstellt werden können.In one embodiment, a lens module may be an integral part of the camera. In other words, in this case, the mobile terminal has a camera with a lens module with an angle of view of at least 180 °. Also can be provided that a lens module is a separate element which is coupled in the normal state with a camera, so that image data can be created by the camera using the lens module.
  • Ein Linsenmodul weist einen (effektiven) Bildwinkel bzw. ein (effektives) Sichtfeld von mindestens 180° auf. Mittels eines entsprechenden Linsenmoduls lassen sich daher zumindest 180° Rohbilddaten generieren. Vorzugsweise kann ein Linsenmodul einen (effektiven) Bildwinkel bzw. ein Sichtfeld von mindestens 190° aufweisen.A lens module has an (effective) field of view or an (effective) field of view of at least 180 °. By means of a corresponding lens module, it is therefore possible to generate at least 180 ° raw image data. Preferably, a lens module can have an (effective) field of view or a field of view of at least 190 °.
  • Ferner umfasst das System ein Steuerungsmodul. Das Steuerungsmodul kann zumindest teilweise als Softwaremodul, wie einem Anwendungsprogramm (APP), und/oder teilweise durch Hardware, wie dem Prozessor, Speicher, etc. des Endgeräts, gebildet sein. Das Steuerungsmodul ist derart eingerichtet, dass es eine im Wesentlichen gleichzeitige Aktivierung und insbesondere parallelen Betrieb der ersten Kamera und weiteren Kamera bewirkt. Beispielsweise können durch entsprechende Steuersignale die erste und die weitere Kamera (nahezu) gleichzeitig aktiviert werden. Hierdurch ist es möglich, dass die erste und die weitere Kamera im bestimmungsgemäßen Betriebszustand des Systems im Wesentlichen gleichzeitig und unter Verwendung der oben genannten Linsenmodule die Umgebung des Endgeräts aufzeichnen. Die erste Kamera generiert insbesondere zumindest 180° Bilddaten von der Umgebung aus Sicht der Vorderseite des mobilen Endgeräts, während gleichzeitig die weitere Kamera insbesondere zumindest 180° Bilddaten von der Umgebung aus Sicht der Rückseite des mobilen Endgeräts generiert. Es können hierdurch zwei zumindest 180° Bilddatensätze gleichzeitig generiert werden.Furthermore, the system comprises a control module. The control module may be at least partially formed as a software module, such as an application program (APP), and / or partially by hardware, such as the processor, memory, etc. of the terminal. The control module is set up such that it effects an essentially simultaneous activation and in particular parallel operation of the first camera and further camera. For example, the first and the further camera can be activated (almost) simultaneously by appropriate control signals. This makes it possible for the first and the further camera to record the surroundings of the terminal substantially simultaneously and using the above-mentioned lens modules in the intended operating state of the system. In particular, the first camera generates at least 180 ° image data of the surroundings from the perspective of the front side of the mobile terminal, while at the same time the further camera in particular generates at least 180 ° image data of the surroundings from the viewpoint of the rear side of the mobile terminal. As a result, at least 180 ° image data sets can be generated simultaneously.
  • Um die 360° Bilddaten aus den beiden Rohbilddatensätzen zu generieren, ist ein Generierungsmodul vorgesehen. Das Generierungsmodul weist Mittel auf, um die beiden Rohbilddatensätzen von der ersten und der weiteren Kamera insbesondere zeitlich und räumlich synchron zusammenzufügen. Hierzu kann das Generierungsmodul insbesondere ein Composing-Mittel und/oder Stitching-Mittel umfassen. Vorzugsweise können weitere Bilddatenbearbeitungsmittel vorgesehen sein, um beispielsweise Farbunterschiede und/oder Auflösungsunterschiede zwischen den Bilddaten auszugleichen.To generate the 360 ° image data from the two raw image data sets, a generation module is provided. The generation module has means for combining the two raw image data sets from the first and the further camera, in particular temporally and spatially synchronously. For this purpose, the generation module can in particular comprise a composing means and / or stitching means. Preferably, further image data processing means may be provided, for example to compensate for color differences and / or resolution differences between the image data.
  • In einer bevorzugten Ausführungsform erfolgt die Zusammenfügung der beiden Rohbilddatensätze in Echtzeit. Hierunter ist insbesondere ein Zusammenfügen mit geringer Latenz, die unter 3 s, vorzugsweise unter 1 s, liegt. Alternativ oder zusätzlich kann eine Zusammenfügung ON-DEMAND bereitgestellt werden. Mit anderen Worten kann es sich um eine zeitlich große Differenz (z. B. < 10 s, 10 min, 1 h, 1 d, etc.) zwischen dem Zeitpunkt der Aufnahme und dem Zeitpunkt, an welchem ein 360 Grad Video zur Verfügung steht, handeln.In a preferred embodiment, the merging of the two raw image data sets takes place in real time. This includes, in particular, a low-latency assembly which is less than 3 s, preferably less than 1 s. Alternatively or additionally, an assembly ON-DEMAND can be provided. In other words, it may be a time-varying difference (eg, <10s, 10min, 1h, 1d, etc.) between the time of recording and the time a 360 degree video is available , act.
  • Darüber hinaus kann gemäß einer bevorzugten Ausführungsform das Generierungsmodul zumindest ein Mittel ausgewählt aus der folgenden Gruppe umfassen oder mit diesen koppelbar sein:
    • a) ein zeitliches Synchronisierungsmittel, insbesondere eingerichtet zur zeitlichen Synchronisierung des ersten Rohbilddatensatzes und des weiteren Rohbilddatensatzes;
    • b) ein räumliches bzw. sphärisches Abstimmungsmittel, insbesondere eingerichtet zur Erzeugung einer (nahezu) nahtlosen Überlappung des ersten Rohbilddatensatzes und des weiteren Rohbilddatensatzes;
    • c) ein Abgleichmittel, insbesondere eingerichtet zum Abgleichen des „Dynamic Range” der des ersten Rohbilddatensatzes und des weiteren Rohbilddatensatzes;
    • d) ein weiteres Synchronisierungsmittel, insbesondere eingerichtet zur Synchronisierung der „Frames per Second”, also der Bildfrequenz in Hertz, des ersten Rohbilddatensatzes und des weiteren Rohbilddatensatzes;
    • e) ein Mittel zur Festlegung eines horizontalen und/oder vertikalen Referenzpunkts; und
    • f) ein digitales und/oder Gyro-Stabilisierungsmittel.
    Moreover, according to a preferred embodiment, the generation module may comprise at least one agent selected from the following group or be couplable with it:
    • a) a time synchronization means, in particular adapted for temporal synchronization of the first raw image data set and the further raw image data set;
    • b) a spatial or spherical voting means, in particular designed to produce a (nearly) seamless overlapping of the first raw image data set and of the further raw image data set;
    • c) a matching means, in particular set up for matching the "dynamic range" of the first raw image data record and the further raw image data record;
    • d) another synchronization means, in particular set up for synchronizing the "frames per second", ie the frame rate in Hertz, the first raw image data set and the further raw image data set;
    • (e) a means of establishing a horizontal and / or vertical reference point; and
    • f) a digital and / or gyro stabilizer.
  • Das Mittel zur Festlegung eines horizontalen und/oder vertikalen Referenzpunkts kann beispielsweise ein Eingabemittel umfassen, über den ein Nutzer einen Referenzpunkt festlegen kann. Vorzugsweise kann das Generierungsmodul mindestens einen Sensor umfassen oder mit dem mindestens einen Sensor kommunizieren. Beispielsweise kann der mindestens eine Sensor ein Kompass, ein GPS-Empfänger und/oder ein Accelerometer sein. Indem entsprechende Sensordaten dem Mittel zur Festlegung eines horizontalen und/oder vertikalen Referenzpunkts zur Verfügung gestellt werden, kann in einfacher und automatischer Weise der Referenzpunkt bestimmt werden. Das digitale und/oder Gyro-Stabilisierungsmittel kann z. B. durch Echtzeit-Ablesen und damit synchrones Speichern von Accelerometer-Daten der 360° Bilddaten um eine, zwei oder drei Achsen eingerichtet sein.The means for determining a horizontal and / or vertical reference point may comprise, for example, an input means via which a user can specify a reference point. Preferably, the generation module may comprise at least one sensor or communicate with the at least one sensor. For example, the at least one sensor may be a compass, a GPS receiver and / or an accelerometer. By providing corresponding sensor data to the means for defining a horizontal and / or vertical reference point, the reference point can be determined in a simple and automatic manner. The digital and / or gyro stabilizer may e.g. B. by real-time reading and thus synchronous storage of accelerometer data of the 360 ° image data to one, two or three axes be set up.
  • Das vorliegende System ist daher eingerichtet, mittels eines mobilen Endgeräts mit zwei gegenüberliegenden Kameras 360° Bilddaten, insbesondere 360° Videodaten zu generieren und zur Verfügung zu stellen. Insbesondere können in einfacher Weise ohne Verwendung eines komplexen Kamerasystems sphärische Bilddaten generiert werden. Vorzugsweise können sphärische Videodaten mit einer Auflösung von zumindest 1080·1920 Pixeln erzeugt werden. Es versteht sich, dass die Auflösung von den Eigenschaften des Endgeräts abhängen kann.The present system is therefore set up to generate and make available 360 ° video data, in particular 360 ° video data, by means of a mobile terminal with two cameras opposite one another. In particular, spherical image data can be generated in a simple manner without the use of a complex camera system. Preferably, spherical video data may be generated at a resolution of at least 1080 x 1920 pixels become. It is understood that the resolution may depend on the characteristics of the terminal.
  • Gemäß einer ersten Ausführungsform des erfindungsgemäßen Systems kann das erste Linsenmodul eine Fischaugenlinse aufweisen. Alternativ oder zusätzlich kann das weitere Linsenmodul eine Fischaugenlinse aufweisen. Eine Fischaugenlinse ist ein Objektiv, welches eingerichtet ist, eine Hemisphäre oder mehr abzubilden. Fischaugenlinsen sind daher besonders geeignet, um ein Linsenmodul mit einem Bildwinkel bzw. Sichtwinkel von zumindest 180° bereitzustellen.According to a first embodiment of the system according to the invention, the first lens module can have a fisheye lens. Alternatively or additionally, the further lens module may have a fisheye lens. A fisheye lens is a lens designed to image one hemisphere or more. Fisheye lenses are therefore particularly suitable for providing a lens module with a viewing angle of at least 180 °.
  • Um die von dem Kamera-Sensor zur Verfügung stehenden Pixel möglichst optimal zu nutzen, weist eine Fischaugenlinse mindestens einen Sichtwinkel von 180 Grad auf. Es ist ferner erkannt worden, dass bei einem mobilen Endgerät die so genannten optischen „Entrance Pupil” (EP) der beiden Linsen nicht auf derselben Ebene liegen können. Um dennoch eine einwandfreie Überlappung zu erreichen, kann vorzugsweise der Sichtwinkel größer dimensioniert sein (≥ 190°), jedoch nicht zu groß (z. B. ≤ 250 Grad), um eine zu große Überlappung zu vermeiden. Insbesondre kann der Sichtwinkel unter Berücksichtigung der „angular resolution” der Linse an deren äußerem Rand dimensioniert sein.In order to make the best possible use of the pixels available from the camera sensor, a fisheye lens has at least a viewing angle of 180 degrees. It has also been recognized that in a mobile terminal, the so-called optical "Entrance Pupil" (EP) of the two lenses can not lie on the same plane. In order nevertheless to achieve a perfect overlap, the viewing angle can preferably be larger (≥ 190 °), but not too large (eg ≦ 250 °), in order to avoid too great an overlap. In particular, the viewing angle may be dimensioned taking into account the angular resolution of the lens at its outer edge.
  • Eine Fischaugenlinse, die besonders geeignet ist, ist eine Linse, die eingerichtet ist, ein vollkommen rundes Bild auf dem Sensor der Kameras abzubilden. Vorzugsweise kann daher eine Fischaugenlinse eingesetzt werden, bei dem die runde Hemisphäre (180° um 180°) komplett im rechteckigen Sensorbild abgebildet wird.A fisheye lens that is particularly suitable is a lens that is designed to image a perfectly round image on the sensor of the cameras. Preferably, therefore, a fisheye lens can be used in which the round hemisphere (180 ° by 180 °) is completely imaged in the rectangular sensor image.
  • Vorzugsweise weist im Falle von Fischaugenlinsen das Generierungsmodul Entzerrungsmittel auf, um die Verzerrungen (Krümmungen), die von einer Fischaugenlinse hervorgerufen werden können, auszugleichen.Preferably, in the case of fish-eye lenses, the generation module has equalization means to compensate for the distortions (curvatures) that can be produced by a fisheye lens.
  • Insbesondere kann in einem Speicher (z. B. des Endgeräts) mindestens ein optischer Parameter des eingesetzten Linsenmoduls gespeichert sein. Mittels des mindestens einen Parameters, wie ein Bildwinkel (αmax, αstark, αschwach, αmittel), Brennweite f, etc., kann das Generierungsmodul dann die Rohbilddaten bearbeiten und zu einem 360° Bilddatensatz zusammenfügen.In particular, at least one optical parameter of the lens module used can be stored in a memory (eg of the terminal). By means of the at least one parameter, such as an angle of view (α max , α strong , α weak , α medium ), focal length f, etc., the generation module can then process the raw image data and combine it into a 360 ° image data set.
  • Darüber hinaus kann das System gemäß einer weiteren Ausführungsform ein Anzeigemodul eingerichtet zum Darstellen der generierten 360° Bilddaten umfassen. Das Anzeigenmodul, wie ein (Touch-)Display des Endgeräts oder ein separates Display, welches insbesondere mit dem Endgerät gekoppelt werden kann, kann eingerichtet sein, die 360° Bilddaten abzuspielen. Das Display kann auch Teil einer Brille oder dergleichen sein. Nutzer erhalten eine besonders realistische Darstellung einer aufgenommenen Umgehung. Auch kann ein Anzeigenmodul ein Darstellen der 360° Bilddaten unter Verwendung einer Webseite umfassen.In addition, in another embodiment, the system may include a display module configured to display the generated 360 ° image data. The display module, such as a (touch) display of the terminal or a separate display, which can be coupled in particular with the terminal, may be configured to play the 360 ° image data. The display can also be part of a pair of glasses or the like. Users receive a particularly realistic representation of a recorded bypass. Also, a display module may include displaying the 360 ° image data using a web page.
  • Gemäß einer bevorzugten Ausführungsform des erfindungsgemäßen Systems kann das System ein Modifizierungsmodul eingerichtet zum Modifizieren der generierten 360° Bilddaten umfassen. Das Modifizierungsmodul kann beispielsweise eingerichtet sein, Teil-Bilddaten der 360° Bilddaten zu modifizieren. Beispielsweise können Bilddaten hinzugefügt und/oder entfernt werden.According to a preferred embodiment of the system according to the invention, the system may comprise a modification module arranged to modify the generated 360 ° image data. For example, the modification module may be configured to modify partial image data of the 360 ° image data. For example, image data may be added and / or removed.
  • Insbesondere kann das Modifizierungsmodul eingerichtet sein, Teil-Bilddaten der generierten 360° Bilddaten in Abhängigkeit einer Zeitangabe und mindestens einer Koordinatenangabe zu modifizieren, wobei sich die Zeitangabe und die Koordinatenangabe auf die 360° Bilddaten beziehen. Beispielsweise kann vorgesehen sein, dass Teil-Bilddaten, insbesondere Textdaten, an einer bestimmten Stelle bzw. einem bestimmten Bereich der 360° Bilddaten hinzugefügt werden. Die Position kann durch eine Zeitangabe, wie der Zeitdauer ab Start der 360° Videodaten, und durch Bildkoordinatendaten, insbesondere bestimmte Längen- und Breitengradangaben der sphärischen Videos, bestimmt sein. Dies ermöglicht es zum Beispiel, Symbole und/oder Text in ein sphärisches Video an einer bestimmten Position zu „kleben”.In particular, the modification module can be set up to modify partial image data of the generated 360 ° image data depending on a time specification and at least one coordinate specification, wherein the time specification and the coordinate specification relate to the 360 ° image data. By way of example, provision can be made for partial image data, in particular text data, to be added at a specific location or a specific area of the 360 ° image data. The position may be determined by a time indication, such as the time from the start of the 360 ° video data, and image coordinate data, in particular certain longitude and latitude information of the spherical video. This makes it possible, for example, to "glue" symbols and / or text into a spherical video at a certain position.
  • Das Generierungsmodul kann zumindest teilweise durch Hardware und/oder zumindest teilweise durch Software gebildet sein. Vorzugsweise können Steuerungsmodul und Generierungsmodul zumindest teilweise als Softwareanwendung (App) auf dem Endgerät installierbar sein und nach der Installation die Hardware des Endgeräts zumindest teilweise nutzen. Insbesondere kann gemäß einer weiteren Ausführungsform das Generierungsmodul in dem Endgerät zumindest teilweise integriert sein. Beispielsweise kann eine derartige Softwareanwendung die Graphical Processing Unit (GPU) des Endgeräts nutzen, um aus den Rohbilddaten der ersten und weiteren Kamera einen sphärischen Bilddatensatz zu generieren.The generation module can be formed at least partially by hardware and / or at least partially by software. Preferably, the control module and the generation module can be at least partially installable as a software application (App) on the terminal and after installation at least partially use the hardware of the terminal. In particular, according to a further embodiment, the generation module may be at least partially integrated in the terminal. For example, such a software application can use the Graphical Processing Unit (GPU) of the terminal to generate a spherical image data record from the raw image data of the first and further camera.
  • Alternativ kann das Endgerät ein Kommunikationsmodul eingerichtet zum Senden der ersten Rohbilddaten und der weiteren Rohbilddaten über ein Netzwerk (z. B. Internet) zu einem entfernt angeordneten Generierungsmodul umfassen. Alternativ und vorzugsweise zusätzlich kann das Endgerät ein Kommunikationsmodul eingerichtet zum Empfangen von den generieten 360° Bilddaten über ein Netzwerk (z. B. Internet) von einem entfernt angeordneten Generierungsmodul umfassen. Beispielsweise kann eine Softwareanwendung bewirken, dass die ersten und die weiteren Bilddaten über eine geeignete Kommunikationsschnittstelle, wie ein WLAN-Modul, ein Bluetooth-Modul, ein RF-Modul oder dergleichen, an ein entfernt angeordnetes Generierungsmodul übertragen werden. Beispielsweise kann das Generierungsmodul in einem Server und/oder einer Cloud, insbesondere einem (stufenlos skalierbaren) Server in der Cloud, angeordnet sein. Ein derartiges Generierungsmodul kann ebenfalls über eine GPU verfügen, die von einer Mehrzahl von Endgeräten genutzt werden kann. Die Verarbeitung der Rohbilddaten und die Generierung von 360° Bilddaten kann zentral von einem besonders leistungsstarken Generierungsmodul durchgeführt werden. Der Server kann von einer Mehrzahl von Endgeräten genutzt werden. Eine Nutzung der Ressourcen des mobilen Endgeräts kann reduziert werden.Alternatively, the terminal may comprise a communication module configured to transmit the first raw image data and the further raw image data via a network (eg Internet) to a remote generation module. Alternatively, and preferably additionally, the terminal may comprise a communication module configured to receive the generated 360 ° image data over a network (eg, Internet) from a remote generation module. For example, a software application may cause the first and second the further image data are transmitted to a remotely located generation module via a suitable communication interface, such as a WLAN module, a Bluetooth module, an RF module or the like. For example, the generation module can be arranged in a server and / or a cloud, in particular a (continuously scalable) server in the cloud. Such a generation module may also have a GPU that can be used by a plurality of terminals. The processing of the raw image data and the generation of 360 ° image data can be carried out centrally by a particularly powerful generation module. The server can be used by a plurality of terminals. Use of the resources of the mobile terminal can be reduced.
  • Bei einer Ausführungsform kann vorgesehen sein, dass die Generierung der sphärischen Bilddaten nahezu in Echtzeit erfolgen kann und die sphärischen Bilddaten mindestens einem Nutzer zum Ansehen nahezu in Echtzeit bereitgestellt werden können. Mit anderen Worten können „live” Bilddaten bereitgestellt werden.In an embodiment it can be provided that the generation of the spherical image data can take place almost in real time and the spherical image data can be made available to at least one user for viewing in near real time. In other words, "live" image data can be provided.
  • Es versteht sich, dass Verschlüsselungsmittel zum sicheren Datenaustausch mit dem entfernt angeordneten Generierungsmittel vorgesehen sein können.It is understood that encryption means may be provided for secure data exchange with the remote generation means.
  • Ein weiterer Aspekt der Erfindung ist ein Verfahren. Das Verfahren kann insbesondere zum Betreiben eines zuvor beschriebenen Systems eingesetzt werden. Das Verfahren umfasst:
    • – Steuern einer ersten an einer Vorderseite eines mobilen Endgeräts angeordneten Kamera und einer weiteren an einer Rückseite des Endgeräts angeordneten Kamera, derart, dass die erste Kamera und die weitere Kamera gleichzeitig aktiviert werden,
    • – Erzeugen von ersten Rohbilddaten von der ersten Kamera,
    • – Erzeugen von weiteren Rohbilddaten von der weiteren Kamera, und
    • – Generieren von 360° Bilddaten aus den ersten Rohbilddaten und den weiteren Rohbilddaten.
    Another aspect of the invention is a method. The method can be used in particular for operating a system described above. The method comprises:
    • Controlling a first camera arranged on a front side of a mobile terminal and a further camera arranged on a rear side of the terminal such that the first camera and the further camera are activated simultaneously,
    • Generating first raw image data from the first camera,
    • - Generating further raw image data from the other camera, and
    • - Generating 360 ° image data from the first raw image data and the other raw image data.
  • Ein noch weiterer Aspekt der Erfindung ist ein mobiles Endgerät, insbesondere für ein zuvor beschriebenes System. Das Endgerät umfasst eine erste an einer Vorderseite des Endgeräts angeordnete Kamera. Das Endgerät umfasst mindestens eine weitere an der Rückseite des Endgeräts angeordnete Kamera. Die erste Kamera ist mit einem ersten Linsenmodul mit einem Bildwinkel von mindestens 180° zumindest koppelbar.Yet another aspect of the invention is a mobile terminal, particularly for a previously described system. The terminal comprises a first camera arranged on a front side of the terminal. The terminal comprises at least one further camera arranged on the rear side of the terminal. The first camera can at least be coupled with a first lens module with an image angle of at least 180 °.
  • Die weitere Kamera ist mit einem weiteren Linsenmodul mit einem Bildwinkel von mindestens 180° zumindest koppelbar. Das Endgerät umfasst mindestens ein Steuerungsmodul zum Steuern der ersten Kamera und der weiteren Kamera, derart, dass die erste Kamera und die weitere Kamera gleichzeitig aktiviert werden. Das Endgerät umfasst mindestens ein Schnittstellenmodul eingerichtet zum Übertragen von ersten Rohbilddaten von der ersten Kamera und von weiteren Rohbilddaten von der weiteren Kamera an ein Generierungsmodul eingerichtet zum Generieren von 360° Bilddaten aus den ersten Rohbilddaten und den weiteren Rohbilddaten.The further camera can be coupled to another lens module with an angle of view of at least 180 °. The terminal comprises at least one control module for controlling the first camera and the further camera, such that the first camera and the further camera are activated simultaneously. The terminal comprises at least one interface module configured to transmit first raw image data from the first camera and further raw image data from the further camera to a generation module configured to generate 360 ° image data from the first raw image data and the further raw image data.
  • Das Schnittstellenmodul kann das oben beschriebene Kommunikationsmodul sein, oder ein Schnittstellenmodul, welches die ersten Rohbilddaten und die weiteren Rohbilddaten von der ersten Kamera und der weiteren Kamera an das in dem Endgerät implementierte Generierungsmodul weiterleitet. Im zuletzt genannten Fall ist das Schnittstellenmodul ein internes Modul des Endgeräts und kann beispielsweise zumindest teilweise durch die oben genannte Softwareanwendung gebildet sein.The interface module may be the communication module described above, or an interface module which forwards the first raw image data and the further raw image data from the first camera and the further camera to the generation module implemented in the terminal. In the latter case, the interface module is an internal module of the terminal and may for example be formed at least partially by the above-mentioned software application.
  • Wie bereits beschrieben wurde, können die Linsenmodule in dem mobilen Endgerät integriert sein.As already described, the lens modules may be integrated in the mobile terminal.
  • Ein weiterer Aspekt der Erfindung ist eine Aufsatzanordnung für ein mobiles Endgerät umfassend eine erste Kamera an einer Vorderseite des Endgeräts und mindestens eine weitere Kamera an einer Rückseite des Endgeräts. Die Aufsatzanordnung umfasst mindestens einen Trägerrahmen mit mindestens einem Befestigungsmittel zum Befestigen des Trägerrahmens an dem Endgerät. Der Trägerrahmen umfasst an einer Vorderseite des Trägerrahmens ein erstes mit der ersten Kamera des Endgeräts koppelbares Linsenmodul mit einem Bildwinkel von mindestens 180°. Der Trägerrahmen umfasst an einer Rückseite des Trägerrahmens ein weiteres mit der weiteren Kamera des Endgeräts koppelbares Linsenmodul mit einem Bildwinkel von mindestens 180°.A further aspect of the invention is an attachment arrangement for a mobile terminal comprising a first camera on a front side of the terminal and at least one further camera on a rear side of the terminal. The attachment assembly comprises at least one support frame with at least one attachment means for attaching the support frame to the terminal. The support frame comprises at a front side of the support frame, a first with the first camera of the terminal coupled lens module with an angle of view of at least 180 °. The support frame comprises at a rear side of the support frame another with the other camera of the terminal couplable lens module with an angle of view of at least 180 °.
  • Die Aufsatzanordnung kann vorzugsweise für das zuvor beschriebene Endgerät verwendet werden. Insbesondere für den Fall, dass die erste und die weitere Kamera des mobilen Endgeräts nicht über Linsen mit einem Bildwinkel von mindestens 180° verfügen, kann die erfindungsgemäße Aufsatzanordnung eingesetzt werden. Die Aufsatzanordnung ist insbesondere derart dimensioniert, dass in einem Befestigungszustand das erste Linsenmodul mit der ersten Kamera gekoppelt ist und das weitere Linsenmodul mit der weiteren Kamera gekoppelt. Im gekoppelten Zustand kann der Mittelpunkt einer Kameralinse zum Mittelpunkt eines zugeordneten Linsenmoduls korrespondieren. Mit anderen Worten ist die Aufsatzanordnung an die Form und Struktur des mobilen Endgeräts angepasst oder anpassbar.The attachment assembly may preferably be used for the previously described terminal. In particular, in the event that the first and the other camera of the mobile terminal do not have lenses with an angle of view of at least 180 °, the attachment assembly according to the invention can be used. In particular, the attachment arrangement is dimensioned such that, in one attachment state, the first lens module is coupled to the first camera and the further lens module is coupled to the further camera. In the coupled state, the center of a camera lens may correspond to the center of an associated lens module. In other words, the attachment assembly is adapted or adaptable to the shape and structure of the mobile terminal.
  • Insbesondere weist die Aufsatzanordnung einen Trägerrahmen bzw. eine Haltestruktur auf. Der Trägerrahmen verfügt über mindestens ein Befestigungsmittel zum Befestigen des Trägerrahmens an dem Endgerät. Vorzugsweise kann eine lösbare Klemmverbindung durch das Befestigungsmittel zwischen Endgerät und Aufsatzanordnung hergestellt werden. Es versteht sich, dass andere, insbesondere lösbare, Befestigungsmittel vorgesehen sein können. In particular, the attachment arrangement has a support frame or a support structure. The support frame has at least one attachment means for attaching the support frame to the terminal. Preferably, a releasable clamping connection can be made by the attachment means between terminal and attachment assembly. It is understood that other, in particular releasable, fastening means can be provided.
  • Gemäß einer bevorzugten Ausführungsform der erfindungsgemäßen Aufsatzanordnung kann das erste Linsenmodul in zumindest eine erste Richtung translatorisch verschiebbar sein. Alternativ oder zusätzlich kann das weitere Linsenmodul in zumindest eine erste Richtung translatorisch verschiebbar sein. Vorzugsweise kann das erste und/oder das weitere Linsenmodul mittels eines Verschiebemechanismus in zumindest zwei Richtungen, die orthogonal zueinander sind, verschiebbar sein. Besonders bevorzugt kann ein (weiterer) Verschiebemechanismus vorgesehen sein, welcher eine Verschiebung des ersten und/oder des weiteren Linsenmoduls in eine dritte Richtung erlaubt, die insbesondere orthogonal zu den beiden ersten Richtungen ist. Insbesondere kann hierdurch eine Aufsatzanordnung mit drei Freiheitsgraden zur Verfügung gestellt werden.According to a preferred embodiment of the attachment arrangement according to the invention, the first lens module can be translationally displaceable in at least one first direction. Alternatively or additionally, the further lens module can be translationally displaceable in at least one first direction. Preferably, the first and / or the further lens module can be displaceable by means of a displacement mechanism in at least two directions, which are orthogonal to one another. Particularly preferably, a (further) displacement mechanism can be provided, which allows a displacement of the first and / or the further lens module in a third direction, which is in particular orthogonal to the two first directions. In particular, this can provide an attachment arrangement with three degrees of freedom.
  • Hierdurch kann eine Aufsatzanordnung zur Verfügung gestellt werden, welche flexibel mit zwei oder mehr unterschiedlichen mobilen Endgeräten verwendet werden kann. Ein Nutzer kann beispielsweise die Aufsatzanordnung mit verschiedenen mobilen Endgeräten, welche unterschiedliche Abmessungen und/oder unterschiedliche Kamerapositionen aufweisen können, verwenden.As a result, an attachment arrangement can be made available which can be used flexibly with two or more different mobile terminals. A user may, for example, use the attachment arrangement with various mobile terminals, which may have different dimensions and / or different camera positions.
  • Ein noch weiterer Aspekt der Erfindung ist ein Computerprogramm mit Instruktionen ausführbar auf einem Prozessor derart, dass ein mobiles Endgerät gemäß dem Verfahren nach Anspruch 8 betrieben wird. Das Computerprogramm kann insbesondere in Form einer Softwareanwendung auf dem mobilen Endgerät installierbar sein.Yet another aspect of the invention is a computer program having instructions executable on a processor such that a mobile terminal is operated according to the method of claim 8. The computer program can be installed in particular in the form of a software application on the mobile terminal.
  • Die Merkmale der Verfahren, Systeme, Geräte, Anordnungen und Vorrichtungen sind frei miteinander kombinierbar. Insbesondere können Merkmale der Beschreibung und/oder der abhängigen Ansprüche, auch unter vollständiger oder teilweiser Umgehung von Merkmalen der unabhängigen Ansprüche, in Alleinstellung oder frei miteinander kombiniert eigenständig erfinderisch sein.The features of the methods, systems, devices, arrangements and devices are freely combinable. In particular features of the description and / or the dependent claims, even in complete or partial circumvention of features of the independent claims, in isolation or freely combined with each other independently be inventive.
  • Es gibt nun eine Vielzahl von Möglichkeiten, das erfindungsgemäße System, das erfindungsgemäße Verfahren, das erfindungsgemäße mobile Endgerät, die erfindungsgemäße Aufsatzanordnung und das erfindungsgemäße Computerprogramm auszugestalten und weiterzuentwickeln. Hierzu sei einerseits verwiesen auf die den unabhängigen Ansprüchen nachgeordneten Ansprüche, andererseits auf die Beschreibung von Ausführungsbeispielen in Verbindung mit der Zeichnung. In der Zeichnung zeigt:There are now a multitude of possibilities for designing and further developing the system according to the invention, the method according to the invention, the mobile terminal according to the invention, the attachment arrangement according to the invention and the computer program according to the invention. For this purpose, reference is made, on the one hand, to the claims subordinate to the independent claims, and, on the other hand, to the description of exemplary embodiments in conjunction with the drawing. In the drawing shows:
  • 1a eine erste schematische Ansicht eines Ausführungsbeispiels eines Systems gemäß der vorliegenden Erfindung, 1a a first schematic view of an embodiment of a system according to the present invention,
  • 1b eine weitere schematische Ansicht des Ausführungsbeispiels des Systems gemäß 1a, 1b a further schematic view of the embodiment of the system according to 1a .
  • 2 eine schematische Ansicht eines weiteren Ausführungsbeispiels gemäß der Erfindung, 2 a schematic view of another embodiment according to the invention,
  • 3a eine erste schematische Ansicht eines Ausführungsbeispiels einer Aufsatzanordnung gemäß der vorliegenden Erfindung, 3a a first schematic view of an embodiment of a top assembly according to the present invention,
  • 3b eine weitere schematischen Ansicht des Ausführungsbeispiels der Aufsatzanordnung gemäß 3a, und 3b a further schematic view of the embodiment of the attachment assembly according to 3a , and
  • 4 eine Ablaufdiagramm eines Ausführungsbeispiels eines Verfahrens gemäß der vorliegenden Erfindung. 4 a flowchart of an embodiment of a method according to the present invention.
  • Nachfolgend werden für gleiche Elemente gleiche Bezugszeichen verwendet.Hereinafter, like reference numerals will be used for like elements.
  • Die 1a und 1b zeigen ein erstes Ausführungsbeispiel eines Systems 2 gemäß der vorliegenden Erfindung. Insbesondere zeigt hierbei die 1a eine Vorderansicht eines Ausführungsbeispiels eines mobilen Endgeräts 4 und die 1b die Rückansicht von diesem mobilen Endgerät 4.The 1a and 1b show a first embodiment of a system 2 according to the present invention. In particular, this shows the 1a a front view of an embodiment of a mobile terminal 4 and the 1b the back view of this mobile device 4 ,
  • Bei dem vorliegenden mobilen Endgerät 4 kann es sich beispielsweise um ein Mobiltelefon, insbesondere Smartphone, oder um einen Tablet-Computer handeln. Wie zu erkennen ist, weist das Endgerät 4 an der Vorderseite 6 eine erste Kamera 10 auf. Ferner ist an der Vorderseite 6 ein Anzeigenmodul 24 in Form eines Touch-Displays 24 vorgesehen.In the present mobile terminal 4 it may, for example, be a mobile phone, in particular a smartphone, or a tablet computer. As can be seen, the terminal has 4 on the front side 6 a first camera 10 on. Furthermore, at the front 6 an ad module 24 in the form of a touch screen 24 intended.
  • Die erste Kamera 10 ist insbesondere dazu eingerichtet, Bilddaten, wie Videodaten, aufzunehmen bzw. zu generieren. Ferner weist das vorliegende Endgerät 4 eine weitere Kamera 12 an seiner Rückseite 8 auf. Die weitere Kamera 12 ist insbesondere dazu eingerichtet, Bilddaten, wie Videodaten, aufzunehmen bzw. zu generieren. Die weitere Kamera 12 ist an der Rückseite 8 des Endgeräts 4 angeordnet. Mit anderen Worten sind die Kameras 10 und 12 an gegenüberliegenden Seiten 6, 8 des Endgeräts 4 angeordnet und weisen insbesondere in entgegengesetzte Richtungen.The first camera 10 is particularly adapted to receive or generate image data, such as video data. Furthermore, the present terminal 4 another camera 12 at its back 8th on. The other camera 12 is particularly adapted to receive or generate image data, such as video data. The other camera 12 is at the back 8th of the terminal 4 arranged. In other words, the cameras 10 and 12 on opposite sides 6 . 8th of the terminal 4 arranged and pointing in particular in opposite directions.
  • Das System 2 verfügt vorliegend ferner über ein Ausführungsbeispiel einer erfindungsgemäßen Aufsatzanordnung 18. Insbesondere wird die Aufsatzanordnung 18 von einem Trägerrahmen 21 gebildet. An der Vorderseite 20 des Trägerrahmens 21 ist ein erstes Linsenmodul 14 angeordnet. The system 2 in the present case also has an embodiment of a top assembly according to the invention 18 , In particular, the attachment arrangement 18 from a support frame 21 educated. On the front side 20 the support frame 21 is a first lens module 14 arranged.
  • Wie aus der 1 zu entnehmen ist, ist an der Rückseite 22 des Trägerrahmens 21 ein weiteres Linsenmodul 16 angeordnet. Jedes der vorliegenden Linsenmodule 14, 16 weist einen Bildwinkel (horizontal und vertikal) von mindestens 180° auf. Vorzugsweise weisen die vorliegenden Linsenmodule 14, 16 einen effektiven Bildwinkel bzw. ein effektives Sichtfeld von mindestens 190° auf. Um einen entsprechenden Bildwinkel zur Verfügung zu stellen, ist es bevorzugt, dass ein Linsenmodul 14, 16 durch eine Fischaugenlinse 14, 16 gebildet ist.Like from the 1 it can be seen on the back 22 the support frame 21 another lens module 16 arranged. Each of the present lens modules 14 . 16 has an angle of view (horizontal and vertical) of at least 180 °. Preferably, the present lens modules 14 . 16 an effective field of view or an effective field of view of at least 190 °. In order to provide a corresponding image angle, it is preferred that a lens module 14 . 16 through a fisheye lens 14 . 16 is formed.
  • In den 1a und 1b ist das System 2 in einem bestimmungsgemäßen Betriebszustand gezeigt. In diesem Zustand ist die erste Kamera 10 mit dem ersten Linsenmodul 14 und die weitere Kamera 12 mit dem weiteren Linsenmodul 16 optisch gekoppelt. Unter einer solchen Kopplung ist insbesondere zu verstehen, dass ein Linsenmodul 14, 16 vor die entsprechende Kamera 10, 12 positioniert wird. Eine optische Kopplung zwischen Kamera 10, 12 und Linsenmodul 14, 16 wird bereitgestellt. Insbesondere korrespondiert im gekoppelten Zustand der Mittelpunkt der Kamera(-linse) mit dem Mittelpunkt eines Linsenmoduls 14, 16. Es versteht sich, dass auch der äußere Umfang eines Linsenmoduls im gekoppelten Zustand zu dem äußeren Umfang der Kamera(-linse) korrespondieren kann.In the 1a and 1b is the system 2 shown in a normal operating condition. In this state, the first camera 10 with the first lens module 14 and the other camera 12 with the other lens module 16 optically coupled. Under such a coupling is to be understood in particular that a lens module 14 . 16 in front of the corresponding camera 10 . 12 is positioned. An optical coupling between camera 10 . 12 and lens module 14 . 16 will be provided. In particular, in the coupled state, the center of the camera (lens) corresponds to the center of a lens module 14 . 16 , It is understood that also the outer periphery of a lens module in the coupled state can correspond to the outer circumference of the camera (lens).
  • Wie ferner zu erkennen ist, ist im bestimmungsgemäßen Betriebszustand die Aufsatzanordnung 18 an dem Endgerät 4 befestigt. Insbesondere ist die Aufsatzanordnung 18 derart befestigt, dass die erste Kamera 10 mit dem ersten Linsenmodul 14 und die weitere Kamera 12 mit dem weiteren Linsenmodul 16 gekoppelt ist.As can also be seen, the attachment arrangement is in the intended operating state 18 at the terminal 4 attached. In particular, the attachment arrangement 18 fixed so that the first camera 10 with the first lens module 14 and the other camera 12 with the other lens module 16 is coupled.
  • Es versteht sich, dass gemäß anderen Varianten der Erfindung eine Aufsatzanordnung entfallen und beispielsweise die Linsenmodule in der jeweiligen Kamera 10, 12 integriert sind.It goes without saying that, according to other variants of the invention, an attachment arrangement is dispensed with and, for example, the lens modules in the respective camera 10 . 12 are integrated.
  • 2 zeigt eine schematische Ansicht eines Ausführungsbeispiels eines Systems 2 gemäß der vorliegenden Erfindung. Beispielsweise kann es sich um ein System 2 entsprechend dem Ausführungsbeispiel der 1a und 1b handeln. Zu Gunsten einer besseren Übersicht wurde auf die explizite Darstellung eines mobilen Endgeräts und einer Aufsatzanordnung sowie den Linsenmodulen verzichtet. 2 shows a schematic view of an embodiment of a system 2 according to the present invention. For example, it can be a system 2 according to the embodiment of 1a and 1b act. For the sake of a better overview, the explicit presentation of a mobile terminal device and a top-down arrangement as well as the lens modules was dispensed with.
  • Wie zu erkennen ist, weist das System 2 ein Steuerungsmodul 26 auf. Das Steuerungsmodul 26 ist eingerichtet, die erste Kamera 10 und die weitere Kamera 12 zu steuern, also insbesondere zu aktivieren und zu deaktivieren. Das Steuerungsmodul 26 kann zumindest teilweise durch eine auf dem Endgerät 4 installierbare Softwareanwendung gebildet sein. Insbesondere ist das Steuerungsmodul 26 derart eingerichtet, dass die erste und die weitere Kamera 10, 12 gleichzeitig betrieben werden. Hierzu kann das Steuerungsmodul 26 die beiden Kameras 10, 12 gleichzeitig aktivieren (und deaktivieren). Durch einen parallelen Betrieb können die beiden Kameras gleichzeitig Rohbilddaten von der Umgebung generieren.As can be seen, the system rejects 2 a control module 26 on. The control module 26 is set up, the first camera 10 and the other camera 12 to control, ie in particular to activate and deactivate. The control module 26 can at least partially by one on the terminal 4 be installed installable software application. In particular, the control module 26 set up so that the first and the other camera 10 . 12 be operated simultaneously. For this purpose, the control module 26 the two cameras 10 . 12 activate (and deactivate) at the same time. Parallel operation allows both cameras to simultaneously generate raw image data from the environment.
  • Die beiden Kameras 10, 12 erzeugen dann (in herkömmlicher Weise) erste Rohbilddaten bzw. weitere Rohbilddaten. Aufgrund der Linsenmodule 14, 16 können diese Bilddaten auch mit (zumindest) 180° (Roh-)Bilddaten bezeichnet werden. Die ersten und die weiteren Rohbilddaten können über ein Schnittstellenmodul 28 an ein Generierungsmodul 30 weiterleiten. Das Generierungsmodul 30 ist eingerichtet, aus den ersten und den weiteren Rohbilddaten, die aufgrund des gleichzeitigen Betriebs der Kameras 10, 12 (nahezu) zeitsynchron zueinander sind, sphärische Bilddaten zu generieren. Insbesondere können die ersten und die weiteren Bilddaten von dem Generierungsmodul 30 zusammengefügt werden. Hierzu kann das Generierungsmodul 30 über ein Composing-Mittel, Rendering-Mittel und/oder Stitching-Mittel und/oder eines der oben genannten Mittel verfügen. Ferner kann das Generierungsmodul 30 auf ein Speichermodul 32 zugreifen, in dem Kenngrößen der Kameras 10, 12 und/oder des ersten und/oder weiteren Linsenmoduls 14, 16 hinterlegt sind. Beispielhafte und nicht abschließende Kenngrößen sind Auflösung, Bildwinkel, Fokus, Stabilisierung, Bildformat, Bildfrequenz, Bildausrichtung, etc., der verwendeten Module.The two cameras 10 . 12 then generate (in a conventional manner) first raw image data or further raw image data. Due to the lens modules 14 . 16 For example, these image data may also be labeled with (at least) 180 ° (raw) image data. The first and the further raw image data can be transmitted via an interface module 28 to a generation module 30 hand off. The generation module 30 is set up, from the first and further raw image data, due to the simultaneous operation of the cameras 10 . 12 (nearly) time synchronous with each other are to generate spherical image data. In particular, the first and the further image data may be from the generation module 30 be joined together. For this purpose, the generation module 30 have a composing means, rendering means and / or stitching means and / or any of the above means. Furthermore, the generation module 30 on a memory module 32 access, in the characteristics of the cameras 10 . 12 and / or the first and / or further lens module 14 . 16 are deposited. Exemplary and non-conclusive parameters are resolution, image angle, focus, stabilization, image format, frame rate, image orientation, etc., of the modules used.
  • Es kann vorgesehen sein, dass das Speichermodul 32 nur einen Kenngrößensatz für ein bestimmtes Linsenmodul aufweist.It can be provided that the memory module 32 only has one characteristic set for a particular lens module.
  • Auch kann vorgesehen sein, dass bei verschiedenen, in dem Speichermodul 32 hinterlegten Kenngrößensätzen, eine Auswahl des Kenngrößensatz insbesondere abhängig von den tatsächlich verwendeten Linsenmodulen erfolgt. Beispielsweise kann vorgesehen sein, dass dies manuell von einem Nutzer angegeben werden kann. Alternativ oder zusätzlich kann eine Aufsatzanordnung 18 über ein Codierungsmodul verfügen. Die in dem Codierungsmodul gespeicherten Daten können beispielsweise über eine der Kameras 10, 12 (durch Einscannen) oder über eine RFID-Verbindung eingelesen werden. Das Codierungsmodul kann insbesondere eine eindeutige Kennung der Aufsatzanordnung umfassen. Mittels der ausgelesenen Kennung kann beispielsweise das Generierungsmodul 30 die zugehörigen Kenngrößen der Linsenmodule 14, 16 bestimmen.It can also be provided that at different, in the memory module 32 stored sets of characteristic quantities, a selection of the set of characteristic values takes place in particular depending on the actually used lens modules. For example, it can be provided that this can be specified manually by a user. Alternatively or additionally, a top assembly 18 have a coding module. The data stored in the coding module can, for example, via one of the cameras 10 . 12 (by scanning) or read via an RFID connection. The coding module may in particular comprise a unique identifier of the attachment arrangement. By means of the read identifier, for example, the generating module 30 the associated characteristics of the lens modules 14 . 16 determine.
  • Für den Fall, dass diese noch nicht in dem Speichermodul 32 gespeichert sind, kann das Generierungsmodul 30 die zugehörigen Kenngrößen beispielsweise über ein Netzwerk (z. B. Internet) von einem Server abrufen. Alternativ kann vorgesehen sein, dass die Kenngrößen aus dem Codierungsmodul ausgelesen werden können.In the event that these are not in the memory module 32 stored, the generation module 30 retrieve the associated parameters from a server, for example via a network (eg Internet). Alternatively it can be provided that the parameters can be read from the coding module.
  • Mittels der Kenngrößen können die sphärischen Bilddaten aus den ersten und den weiteren Rohbilddaten erzeugt und dann bearbeitet und insbesondere optimiert werden.By means of the parameters, the spherical image data can be generated from the first and the further raw image data and then processed and in particular optimized.
  • In diesem Beispiel wird insbesondere die Hardware des Endgeräts 4 von den Modulen 26, 28, 30 und 32 verwendet, wobei diese Module 26, 28, 30 und 32 beispielsweise durch eine auf dem Endgerät 4 installierbare Softwareanwendung zumindest teilweise gebildet sein können.In this example, in particular, the hardware of the terminal 4 from the modules 26 . 28 . 30 and 32 used, these modules 26 . 28 . 30 and 32 for example, by one on the terminal 4 installable software application may be at least partially formed.
  • Es versteht sich, dass bei einer alternativen Variante der Erfindung das Schnittstellenmodul 28 ein Kommunikationsmodul 28 sein kann, welches eingerichtet ist, die ersten und die weiteren Bilddaten der Kameras 10, 12 über ein drahtgebundenes und/oder drahtloses Netzwerk an ein entfernt angeordnetes, also insbesondere nicht im Endgerät 4 angeordnetes, Generierungsmodul 30 zu senden. Das Übertragen der Daten kann beispielsweise verschlüsselt erfolgen. Das Generierungsmodul 30 kann beispielsweise auf einer Servereinrichtung implementiert und über das Internet erreichbar sein. Nach der Generierung der sphärischen Bilddaten kann das entfernt angeordnete Generierungsmodul 30 die generierten Bilddaten an das Kommunikationsmodul 28 oder an eine andere zulässige Vorrichtung übertragen. Auch dies kann verschlüsselt erfolgen. Dann kann das Kommunikationsmodul 28 beispielsweise die sphärischen Bilddaten dem Anzeigemodul 24 zur Verfügung zu stellen, um diese abzuspielen.It is understood that in an alternative variant of the invention, the interface module 28 a communication module 28 which can be arranged, the first and the further image data of the cameras 10 . 12 via a wired and / or wireless network to a remote, so in particular not in the terminal 4 arranged, generation module 30 to send. The transmission of the data can be done encrypted, for example. The generation module 30 For example, it may be implemented on a server device and accessible over the Internet. After the generation of the spherical image data, the remotely located generation module 30 the generated image data to the communication module 28 or transmitted to another permissible device. This too can be encrypted. Then the communication module 28 for example, the spherical image data the display module 24 available to play them.
  • Die 3a und 3b zeigen ein Ausführungsbeispiel einer Aufsatzanordnung 18 gemäß der vorliegenden Erfindung. Hierbei zeigen die 3a und 3b zwei unterschiedliche Seitenansichten der Aufsatzanordnung 18.The 3a and 3b show an embodiment of a top assembly 18 according to the present invention. This show the 3a and 3b two different side views of the attachment arrangement 18 ,
  • Die Aufsatzanordnung 18 weist einen Trägerrahmen 21 beispielsweise aus einem Kunststoffmaterial auf. Der Trägerrahmen 21 verfügt im vorliegenden Ausführungsbeispiel über eine Vorderseite 20, eine Rückseite 22 und einer Oberseite 23.The tower arrangement 18 has a support frame 21 for example, from a plastic material. The carrier frame 21 has a front side in the present embodiment 20 , a back 22 and a top 23 ,
  • Die offenen Enden 38.1, 38.2 des Trägerrahmens 21 sind vorliegend als Befestigungsmittel 38.1, 38.2 ausgebildet, die eine Verklemmung der Aufsatzanordnung 18 an einem mobilen Endgerät 4 ermöglichen. Es versteht sich, dass gemäß anderen Varianten der Erfindung andere Arten von Befestigungsmitteln als Alternative oder zusätzlich hierzu vorgesehen sein können.The open ends 38.1 . 38.2 the support frame 21 are present as fasteners 38.1 . 38.2 formed, which is a jamming of the attachment assembly 18 on a mobile device 4 enable. It is understood that according to other variants of the invention, other types of fastening means may be provided as an alternative or in addition thereto.
  • Darüber hinaus ist ein erstes Linsenmodul 14 insbesondere in Form einer Fischaugenlinse 14 an der Vorderseite 20 angeordnet. An der Rückseite 22 ist ein weiteres Linsenmodul 16 angeordnet, welches vorzugsweise ebenfalls eine Fischaugenlinse 16 sein kann.In addition, a first lens module 14 especially in the form of a fisheye lens 14 on the front side 20 arranged. At the back 22 is another lens module 16 arranged, which preferably also a fisheye lens 16 can be.
  • Der Vorteil des dargestellten Ausführungsbeispiels liegt insbesondere darin, dass die Aufsatzanordnung 18 für mindestens zwei unterschiedliche Endgeräte 4 eingesetzt werden kann. Beispielsweise kann an der Oberseite 23 der Trägervorrichtung 18 ein erster Verschiebemechanismus 36 vorgesehen sein, welcher insbesondere eine translatorische und lineare Verschiebung des ersten und/oder weiteren Linsenmoduls 14, 16 in eine erste Richtung (z-Richtung) ermöglicht. Insbesondere kann der Abstand zwischen den Linsenmodulen 14, 16 zwischen einem maximalen und einem minimalen Abstand bzw. einer maximalen Position (zmax) und minimalen Position (zmin) einstellbar sein. Hierdurch kann die Aufsatzanordnung 18 insbesondere an die Dicke eines Endgeräts flexibel angepasst werden, um die Linsenmodule 14, 16 insbesondere unmittelbar vor die jeweilige(n) Kamera(linsen) zu positionieren und mit diesen optisch zu koppeln.The advantage of the illustrated embodiment is in particular that the attachment arrangement 18 for at least two different terminals 4 can be used. For example, at the top 23 the carrier device 18 a first displacement mechanism 36 be provided, which in particular a translational and linear displacement of the first and / or further lens module 14 . 16 in a first direction (z-direction) allows. In particular, the distance between the lens modules 14 . 16 be adjustable between a maximum and a minimum distance or a maximum position (z max ) and a minimum position (z min ). This allows the attachment arrangement 18 in particular, be flexibly adapted to the thickness of a terminal to the lens modules 14 . 16 especially in front of the respective (n) camera (lenses) to position and optically to pair with these.
  • Ferner kann mindestens ein weiterer Verschiebemechanismus 40 vorgesehen sein. Der Verschiebemechanismus 40 ist vorgesehen, ein Linsenmodul 14 in vorzugsweise zwei orthogonal zueinander ausgerichtete Richtungen (x und y Richtung) zu verschieben. Diese beiden Richtungen können insbesondere orthogonal zu der ersten Richtung (z Richtung) sein. Beispielsweise kann als Verschiebemechanismus 40 ein Schlittenmechanismus 40 vorgesehen sein, welcher ein Verschieben des Linsenmoduls 14 zwischen einer maximalen Position (xmax und/oder ymax) und einer minimalen Position (xmin und/oder ymin) ermöglicht. Der Schlittenmechanismus 40 kann beispielsweise über zwei Schlitten verfügen, die derart gelagert sind, dass eine insbesondere translatorische und lineare Bewegung des Linsenmoduls in x- und/oder y-Richtung möglich ist. Es versteht sich, dass das weitere Linsenmodul 16 an der Rückseite 22 mit einem entsprechenden Verschiebemechanismus 40 versehen sein kann.Furthermore, at least one further displacement mechanism 40 be provided. The sliding mechanism 40 is provided, a lens module 14 in preferably two orthogonal directions (x and y direction) to move. In particular, these two directions may be orthogonal to the first direction (z direction). For example, as a displacement mechanism 40 a carriage mechanism 40 be provided, which is a displacement of the lens module 14 between a maximum position (x max and / or y max ) and a minimum position (x min and / or y min ). The carriage mechanism 40 For example, it can have two carriages which are mounted in such a way that a particularly translational and linear movement of the lens module in the x and / or y direction is possible. It is understood that the more lens module 16 at the back 22 with a corresponding displacement mechanism 40 can be provided.
  • Es versteht sich ferner, dass bei anderen Varianten der Erfindung das erste und/oder zweite Linsenmodul auch nur in eine oder nur in zwei Richtungen verschiebbar sein können.It is further understood that in other variants of the invention, the first and / or second lens module can also be displaced in only one or only in two directions.
  • Darüber hinaus versteht es sich, dass der Trägerrahmen eine andere Form aufweisen kann. Diese kann beispielsweise an das Endgerät angepasst oder insbesondere anpassbar sein, derart, dass im bestimmungsgemäßen Betriebszustand eine erfindungsgemäße Kopplung der Kameras mit den Linsenmodulen bereitgestellt und gleichzeitig ein Anzeigemodul und ggf. Funktionstasten des Endgeräts nicht von der Aufsatzanordnung verdeckt sind.In addition, it is understood that the support frame may have a different shape. This can for example be adapted to the terminal or in particular be adapted, such that provided in the normal operating condition, a coupling of the invention with the lens modules and at the same time a display module and possibly function keys of the terminal are not covered by the attachment assembly.
  • Es versteht sich zudem, dass die Aufsatzanordnung aus zwei separaten Elementen gebildet sein kann. Beispielsweise kann ein erstes Element das erste Linsenmodul aufweise und an dem Endgerät befestigt werden und ein weiteres Element mit dem weiteren Linsenmodul befestigt sein. Beide Elemente können unabhängig von einander an dem Endgerät befestigbar sein. Auch dies erhöht die Universalität einer Aufsatzanordnung weiter.It is also understood that the attachment assembly may be formed of two separate elements. For example, a first element may have the first lens module and be attached to the terminal and another element may be attached to the other lens module. Both elements can be fastened to the terminal independently of each other. This also further enhances the universality of an attachment assembly.
  • Der Betrieb des erfindungsgemäßen Systems 2 wird nachfolgend näher anhand der 4 erläutert. Die 4 zeigt ein Diagramm eines Ausführungsbeispiels eines Verfahrens zum Betreiben eines Systems 2, wie es beispielsweise mittels der 1 bis 3b beschrieben worden ist.The operation of the system according to the invention 2 is explained in more detail below on the basis of 4 explained. The 4 shows a diagram of an embodiment of a method for operating a system 2 , as for example by means of 1 to 3b has been described.
  • In einem (optionalen) ersten Schritt 401 kann die Aufsatzanordnung 18 an einem Endgerät 4 befestigt werden. Dies erfolgt insbesondere derart, dass die erste Kamera 10 mit dem ersten Linsenmodul 14 und die weitere Kamera 12 mit dem weiteren Linsenmodul 16 gekoppelt sind (wie zuvor beschrieben). Durch die Befestigungsmittel 38.1, 38.2 wird eine Befestigung mit dem Endgerät 4 hergestellt. Ferner kann eine auf dem Endgerät angeordnete Softwareanmeldung gestartet werden.In an (optional) first step 401 can the tower arrangement 18 on a terminal 4 be attached. This is done in particular such that the first camera 10 with the first lens module 14 and the other camera 12 with the other lens module 16 are coupled (as previously described). Through the fasteners 38.1 . 38.2 becomes a fixture with the terminal 4 produced. Furthermore, a software registration arranged on the terminal can be started.
  • In einem nächsten Schritt 402 bewirkt das Steuerungsmodul 26 eine gleichzeitige Aktivierung der ersten und der weiteren Kamera 10 und 12. Dies kann beispielsweise durch eine manuelle Aktvierung von einem Nutzer durch Betätigen einer Taste bewirkt werden. Das Steuerungsmodul 26 steuert die Kameras 10, 12 insbesondere derart, dass sie zu einem gleichen Zeitpunkt (tstart) aktiviert werden und bis zu einem vorzugsweise gleichen Endzeitpunkt (tende) betrieben werden. Auch der Endzeitpunkt kann von einem Nutzer z. B. durch Betätigen einer Taste manuell bewirkt werden. So lange die Kameras 10, 12 aktiviert sind, liefern sie parallel in Schritt 403 erste bzw. weitere Bilddaten an ein Generierungsmodul 30, z. B. mittels des Schnittstellenmoduls 28. Vorzugsweise in (nahezu) Echtzeit kann das Generierungsmodul 30 in Schritt 404 aus den ersten und weiteren Bilddaten sphärische Bilddaten bzw. 360° Bilddaten generieren. Insbesondere umfasst ein 360° Bilddatensatz (z. B. eine Datei) Bildinformationen rund um 360 Grad horizontal (analog zu den geographischen Längengraden) und bis zu 180 Grad vertikal (analog zu den geographischen Breitengraden). Es versteht sich, dass die Schritte 402 bis 404 zumindest teilweise parallel durchgeführt werden können.In a next step 402 causes the control module 26 a simultaneous activation of the first and the further camera 10 and 12 , This can be effected for example by a manual activation of a user by pressing a button. The control module 26 controls the cameras 10 . 12 in particular such that they are activated at the same time (t start ) and are operated until a preferably same end time (t end ). The end time can be z. B. be effected manually by pressing a button. As long as the cameras 10 . 12 are activated, they deliver in parallel in step 403 first or further image data to a generation module 30 , z. B. by means of the interface module 28 , Preferably, in (near) real time, the generation module 30 in step 404 generate spherical image data or 360 ° image data from the first and further image data. In particular, a 360 ° image data set (eg a file) comprises image information around 360 degrees horizontally (analogous to the geographical longitudes) and up to 180 degrees vertically (analogous to the latitudes of latitude). It is understood that the steps 402 to 404 at least partially parallel.
  • In einem optionalen Schritt 405 können die generierten sphärischen Bilddaten modifiziert sein. Vorzugsweise kann ein Modifizierungsmodul vorgesehen sein. Das Modifizierungsmodul kann Teil einer Softwareanwendung sein. Das Modifizierungsmodul ermöglicht es, Bilddaten, wie Text, an einer bestimmten Position der sphärischen Bilddaten z. B. abhängig von bestimmten Zeitangaben und Koordinatenangaben, hinzuzufügen. Es versteht sich, dass auch andere Modifizierungen vorgenommen werden können. Beispielsweise kann das Modifizierungsmodul hierfür über ein Composing-Mittel verfügen.In an optional step 405 For example, the generated spherical image data may be modified. Preferably, a modification module can be provided. The modification module may be part of a software application. The modification module makes it possible to image data, such as text, at a certain position of the spherical image data z. B. depending on certain times and coordinate information to add. It is understood that other modifications can be made. For example, the modification module may have a composing means for this purpose.
  • Schließlich können die generierten sphärischen Bilddaten einem Anzeigemodul 24 bereitgestellt und von diesem angezeigt werden (Schritt 406). Hierzu kann die Softwareanwendung über ein Abspielmodul verfügen. Insbesondere können die generierten sphärischen Bilddaten abgespielt werden. Auch kann insbesondere die Softwareanwendung eine Weiterleitung der sphärischen Bilddaten an mindestens eine weitere Vorrichtung ermöglichen.Finally, the generated spherical image data may be displayed to a display module 24 provided and displayed by it (step 406 ). For this purpose, the software application can have a playback module. In particular, the generated spherical image data can be played back. In particular, the software application in particular can enable a forwarding of the spherical image data to at least one further device.
  • Ferner sei angemerkt, dass die Module der Softwareanwendung es Nutzern ermöglichen können, mehrere unabhängige virtuelle Rundgänge bzw. Ansichten des sphärischen Videos zu definieren und mit anderen Nutzern zu teilen. Solche benutzerdefinierten Ansichten können über die Softwareanwendung auch als normales Video ausgegeben (z. B. exportiert) werden.It should also be appreciated that the software application modules may allow users to define and share multiple independent virtual tours of the spherical video with other users. Such custom views may also be output as normal video (eg, exported) via the software application.
  • Die Aufsatzanordnung ist vorliegend insbesondere ein Gerät das z. B. über den oberen Teil eines Smartphones „gestülpt” wird ohne den Bildschirm (erheblich) zu verdecken. Das Gerät umfasst vorzugsweise zwei Fischaugenlinsen, die so angebracht sind, dass sie genau zentral über der Kameraoptik des Smartphones, also über der Vorder- und Rückkamera, liegen. Ferner können die beiden Kameras im Smartphone simultan aktiviert werden, so dass parallel zwei Fotos oder zwei Videos erstellt werden können. Die Fischaugenlinsen erzeugen ein rundliches verzerrtes Bild, das in einem weiteren Schritt von dem Generierungsmodul zu einem neuen sphärischen Bild oder Video zusammengebaut wird.The attachment arrangement is present in particular a device z. B. "slipped" over the upper part of a smartphone without the screen (considerably) to cover. The device preferably includes two fish-eye lenses, which are mounted so that they are exactly centrally above the camera optics of the smartphone, so on the front and rear camera. Furthermore, the two cameras in the smartphone can be activated simultaneously, so that two photos or two videos can be created in parallel. The fish-eye lenses produce a roundish distorted image, which in a further step is assembled by the generation module into a new spherical image or video.
  • Eine beispielhafte Ausführungsform einer Aufsatzanordnung kann folgende Abmessungen aufweisen: Breite ca. 3 bis 14 cm, vorzugsweise 6 bis 10 cm, Höhe: ca. 2 bis 10 cm, vorzugsweise Ca. 5 bis 7 cm, Tiefe: ca. 2 bis 10 cm, vorzugsweise ca. 5 bis 7 cm. Ferner können als Linsenmodule bei einer bevorzugten Ausführungsform zwei Fischaugenlinsen mit effektivem Sichtwinkel von mindestens 190° vorgesehen sein. Der Durchmesser der in das Gerät integrierten Fischaugenlinsen kann ca. 2 bis 7 cm, vorzugsweise ca. 3–5 cm (je nach Ausführung)betragen und die Tiefe ca. 1 bis 5 cm, vorzugsweise ca. 2–3 cm.An exemplary embodiment of a cap assembly may have the following dimensions: width about 3 to 14 cm, preferably 6 to 10 cm, height: about 2 to 10 cm, preferably approx. 5 to 7 cm, depth: about 2 to 10 cm, preferably about 5 to 7 cm. Furthermore, as lens modules in a preferred embodiment, two fish-eye lenses with an effective viewing angle of at least 190 ° may be provided. The diameter of the fish-eye lenses integrated in the device can be about 2 to 7 cm, preferably about 3-5 cm (depending on the version) and the depth about 1 to 5 cm, preferably about 2-3 cm.
  • Darüber hinaus kann das Gerät keine Elektronik umfassen. Als Material für den Trägerrahmen können Kunststoffe, aber auch Metalle, wie Aluminium, oder Verbundstoffe (Kohlefaser) eingesetzt werden.In addition, the device can not include electronics. As material for the support frame plastics, but also metals, such as aluminum, or composites (carbon fiber) can be used.
  • Bei den Fischaugenlinsen kann es sich um Standardlinsen und Linsen mit eigenem Design handeln. Die Optik der Linsen kann in optischem Glas oder Plastik gefertigt sein. Die Linsenhalterung kann aus Aluminium oder einem harten Kunststoff gefertigt sein.The fish-eye lenses can be standard lenses and lenses with their own design. The optics of the lenses can be made in optical glass or plastic. The lens holder can be made of aluminum or a hard plastic.

Claims (11)

  1. System (2), umfassend: – mindestens ein mobiles Endgerät (4) mit einer ersten an einer Vorderseite (6) des Endgeräts (4) angeordneten Kamera (10) und mindestens einer weiteren an einer Rückseite (8) des Endgeräts (4) angeordneten Kamera (12), – ein erstes Linsenmodul (14) mit einem Bildwinkel von mindestens 180°, – mindestens ein weiteres Linsenmodul (16) mit einem Bildwinkel von mindestens 180°, – wobei in einem bestimmungsgemäßen Betriebszustand des Systems (2) das erste Linsenmodul (14) mit der ersten Kamera (10) gekoppelt ist und das weitere Linsenmodul (16) mit der weiteren Kamera (12) gekoppelt ist, – mindestens ein Steuerungsmodul (26) eingerichtet zum Steuern der ersten Kamera (10) und der weiteren Kamera (12), derart, dass in dem bestimmungsgemäßen Betriebszustand die erste Kamera (10) und die weitere Kamera (12) gleichzeitig aktivierbar sind, und – mindestens ein Generierungsmodul (30) eingerichtet zum Generieren von 360° Bilddaten aus ersten von der ersten Kamera (10) erzeugten Rohbilddaten und weiteren von der weiteren Kamera (12) erzeugten Rohbilddaten.System ( 2 ), comprising: - at least one mobile terminal ( 4 ) with a first one at the front ( 6 ) of the terminal ( 4 ) arranged camera ( 10 ) and at least one other on a back side ( 8th ) of the terminal ( 4 ) arranged camera ( 12 ), - a first lens module ( 14 ) with an angle of view of at least 180 °, - at least one further lens module ( 16 ) with an angle of view of at least 180 °, - in which, in a normal operating state of the system ( 2 ) the first lens module ( 14 ) with the first camera ( 10 ) and the further lens module ( 16 ) with the other camera ( 12 ), - at least one control module ( 26 ) arranged to control the first camera ( 10 ) and the other camera ( 12 ), such that in the intended operating state, the first camera ( 10 ) and the other camera ( 12 ) can be activated simultaneously, and - at least one generation module ( 30 ) arranged to generate 360 ° image data from first from the first camera ( 10 ) generated raw image data and more of the other camera ( 12 ) generated raw image data.
  2. System (2) nach Anspruch 1, dadurch gekennzeichnet, dass – das erste Linsenmodul (14) eine Fischaugenlinse (14) aufweist, und/oder – das weitere Linsenmodul (16) eine Fischaugenlinse (16) aufweist.System ( 2 ) according to claim 1, characterized in that - the first lens module ( 14 ) a fisheye lens ( 14 ), and / or - the further lens module ( 16 ) a fisheye lens ( 16 ) having.
  3. System (2) nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass das System (2) ein Anzeigemodul (24) eingerichtet zum Darstellen der generierten 360° Bilddaten umfasst.System ( 2 ) according to claim 1 or 2, characterized in that the system ( 2 ) a display module ( 24 ) configured to display the generated 360 ° image data.
  4. System (2) nach einem der vorherigen Ansprüche, dadurch gekennzeichnet, dass das System (2) ein Modifizierungsmodul eingerichtet zum Modifizieren der generierten 360° Bilddaten umfasst.System ( 2 ) according to one of the preceding claims, characterized in that the system ( 2 ) comprises a modification module arranged to modify the generated 360 ° image data.
  5. System (2) nach Anspruch 4, dadurch gekennzeichnet, dass – das Modifizierungsmodul eingerichtet ist, Teil-Bilddaten der generierten 360° Bilddaten in Abhängigkeit einer Zeitangabe und mindestens einer Koordinatenangabe zu modifizieren, – wobei sich die Zeitangabe und die Koordinatenangabe auf die 360° Bilddaten beziehen.System ( 2 ) according to claim 4, characterized in that - the modification module is arranged to modify partial image data of the generated 360 ° image data in dependence on a time specification and at least one coordinate specification, - wherein the time specification and the coordinate information relate to the 360 ° image data.
  6. System (2) nach einem der vorherigen Ansprüche, dadurch gekennzeichnet, dass – das Generierungsmodul (30) in dem Endgerät (4) zumindest teilweise integriert ist, und/oder – das Endgerät (4) ein Kommunikationsmodul (28) eingerichtet zum Senden der ersten Rohbilddaten und der weiteren Rohbilddaten über ein Netzwerk zu einem entfernt angeordneten Generierungsmodul (30) umfasst, und/oder – das Endgerät (4) ein Kommunikationsmodul (28) eingerichtet zum Empfangen von den generieten 360° Bilddaten über ein Netzwerk von einem entfernt angeordneten Generierungsmodul (28) umfasst.System ( 2 ) according to one of the preceding claims, characterized in that - the generation module ( 30 ) in the terminal ( 4 ) is at least partially integrated, and / or - the terminal ( 4 ) a communication module ( 28 ) configured to send the first raw image data and the further raw image data via a network to a remote generation module ( 30 ), and / or - the terminal ( 4 ) a communication module ( 28 ) configured to receive the generated 360 ° image data over a network from a remote generation module ( 28 ).
  7. Verfahren, insbesondere zum Betreiben eines Systems (2) nach einem der vorherigen Ansprüche, umfassend: – Steuern einer ersten an einer Vorderseite (6) eines mobilen Endgeräts (4) angeordneten Kamera (10) und einer weiteren an einer Rückseite (8) des Endgeräts (4) angeordneten Kamera (12), derart, dass die erste Kamera (10) und die weitere Kamera (12) gleichzeitig aktiviert werden, – Erzeugen von ersten Rohbilddaten von der ersten Kamera (10), – Erzeugen von weiteren Rohbilddaten von der weiteren Kamera (12), und – Generieren von 360° Bilddaten aus den ersten Rohbilddaten und den weiteren Rohbilddaten.Method, in particular for operating a system ( 2 ) according to one of the preceding claims, comprising: - controlling a first one at a front side ( 6 ) of a mobile terminal ( 4 ) arranged camera ( 10 ) and another on a back ( 8th ) of the terminal ( 4 ) arranged camera ( 12 ), such that the first camera ( 10 ) and the other camera ( 12 ) are activated simultaneously, - generating first raw image data from the first camera ( 10 ), - generating further raw image data from the further camera ( 12 ), and - generating 360 ° image data from the first raw image data and the further raw image data.
  8. Mobiles Endgerät (4), insbesondere für ein System (2) nach einem der Ansprüche 1 bis 6, umfassend: – eine erste an einer Vorderseite (6) des Endgeräts (4) angeordnete Kamera (10), und – mindestens eine weitere an der Rückseite (8) des Endgeräts (4) angeordnete Kamera (12), – wobei die erste Kamera (10) mit einem ersten Linsenmodul (14) mit einem Bildwinkel von mindestens 180° zumindest koppelbar ist, – wobei die weitere Kamera (12) mit einem weiteren Linsenmodul (16) mit einem Bildwinkel von mindestens 180° zumindest koppelbar ist – mindestens ein Steuerungsmodul (26) zum Steuern der ersten Kamera (10) und der weiteren Kamera (12), derart, dass die erste Kamera (10) und die weitere Kamera (12) gleichzeitig aktiviert werden, und – mindestens ein Schnittstellenmodul (28) eingerichtet zum Übertragen von ersten Rohbilddaten von der ersten Kamera (10) und weiteren Rohbilddaten von der weiteren Kamera (12) an ein Generierungsmodul (30) eingerichtet zum Generieren von 360° Bilddaten aus den ersten Rohbilddaten und den weiteren Rohbilddaten.Mobile terminal ( 4 ), in particular for a system ( 2 ) according to one of claims 1 to 6, comprising: - a first one at the front ( 6 ) of the terminal ( 4 ) arranged camera ( 10 ), and - at least one more on the back ( 8th ) of the terminal ( 4 ) arranged camera ( 12 ), - where the first camera ( 10 ) with a first lens module ( 14 ) is at least coupled with an angle of view of at least 180 °, - wherein the further camera ( 12 ) with another lens module ( 16 ) is at least coupled with an angle of view of at least 180 ° - at least one control module ( 26 ) for controlling the first camera ( 10 ) and the other camera ( 12 ), such that the first camera ( 10 ) and the other camera ( 12 ) are activated simultaneously, and At least one interface module ( 28 ) arranged to transmit first raw image data from the first camera ( 10 ) and further raw image data from the other camera ( 12 ) to a generation module ( 30 ) arranged to generate 360 ° image data from the first raw image data and the further raw image data.
  9. Aufsatzanordnung (18) für ein mobiles Endgerät (4) umfassend eine erste Kamera (10) an einer Vorderseite (6) des Endgeräts (4) und mindestens eine weitere Kamera (12) an einer Rückseite (8) des Endgeräts (4), wobei die Aufsatzanordnung (18) umfasst: – mindestens einen Trägerrahmen (21) mit mindestens einem Befestigungsmittel (38.1, 38.2) eingerichtet zum Befestigen des Trägerrahmens (21) an dem Endgerät (4), – wobei der Trägerrahmen (21) an einer Vorderseite (20) des Trägerrahmens (21) ein erstes mit der ersten Kamera (10) des Endgeräts (4) koppelbares Linsenmodul (14) mit einem Bildwinkel von mindestens 180° umfasst, und – wobei der Trägerrahmen (21) an einer Rückseite (22) des Trägerrahmens (21) ein weiteres mit der weiteren Kamera (12) des Endgeräts (4) koppelbares Linsenmodul (16) mit einem Bildwinkel von mindestens 180° umfasst.Attachment arrangement ( 18 ) for a mobile terminal ( 4 ) comprising a first camera ( 10 ) on a front side ( 6 ) of the terminal ( 4 ) and at least one other camera ( 12 ) on a back side ( 8th ) of the terminal ( 4 ), the attachment arrangement ( 18 ) comprises: - at least one support frame ( 21 ) with at least one fastening means ( 38.1 . 38.2 ) adapted for fixing the support frame ( 21 ) on the terminal ( 4 ), - the support frame ( 21 ) on a front side ( 20 ) of the support frame ( 21 ) a first with the first camera ( 10 ) of the terminal ( 4 ) coupling lens module ( 14 ) with an angle of view of at least 180 °, and - the support frame ( 21 ) on a back side ( 22 ) of the support frame ( 21 ) another with the other camera ( 12 ) of the terminal ( 4 ) coupling lens module ( 16 ) with an angle of view of at least 180 °.
  10. Aufsatzanordnung (18) nach Anspruch 9, dadurch gekennzeichnet, dass – das erste Linsenmodul (14) in zumindest eine erste Richtung translatorisch verschiebbar ist, und/oder – das weitere Linsenmodul (16) in zumindest eine erste Richtung translatorisch verschiebbar ist.Attachment arrangement ( 18 ) according to claim 9, characterized in that - the first lens module ( 14 ) is translationally displaceable in at least one first direction, and / or - the further lens module ( 16 ) is translationally displaceable in at least a first direction.
  11. Computerprogramm mit Instruktionen ausführbar auf einem Prozessor, derart, dass ein mobiles Endgerät (4) gemäß dem Verfahren nach Anspruch 8 betrieben wird.Computer program with instructions executable on a processor, such that a mobile terminal ( 4 ) is operated according to the method of claim 8.
DE102016103975.6A 2016-03-04 2016-03-04 System for generating 360 ° image data Ceased DE102016103975A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102016103975.6A DE102016103975A1 (en) 2016-03-04 2016-03-04 System for generating 360 ° image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102016103975.6A DE102016103975A1 (en) 2016-03-04 2016-03-04 System for generating 360 ° image data

Publications (1)

Publication Number Publication Date
DE102016103975A1 true DE102016103975A1 (en) 2017-09-07

Family

ID=59650937

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102016103975.6A Ceased DE102016103975A1 (en) 2016-03-04 2016-03-04 System for generating 360 ° image data

Country Status (1)

Country Link
DE (1) DE102016103975A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120206565A1 (en) * 2011-02-10 2012-08-16 Jason Villmer Omni-directional camera and related viewing software
US8730299B1 (en) * 2013-11-27 2014-05-20 Dmitry Kozko Surround image mode for multi-lens mobile devices
US20140267882A1 (en) * 2013-03-13 2014-09-18 Premier Systems Usa, Inc. Removable lenses for mobile electronic devices

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120206565A1 (en) * 2011-02-10 2012-08-16 Jason Villmer Omni-directional camera and related viewing software
US20140267882A1 (en) * 2013-03-13 2014-09-18 Premier Systems Usa, Inc. Removable lenses for mobile electronic devices
US8730299B1 (en) * 2013-11-27 2014-05-20 Dmitry Kozko Surround image mode for multi-lens mobile devices

Similar Documents

Publication Publication Date Title
Nilsson Intelligent network video: Understanding modern video surveillance systems
DE202017106129U1 (en) Reverse casting from a first screen device to a second screen device
DE602004008985T2 (en) Image processing system and method
DE112017002119T5 (en) Real-time eye contact correction using neural network-based machine learning
DE69838918T2 (en) HD TO SD PROGRAM GUIDE CONVERTER FOR A TV PROGRAM SYSTEM
EP0342419B1 (en) Method for the observation of a scene and apparatus therefor
EP1614080B1 (en) Monitoring device
DE102005063503B4 (en) 3D display and 3D projector
US9088694B2 (en) Adjusting video layout
DE102012100395B4 (en) Portable electronic device and autofocusing method for a camera provided therein
EP0910814B1 (en) Device for controlling, regulating and monitoring a motion-picture camera
EP2377725B1 (en) Side mirror simulation
EP3003770B1 (en) Motor vehicle infotainment system having a separate display unit
DE102008062121B4 (en) A vehicle unit having a vehicle corridor display function, a method for displaying a predicted vehicle trajectory, and a system for generating vehicle corridor marks
DE102012025322B4 (en) Motor vehicle with camera monitor system
US7719568B2 (en) Image processing system for integrating multi-resolution images
DE102004030593B4 (en) Digital camera image processor
US20160325836A1 (en) Airplane Cabin Panoramic View System
DE69723192T2 (en) METHOD AND SYSTEM FOR COMMUNICATION FROM USERS TO INTERMEDIATE TERMINALS RELATING TO A VIRTUAL SPACE
DE69826069T2 (en) Method and device for processing an image before transmission from a terminal
CN103414775B (en) A kind of method and system that realize Network Synchronization classroom
DE102006055641B4 (en) Arrangement and method for recording and reproducing images of a scene and / or an object
EP2431226A1 (en) Rear view device for a motor vehicle
DE112016001524T5 (en) Information processing device, information processing method and program
EP0776576B1 (en) Method and device for showing stereoscopic video images on a display

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R002 Refusal decision in examination/registration proceedings
R003 Refusal decision now final