DE19528425C1 - Automated stereoscopic camera selection arrangement - Google Patents
Automated stereoscopic camera selection arrangementInfo
- Publication number
- DE19528425C1 DE19528425C1 DE19528425A DE19528425A DE19528425C1 DE 19528425 C1 DE19528425 C1 DE 19528425C1 DE 19528425 A DE19528425 A DE 19528425A DE 19528425 A DE19528425 A DE 19528425A DE 19528425 C1 DE19528425 C1 DE 19528425C1
- Authority
- DE
- Germany
- Prior art keywords
- unit
- stereoscopic
- cameras
- video data
- data stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/158—Switching image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
- H04N13/279—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/368—Image reproducers using viewer tracking for two or more viewers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/373—Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/376—Image reproducers using viewer tracking for tracking left-right translational head movements, i.e. lateral movements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/286—Image signal generators having separate monoscopic and stereoscopic modes
- H04N13/289—Switching between monoscopic and stereoscopic modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
Bei der Übertragung von sogenannten Multiview-Stereobildse quenzen, bei denen mehr als zwei Kameras eine Szene aufneh men, existieren mehrere Probleme bei der Übertragung der Ka merasignale, die die aufgenommene Szene beschreiben. Bei den Multiview-Stereobildsequenzen benötigt der Empfänger zwei Ka merasignale, die dieselbe Szene aus verschiedenen Ansichten beschreiben. Durch die bestehende Disparität der Bilder der aufgenommenen Kamerasignale, das heißt durch die örtliche Verschiebung der entsprechenden Bildpunkte zwischen den Bil dern der zwei Kamerasignale, die bei einem Empfänger auf ei nem stereoskopischen Bildschirm dargestellt werden, wird für den Betrachter ein Tiefeneffekt erzielt, das heißt, der Be trachter hat den Eindruck, ein dreidimensionales Bild zu be trachten.When transmitting so-called multiview stereo images sequences in which more than two cameras record a scene There are several problems in transferring the Ka mera signals that describe the recorded scene. Both Multiview stereo image sequences, the receiver needs two Ka merasignale, the same scene from different views describe. Due to the existing disparity of the images of the recorded camera signals, that is, by the local Shift of the corresponding pixels between the bil of the two camera signals that are sent to a receiver on egg displayed on a stereoscopic screen is used for achieves a depth effect for the viewer, that is, the Be trachter has the impression of being a three-dimensional image try.
Wenn eine Szene von mehreren Kameras aufgenommen wird, und alle Kamerasignale von allen Kameras an den Empfänger über tragen würden und die Auswahl der zwei benötigten Kamerasi gnale beim Empfänger stattfände, würde eine sehr große Menge an Übertragungskapazität benötigt, die unnötig viel Redundanz beinhalten würde.When a scene is captured by multiple cameras, and all camera signals from all cameras to the receiver would carry and the selection of the two required camerasi would take place at the recipient would be a very large amount of transmission capacity that requires an unnecessary amount of redundancy would involve.
Da in der Empfängereinheit nur zwei, allerdings die für den Betrachter "richtigen" Kamerasignale benötigt werden ist es wünschenswert, wirklich nur die benötigten zwei Kamerasignale zu übertragen. Weiterhin ist es wünschenswert, die Ansichten der Szene variieren zu können, ohne dafür größeren Aufwand treiben zu müssen.Since there are only two in the receiver unit, the one for the It is necessary for viewers to have "correct" camera signals desirable, really only the two camera signals needed transferred to. Furthermore, it is desirable to have the views to be able to vary the scene without much effort to have to drive.
Im übrigen ist es aus der EP 0650301 A2 bekannt, bei der stereoskopischen Bildaufnahme mehr als zwei Kameras einzusetzen. Des weiteren betrifft die DE 40 27 471 C2 eine von der sensorisch erfaßten Position des Betrachters abhängige räumliche Darstellung von Bildern.For the rest, it is known from EP 0650301 A2, for stereoscopic Use more than two cameras. Furthermore concerns the DE 40 27 471 C2 one of the position of the viewer sensed by the sensor dependent spatial representation of images.
Somit liegt der Erfindung das Problem zugrunde, eine Anord nung und ein Verfahren anzugeben, mit dem auf einfache Weise zwei Kamerasignale aus einer Vielzahl von n Kameras erzeugten Kamerasignalen, die eine Szene aus verschiedenen Ansichten aufnehmen, automatisch von einem Betrachter der Szene, der sich beim Empfänger befindet, ausgewählt werden.The invention is therefore based on the problem of an arrangement Specification and a procedure with which to easily generated two camera signals from a plurality of n cameras Camera signals that represent a scene from different views record automatically by a viewer of the scene who located at the recipient.
Dieses Problem wird durch die Anordnung gemäß Patentanspruch 1 und dem Verfahren gemäß Patentanspruch 3 gelöst.This problem is solved by the arrangement according to claim 1 and the method according to claim 3 solved.
Ein Vorteil der erfindungsgemäßen Anordnung liegt vor allem darin, daß die Anordnung sehr einfach ist und somit nur ge ringfügige Erweiterungen gegenüber Anordnungen notwendig sind, die ohnehin benötigt werden, um einen stereoskopischen Videodatenstrom auf Basis zweier fest angeschlossener Kame ras, die eine Szene aufnehmen, zu realisieren.One advantage of the arrangement according to the invention lies above all in that the arrangement is very simple and therefore only ge insignificant extensions compared to orders necessary are that are needed anyway to get a stereoscopic Video data stream based on two permanently connected cameras ras that record a scene.
Auch ist das erfindungsgemäße Verfahren durch seine Einfach heit geprägt, was zu einer sehr schnellen Durchführung des Verfahrens führt, wodurch eine Echtzeitrealisierung des Ver fahrens möglich ist, ohne störende Verzögerungseffekte für den Betrachter bei der Auswahl einer anderen Ansicht einer betrachteten Szene.The inventive method is also simple shaped, which leads to a very quick implementation of the Procedure leads, whereby a real-time realization of Ver driving is possible without annoying delay effects for the viewer when choosing a different view considered scene.
Die Verwendung des Verfahrens gemäß Patentanspruch 4 als eine Ausnahmebehandlung in einem Fehlerfall, also als eine soge nannte Fallback-Lösung, bei der Verwendung von modellbasier ten Codierungsverfahren zur Codierung eines Videodatenstroms, erhöht die Verläßlichkeit der modellbasierten Codierungsver fahren erheblich.The use of the method according to claim 4 as one Exception handling in the event of an error, i.e. as a so-called called fallback solution when using model-based th coding method for coding a video data stream, increases the reliability of the model-based coding ver drive considerably.
Weiterbildungen der Erfindung ergaben sich aus den abhängigen Ansprüchen.Further developments of the invention resulted from the dependent Claims.
Ein bevorzugtes Ausführungsbeispiel der Erfindung und eine vorteilhafte Verwendung des erfindungsgemäßen Verfahrens sind in den Zeichnungen dargestellt und werden im folgenden näher beschrieben.A preferred embodiment of the invention and a are advantageous use of the method according to the invention shown in the drawings and are described in more detail below described.
Es zeigenShow it
Fig. 1 eine Skizze, die die Anordnung mit einer Empfän gereinheit und einer Sendeeinheit und der Vielzahl von Kameras, die anhand der Kopfposition des Betrach ters ausgewählt werden, darstellt; Fig. 1 is a sketch showing the arrangement with a receiver unit and a transmitter unit and the plurality of cameras that are selected based on the head position of the viewer;
Fig. 2 ein Ablaufdiagramm, das das erfindungsgemäße Verfah ren gemäß Patentanspruch 3 beschreibt; Fig. 2 is a flowchart describing the inventive method ren according to claim 3;
Fig. 3 ein Ablaufdiagramm, das die Verwendung des erfin dungsgemäßen Verfahrens als Fallback-Lösung bei einer modellbasierten Codierung darstellt. Fig. 3 is a flowchart illustrating the use of the inventive method as a fallback solution in a model-based coding.
Anhand der Fig. 1 bis 3 wird die erfindungsgemäße Anord nung, das erfindungsgemäße Verfahren sowie eine Verwendung des erfindungsgemäßen Verfahrens weiter erläutert.Referring to Figs. 1 to 3 the invention is Anord voltage further explained method and the inventive use of the method according to the invention.
In Fig. 1 ist die erfindungsgemäße Anordnung beschrieben, die mindestens folgende Komponenten aufweist:In Fig. 1, the inventive arrangement is described which has at least the following components:
-
- eine Sendeeinheit SE, die mindestens folgende Komponenten
aufweist:
- - eine Vielzahl von Kameras Kai, die eine Szene aus mehreren Ansichten, das heißt von verschiedenen Perspektiven, auf nehmen; ein erster Index i, der jede Kamera eindeutig identifiziert, ist eine Zahl, die in dem Bereich zwischen 1 und n liegt, wobei die Werte 1 und n in dem Bereich enthalten sind;
- - eine Schaltereinheit S, mit n Eingängen, wobei jeweils ein Eingang der Schaltereinheit S mit einer Kamera Kai gekop pelt ist, und zwei Ausgängen,
- - eine stereoskopische Codiereinheit SC zur Codierung eines zu sendenden codierten Videodatenstroms CV;
- - a large number of cameras Kai, which take a scene from several views, that is, from different perspectives; a first index i, which uniquely identifies each camera, is a number ranging between 1 and n, with values 1 and n included in the range;
- a switch unit S, with n inputs, one input of the switch unit S being coupled with a camera Kai, and two outputs,
- a stereoscopic coding unit SC for coding a coded video data stream CV to be transmitted;
-
- eine Empfängereinheit EE, die mindestens folgende Komponen
ten aufweist:
- - eine stereoskopische Decodiereinheit SD, in der die Deco dierung des empfangenen codierten Videodatenstromes CV durchgeführt wird,
- - eine Kopfverfolgungseinheit KVE, in der die Kopfposition Pj eines Betrachters B bestimmt wird, in der aus den be stimmten Koordinaten der Kopfposition die benötigten zwei Ansichten, das heißt zwei benötigte Kamerasignale Ki, wo bei der erste Index i auch das Kamerasignal, das von der i-ten Kamera Kai zur Verfügung gestellt wird, bezeichnet, ausgewählt werden; ein zweiter Index j, der jede Kopfpo sition Pj des Betrachters B eindeutig identifiziert, ist eine Zahl, die in dem Bereich zwischen 1 und n-1 liegt, wobei die Werte 1 und n-1 in dem Bereich enthalten sind,
- - ein stereoskopischer Bildschirm DIS, der einen decodierten Videodatenstrom DCV dem Betrachter B in der Weise dar stellt, daß für den Betrachter B ein stereoskopischer Ef fekt, das heißt ein Tiefeneindruck bei Betrachtung des Bildes, entsteht.
- a stereoscopic decoding unit SD, in which the decoding of the received coded video data stream CV is carried out,
- - A head tracking unit KVE, in which the head position Pj of a viewer B is determined, in which the required two views, that is, two required camera signals Ki, from where the coordinates of the head position be, where the first index i and the camera signal from the i-th camera Kai is made available, designated, selected; a second index j, which uniquely identifies each head position Pj of the viewer B, is a number which lies in the range between 1 and n-1, the values 1 and n-1 being contained in the range,
- - A stereoscopic screen DIS, which represents a decoded video data stream DCV to the viewer B in such a way that a stereoscopic effect is created for the viewer B, that is to say a deep impression when viewing the image.
Die Kameras Kai nehmen eine Szene SZ auf. Die Kameras Kai sind in beliebiger Weise angeordnet.The Kai cameras record a scene SZ. The cameras quay are arranged in any way.
Dies ist eine Voraussetzung dafür, daß bei einer beliebigen Auswahl zweier Kameras Kai und Kai+x, wobei eine Zahl x eine in dem Bereich 1 bis n-1 liegt, ein stereoskopischer Effekt für den Betrachter B erreicht werden kann.This is a prerequisite for any Selection of two cameras Kai and Kai + x, one number x one is in the range 1 to n-1, a stereoscopic effect can be achieved for the viewer B.
Die Sendeeinheit SE weist mindestens die n Kameras Kai, die Schaltereinheit S und die stereoskopische Codiereinheit SC auf.The transmission unit SE has at least the n cameras Kai Switch unit S and the stereoscopic coding unit SC on.
Die Schaltereinheit S ist mit den zwei Ausgängen mit der ste reoskopischen Codiereinheit SC gekoppelt. Der Aufbau einer stereoskopischen Codiereinheit SC ist dem Fachmann bekannt und beispielsweise in (R. ter Horst, A Demonstrator for Co ding and Transmission of Stereoscopic Video Signals, Procee dings of 4-th European Workshop on Three-Dimensional Televi sion, Rom, 20.-21. Oktober 1993, S. 273-280, 1993) beschrie ben.The switch unit S is with the two outputs with the ste coupled reoscopic coding unit SC. Building a Stereoscopic coding unit SC is known to the person skilled in the art and for example in (R. ter Horst, A Demonstrator for Co ding and Transmission of Stereoscopic Video Signals, Procee dings of 4-th European Workshop on Three-Dimensional Televi sion, Rome, 20-21 October 1993, pp. 273-280, 1993) ben.
Der zu sendende, in der stereoskopischen Codiereinheit SC co dierte Videodatenstrom CV wird an die Empfängereinheit EE übertragen. Jeder der n Eingänge der Schaltereinheit S sind mit jeweils einer Kamera Kai gekoppelt.The to be sent in the stereoscopic coding unit SC co dated video data stream CV is sent to the receiver unit EE transfer. Each of the n inputs of the switch unit S are coupled with a camera quay.
Entsprechend einer Kameraanforderungsnachricht KAN, die im weiteren beschrieben wird, werden in der Schaltereinheit S die durch die Kameraanforderungsnachricht KAN angeforderten Kameras Kai und Kai+1 ausgewählt, so daß jeweils die angefor derten Kamerasignale Ki und Ki+1 der Kameras Kai und Kai+1 codiert und übertragen werden.According to a camera request message KAN, which is in the described further, are in the switch unit S those requested by the camera request message KAN Cameras Kai and Kai + 1 selected so that the requested Most of the camera signals Ki and Ki + 1 of the cameras Kai and Kai + 1 be encoded and transmitted.
Somit werden immer nur die angeforderten Kamerasignale ausge wählt und an die stereoskopische Codiereinheit SC durchge schaltet 3, wo sie zu dem codierten Videodatenstrom CV co diert werden 4 und übertragen werden an die Empfängereinheit EE.Thus, only the requested camera signals are selected and switched through to the stereoscopic coding unit SC 3 , where they are coded to the coded video data stream CV 4 and transmitted to the receiver unit EE.
In der Empfängereinheit EE wird der codierte Videodatenstrom CV empfangen und decodiert 5. Anschließend wird der decodier te Videodatenstrom auf dem stereoskopischen Bildschirm DIS dem Betrachter B dargestellt.The coded video data stream CV is received and decoded 5 in the receiver unit EE. The decoded video data stream is then shown to the viewer B on the stereoscopic screen DIS.
Die Empfängereinheit EE weist mindestens die stereoskopische Decodiereinheit SD, die Kopfverfolgungseinheit KVE sowie den stereoskopischen Bildschirm DIS auf 6.The receiver unit EE has at least the stereoscopic decoding unit SD, the head tracking unit KVE and the stereoscopic screen DIS 6 .
Die stereoskopische Decodiereinheit SD ist mit dem stereosko pischen Bildschirm DIS gekoppelt. In der Kopfverfolgungsein heit KVE wird die Kopfposition des Betrachters B bestimmt, indem mit einer weiteren Kamera der Kopf des Betrachters B aufgenommen wird, erkannt wird und die räumliche Lage des Kopfes des Betrachters B, also die Kopfposition Pj des Be trachters B bestimmt wird.The stereoscopic decoding unit SD is with the stereosko coupled to the DIS screen. In the head chase unit KVE, the head position of the viewer B is determined, by the viewer's head B is recorded, recognized and the spatial location of the Head of the viewer B, that is the head position Pj of the Be trachters B is determined.
Anhand der Kopfposition Pj, wobei der zweite Index j in dem Bereich zwischen 1 und n-1 liegt, werden die der Kopfposition Pj zugeordneten Kamerasignale Ki und Ki+1 auswählt und von der Kopfverfolgungseinheit KVE angefordert.Based on the head position Pj, where the second index j in the Range is between 1 and n-1, the head position Pj selected camera signals Ki and Ki + 1 and selected the head tracking unit KVE requested.
In der Kopfverfolgungseinheit KVE wird die Kopfposition Pj des Betrachters B bestimmt 1 und die horizontalen Bewegungen des Betrachters B im Vergleich zum Bildschirm verfolgt. Hier zu wird mindestens eine Kamera verwendet, die den Kopf des Betrachters B aufnimmt. Die Kopfverfolgungseinheit KVE arbei tet beispielsweise nach einem Verfahren, das in der Patentan meldung mit dem amtlichen Aktenzeichen 19516664.7 beschrieben ist.In the head tracking unit KVE, the head position Pj viewer B determines 1 and the horizontal movements of viewer B compared to the screen. Here to at least one camera is used, which the head of the Viewer B records. The KVE head tracking unit works tet, for example, according to a method that in the patent report with the official file number 19516664.7 is.
Bei dem dort beschriebenen Verfahren wird die räumliche Lage für ein aufgenommenes Zielobjekt, das während des dort be schriebenen Verfahrens klassifiziert wird, bestimmt. Dieses Verfahren wird bei dem erfindungsgemäßen Verfahren dazu ver wendet, daß der Kopf eines Betrachters B erkannt wird und die Bewegungen des Kopfes verfolgt werden. Somit ermittelt das in der Patentanmeldung 19516664.7 beschriebene Verfahren die räumliche Lage des Kopfes des Betrachters B des stereoskopi schen Bildschirms DIS.In the method described there, the spatial location for a recorded target object that will be there during the described procedure is determined. This The method is used in the method according to the invention that the head of a viewer B is recognized and the Movements of the head are tracked. So that determines in the patent application 19516664.7 described the spatial position of the head of viewer B of the stereoscopic screen DIS.
Verwendet wird in dem erfindungsgemäßen Verfahren jedoch nur die die horizontalen Bewegungen beschreibende Koordinate. Die beiden anderen Raumkoordinaten sind für das erfindungsgemäße Verfahren nicht von Interesse und werden aus diesem Grunde nicht benötigt.However, is only used in the method according to the invention the coordinate describing the horizontal movements. The two other spatial coordinates are for the invention Procedures are of no interest and are for this reason not required.
In Fig. 2 ist das Verfahren zur Auswahl der zwei benötigten Kamerasignale Ki und Ki+1 beschrieben. The method for selecting the two required camera signals Ki and Ki + 1 is described in FIG. 2.
Zuerst werden die beiden zulässigen Extrempositionen für die Kopfposition Pj des Betrachters B, also die Kopfposition P1 und die Kopfposition Pn-1 definiert.First, the two permissible extreme positions for the Head position Pj of viewer B, ie head position P1 and defines the head position Pn-1.
Im Fall einer gewünschten naturgetreuen Übertragung, ist es vorteilhaft, die Kameras Kai äquidistant im Augenabstand auf zustellen, das heißt in diesem Fall wäre die Entfernung zwi schen der Kopfposition P1 und der Kopfposition Pn-1 die glei che, wie der Kameraabstand zwischen Kamera Ka1 und der Kamera Kan-1. Es werden dann in Abhängigkeit der Position des Be trachters B die nötigen Kamerasignale ausgewählt und übertra gen.In the case of a lifelike transmission, it is advantageous, the cameras Kai equidistantly at eye relief to deliver, in this case the distance would be between the head position P1 and the head position Pn-1 the same che, like the camera distance between camera Ka1 and the camera Kan-1. Depending on the position of the Be trachters B selected and transmitted the necessary camera signals gene.
Wenn der Kopf des Betrachters sich in der Kopfposition P1, also bei der in Fig. 1 beschriebenen Anordnung ganz links, oder sogar links davon befindet, werden von der Kopfverfol gungseinheit KVE die beiden Kamerasignale K1 und K2, also die Kamerasignale, die von den beiden links stehenden Kameras Ka1 und Ka2 erzeugten Kamerasignale, ausgewählt 2 und von der Kopfverfolgungseinheit KVE angefordert.If the viewer's head is in the head position P1, i.e. in the arrangement described in FIG. 1 on the far left, or even on the left thereof, the two camera signals K1 and K2, i.e. the camera signals from the two, are generated by the head tracking unit KVE Cameras Ka1 and Ka2 on the left generated camera signals, selected 2 and requested by the head tracking unit KVE.
Es ist ebenso vorgesehen, daß nicht die Kamerasignale K1 und K2 ausgewählt werden, sondern es können auch beispielsweise die ganz links positionierte Kamera Ka1 und eine weitere Ka mera Ka1+x und die von diesen Kameras erzeugten Kamerasignale K1 und K1+x ausgewählt werden. Die Auswahl der Kameras ist immer abhängig von dem Aufbau des stereoskopischen Bild schirms DIS.It is also provided that the camera signals K1 and K2 can be selected, but it can also, for example the leftmost camera Ka1 and another Ka mera Ka1 + x and the camera signals generated by these cameras K1 and K1 + x can be selected. The choice of cameras is always depends on the structure of the stereoscopic image screen DIS.
Wenn sich der Kopf des Betrachters B auf der Kopfposition Pn-1 oder rechts davon befindet, ordnet die Kopfverfolgungsein heit KVE der Kopfposition Pn-1 die Kamerasignale Kn-1 und Kn zu, und fordert diese Kamerasignale von der Sendeeinheit SE an.When the viewer's head B is at the head position Pn-1 or to the right of it, the head tracking orders KVE the head position Pn-1 the camera signals Kn-1 and Kn to, and requests these camera signals from the transmitter unit SE at.
Es ist ebenso vorgesehen, daß nicht die Kamerasignale Kn-1 und Kn ausgewählt werden, sondern es können auch beispiels weise die ganz links positionierte Kamera Ka1 und eine weite re Kamera Ka1+x und die von diesen Kameras erzeugten Kamera signale Kn und Kn-x ausgewählt werden. Die Auswahl der Kame ras ist auch in diesem Fall immer abhängig von dem Aufbau des stereoskopischen Bildschirms DIS.It is also provided that the camera signals Kn-1 and Kn can be selected, but it can also, for example the left camera Ka1 and a wide one Right camera Ka1 + x and the camera generated by these cameras signals Kn and Kn-x can be selected. The choice of came In this case too, ras always depends on the structure of the stereoscopic screen DIS.
Wenn sich der Kopf des Betrachters B zwischen den diskreten Kopfpositionen Pj befindet, wird jeweils die Kopfposition Pj des Betrachters B zugewiesen, die der tatsächlichen Kopfposi tion des Betrachters B am nächsten liegt.If the head of viewer B is between the discrete Head positions Pj, the head position Pj viewer B assigned to the actual head position tion of the viewer B is closest.
Allgemein wird also durch die Kopfverfolgungseinheit KVE für eine Kopfposition Pj des Betrachters das Kamerasignal Ki als linkes Bild und das Kamerasignal Ki+x als rechtes Bild ange boten.In general, the head tracking unit KVE for a head position Pj of the viewer as the camera signal Ki left image and the camera signal Ki + x as right image offered.
Es ist wichtig, die n-1 Kopfpositionen Pj des Betrachters B in Abhängigkeit des Kameraaufbaus zu definieren. Dies erfolgt in Abhängigkeit von dem Aufbau des stereoskopischen Bild schirms DIS und von den beabsichtigten Effekten für den Be trachter B.It is important to determine the n-1 head positions Pj of the viewer B to be defined depending on the camera setup. this happens depending on the structure of the stereoscopic image screen DIS and of the intended effects for the Be traditional costume B.
Dies bedeutet, daß von der Kopfverfolgungseinheit KVE zwei neue Kamerasignale angefordert werden. Um den stereoskopi schen Effekt, das heißt den Tiefeneindruck für den Betrachter B zu verbessern bzw. zu übertreiben, ist es auch möglich, den Abstand der Kameras zu vergrößern.This means that two of the head tracking unit KVE new camera signals are requested. To the stereoscopic effect, that is, the depth impression for the viewer B to improve or exaggerate, it is also possible to Increase the distance between the cameras.
Wenn der stereoskopische Effekt verringert werden soll, kann selbstverständlich auch der Abstand der Kameras verringert werden.If the stereoscopic effect is to be reduced, can Of course, the distance between the cameras is also reduced will.
Nachdem die Kopfposition von der Kopfverfolgungseinheit KVE wie im vorigen beschrieben wurde, bestimmt ist 1, wählt die Kopfverfolgungseinheit KVE die benötigten zwei Ansichten, al so die benötigten Kamerasignale Ki und Ki+x aus 2 und fordert diese von der Sendeeinheit SE an. After the head position has been determined by the head tracking unit KVE as described in the previous 1 , the head tracking unit KVE selects the required two views, thus the required camera signals Ki and Ki + x from 2, and requests them from the transmission unit SE.
Dies geschieht in Form einer Kameraanforderungsnachricht KAN, die von der Empfängereinheit EE an die Sendeeinheit SE über tragen wird.This is done in the form of a camera request message KAN, that from the receiver unit EE to the transmitter unit SE will wear.
Nachdem die Sendeeinheit SE die Kameraanforderungsnachricht FAN empfangen hat, schaltet die Schaltereinheit S in der Wei se, daß die beiden Eingänge der Schaltereinheit S an die an geforderten Kameras Kai und Kai+x gekoppelt werden, so daß die angeforderten Kamerasignale Ki und Ki+x an die stereosko pische Codiereinheit SC durchgeschaltet werden 3.After the transmission unit SE has received the camera request message FAN, the switch unit S switches in the manner that the two inputs of the switch unit S are coupled to the cameras Kai and Kai + x requested, so that the requested camera signals Ki and Ki + x on the stereoscopic coding unit SC are switched through 3 .
In der stereoskopischen Codiereinheit SC werden die durchge schalteten Kamerasignale Ki und Ki+x zu einem zu sendenden codierten Videodatenstrom CV codiert 4.In the stereoscopic coding unit SC, the switched-through camera signals Ki and Ki + x are coded 4 into a coded video data stream CV to be transmitted 4 .
Dieser codierte Videodatenstrom CV wird nun an die Empfänge reinheit EE übertragen.This encoded video data stream CV is now sent to the receptions Purity EE transferred.
Der empfangene codierte Videodatenstrom CV wird in der Emp fängereinheit EE in der stereoskopischen Decodiereinheit SD decodiert 5 und dem Betrachter B über den stereoskopischen Bildschirm DIS dargestellt 6.The received coded video data stream CV is decoded 5 in the receiver unit EE in the stereoscopic decoding unit SD and shown to the viewer B on the stereoscopic screen DIS 6 .
In Fig. 3 ist eine vorteilhafte Verwendung des erfindungsge mäßen Verfahrens dargestellt.In Fig. 3, an advantageous use of the erfindungsge MAESSEN method is shown.
Ein Problem bei dem Einsatz eines modellbasierten Codierungs verfahrens MC liegt in der Behandlung einer auftretenden Feh lersituation 8 bei den Codierungsverfahren MC, das heißt in einem Vorgehen, wenn das modellbasierte Codierungsverfahren Fehler aufweist, das heißt, wenn ein Bild von der modellba sierten Codierung MC falsch modelliert wurde.A problem with the use of a model-based coding method MC lies in the treatment of an occurring error situation 8 in the coding method MC, that is to say in a procedure if the model-based coding method has errors, that is to say if an image from the model-based coding MC is incorrect was modeled.
Im Rahmen dieser Anmeldung ist unter dem modellbasierten Co dierungsverfahren MC ein Verfahren zu verstehen, das die von den n Kameras aufgenommene Szene SZ durch drei-dimensionale Modelle darstellt. Dies ermöglicht eine weitere Datenredukti on der Bilddaten der aufgenommenen Szene SZ.In the context of this application, the model-based Co dation process MC to understand a process that the of The scene SZ recorded by the n cameras through three-dimensional Represents models. This enables further data reduction on the image data of the recorded scene SZ.
In diesem Fall ist eine Ausnahmebehandlung notwendig, die so lange eine korrekte Übertragung des Videodatenstroms ermög licht, bis wieder ein korrektes Modell für die Bilder des Vi deodatenstroms erzeugt, das heißt berechnet wurde. Für diese Ausnahmebehandlung bietet sich das im vorigen beschriebene Verfahren an.In this case, an exception handling is necessary long allows a correct transmission of the video data stream light until a correct model for the pictures of the Vi generated deodata stream, that is, was calculated. For this Exception handling is offered in the above Procedure.
Dies bedeutet, daß, wenn erkannt wird, daß ein Modell für ei nen Videodatenstrom CV mit schlechter Qualität, erstellt wur de, die modellbasierte Codierung MC des Videodatenstroms CV, die eine größere Kompression der Bilddaten ermöglicht, unter brochen wird und das erfindungsgemäße Verfahren durchgeführt 10 wird, also daß die Szene jeweils von den zwei Kameras Kai und Kai+1 aufgenommen wird, die durch die Kopfposition Pj des Betrachters B ausgewählt werden.This means that if it is recognized that a model for a video data stream CV with poor quality has been created, the model-based coding MC of the video data stream CV, which enables greater compression of the image data, is interrupted and the method according to the invention is carried out 10 is, that the scene is recorded by the two cameras Kai and Kai + 1, which are selected by the head position Pj of the viewer B.
Wenn ein neues Modell, das die Bilddaten wieder korrekt be schreibt, erstellt wurde 9, kann wieder die modellbasierte Codierung MC durchgeführt werden 7.If a new model that correctly describes the image data has been created 9 , the model-based coding MC can be carried out again 7 .
Somit kann das erfindungsgemäße Verfahren im Zusammenhang mit der modellbasierten Codierung MC eines Videodatenstroms als Fallback-Lösung der modellbasierten Codierung MC verwendet werden.The method according to the invention can thus be used in conjunction with the model-based coding MC of a video data stream as Fallback solution of the model-based coding MC used will.
Claims (4)
- - bei der in einer Sendeeinheit (SE) die n Kameras (Kai), die mehrere Ansichten einer Szene aufnehmen und einer Schal tereinheit (S) zur Verfügung stellen, in beliebiger Weise angeordnet sind,
- - bei der in der Sendeeinheit (SE) eine stereoskopische Co diereinheit (SC) vorgesehen ist zur Codierung des zu sen denden codierten Videodatenstromes (CV),
- - bei der in der Sendeeinheit (SE) die Schaltereinheit (S) vorgesehen ist, wobei zwei Ausgänge der Schaltereinheit (S) mit der stereoskopischen Codiereinheit (SC) gekoppelt sind und wobei n Eingänge der Schaltereinheit (S) mit den n Ka meras (Kai . . . Kan) gekoppelt sind, die durch eine Kopfverfol gungseinheit (KVE) einer Empfängereinheit (EE) ausgewählte zwei Kamerasignale (Ki; Ki+x) zur Verfügung stellen, wobei die eine Zahl (x) eine beliebige Zahl im Bereich von 1 bis n ist,
- - bei der in der Empfängereinheit (EE) die Kopfverfolgungs einheit (KVE) vorgesehen ist zur Bestimmung der Kopfpositi on (Pj; j=1 . . . n-1), und zur Auswahl der der Kopfposition (Pj) zugeordneten zwei Kamerasignale (Ki; Ki+x),
- - bei der in der Empfängereinheit (EE) eine stereoskopische Decodiereinheit (SD) vorgesehen ist zur Decodierung eines empfangenen codierten Videodatenstromes (CV), und
- - bei der in der Empfängereinheit (EE) ein mit einem Ausgang der stereoskopischen Decodiereinheit (SD) gekoppelter ste reoskopischer Bildschirm (DIS) vorgesehen ist.
- in which the n cameras (quay), which record several views of a scene and make a switch ter unit (S) available, are arranged in any way in a transmission unit (SE),
- - In which a stereoscopic coding unit (SC) is provided in the transmitting unit (SE) for coding the coded video data stream (CV) to be sent,
- - In which the switch unit (S) is provided in the transmitter unit (SE), two outputs of the switch unit (S) being coupled to the stereoscopic coding unit (SC) and n inputs of the switch unit (S) being connected to the n cameras (quay) ... Kan) are coupled, which make available two camera signals (Ki; Ki + x) selected by a head tracking unit (KVE) of a receiver unit (EE), the one number (x) being any number in the range from 1 to n is
- - In which the head tracking unit (KVE) is provided in the receiver unit (EE) for determining the head position (Pj; j = 1... n-1), and for selecting the two camera signals (Kj.) assigned to the head position (Pj) ; Ki + x),
- - In which a stereoscopic decoding unit (SD) is provided in the receiver unit (EE) for decoding a received coded video data stream (CV), and
- - In which in the receiver unit (EE) a ste reoscopic screen (DIS) coupled to an output of the stereoscopic decoding unit (SD) is provided.
- - bei dem in einer Empfängereinheit (EE) durch eine Kopfver folgungseinheit (KVE) eine Kopfposition (Pj; j=1 . . . n-1) ei nes Betrachters (B) bestimmt wird,
- - bei dem von der Kopfverfolgungseinheit (KVE) der Kopfposi tion (Pj) zugeordnete zwei von zwei Kameras (Kai; Kai+x) erzeugten Kamerasignale (Ki, Ki+1) ausgewählt werden, wobei der Kopfposition (Pj) die zwei Kamerasignale (Ki) und (Ki+x) zugeordnet werden, wobei eine Zahl (x) eine beliebi ge Zahl im Bereich von 1 bis n ist,
- - bei dem die Empfängereinheit (EE) eine Kameraanforderungs nachricht (KAN) an eine Sendeeinheit (SE) sendet, mit der die zwei benötigten Kamerasignale (Ki; Ki+x) angefordert werden,
- - bei dem die Sendeeinheit (SE) die Kameraanforderungsnach richt (KAN) empfängt und speichert,
- - bei dem in der Sendeeinheit (SE) durch eine Schaltereinheit (S) die durch die Kopfverfolgungseinheit (KVE) ausgewählten zwei Kamerasignale (Ki; Ki+1) an eine stereoskopische Co diereinheit (SC) durchgeschaltet werden,
- - bei dem in der Sendeeinheit (SE) in einer stereoskopischen Codiereinheit (SC) ein zu sendender codierter Videodaten stromes (CV) codiert wird,
- - bei dem der zu sendende codierte Videodatenstrom (CV) von der Sendeeinheit (SE) an die Empfängereinheit (EE) übertra gen wird,
- - bei dem der empfangene codierter Videodatenstrom (CV) in der Empfängereinheit (EE) gespeichert wird, und
- - bei dem in der Empfängereinheit (EE) der empfangene codier ter Videodatenstrom (CV) in einer stereoskopischen Deco diereinheit (SD) decodiert wird.
- in which a head position (Pj; j = 1... n-1) of a viewer (B) is determined in a receiver unit (EE) by a head tracking unit (KVE),
- - In the case of the head tracking unit (KVE) assigned to the head position (Pj), two camera signals (Ki, Kai + x) generated by two cameras (Kai; Kai + x) are selected, the head position (Pj) the two camera signals (Ki ) and (Ki + x), where a number (x) is any number in the range from 1 to n,
- - In which the receiver unit (EE) sends a camera request message (KAN) to a transmitter unit (SE) with which the two required camera signals (Ki; Ki + x) are requested,
- - in which the transmitting unit (SE) receives and stores the camera request message (KAN),
- - The two camera signals (Ki; Ki + 1) selected by the head tracking unit (KVE) in the transmitting unit (SE) are switched through to a stereoscopic coding unit (SC) by a switch unit (S),
- - in which a coded video data stream (CV) to be transmitted is coded in a stereoscopic coding unit (SC) in the transmission unit (SE),
- - In which the coded video data stream (CV) to be transmitted is transmitted from the transmitter unit (SE) to the receiver unit (EE),
- - in which the received coded video data stream (CV) is stored in the receiver unit (EE), and
- - In which in the receiver unit (EE) the received coded ter video data stream (CV) is decoded in a stereoscopic deco unit (SD).
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE19528425A DE19528425C1 (en) | 1995-08-02 | 1995-08-02 | Automated stereoscopic camera selection arrangement |
JP8203731A JPH09107561A (en) | 1995-08-02 | 1996-08-01 | Automatic selection device of two cameras, method of automatic selection of two cameras and its application |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE19528425A DE19528425C1 (en) | 1995-08-02 | 1995-08-02 | Automated stereoscopic camera selection arrangement |
Publications (1)
Publication Number | Publication Date |
---|---|
DE19528425C1 true DE19528425C1 (en) | 1996-05-15 |
Family
ID=7768533
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE19528425A Expired - Fee Related DE19528425C1 (en) | 1995-08-02 | 1995-08-02 | Automated stereoscopic camera selection arrangement |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPH09107561A (en) |
DE (1) | DE19528425C1 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1045586A2 (en) * | 1999-04-14 | 2000-10-18 | Canon Kabushiki Kaisha | Image processing apparatus |
WO2005009052A1 (en) * | 2003-07-16 | 2005-01-27 | Koninklijke Philips Electronics N.V. | Head tracked autostereoscopic display |
EP2227021A1 (en) * | 2007-12-28 | 2010-09-08 | Huawei Device Co., Ltd. | An apparatus, system and method for multi-view photographing and image processing and a decoding processing method |
WO2010146384A1 (en) * | 2009-06-19 | 2010-12-23 | Sony Computer Entertainment Europe Limited | Stereoscopic image processing method and apparatus |
US20180176545A1 (en) * | 2016-11-25 | 2018-06-21 | Nokia Technologies Oy | Virtual reality display |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4027471C2 (en) * | 1990-08-30 | 1994-10-13 | Drescher Ruediger | Device for the spatial representation of images |
EP0650301A2 (en) * | 1993-10-26 | 1995-04-26 | Matsushita Electric Industrial Co., Ltd. | Three-dimensional picture image display apparatus |
-
1995
- 1995-08-02 DE DE19528425A patent/DE19528425C1/en not_active Expired - Fee Related
-
1996
- 1996-08-01 JP JP8203731A patent/JPH09107561A/en not_active Withdrawn
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4027471C2 (en) * | 1990-08-30 | 1994-10-13 | Drescher Ruediger | Device for the spatial representation of images |
EP0650301A2 (en) * | 1993-10-26 | 1995-04-26 | Matsushita Electric Industrial Co., Ltd. | Three-dimensional picture image display apparatus |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1045586A2 (en) * | 1999-04-14 | 2000-10-18 | Canon Kabushiki Kaisha | Image processing apparatus |
EP1045586A3 (en) * | 1999-04-14 | 2002-08-07 | Canon Kabushiki Kaisha | Image processing apparatus |
US7113201B1 (en) | 1999-04-14 | 2006-09-26 | Canon Kabushiki Kaisha | Image processing apparatus |
WO2005009052A1 (en) * | 2003-07-16 | 2005-01-27 | Koninklijke Philips Electronics N.V. | Head tracked autostereoscopic display |
EP2227021A1 (en) * | 2007-12-28 | 2010-09-08 | Huawei Device Co., Ltd. | An apparatus, system and method for multi-view photographing and image processing and a decoding processing method |
EP2227021A4 (en) * | 2007-12-28 | 2010-12-29 | Huawei Device Co Ltd | An apparatus, system and method for multi-view photographing and image processing and a decoding processing method |
WO2010146384A1 (en) * | 2009-06-19 | 2010-12-23 | Sony Computer Entertainment Europe Limited | Stereoscopic image processing method and apparatus |
US8750599B2 (en) | 2009-06-19 | 2014-06-10 | Sony Computer Entertainment Europe Limited | Stereoscopic image processing method and apparatus |
US20180176545A1 (en) * | 2016-11-25 | 2018-06-21 | Nokia Technologies Oy | Virtual reality display |
US10491886B2 (en) * | 2016-11-25 | 2019-11-26 | Nokia Technologies Oy | Virtual reality display |
Also Published As
Publication number | Publication date |
---|---|
JPH09107561A (en) | 1997-04-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102006055641B4 (en) | Arrangement and method for recording and reproducing images of a scene and / or an object | |
DE69221346T2 (en) | Device and method for creating stereoscopic images | |
DE3787867T2 (en) | Three-dimensional video transmission. | |
DE69528946T2 (en) | Process for converting two-dimensional images into three-dimensional images | |
EP2027728B1 (en) | Method and device for the creation of pseudo-holographic images | |
DE19953595B4 (en) | Method and device for processing three-dimensional images | |
DE69529260T2 (en) | Image processing apparatus and method | |
DE69608491T2 (en) | Device for three-dimensional image display | |
DE102005023461A1 (en) | monitoring device | |
DE102007037310A1 (en) | Network camera and control method for this | |
DE19528425C1 (en) | Automated stereoscopic camera selection arrangement | |
DE3623576A1 (en) | METHOD AND DEVICE FOR ELECTRONIC TRANSMISSION AND / OR RECORDING AND SUBSEQUENT PLAYBACK OF STEREOSCOPIC TELEVISION IMAGES | |
DE69418111T2 (en) | Control device and control method for image input device | |
DE69909892T2 (en) | Method for detecting the relative depth of two objects in a scene based on two recordings from different viewing directions | |
EP0897247A2 (en) | Method for computing motion vectors | |
DE102012201564B3 (en) | System for representation of stereoscopic microscope image of object on picture screen, replaces computed stereoscopic image in specific region by monoscopic image, if stereoscopic perceptibility is not provided for specific region | |
DE112018006602T5 (en) | VIRTUAL WINDOW FOR TELEPHONE CONFERENCES | |
AT521845A1 (en) | Procedure for adjusting the focus of a film camera | |
DE102013226101A1 (en) | Surveillance camera device with depth information determination | |
WO2018133996A1 (en) | Method for combining a plurality of camera images | |
DE3824092C2 (en) | ||
DE4138893C1 (en) | ||
DE68928736T2 (en) | Image transmission system using a transmission channel with a relatively narrow bandwidth | |
EP3244369B1 (en) | Method for reproducing sequences of images and image processing unit and computer programme for the same | |
DE102021131134A1 (en) | Stereoscopic imaging method and stereoscopic imaging device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
8100 | Publication of the examined application without publication of unexamined application | ||
D1 | Grant (no unexamined application published) patent law 81 | ||
8364 | No opposition during term of opposition | ||
8339 | Ceased/non-payment of the annual fee |