EP3180770B1 - Lernen des abstands zwischen kameras für gelenkfahrzeuge - Google Patents

Lernen des abstands zwischen kameras für gelenkfahrzeuge Download PDF

Info

Publication number
EP3180770B1
EP3180770B1 EP15747660.7A EP15747660A EP3180770B1 EP 3180770 B1 EP3180770 B1 EP 3180770B1 EP 15747660 A EP15747660 A EP 15747660A EP 3180770 B1 EP3180770 B1 EP 3180770B1
Authority
EP
European Patent Office
Prior art keywords
image
camera
images
cameras
ticd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
EP15747660.7A
Other languages
English (en)
French (fr)
Other versions
EP3180770A1 (de
Inventor
Andreas U. Kuehnle
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bendix Commercial Vehicle Systems LLC
Original Assignee
Bendix Commercial Vehicle Systems LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bendix Commercial Vehicle Systems LLC filed Critical Bendix Commercial Vehicle Systems LLC
Publication of EP3180770A1 publication Critical patent/EP3180770A1/de
Application granted granted Critical
Publication of EP3180770B1 publication Critical patent/EP3180770B1/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Claims (19)

  1. System (10) zur Bestimmung des wahren Kamera-Zwischenabstandes TICD zwischen an separaten Teilen eines Gelenkfahrzeugs montierten Kameras, umfassend:
    eine erste Kamera (A);
    eine zweite Kamera (B); und
    einen Prozessor (14), ausgelegt:
    zum Empfang eines ersten Bildrahmens mit einem ersten Bild eines Bezugsgegenstandes von der ersten Kamera (A);
    zum Empfang eines zweiten Bildrahmens mit einem ersten Bild des Bezugsgegenstandes von der zweiten Kamera (B);
    zur Überlagerung des ersten und des zweiten Bildes zur Erzeugung eines zusammengesetzten Bildes des Bezugsgegenstandes;
    zur Verschiebung des ersten und des zweiten Bildes, bis sie fluchten; dadurch gekennzeichnet, dass
    der Prozessor weiter zur Berechnung des TICD zwischen der ersten und der zweiten Kamera in Abhängigkeit der Wege ausgelegt ist, um die das erste und das zweite Bild während des Ausrichtvorgangs verschoben werden, und
    wobei der Prozessor (14) weiter dazu ausgelegt ist, den wahren Kamera-Zwischenabstand so zu berechnen, dass TICD = speed ratio shift 1 shift 2 / speed ratio 1 ,
    Figure imgb0014
    wobei Shft1 der Betrag ist, um den der Bezugspunkt oder Gegenstand im Bild bei einer ersten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, Shift2 der Betrag ist, um den der Bezugspunkt oder Gegenstand im zweiten Bild bei einer zweiten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, und speed ratio das Verhältnis zwischen der zweiten und der ersten Geschwindigkeit ist.
  2. System (10) nach Anspruch 1, wobei die erste und die zweite Kamera (A, B) Bildrahmen asynchron erfassen.
  3. System (10) nach Anspruch 2, wobei der Prozessor (14) weiter dazu ausgelegt ist:
    eine Abstandsunsicherheit infolge von Fahrzeugbewegung DUFM zu berechnen in Abhängigkeit der Fahrzeuggeschwindigkeit und eines Rahmenstart-Zeitunterschiedes DFST zwischen jeweiligen Bilderfassungs-Startzeiten der ersten und der zweiten Kamera (A, B).
  4. System (10) nach Anspruch 1, wobei der Prozessor (14) weiter dazu ausgelegt ist:
    beim Ausrichten des zweiten Bildes nach dem ersten Bild das erste und/oder das zweite Bild zu drehen; und
    über eine Vielzahl von zusammengesetzten Bildern eine durchschnittliche Drehung zu berechnen, die zur Winkelausrichtung des ersten und des zweiten Bildes erforderlich ist.
  5. System (10) nach Anspruch 4, wobei der Prozessor (14) weiter zur Erzeugung einer Umfeldansicht ausgelegt ist, die eine zusammengesetzte Ansicht der Bilder der ersten und der zweiten Kamera, berichtigt zur Kompensation der Fahrzeugbewegung und der Gierung, ist, unter Anwendung des berechneten TICD und der berechneten durchschnittlichen Drehung.
  6. System (10) nach Anspruch 1, wobei die erste Kamera (A) an einem ersten Teil (142) des Gelenkfahrzeugs (140) moniert ist und die zweite Kamera (B) an einem zweiten Teil (144) des Gelenkfahrzeugs (140) moniert, wobei der zweite Teil (144) von einer Gelenkkupplung an den ersten Teil (142) gekoppelt ist.
  7. System (10) nach Anspruch 1, weiter umfassend eine Vielzahl von Kameras (A, B,...N), wobei der Prozessor (14) zur Berechnung eines TICD zwischen allen Permutationen von Kamerapaaren (A, B) in der Vielzahl von Kameras (A, B,...N) und zur Erzeugung einer Umfeldansicht ausgelegt ist, die eine zusammengesetzte Ansicht einer Vielzahl der von den jeweiligen Kameras (A, B,...N) erfassten Bilder ist.
  8. Verfahren zur Berechnung eines wahren Kamera-Zwischenabstandes TICD zwischen an separated Teilen eines Gelenkfahrzeugs (140) montierten Kameras, umfassend:
    den Empfang eines ersten Bildrahmens mit einem ersten Bild eines Bezugsgegenstandes von einer ersten Kamera (A);
    den Empfang eines zweiten Bildrahmens mit einem zweiten Bild des Bezugsgegenstandes von einer zweiten Kamera (B);
    die Überlagerung des ersten und des zweiten Bildes zur Erzeugung eines zusammengesetzten Bildes des Bezugsgegenstandes;
    die Verschiebung des ersten und des zweiten Bildes, bis sie fluchten; gekennzeichnet durch die folgenden Schritte:
    die Berechnung des TICD zwischen der ersten und der zweiten Kamera (A, B) in Abhängigkeit der Wege, um die das erste und das zweite Bild während des Ausrichtvorgangs verschoben werden, und
    die Berechnung des wahren Kamera-Zwischenabstandes TICD auf derartige Weise, dass TICD = speed ratio shift 1 shift 2 / speed ratio 1 ,
    Figure imgb0015
    wobei Shift1 der Betrag ist, um den der Bezugspunkt oder Gegenstand im Bild bei einer ersten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, Shift2 der Betrag ist, um den der Bezugspunkt oder Gegenstand im zweiten Bild bei einer zweiten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, und speed ratio das Verhältnis zwischen der zweiten und der ersten Geschwindigkeit ist.
  9. Verfahren nach Anspruch 8, weiter umfassend:
    die Berechnung einer Abstandsunsicherheit infolge von Fahrzeugbewegung DUFM in Abhängigkeit der Fahrzeuggeschwindigkeit und eines Rahmenstart-Zeitunterschiedes DFST zwischen jeweiligen Bilderfassungs-Startzeiten der ersten und der zweiten Kamera (A, B).
  10. Verfahren nach Anspruch 8, weiter umfassend:
    das Drehen des ersten und/oder des zweiten Bildes beim Ausrichten des zweiten Bildes nach dem ersten Bild; und
    das Berechnen einer durchschnittlichen Drehung, die zur Winkelausrichtung des ersten und des zweiten Bildes erforderlich ist, über eine Vielzahl von zusammengesetzten Bildern.
  11. Verfahren nach Anspruch 10, weiter umfassend die Erzeugung einer Umfeldansicht, die eine zusammengesetzte Ansicht der Bilder der ersten und der zweiten Kamera, berichtigt zur Kompensation der Fahrzeugbewegung und der Gierung, ist, unter Anwendung des berechneten TICD und der berechneten durchschnittlichen Drehung.
  12. Verfahren nach Anspruch 8, wobei die erste Kamera (A) an einem ersten Teil (142) des Gelenkfahrzeugs (140) moniert ist und die zweite Kamera (B) an einem zweiten Teil (144) des Gelenkfahrzeugs (140) moniert, wobei der zweite Teil (144) von einer Gelenkkupplung an den ersten Teil (142) gekoppelt ist.
  13. Verfahren nach Anspruch 8, weiter umfassend die Berechnung eines TICD zwischen allen Permutationen von Kamerapaaren (A, B) in einer Vielzahl von am Gelenkgahrzeug montierten Kameras (A, B,...N) und die Erzeugung einer Umfeldansicht, die eine zusammengesetzte Ansicht einer Vielzahl der von den jeweiligen Kameras (A, B,...N) erfassten Bilder ist.
  14. Computerlesbares Medium (16), auf dem Anweisungen zur Ausführung des Verfahrens nach Anspruch 8 gespeichert sind.
  15. Prozessor (14), ausgebildet zur Ausführung von computerausführbaren Anweisungen zur Berechnung eines wahren Kamera-Zwischenabstandes TICD zwischen an separated Teilen (142, 144) eines Gelenkfahrzeugs (140) montierten Kameras (A, B), wobei die Anweisungen umfassen:
    den Empfang eines ersten Bildrahmens mit einem ersten Bild eines Bezugsgegenstandes von einer ersten Kamera (A);
    den Empfang eines zweiten Bildrahmens mit einem zweiten Bild des Bezugsgegenstandes von einer zweiten Kamera (B);
    die Überlagerung des ersten und des zweiten Bildes zur Erzeugung eines zusammengesetzten Bildes des Bezugsgegenstandes;
    die Verschiebung des ersten und des zweiten Bildes, bis sie fluchten; dadurch gekennzeichnet, dass die Anweisungen weiter umfassen:
    die Berechnung des TICD zwischen der ersten und der zweiten Kamera in Abhängigkeit der Wege, um die das erste und das zweite Bild während des Ausrichtvorgangs verschoben werden, und
    dass der Prozessir (14) weiter zur Berechnung des wahren Kamera-Zwischenabstandes TICD auf derartige Weise ausgelegt ist, dass TICD = speed ratio shift 1 shift 2 / speed ratio 1 ,
    Figure imgb0016
    wobei Shift1 der Betrag ist, um den der Bezugspunkt oder Gegenstand im Bild bei einer ersten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, Shift2 der Betrag ist, um den der Bezugspunkt oder Gegenstand im zweiten Bild bei einer zweiten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, und speed ratio das Verhältnis zwischen der zweiten und der ersten Geschwindigkeit ist.
  16. Prozessor (14) nach Anspruch 15, weiter ausgelegt:
    zum Drehen des ersten und/oder des zweiten Bildes beim Ausrichten des zweiten Bildes nach dem ersten Bild; und
    zum Berechnen einer durchschnittlichen Drehung, die zur Winkelausrichtung des ersten und des zweiten Bildes erforderlich ist, über eine Vielzahl von zusammengesetzten Bildern.
  17. Prozessor (14) nach Anspruch 16, weiter ausgelegt zur Erzeugung einer Umfeldansicht, die eine zusammengesetzte Ansicht der Bilder der ersten und der zweiten Kamera, berichtigt zur Kompensation der Fahrzeugbewegung und der Gierung, ist, unter Anwendung des berechneten TICD und der berechneten durchschnittlichen Drehung.
  18. Prozessor (14) nach Anspruch 15, weiter ausgelegt zur Berechnung eines TICD zwischen allen Permutationen von Kamerapaaren (A, B) in einer Vielzahl von am Gelenkgahrzeug (140) montierten Kameras (A, B,...N) und zur Erzeugung einer Umfeldansicht, die eine zusammengesetzte Ansicht einer Vielzahl der von den jeweiligen Kameras (A, B,....N) erfassten Bilder ist.
  19. Vorrichtung zur Berechnung eines wahren Kamera-Zwischenabstandes TICD zwischen an separated Teilen (142, 144) eines Gelenkfahrzeugs (140) montierten Kameras (A, B), umfassend:
    Mittel zur Erfassung einer Vielzahl von Bildern eines Bezugsgegenstandes von mindestens zwei Perspektivepunkten aus;
    Mittel zum Empfang eines ersten Bildrahmens mit einem ersten Bild eines Bezugsgegenstandes von einer ersten Kamera (A);
    Mittel zum Empfang eines zweiten Bildrahmens mit einem zweiten Bild des Bezugsgegenstandes von einer zweiten Kamera (B);
    Mittel zur Überlagerung des ersten und des zweiten Bildes zur Erzeugung eines zusammengesetzten Bildes des Bezugsgegenstandes;
    Mittel zur Verschiebung des ersten und des zweiten Bildes, bis sie fluchten; dadurch gekennzeichnet, dass die Vorrichtung weiter umfasst:
    Mittel zur Berechnung des TICD zwischen der ersten und der zweiten Kamera (A, B) in Abhängigkeit der Wege, um die das erste und das zweite Bild während des Ausrichtvorgangs verschoben werden, und
    Mittel zur Berechnung des wahren Kamera-Zwischenabstandes TICD auf derartige Weise, dass TICD = speed ratio shift 1 shift 2 / speed ratio 1 ,
    Figure imgb0017
    wobei Shift1 der Betrag ist, um den der Bezugspunkt oder Gegenstand im Bild bei einer ersten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, Shift2 der Betrag ist, um den der Bezugspunkt oder Gegenstand im zweiten Bild bei einer zweiten Geschwindigkeit des Gelenkfahrzeugs verschoben wird, und speed ratio das Verhältnis zwischen der zweiten und der ersten Geschwindigkeit ist.
EP15747660.7A 2014-08-13 2015-07-17 Lernen des abstands zwischen kameras für gelenkfahrzeuge Active EP3180770B1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/458,300 US20160048966A1 (en) 2014-08-13 2014-08-13 Learning the distance between cameras for articulated vehicles
PCT/US2015/040827 WO2016025121A1 (en) 2014-08-13 2015-07-17 Learning the distance between cameras for articulated vehicles

Publications (2)

Publication Number Publication Date
EP3180770A1 EP3180770A1 (de) 2017-06-21
EP3180770B1 true EP3180770B1 (de) 2020-10-07

Family

ID=53783963

Family Applications (1)

Application Number Title Priority Date Filing Date
EP15747660.7A Active EP3180770B1 (de) 2014-08-13 2015-07-17 Lernen des abstands zwischen kameras für gelenkfahrzeuge

Country Status (4)

Country Link
US (2) US20160048966A1 (de)
EP (1) EP3180770B1 (de)
CN (1) CN106796730B (de)
WO (1) WO2016025121A1 (de)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3009983A1 (de) * 2014-10-13 2016-04-20 Conti Temic microelectronic GmbH Vorrichtung und Verfahren zur Hindernisdetektion
US11027654B2 (en) * 2015-12-04 2021-06-08 Magna Electronics Inc. Vehicle vision system with compressed video transfer via DSRC link
US9667859B1 (en) 2015-12-28 2017-05-30 Gopro, Inc. Systems and methods for determining preferences for capture settings of an image capturing device
US9967457B1 (en) 2016-01-22 2018-05-08 Gopro, Inc. Systems and methods for determining preferences for capture settings of an image capturing device
KR101949358B1 (ko) * 2016-04-04 2019-02-18 엘지전자 주식회사 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량
DE102016218799A1 (de) * 2016-09-29 2018-03-29 Robert Bosch Gmbh Kamerasystem und Fahrzeug umfassend ein derartiges Kamerasystem
US10518702B2 (en) * 2017-01-13 2019-12-31 Denso International America, Inc. System and method for image adjustment and stitching for tractor-trailer panoramic displays
DE102017109445A1 (de) * 2017-05-03 2018-11-08 Connaught Electronics Ltd. Kalibration einer Fahrzeug-Kameraeinrichtung in Fahrzeuglängsrichtung oder Fahrzeugquerrichtung
CN108528336B (zh) * 2018-04-18 2021-05-18 福州大学 一种车辆压线提前预警系统
CN108830983B (zh) * 2018-05-29 2021-03-02 广州足迹体育文化发展有限公司 一种基于区块链的门禁系统及其工作方法
FR3093215B1 (fr) * 2019-02-22 2021-08-27 Fogale Nanotech Procédé et dispositif de surveillance de l’environnement d’un robot
EP3754450B1 (de) * 2019-06-17 2022-04-27 Sandvik Mining and Construction Oy Autonome fahrzeugüberwachung
CN112179377B (zh) * 2019-07-05 2022-11-04 浙江宇视科技有限公司 云台误差补偿方法、装置、云台摄像机及可读存储介质
JP7385412B2 (ja) * 2019-09-25 2023-11-22 株式会社Subaru 自動運転システム
CN114897988B (zh) * 2022-07-14 2023-05-12 苏州魔视智能科技有限公司 一种铰链式车辆中的多相机定位方法、装置及设备

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10035223A1 (de) 2000-07-20 2002-01-31 Daimler Chrysler Ag Vorrichtung und Verfahren zur Überwachung der Umgebung eines Objekts
US6930593B2 (en) 2003-02-24 2005-08-16 Iteris, Inc. Lane tracking system employing redundant image sensing devices
JP2004309273A (ja) * 2003-04-04 2004-11-04 Sumitomo Electric Ind Ltd 距離検出装置及び車輌用障害物監視装置
EP2168079B1 (de) 2007-01-23 2015-01-14 Valeo Schalter und Sensoren GmbH Verfahren und system zur universellen strassenbegrenzungserkennung
DE102007011180A1 (de) 2007-03-06 2008-09-11 Daimler Ag Rangierhilfe und Verfahren für Fahrer von Fahrzeugen bzw. Fahrzeuggespannen, welche aus gegeneinander knickbare Fahrzeugelementen bestehen
GB2447672B (en) 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
US7904222B2 (en) 2007-06-27 2011-03-08 GM Global Technology Operations LLC Trailer articulation angle estimation
JP2009060499A (ja) 2007-09-03 2009-03-19 Sanyo Electric Co Ltd 運転支援システム及び連結車両
CN201402131Y (zh) 2009-03-30 2010-02-10 德尔福技术有限公司 分体式车辆的操控辅助设备
CN201898582U (zh) * 2010-11-26 2011-07-13 中航华东光电有限公司 一种立体视频采集显示系统
WO2012145818A1 (en) 2011-04-25 2012-11-01 Magna International Inc. Method and system for dynamically calibrating vehicular cameras
WO2013032371A1 (en) * 2011-08-30 2013-03-07 Volvo Technology Corporation Vehicle security system and method for using the same
US9227563B2 (en) 2012-09-14 2016-01-05 Bendix Commercial Vehicle Systems Llc Backward movement indicator apparatus for a vehicle
US9446713B2 (en) 2012-09-26 2016-09-20 Magna Electronics Inc. Trailer angle detection system

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
None *

Also Published As

Publication number Publication date
CN106796730A (zh) 2017-05-31
US10147172B2 (en) 2018-12-04
EP3180770A1 (de) 2017-06-21
US20160048966A1 (en) 2016-02-18
CN106796730B (zh) 2021-08-10
WO2016025121A1 (en) 2016-02-18
US20180144454A1 (en) 2018-05-24

Similar Documents

Publication Publication Date Title
US10147172B2 (en) Learning the distance between cameras for articulated vehicles
EP3180769B1 (de) Kabine und anhängerkörperbewegungsbestimmung mit kamera hinten an der kabine
US7697029B2 (en) Image display apparatus and method
CN102428341B (zh) 受电弓位移测定装置以及滑触线硬点检测方法
US8120644B2 (en) Method and system for the dynamic calibration of stereovision cameras
DE102007043110B4 (de) Verfahren und Vorrichtung zum Erkennen einer Parklücke unter Nutzung einer Vogelperspektivansicht und ein diese verwendendes Einparkhilfesystem
US20090041337A1 (en) Image processing apparatus and method
EP3262566A2 (de) Vertikale strassenkonturenerfassung unter verwendung eines stabilisierten koordinatensystems
US10740908B2 (en) Moving object
US10032274B2 (en) Calibration apparatus and calibration method
EP2189349A2 (de) Verfahren und Vorrichtung zur Kompensation eines Rollwinkels
KR20160100788A (ko) 이동체의 이동속도 측정장치 및 그 방법
EP3505865B1 (de) Fahrzeuginterne kamera, verfahren zur einstellung der fahrzeuginternen kamera und fahrzeuginternes kamerasystem
CA2967872C (en) Double stereoscopic sensor
EP2463621A1 (de) Abstandsberechnungsvorrichtung für fahrzeuge
DE102008042631B4 (de) Verfahren und Vorrichtung zur Abstandsermittlung bei einem monokularen Videoassistenzsystem
CN108099956A (zh) 机车调车装置、方法和双目摄像机的夹角确定方法
US11403770B2 (en) Road surface area detection device
CN102842138A (zh) 车辆中的画面支持的驾驶员辅助系统的工作方法
KR101203617B1 (ko) 노면 프로파일 측정 시스템, 및 방법
DE102006055145B4 (de) On-Board-Nebelbestimmungsvorrichtung
EP4300423A1 (de) Verfahren und system zum verarbeiten robuster stereobilder
DE102014221074A1 (de) Verfahren zum Überwachen einer Rektifizierung von Bildern

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20170313

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

17Q First examination report despatched

Effective date: 20190829

RIC1 Information provided on ipc code assigned before grant

Ipc: G06T 7/00 20170101AFI20200430BHEP

Ipc: G06T 7/80 20170101ALI20200430BHEP

Ipc: B60R 1/00 20060101ALI20200430BHEP

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20200612

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

Ref country code: AT

Ref legal event code: REF

Ref document number: 1321960

Country of ref document: AT

Kind code of ref document: T

Effective date: 20201015

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602015060144

Country of ref document: DE

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20201007

REG Reference to a national code

Ref country code: AT

Ref legal event code: MK05

Ref document number: 1321960

Country of ref document: AT

Kind code of ref document: T

Effective date: 20201007

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210108

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210107

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210208

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210107

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210207

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602015060144

Country of ref document: DE

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

26N No opposition filed

Effective date: 20210708

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

GBPC Gb: european patent ceased through non-payment of renewal fee

Effective date: 20210717

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20210731

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210731

Ref country code: GB

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210717

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210731

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210207

Ref country code: FR

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210731

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210717

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210717

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210731

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20150717

P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230508

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20230720

Year of fee payment: 9

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20201007