EP2422325A1 - Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen - Google Patents

Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen

Info

Publication number
EP2422325A1
EP2422325A1 EP10717088A EP10717088A EP2422325A1 EP 2422325 A1 EP2422325 A1 EP 2422325A1 EP 10717088 A EP10717088 A EP 10717088A EP 10717088 A EP10717088 A EP 10717088A EP 2422325 A1 EP2422325 A1 EP 2422325A1
Authority
EP
European Patent Office
Prior art keywords
atm
self
service terminal
image
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP10717088A
Other languages
English (en)
French (fr)
Other versions
EP2422325B1 (de
Inventor
Steffen Priesterjahn
Dinh-Khoi Le
Michael Nolte
Alexander Drichel
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wincor Nixdorf International GmbH
Original Assignee
Wincor Nixdorf International GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wincor Nixdorf International GmbH filed Critical Wincor Nixdorf International GmbH
Publication of EP2422325A1 publication Critical patent/EP2422325A1/de
Application granted granted Critical
Publication of EP2422325B1 publication Critical patent/EP2422325B1/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07F—COIN-FREED OR LIKE APPARATUS
    • G07F19/00—Complete banking systems; Coded card-freed arrangements adapted for dispensing or receiving monies or the like and posting such transactions to existing accounts, e.g. automatic teller machines
    • G07F19/20—Automatic teller machines [ATMs]
    • G07F19/207—Surveillance aspects at ATMs
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07F—COIN-FREED OR LIKE APPARATUS
    • G07F19/00—Complete banking systems; Coded card-freed arrangements adapted for dispensing or receiving monies or the like and posting such transactions to existing accounts, e.g. automatic teller machines
    • G07F19/20—Automatic teller machines [ATMs]

Definitions

  • Self-service terminal with at least one image data-generating camera for detecting tampering attempts
  • the invention relates to a self-service terminal with at least one image data-generating camera according to the preamble of claim 1.
  • the invention relates to a self-service terminal, which is designed as an ATM.
  • the spied out data is then transmitted to a remote receiver via a transmitter built into the keyboard superstructure, or is located in a keyboard overlay Data memory saved.
  • a transmitter built into the keyboard superstructure or is located in a keyboard overlay Data memory saved.
  • Many of today's skimming devices are very difficult to distinguish with the human eye from original controls (keyboard, card reader, etc.).
  • monitoring systems which have one or more cameras which are mounted in the area of the location of the self-service terminal and detect the entire control panel and often also the area of residence of the user.
  • Such a solution is described for example in DE 201 02 477 Ul.
  • the local camera monitoring By means of the local camera monitoring, both the control panel itself and the user's area in front of it can be detected.
  • a sensor is provided in order to distinguish whether a person is in the occupied area.
  • Object of the present invention is to propose a solution for a camera surveillance, which allows a secure detection of manipulation attempts without the use of additional sensors.
  • a high-quality database is to be created and made available for the detection of manipulation attempts.
  • a self-service terminal in which at least one image data-generating camera is provided for monitoring the self-service terminal, wherein for detecting manipulation attempts on the self-service terminal, the at least one camera detects one or more of the elements provided in the control panel and Generates image data from a plurality of still images, and wherein the camera is connected to a data processing unit that preprocesses the generated image data into a result image that is for tamper detection.
  • the at least one camera preferably generates the image data of the individual image recordings as a function of predefinable criteria, in particular at predeterminable time intervals and / or at different exposure ratios or ambient brightnesses. It is also possible to take account of pre-set camera settings, in particular exposure times and / or frame rates.
  • the data processing unit combines this image data (individual image data) by means of image data preprocessing, in particular averaging, median formation and / or so-called exposure blending, to the result image or overall image, which is then available for manipulation recognition. It is also possible to continuously calculate result or overall images (result image sequence) at time intervals in order to then be available for a comparison for the detection of manipulation attempts.
  • At least one further camera may be provided, which is also mounted on or in the self-service terminal in the vicinity of the control panel and at least one of the controls, such. Keyboard, card slot, cash dispenser, recorded.
  • the image data or individual images generated by this additional camera can also be combined together with the image data of the other camera to form a result image or to a result image sequence.
  • the result images obtained from the single image recordings have a significantly higher image data quality than the respective frames.
  • a high quality database in the form of preprocessed image data is provided for tamper detection.
  • the plurality of individual image recordings are created as a function of at least one predefinable function, which specifies different exposure times for the single image recordings. This ensures that no single images are taken with the same exposure time, which in turn is advantageous for exposure blending.
  • the at least one predefinable function corresponds to at least one ramp function which indicates increasing and / or decreasing exposure times for a series of single-image recordings.
  • the ramp can be sloping, ie, the exposure times successively decrease.
  • the total duration of all still images can also be specified and, for example, be 10 seconds.
  • one of the predeterminable functions predetermines the different exposure times such that they lie within a specific range of values, ie, for example, within a first lower value range, which, for example, ranges from 0.5 ms to 1000 ms. This value range is preferably suitable for a so-called day mode, ie for the case in which a brightness and / or contrast value of at least one of the individual image recordings has a predefinable threshold value exceeds.
  • the different exposure times are settled within a second upper value range, for example ranging from 1000 ms to 2000 ms.
  • the functions can also be put together to form a function.
  • the at least one camera generates the image data of the single image recordings as a function of events, in particular of events recorded by the latter or by another camera.
  • Such events may e.g. sudden onset of image lightening or darkening. It can e.g. also be control signals (operation of the keyboard or the like). It may be advantageous if single image recordings are not made (only) during the occurrence of the event, but also afterwards.
  • the data processing unit combines the generated image data of the single image recordings by means of one or more suitable image data processing, such as so-called exposure blending.
  • image data processing such as so-called exposure blending.
  • an image segmentation and / or edge detection can also be used.
  • the data processing unit segments the individual image recordings into a plurality of partial regions assigned to the at least one detected element and processes the individual image data differently in different segments.
  • the data processing unit composes the result image from the subareas of different single-frame images. It can also be provided that the data processing unit processes the image data from the subregions with different image data processing and / or with different variants of image data processing.
  • the partial regions preferably comprise at least one near or inner region and an ambient or outer region of the detected element, such as the slot region and the surrounding region of a card insertion funnel. It can also be provided that one of the partial regions comprises a transition region between the inner region and the outer region of the element.
  • the data processing unit is preferably designed such that it carries out both the image data preprocessing and the actual image data evaluation, ie that it calculates the preprocessed image data of the resulting image from the individual image data and evaluates these by means of image processing for the purpose of detecting manipulation attempts.
  • the data processing unit has a first stage, which receives the preprocessed image data, for the actual image processing or image data evaluation, wherein, in particular, shadow removal, edge detection, vectorization and / or segmentation can be carried out.
  • the data processing unit also has a second stage downstream of the first stage for feature extraction, in particular by means of blob analysis, edge position and / or color distribution.
  • the data processing unit has a third stage downstream of the second stage for classification.
  • the data processing unit is integrated in the self-service terminal.
  • the elements provided in the control panel of the self-service terminal and detected by the at least one camera include e.g. a cashbox, a keyboard, a tray, a card slot, and / or a screen.
  • the data processing unit if it detects a manipulation attempt on the detected elements by means of processing the preprocessed image data of the result image, triggers an alarm, blocks the self-service terminal and / or triggers the additional camera.
  • This additional camera may be a portrait camera, i. a camera which detects the area where a user, in particular his head, is during the operation of the self-service terminal. Thus, if necessary, a portrait of the user can be included.
  • the respective camera and / or the data processing unit is deactivated during the operation and / or maintenance of the self-service terminal.
  • Fig. 1 shows a perspective view of the control panel of a self-service terminal with multiple cameras
  • Fig. 2 shows the detection range of that camera of Fig. 1 which detects the control panel from the side;
  • FIGS. 3a-d show, by way of example, three individual image recordings and a resulting image obtained therefrom;
  • Fig. 4 illustrates an image data preprocessing of a plurality of frames by edge detection and combination into a result image
  • Fig. 5 illustrates image data preprocessing of multiple frames by means of pixel-wise median formation
  • Fig. 6 shows the detection range of that camera of Fig. 1 which detects the control panel from the top;
  • Fig. 7a shows the installation situation of the camera which is integrated in the card input hopper
  • Fig. 7b outputs the detection range of this camera
  • Fig. 8 is a block diagram of a data processing unit connected to a plurality of cameras and a video surveillance unit connected thereto;
  • Fig. 9 illustrates the implementation of
  • Fig. 1 shows a perspective view of the basic structure of a self-service terminal in the form of an ATM ATM.
  • a cash dispenser 1 also called shutter
  • a keyboard 2 i. Controls to which manipulation attempts, e.g. in the form of superstructures, for the purpose of skimming.
  • the ATM ATM is equipped with several cameras for detecting such and similar manipulation attempts.
  • FIG. 1 initially shows those cameras which are mounted at different locations, preferably in the vicinity of the control panel. These are a side camera CAMS, a top view camera CAMD and an additional portrait camera CAMO.
  • the cameras CAMS and CAMD are within a demarcation, framing or the like and are mounted there. Each of these cameras CAMS or CAMD detects in each case from the outside at least one of the elements arranged in the control panel of the ATM, eg the cash dispenser 1 (shutter) and / or the keyboard 2.
  • the lateral camera CAMS preferably detects exactly these two elements 1 and 2;
  • the top view camera CAMD detects further elements (see also FIG. 6).
  • a camera CAMK integrated in the card input hopper 4 also detects the interior of this element. This camera CAMK and her Function will be described later in detail with reference to FIG. 7a / b.
  • the additional CAMO camera is located in the upper one
  • Housing part of the ATM ATM is directed to the area in which the user when operating the
  • CAMO the head or face of the user and is therefore referred to here as a portrait camera.
  • FIG. 2 shows the detection range of the camera CAMS, which is located in a lateral housing part, which frames or surrounds the control panel of the ATM ATM.
  • this camera CAMS is equipped with a wide-angle lens in order to capture at least these two elements or subregions of the control panel.
  • the ATM ATM is designed so that said elements 1 and 2 preferably have the most homogeneous surfaces with these delimiting edges. This simplifies object recognition. By attaching the camera CAMS at this particularly suitable position, the said subareas or elements 1 and 2 can be measured very reliably optical. It can be provided that the camera is focused in particular on certain areas.
  • FIG. 1 Another perspective, namely that of the top view camera CAMD, is illustrated with reference to FIG.
  • the detection field of this camera CAMD is illustrated, which is installed in the upper area of the ATM ATM (see also Fig. 1) and which detects the control panel from above.
  • the Cash dispenser 1 and the keyboard 2 in the detection range of the camera also other elements may be provided, such as a shelf near the keyboard, a card input funnel 4, ie the Zu Offices- part for the card reader, and eg a screen 5 or display.
  • these further mentioned elements 3, 4 and 5 represent potential targets for manipulation attempts.
  • the image data preprocessing proposed here is illustrated in which a result image or also a high-quality result image sequence is calculated in the data processing unit (see also FIG.
  • FIG. 3a-c show by way of example three individual images F1, F2 and F3 taken by the lateral camera CAMS (see FIG. From these, a result image R, which is shown in FIG. 3d, is calculated by means of an image data preprocessing described in more detail later.
  • each of the still images Fl, F2 and F3 contains certain image distortions or aberrations due to, for example, reflection effects, poor ambient light, appearance of foreign objects in the form of persons and / or objects, etc.
  • the first frame was made of bright sunlight, which caused disturbing reflections on the surface of the control panel in the area of the cash dispenser. This is illustrated here by a light beam coming from the left.
  • the frame F2 appears a Person covering the keyboard of the ATM.
  • frame F3 in turn, a foreign object or a foreign object appears in the background.
  • the result image R is combined by combining the individual image data, whereby the interfering effects are detected and eliminated by comparing the individual images with one another.
  • many subregions, except for the reflection region can be utilized from the individual image F1, whereby the individual image F1 reflects particularly well the surface structure of the housing and the operating elements.
  • From the single image F2 also many sub-areas, except for the area of the keyboard and the environment in front of the ATM, can be utilized, in which case in particular the edges of the housing and the operating elements are rendered clearly recognizable.
  • the single image F3 also has many useful portions, in which case in particular the keyboard is reproduced without interference.
  • the result image R can then be calculated from the various subregions and the many image components of the individual images F1 to F3.
  • the result image does not represent a real image acquisition, but corresponds to an optimally calculated image composition that captures the captured area or the operating elements in a form freed from interference shows. This achieves a very high image quality, which clearly exceeds the quality of the individual images. Thus, an optimal basis for the later actual image data evaluation is created.
  • the multiple individual image recordings can be created as a function of at least one predefinable function which specifies different exposure times for the single image recordings. This ensures that no single image recordings are made with the same exposure time, which in turn is advantageous for exposure blending.
  • FIG. 9 schematically shows a row with a plurality of individual image recordings F1 to Fn, wherein it is illustrated there that each individual image recording has a different exposure time T1, T2,... Tn.
  • the row (exposure row) is preferably given in accordance with a monotone decreasing or increasing function, so that the following applies: T1 ⁇ T2 ⁇ T3 ⁇ ... ⁇ Tn.
  • FIGS. 10a) -c) illustrate various functional characteristics, each of which has a specific ramp shape:
  • the upper value range is e.g. up to a min.
  • Exposure time of T 1000 ms.
  • the decision whether to apply the day mode or the night mode may be based on a threshold decision. In this case, the brightness value and / or contrast value of at least one single image acquisition is compared with the threshold value. If the brightness value and / or contrast value is greater than the threshold value, the day mode applies, otherwise the night mode.
  • Fig. 10b illustrates a composite rising ramp that initially sets exposure times in the lower range of values according to the day mode MD. Subsequently, higher exposure times are given in the upper value range corresponding to the night mode.
  • Fig. 10c) shows a rising ramp in which the transition from the day mode function MD to the night mode function MN is overlapping. Many other functional sequences are conceivable and can be adapted to the conditions. In CCTV mode, for example, 2 to 4 frames per second are made.
  • the still images can also be performed depending on lighting conditions.
  • the exposure times may be dependent on various parameters, such as e.g. Location of the ATM (indoor, outdoor), type and / or mounting location of the camera, lighting conditions, etc ..
  • FIG. 4 correspond to schematic representations:
  • FIGS. 1 and 2 three individual image recordings F1 'to F3', which have been recorded at different exposure times by the lateral camera CAMS (see FIGS. 1 and 2), are shown in a first row as subfigures 4al) to 4a3).
  • This first row shows three differently exposed images, namely in al) a very brightly exposed image Fl ', in a2) a normally exposed image F2' and in a3) an underexposed image F3 '.
  • a second row are shown as sub-figures 4bl) to 4b3), the images obtained therefrom by means of edge detection. These edge images shown in bl) to b3) would have to represent white edge progressions on a black background.
  • FIGS. 5a to 5c illustrate a further variant or additional measure for image data preprocessing of individual image recordings F1 ', F2'',F3'', etc.
  • the image data is subjected pixel-wise to a median formation.
  • Fig. 5a) schematically shows the image data for the first pixel in the respective frame.
  • the first pixel in the image Fl has the value” 3 "
  • in the image F2 the value "7” and in the image F3 "the value” 5 ".
  • the next images F4 "and F5" have the value "5" and "4" at the first pixel location, respectively, as illustrated in Fig. 4b)
  • the result for the first pixel is a series or sequence of the following image data values: 7, 3, 5 and 4.
  • the values are resorted according to their size to give the following sequence: 3, 3, 4, 5 and 7.
  • the median of this sequence is thus the value "4".
  • This value is entered into the result image or target image R '' at the first pixel location (see Fig. 4c).
  • the formation of the median value has the advantage over averaging (the average value would be "4.4") that the moving objects possibly present in individual images are completely eliminated.
  • the image data processing which can also take place on the basis of image data of several cameras, is carried out in a data processing unit which also performs the actual image evaluation and which is shown in FIG. 8.
  • FIG. 8 shows the block diagram of a data processing unit 10 according to the invention, to which the cameras CAMS and CAMK are connected, as well as a video surveillance or CCTV unit 20, which is connected to the data processing unit 10.
  • the data processing unit 10 receives the image data D from the camera CAMS and the image data D 'from the camera CAMK. Both cameras take frames at predeterminable time intervals, the recordings being controlled by a pre-stage or control stage ST. In particular, the respective exposure time is predetermined so that a series of individual images (exposure series) is created (see also later description of FIGS. 9 and 10). Then, in a first stage 11, the preprocessing of the frame data follows. There, among other things result images are created on the basis of the image data processing methods or similar methods already described above.
  • the thus prepared image data D * has a very high quality and is then used as input data for a subsequent second stage 12 which serves for feature extraction.
  • a third stage 13 for the classification of the processed input data.
  • the stage 13 is connected to an interface 14, via which various alarm or monitoring devices can be activated or addressed. These devices include, inter alia, a Schmtigschungs concerned. Tamper detection (IFD).
  • IFD anirritable diol
  • the first stage 11 which serves for image preprocessing, is also connected to a second interface 15 via which a connection to the CCTV unit 20 is established. With the help of this CCTV unit, for example, a remote monitoring or remote diagnosis can be performed. The detection of manipulation attempts and the alarming will be described in more detail later.
  • FIG. 7 a illustrates a camera installation situation in which the CAMK camera is integrated directly into the card input funnel 4.
  • the already used illumination L of the card slot can be used.
  • the camera CAMK is mounted laterally by card slot or insertion slot, which is made of a special, light-conducting plastic K.
  • the lighting L is provided by one or more lighting means, e.g. Light emitting diodes realized, wherein the light generated via the photoconductive plastic K to the actual insertion slot out to illuminate this.
  • the light can be guided coming from above and below, so that the card slot is illuminated as evenly as possible.
  • the generated light can be optimally adapted in intensity to the requirements.
  • the light can be colored by the use of colored LEDs and / or color filters to be adapted in particular to the requirements of the camera CAMK.
  • predefinable subregions are detected and optically measured. This allows deviations from reference values (normal state with regard to image composition, image content, weighting of pixel areas, etc.) quickly and reliably be recognized.
  • different image processing methods algorithms
  • image processing steps routines
  • FIG. 7b illustrates the detection area of the camera CAMK segmented into different partial areas, and clearly shows that this is essentially subdivided into three partial areas I, II and III.
  • the first subarea I primarily detects the inner area of the card input funnel, ie the actual card slot, the subarea III detects the outer area of the card entry funnel and subarea II detects the intermediate transition area.
  • the following advantages of the construction and installation method described here become clear:
  • the camera CAMK is here aligned so that the sub-area III also a person in front of the ATM are located (users or attackers) are detected can.
  • This image data can be compared, in particular, with those of the portrait camera CAMO (see Fig. 1).
  • the camera CAMK is preferably installed on the same side of the terminal as the camera CAMS, so that the image data of these two cameras can also be compared.
  • the illumination L (see Fig. 7a) is used to achieve the best possible illumination for the image recordings.
  • a colored illumination in the green area is particularly advantageous because the image sensors or CCD sensors of camera are particularly sensitive to green shades and have the greatest resolution.
  • the lighting L improves the object recognition, especially in low light conditions (location, night time, etc.).
  • the illumination overcomes any reflections from external light (e.g., sunlight) on a superstructure to be detected.
  • the already provided lighting L of the card insertion funnel is a reliable light source for the camera CAMK.
  • the actual card slot here has a different color than the card input hopper, so that a larger contrast difference is given, which improves the image analysis.
  • the data processing unit (see Fig. 8) consists essentially of the following three stages: an image processing stage for preprocessing the incoming images or data (eg, for shadow removal, edge detection, segmentation) of a feature extraction stage (by blob analysis, edge position analysis, color distribution, etc.) of a classification stage (for identifying recognition features for manipulations)
  • an image processing stage for preprocessing the incoming images or data (eg, for shadow removal, edge detection, segmentation) of a feature extraction stage (by blob analysis, edge position analysis, color distribution, etc.) of a classification stage (for identifying recognition features for manipulations)
  • Fig. 8 The data processing will be described later in more detail with reference to Fig. 8 and may be e.g. be realized on a PC.
  • the CAMK camera is designed here as a color camera with a minimum resolution of 400x300 pixels. In the case of saturated illumination, it is thus possible in particular to use a color value distribution-based method for detecting superstructures and the like.
  • the camera CAMK has a wide-angle lens, so that the outside area (sub-area III in FIG. 7b) is also well detected.
  • At least the cameras mounted in the vicinity of the control panel are CAMS; CAMD and CAMK are connected to the data processing unit 10 (see FIG. 8) in order to significantly improve the detection of manipulations by combining image data.
  • This data processing unit described later makes it possible to optimally evaluate the image data generated by the camera in order to immediately detect a manipulation attempt, such as a superstructure of the keyboard 2 or a manipulation on one of the cameras, and if necessary to trigger alarms and deactivations.
  • the following manipulations can be reliably detected, among others: - Attaching a keyboard superstructure
  • FIG. 8 shows the block diagram of a data processing unit 10 according to the invention, to which the cameras CAMS and CAMK are connected, as well as a video surveillance or CCTV unit 20, which is connected to the data processing unit 10.
  • the data processing unit 10 has in particular the following stages or modules:
  • a pre-stage or control stage ST controls the single-frame images from the cameras to frame data D or D 'to produce, from which then by means of the above-described method preprocessed image data D * can be calculated for the actual data evaluation.
  • a first stage 11 for image processing thereof, a second stage 12 for feature extraction and a third stage 13 for the classification of the processed data are provided.
  • the stage 13 is connected to an interface 14, via which various alarm or monitoring devices can be activated or addressed. These devices include, inter alia, a Schmtigschungs, St. Tamper detection (IFD).
  • IFD anirritable diode
  • the first stage 11, which serves for image processing, is also connected to a second interface 15 via which a connection to the CCTV unit 20 is established. With the help of this CCTV unit, for example, a remote monitoring or remote diagnosis can be performed.
  • the control stage ST is responsible for the control of the cameras CAMS and CAMK for generating the individual image data D or D '.
  • the subsequent first stage 11 calculates therefrom the prepared image data D * (calculated total image data), wherein in particular measures such as shadow removal, edge detection, vectorization and / or segmentation are performed.
  • the downstream second stage 12 serves the feature extraction, which can be carried out for example by means of a so-called Blobanalysis, an edge positioning and / or a color distribution.
  • Blob analysis is used to detect contiguous regions in an image and to make measurements on the blobs.
  • a Blob (Binary Large Object) is an area of adjacent pixels with it logical state. All the pixels in a picture belonging to a blob are in the foreground. All other pixels are in the background. In a binary image, pixels in the background have values that correspond to zero, while every pixel other than zero is part of a binary object.
  • a classification is made which determines whether or not an enemy manipulation has occurred at the self-service terminal ATM on the basis of the extracted features.
  • the data processing unit 10 can be realized, for example, by means of a personal computer which is connected to the ATM ATM or which is integrated therein.
  • the additional camera CAMO can also be mounted on the ATM ATM (see Fig. 1), which is directed to the user or customer and in particular detects his face.
  • This additional, also known as a portrait camera, camera CAMO can be triggered upon detection of a tampering attack to make a picture of the person located at the ATM. For example, once a skimming attack is detected, the described system can perform the following actions:
  • the size and nature of the actions taken or countermeasures can be configured by the operator of the ATM via the system described here.
  • the cameras CAMS and CAMD detecting the control panel from the outside and the camera CAMK e.g. the card entry funnel from inside detected.
  • an additional portrait camera can be installed (see CAMO in Fig. 1).
  • the cameras CAMS and CAMD are used on the control panel and the camera CAMK in the card input.
  • the portrait camera CAMO is also used.
  • all cameras have a resolution of at least 2 megapixels.
  • the lenses used have a viewing angle of about 140 degrees and more.
  • the exposure time of the cameras used in a wide range for example, 0.25 msec. up to 8,000 msec. freely adjustable. This allows adaptation to a wide variety of lighting conditions.
  • Applicant's experiments have shown that a camera resolution of about 10 pixels per degree can be achieved. Based on a distance of one meter, an accuracy of 1.5 mm per pixel can be achieved. This, in turn, means that manipulation starts at one Reference deviation of already 2 to 3 mm can be reliably detected. The closer the camera lens is to the detected element or object, the more accurate the measurement can be. Thus, in closer areas even an accuracy of less than 1 mm can be achieved.
  • the detection of the cash dispenser (shutter) 1 makes it possible to check manipulations in the form of so-called cash trappers, i. special superstructures.
  • the detection of the keypad makes it possible to determine there manipulation attempts by superstructures or changes to light protection measures and the like.
  • the detection of the support surface makes it possible in particular to detect complete overbuilding.
  • the detection of the card input funnel 4, in particular by a camera integrated therein, makes it possible to detect local manipulations.
  • Deviations at the rear outer edge of the support surface can be detected as early as 4 mm. Deviations at the lower edge of the shutter can already be detected from 8 mm.
  • the data processing unit 10 performs, in particular, a comparison of the recorded image data D with reference data. In this case, in particular, an image of the outside area can be examined for its homogeneity and compared with the image of the outside area of the control panel camera.
  • the image data of the various cameras CAMS, CAMD and / or CAMK are compared with each other, e.g. determine if any of the cameras have been tampered with. If, for example, the CAMD camera has been covered, the result is a discrepancy with the images of the other cameras. In particular, it can be determined very quickly on the basis of the image brightness whether a darkening occurs only on a single camera, so that a manipulation or cover of this camera is to be assumed. The combination and evaluation of several camera signals or image data increases the robustness of the manipulation monitoring and the avoidance of false alarms.
  • the image data or information can also be used as follows:
  • the system detects a tampering attempt.
  • the camera integrated therein displays another image (in particular with respect to the outside area) than the other cameras (see CAMS, CAMD in Fig. 1).
  • the connection of the system to the Internet via the interface 23 makes it possible to remotely control the camera or the various cameras.
  • the acquired image data can also be transmitted via the Internet connection to a video server.
  • the respective camera virtually acts as a virtual IP camera.
  • the CCTV unit 20 described above is used for such a video surveillance facility, wherein the interface 15 to the CCTV unit is designed for the following functions:
  • the system is designed so that no false alarms are generated by hands and / or objects in the picture during normal operation (eg withdrawing money, checking account balance, etc.). Therefore, the tamper detection in the period of a normal Machine usage disabled. Also, in time periods in which, for example, a cleaning or a short-term other use (storage of account statements, interactions before and after the start of a transaction) are not used for tamper detection. Essentially, therefore, only rigid and immovable manipulation attempts are preferably analyzed and recognized.
  • the system is designed to work in a wide variety of lighting conditions (day, night, rain, cloudy, etc.). Also, briefly changing light conditions, such as light reflections, shadows and the like, are compensated or ignored during image processing to avoid a false alarm. In addition, technically occurring events, such as the failure of a lighting and the like, are taken into account. These and other special cases are recognized and solved in particular by the third stage for classification.
  • the method for manipulation detection performed by the described system has in particular the following sequence (see also FIG.
  • preprocessed total image data D * are calculated from the original frame data D or D ', which serve as the basis for the actual evaluation of the data.
  • a picture is taken in a first step, wherein the camera parameters are adjusted to produce suitable recordings.
  • a series of images or corresponding image data D or D ' is recorded, which then serve as the basis or reference for the preprocessing.
  • a further processing of the image data whereby these are processed so that they are as well suited for the evaluation.
  • several images are combined to form a target image and optimized by means of image enhancement algorithms.
  • the following steps are carried out:
  • Shadow removal, removal of moving objects, removal of noise and / or summary of various exposed shots are annoying and/or recommended to be used as a background.
  • the cameras are u.a. set to different exposure times to remove reflections and to collect well-lit areas. Preferably, the images are collected over a predetermined period of time to obtain the best possible output images for manipulation detection.
  • These steps can be performed by means of the recording control ST in the first stage 11.
  • a feature extraction (step 12) is carried out for the actual data evaluation, in which image analysis methods are carried out on the preprocessed images or image data in order to check these for certain features, such as e.g. on edge positions or color distributions.
  • a number or a value can be specified, which indicates how well the corresponding feature was found again in the viewed image.
  • the values are summarized in a so-called feature vector.
  • a classification is performed (step 13), ie the feature vector is passed to a classification procedure to make a decision to determine whether there is a manipulation or not. It also uses those types of classifiers that can indicate the confidence, ie probability or certainty, of the decision. Classification mechanisms used can be, for example:
  • the system described herein is preferably modular in design to allow for different configurations.
  • the actual image processing and the CCTV connection are realized in different modules (see FIG. 4).
  • the system presented here is also suitable for documenting the detected manipulations or digitally archiving them.
  • the captured images are provided with corresponding meta information, such as. Timestamp, type of manipulation, etc., stored on a hard disk in the system or in a connected PC.
  • messages may be forwarded to a platform, e.g. Error messages, status messages (deactivation, mode change), statistics, suspected manipulation and / or alarm messages.
  • a corresponding message with the respective alarm level can be forwarded to the administration interface or the interface.
  • the following options are also implemented at this interface:
  • Query of camera data such as number of cameras, construction status, serial number, etc., camera master data or Set camera parameters and / or register for alarms (notifications).
  • the invention presented here is particularly suitable for carrying out hostile manipulations on a self-service terminal, such as e.g. at an ATM, reliable to recognize.
  • the control panel is continuously and automatically monitored by at least one camera.
  • the elements detected by the camera are optically measured in order to detect deviations from reference data. It has been shown that even deviations in the millimeter range can be reliably detected.
  • a combination of edge detection and segmentation is preferably used, so that contours of left objects can be clearly recognized and marked. In the case of a manipulation attempt countermeasures or actions can be triggered.
  • the invention significantly increases the reliability with which manipulations can be detected.
  • the invention has the following camera arrangement:
  • the cameras are connected to the described data processing unit.
  • Within the data processing unit are those of the cameras obtained image data or information among other things used as follows:
  • the built-in CAMK camera displays a different image of the outside area than the other cameras do.
  • the preprocessing of the camera image data described here leads to an increase in the reliability of the subsequent data evaluation for the detection of manipulation attempts and accordingly also serves to avoid false alarms.
  • a self-service terminal which has at least one camera for detecting tampering attempts, which detects one or more elements provided in the control panel, such as a keyboard, cash dispenser, card slot, and generates image data from a plurality of single image recordings.
  • the at least one camera is connected to a data processing unit, which preprocesses the generated image data (single image data) into a result image.
  • the preprocessed image data of the result image can, for example are calculated by exposure blending from the frame data and provide a very good database for a data analysis for tamper detection.
  • the present invention has been described using the example of an ATM, but is not limited thereto, but can be applied to any type of self-service terminals.
  • ATM self-service terminal designed as an ATM, with a control panel CP, ia. includes: 1 cash dispenser, 2 keypads, 3 storage shelves,
  • Video surveillance or CCTV unit with:

Abstract

Vorgeschlagen wird ein Selbstbedienungsterminal, das zum Erkennen von Manipulationsversuchen mindestens eine Kamera aufweist, die ein oder mehrere der im Bedienfeld vorgesehenen Elemente, wie z.B. Tastatur, Geldausgabefach, Karteneinschubtrichter, erfasst und Bilddaten von mehreren Einzelbildaufnahmen (F1, F2, F3) erzeugt. Die mindestens eine Kamera ist mit einer Datenverarbeitungseinheit verbunden, die die erzeugten Bilddaten (Einzelbilddaten) zu einem Ergebnisbild (R) vorverarbeitet. Die vorverarbeiteten Bilddaten des Ergebnisbildes (R) können z.B. mittels Exposure Blending aus den Einzelbildern (F1, F2, F3) berechnet werden und stellen eine sehr gute Datenbasis für eine Datenauswertung zur Manipulationserkennung dar.

Description

Selbstbedienungsterminal mit mindestens einer Bilddaten erzeugenden Kamera zum Erkennen von Manipulationsversuchen
Die Erfindung betrifft ein Selbstbedienungsterminal mit mindestens einer Bilddaten erzeugenden Kamera nach dem Oberbegriff des Anspruchs 1. Insbesondere betrifft die Erfindung ein Selbstbedienungsterminal, das als Geldautomat ausgestaltet ist.
Im Bereich von Selbstbedienungsautomaten, insbesondere Geldautomaten, werden häufig kriminelle Handlungen in Form von Manipulationen vorgenommen, die das Ziel verfolgen, sensitive Daten, insbesondere PINs (Personal Identification Numbers) und/oder Kartennummern, von Nutzern des Selbstbedienungsterminals auszuspähen. Insbesondere sind Manipulationsversuche bekannt, bei denen sogenannte Skimming- Vorrichtungen, wie beispielsweise Tastaturüberbauten und dergleichen, im Bedienbereich bzw. Bedienfeld widerrechtlich installiert werden. Solche Tastaturüberbauten verfügen häufig über eine eigene Stromversorgung, sowie einen Prozessor, einen Speicher und ein Betriebsprogramm, sodass ein ahnungsloser Nutzer bei Eingabe seiner PIN oder beim Einführen seiner Bankkarte ausgespäht wird. Die ausgespähten Daten werden dann über einen in dem Tastaturüberbau integrierten Sender an einen entfernten Empfänger übertragen oder werden in einem im Tastaturüberbau befindlichen Datenspeicher gespeichert. Viele der heutzutage anzutreffenden Skimming-Vorrichtungen können nur sehr schwer mit dem menschlichen Auge von originalen Bedienelementen (Tastatur, Kartenleser usw.) unterschieden werden.
Um derartige Manipulationsversuche zu vereiteln, werden häufig Überwachungssysteme eingesetzt, die eine oder mehrere Kameras aufweisen, welche im Bereich des Standortes des Selbstbedienungsterminals montiert sind und das gesamte Bedienfeld und häufig auch den Aufenthaltsbereich des Nutzers erfassen. Eine solche Lösung ist beispielsweise in der DE 201 02 477 Ul beschrieben. Mittels der dortigen Kamera- Überwachung kann sowohl das Bedienfeld selbst wie auch der davor liegende Aufenthaltsbereich des Nutzers erfasst werden. Um zu unterscheiden, ob eine Person sich im Aufenthaltsbereich befindet, ist noch ein Sensor vorgesehen.
Aufgabe der vorliegenden Erfindung ist es, eine Lösung für eine Kamera-Überwachung vorzuschlagen, die auch ohne Einsatz einer zusätzlichen Sensorik ein sicheres Erkennen von Manipulationsversuchen erlaubt. Dabei soll eine qualitativ hochwertige Datenbasis geschaffen und für die Erkennung von Manipulationsversuchen bereitgestellt werden.
Gelöst wird die Aufgabe durch eine Vorrichtung mit den Merkmalen des Anspruchs 1.
Demnach wird ein Selbstbedienungsterminal vorgeschlagen, bei dem mindestens eine Bilddaten erzeugende Kamera zur Überwachung des Selbstbedienungsterminals vorgesehen ist, wobei zum Erkennen von Manipulationsversuchen an dem Selbstbedienungsterminal die mindestens eine Kamera ein oder mehrere der im Bedienfeld vorgesehenen Elemente erfasst und Bilddaten von mehreren Einzelbildaufnahmen erzeugt, und wobei die Kamera mit einer Datenverarbeitungseinheit verbunden ist, die die erzeugten Bilddaten zu einem Ergebnisbild vorverarbeitet, das für eine Manipulationserkennung dient. Vorzugsweise erzeugt die mindestens eine Kamera die Bilddaten der Einzelbildaufnahmen in Abhängigkeit von vorgebaren Kriterien, insbesondere in vorgebbaren Zeitintervallen und/oder bei verschiedenen Belichtungsverhältnissen bzw. Umgebungshelligkeiten. Auch können vorgebare Kamera- einstellungen, insbesondere Belichtungszeiten und/oder Bildraten, berücksichtigt werden. Die Datenverarbeitungseinheit kombiniert diese Bilddaten (Einzelbilddaten) mittels einer Bilddatenvorverarbeitung, insbesondere einer Mittelwertbildung, einer Medianbildung und/oder eines sog. Exposure Blendings, zu dem Ergebnisbild bzw. Gesamtbild, welches dann für eine Manipulationserkennung zur Verfügung steht. Es können auch in Zeitintervallen fortlaufend Ergebnis- bzw. Gesamtbilder (Ergebnis-Bildfolge) berechnet werden, um dann für einen Vergleich zum Erkennen von Manipulationsversuchen zur Verfügung zu stehen.
Auch kann zumindest eine weitere Kamera vorgesehen sein, die ebenfalls an oder in dem Selbstbedienungsterminal im Nahbereich des Bedienfeldes montiert ist und mindestens eines der Bedienelemente, wie z.B. Tastatur, Karteneinschubtrichter, Geldausgabefach, erfasst. Auch die von dieser zusätzlichen Kamera erzeugten Bilddaten bzw. Einzelaufnahmen können zusammen mit den Bilddaten der anderen Kamera zu einem Ergebnisbild bzw. zu einer Ergebnis-Bildfolge kombiniert werden.
Die aus den Einzelbildaufnahmen gewonnenen Ergebnisbilder weisen eine deutlich höhere Bilddatenqualität als die jeweiligen Einzelbilder auf. Somit wird für die Manipulationserkennung eine Datenbasis hoher Güte in Form von vorverarbeiteten Bilddaten bereit gestellt.
Dabei kann es vorteilhaft sein, wenn die mehreren Einzelbildaufnahmen in Abhängigkeit von mindestens einer vorgebbaren Funktion erstellt werden, die für die Einzelbildaufnahmen unterschiedliche Belichtungszeiten angibt. Somit wird sichergestellt, dass keine Einzelbildaufnahmen mit derselben Belichtungszeit erfolgen, was wiederum für ein Exposure Blending vorteilhaft ist. In diesem Zusammenhang kann vorgesehen sein, dass die mindestens eine vorgebbare Funktion mindestens einer Rampenfunktion entspricht, die für eine Reihe von Einzelbildaufnahmen ansteigende und/oder abfallende Belichtungszeiten angibt. Demnach wird also beispielsweise bei der ersten Einzelbildaufnahme mit der kürzesten Belichtungszeit von z.B. 0,5 ms begonnen und bei den nachfolgenden Aufnahmen die Belichtungszeit sukzessive erhöht, bis bei der letzten Aufnahme eine max . Belichtungszeit von z.B. 2000 ms erreicht wird. Alternativ kann die Rampe abfallend verlaufen, d.h. das die Belichtungszeiten sukzessive abnehmen. Die Gesamtdauer aller Einzelbildaufnahmen kann auch vorgegeben werden und z.B. 10 Sek. betragen. Es ist auch von Vorteil, wenn eine der vorgebbaren Funktionen die unterschiedlichen Belichtungszeiten so vorgibt, dass sie innerhalb eines bestimmten Wertebereiches liegen, also z.B. innerhalb eines ersten unteren Wertebereiches, der von beispielsweise von 0,5 ms bis 1000 ms geht. Dieser Wertebereich kommt bevorzugt für einen sog. Tagmodus in Frage, d.h. für den Fall, dass ein Helligkeits- und/oder Kontrastwert von mindestens einer der Einzelbildaufnahmen einen vorgebbaren Schwellwert überschreitet. Im sog. Nachtmodus, d.h. wenn ein Helligkeits- und/oder Kontrastwert von mindestens einer der Einzelbildaufnahmen einen vorgebbaren Schwellwert unterschreitet, werden die unterschiedlichen Belichtungs- zeiten innerhalb eines zweiten oberen Wertebereiches angesiedelt, der z.B. von 1000 ms bis 2000 ms reicht. Die Funktionen können auch zu einem Funktionsverlauf zusammengesetzt werden.
Diese und weitere besonders vorteilhafte Ausgestaltungen ergeben sich auch aus den Unteransprüchen.
Demnach ist es auch von Vorteil, wenn die mindestens eine Kamera abhängig von Ereignissen, insbesondere von durch diese oder durch eine andere Kamera erfassten Ereignissen, die Bilddaten der Einzelbildaufnahmen erzeugt. Solche Ereignisse können z.B. plötzlich auftretende Bildaufhellungen oder - abdunkelungen sein. Es können z.B. auch Bediensignale (Betätigung der Tastatur oder dergleichen) sein. Dabei kann es vorteilhaft sein, wenn Einzelbildaufnahmen nicht (nur) während des Auftretens des Ereignisses, sondern auch danach gemacht werden.
Vorzugsweise kombiniert die Datenverarbeitungseinheit die erzeugten Bilddaten der Einzelbildaufnahmen mittels einer oder mehrerer geeigneter Bilddatenverarbeitungen, wie z.B. dem sog. Exposure Blending. Dabei kann auch eine Bild- Segmentierung und/oder Kantendetektion zum Einsatz kommen. Auch in diesem Zusammenhang ist es von Vorteil, wenn die Datenverarbeitungseinheit die Einzelbildaufnahmen in mehrere dem mindestens einem erfassten Element zugeordnete Teilbereiche segmentiert und die Einzelbilddaten segmentweise verschiedenartig verarbeitet. Dabei kann vorgesehen sein, dass die Datenverarbeitungseinheit das Ergebnisbild aus den Teilbereichen verschiedener Einzelbildaufnahmen zusammensetzt. Auch kann vorgesehen sein, dass die Datenverarbeitungseinheit die Bilddaten aus den Teilbereichen mit unterschiedlichen Bilddatenverarbeitungen und/oder mit verschiedenen Varianten einer Bilddatenverarbeitung verarbeitet. Die Teilbereiche umfassen vorzugsweise zumindest einen Nah- oder Innenbereich und einen Umgebungs- oder Außenbereich des erfassten Elementes, wie z.B. den Schlitzbereich und den Umgebungsbereich eines Karteneinschubtrichters. Auch kann vorgesehen sein, dass einer der Teilbereiche einen Übergangsbereich zwischen dem Innenbereich und dem Außenbereich des Elementes umfasst.
Die Datenverarbeitungseinheit ist vorzugsweise so ausgestaltet, dass sie sowohl die Bilddatenvorverarbeitung wie auch die eigentliche Bilddatenauswertung durchführt, d.h. dass sie aus den Einzelbilddaten die vorverarbeiteten Bilddaten des Ergebnisbildes berechnet und diese zur Erkennung von Manipulationsversuchen mittels einer Bildverarbeitung auswertet. Dazu verfügt die Datenverarbeitungseinheit über eine die vorverarbeiteten Bilddaten empfangende erste Stufe zur eigentlichen Bildverarbeitung bzw. Bilddatenauswerten, wobei insbesondere eine Schattenentfernung, Kantendetektion, Vektorisierung und/oder Segmentierung durchgeführt werden kann. Auch weist die Datenverarbeitungseinheit eine der ersten Stufe nachgeschaltete zweite Stufe zur Merkmalsextraktion, insbesondere mittels Blobanalyse, Kantenposition und/oder Farbverteilung, auf. Zudem weist die die Datenverarbeitungseinheit eine der zweiten Stufe nachgeschaltete dritte Stufe zur Klassifikation auf. Vorzugsweise ist die Datenverarbeitungseinheit in das Selbstbedienungsterminal integriert .
Die in dem Bedienfeld des Selbstbedienungsterminals vorgesehenen und von der mindestens einen Kamera erfassten Elemente umfassen z.B. ein Geldausgabefach, eine Tastatur, eine Ablagefläche, einen Karteneingabetrichter und/oder einen Bildschirm. Es ist auch vorgesehen, dass die Datenverarbeitungseinheit, wenn sie mittels der Verarbeitung der vorverarbeiteten Bilddaten des Ergebnisbildes einen Manipulationsversuch an den erfassten Elementen erkennt, einen Alarm auslöst, das Selbstbedienungsterminal sperrt und/oder die zusätzliche Kamera auslöst. Bei dieser zusätzlichen Kamera kann es sich um eine Portrait-Kamera handeln, d.h. um eine Kamera die denjenigen Bereich erfasst, an dem ein Benutzer, insbesondere sein Kopf, sich während der Bedienung des Selbstbedienungsterminals befindet. Somit kann im Bedarfsfall auch ein Portrait des Nutzers aufgenommen werden. Auch ist vorgesehen, dass die jeweilige Kamera und/oder die Datenverarbeitungseinheit während der Bedienung und/oder Wartung des Selbstbedienungsterminals deaktiviert ist.
Die Erfindung und die sich daraus ergebenen Vorteile werden nachfolgend anhand von Ausführungsbeispielen und unter Bezugnahme auf die beiliegenden schematischen Zeichnungen beschrieben, die folgendes darstellen:
Fig. 1 zeigt eine perspektivische Ansicht auf das Bedienfeld eines Selbstbedienungsterminals mit mehreren Kameras; Fig. 2 gibt den Erfassungsbereich derjenigen Kamera aus Fig. 1 wieder, die das Bedienfeld von der Seite erfasst;
Fig. 3a-d zeigen beispielhaft drei Einzelbildaufnahmen und ein daraus gewonnenes Ergebnisbild;
Fig. 4 veranschaulicht eine Bilddaten-Vorverarbeitung von mehreren Einzelbildern mittels Kantendetektion und Kombination zu einem Ergebnisbild;
Fig. 5 veranschaulicht eine Bilddaten-Vorverarbeitung von mehreren Einzelbildern mittels einer pixelweisen Median-Bildung;
Fig. 6 gibt den Erfassungsbereich derjenigen Kamera aus Fig. 1 wieder, die das Bedienfeld von Oben erfasst;
Fig. 7a zeigt die Einbaussituation derjenigen Kamera, die in den Karteneingabetrichter integriert ist;
Fig. 7b gibt den Erfassungsbereich dieser Kamera aus
Fig. 7a wieder;
Fig. 8 zeigt ein Blockschaltbild für eine mit mehreren der Kameras verbundener Datenverarbeitungseinheit und damit verbundener Videoüberwachungs-Einheit;
Fig. 9 veranschaulicht die Durchführung von
Einzelbildaufnahmen entsprechend einer vorgebbaren Belichtungsreihe; und Fig. 10a)-c) zeigen dazu verschiedene Funktionsverläufe in
Form von abfallenden und/oder ansteigenden Rampen.
Die Fig. 1 zeigt in einer perspektivischen Ansicht den prinzipiellen Aufbau eines Selbstbedienungsterminals in Gestalt eines Geldautomaten ATM. Zu dem Bedienfeld des Geldautomaten ATM gehören insbesondere ein Geldausgabefach 1, auch Shutter genannt, sowie eine Tastatur 2, d.h. Bedienelemente, an denen bevorzugt Manipulationsversuche, z.B. in Form von Überbauten, zwecks Skimming auftreten können. Der Geldautomaten ATM ist mit mehreren Kameras zum Erkennen solcher und ähnlicher Manipulationsversuchen ausgestattet .
Die Fig. 1 zeigt zunächst diejenigen Kameras, welche an verschiedenen Stellen, vorzugsweise im Nahbereich des Bedienfeldes, montiert sind. Dabei handelt es sich um eine seitliche Kamera CAMS, eine Draufsicht-Kamera CAMD und eine zusätzliche Portrait-Kamera CAMO.
Die Kameras CAMS und CAMD befinden sich innerhalb einer Abgrenzung, Umrahmung oder dergleichen und sind dort montiert. Jede dieser Kameras CAMS oder CAMD erfasst jeweils von Außen zumindest eines der im Bedienfeld des Geldautomaten angeordneten Elemente, also z.B. das Geldausgabefach 1 (Shutter) und/oder die Tastatur 2. Die seitliche Kamera CAMS erfasst vorzugsweise genau diese beiden Elemente 1 und 2; die Draufsicht-Kamera CAMD erfasst darüber hinaus noch weitere Elemente (siehe auch Fig. 6) . Hingegen erfasst eine in dem Karteneingabetrichter 4 integrierte Kamera CAMK auch den Innenbereich dieses Elements. Diese Kamera CAMK und ihre Funktion werden später noch im Detail anhand der Fig. 7a/b beschrieben.
Neben den unmittelbar am oder im Bedienfeld angeordneten Kamera befindet sich die zusätzliche Kamera CAMO im oberen
Gehäuseteil des Geldautomaten ATM und ist auf den Bereich gerichtet, in dem sich der Nutzer beim Bedienen des
Geldautomaten befindet. Insbesondere erfasst diese Kamera
CAMO den Kopf bzw. das Gesicht des Nutzers und wird deshalb hier auch als Portraitkamera bezeichnet.
Die Figur 2 zeigt den Erfassungsbereich der Kamera CAMS, welche sich in einem seitlichen Gehäuseteil befindet, der das Bedienfeld des Geldautomaten ATM umrahmt bzw. einfasst. Im Blickwinkel dieser seitlichen Kamera CAMS befinden sich insbesondere das Geldausgabefach 1 und die Tastatur 2. Insbesondere diese Kamera CAMS ist mit einem Weitwinkelobjektiv ausgestattet, um zumindest diese beiden Elemente bzw. Teilbereiche des Bedienfeldes zu erfassen. Der Geldautomat ATM ist dabei so beschaffen, dass die genannten Elemente 1 und 2 vorzugsweise möglichst homogene Flächen mit diese abgrenzenden Kanten aufweisen. Dadurch wird eine Objekterkennung vereinfacht. Durch Anbringung der Kamera CAMS an dieser besonders geeigneten Position können die genannten Teilbereiche bzw. Elemente 1 und 2 sehr zuverlässig optische vermessen werden. Es kann vorgesehen werden, dass die Kamera insbesondere auf bestimmte Bereiche scharf eingestellt ist.
Ein anderer Blickwinkel, nämlich der der Draufsicht-Kamera CAMD, wird anhand der Figur 6 verdeutlicht. Hier wird das Erfassungsfeld dieser Kamera CAMD veranschaulicht, die im oberen Bereich des Geldautomaten ATM installiert ist (s. auch Fig. 1) und die das Bedienfeld von oben erfasst. Neben dem Geldausgabefach 1 und der Tastatur 2 können in dem Erfassungsbereich der Kamera auch noch weitere Elemente vorgesehen sein, wie z.B. eine Ablagefläche in Nähe der Tastatur, ein Karteneingabetrichter 4, d.h. das Zuführungs- teil für den Kartenleser, sowie z.B. ein Bildschirm 5 bzw. Display. Auch diese weiteren genannten Elemente 3, 4 und 5 stellen potentielle Ziele für Manipulationsversuche dar.
Insbesondere anhand der Fig. 3 bis 5 wird die hier vorgeschlagene Bilddaten-Vorverarbeitung veranschaulicht, bei in der Datenverarbeitungseinheit (s. auch Fig. 8) aus mehreren Einzelbildaufnahmen ein Ergebnisbild oder auch eine Ergebnis-Bildfolge hoher Qualität berechnet wird.
Die Fig. 3a-c zeigen beispielhaft drei von der seitlichen Kamera CAMS (vergl. Fig. 2) zu unterschiedlichen Zeitpunkten aufgenommene Einzelbilder Fl, F2 und F3. Aus diesen wird mittels einer noch später näher beschriebenen Bilddaten- vorverarbeitung ein Ergebnisbild R berechnet, das in der Fig. 3d dargestellt ist.
Wie anhand der Fig. 3a bis 3c zu sehen ist, enthält jedes der Einzelbildaufnahmen Fl, F2 und F3 gewisse Bildstörungen bzw. Bildfehler aufgrund von z.B. Reflexionseffekten, schlechtem ümgebungslicht, Erscheinen von Fremdobjekten in Gestalt von Personen und/oder Gegenständen usw.. Es handelt sich hier um schematische Darstellungen, die die jeweilige Aufnahmesituation verdeutlichen sollen. Beispielsweise wurde die erste Einzelbildaufnahme Fl bei einstrahlendem Sonnenlicht gemacht, das auf der Oberfläche des Bedienfeldes im Bereich des Geldausgabefaches störende Reflexionen verursachte. Dies wird hier durch einen von links kommenden Lichtstrahl veranschaulicht. Im Einzelbild F2 erscheint eine Person, die die Tastatur des Geldautomaten abdeckt. Im Einzelbild F3 wiederum erscheint im Hintergrund ein Fremdobjekt bzw. ein fremder Gegenstand. Somit weist jedes der Einzelbilder für die eigentliche Bildverarbeitung zur Erkennung von Manipulationsversuchen Schwachpunkte auf, die aber durch die hier beschriebene Bilddatenvorverarbeitung weitestgehend ausgeräumt werden können. Im Ergebnis entsteht ein berechnetes Gesamtbild R (s. Fig. 3d) , welches das Bedienfeld und die dort vorhandenen Bedienelemente möglichst störungsfrei und mit sehr hoher Bildqualität wiedergibt.
Das Ergebnisbild R wird durch Kombination der Einzelbilddaten zusammen gesetzt, wobei durch Vergleich der Einzelbilder untereinander die störenden Effekte erkannt und eliminiert werden. Beispielsweise können aus dem Einzelbild Fl viele Teilbereiche, außer dem Reflexionsbereich, verwertet werden, wobei das Einzelbild Fl besonders gut die Oberflächenstruktur des Gehäuses und der Bedienelemente wiedergibt. Aus dem Einzelbild F2 können ebenfalls viele Teilbereiche, bis auf den Bereich der Tastatur und der Umgebung vor dem Geldautomaten, verwertet werden, wobei hier insbesondere die Kanten des Gehäuses und der Bedienelemente gut erkennbar wiedergegeben sind. Das Einzelbild F3 hat auch viele verwertbare Teilbereiche, wobei hier insbesondere die Tastatur störungsfrei wiedergegeben ist.
Aus den verschiedenen Teilbereichen und den vielen Bildkomponenten der Einzelbilder Fl bis F3 kann dann das Ergebnisbild R berechnet werden. Im Gegensatz zu den Einzelbildern gibt das Ergebnisbild keine reale Bildaufnahme wieder, sondern entspricht einer optimal berechneten Bildkomposition, die den erfassten Bereich bzw. die Bedienelemente in einer von Störeffekten befreiten Form zeigt. Dabei wird eine sehr hohe Bildqualität erreicht, die die Qualität der Einzelbilder deutlich übertrifft. Somit wird eine optimale Ausgangsbasis für die spätere eigentliche Bilddatenauswertung geschaffen.
Zur Vorverarbeitung der Bilddaten können an sich aus anderen Bereichen bekannte Verfahren, wie z.B. das sog. Exposure Blending, verwendet werden. Dabei werden mit unterschiedlichen Belichtungszeiten aufgenommene Einzelbilder so kombiniert, dass über- und unterbelichtete Bereiche weitgehend vermieden werden und mehr Details erhalten bleiben. Die einzelnen Aufnahmen einer Belichtungsreihe werden zusammengefügt, wobei jeweils die hellsten Stellen eines Bildes durch die entsprechenden Stellen aus dem nächstdunkleren Bild ersetzt werden.
Wie auch anhand der Figuren 9 und 10 veranschaulicht wird, können die mehreren Einzelbildaufnahmen in Abhängigkeit von mindestens einer vorgebbaren Funktion erstellt werden, die für die Einzelbildaufnahmen unterschiedliche Belichtungszeiten angibt. Somit wird sichergestellt, dass keine Einzelbildaufnahmen mit derselben Belichtungszeit erfolgen, was wiederum für das Exposure Blending vorteilhaft ist. In der Fig. 9 ist schematisch eine Reihe mit mehreren Einzelbildaufnahmen Fl bis Fn dargestellt, wobei dort veranschaulicht ist, dass jede Einzelbildaufnahme eine andere Belichtungszeit Tl, T2, ... Tn aufweist. Dabei wird vorzugsweise die Reihe (Belichtungsreihe) entsprechend einer monoton abfallenden oder ansteigenden Funktion vorgegeben, so dass gilt: Tl < T2 < T3 < ... < Tn. Die Figuren 10a) -c) veranschaulichen verschiedene Funktionsverläufe, die jeweils eine bestimmte Rampenform aufweisen :
In der Fig. 10a) ist eine erste ansteigende Rampenfunktion MD dargestellt, die in einem unteren Wertebereich Belichtungszeiten vorgibt, so dass beim ersten Einzelbild „1" eine Belichtungszeit T = 0,5 ms eingestellt wird und für die nachfolgenden Einzelbildaufnahmen jeweils längere Belichtungszeiten eingestellt werden. Der untere Wertebereich Wl, der für den Tagmodus gilt, geht z.B. bis zu einer max. Belichtungszeit von 1000 ms. In der Fig. 10a) auch als Alternative eine zweite abfallende Rampenfunktion MN dargestellt, die in einem oberen Wertebereich W2 Belichtungszeiten für den sog. Nachtmodus vorgibt, so dass beim ersten Einzelbild „1" eine max. Belichtungszeit von T = 2000 ms eingestellt wird und für die nachfolgenden Einzelbildaufnahmen jeweils kürzere Belichtungszeiten eingestellt werden. Der obere Wertebereich geht z.B. bis zu einer min. Belichtungszeit von T = 1000 ms. Die Entscheidung ob der Tagmodus oder der Nachtmodus gilt, kann auf der Grundlage einer Schwellwertentscheidung erfolgen. Dabei wird der Helligkeitswert und/oder Kontrastwert mindestens einer Einzelbildaufnahme mit dem Schwellwert verglichen. Ist der Helligkeitswert und/oder Kontrastwert größer als der Schwellwert, so gilt der Tagmodus, andernfalls der Nachtmodus .
Die Fig. 10b) veranschaulicht eine zusammengesetzte ansteigende Rampe, die zunächst entsprechend dem Tagmodus MD Belichtungszeiten im unteren Wertebereich vorgibt. Anschließend werden höhere Belichtungszeiten im oberen Wertebereich entsprechend dem Nachtmodus vorgegeben. Die Fig. 10c) zeigt eine ansteigende Rampe, bei der der Übergang von der Tagmodus-Funktion MD zur Nachtmodus-Funktion MN überlappend erfolgt. Viele andere Funktionsverläufe sind denkbar und können an die Gegebenheiten angepasst werden. Im CCTV-Modus werden z.B. 2 bis 4 Bilder pro Sekunde gemacht.
Beispielsweise können die Einzelbildaufnahmen auch abhängig von Beleuchtungsbedingungen durchgeführt werden. Auch können die Belichtungszeiten abhängig von verschiedenen Parametern sein, wie z.B. Standort des Geldautomaten (Indoor, Outdoor) , Art und/oder Montageort der Kamera, Beleuchtungsbedingungen usw..
Auch kann z.B. noch eine Kantendetektion zum Einsatz kommen, wie dies anhand der Fig. 4 veranschaulicht wird, die schematischen Darstellungen entsprechen:
In der Fig. 4 sind in einer ersten Reihe als Teilfiguren 4al) bis 4a3) drei Einzelbildaufnahmen Fl' bis F3' dargestellt, die bei unterschiedlichen Belichtungszeiten von der seitlichen Kamera CAMS (s. Fig. 1 und 2) aufgenommen worden sind. Diese erste Reihe gibt drei unterschiedlich belichtete Aufnahmen wieder, nämlich in al) eine sehr hell belichtete Aufnahme Fl', in a2) eine normal belichtete Aufnahme F2' und in a3) eine unterbelichtete Aufnahme F3' . In einer zweiten Reihe sind als Teilfiguren 4bl) bis 4b3) die daraus mittels Kantendetektion jeweils gewonnenen Einzelbilder dargestellt. Diese in bl) bis b3) gezeigten Kantenbilder müssten weiße Kantenverläufe auf schwarzem Hintergrund darstellen. Um den Erfordernissen für Patentzeichnungen zu genügen, werden diese Darstellungen hier invertiert wiedergegeben, d.h. es werden schwarze Kantenverläufe auf weißen Hintergrund dargestellt. Dasselbe gilt für das in c) dargestellte Gesamtbild R' . Wie ein Vergleich der Kantenbilder bl) bis b3) mit den Aufnahmen al) bis a3) zeigt, liefert die Kantendetektion der Einzelbilder kein optimales Ergebnis. Erfindungsgemäß wird nun aus den Daten der einzelnen Kantendetektionen, d.h. aus den Einzelbildern der Fig. 4bl) bis 4b3), ein Gesamtbild R' errechnet, dass einer deutlich verbesserten Kantendektion entspricht. Insgesamt finden sich in dem Gesamtbild bzw. Ergebnisbild R' alle sicher erkannten Kanten wieder, die in den jeweiligen Einzelbildern nicht oder nur zum Teil zu finden sind. Außerdem konnten Artefakte, insbesondere virtuelle Kanten bzw. „Scheinkanten", eliminiert werden.
Die Fig. 5a bis 5c veranschaulichen eine weitere Variante oder auch zusätzliche Maßnahme zur Bilddatenvorverarbeitung von Einzelbildaufnahmen Fl'', F2' ' , F3' ' usw.. Hier werden die Bilddaten pixelweise einer Median-Bildung unterzogen. Die Fig. 5a) zeigt schematisch die Bilddaten für das erste Pixel im jeweiligen Einzelbild. Beispielsweise hat des erste Pixel im Bild Fl" den Wert „3", im Bild F2" den Wert „7" und im Bild F3" den Wert „5". Die nächsten Bilder F4" und F5' ' haben an der ersten Pixelstelle den Wert „5" bzw. „4". Wie die Fig. 4b) veranschaulicht, ergibt sich für das erste Pixel eine Reihe bzw. Sequenz aus folgenden Bilddatenwerten: 3, 7, 3, 5 und 4. Es folgt eine Umsortierung der Werte nach ihrer Größe, so dass sich die folgende Sequenz ergibt: 3, 3, 4, 5 und 7. Der Median dieser Sequenz ist folglich der Wert „4". Dieser Wert wird in das Ergebnisbild bzw. Zielbild R'' an der ersten Pixelstelle eingetragen (s. Fig. 4c) . Die Bildung des Medianwertes hat gegenüber einer Mittelwertbildung (der Mittelwert wäre hier „4,4") den Vorteil, dass die evtl. in Einzelbildern vorhandenen bewegten Objekte ganz eliminiert werden. Die Bilddatenverarbeitung, die auch auf der Grundlage von Bilddaten mehrerer Kameras erfolgen kann, wird in einer Datenverarbeitungseinheit durchgeführt, die auch die eigentliche Bildauswertung durchführt und die in der Fig. 8 dargestellt ist.
Die Figur 8 zeigt das Blockschaltbild einer erfindungsgemäßen Datenverarbeitungseinheit 10, an welche die Kameras CAMS und CAMK angeschlossen sind, sowie einer Videoüberwachungs- bzw. CCTV-Einheit 20, die mit der Datenverarbeitungseinheit 10 verbunden ist. Die Datenverarbeitungseinheit 10 empfängt die Bilddaten D von der Kamera CAMS und die Bilddaten D' von der Kamera CAMK. Beide Kameras machen in vorgebaren Zeitintervallen Einzelbilder, wobei die Aufnahmen durch eine Vorstufe bzw. Steuerungsstufe ST gesteuert werden. Dabei wird insbesondere die jeweilige Belichtungszeit vorgegeben, so dass eine Reihe von Einzelaufnahmen (Belichtungsreihe) erstellt wird (s. auch spätere Beschreibung der Fig. 9 und 10) . Dann folgt in einer ersten Stufe 11 die Vorverarbeitung der Einzelbilddaten. Dort werden u.a. Ergebnisbilder anhand von den bereits oben beschriebenen Bilddatenverarbeitungsmethoden oder ähnlichen Methoden erstellt. Die derart aufbereiteten Bilddaten D* haben eine sehr hohe Qualität und werden dann als Eingangsdaten für eine nachfolgende zweite Stufe 12 verwendet, die einer Merkmalsextraktion dient. Danach folgt eine dritte Stufe 13 zur Klassifikation der verarbeiteten Eingangsdaten. Die Stufe 13 wiederum ist mit einer Schnittstelle 14 verbunden, über die verschiedene Alarm- oder Überwachungsvorrichtungen aktiviert bzw. angesprochen werden können. Diese Vorrichtungen umfassen unter anderem eine Bildfälschungsbzw. Manipulationserkennung (IFD) . Die erste Stufe 11 wiederum, welche zur Bildvorverarbeitung dient, ist auch mit einer zweiten Schnittstelle 15 verbunden, über die eine Verbindung zu der CCTV-Einheit 20 hergestellt wird. Mit Hilfe dieser CCTV-Einheit kann beispielsweise eine Fernüberwachung bzw. Ferndiagnose ausgeführt werden. Das Erkennen von Manipulationsversuchen und das Alarmieren wird später noch eingehender beschrieben.
Zunächst wird auf die Fig. 7a verwiesen, welche eine Kamera- Einbausituation veranschaulicht, bei der die Kamera CAMK direkt in den Karteneingabetrichter 4 integriert ist. Um für diese Kamera CAMK eine gute Bildausleuchtung zu erreichen, kann die ohnehin eingesetzte Beleuchtung L des Kartenschlitzes genutzt werden. Die Kamera CAMK ist dazu seitlich von Kartenschlitz bzw. Einführungsschlitz montiert, der aus einem speziellen, lichtleitenden Kunststoff K gefertigt ist. Die Beleuchtung L wird durch ein oder mehrere Leuchtmittel, wie z.B. Leuchtdioden, realisiert, wobei das erzeugte Licht über den lichtleitenden Kunststoff K zu dem eigentlichen Einführungsschlitz geführt, um diesen auszuleuchten. Das Licht kann dabei von Oben und Unten kommend geführt werden, so dass der Kartenschlitz möglichst gleichmäßig ausgeleuchtet ist. Das erzeugte Licht in der Intensität den Erfordernissen optimal angepasst werden. Auch kann das Licht durch Einsatz von farbigen LEDs und/oder Farbfiltern eingefärbt werden, um insbesondere an die Erfordernisse der Kamera CAMK angepasst zu werden.
Zur Erkennung von Manipulationen durch fremdartige Eingriffe, Veränderungen und dergleichen, werden vorgebbare Teilbereiche erfasst und optisch vermessen. Damit können Abweichungen von Referenzwerten (Normalzustand bzgl . Bildaufbau, Bildinhalt, Gewichtung von Pixelbereichen usw.) schnell und sicher erkannt werden. Hierzu werden unterschiedliche Bildverarbeitungsverfahren (Algorithmen) bzw. Bildverarbeitungsschritte (Routinen) innerhalb einer noch später genauer beschriebenen Datenverarbeitungseinheit (s. Fig. 5) durchgeführt. Die Bilddatenverarbeitung kann teilbereichsweise erfolgen.
Die Fig. 7b veranschaulicht den in verschiedene Teilbereiche segmentierten Erfassungsbereich der Kamera CAMK, und zeigt deutlich, dass dieser hier im wesentlichen in drei Teilbereiche I, II und III unterteilt ist.
Der erste Teilbereich I erfasst vornehmlich den Innenbereich des Karteneingabetrichters, also den eigentlichen Kartenschlitz, der Teilbereich III erfasst den Außenbereich des Karteneingabetrichters und der Teilbereich II erfasst den dazwischen liegenden Übergangsbereich. Im Zusammenhang mit der Fig. 7a werden folgende Vorteile der hier beschriebenen Konstruktion und Einbauweise deutlich:
Durch die interne Kameraposition, bei der die Kamera CAMK seitlich im Karteneinschubtrichter 4 angeordnet ist und die Teilbereiche I bis III erfasst, können verschiedene Arten von Skimming-Modulen, Überbauten bzw. Manipulationen sehr genau erkannt werden. Denn diese Einbauweise ermöglicht es, eine Bildsegmentierung entsprechend den Teilbereichen I bis III vorzunehmen und diese einzeln zu vermessen. Die Kontrastdifferenz zwischen den Teilbereichen kann gut zur Segmentierung der Bildaufnahme genutzt werden.
Die Kamera CAMK ist hier so ausgerichtet, dass mit dem Teilbereich III auch eine vor dem Geldautomaten sich befindende Person (Nutzer oder Angreifer) erfasst werden kann. Diese Bilddaten können insbesondere mit denen der Portrait-Kamera CAMO (s. Fig. 1) verglichen werden. Vorzugsweise ist die Kamera CAMK an derselben Seite des Terminals installiert, wie die Kamera CAMS, so dass auch die Bilddaten dieser beiden Kameras verglichen werden können.
Insbesondere für den Innenbereich I, aber auch für Teile des Übergangsbereiches II wird die Beleuchtung L (s. Fig. 7a) genutzt, um für die Bildaufnahmen eine möglichst optimale Ausleuchtung zu erzielen. Eine farbige Beleuchtung im Grünbereich ist besonders vorteilhaft, weil die Bildsensoren bzw. CCD-Sensoren von Kamera gegenüber grünen Farbtönen besonders sensitiv sind und das größte Auflösungsvermögen aufweisen. Die Beleuchtung L verbessert die Objekterkennung insbesondere bei schlechten Lichtverhältnissen (Standort, Nachtzeit usw.). Außerdem überwindet die Beleuchtung evtl. durch äußeres Licht (z.B. Sonneneinstrahlung) auftretende Reflexionen an einem zu erkennenden Überbau. Die ohnehin vorzusehenden Beleuchtung L des Karteneinschubtrichters stelle eine zuverlässige Lichtquelle auch für die Kamera CAMK dar. Der eigentliche Kartenschlitz weist hier eine andere Farbe als der Karteneingabetrichter auf, so dass ein größerer Kontrastunterschied gegeben ist, der die Bildauswertung verbessert .
Bei der Bilddatenverarbeitung kommen verschiedene Methoden zum Einsatz, insbesondere eine Kombination der Segmentierungen und eine Kantendetektion. Die Datenverarbeitungseinheit (s. Fig. 8) besteht im wesentlichen aus folgenden drei Stufen: einer Bildverarbeitungs-Stufe zur Vorverarbeitung der ankommenden Bilder bzw. Daten (z.B. zwecks Schattenentfernung, Kantendetektion, Segmentierung) einer Merkmalsextraktions-Stufe (mittels Blobanalyse, Analyse von Kantenposition, Farbverteilung usw.) einer Klassifikations-Stufe (zur Bestimmung von Erkennungsmerkmalen für Manipulationen)
Die Datenverarbeitung wird später noch anhand der Fig. 8 eingehender beschrieben und kann z.B. auf einem PC realisiert werden .
Die Kamera CAMK ist hier als Farbkamera mit einer Mindestauflösung von 400x300 Pixel ausgebildet. Bei einer gesättigten Beleuchtung kann somit insbesondere ein farbwertverteilungsbasiertes Verfahren zum Erkennen von Überbauten und dergleichen verwendet werden. Die Kamera CAMK weist ein Weitwinkelobjektiv auf, so dass auch der Außenbereich (Teilbereich III in Fig. 7b) gut erfasst wird.
In dem hier beschriebenen Beispiel sind zumindest die im Nahbereich des Bedienfeldes montierten Kameras CAMS; CAMD und CAMK mit der Datenverarbeitungseinheit 10 verbunden (siehe Figur 8), um durch Kombination von Bilddaten das Erkennen von Manipulationen deutlich zu verbessern. Diese noch später beschriebene Datenverarbeitungseinheit ermöglicht es, die von der Kamera erzeugten Bilddaten optimal auszuwerten, um somit mit hoher Sicherheit einen Manipulationsversuch, wie z.B. einen Überbau der Tastatur 2 oder eine Manipulation an einer der Kameras, sofort zu erkennen und gegebenenfalls Alarme und Deaktivierungen auszulösen. Mittels der noch später eingehender beschriebenen Datenverarbeitungseinheit sind unter anderem folgende Manipulationen sicher zu erkennen: - Anbringen eines Tastaturüberbaus
- Anbringen eines Komplettüberbaus an der unteren Auflägefläche - Anbringen eines Überbaus an dem Geldausgabefach (Shutter) und/oder das Anbringen von Gegenständen zur Aufnahme von Sicherheitsinformationen, insbesondere PIN-Nr., wie z.B. Minikameras, Kamerahandys und ähnliche Spähkameras.
Für das Erkennen von Überbauten wird innerhalb der Datenverarbeitungseinheit 10 mit Hilfe der Kameras CAMS und CAMD eine optische Vermessung der erfassten Elemente, wie z.B. der Tastatur 2, durchgeführt, um somit Abweichungen im Manipulationsfall klar erkennen zu können. Versuche der Anmelderin haben gezeigt, dass bereits Referenzabweichungen im Millimeterbereich klar erkannt werden können. Für eine Erkennung von Fremdobjekten (Spähkamera) kann beispielsweise eine Kombination aus Kantendetektion und Segmentierung verwendet werden, um somit die Konturen von fremden Gegenständen im Bedienfeld (z.B. Minikameras) klar erkennen zu können. Die dazu erforderliche Bilddatenverarbeitung erfolgt überwiegend in der nachfolgend beschriebenen Datenverarbeitungseinheit .
Die Figur 8 zeigt das Blockschaltbild einer erfindungsgemäßen Datenverarbeitungseinheit 10, an welche die Kameras CAMS und CAMK angeschlossen sind, sowie einer Videoüberwachungs- bzw. CCTV-Einheit 20, die mit der Datenverarbeitungseinheit 10 verbunden ist. Die Datenverarbeitungseinheit 10 weist insbesondere folgende Stufen bzw. Module auf:
Eine Vorstufe bzw. Steuerungsstufe ST steuert die Einzelbildaufnahmen von den Kameras, um Einzelbilddaten D bzw. D' zu erzeugen, aus denen dann mittels der oben beschriebenen Verfahren vorverarbeitete Bilddaten D* für die eigentliche Datenauswertung berechnet werden können.
Für die eigentliche Bilddatenverarbeitung und -auswertung sind eine erste Stufe 11 zur Bildverarbeitung derselben, eine zweite Stufe 12 zur Merkmalsextraktion und eine dritte Stufe 13 zur Klassifikation der verarbeiteten Daten vorgesehen. Die Stufe 13 wiederum ist mit einer Schnittstelle 14 verbunden, über die verschiedene Alarm- oder Überwachungsvorrichtungen aktiviert bzw. angesprochen werden können. Diese Vorrichtungen umfassen unter anderem eine Bildfälschungsbzw. Manipulationserkennung (IFD) . Die erste Stufe 11 wiederum, welche zur Bildverarbeitung dient, ist auch mit einer zweiten Schnittstelle 15 verbunden, über die eine Verbindung zu der CCTV-Einheit 20 hergestellt wird. Mit Hilfe dieser CCTV-Einheit kann beispielsweise eine Fernüberwachung bzw. Ferndiagnose ausgeführt werden.
Für die Steuerung der Kameras CAMS und CAMK zur Erzeugung der Einzelbilddaten D bzw. D' ist die Steuerungsstufe ST zuständig. Die nachfolgende erste Stufe 11 berechnet daraus die vorbereiteten Bilddaten D* (berechnete Gesamtbilddaten) , wobei hier insbesondere Maßnahmen wie Schattenentfernung, Kantendetektion, Vektorisierung und/oder Segmentierung durchgeführt werden. Die nachgeschaltete zweite Stufe 12 dient der Merkmalsextraktion, die beispielsweise mittels einer sogenannten Blobanalyse, einer Kantenpositionierung und/oder einer Farbverteilung durchgeführt werden kann. Beispielsweise dient die Blob-Analyse zur Erkennung von zusammenhängenden Regionen in einem Bild und zur Ausführung von Messungen an den Blobs. Ein Blob (Binary Large Object) ist ein Bereich angrenzender Bildpunkte mit demselben logischen Zustand. Alle Bildpunkte in einem Bild, die zu einem Blob gehören, sind im Vordergrund. Alle übrigen Bildpunkte sind im Hintergrund. In einem binären Bild haben Bildpunkte im Hintergrund Werte, die Null entsprechen, während jeder Bildpunkt ungleich Null Teil eines binären Objekts ist.
Anschließend erfolgt in der Stufe 13 eine Klassifikation, welche auf der Grundlage der extrahierten Merkmale bestimmt, ob eine feindliche Manipulation an dem Selbstbedienungsterminal bzw. Geldautomaten ATM aufgetreten ist oder nicht.
Die Datenverarbeitungseinheit 10 kann beispielsweise mittels eines Personalcomputers realisiert werden, der mit dem Geldautomaten ATM verbunden ist oder der darin integriert ist. Neben den Kameras CAMS und CAMK, welche die genannten Teilbereiche des Bedienfeldes erfassen, kann auch die zusätzliche Kamera CAMO am Geldautomaten ATM montiert sein (s. Fig. 1), welche auf den Benutzer bzw. Kunden gerichtet ist und insbesondere sein Gesicht erfasst. Diese zusätzliche, auch als Portraitkamera bezeichnete, Kamera CAMO kann beim Erkennen eines Manipulationsangriffes ausgelöst werden, um ein Bild von der sich am Geldautomaten befindenden Person zu machen. Sobald ein Skimming-Angriff erkannt wird, kann das beschriebene System beispielsweise folgende Aktionen durchführen :
Abspeichern eines Fotos des Angreifers, wobei sowohl einzelne der Kameras CAMS und/oder CAMK wie auch die zusätzliche Portraitkamera CAMO aktiviert werden können
Alarmieren der laufenden Geldautomatenapplikation und/oder eines zentralen Managementservers und/oder einer Person, z.B. über E-Mail Einleitung von Gegenmaßnahmen, die z.B. das Sperren bzw. Herunterfahren des Geldautomatens
Übermittlung von Daten, insbesondere von Bildern, der erkannten Manipulation, beispielsweise über das Internet über eine Zentrale
Den Umfang und die Art der getroffenen Aktionen bzw. Gegenmaßnahmen kann der Betreiber des Geldautomaten über das hier beschriebene System konfigurieren.
Wie oben beschrieben, können direkt am Bedienfeld mehrere installierte Kameras vorgesehen sein, wobei die Kameras CAMS und CAMD das Bedienfeld von Außen erfassen und die Kamera CAMK z.B. den Karteneingabetrichter von Innen erfasst. Außerdem kann eine zusätzliche Portrait-Kamera installiert sein (s. CAMO in Fig. 1). Für die eigentliche Manipulationserkennung werden die Kameras CAMS und CAMD am Bedienfeld und die Kamera CAMK in der Karteneingabe benutzt. Zum Zwecke der Dokumentation eines Manipulationsversuches wird auch die Portraitkamera CAMO benutzt.
Vorzugsweise haben alle Kameras eine Auflösung von mindestens 2 Megapixeln. Die benutzten Objektive weisen einen Blickwinkel von etwa 140 Grad und mehr auf. Außerdem ist die Belichtungszeit der eingesetzten Kameras in einem weiten Bereich von beispielsweise 0,25 msec. bis zu 8.000 msec. frei einstellbar. Dadurch wird die Anpassung an die unterschiedlichsten Beleuchtungsbedingungen ermöglicht. Versuche der Anmelderin haben ergeben, dass eine Kameraauflösung von etwa 10 Pixeln pro Grad erreichbar ist. Bezogen auf einen Abstand von einem Meter kann somit eine Genauigkeit von 1,5 mm pro Pixel erreicht werden. Das wiederum bedeutet, dass eine Manipulation ab einer Referenzabweichung von bereits 2 bis 3 mm sicher erkannt werden kann. Je näher das Objektiv der Kamera an dem erfassten Element bzw. betrachteten Objekt ist, desto genauer kann die Messung erfolgen. Demnach kann in näheren Bereichen sogar eine Genauigkeit von weniger als 1 mm erreicht werden.
Je nach Einsatzbereich des Geldautomatens, z.B. im Außenbereich oder im Innenbereich, sowie der gegebenen Lichtverhältnisse, kann es vorteilhaft sein, die Kamera CAMS eher im seitlichen Gehäuseteil des Geldautomatens ATM oder im oberen Gehäusebereich zu montieren. Auch ergeben sich je nach Kameraposition verschiedene Überwachungsmöglichkeiten. Bei der Überwachung der verschiedenen Elemente bzw. Teilbereiche wird insbesondere folgendes erreicht:
Das Erfassen des Geldausgabefachs (Shutter) 1 ermöglicht das Überprüfen von Manipulationen in Form sogenannter Cash- Trapper, d.h. spezieller Überbauten. Das Erfassen des Tastaturfeldes ermöglicht es, dort Manipulationsversuche durch Überbauten oder Veränderungen an Lichtschutzmaßnahmen und dergleichen festzustellen. Das Erfassen der Auflagefläche ermöglicht es insbesondere, Komplettüberbauen zu erkennen. Das Erfassen des Karteneingabetrichters 4, insbesondere durch eine darin integrierte Kamera, ermöglicht es, dortige Manipulationen zu erkennen.
Es hat sich gezeigt, dass insbesondere an dem Tastaturfeld und an dem Karteneingabetrichter bereits Abweichungen von 2 mm klar erkannt werden können. Abweichungen an der hinteren Außenkante der Auflagefläche können bereits ab 4 mm erkannt werden. Abweichungen an der unteren Kante des Shutters können bereits ab 8 mm erkannt werden. Zum Erkennen von Manipulationen führt die Datenverarbeitungseinheit 10 (siehe Figur 8) insbesondere einen Vergleich der aufgenommenen Bilddaten D mit Referenzdaten durch. Dabei kann insbesondere ein Bild des Außenbereiches auf seine Homogenität hin untersucht und mit dem Bild des Außenbereiches der Bedienfeldkamera abgeglichen werden.
Es werden auch die Bilddaten der verschiedenen Kameras CAMS, CAMD und/oder CAMK miteinander verglichen, um z.B. festzustellen, ob an einzelnen der Kameras manipuliert wurde. Wenn beispielsweise die Kamera CAMD abgedeckt wurde, ergibt sich eine Diskrepanz zu den Bildaufnahmen der anderen Kameras. Insbesondere kann anhand der Bildhelligkeiten sehr schnell festgestellt, ob eine Verdunklung nur an einer einzelnen Kamera auftritt, so dass eine Manipulation bzw. Abdeckung dieser Kamera anzunehmen ist. Die Kombination und Auswertung von mehreren Kamerasignalen bzw. Bilddaten erhöht die Robustheit der Manipulationsüberwachung und die Vermeidung von Fehlalarmen. Unter anderem können die Bilddaten bzw. -Informationen auch wie folgt genutzt werden:
Unterscheidung von künstlicher und natürlicher Verdunklung: Wird eine Kamera abgedeckt, so steht ihr aufgenommenes Bild im Widerspruch zu den Bildern der anderen Kameras. Fällt das natürliche Licht
(Tageslicht) oder das künstliche Licht (Raumbeleuchtung) aus, so ist der Effekt an allen Kameras gleich oder zumindest ähnlich. Andernfalls erkennt das System einen Manipulationsversuch.
Erkennung von Täuschungsangriffen auf die Kamera- Anordnung, z.B. durch vorgeklebte Fotos: Zeigt eine einzelne Kamera ein anderes Bild (Helligkeit, Bewegung, Farben, insbesondere bezüglich des Außenbereichs) , so deutet dies auf einen Täuschungsversuch hin.
- Erhöhung der Robustheit, insbesondere bei Abdeckung des Karteneinschubtrichters: Wird dieser verdeckt, so zeigt die darin integrierte Kamera (s. CAMK in Fig. 4a) ein anderes Bild an (insbesondere bezüglich des Außenbereiches) als die übrigen Kameras (s. CAMS, CAMD in Fig. 1) .
Weiterhin kann z.B. auch die Umgebung auf eine Abstrahlung der Beleuchtung für den Karteneingabetricher 4 untersucht werden. Die Anbindung des Systems an das Internet über die Schnittstelle 23 ermöglicht es, auch per Fernzugriff die Kamera bzw. die verschiedenen Kameras anzusteuern. Die gewonnenen Bilddaten können auch über den Internetanschluß an einen Video-Server übermittelt werden. Somit agiert die jeweilige Kamera quasi als virtuelle IP-Kamera. Die oben beschriebene CCTV-Einheit 20 dient insbesondere einer solchen Video-Überwachungsmöglichkeit, wobei die Schnittstelle 15 zur CCTV-Einheit für folegende Funktionen ausgelegt ist:
Abfrage eines Bildes, Einstellen der Bildrate, des Farbmodells, der Bildauflösung, Auslösen eines Ereignisses im CCTV-Dienst bei Bereitstellung eines neuen Bildes und/oder eventuell eine visuelle Hervorhebung von erkannten Manipulationen auf einem bereitgestellten Bild.
Das System ist so ausgelegt, dass im normalen Betrieb (z.B. Geldabheben, Kontostandsabfrage usw.) keine Fehlalarme durch Hände und/oder Gegenstände im Bild erzeugt werden. Deshalb wird die Manipulationserkennung im Zeitraum einer normalen Automatenbenutzung deaktiviert. Auch soll in Zeitbereichen, in denen beispielsweise eine Reinigung oder eine kurzfristige anderweitige Benutzung (Ablage von Kontoauszügen, Interaktionen vor und nach dem Start einer Transaktion) nicht zur Manipulationserkennung herangezogen werden. Im wesentlichen werden somit vorzugsweise nur starre und unbewegliche Manipulationsversuche analysiert und erkannt. Das System ist so ausgelegt, dass eine Überwachung auch bei unterschiedlichsten Lichtverhältnissen (Tag, Nacht, Regen, Bewölkung, usw.) funktioniert. Ebenfalls werden sich kurzzeitig verändernde Lichtverhältnisse, wie z.B. Lichtspiegelungen, Schattenverläufe und dergleichen, bei der Bildverarbeitung kompensiert bzw. ignoriert, um einen Fehlalarm zu vermeiden. Zudem können technisch auftretende Ereignisse, wie etwa das Ausfallen einer Beleuchtung und dergleichen, berücksichtigt werden. Diese und weitere Sonderfälle werden insbesondere durch die dritte Stufe zur Klassifikation erkannt und gelöst.
Das von dem beschriebenen System durchgeführte Verfahren zur Manipulationserkennung weist insbesondere folgenden Ablauf auf (s. auch Fig. 8) :
Zuerst werden aus den originären Einzelbilddaten D bzw. D' vorverarbeitete Gesamtbilddaten D* berechnet, die als Ausgangsbasis für die eigentliche Datenauswertung dienen.
Dabei erfolgt in einem ersten Schritt eine Bildaufnahme, wobei die Kameraparameter eingestellt werden, um geeignete Aufnahmen zu erzeugen. Dabei wird insbesondere eine Reihe von Bildern bzw. entsprechende Bilddaten D bzw. D' aufgenommen, welche dann als Grundlage bzw. Referenz für die Vorverarbeitung dienen. Anschließend erfolgt eine Weiterbearbeitung der Bilddaten, wobei diese so verarbeitet werden, dass sie sich möglichst gut für die Auswertung eignen. Dazu werden beispielsweise mehrere Bilder zu einem Zielbild zusammengesetzt und mittels Bildverbesserungsalgorithmen optimiert. Insbesondere werden dabei folgende Schritte ausgeführt:
Schattenentfernung, Entfernung sich bewegender Objekte, Entfernung von Rauschen und/oder Zusammenfassung verschiedener belichteter Aufnahmen.
Die Kameras werden u.a. auf unterschiedliche Belichtungszeiten eingestellt, um Reflektionen zu entfernen und um gut ausgeleuchtete Bereiche zu sammeln. Vorzugsweise werden die Bilder über einen vorbestimmten Zeitraum gesammelt, um möglichst gute Ausgangsbilder zur Manipulationserkennung zu gewinnen. Diese Schritte können mittels der Aufnahmesteuerung ST in der ersten Stufe 11 durchgeführt werden. In einem weiteren Schritt wird zur eigentlichen Datenauswertung eine Merkmalsextraktion durchgeführt (Stufe 12), bei der Bildanalyseverfahren auf die vorverarbeiteten Bilder bzw. Bilddaten ausgeführt werden, um diese auf bestimmte Merkmale hin zu überprüfen, wie z.B. auf Kantenpositionen oder Farbverteilungen. Für jedes Merkmal kann eine Zahl bzw. ein Wert vorgegeben werden, der angibt, wie gut das entsprechende Merkmal in dem betrachteten Bild wieder gefunden wurde. Die Werte werden in einem sogenannten Merkmalsvektor zusammengefasst .
In einem weiteren Schritt wird eine Klassifikation durchgeführt (Stufe 13), d.h. der Merkmalsvektor wird an einen Klassifikationsablauf übergeben, um eine Entscheidung zu treffen, ob eine Manipulation vorliegt oder nicht. Dabei werden auch solche Arten von Klassifikatoren benutzt, die Konfidenz, d.h. eine Wahrscheinlichkeit oder Sicherheit, angeben können, mit der die Entscheidung zutrifft. Verwendete Klassifikationsmechanismen können z.B. sein:
Learning Classify Systems, Bayes Klassfikatoren, Support Vector Machines (SVM) oder Entscheidungsbäume (CART bzw. C 4.5) .
Das hier beschriebene System wird vorzugsweise modular aufgebaut, um verschiedene Konfirgurationen zu ermöglichen. Die eigentliche Bildverarbeitung sowie die CCTV-Anbindung werden in verschiedenen Modulen realisiert (siehe Figur 4) .
Das hier vorgestellte System ist auch dazu geeignet, die erkannten Manipulationen zu dokumentieren bzw. digital zu archivieren. Im Falle einer erkannten Manipulation werden die aufgenommenen Bilder mit entsprechenden Meta-Informationen, wie z.B. Zeitstempel, Art der Manipulation usw., auf einer Festplatte im System bzw. in einem angeschlossenen PC abgespeichert. Auch können zwecks eines Reportings Meldungen an eine Plattform weitergeleitet werden, wie z.B. Fehlermeldungen, Statusmeldungen (Deaktivierung, Modus- Wechsel), Statistiken, Manipulationsverdacht und/oder Alarmmeldungen. Im Falle eines Alarms kann eine entsprechende Meldung mit der jeweiligen Alarmstufe an das Administrationsinterface bzw. die Schnittstelle weitergegeben werden. An dieser Schnittstelle werden außerdem noch folgende Möglichkeiten realisiert:
Abfrage von Kameradaten, wie z.B. Anzahl der Kameras, Bauzustand, Seriennummer, usw., Kamerastammdaten bzw. Einstellen von Kameraparametern und/oder Registrierung für Alarme (Notifikationen) .
Die hier vorgestellte Erfindung ist insbesondere dazu geeignet, feindliche Manipulationen an einem Selbstbedienungsterminal, wie z.B. an einem Geldautomaten, zuverlässig zu erkennen. Hierzu wird das Bedienfeld durch mindestens eine Kamera kontinuierlich und automatisch überwacht. Mittels einer Bilddatenverarbeitung werden die von der Kamera erfassten Elemente optisch vermessen, um Abweichungen von Referenzdaten zu erkennen. Es hat sich gezeigt, dass bereits Abweichungen im Millimeterbereich sicher erkannt werden können. Für die Erkennung von Fremdobjekten wird vorzugsweise eine Kombination aus Kantendetektion und Segmentierung benutzt, so dass Konturen von zurückgelassenen Gegenständen klar erkannt und markiert werden können. Im Falle eines Manipulationsversuches können Gegenmaßnahmen bzw. Aktionen ausgelöst werden.
Durch die hier vorgeschlagene Kombination mehrerer Kameras und der intelligenten Bilddatenverarbeitung erhöht die Erfindung deutlich die Zuverlässigkeit, mit der Manipulationen erkannt werden können.
In einer bevorzugten Ausführungsform weist die Erfindung folgende Kamera-Anordnung auf:
Eine Kamera am Karteneingabetrichter, eine Kamera am Bedienfeld und eine Kamera im oberen Bereich des Geldautomaten zum Aufnehmen von Portraitfotos bzw. -videos. Außerdem sind die Kameras mit der beschriebenen Datenverarbeitungseinheit verbunden. Innerhalb der Datenverarbeitungseinheit werden die von den Kameras gewonnenen Bilddaten bzw. Informationen unter anderem wie folgt genutzt:
Erkennung bzw. Unterscheidung von künstlicher und natürlicher Verdunklung: Wird eine Kamera abgedeckt, so widerspricht sich ihr aufgenommenes Bild mit den Bildern aus den Kameras. Fällt natürliches oder künstliches Licht aus, so tritt dieser Effekt bei allen Kameras gleichermaßen auf. Erkennung von Täuschungsangriffen auf das Kamerasystem, z.B. durch vorgeklickte Fotos: Zeigt eine Kamera ein anderes Bild
(unterschiedliche Helligkeit, Bewegung, Farben, usw.), so deutet dies auf einen Täuschungsversuch hin. Erhöhung der
Robustheit der Abdeckungserkennung am Karteneingabetrichter:
Wird der Karteneingabetrichter verdeckt, so zeigt die dort integrierte Kamera CAMK ein anderes Bild des Außenbereichs an, als dies die übrigen Kameras tun.
Die hier beschriebene Vorverarbeitung der Kamera-Bilddaten, bei aus Einzelaufnahmen störungsarme oder gar störungsfreie Gesamtbilder berechnet werden führt zu einer Erhöhung der Zuverlässigkeit der anschließenden Datenauswertung zur Erkennung von Manipulationsversuchen und dient demnach auch dazu, Fehlalarme zu vermeiden.
Zusammenfassend wird ein Selbstbedienungsterminal vorgeschlagen, die zum Erkennen von Manipulationsversuchen mindestens eine Kamera aufweist, die ein oder mehrere der im Bedienfeld vorgesehenen Elemente, wie z.B. Tastatur, Geldausgabefach, Karteneinschubtrichter, erfasst und Bilddaten von mehreren Einzelbildaufnahmen erzeugt. Die mindestens eine Kamera ist mit einer Datenverarbeitungseinheit verbunden, die die erzeugten Bilddaten (Einzelbilddaten) zu einem Ergebnisbild vorverarbeitet. Die vorverarbeiteten Bilddaten des Ergebnisbildes können z.B. mittels Exposure Blending aus den Einzelbilddaten berechnet werden und stellen eine sehr gute Datenbasis für eine Datenauswertung zur Manipulations-erkennung dar.
Die vorliegende Erfindung wurde am Beispiel eines Geldautomaten beschrieben, ist aber nicht hierauf beschränkt, sondern kann auf jede Art von Selbstbedienungsterminals angewendet werden.
Bezugszeichenliste
ATM Selbstbedienungsterminal, als Geldautomat ausgebildet, mit einem Bedienfeld CP, das u.a. aufweist: 1 Geldausgabefach, 2 Tastatur, 3 Ablageflache,
4 Karteneingabetrichter, 5 Bildschirm
CAMS Kamera, seitlich des Bedienfeldes montiert
CAMK Kamera, im Karteneingabetrichter montiert CAMD Kamera, oberhalb des Bedienfeldes montiert
CAMO zusätzliche Portrait-Kamera
Fl, F2, F3 ... von den Kameras erzeugte Einzelbilder D, D' Einzelbilddaten R, R' Ergebnisbilder (berechnete Gesamtbilder)
D* vorverarbeitete (berechnete) Bilddaten
10 Datenverarbeitungseinheit mit:
ST Steuerungsstufe (für Einzelbildaufnahmen) 11 erster Stufe zur Bildvorverarbeitung
12 zweiter Stufe zur Merkmalsextraktion
13 dritte Stufe zur Klassifikation
14, 15 Schnittstellen zu Videoüberwachung (CCTV) bzw. Bildfälschungserkennung
20 Videoüberwachungs- bzw. CCTV-Einheit mit:
21 Stufe für Bildaufnahme, 22 Stufe für Komprimierung,
23 Schnittstelle zu einen IP-Netz,
24 Stufe für Parametrisierung

Claims

Patentansprüche
1. Selbstbedienungsterminal (ATM), das in einem Bedienfeld des Selbstbedienungsterminals (ATM) vorgesehene Elemente (1, 2, 3, 4, 5) aufweist, die für Nutzer des
Selbstbedienungsterminals (ATM) bereit gestellt sind, wobei mindestens eine Bilddaten erzeugende Kamera zur Überwachung des Selbstbedienungsterminals (ATM) vorgesehen ist, dadurch gekennzeichnet, dass zum Erkennen von Manipulationsversuchen an dem Selbstbedienungsterminal (ATM) die mindestens eine Kamera (CAMS) ein oder mehrere (1, 2) der im Bedienfeld vorgesehenen Elemente erfasst und Bilddaten (D) von mehreren Einzelbildaufnahmen (Fl, F2, F3) erzeugt, und dass die Kamera (CAMS) mit einer
Datenverarbeitungseinheit (10) verbunden ist, die die erzeugten Bilddaten (D) zu einem Ergebnisbild (R) vorverarbeitet, das für das Erkennen von Manipulationsversuchen dient.
2. Selbstbedienungsterminal (ATM) nach Anspruch 1, dadurch gekennzeichnet, dass die mindestens eine Kamera (CAMS) abhängig von vorgebaren Kriterien, insbesondere in vorgebbaren Zeitintervallen und/oder bei verschiedenen
Belichtungsverhältnissen bzw. Umgebungshelligkeiten, die Bilddaten (D) der Einzelbildaufnahmen (Fl, F2, F3) erzeugt .
3. Selbstbedienungsterminal (ATM) nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die mindestens eine Kamera (CAMS) abhängig von Ereignissen, insbesondere von durch diese oder durch eine andere Kamera erfassten Ereignissen, die Bilddaten (D) der Einzelbildaufnahmen (Fl, F2, F3) erzeugt.
4. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass die mindestens eine Kamera (CAMS) abhängig von vorgebaren Kameraeinstellungen, insbesondere von vorgebaren Belichtungszeiten und/oder Bildraten, die Bilddaten (D) der Einzelbildaufnahmen (Fl, F2, F3) erzeugt.
5. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die erzeugten Bilddaten (D) der Einzelbildaufnahmen (Fl, F2, F3) mittels einer Bilddatenvorverarbeitung, insbesondere einer Mittelwertbildung, einer Medianbildung und/oder eines Exposure Blendings, zu dem Ergebnisbild (R) kombiniert .
6. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die erzeugten Bilddaten (D) der Einzelbildaufnahmen (Fl', F2' , F3' ) mittels einer Bilddatenverarbeitung, insbesondere einer
Segmentierung und/oder Kantendetektion, zu dem Ergebnisbild (R) kombiniert.
7. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die Einzelbildaufnahmen (Fl, F2, F3) in mehrere dem mindestens einem erfassten Element (4) zugeordnete Teilbereiche (I, II, III) segmentiert und die Bilddaten (D') segmentweise verschiedenartig verarbeitet.
8. Selbstbedienungsterminal (ATM) nach Anspruch 7, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) das Ergebnisbild (R) aus den Teilbereichen (I, II, III) verschiedener Einzelbildaufnahmen (Fl, F2, F3) zusammensetzt .
9. Selbstbedienungsterminal (ATM) nach Anspruch 7 oder 8, dadurch gekennzeichnet, dass die
Datenverarbeitungseinheit (10) die Bilddaten (D) aus den Teilbereichen (I, II, III) mit unterschiedlichen Bilddatenverarbeitungen und/oder mit verschiedenen Varianten einer Bilddatenverarbeitung verarbeitet.
10. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 7 bis 9, dadurch gekennzeichnet, dass die Teilbereiche zumindest einen Nah- oder Innenbereich (I) und einen Umgebungs- oder Außenbereich (III) des erfassten
Elementes (4) umfassen.
11. Selbstbedienungsterminal (ATM) nach Anspruch 10, dadurch gekennzeichnet, dass einer der Teilbereiche einen Übergangsbereich (II) zwischen dem Innenbereich
(II) und dem Außenbereich (III) des Elementes (4) umfasst .
12. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die vorverarbeiteten Bilddaten des Ergebnisbildes (R) zur Erkennung von Manipulationsversuchen mittels einer Bildverarbeitung auswertet .
13. Selbstbedienungsterminal (ATM) nach Anspruch 12, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) eine die vorverarbeiteten Bilddaten (D*) des Ergebnisbildes (R) empfangende erste Stufe (11) zur Bildverarbeitung, insbesondere zur Schattenentfernung, Kantendetektion, Vektorisierung und/oder Segmentierung, aufweist.
14. Selbstbedienungsterminal (ATM) nach Anspruch 13, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) eine der ersten Stufe
(11) nachgeschaltete zweite Stufe (12) zur Merkmalsextraktion, insbesondere mittels Blobanalyse,
Kantenposition und/oder Farbverteilung, aufweist.
15. Selbstbedienungsterminal (ATM) nach Anspruch 14, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) eine der zweiten Stufe
(12) nachgeschaltete dritte Stufe (13) zur Klassifikation aufweist.
16. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) in das Selbstbedienungsterminal (ATM) integriert ist.
17. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Selbstbedienungsterminal (ATM) zumindest eine weitere Kamera (CAMK) aufweist, die an oder in dem Selbstbedienungsterminal (ATM) im Nahbereich des Bedienfeldes montiert ist und mindestens eines der Elemente (1, 2, 3, 4, 5) erfasst.
18. Selbstbedienungsterminal (ATM) nach Anspruch 17, dadurch gekennzeichnet, dass die
Datenverarbeitungseinheit (10), die von den zwei oder mehreren Kameras (CAMS, CAMK) erzeugten Bilddaten (D, D') zu einem Ergebnisbild vorverarbeitet.
19. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die in dem Bedienfeld vorgesehenen und von der mindestens einen Kamera (CAMS, CAMK) erfassten Elemente ein Geldausgabefach (1), eine Tastatur (2), eine Ablagefläche (3), einen Karteneingabetrichter (4) und/oder einen Bildschirm (5) umfassen.
20. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 9 bis 17, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10), wenn sie mittels der
Auswertung der Bilddaten (D*) des Ergebnisbildes (R) einen Manipulationsversuch an den erfassten Elementen (1, 2) erkennt, einen Alarm auslöst, das Selbstbedienungsterminal (ATM) sperrt und/oder die zusätzliche Kamera (CAMO) auslöst.
21. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 9 bis 18, dadurch gekennzeichnet, dass die jeweilige Kamera (CAMS) und/oder die Datenverarbeitungseinheit (10) während der Bedienung und/oder Wartung des
Selbstbedienungsterminal (ATM) deaktiviert ist.
22. Selbstbedienungsterminal (ATM) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die mehreren Einzelbildaufnahmen (Fl, F2, ... Fn) in Abhängigkeit von mindestens einer vorgebbaren Funktion (MD, MN) erstellt, die für die Einzelbildaufnahmen unterschiedliche Belichtungszeiten (Tl, T2, ...Tn) angibt .
23. Selbstbedienungsterminal (ATM) nach Anspruch 22, dadurch gekennzeichnet, dass die mindestens eine vorgebbare Funktion (MD, MN) mindestens einer Rampenfunktion entspricht, die für eine Reihe von Einzelbildaufnahmen (Fl, F2, ... Fn) ansteigende und/oder abfallende Belichtungszeiten (Tl, T2, ... Tn) angibt .
24. Selbstbedienungsterminal (ATM) nach Anspruch 22 oder 23, dadurch gekennzeichnet, dass eine der vorgebbaren Funktionen (MD) für eine Reihe von Einzelbildaufnahmen
(Fl, F2, ....Fn) unterschiedliche Belichtungszeiten (Tl, T2, ...Tn) innerhalb eines ersten unteren Wertebereiches (Wl) angibt, wenn ein Helligkeitswert und/oder Kontrastwert von mindestens einer der Einzelbildaufnahmen einen vorgebbaren Schwellwert überschreitet .
25. Selbstbedienungsterminal (ATM) nach Anspruch 22 oder 23, dadurch gekennzeichnet, dass eine der vorgebbaren Funktionen (MN) für eine Reihe von Einzelbildaufnahmen
(Fl, F2 , ... Fn) unterschiedliche Belichtungszeiten (Tl, T2, ...Tn) innerhalb eines zweiten oberen Wertebereiches (W2) angibt, wenn ein Helligkeitswert und/oder Kontrastwert von mindestens einer der Einzelbildaufnahmen einen vorgebbaren Schwellwert unterschreitet .
26. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 22 bis 25, dadurch gekennzeichnet, dass die Belichtungszeiten (Tl, T2,...Tn) abhängig von verschiedenen Parametern, insbesondere von Aufstellort des Selbstbedienungsterminal (ATM) und/oder von der Art und/oder vom Montageort der Kamera, sind.
27. Selbstbedienungsterminal (ATM) nach einem der Ansprüche 22 bis 26, dadurch gekennzeichnet, dass die Datenverarbeitungseinheit (10) die Einzelbildaufnahmen abhängig von Beleuchtungsbedingungen sind.
EP10717088.8A 2009-04-22 2010-04-16 Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen Active EP2422325B1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102009018318A DE102009018318A1 (de) 2009-04-22 2009-04-22 Selbstbedienungsterminal mit mindestens einer Bilddaten erzeugenden Kamera zum Erkennen von Manipulationsversuchen
PCT/EP2010/055014 WO2010121957A1 (de) 2009-04-22 2010-04-16 Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen

Publications (2)

Publication Number Publication Date
EP2422325A1 true EP2422325A1 (de) 2012-02-29
EP2422325B1 EP2422325B1 (de) 2016-05-25

Family

ID=42667888

Family Applications (1)

Application Number Title Priority Date Filing Date
EP10717088.8A Active EP2422325B1 (de) 2009-04-22 2010-04-16 Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen

Country Status (5)

Country Link
US (1) US9159203B2 (de)
EP (1) EP2422325B1 (de)
CN (1) CN102598072B (de)
DE (1) DE102009018318A1 (de)
WO (1) WO2010121957A1 (de)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2974831B1 (de) * 2012-06-12 2021-04-07 Snap-On Incorporated Bestandskontrollsystem mit erweiterten funktionalitäten
EP2736026B1 (de) * 2012-11-26 2020-03-25 Wincor Nixdorf International GmbH Vorrichtung zum Auslesen einer Magnetstreifen- und/oder Chipkarte mit einer Kamera zur Detektion von eingeschobenen Skimmingmodulen
JP2015012442A (ja) * 2013-06-28 2015-01-19 ソニー株式会社 撮像装置、撮像方法、画像生成装置、画像生成方法、及び、プログラム
US9342717B2 (en) * 2014-02-26 2016-05-17 Ncr Corporation Tamper detection system and method
US10515367B2 (en) * 2014-03-31 2019-12-24 Ncr Corporation Fraud detection in self-service terminal
CN105554391B (zh) * 2015-12-31 2019-05-14 广州广电运通金融电子股份有限公司 摄像头的控制方法及装置、金融设备终端
US11128839B2 (en) * 2016-01-29 2021-09-21 Ncr Corporation Image processing to identify conditions of interest within self-service terminals
US10956544B1 (en) 2016-04-01 2021-03-23 Massachusetts Mutual Life Insurance Company Access control through head imaging and biometric authentication
US10733275B1 (en) 2016-04-01 2020-08-04 Massachusetts Mutual Life Insurance Company Access control through head imaging and biometric authentication
US10346675B1 (en) 2016-04-26 2019-07-09 Massachusetts Mutual Life Insurance Company Access control through multi-factor image authentication
US10354126B1 (en) 2016-04-26 2019-07-16 Massachusetts Mutual Life Insurance Company Access control through multi-factor image authentication
US10643192B2 (en) * 2016-09-06 2020-05-05 Bank Of American Corporation Data transfer between self-service device and server over session or connection in response to capturing sensor data at self-service device
KR102102278B1 (ko) * 2018-10-29 2020-04-21 효성티앤에스 주식회사 금융자동화기기의 입출금장치 및 그 제어 방법
CN112085905B (zh) * 2019-06-14 2022-03-01 中电金融设备系统（深圳）有限公司 磁条卡阅读器、磁条数据处理装置及磁条数据处理方法
US11935055B2 (en) 2021-03-22 2024-03-19 Bank Of America Corporation Wired multi-factor authentication for ATMs using an authentication media
US11676460B1 (en) * 2022-02-04 2023-06-13 Ncr Corporation Currency trapping detection

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2351585B (en) * 1999-06-29 2003-09-03 Ncr Int Inc Self service terminal
DE20102477U1 (de) 2000-02-22 2001-05-03 Wincor Nixdorf Gmbh & Co Kg Einrichtung zum Schutz von SB-Automaten gegen Manipulationen
DE20318489U1 (de) * 2003-11-26 2004-02-19 Conect Kommunikations Systeme Gmbh Überwachungseinrichtung für Geldautomaten sowie Geldautomat
US20090201372A1 (en) * 2006-02-13 2009-08-13 Fraudhalt, Ltd. Method and apparatus for integrated atm surveillance
US20070200928A1 (en) 2006-02-13 2007-08-30 O'doherty Phelim A Method and apparatus for automated video surveillance
US7881497B2 (en) * 2007-03-08 2011-02-01 Honeywell International Inc. Vision based navigation and guidance system
JP4341691B2 (ja) * 2007-04-24 2009-10-07 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
US8248481B2 (en) * 2009-04-08 2012-08-21 Aptina Imaging Corporation Method and apparatus for motion artifact removal in multiple-exposure high-dynamic range imaging

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO2010121957A1 *

Also Published As

Publication number Publication date
CN102598072A (zh) 2012-07-18
US9159203B2 (en) 2015-10-13
WO2010121957A1 (de) 2010-10-28
EP2422325B1 (de) 2016-05-25
US20120038775A1 (en) 2012-02-16
DE102009018318A1 (de) 2010-10-28
CN102598072B (zh) 2015-11-25

Similar Documents

Publication Publication Date Title
EP2422325B1 (de) Selbstbedienungsterminal mit mindestens einer bilddaten erzeugenden kamera zum erkennen von manipulationsversuchen
EP2422328B1 (de) Selbstbedienungsterminal mit mindestens einer kamera zum erkennen von manipulationsversuchen
EP2422327A1 (de) Selbstbedienungsterminal mit kamera zum erkennen von manipulationsversuchen
EP2422326A1 (de) Verfahren zum erkennen von manipulationsversuchen an einem selbstbedienungsterminal und datenverarbeitungseinheit dafür
EP2897112B1 (de) Verfahren und Vorrichtung zur Vermeidung von Fehlalarmen bei Überwachungssystemen
DE69934068T2 (de) Bestimmung der position von augen durch blitzreflexerkennung und korrektur von defekten in einem aufgenommenen bild
EP1395945B1 (de) Verfahren zur faelschungserkennung bei der fingerabdruckerkennung unter verwendung einer texturklassifikation von grauwertdifferenzbildern
DE102008039130A1 (de) Durch ein neurales Netzwerk gesteuertes automatisches Verfolgungs- und Erkennungssystem und Verfahren
EP2577620B1 (de) Vorrichtung zur echtheitsprüfung von wertdokumenten
EP2677460A1 (de) Verfahren zur Bestimmung der Länge einer Warteschlange
DE102010011225B3 (de) Personendurchgangskontrolle mit Kamerasystem
DE60123214T2 (de) Rauch- und flammendetektion
EP2603905B1 (de) Verfahren und vorrichtung zum erkennen und verifizieren von manipulationsversuchen an einem selbstbedienungsterminal
DE102005028669A1 (de) Verfahren und Vorrichtung zur Erkennung einer in einen Münzprüfer eingegebenen Münze unter Verwendung ihres Prägebildes
EP2422324B1 (de) Selbstbedienungsterminal mit kamera-anordnung zum erkennen von manipulationsversuchen
EP1329856B1 (de) Verfahren zur Erkennung eines Prägebildes einer Münze in einem Münzautomaten
EP3782136B1 (de) Verfahren zur verifikation eines leuchtstoffbasierten sicherheitsmerkmals
DE102016222134A1 (de) Videoanalyseeinrichtung für eine Überwachungsvorrichtung und Verfahren zur Erzeugung eines Einzelbildes
WO2019048601A1 (de) Automatische früherkennung von rauch, russ und feuer mit erhöhter erkennungssicherheit
AT503008B1 (de) Interaktives optisches system und verfahren zum extrahieren und verwerten von interaktionen in einem optischen system
EP1197926A2 (de) Verfahren zur Erkennung eines Prägebilds einer Münze in einem Münzautomaten
DE102008055884A1 (de) Verfahren und Vorrichtung zur Detektion einer zweidimensionalen Darstellung des Gesichtes einer Person

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20111103

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO SE SI SK SM TR

RIN1 Information on inventor provided before grant (corrected)

Inventor name: PRIESTERJAHN, STEFFEN

Inventor name: DRICHEL, ALEXANDER

Inventor name: NOLTE, MICHAEL

Inventor name: LE, DINH-KHOI

DAX Request for extension of the european patent (deleted)
17Q First examination report despatched

Effective date: 20140626

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

INTG Intention to grant announced

Effective date: 20160225

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

Ref country code: AT

Ref legal event code: REF

Ref document number: 802879

Country of ref document: AT

Kind code of ref document: T

Effective date: 20160615

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 502010011737

Country of ref document: DE

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160825

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160926

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160826

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 502010011737

Country of ref document: DE

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 8

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20170228

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: IE

Ref legal event code: MM4A

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170430

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170416

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170430

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20170430

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 9

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170416

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170430

REG Reference to a national code

Ref country code: AT

Ref legal event code: MM01

Ref document number: 802879

Country of ref document: AT

Kind code of ref document: T

Effective date: 20170416

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170416

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20100416

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160525

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20160925

REG Reference to a national code

Ref country code: DE

Ref legal event code: R082

Ref document number: 502010011737

Country of ref document: DE

Representative=s name: KILBURN & STRODE LLP, NL

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 14

REG Reference to a national code

Ref country code: GB

Ref legal event code: 732E

Free format text: REGISTERED BETWEEN 20230323 AND 20230329

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20230321

Year of fee payment: 14

REG Reference to a national code

Ref country code: GB

Ref legal event code: 732E

Free format text: REGISTERED BETWEEN 20230525 AND 20230601

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20230321

Year of fee payment: 14

REG Reference to a national code

Ref country code: DE

Ref legal event code: R081

Ref document number: 502010011737

Country of ref document: DE

Owner name: DIEBOLD NIXDORF SYSTEMS GMBH, DE

Free format text: FORMER OWNER: WINCOR NIXDORF INTERNATIONAL GMBH, 33106 PADERBORN, DE

Ref country code: DE

Ref legal event code: R082

Ref document number: 502010011737

Country of ref document: DE

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20240320

Year of fee payment: 15