WO2023127072A1 - 置き去り検知装置及び置き去り検知方法 - Google Patents

置き去り検知装置及び置き去り検知方法 Download PDF

Info

Publication number
WO2023127072A1
WO2023127072A1 PCT/JP2021/048727 JP2021048727W WO2023127072A1 WO 2023127072 A1 WO2023127072 A1 WO 2023127072A1 JP 2021048727 W JP2021048727 W JP 2021048727W WO 2023127072 A1 WO2023127072 A1 WO 2023127072A1
Authority
WO
WIPO (PCT)
Prior art keywords
determination unit
occupant
vehicle
vehicle interior
physique
Prior art date
Application number
PCT/JP2021/048727
Other languages
English (en)
French (fr)
Inventor
浩隆 坂本
匠 武井
直哉 馬場
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to PCT/JP2021/048727 priority Critical patent/WO2023127072A1/ja
Publication of WO2023127072A1 publication Critical patent/WO2023127072A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/31Detection related to theft or to other events relevant to anti-theft systems of human presence inside or outside the vehicle

Definitions

  • the present disclosure relates to an abandoned object detection device and an abandoned object detection method.
  • Patent Literature 1 discloses an occupant detection device that detects an occupant in a rear seat by using an electromagnetic wave sensor provided on the ceiling above the rear seat in the passenger compartment. The occupant detection device is based on the vital signs obtained by radiating electromagnetic waves from the electromagnetic wave sensor, and is located in the blind spot of the image pickup device provided in the front of the vehicle interior. It is possible to detect a child sitting on the floor.
  • the radio wave emitted by the radio wave sensor When the radio wave emitted by the radio wave sensor is irradiated to the structure inside the vehicle, the radio wave emitted will be reflected depending on the material of the structure. If the living body is in a place where the radio sensor sees it and is blocked by a structure that reflects the radio waves it radiates, such as when it is hidden under a seat, the radio waves emitted from the radio wave sensor will directly affect the living body. It may not be reflected on the body surface. In the conventional technology, the radio wave emitted from the radio wave sensor is in a place where the radio wave is blocked by a structure, etc., and the living body that is not directly hit by the radio wave cannot be detected, and the living body is still left behind in the vehicle. There was a problem that there was a possibility that the living body could not be detected.
  • the present disclosure has been made to solve the problems described above, and aims to obtain an abandoned body detection device capable of detecting a living body left in a vehicle interior.
  • An abandoned object detection device generates radio waves emitted from a radio wave sensor toward a second area including at least a rear seat and a front seat in a vehicle compartment, based on reflected waves reflected by objects in the vehicle compartment.
  • a map acquisition unit that acquires a moving body map that expresses the distribution of areas in which objects exist in the vehicle interior in three dimensions; Based on the moving object map acquired by the second physique determination unit that detects an occupant in the vehicle and determines whether the occupant is an adult or a child, and the map acquisition unit, whether or not there is a moving object assumed to be a living body in the vehicle interior the presence/absence determination unit that determines whether there is an adult or a child in the front seat or the rear seat by the second physique determination unit; and an integrated judgment unit for judging whether or not a living body is left in the vehicle compartment based on the judgment result of whether or not.
  • a living body left behind in the vehicle can be detected.
  • FIG. 1 is a diagram showing a configuration example of an abandoned object detection device according to Embodiment 1;
  • FIG. 1 is a side view showing a vehicle to which a radio wave sensor and an imaging device are attached according to Embodiment 1;
  • FIG. 1 is a top plan view showing a vehicle to which a radio wave sensor and an imaging device are attached according to Embodiment 1.
  • FIG. 1 is a configuration diagram showing a radio wave sensor mounted on a vehicle according to Embodiment 1;
  • FIG. 2 is a block diagram showing functions of a radio wave sensor mounted on a vehicle according to Embodiment 1;
  • FIG. FIG. 4 is an explanatory diagram showing an example of an FM signal Tx(k) generated by a high frequency signal generation circuit;
  • FIG. 3 is an explanatory diagram showing an example of FM transmission waves and FM reception waves
  • FIG. 4 is an explanatory diagram showing the relationship between the sweep time T of FM transmission waves and the frequency difference fd ;
  • FIG. 4 is an explanatory diagram showing an example of a virtual antenna configured in a radio wave sensor;
  • 10A, 10B, and 10C are diagrams showing an example of a moving body map created by the radio wave sensor in Embodiment 1.
  • FIG. 11A, 11B, and 11C are diagrams showing other examples of moving object maps created by the radio wave sensor in Embodiment 1.
  • FIG. 4 is a flowchart for explaining the operation of the abandoned object detection device according to Embodiment 1;
  • FIG. 4 is a flowchart for explaining the operation of the abandoned object detection device according to Embodiment 1;
  • FIG. 13 is a flowchart for explaining details of a first physique determination process by a first physique determination unit in step ST2 of FIG. 12;
  • FIG. 13 is a flowchart for explaining details of a second physique determination process by a second physique determination unit in step ST4 of FIG. 12;
  • FIG. 13 is a flowchart for explaining the details of integrated determination processing by an integrated determination unit in step ST6 of FIG. 12;
  • FIG. 16A and 16B are diagrams showing an example of the hardware configuration of the abandoned object detection device according to Embodiment 1.
  • FIG. 1 is a side view showing a vehicle in which an imaging device is attached to an overhead console in Embodiment 1.
  • FIG. 1 is a diagram showing a configuration example of an abandoned object detection device 10 according to Embodiment 1.
  • the abandoned child detection device 10 detects a child left behind in the vehicle based on the captured image obtained from the imaging device 3 (see FIG. 2 described later) and the moving body map obtained from the radio wave sensor 2 (see FIG. 2 described later). detect whether or not The abandoned object detection device 10, the radio wave sensor 2, and the imaging device 3 are mounted on the vehicle 1 (see FIG. 2, which will be described later).
  • FIG. 2 is a side view showing the vehicle 1 to which the radio wave sensor 2 and the imaging device 3 are attached in the first embodiment.
  • FIG. 3 is a top view showing the vehicle 1 to which the radio wave sensor 2 and the imaging device 3 are attached according to the first embodiment. 3, illustration of the radio wave sensor 2 is omitted.
  • the x-axis is the axis parallel to the vehicle width direction of the vehicle 1
  • the y-axis is the axis parallel to the vehicle height direction of the vehicle 1
  • the z-axis is the vehicle of the vehicle 1.
  • the axis is parallel to the long direction.
  • the vehicle 1 is a right-hand drive vehicle in Embodiment 1, this is merely an example, and the vehicle 1 may be a left-hand drive vehicle.
  • the radio wave sensor 2 is installed on the ceiling inside the vehicle. More specifically, the radio wave sensor 2 is positioned on the ceiling of the vehicle interior in the traveling direction of the vehicle 1 from a position where the ceiling intersects a straight line extending vertically upward from the center point in the vehicle length direction of the seating surface of the rear seat. It is provided at a rear position with respect to. In Embodiment 1, the center of the seat surface in the vehicle length direction is not limited to being strictly the center, and includes approximately the center.
  • the radio wave sensor 2 emits radio waves toward the interior of the vehicle 1, receives reflected waves of the radio waves, detects objects existing in the vehicle interior based on the reflected waves, and detects objects in the vehicle interior. Create a moving body map that represents the distribution of existing areas in three dimensions.
  • the irradiation range 2a of the radio wave emitted from the radio wave sensor 2 is at least the seat surface of the rear seat, the lower part of the rear seat, the seat surface of the front seat, and the front seat in the area of the vehicle interior of the vehicle 1. It includes an area including the lower part (hereinafter referred to as "first area"). An occupant may be present in the first area.
  • the vehicle 1 has front seats and rear seats, and passengers can sit in the front seats or the rear seats. Therefore, the first area is an area including the space occupied by the occupant when seated on the front seat and the space occupied by the occupant when seated on the rear seat.
  • the space under the seat where the child is crawling is also included in the first area.
  • the fact that the passenger is seated includes the fact that the child is in the child seat.
  • the radio wave sensor 2 is positioned on the ceiling of the vehicle interior, at a position where the ceiling intersects a straight line extending vertically upward from the central point in the vehicle length direction on the seat surface of the rear seat.
  • the radio wave sensor 2 is installed above the headrest of the rear seat.
  • the radio wave sensor 2 may be installed in the center of the vehicle interior ceiling in the vehicle length direction.
  • the center of the ceiling in the vehicle length direction is not limited to being strictly the center, and includes approximately the center.
  • the radio wave sensor 2 should be installed at a position closer to the ceiling than the head of the occupant present in the passenger compartment.
  • crew members 4a, 4b, 4c, and 4d are boarding the vehicle 1 as an example.
  • the occupant 4a is an occupant seated in the front seat (hereinafter referred to as "front seat occupant"), and is seated in the driver's seat of the front seats.
  • the occupant 4b is a front seat occupant and is seated in the front passenger's seat.
  • the occupant 4c crawls into the rear seat at the foot of the rear seat.
  • crew 4c is illustrated in front of a rear seat for convenience.
  • the occupant 4d is an occupant sitting in the rear seat (hereinafter referred to as "rear seat occupant").
  • Passengers 4a, 4b, 4d are adults and passenger 4c is a child.
  • an adult is assumed to be an occupant of a physique capable of getting out of the vehicle by himself even if left behind in the vehicle 1
  • a child is assumed to be an occupant who is able to get out of the vehicle by himself after being left behind in the vehicle 1. It is assumed that the occupant has a physique that makes it difficult to get out.
  • children include infants.
  • FIG. 4 is a configuration diagram showing the radio wave sensor 2 mounted on the vehicle 1 according to the first embodiment.
  • FIG. 5 is a block diagram showing functions of the radio wave sensor 2 mounted on the vehicle 1 according to the first embodiment.
  • the x-axis is an axis parallel to the vehicle width direction of the vehicle 1
  • the y-axis is an axis parallel to the vehicle height direction of the vehicle 1
  • the z-axis is an axis parallel to the vehicle length direction of the vehicle 1.
  • the transmitting antenna 11 is a planar antenna configured on an electronic circuit board.
  • the transmitting antenna 11 has a plurality of transmitting antenna elements 11-1 and 11-2 that radiate radio waves toward the first area.
  • millimeter waves of 60 GHz are used as radio waves radiated from the transmitting antenna 11 .
  • the radio wave radiated from the transmitting antenna 11 may be, for example, a quasi-millimeter wave of 24 GHz.
  • the installation positions of the transmitting antenna element 11-1 and the transmitting antenna element 11-2 are different from each other in the vehicle height direction of the vehicle 1.
  • the receiving antenna 12 is a planar antenna configured on an electronic circuit board and installed on the same plane as the transmitting antenna 11 .
  • the same plane here does not mean that the plane on which the transmitting antenna 11 is installed and the plane on which the receiving antenna 12 is installed are strictly the same. Different planes are also included.
  • the receiving antenna 12 has a plurality of receiving antenna elements 12 - 1 to 12 - 4 for receiving reflected waves of radio waves radiated from the transmitting antenna 11 .
  • the installation positions of the receiving antenna element 12-1, the receiving antenna element 12-2, the receiving antenna element 12-3, and the receiving antenna element 12-4 are different from each other in the vehicle width direction of the vehicle 1.
  • the radio wave sensor circuit section 13 includes a high frequency signal generation circuit 14, a radio wave transmission section 15, a radio wave reception section 16, an analog-to-digital conversion circuit (hereinafter referred to as "A/D conversion circuit") 17, a map creation section 18, a communication circuit 19, and a power supply.
  • a circuit 20 is provided.
  • the high-frequency signal generation circuit 14 generates an FM (Frequency Modulation) signal whose frequency changes over time as a signal for sensing, and outputs the FM signal to each of the radio wave transmission unit 15 and the radio wave reception unit 16. .
  • the FM-CW (Frequency Modulation-Continuous Wave) method is used as the modulation method, and the high frequency signal generation circuit 14 generates the FM signal.
  • the modulation method is not limited to the FM-CW method, and for example, the FCM (Fast-Chirp Modulation) method may be used.
  • the high frequency signal generating circuit 14 When the FCM method is used as the modulation method, the high frequency signal generating circuit 14 generates an FCM signal and outputs the FCM signal to the radio wave transmitting section 15 and the radio wave receiving section 16 respectively.
  • the radio wave transmission unit 15 has a transmission circuit 15-1 and a transmission circuit 15-2.
  • the radio wave transmitting unit 15 radiates radio waves toward the first area from any one of the transmitting antenna elements 11-1 and 11-2. That is, the radio wave transmitting unit 15 sequentially switches one of the transmitting antenna elements 11-1 and 11-2 from which to radiate radio waves.
  • the radio wave transmitting section 15 causes the transmitting circuit 15-1 to output the FM signal to the transmitting antenna element 11-1.
  • the radio wave transmitting section 15 causes the transmitting circuit 15-2 to output the FM signal to the transmitting antenna element 11-2.
  • the transmission circuit 15-1 amplifies the FM signal output from the high-frequency signal generation circuit 14 and outputs the amplified FM signal to the transmission antenna element 11-1, thereby transmitting the signal from the transmission antenna element 11-1 by radio waves. A certain FM transmission wave is radiated toward the first region.
  • the transmission circuit 15-2 amplifies the FM signal output from the high-frequency signal generation circuit 14 and outputs the amplified FM signal to the transmission antenna element 11-2, whereby FM transmission is performed from the transmission antenna element 11-2. A wave is radiated toward the first region.
  • the radio wave receiving section 16 has a receiving circuit 16-1, a receiving circuit 16-2, a receiving circuit 16-3 and a receiving circuit 16-4.
  • the receiving circuit 16-m extracts a difference fd between the frequency of the FM signal output from the high-frequency signal generating circuit 14 and the frequency of the received signal (hereinafter referred to as "frequency difference").
  • the receiving circuit 16 - m generates an intermediate frequency signal IF m having a frequency difference f d and outputs the intermediate frequency signal IF m to the A/D conversion circuit 17 .
  • the A/D conversion circuit 17 outputs the digital signal Dm to the map generator 18 .
  • the map generator 18 is realized by, for example, a digital signal processing circuit.
  • the map creation unit 18 outputs the created moving body map to the communication circuit 19 .
  • a digital signal processing circuit is, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable Gate Array), or a combination thereof.
  • the digital signal processing circuit is not limited to being implemented by dedicated hardware, and may be implemented by software, firmware, or a combination of software and firmware.
  • Software or firmware is stored as a program in a computer's memory.
  • a computer means hardware that executes a program, for example, a CPU (Central Processing Unit), a central processing unit, a processing unit, an arithmetic unit, a microprocessor, a microcomputer, a processor, or a DSP (Digital Signal Processor). do.
  • FIG. 6 is an explanatory diagram showing an example of the FM signal Tx(k) generated by the high frequency signal generation circuit 14. As shown in FIG. In the FM signal Tx(k) shown in FIG.
  • the initial state of the frequency is the lower limit frequency, and the frequency increases with the passage of time until the frequency reaches the upper limit frequency.
  • the sweep time T is the time required for the frequency of the FM signal Tx(k) to reach the upper limit frequency from the lower limit frequency
  • the frequency bandwidth BW is the frequency difference between the upper limit frequency and the lower limit frequency. be.
  • the FM signal Tx(k) is generated K times with a constant period Tc .
  • the high-frequency signal generating circuit 14 outputs the FM signal Tx(k) to the transmitting circuits 15-1 and 15-2 of the radio wave transmitting unit 15, and the FM signal Tx(k) to the receiving circuits 16-1 to 16-1 of the radio wave receiving unit 16. Output to 16-4.
  • FIG. 6 also shows the amplitude waveform of the FM signal Tx(k).
  • the transmission circuits 15-1 and 15-2 alternately output the FM signal Tx(k).
  • the transmission circuit 15-1 receives the FM signal Tx(k) from the high frequency signal generation circuit 14 at the timing of outputting the FM signal Tx(k)
  • the transmission circuit 15-1 amplifies the FM signal Tx(k).
  • FM signal Tx(k) is output to the transmitting antenna element 11-1.
  • the transmission circuit 15-2 When the transmission circuit 15-2 receives the FM signal Tx(k) from the high frequency signal generation circuit 14 at the timing of outputting the FM signal Tx(k), the transmission circuit 15-2 amplifies the FM signal Tx(k). FM signal Tx(k) is output to the transmitting antenna element 11-2. The amplified FM signal Tx(k) is output from the transmission circuit 15-2 to the transmission antenna element 11-2, whereby an FM transmission wave is radiated from the transmission antenna element 11-2 toward the first area. .
  • FIG. 7 is an explanatory diagram showing an example of FM transmission waves and FM reception waves. FM transmission waves radiated from each of the transmission antenna element 11-1 and the transmission antenna element 11-2 are reflected by the passengers 4a, 4b, 4c and 4d existing in the first area.
  • the FM transmission wave has the property of being transmitted, reflected, or diffracted when it is irradiated onto a structure or the like inside the vehicle. Whether the FM transmission wave is transmitted, reflected, or diffracted depends on the material of the structure or the like. For example, for the front and rear seats, metal is used for the framework, etc., but cloth or synthetic leather is used for the surface part, and urethane etc. is used for the interior. do. In this case, among the FM transmission waves irradiated to the front seats and the like, the FM transmission waves that do not hit the metal such as the frame are transmitted through the front seats and the like. An FM transmission wave that hits metal such as a framework is reflected by the metal.
  • Embodiment 1 it is assumed that metal is laid on the entire surface of the seating surfaces of the frame of the front and rear seats. Therefore, for example, the occupant 4c who is in the lower part of the rear seat is almost covered with metal that reflects the FM transmission waves when viewed from the radio wave sensor 2.
  • FIG. 1 the FM transmission waves are reflected by the seat surface of the rear seat and do not reach the passenger 4c directly.
  • the FM transmission wave may be diffracted, reflected by a door or the like inside the vehicle, and then reach the occupant 4c in the lower part of the rear seat. In this way, routes other than the route through which the FM transmission waves directly reach the passenger 4c are called multipaths.
  • the FM transmission wave will not directly reach the body surface of the passenger in the vehicle. After being reflected by a door or the like, the light travels around and reaches the body surface of the front seat passenger or rear seat passenger covered by a structure or the like.
  • FM received waves which are reflected waves of the FM transmitted waves reflected by each of the passengers 4a, 4b, 4c, and 4d, are transmitted from the transmitting antenna element 11-1 or the transmitting antenna element 11-2 as shown in FIG. It is assumed that the FM transmission waves are received by the receiving antenna elements 12-1 to 12-4 after the time td has passed since they were radiated. At this time, there is a difference of fd between the frequency of the FM transmission wave, which is the chirp signal, and the frequency of the FM reception wave. The frequency difference fd between the FM transmission wave and the FM reception wave increases in proportion to the distance between the radio wave sensor 2 and the reflecting objects such as the passengers 4a, 4b, 4c, 4d.
  • FIG. 8 is an explanatory diagram showing the relationship between the sweep time T of the FM transmission wave and the frequency difference fd .
  • the receiving circuit 16-m generates a frequency which is the difference between the frequency of the FM signal Tx(k) output from the high-frequency signal generating circuit 14 and the frequency of the received signal Rx(k) output from the receiving antenna element 12-m. Extract the difference f d (k).
  • the receiving circuit 16 - m generates an intermediate frequency signal IF m (k) having a frequency difference f d (k) and outputs the intermediate frequency signal IF m (k) to the A/D conversion circuit 17 .
  • the signal intensity of the beat frequency Fs 1,n becomes higher than the signal intensity of the frequencies other than the beat frequency Fs 1,n and becomes the peak value of the first frequency spectrum Sp 1 .
  • Rn is the distance between the radio wave sensor 2 and the passengers 4a, 4b, 4c, 4d, etc.
  • c is the propagation speed of the radio wave.
  • the map creating unit 18 searches for the beat frequency Fs 1 , n at which the signal strength reaches the peak value from the first frequency spectrum Sp 1 .
  • the map creation unit 18 calculates the distance Rn in the k-th transmission/reception by substituting the found beat frequency Fs 1,n into Equation (1).
  • the map creating unit 18 calculates the first frequency spectrum Sp 1 , the first frequency spectrum Sp 1 is subjected to Fourier transform in the time direction of the FM transmission waves periodically radiated from the transmitting antenna 11. to calculate the second frequency spectrum Sp2 .
  • the signal intensity of the beat frequency Fs2 ,n becomes higher than the signal intensity of the frequencies other than the beat frequency Fs2 ,n and becomes the peak value of the second frequency spectrum Sp2 .
  • f0 is the center frequency of the FM signal Tx(k).
  • the map creating unit 18 searches for the beat frequency Fs2 , n at which the signal intensity reaches the peak value from the second frequency spectrum Sp2.
  • the map creation unit 18 calculates the relative velocity v n in the k-th transmission/reception by substituting the found beat frequency Fs 2,n into Equation (2).
  • the installation positions of the receiving antenna elements 12-1 to 12-4 are different from each other in the vehicle width direction of the vehicle 1.
  • d x is the distance between the receiving antenna elements 12-1 to 12-4 in the direction parallel to the vehicle width direction
  • ⁇ x,n is the FM received wave for the receiving antenna element 12-m. is the angle of incidence in the xz plane of
  • is the wavelength of the FM transmitted wave.
  • the map generator 18 calculates the third frequency spectrum Sp 3,m by synthesizing the Fourier transform results of the four digital signals D 1 (k) to D 4 (k). Every time the map creation unit 18 calculates the third frequency spectrum Sp 3,m , the map creation unit 18 Fourier transforms the third frequency spectrum Sp 3,m in the time direction of the FM transmission waves radiated periodically. , the fourth frequency spectrum Sp 4,m is calculated. Every time the map generator 18 calculates the fourth frequency spectrum Sp 4,m , it calculates the fifth frequency spectrum Sp 5 by Fourier transforming the fourth frequency spectrum Sp 4,m .
  • the fourth frequency spectrum Sp 4,m is Fourier-transformed over the vehicle width direction (direction parallel to the x-axis), which is the direction in which the receiving antenna elements 12-1 to 12-4 are arranged.
  • the spectrum value of the received signal Rx(k) ( k 1, . integrated into the signal.
  • the signal intensity of the frequency component Fs5 ,n becomes higher than the signal intensity of the frequency components other than the frequency component Fs5 ,n , and becomes the peak value of the fifth frequency spectrum Sp5 .
  • the map creation unit 18 searches the fifth frequency spectrum Sp 5 for the frequency component Fs 5,n at which the signal strength reaches the peak value.
  • the map generator 18 calculates the incident angle ⁇ x,n on the xz plane in the k-th transmission/reception by substituting the searched frequency component Fs 5,n into the following equation (4).
  • the radio wave sensor 2 shown in FIG. 4 has four receiving antenna elements 12-1 to 12-4. Further, the radio wave sensor 2 has two transmitting antenna elements 11-1 and 11-2, and the transmitting antenna elements 11-1 and 11-2 alternately radiate FM transmission waves. Therefore, as shown in FIG. 9, the radio wave sensor 2 has virtual antennas 12-1' to 12-12 equivalent to four receiving antenna elements 12-1 to 12-4 arranged in two rows in the vehicle height direction. -8' is constructed. In the example of FIG. 9, virtual antennas 12-1' to 12-4' and virtual antennas 12-5' to 12-8' are arranged in the vehicle height direction. The interval in the vehicle height direction between the virtual antennas 12-1' to 12-4' and the virtual antennas 12-5' to 12-8' is d y .
  • FIG. 9 is an explanatory diagram showing an example of the virtual antennas 12-1′ to 12-8′ configured in the radio wave sensor 2. As shown in FIG.
  • the map creation unit 18 determines that the fourth frequency spectrum Sp 4,m is in the vehicle height direction (the direction parallel to the y-axis ), and by substituting the frequency component Fs 5,n obtained by integrating the spectrum value of the received signal Rx(k) into the following equation (5), y Calculate the angle of incidence ⁇ y,n in the ⁇ z plane.
  • the map generator 18 generates a three-dimensional spatial distribution whose dimensions are the distance R n , the incident angle ⁇ x,n on the xz plane, and the incident angle ⁇ y,n on the yz plane. . Since the processing itself for generating the three-dimensional spatial distribution is a known technology, detailed description thereof will be omitted.
  • the three-dimensional spatial distribution created by the map creator 18 is referred to as a "moving body map".
  • the moving object map three-dimensionally represents the distribution of areas where objects exist in the vehicle interior.
  • the moving object map is a plurality of grids in which minute movements of an object, in other words, an object that reflects the radio waves emitted by the radio wave sensor 2, are associated with reflection points of the radio waves in a three-dimensional space. Represent.
  • FIGS. 10A, 10B, and 10C are diagrams showing an example of a moving body map created by the radio wave sensor 2 in Embodiment 1.
  • FIG. 10A shows an example of a top view of the moving body map
  • FIG. 10B shows an example of a side view of the moving body map
  • FIG. 10C shows an example of a front view of the moving body map.
  • the moving object map is shown in three views for the sake of simplification of explanation.
  • 10A, 10B, and 10C are moving object maps in the case where only the occupant shown in 4d is present in the vehicle interior shown in FIGS. 2 and 3. .
  • FIGS. 10A, 10B, and 10C also show images of seats in the vehicle compartment.
  • each grid is given a numerical value indicating the peak value of the frequency spectrum of the digital signal D m (k). That is, in the moving body map, grids included in a range in which the moving bodies that make minute movements, in other words, the crew members 4a, 4b, 4c, and 4d exist have larger numerical values than grids in which the crew members 4a, 4b, 4c, and 4d do not exist. Granted. In the moving object maps shown in FIGS. 10A, 10B, and 10C, grids with larger assigned numerical values are shown darker. That is, in the moving body maps shown in FIGS. 10A, 10B, and 10C, the grids included in the range where the passenger 4d exists are darker. In the moving body map, a stationary object, in other words, a reflected wave component with a speed of 0 does not appear.
  • the moving object map includes a spatial distribution corresponding to each of the occupants 4a, 4b, 4c, and 4d (hereinafter referred to as "passenger spatial distribution") and a spatial distribution corresponding to objects that are reflecting objects other than the occupants (hereinafter referred to as “non-occupant distribution”). (referred to as “spatial distribution”).
  • FIGS. 11A, 11B, and 11C are diagrams showing other examples of moving object maps created by the radio wave sensor 2 in Embodiment 1.
  • FIG. The moving body maps shown using FIGS. 11A, 11B, and 11C are the moving body maps when only the passenger shown in 4c is present in the vehicle interior shown in FIGS.
  • the FM transmission waves radiated from the transmission antenna 11 almost do not directly hit the body surface of the passenger 4c, but reach the passenger 4c after being reflected by the doors in the vehicle compartment due to multipath.
  • FIGS. 11A, 11B, and 11C also show an image of the seats in the vehicle interior for the sake of convenience, and lines indicating the space in the vehicle interior for clarity.
  • FIG. 11A, 11B, and 11C also show an image of the seats in the vehicle interior for the sake of convenience, and lines indicating the space in the vehicle interior for clarity.
  • FIG. 11A, 11B, and 11C also show an image of the seats in the vehicle interior for the sake of convenience, and lines indicating the space
  • the radio wave sensor 2 and lines indicating radio waves transmitted and received by the radio wave sensor 2 are illustrated for explanation of how the spatial distribution corresponding to the occupant 4c appears in the moving body map.
  • an FM transmission wave emitted from the transmission antenna 11 reaches the passenger 4c after being reflected by the door in the passenger compartment. This route is indicated by solid arrows in FIG. 11A.
  • the spatial distribution corresponding to the occupant 4c occurs at the point indicated by the dotted line arrow extending from the solid line of the route before being reflected by the door. In this way, the spatial distribution corresponding to the occupant 4c detected by multipath occurs at a position different from the position where the occupant 4c actually exists on the moving body map.
  • FIGS. 11A, 11B, and 11C Although omitted in FIGS. 11A, 11B, and 11C for the sake of convenience, if there is a small portion of the body surface of the occupant 4c that is directly hit by the FM transmission waves emitted from the transmission antenna 11, the moving body map Above, a spatial distribution representing that the fraction is detected is represented at the locations where the fraction is present.
  • the communication circuit 19 transfers the moving body map output from the map creation unit 18 to the abandoned object detection device 10 via the interface unit 21, which will be described later.
  • the power supply circuit 20 receives power supply from a control unit (not shown) or the like via an interface section 21 .
  • the power supply circuit 20 distributes the received power as driving power to the high-frequency signal generation circuit 14, the radio wave transmission unit 15, the radio wave reception unit 16, the A/D conversion circuit 17, the map creation unit 18, and the communication circuit 19. .
  • the interface unit 21 is an interface for connecting the radio wave sensor circuit unit 13 and the abandoned object detection device 10 or a control unit (not shown) or the like.
  • the radio wave sensor 2 in Embodiment 1 is a radio wave sensor capable of detecting the distance and angle to an object existing in the vehicle interior, and is capable of generating a moving body map based on the distance and angle to the detected object. It is assumed that the sensor is a radio wave sensor.
  • the mounting angle of the radio wave sensor 2 can be adjusted according to the vehicle type of the vehicle 1 in which the radio wave sensor 2 is installed. For example, with the x-axis of the coordinate system of the radio wave sensor 2 as a starting point, the radio wave sensor 2 can be installed in the vehicle interior in a state where the radio wave sensor 2 is rotated by an angle ⁇ in the yz plane.
  • the radio wave sensor 2 has a degree of freedom in installation.
  • the receiving antenna 12 has four receiving antenna elements 12-1 to 12-4. However, this is only an example.
  • the receiving antenna 12 may have a plurality of receiving antenna elements, and the receiving antenna 12 may have two receiving antenna elements, three receiving antenna elements, or five or more receiving antenna elements. good.
  • the transmission antenna 11 has two transmission antenna elements 11-1 and 11-2. However, this is only an example. In the radio wave sensor 2, the transmitting antenna 11 may have only one transmitting antenna element, or may have three or more transmitting antenna elements.
  • the imaging device 3 is, for example, a near-infrared camera or a visible light camera, and images an occupant of the vehicle 1 .
  • the imaging device 3 is, for example, assumed to be shared with a so-called DMS (Driver Monitoring System) installed for the purpose of monitoring the interior of the vehicle.
  • the imaging device 3 is installed so as to be capable of imaging at least an area (hereinafter referred to as a "second area") in which the upper half of the body of the front seat occupant should be located in the vehicle compartment.
  • the second area is, for example, an area corresponding to the space in front of the backrest and headrest of the front seat.
  • the imaging range 3a of the imaging device 3 includes the second area.
  • the imaging device 3 is installed in the center console of the vehicle 1 and images the second region from the center console.
  • the imaging device 3 outputs the captured image to the abandoned object detection device 10 .
  • the abandonment detection apparatus 10 includes a captured image acquisition unit 101, a first physique determination unit 102, a map acquisition unit 103, a second physique determination unit 104, a presence/absence determination unit 105, an integrated determination unit 106, and An output unit 107 is provided.
  • the captured image acquisition unit 101 acquires a captured image captured by the imaging device 3 .
  • the captured image acquisition unit 101 outputs the acquired captured image to the first physique determination unit 102 .
  • the first physique determination unit 102 detects an occupant and determines whether the occupant is an adult or a child based on the captured image acquired by the captured image acquisition unit 101 .
  • the occupant to be detected by first physique determination section 102 is the occupant in the front seat. This is because the rear seat occupant is a blind spot for the imaging device 3 and is not captured in the captured image.
  • the first physique determination unit 102 can also detect a child who is a front seat occupant (hereinafter referred to as a "front front seat occupant”) in a forward facing child seat.
  • the front-seat occupants to be detected by first physique determination unit 102 are, more specifically, front-seat occupants excluding rearward-facing front-seat occupants.
  • the first physique determination unit 102 can detect that a child seat is attached to the seat by an appropriate method.
  • the first physique determination unit 102 may detect that a child seat is attached from a captured image using a known image recognition technique, or may detect that a child seat is attached based on information obtained from a seating sensor installed on the seat. Based on this, it may be detected that the child seat is attached.
  • the first physique determination unit 102 detects skeletal points based on the captured image, detects the presence or absence of a front seat occupant, and determines whether the front seat occupant is an adult or a child based on the detected skeletal points. . Since the technique of detecting skeletal points based on a captured image and determining a person's physique is a known technique, detailed description thereof will be omitted.
  • the first physique determination unit 102 detects, for example, a plurality of skeletal points representing the neck, shoulders, elbows, and hips of the front seat occupant on the captured image.
  • the skeleton points are points in the captured image (hereinafter referred to as "skeletal coordinate points") and are represented by coordinates in the captured image.
  • the first physique determination unit 102 detects skeletal coordinate points for each seat (driver's seat and passenger's seat). Since the installation position and the angle of view of the imaging device 3 are known in advance, the first physique determination unit 102 can determine in which position each seat in the vehicle is imaged on the captured image. The first physique determination unit 102 determines that the front seat occupant is present in the driver's seat when the skeletal coordinate points are detected in the area including the driver's seat on the captured image. The first physique determination unit 102 determines that the front seat occupant is present in the front passenger seat when the skeletal coordinate points are detected in the area including the front passenger seat on the captured image.
  • the front seat occupant determines that the front seat occupant is present, the front seat occupant is determined to be an adult based on the sitting height of the front seat occupant or the distance between the skeletal points calculated from the skeletal coordinate points. or a child.
  • the first physique determination unit 102 compares, for example, the sitting height of the front seat occupant or the distance between skeletal points with a preset threshold value (hereinafter referred to as “threshold for physique determination”) to determine whether the front seat occupant is an adult. or a child.
  • threshold for physique determination a preset threshold value
  • the first physique determination unit 102 provides information indicating the detection result of the occupant present in the vehicle interior, the position where the occupant is seated, and the determination result indicating whether the occupant is an adult or a child (hereinafter referred to as (referred to as “first determination result”) is output to integrated determination section 106 .
  • the position where the occupant is seated is indicated by, for example, the seat (for example, driver's seat or front passenger's seat).
  • the map acquisition unit 103 acquires the moving body map from the radio wave sensor 2 .
  • Map acquisition section 103 outputs the acquired moving body map to second physique determination section 104 and presence/absence determination section 105 .
  • the second physique determination unit 104 detects the occupant and determines whether the occupant is an adult or a child based on the moving body map acquired by the map acquisition unit 103 .
  • the occupants to be detected by the second physique determination unit 104 are the front seat occupant and the rear seat occupant. More specifically, the front-seat occupant to be detected by the second physique determination unit 104 is assumed to be a rear-facing front-seat occupant. That is, the second physique determination unit 104 detects a rear-facing front seat occupant or a rear seat occupant based on the moving body map, and determines whether the rear-facing front seat occupant or rear seat occupant is an adult or a child.
  • first physique determination unit 102 cannot detect a rearward-facing front seat occupant.
  • the second physique determination unit 104 can detect the rear-facing front seat occupant. Since the FM transmission waves radiated by the radio wave sensor 2 pass through the backrest portion of the seat, the spatial distribution corresponding to the rear-facing front seat occupants is shown on the moving body map.
  • Rear-seat occupants to be detected by the second physique determination unit 104 include rear-seat occupants sitting in forward-facing child seats attached to the rear seats (hereinafter referred to as "forward-facing rear-seat occupants") and rear-seat occupants.
  • the second physique determination unit 104 can detect that a child seat is attached to the seat by an appropriate method. For example, the second physique determination unit 104 may acquire information indicating that a child seat is installed, which is detected from the captured image by the first physique determination unit 102 using a known image recognition technique. It may be detected that a child seat is attached based on information obtained from an installed seating sensor. The process of detecting an occupant and determining whether the detected occupant is an adult or a child, which is performed by the second physique determination unit 104, is also referred to as "second physique determination process".
  • the second physique determination unit 104 determines the shape of the spatial distribution (for example, the spatial distribution indicated by the colored grid in FIG. 10) included in the moving body map. It is determined whether the spatial distribution is the occupant spatial distribution or the non-occupant spatial distribution. Any method may be used for determination based on the shape of the spatial distribution. A mode of determining whether the spatial distribution in which the vehicle is present is the occupant spatial distribution or the non-occupant spatial distribution is conceivable.
  • the second physique determination unit 104 determines whether the relative velocity vn corresponding to the spatial distribution included in the moving body map is, for example, greater than a preset threshold (hereinafter referred to as "velocity determination threshold"), the second physique determination unit 104 , the spatial distribution is determined to be the occupant spatial distribution, and if the relative velocity vn is equal to or less than the velocity determination threshold value, the spatial distribution may be determined to be the non-occupant spatial distribution.
  • Each grid of the moving body map is associated with a relative velocity vn .
  • the speed determination threshold may be stored in the second physique determination unit 104 or may be given from outside the abandoned object detection apparatus 10 . Even if the occupant does not move his or her hands or feet, there is some movement because the occupant is breathing. In contrast, structures such as bags are generally stationary.
  • the second physique determination unit 104 determines that the spatial distribution included in the moving body map is the occupant spatial distribution, it determines that the occupant is present. Further, if the second physique determination unit 104 determines that the spatial distribution included in the moving body map is the occupant spatial distribution, the distance R n , the incident angle ⁇ x, n , and the incident angle ⁇ y related to the occupant spatial distribution , n , the positions of the occupants present in the occupant space distribution are identified. If the distance Rn from the radio sensor 2 and the incident angles ⁇ x,n and ⁇ y,n with respect to the radio sensor 2 are known, the position of the occupant can be identified.
  • Each grid of the moving body map is associated with a distance Rn from the radio wave sensor 2, an incident angle ⁇ x,n and an incident angle ⁇ y,n with respect to the radio wave sensor 2.
  • FIG. The position where the occupant is seated is indicated, for example, by the seat (eg, rear seat right, rear seat left, or rear seat center).
  • the second physique determination unit 104 determines whether the detected occupant is an adult or a child based on the size of the occupant space distribution included in the moving body map. Any method can be used for determination based on the size of the passenger space distribution. It is conceivable to determine whether the subject is a child or whether the subject is a child.
  • the second physique determination unit 104 provides information (hereinafter referred to as (referred to as a “second determination result”) to integrated determination section 106 .
  • the second physique determination unit 104 detects front seat occupants, more specifically, rearward facing front seat occupants and rear seat occupants.
  • Second physique determination section 104 can replace first physique determination section 102 to detect a rearward-facing front seat occupant that first physique determination section 102 cannot detect.
  • the second physique determination unit 104 can detect, for example, a front-seat passenger other than a rear-facing front-seat passenger, such as an adult front-seat passenger.
  • the spatial resolution of the radio wave sensor 2 is generally low, it is difficult to determine the physique of the occupant present at a position distant from the radio wave sensor 2 .
  • first physique determination section 102 detects front seat occupants that can be detected by first physique determination section 102 , and excludes them from detection targets of second physique determination section 104 .
  • the second physique determination unit 104 detects occupants in a range that the first physique determination unit 102 cannot detect by detecting rear-seat occupants. In this way, the detection targets of the first physique determination unit 102 and the second physique determination unit 104 complement each other.
  • the abandoned object detection device 10 detects and determines the physique of the occupant using the captured image from the imaging device 3 whose imaging range is the area near the front seats in the vehicle compartment, and detects the occupant in the area near the front seats in the vehicle compartment. In a region close to , detection of the occupant and determination of physique are performed using the moving body map from the radio wave sensor 2 whose detection range is the region. In addition, the abandonment detection device 10 uses the moving body map from the radio wave sensor 2 to detect and determine the physique of a rear-facing front seat passenger who cannot be imaged by the imaging device 3 even if the passenger is a front seat passenger.
  • the abandoned vehicle detection device 10 is designed to rationally detect the presence or absence of occupants sitting on all the seats in the vehicle. As described above, the FM transmission waves from the radio wave sensor 2 pass through cloth, synthetic leather, urethane, or the like.
  • the second physique determination unit 104 can also detect an occupant covered with a blanket, for example.
  • the presence/absence determination unit 105 determines whether or not there is a moving object assumed to be an occupant in the vehicle interior. Note that the presence/absence determination unit 105 does not need to determine the position of a moving object assumed to be an occupant in the vehicle compartment. The presence/absence determination unit 105 only needs to be able to determine whether or not a moving object assumed to be an occupant exists somewhere in the vehicle interior area. For example, based on the time-series moving body map acquired by the map acquisition unit 103, the presence/absence determination unit 105 determines the speed of change of the distance Rn according to the movement of the reflecting object, which is associated with each grid.
  • the presence/absence determination unit 105 stores the moving body maps acquired from the map acquisition unit 103 in chronological order in a location that the presence/absence determination unit 105 can refer to.
  • the presence/absence determination unit 105 determines that a moving object assumed to be an occupant is present in the vehicle interior when there is a grid in which the calculated frequency component of motion corresponds to a frequency corresponding to body motion.
  • Presence/absence determination unit 105 outputs a determination result (hereinafter referred to as “presence/absence determination result”) as to whether or not a moving object presumed to be an occupant exists in the vehicle compartment to integrated determination unit 106 .
  • the second physique determination unit 104 does not determine the spatial distribution as the occupant spatial distribution. In other words, these passengers are not detected by the second physique determination section 104 .
  • the presence/absence determination unit 105 determines whether or not there is a moving object assumed to be a passenger somewhere in the area inside the vehicle compartment. As in the example described above, the presence/absence determination unit 105 determines that an occupant, whose position or size is not assumed to exist in the vehicle interior on the moving body map, is present somewhere in the vehicle interior. You can determine what you are doing.
  • Integrated determination section 106 combines the first determination result output from first physique determination section 102, the second determination result output from second physique determination section 104, and the presence/absence determination result output from presence/absence determination section 105. , it is determined whether or not a child is left behind in the vehicle. Specifically, the integrated determination unit 106 determines whether an adult or a child is present in the front seat by the first physique determination unit 102, and the second physique determination unit 104 determines whether the person Based on the determination result as to whether an adult or a child exists and the determination result as to whether or not a moving object assumed to be an occupant exists somewhere in the area of the vehicle interior by the presence/absence determination unit 105, To determine whether or not a child is left behind in a room.
  • the determination of whether or not a child is left behind in the vehicle by the integrated determination unit 106 is also referred to as "integrated determination processing". Details of the integration determination process will be described. First, based on the first determination result and the second determination result, the integrated determination unit 106 determines whether the front seat occupant or the rear seat occupant is an adult in the first physique determination process or the second physique determination process. Determine whether or not That is, the integrated determination unit 106 determines whether or not it is determined in the first physique determination process or the second physique determination process that an adult is present in the vehicle interior. The integrated determination unit 106 determines whether or not an adult has been left in the vehicle interior as follows, depending on whether or not it is determined that an adult is present in the vehicle interior.
  • the integrated determination unit 106 determines that no child has been left behind in the vehicle interior. In other words, even if there is a child in the vehicle, the integrated determination unit 106 determines that no child has been left behind when it is determined that an adult is present in the vehicle.
  • the integrated determination unit 106 determines that the child is left behind. That is, the integrated determination unit 106 determines that an abandoned vehicle has occurred in the vehicle interior.
  • the presence/absence determination unit 105 determines in the presence/absence determination process that there is a moving body assumed to be an occupant in the vehicle interior. judge. Therefore, the integrated determination unit 106 determines that an abandoned object has occurred. In this way, the integrated determination unit 106 determines not only whether an occupant is detected in a place (for example, the front seat or the rear seat) where the occupant is normally assumed to be present, A determination is made as to whether or not an abandoned object has occurred, taking into account whether or not there is a moving object to be left behind. Therefore, the integrated determination unit 106 can determine whether or not a child is left behind in an unexpected place, such as when the child is crawling under the seat and playing.
  • the integrated determination unit 106 determines that no child has been left behind in the vehicle interior. In other words, the integrated determination unit 106 determines that no vehicle has been left behind in the vehicle.
  • Integrated determination unit 106 outputs to output unit 107 a determination result (hereinafter referred to as “integrated determination result”) as to whether or not an abandoned vehicle has occurred in the vehicle compartment.
  • the integrated determination unit 106 may also output to the output unit 107 information about the occupants present in the vehicle (hereinafter referred to as “occupant information”).
  • the occupant information includes information indicating whether or not there is an occupant present in the vehicle, where the occupant is seated, and whether the occupant is an adult or a child.
  • the integrated determination unit 106 determines whether there is an occupant present in the vehicle interior, the position where the occupant is seated, and whether the occupant is an adult or a child. do it.
  • Occupant information may also include information indicating whether there are any occupants present anywhere in the vehicle interior.
  • the integrated determination unit 106 may determine whether or not there is an occupant somewhere in the vehicle interior based on the presence/absence determination result.
  • the output unit 107 outputs information based on the integrated determination result output from the integrated determination unit 106 (hereinafter referred to as “leftover information”). For example, when the output unit 107 outputs an integrated determination result indicating that an abandoned object has occurred inside the vehicle, the output unit 107 outputs an audio output device (not shown) provided in the vehicle 1 to the outside of the vehicle. Abandonment information is output for outputting a notification sound that informs that a is occurring. Also, for example, the output unit 107 outputs abandoned information for outputting a message to the effect that an abandoned vehicle has occurred to a pre-registered mobile terminal. For example, the owner of the vehicle 1 registers his mobile terminal in advance.
  • the output unit 107 can also output the occupant information.
  • the output unit 107 may store the occupant information in a storage unit (not shown) provided at a location that can be referred to by the abandoned vehicle detection device 10 .
  • the integrated determination unit 106 may have the function of the output unit 107 .
  • FIG. 12 is a flowchart for explaining the operation of the abandoned object detection device 10 according to the first embodiment.
  • the captured image acquisition unit 101 acquires a captured image captured by the imaging device 3 (step ST1).
  • the captured image acquisition unit 101 outputs the acquired captured image to the first physique determination unit 102 .
  • the first physique determination unit 102 detects an occupant based on the captured image acquired by the captured image acquisition unit 101 in step ST1, and performs first physique determination processing to determine whether the occupant is an adult or a child (step ST2).
  • First physique determination section 102 outputs the first determination result to integrated determination section 106 .
  • the map acquisition unit 103 acquires a moving body map from the radio wave sensor 2 (step ST3). Map acquisition section 103 outputs the acquired moving body map to second physique determination section 104 and presence/absence determination section 105 .
  • the second physique determination unit 104 detects the occupant based on the moving body map acquired by the map acquisition unit 103 in step ST3, and performs second physique determination processing to determine whether the occupant is an adult or a child (step ST4 ). Second physique determination section 104 outputs the second determination result to integrated determination section 106 .
  • the presence/absence determination section 105 determines whether or not there is a moving body assumed to be an occupant in the vehicle compartment (step ST5). Presence/absence determination section 105 outputs the presence/absence determination result to integrated determination section 106 .
  • Integrated determination section 106 combines the first determination result output from first physique determination section 102 in step ST2, the second determination result output from second physique determination section 104 in step ST4, and the Based on the presence/absence determination result output from presence/absence determination section 105, integrated determination processing is performed to determine whether or not a child is left behind in the vehicle (step ST6).
  • Integrated determination section 106 outputs the integrated determination result to output section 107 .
  • the integrated determination unit 106 may also output the occupant information to the output unit 107 .
  • the output unit 107 outputs the abandonment information based on the integrated determination result output from the integrated determination unit 106 in step ST6 (step ST7).
  • the output unit 107 may output the occupant information or store the occupant information in the storage unit in step ST7. .
  • step ST4 and step ST5 the processing is performed in the order of step ST4 and step ST5, but this is only an example.
  • the order of the processing in step ST4 and the processing in step ST5 may be reversed, or the processing in step ST4 and the processing in step ST5 may be performed in parallel.
  • FIG. 13 is a flowchart for explaining the details of the first physique determination process by the first physique determination unit 102 in step ST2 of FIG.
  • the first physique determination unit 102 detects skeletal points based on the captured image acquired by the captured image acquisition unit 101 in step ST1 of FIG. 12 (step ST101). Specifically, first physique determination section 102 detects skeletal coordinate points.
  • the first physique determination unit 102 determines whether or not a front seat passenger is present based on the skeletal coordinate points detected in step ST101 (step ST102).
  • step ST102 If it is determined in step ST102 that a front seat occupant is present ("YES" in step ST102), first physique determining section 102 determines whether the front seat occupant is an adult or a child. (step ST103).
  • step ST102 When it is determined in step ST102 that there is no passenger in the front seat ("NO" in step ST102), the processing of first physique determining section 102 skips step ST103 and proceeds to step ST104. proceed to
  • First physique determination section 102 outputs the first determination result to integrated determination section 106 (step ST104).
  • FIG. 14 is a flowchart for explaining the details of the second physique determination process by the second physique determination unit 104 in step ST4 of FIG.
  • Second physique determination section 104 based on the moving body map acquired by map acquisition section 103 in step ST3 of FIG. It is determined whether or not (step ST201).
  • step ST201 If it is determined in step ST201 that a rear-facing front seat passenger or a rear seat passenger exists ("YES" in step ST201), second physique determination section 104 determines the passenger space included in the moving body map. Based on the magnitude of the distribution, it is determined whether the detected occupant (rear-facing front seat occupant or rear seat occupant) is an adult or a child (step ST202).
  • step ST201 When it is determined in step ST201 that there is neither a rear-facing front seat passenger nor a rear seat passenger ("NO" in step ST201), the processing of second physique determination section 104 skips step ST202. , the process proceeds to step ST203.
  • Second physique determination section 104 outputs the second determination result to integrated determination section 106 (step ST203).
  • FIG. 15 is a flowchart for explaining the details of the integration determination process by the integration determination unit 106 in step ST6 of FIG.
  • Integrated determination section 106 first performs the first physique determination process or the second determination process based on the first determination result output in step ST2 of FIG. 12 and the second determination result output in step ST4 of FIG. It is determined whether or not the front seat occupant or the rear seat occupant determined to exist in the physique determination process is an adult. That is, integrated determination section 106 determines whether or not it is determined in the first physique determination process or the second physique determination process that an adult is present in the vehicle interior (step ST301).
  • step ST301 When it is determined in step ST301 that an adult is not present in the vehicle interior ("NO" in step ST301), integrated determination section 106, based on the first determination result and the second determination result, It is determined whether or not it is determined that a child is present in the vehicle compartment in the first physique determination process or the second physique determination process (step ST302).
  • step ST302 If it is determined in step ST302 that a child is not present in the vehicle interior ("NO" in step ST302), integrated determination section 106 outputs the presence/absence determination result output in step ST5 of FIG. , it is determined whether or not it is determined in the presence/absence determination process that there is a moving object assumed to be an occupant in the vehicle compartment (step ST303).
  • step ST302 If it is determined in step ST302 that a child exists in the vehicle interior (if "YES” in step ST302), or in step ST303 it is determined that a moving object assumed to be an occupant exists in the vehicle interior. If it is determined that the vehicle has been left (“YES” in step ST303), integrated determination section 106 determines that an abandoned vehicle has occurred in the vehicle (step ST304).
  • step ST301 When it is determined in step ST301 that an adult exists in the vehicle interior ("YES” in step ST301), integrated determination section 106 determines that no adult has been left in the vehicle interior (step ST305).
  • step ST303 when it is determined that there is no moving object assumed to be an occupant in the vehicle interior (“NO” in step ST303), integrated determination section 106 determines that an abandoned vehicle has occurred in the vehicle interior. It is determined that it has not (step ST306).
  • Integrated determination section 106 outputs the integrated determination result to output section 107 (step ST307). At this time, the integrated determination unit 106 may also output the occupant information to the output unit 107 .
  • the abandoned object detection device 10 detects the front seat occupant and determines whether the front seat occupant is an adult or a child based on the captured image captured by the imaging device 3. Based on the moving body map, a rearward front seat occupant or a rear seat occupant is detected and it is determined whether the rearward front seat occupant or rear seat occupant is an adult or a child. Also, the abandoned vehicle detection apparatus 10 determines whether or not there is a moving object assumed to be an occupant somewhere in the area of the vehicle interior based on the moving object map. Then, the abandoned object detection device 10 determines whether an adult or a child is present in the front seat or the rear seat (the first determination result and the second determination result), and the existence of a moving object assumed to be an occupant in the vehicle.
  • the abandoned object detection device 10 is located in a blind spot of the imaging device 3 and in a place blocked by a structure or the like that reflects the radio wave emitted by the radio wave sensor 2. It can detect existing children.
  • FIG. 16A and 16B are diagrams showing an example of the hardware configuration of the abandoned object detection device 10 according to the first embodiment.
  • captured image acquisition section 101, first physique determination section 102, map acquisition section 103, second physique determination section 104, presence/absence determination section 105, integrated determination section 106, and output section 107 function is implemented by the processing circuit 1001 .
  • the abandoned child detection device 10 includes a processing circuit 1001 for controlling detection of an abandoned child in the vehicle.
  • the processing circuitry 1001 may be dedicated hardware, as shown in FIG. 16A, or a processor 1004 executing a program stored in memory, as shown in FIG. 16B.
  • the processing circuit 1001 may be, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable Gate Array), or a combination thereof.
  • ASIC Application Specific Integrated Circuit
  • FPGA Field-Programmable Gate Array
  • the processing circuit is the processor 1004, the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, the second physique determination unit 104, the presence/absence determination unit 105, the integrated determination unit 106, and the output
  • the functions of the unit 107 are implemented by software, firmware, or a combination of software and firmware.
  • Software or firmware is written as a program and stored in memory 1005 .
  • the processor 1004 reads and executes the programs stored in the memory 1005 to obtain the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, the second physique determination unit 104, and the presence/absence determination.
  • the functions of the unit 105 , the integrated determination unit 106 and the output unit 107 are executed.
  • the abandoned object detection apparatus 10 includes a memory 1005 for storing a program that, when executed by the processor 1004, results in the execution of steps ST1 to ST7 in FIG. 12 described above.
  • the programs stored in the memory 1005 include the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, the second physique determination unit 104, the presence/absence determination unit 105, and the integrated determination unit 106. It can also be said that the processing procedure or method of the output unit 107 is executed by a computer.
  • the memory 1005 is a non-volatile memory such as RAM, ROM (Read Only Memory), flash memory, EPROM (Erasable Programmable Read Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory). volatile or volatile A semiconductor memory, a magnetic disk, a flexible disk, an optical disk, a compact disk, a mini disk, a DVD (Digital Versatile Disc), etc. correspond to this.
  • a part may be realized by dedicated hardware and a part may be realized by software or firmware.
  • the captured image acquisition unit 101 and the map acquisition unit 103 are realized by the processing circuit 1001 as dedicated hardware, and the first physique determination unit 102, the second physique determination unit 104, and the presence/absence determination unit 105 are realized.
  • the function of the integrated determination unit 106 and the output unit 107 can be realized by the processor 1004 reading and executing a program stored in the memory 1005 .
  • the storage unit (not shown) is composed of, for example, a memory.
  • the abandoned object detection apparatus 10 also includes a device such as the radio wave sensor 2 or the imaging device 3, and an input interface device 1002 and an output interface device 1003 that perform wired or wireless communication.
  • the imaging device 3 is installed in the center console of the vehicle 1 and images the second possible area from the center console, but this is merely an example.
  • the imaging device 3 may be installed in an overhead console, or may be installed in the center of an instrument panel.
  • the center of the instrument panel is not limited to being strictly the center, but includes approximately the center.
  • FIG. 17 is a side view showing the vehicle 1 in which the imaging device 3 is attached to the overhead console in Embodiment 1.
  • FIG. The vehicle 1 shown in FIG. 17 differs from the vehicle 1 shown in FIG. 2 in the installation position of the imaging device 3 .
  • the imaging device 3 is installed in the overhead console, and is capable of imaging not only the second possible area but also the space near the front of the backrest of the rear seat and the space near the front of the headrest of the rear seat.
  • the imaging range of the imaging device 3 is indicated by 3a'. In this case, the imaging device 3 can image not only the front seat occupant but also the rear seat occupant.
  • the occupants to be detected by the first physique determination unit 102 are front-seat occupants (more specifically, front-seat occupants excluding rear-facing front-seat occupants) and rear-seat occupants excluding rear-facing rear-seat occupants.
  • the first physique determination unit 102 detects the front seat occupants (occupants 4a and 4b) and the rear seat occupant (occupant 4d) based on the captured image, and detects whether the front seat occupant and the rear seat occupant are Determine whether you are an adult or a child.
  • the imaging device 3 cannot image the rear facing rear seat occupant in the same way as the rear facing front seat occupant. Therefore, the rear-facing rear-seat passengers among the rear-seat passengers are excluded from the detection targets of the first physique determination unit 102 .
  • the rear-facing rear seat occupant is detected by the second physique determination unit 104 .
  • the first physique determination unit 102 detects the rear seat occupants other than the rearward facing rear seat occupants.
  • the imaging device 3 may not be able to capture an image of the vicinity of the feet of the rear seat as it is a blind spot.
  • the second physique determination unit 104 can also detect an occupant covered by a blanket or the like. Therefore, both the first physique determination unit 102 and the second physique determination unit 104 may detect rear seat occupants excluding rear-facing rear seat occupants.
  • the imaging device 3 when the imaging device 3 is installed in the overhead console, the imaging device 3 can image up to the vicinity of the rear seats, and the imaging range of the imaging device 3 is larger than that in the case where the imaging device 3 is installed in the center console. becomes wider. Therefore, the abandoned vehicle detection device 10 can detect the rear seat occupant with higher accuracy.
  • the occupant detection based on the moving body map created by the radio wave sensor 2 is excellent in that it can detect occupants hidden behind structures such as blankets that allow FM transmission waves to pass through. Lower than occupant detection based on captured images.
  • the radio wave sensor 2 includes the map creating unit 18, but this is merely an example.
  • the abandoned object detection device 10 may have the function of the map creation unit 18, and the abandoned object detection device 10 may acquire the digital signal Dm from the radio wave sensor 2 and generate a moving body map. .
  • the presence/absence determination unit 105 determines whether or not there is a moving object assumed to be an occupant in the vehicle interior based on the moving object map acquired by the map acquiring unit 103.
  • the presence/absence determination unit 105 cannot determine whether a moving object that can be determined to exist in the vehicle interior is a person.
  • the occupant that presence/absence determination unit 105 determines to exist in the vehicle interior may be a pet.
  • the presence/absence determination unit 105 determines whether or not there is a moving object assumed to be a living body including a person and a pet in the vehicle interior based on the moving object map, and the integrated determination unit 106 , the determination result of whether an adult or a child is present in the front seat by the first physique determination unit 102, and the determination result of whether an adult or a child is present in the front seat or the rear seat by the second physique determination unit 104. and the determination result of presence/absence determination unit 105 as to whether or not a moving object presumed to be a living body exists in the vehicle interior, it is possible to determine whether or not a living body has been left behind in the vehicle interior.
  • the abandoned body detection device 10 can also determine whether or not a living body has been left in the vehicle without using the captured image from the imaging device 3 .
  • the abandoned object detection device 10 does not necessarily need to be connected to the imaging device 3 and can be configured without the captured image acquisition unit 101 and the first physique determination unit 102 .
  • the integrated determination unit 106 determines whether an adult or a child is present in the front seat or the rear seat by the second physique determination unit 104, and the existence determination unit 105 assumes that there is a living body in the vehicle interior. It is determined whether or not a living body is left in the vehicle compartment based on the result of determination as to whether or not there is a moving object to be detected.
  • the radio wave sensor 2 can detect a wide range in the vehicle interior. It is preferably provided at the side edge.
  • the radio wave sensor 2 may be provided near the rearview mirror.
  • the pillars include left or right A pillars, left or right B pillars, and left or right C pillars.
  • the abandoned body detection device 10 can also determine whether or not a living body is left in the vehicle without using the captured image from the imaging device 3.
  • the abandoned object detection apparatus 10 uses the captured image to determine whether a living body has been left in the vehicle, rather than using the captured image to determine whether the living body has been left in the vehicle.
  • the accuracy of occupant detection is improved, and as a result, the accuracy of detection of a living body left behind in the passenger compartment is improved.
  • the abandonment detection device 10 is an in-vehicle device mounted in the vehicle 1, and includes the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, and the second physique determination unit 103. It is assumed that the determination unit 104, the presence/absence determination unit 105, the integrated determination unit 106, and the output unit 107 are provided in the in-vehicle device.
  • the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, the second physique determination unit 104, the presence/absence determination unit 105, the integrated determination unit 106, and the output unit 107 A part of them may be installed in an in-vehicle device of a vehicle and the other may be installed in a server connected to the in-vehicle device via a network, and the in-vehicle device and the server may constitute an abandoned object detection system. .
  • the captured image acquisition unit 101, the first physique determination unit 102, the map acquisition unit 103, the second physique determination unit 104, the presence/absence determination unit 105, the integrated determination unit 106, and the output unit 107 are all stored in the server. may be provided.
  • the abandoned object detection device 10 is configured so that the radio wave emitted by the radio wave sensor 2 toward the second region including at least the rear seats and the front seats in the vehicle interior of the vehicle 1 is detected.
  • a map acquisition unit 103 that acquires a moving body map that represents in three dimensions the distribution of areas in which objects exist in the vehicle interior, which is generated based on reflected waves reflected by the objects, and the moving body map that the map acquisition unit 103 has acquired.
  • presence/absence determination unit 105 that determines whether or not there is a moving object that is assumed to be a living body in the vehicle interior, and the determination result of whether an adult or child is present in the front seat or rear seat by the second physique determination unit 104. Based on the (second determination result) and the determination result (presence/absence determination result) of whether or not a moving object assumed to be a living body exists in the vehicle compartment by the presence/absence determination unit 105, the living body is left behind in the vehicle compartment.
  • the abandoned object detection device 10 can detect a living body left inside the vehicle.
  • the abandoned object detection device 10 is in a range that is a blind spot of the imaging device 3 and is blocked by a structure or the like that reflects the radio wave emitted by the radio wave sensor 2.
  • a living body existing in a place can be detected.
  • the abandoned body detection device can detect a living body left in the vehicle.

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Geophysics And Detection Of Objects (AREA)

Abstract

車室内において物体が存在する領域の分布を3次元であらわす動体マップに基づいて、前部座席又は後部座席に着座している乗員を検知するとともに当該乗員が大人か子供かを判定する第2体格判定部(104)と、動体マップに基づいて、車室内に生体と想定される動体が存在するか否かを判定する存否判定部(105)と、第2体格判定部(104)による前部座席又は後部座席に大人又は子供が存在しているかの判定結果と、存否判定部(105)による車室内に生体と想定される動体が存在するか否かの判定結果とに基づいて、車室内に生体が置き去りになっているか否かを判定する統合判定部(106)とを備えた。

Description

置き去り検知装置及び置き去り検知方法
 本開示は、置き去り検知装置及び置き去り検知方法に関する。
 従来、車室内に設けられ、車室内に電波を放射し、放射した電波が体表で反射された反射波を受信する電波センサ、が受信した当該反射波に含まれるバイタル情報に基づいて、車室内に置き去りになっている子供又はペット等の生体を検知する技術が知られている。例えば、特許文献1には、車室内において後部座席上方の天井等に設けられている電磁波センサによって後部座席の乗員を検知する乗員検知装置が開示されている。当該乗員検知装置は、電磁波センサが電磁波を放射して得られたバイタルサインに基づいて、車室内において前方に設けられている撮像装置の死角の範囲内に存在する、後部座席の、後ろ向きのチャイルドシートに座っている子供等を検知可能としている。
特開2019-123354号公報
 電波センサが放射した電波が車室内の構造物等に照射された場合、当該構造物等の材質によっては、照射された電波が反射する。座席の下に潜り込んでいる等、生体が、電波センサからみて、放射した電波を反射する構造物等によって遮られる場所に存在している場合、電波センサから放射された電波が直接的に生体の体表で反射されないことがあり得る。従来技術では、電波センサから放射された電波が構造物等により遮られる場所に存在し、当該電波が直接的に当たることがない生体を検知することができず、依然として車室内に置き去りにされている生体を検知できない可能性があるという課題があった。
 本開示は、上記のような課題を解決するためになされたもので、車室内に置き去りにされている生体を検知可能な置き去り検知装置を得ることを目的とする。
 本開示に係る置き去り検知装置は、電波センサが車両の車室内において少なくとも後部座席及び前部座席を含む第2領域に向けて放射した電波が車室内の物体によって反射された反射波に基づいて生成された、車室内において物体が存在する領域の分布を3次元であらわす動体マップを取得するマップ取得部と、マップ取得部が取得した動体マップに基づいて、前部座席又は後部座席に着座している乗員を検知するとともに当該乗員が大人か子供かを判定する第2体格判定部と、マップ取得部が取得した動体マップに基づいて、車室内に生体と想定される動体が存在するか否かを判定する存否判定部と、第2体格判定部による前部座席又は後部座席に大人又は子供が存在しているかの判定結果と、存否判定部による車室内に生体と想定される動体が存在するか否かの判定結果とに基づいて、車室内に生体が置き去りになっているか否かを判定する統合判定部とを備える。
 本開示によれば、車室内に置き去りにされている生体を検知することができる。
実施の形態1に係る置き去り検知装置の構成例を示す図である。 実施の形態1において、電波センサと撮像装置とが取り付けられている車両を示す側面視図である。 実施の形態1において、電波センサと撮像装置とが取り付けられている車両を示す上面視図である。 実施の形態1にて車両に搭載されている電波センサを示す構成図である。 実施の形態1にて車両に搭載されている電波センサの機能を示すブロック図である。 高周波信号発生回路により生成されるFM信号Tx(k)の一例を示す説明図である。 FM送信波及びFM受信波の一例を示す説明図である。 FM送信波の掃引時間Tと周波数差分fとの関係を示す説明図である。 電波センサに構成される仮想アンテナの一例を示す説明図である。 図10A、図10B、及び、図10Cは、実施の形態1において電波センサが作成する動体マップの一例を示す図である。 図11A、図11B、及び、図11Cは、実施の形態1において電波センサが作成する動体マップのその他の一例を示す図である。 実施の形態1に係る置き去り検知装置の動作について説明するためのフローチャートである。 図12のステップST2の第1体格判定部による第1体格判定処理の詳細を説明するためのフローチャートである。 図12のステップST4の第2体格判定部による第2体格判定処理の詳細を説明するためのフローチャートである。 図12のステップST6の統合判定部による統合判定処理の詳細を説明するためのフローチャートである。 図16A及び図16Bは、実施の形態1に係る置き去り検知装置のハードウェア構成の一例を示す図である。 実施の形態1において、撮像装置がオーバーヘッドコンソールに取り付けられているものとした車両を示す側面視図である。
 以下、本開示をより詳細に説明するために、本開示を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
 図1は、実施の形態1に係る置き去り検知装置10の構成例を示す図である。
 置き去り検知装置10は、撮像装置3(後述の図2参照)から取得した撮像画像と、電波センサ2(後述の図2参照)から取得した動体マップとに基づいて、車室内に子供が置き去りになっているか否かを検知する。置き去り検知装置10、電波センサ2、及び、撮像装置3は、車両1(後述の図2参照)に搭載されている。
 置き去り検知装置10の構成例の詳細については後述することとし、まず、電波センサ2及び撮像装置3について説明する。
 図2は、実施の形態1において、電波センサ2と撮像装置3とが取り付けられている車両1を示す側面視図である。
 図3は、実施の形態1において、電波センサ2と撮像装置3とが取り付けられている車両1を示す上面視図である。なお、図3では、電波センサ2の図示は省略している。
 図2及び図3における3次元座標軸のうちのx軸は、車両1の車幅方向と平行な軸、y軸は、車両1の車高方向と平行な軸、z軸は、車両1の車長方向と平行な軸である。
 なお、実施の形態1では、車両1は右ハンドル車とするが、これは一例に過ぎず、車両1は左ハンドル車でもよい。
 電波センサ2は、車室内の天井に設置されている。詳細には、電波センサ2は、車室内の天井において、後部座席の座面の、車長方向における中央の点から鉛直上方へ向かう直線と天井とが交わる位置よりも、車両1の進行方向に対して後方の位置、に設けられている。なお、実施の形態1において、座面の、車長方向における中央とは、厳密に中央であることに限定されず、略中央も含む。
 電波センサ2は、車両1の車室内に向けて電波を放射して当該電波の反射波を受信し、反射波に基づいて車室内に存在している物体を検知して、車室内において物体が存在する領域の分布を3次元であらわす動体マップを作成する。動体マップの詳細については、後述する。
 電波センサ2から放射される電波の照射範囲2aは、車両1の車室内の領域のうち、少なくとも、後部座席の座面、後部座席の下部、前部座席の座面、及び、前部座席の下部を含む領域(以下「第1領域」という。)を含んでいる。当該第1領域には乗員が存在し得る。
 車両1は、前部座席と後部座席とを備えており、乗員は、前部座席、又は、後部座席に座ることが可能である。このため、第1領域は、乗員が前部座席に着座したときに、当該乗員が占有する空間と、乗員が後部座席に着座したときに、当該乗員が占有する空間とを含む領域である。また、例えば、乗員が子供であって後部座席に潜り込んで遊んでいる場合等、子供が潜り込んでいる座席の下部の空間も、第1領域に含まれる。なお、実施の形態1において、乗員が着座するとは、子供がチャイルドシートに乗っていることも含む。
 実施の形態1では、電波センサ2は、車室内の天井において、後部座席の座面の、車長方向における中央の点から鉛直上方へ向かう直線と天井とが交わる位置よりも、車両1の進行方向に対して後方の位置に設定されるものとしており、図2及び図3に示す車両1では、電波センサ2は、後部座席のヘッドレストの上方に設置されている。しかし、これは一例に過ぎず、電波センサ2は、車室内の天井の、車長方向における中央に設置されてもよい。なお、実施の形態1において、天井の、車長方向における中央とは、厳密に中央であることに限定されず、略中央も含む。但し、電波センサ2は、車室内に存在している乗員の頭部よりも天井側の位置に設置されているようにする。
 図2及び図3では、一例として、車両1には、乗員4a、4b、4c、4dが乗車している。
 乗員4aは、前部座席に着座している乗員(以下「前席乗員」という。)であり、前部座席のうちの運転席に着座している。
 乗員4bは、前席乗員であり、前部座席のうちの助手席に着座している。
 乗員4cは、後部座席の足元で、後部座席に潜り込んでいる。なお、図2及び図3では、便宜上、乗員4cは後部座席の前に図示している。
 乗員4dは、後部座席に着座している乗員(以下「後席乗員」という。)である。
 乗員4a、4b、4dは大人であり、乗員4cは、子供である。実施の形態1において、大人とは、車両1に置き去りにされても自力で車外へ出ることができる体格の乗員を想定しており、子供とは、車両1に置き去りにされると自力で車外へ出ることが困難な体格の乗員を想定している。実施の形態1では、子供は、乳幼児を含むものとする。
 図4は、実施の形態1にて車両1に搭載されている電波センサ2を示す構成図である。
 図5は、実施の形態1にて車両1に搭載されている電波センサ2の機能を示すブロック図である。
 図4における3次元座標軸のうちのx軸は、車両1の車幅方向と平行な軸、y軸は、車両1の車高方向と平行な軸、z軸は、車両1の車長方向と平行な軸である。
 送信アンテナ11は、電子回路基板上に構成される平面アンテナである。
 送信アンテナ11は、第1領域に向けて電波を放射する複数の送信アンテナ素子11-1,11-2を有している。
 図4に示す電波センサ2では、送信アンテナ11から放射される電波として、例えば、60GHzのミリ波が使用される。しかし、これは一例に過ぎず、送信アンテナ11から放射される電波として、例えば、24GHzの準ミリ波が使用されるようにしてもよい。
 送信アンテナ素子11-1及び送信アンテナ素子11-2におけるそれぞれの設置位置は、車両1の車高方向での位置が互いに異なっている。
 図4に示す電波センサ2では、送信アンテナ素子11-1における車高方向の設置位置が、送信アンテナ素子11-2における車高方向の設置位置よりも高くなっている。
 受信アンテナ12は、電子回路基板上に構成される平面アンテナであり、送信アンテナ11と同一平面に設置されている。ただし、ここでの同一平面は、送信アンテナ11が設置されている平面と受信アンテナ12が設置されている平面とが厳密に同一であることを意味するものではなく、実用上問題のない範囲で異なる平面も含まれる。
 受信アンテナ12は、送信アンテナ11から放射された電波の反射波を受信する複数の受信アンテナ素子12-1~12-4を有している。
 受信アンテナ素子12-1、受信アンテナ素子12-2、受信アンテナ素子12-3及び受信アンテナ素子12-4におけるそれぞれの設置位置は、車両1の車幅方向での位置が互いに異なっている。
 図4に示す電波センサ2では、受信アンテナ素子12-1~12-4の中で、受信アンテナ素子12-1が最も助手席側に設置されており、受信アンテナ素子12-4が最も運転席側に設置されている。
 電波センサ回路部13は、高周波信号発生回路14、電波送信部15、電波受信部16、アナログデジタル変換回路(以下「A/D変換回路」という)17、マップ作成部18、通信回路19及び電源回路20を備えている。
 高周波信号発生回路14は、センシング用の信号として、時間の経過に伴って周波数が変化するFM(Frequency Modulation)信号を生成し、FM信号を電波送信部15及び電波受信部16のそれぞれに出力する。
 図4に示す電波センサ2では、変調方式として、FM-CW(Frequency Modulation-Continuous Wave)方式を使用し、高周波信号発生回路14が、FM信号を生成している。しかし、変調方式は、FM-CW方式に限るものではなく、例えば、FCM(Fast- Chirp Modulation)方式を使用してもよい。変調方式として、FCM方式を使用する場合、高周波信号発生回路14は、FCM信号を生成し、FCM信号を電波送信部15及び電波受信部16のそれぞれに出力する。
 電波送信部15は、送信回路15-1及び送信回路15-2を有している。
 電波送信部15は、送信アンテナ素子11-1及び送信アンテナ素子11-2の中のいずれか1つの送信アンテナ素子から、第1領域に向けて電波を放射させる。
 即ち、電波送信部15は、送信アンテナ素子11-1及び送信アンテナ素子11-2の中で、電波を放射させる1つの送信アンテナ素子を順番に切り替える。
 電波送信部15は、送信アンテナ素子11-1から電波を放射させるときは、送信回路15-1からFM信号を送信アンテナ素子11-1に出力させる。電波送信部15は、送信アンテナ素子11-2から電波を放射させるときは、送信回路15-2からFM信号を送信アンテナ素子11-2に出力させる。
 送信回路15-1は、高周波信号発生回路14から出力されたFM信号を増幅し、増幅後のFM信号を送信アンテナ素子11-1に出力することによって、送信アンテナ素子11-1から、電波であるFM送信波を第1領域に向けて放射させる。
 送信回路15-2は、高周波信号発生回路14から出力されたFM信号を増幅し、増幅後のFM信号を送信アンテナ素子11-2に出力することによって、送信アンテナ素子11-2から、FM送信波を第1領域に向けて放射させる。
 電波受信部16は、受信回路16-1、受信回路16-2、受信回路16-3及び受信回路16-4を有している。
 受信回路16-m(m=1,2,3,4)は、受信アンテナ素子12-mによって反射波であるFM受信波が受信されたとき、受信アンテナ素子12-mからFM受信波の受信信号を取得する。
 受信回路16-mは、高周波信号発生回路14から出力されたFM信号の周波数と、当該受信信号の周波数との差分(以下「周波数差分」という)fを抽出する。
 受信回路16-mは、周波数差分fを有する中間周波数信号IFを生成し、中間周波数信号IFをA/D変換回路17に出力する。
 A/D変換回路17は、受信回路16-m(m=1,2,3,4)から出力された中間周波数信号IFを、アナログ信号からデジタル信号Dに変換する。
 A/D変換回路17は、デジタル信号Dをマップ作成部18に出力する。
 マップ作成部18は、例えば、デジタル信号処理回路によって実現される。
 マップ作成部18は、A/D変換回路17から、受信回路16-m(m=1,2,3,4)により受信されたFM受信波に係るデジタル信号Dを取得する。
 マップ作成部18は、デジタル信号D(m=1,2,3,4)に基づいて、動体マップを生成する。
 マップ作成部18は、作成した動体マップを、通信回路19に出力する。
 デジタル信号処理回路は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又は、これらを組み合わせたものによって実現される。
 デジタル信号処理回路は、専用のハードウェアによって実現されるものに限るものではなく、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されてもよい。
 ソフトウェア又はファームウェアは、プログラムとして、コンピュータのメモリに格納される。コンピュータは、プログラムを実行するハードウェアを意味し、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、あるいは、DSP(Digital Signal Processor)が該当する。
 ここで、電波センサ2が動体マップを作成する具体的な動作、及び、動体マップの一例について説明する。
 電波センサ2のセンシング用の信号として、各種の変調方式で変調されている信号を用いることが可能であるが、ここではFM-CW方式で変調されている信号を用いる例を説明する。
 高周波信号発生回路14は、センシング用の信号として、図6に示すように、時間の経過に伴って周波数が変化するチャープ信号であるFM信号Tx(k)(k=1,・・・,K)を生成する。Kは、2以上の整数である。
 図6は、高周波信号発生回路14により生成されるFM信号Tx(k)の一例を示す説明図である。
 図6に示すFM信号Tx(k)では、周波数の初期状態が下限周波数であり、周波数が上限周波数に到達するまで、時間の経過に伴って周波数が増加している。
 図6において、掃引時間Tは、FM信号Tx(k)の周波数が、下限周波数から上限周波数に到達するまでの時間であり、周波数帯域幅BWは、上限周波数と下限周波数との差分の周波数である。
 図6の例では、FM信号Tx(k)が一定の周期Tで、K回生成されている。
 高周波信号発生回路14は、FM信号Tx(k)を電波送信部15の送信回路15-1,15-2に出力し、FM信号Tx(k)を電波受信部16の受信回路16-1~16-4に出力する。
 図6には、FM信号Tx(k)の振幅波形も表されている。
 送信回路15-1と送信回路15-2とは、FM信号Tx(k)の出力動作を交互に行う。
 送信回路15-1は、FM信号Tx(k)の出力動作を行うタイミングのとき、高周波信号発生回路14からFM信号Tx(k)を受けると、FM信号Tx(k)を増幅し、増幅後のFM信号Tx(k)を送信アンテナ素子11-1に出力する。
 送信回路15-1から増幅後のFM信号Tx(k)が送信アンテナ素子11-1に出力されることによって、送信アンテナ素子11-1から、FM送信波が第1領域に向けて放射される。
 送信回路15-2は、送信回路15-1がFM信号Tx(k)の出力動作を行っているとき、FM信号Tx(k)の出力動作を停止している。
 送信回路15-1がFM信号Tx(k)の出力動作を行うタイミングは、例えば、k=1,3,5・・・である。
 送信回路15-2は、FM信号Tx(k)の出力動作を行うタイミングのとき、高周波信号発生回路14からFM信号Tx(k)を受けると、FM信号Tx(k)を増幅し、増幅後のFM信号Tx(k)を送信アンテナ素子11-2に出力する。
 送信回路15-2から増幅後のFM信号Tx(k)が送信アンテナ素子11-2に出力されることによって、送信アンテナ素子11-2から、FM送信波が第1領域に向けて放射される。
 送信回路15-1は、送信回路15-2がFM信号Tx(k)の出力動作を行っているとき、FM信号Tx(k)の出力動作を停止している。
 送信回路15-2がFM信号Tx(k)の出力動作を行うタイミングは、例えば、k=2,4,6・・・である。
 送信アンテナ素子11-1は、送信回路15-1からFM信号Tx(k)を受けると、図7に示すように、時間的に周波数が遷移をするFM送信波を第1領域に向けて放射する。
 送信アンテナ素子11-2は、送信回路15-2からFM信号Tx(k)を受けると、図7に示すようなFM送信波を第1領域に向けて放射する。
 図7は、FM送信波及びFM受信波の一例を示す説明図である。
 送信アンテナ素子11-1及び送信アンテナ素子11-2のそれぞれから放射されたFM送信波は、第1領域に存在している乗員4a,4b,4c,4dによって反射される。
 ここで、FM送信波は、車室内の構造物等に照射されると、透過、反射、又は、回折する性質を有している。FM送信波が、透過、反射、又は、回折するかは、構造物等の材質に依存している。
 例えば、前部座席及び後部座席のそれぞれは、骨組み等には金属等が使用されているが、表面部分には、布又は合皮等が使用され、内部にはウレタン等が使用されているとする。この場合、前部座席等に照射されたFM送信波のうち、骨組み等の金属等に当たらないFM送信波は、前部座席等を透過する。骨組み等の金属等に当たるFM送信波は、当該金属等によって反射される。
 実施の形態1では、一例として、前部座席及び後部座席の骨組みの座面部分は全面に金属が敷かれているとする。したがって、例えば、後部座席の下部に潜り込んでいる乗員4cは、電波センサ2からみて、体のほとんどが、FM送信波を反射する金属で覆われていることとなる。この場合、FM送信波は、後部座席の座面部分にて反射されて、直接的に乗員4cに到達しない。一方、FM送信波は回折し、車室内のドア等で反射されてから後部座席の下部の乗員4cに回り込んで到達する場合がある。このように、FM送信波が乗員4cに直接的に到達する経路以外の経路を、マルチパスと呼ぶ。なお、例えば、前席乗員(例えば、図2の乗員4a,4b)又は後席乗員(例えば、図2の乗員4d)であっても、仮に、当該前席乗員又は後席乗員が、FM送信波を反射する金属等の構造物等で覆われている場合、構造物等で覆われている前席乗員又は後席乗員の体表には、FM送信波が直接到達せず、車室内のドア等で反射されてから構造物等で覆われている前席乗員又は後席乗員の体表に回り込んで到達する。
 乗員4a,4b,4c,4dのそれぞれに反射されたFM送信波の反射波であるFM受信波は、図7に示すように、送信アンテナ素子11-1、又は、送信アンテナ素子11-2からFM送信波が放射されてから、tの時間を経過したのち、受信アンテナ素子12-1~12-4によって受信されたものとする。
 このとき、チャープ信号であるFM送信波の周波数とFM受信波の周波数とは、fの差分がある。FM送信波とFM受信波との間の周波数差分fは、電波センサ2と、反射物である乗員4a,4b,4c,4d等との距離に比例して大きくなる。
 図8は、FM送信波の掃引時間Tと周波数差分fとの関係を示す説明図である。
 受信アンテナ素子12-m(m=1,2,3,4)は、反射波であるFM受信波を受信すると、FM受信波の受信信号Rx(k)を受信回路16-mに出力する。
 受信回路16-mは、高周波信号発生回路14から出力されたFM信号Tx(k)の周波数と、受信アンテナ素子12-mから出力された受信信号Rx(k)の周波数との差分である周波数差分f(k)を抽出する。
 受信回路16-mは、周波数差分f(k)を有する中間周波数信号IF(k)を生成し、中間周波数信号IF(k)をA/D変換回路17に出力する。
 A/D変換回路17は、受信回路16-m(m=1,2,3,4)から中間周波数信号IF(k)を受けると、中間周波数信号IF(k)を、アナログ信号からデジタル信号D(k)に変換する。
 A/D変換回路17は、デジタル信号D(k)をマップ作成部18に出力する。
 マップ作成部18は、A/D変換回路17から、デジタル信号D(k)(m=1,2,3,4)を取得する。
 マップ作成部18は、デジタル信号D(k)(m=1,2,3,4)に基づいて、動体マップを作成する。
 以下、マップ作成部18による動作マップ作成までの流れの一例を説明する。
 マップ作成部18は、A/D変換回路17から、デジタル信号D(k)(m=1,2,3,4)を取得する毎に、デジタル信号D(k)をフーリエ変換する。
 マップ作成部18は、4つのデジタル信号D(k)~D(k)のフーリエ変換結果を合成することによって、第1の周波数スペクトルSpを算出する。
 デジタル信号D(k)がフーリエ変換されることによって、乗員4a,4b,4c,4d等の反射物からの反射波の受信信号Rx(k)(k=1,・・・,K)のスペクトル値が、以下の式(1)に示すビート周波数Fs1,n(n=1,・・・,N)の信号に積算される。
 ビート周波数Fs1,nの信号強度は、ビート周波数Fs1,n以外の周波数の信号強度よりも高くなり、第1の周波数スペクトルSpのピーク値となる。
Figure JPOXMLDOC01-appb-I000001
 式(1)において、Rは、電波センサ2と、乗員4a,4b,4c,4d等との間の距離、cは、電波の伝搬速度である。
 マップ作成部18は、第1の周波数スペクトルSpの中から、信号強度がピーク値となるビート周波数Fs1,nを探索する。
 マップ作成部18は、探索したビート周波数Fs1,nを、式(1)に代入することによって、k回目の送受信における距離Rを算出する。
 マップ作成部18は、第1の周波数スペクトルSpを算出する毎に、第1の周波数スペクトルSpを、送信アンテナ11から、周期的に放射されるFM送信波の時間方向にフーリエ変換することによって、第2の周波数スペクトルSpを算出する。
 第1の周波数スペクトルSpが、FM送信波の時間方向にフーリエ変換されることによって、反射物からの反射波の受信信号Rx(k)(k=1,・・・,K)のスペクトル値が、電波センサ2と反射物との相対速度vに対応する、以下の式(2)に示すビート周波数Fs2,nの信号に積算される。
 ビート周波数Fs2,nの信号強度は、ビート周波数Fs2,n以外の周波数の信号強度よりも高くなり、第2の周波数スペクトルSpのピーク値となる。
Figure JPOXMLDOC01-appb-I000002
 式(2)において、fは、FM信号Tx(k)の中心周波数である。
 マップ作成部18は、第2の周波数スペクトルSpの中から、信号強度がピーク値となるビート周波数Fs2,nを探索する。
 マップ作成部18は、探索したビート周波数Fs2,nを、式(2)に代入することによって、k回目の送受信における相対速度vを算出する。
 受信アンテナ素子12-1~12-4におけるそれぞれの設置位置は、車両1の車幅方向での位置が互いに異なっている。このため、同じ反射物からの反射波であっても、例えば、受信アンテナ素子12-1に到達するまでの伝搬距離と、受信アンテナ素子12-m(m=2,3,4)に到達するまでの伝搬距離とが異なる。したがって、例えば、受信アンテナ素子12-1により受信されるFM受信波の位相と、受信アンテナ素子12-m(m=2,3,4)により受信されるFM受信波の位相との間には、以下の式(3)に示すような位相差Δφが生じる。
Figure JPOXMLDOC01-appb-I000003
 式(3)において、dは、車幅方向と平行な方向の受信アンテナ素子12-1~12-4におけるそれぞれの間隔、θx,nは、受信アンテナ素子12-mに対する、FM受信波のx-z平面での入射角、λは、FM送信波の波長である。
 マップ作成部18は、A/D変換回路17から、デジタル信号D(k)(m=1,2,3,4)を取得する毎に、デジタル信号D(k)をフーリエ変換する。
 マップ作成部18は、4つのデジタル信号D(k)~D(k)のフーリエ変換結果を合成することによって、第3の周波数スペクトルSp3,mを算出する。
 マップ作成部18は、第3の周波数スペクトルSp3,mを算出する毎に、第3の周波数スペクトルSp3,mを、周期的に放射されるFM送信波の時間方向にフーリエ変換することによって、第4の周波数スペクトルSp4,mを算出する。
 マップ作成部18は、第4の周波数スペクトルSp4,mを算出する毎に、第4の周波数スペクトルSp4,mをフーリエ変換することによって、第5の周波数スペクトルSpを算出する。
 第4の周波数スペクトルSp4,mが、受信アンテナ素子12-1~12-4が並んでいる方向である車幅方向(x軸と平行な方向)に亘ってフーリエ変換されることによって、反射物からの反射波の受信信号Rx(k)(k=1,・・・,K)のスペクトル値が、x-z平面での入射角θx,nに対応する周波数成分Fs5,nの信号に積算される。
 周波数成分Fs5,nの信号強度は、周波数成分Fs5,n以外の周波数成分の信号強度よりも高くなり、第5の周波数スペクトルSpのピーク値となる。
 マップ作成部18は、第5の周波数スペクトルSpの中から、信号強度がピーク値となる周波数成分Fs5,nを探索する。
 マップ作成部18は、探索した周波数成分Fs5,nを、以下の式(4)に代入することによって、k回目の送受信におけるx-z平面での入射角θx,nを算出する。
Figure JPOXMLDOC01-appb-I000004
 図4に示す電波センサ2は、4つの受信アンテナ素子12-1~12-4を備えている。また、電波センサ2は、2つの送信アンテナ素子11-1,11-2を備え、送信アンテナ素子11-1及び送信アンテナ素子11-2が、交互にFM送信波を放射している。このため、電波センサ2は、図9に示すように、4つの受信アンテナ素子12-1~12-4が、車高方向に2列並んでいるのと等価な仮想アンテナ12-1’~12-8’が構成される。
 図9の例では、仮想アンテナ12-1’~12-4’と、仮想アンテナ12-5’~12-8’とが車高方向に並んでいる。
 仮想アンテナ12-1’~12-4’と、仮想アンテナ12-5’~12-8’との車高方向の間隔がdである。
 図9は、電波センサ2に構成される仮想アンテナ12-1’~12-8’の一例を示す説明図である。
 マップ作成部18は、第4の周波数スペクトルSp4,mが、仮想アンテナ12-1’等と仮想アンテナ12-5’等とが並んでいる方向である車高方向(y軸と平行な方向)に亘ってフーリエ変換されることによって、受信信号Rx(k)のスペクトル値が積算された周波数成分Fs5,nを、以下の式(5)に代入することによって、k回目の送受信におけるy-z平面での入射角θy,nを算出する。
Figure JPOXMLDOC01-appb-I000005
 そして、マップ作成部18は、距離R、x-z平面での入射角θx,n及びy-z平面での入射角θy,nのそれぞれを次元とする3次元空間分布を生成する。3次元空間分布を生成する処理自体は、公知の技術であるため詳細な説明を省略する。実施の形態1において、マップ作成部18が作成する3次元空間分布を、「動体マップ」という。動体マップは、車室内において物体が存在する領域の分布を3次元であらわす。詳細には、動体マップは、車室内において、物体、言い換えれば、電波センサ2が照射した電波を反射した物体の微小な動きを、3次元空間における電波の反射点に対応付けた複数のグリッドであらわす。
 図10A、図10B、及び、図10Cは、実施の形態1において電波センサ2が作成する動体マップの一例を示す図である。
 図10Aは動体マップの上面図の一例を示し、図10Bは動体マップの側面図の一例を示し、図10Cは動体マップの正面図の一例を示す。なお、図10A、図10B、及び、図10Cでは、説明の簡単のため、動体マップを三面図で示している。また、図10A、図10B、及び、図10Cを用いて示す動体マップは、図2及び図3で示した車室内において、4dに示す乗員のみが存在しているとした場合の動体マップとしている。なお、図10A、図10B、及び、図10Cでは、便宜上、車室内の座席のイメージも図示するようにしている。
 動体マップでは、各グリッドに対して、デジタル信号D(k)の周波数スペクトルのピーク値を示す数値が付与される。すなわち、動体マップにおいて、微小運動する動体、言い換えれば、乗員4a,4b,4c,4dが存在する範囲に含まれるグリッドには、乗員4a,4b,4c,4dが存在しないグリッドよりも大きい数値が付与される。
 図10A、図10B、及び、図10Cに示す動体マップでは、付与されている数値が大きいグリッドほど濃く示されている。つまり、図10A、図10B、及び、図10Cに示す動体マップにおいて、乗員4dが存在する範囲に含まれるグリッドほど、濃く示されている。
 なお、動体マップにおいて、静止しているもの、言い換えれば、速度が0の反射波の成分はあらわれない。
 動体マップには、乗員4a,4b,4c,4dのそれぞれに対応する空間分布(以下「乗員空間分布」という。)と、乗員以外の反射物である物体に対応する空間分布(以下「非乗員空間分布」という。)とが含まれている。
 図11A、図11B、及び、図11Cは、実施の形態1において電波センサ2が作成する動体マップのその他の一例を示す図である。
 図11A、図11B、及び、図11Cを用いて示す動体マップは、図2及び図3で示した車室内において、4cに示す乗員のみが存在した場合の動体マップとしている。
 上述のとおり、送信アンテナ11から放射されるFM送信波は、ほぼ、直接的には乗員4cの体表にあたらず、マルチパスによって車室内のドア等によって反射されてから乗員4cに到達する。
 なお、図11A、図11B、及び、図11Cでは、便宜上、車室内の座席のイメージ、及び、わかりやすさのための、車室内の空間を示す線も図示するようにしている。
 また、図11Aでは、動体マップにおいて乗員4cに対応する空間分布がどのようにあらわれるかの説明のために、電波センサ2と、当該電波センサ2において送受信される電波を示す線とを図示している。
 例えば、送信アンテナ11から放射されるFM送信波は、車室内においてドアによって反射されてから乗員4cに到達する。この経路を、図11A上、実線矢印で示している。一方、動体マップにおいては、乗員4cに対応する空間分布は、ドアによって反射される前の経路の実線を延長した点線矢印の先の位置に発生する。
 このように、マルチパスによって検知された乗員4cに対応する空間分布は、動体マップ上、実際に乗員4cが存在する位置とは異なる位置に発生する。
 なお、図11A、図11B、及び、図11Cでは便宜上省略しているが、乗員4cの体表のうち、送信アンテナ11から放射されるFM送信波が直接あたるわずかな部分があれば、動体マップ上、当該わずかな部分が検知されたことをあらわす空間分布が、当該わずかな部分が存在している位置にて、あらわされる。
 通信回路19は、マップ作成部18から出力された動体マップを、後述するインタフェース部21を介して、置き去り検知装置10に転送する。
 電源回路20は、図示せぬコントロールユニット等から、インタフェース部21を介して、電力の供給を受ける。
 電源回路20は、受けた電力を駆動用電力として、高周波信号発生回路14、電波送信部15、電波受信部16、A/D変換回路17、マップ作成部18及び通信回路19のそれぞれに分配する。
 インタフェース部21は、電波センサ回路部13と、置き去り検知装置10又は図示せぬコントロールユニット等とを接続するためのインタフェースである。
 このように、実施の形態1における電波センサ2は、車室内に存在する物体までの距離及び角度を検知可能な電波センサであり、検知した物体までの距離及び角度に基づき動体マップを生成可能な電波センサであることを前提とする。
 例えば、電波センサ2を設置する車両1の車種等に応じて、電波センサ2の取付角度を調整することもできる。例えば、電波センサ2における座標系のx軸を起点にして、電波センサ2をy-z平面内で、角度αだけ回転させた状態で、電波センサ2を車室内に設置することができる。電波センサ2は設置の自由度を有する。
 なお、以上の説明では、電波センサ2において、受信アンテナ12が、4つの受信アンテナ素子12-1~12-4を有していた。しかし、これは一例に過ぎない。受信アンテナ12は、複数の受信アンテナ素子を有していればよく、受信アンテナ12が、2つの受信アンテナ素子、3つの受信アンテナ素子、又は、5つ以上の受信アンテナ素子を有していてもよい。また、以上の説明では、電波センサ2において、送信アンテナ11が、2つの送信アンテナ素子11-1,11-2を有していた。しかし、これは一例に過ぎない。電波センサ2において、送信アンテナ11は、1つの送信アンテナ素子のみを有していてもよいし、3つ以上の送信アンテナ素子を有していてもよい。
 撮像装置3は、例えば、近赤外線カメラ又は可視光カメラであり、車両1の乗員を撮像する。撮像装置3は、例えば、例えば、車室内をモニタリングすることを目的に設置される、いわゆるDMS(Driver Monitoring System)と共用のものを想定している。
 撮像装置3は、少なくとも、車室内の領域のうち前席乗員の上半身が存在すべき領域(以下「第2領域」という。)を含む領域を撮像可能に設置される。第2領域は、例えば、前部座席の背もたれ及びヘッドレストの前方付近の空間に相当する領域である。撮像装置3の撮像範囲3aは、当該第2領域を含む。
 実施の形態1では、一例として、撮像装置3は、車両1のセンターコンソールに設置され、センターコンソールから第2領域を撮像する。
 撮像装置3は、撮像した撮像画像を、置き去り検知装置10に出力する。
 置き去り検知装置10の構成例の詳細について説明する。
 図1に示すように、置き去り検知装置10は、撮像画像取得部101、第1体格判定部102、マップ取得部103、第2体格判定部104、存否判定部105、統合判定部106、及び、出力部107を備える。
 撮像画像取得部101は、撮像装置3が撮像した撮像画像を取得する。
 撮像画像取得部101は、取得した撮像画像を第1体格判定部102に出力する。
 第1体格判定部102は、撮像画像取得部101が取得した撮像画像に基づいて、乗員を検知するとともに当該乗員が大人か子供かを判定する。実施の形態1において、第1体格判定部102が検知対象とする乗員は、前席乗員とする。後席乗員は、撮像装置3の死角となり、撮像画像には撮像されないためである。
 なお、第1体格判定部102は、前向きのチャイルドシートであれば、当該チャイルドシートに乗っている前席乗員(以下「前向き前席乗員」という。)である子供も検知可能である。しかし、後向きのチャイルドシートの場合、当該チャイルドシートに乗っている前席乗員(以下「後向き前席乗員」という。)である子供は撮像画像には撮像されないため、第1体格判定部102は、後向き前席乗員である子供については、検知できない。実施の形態1において、第1体格判定部102が検知対象とする前席乗員は、より詳細には、後向き前席乗員を除く前席乗員とする。
 第1体格判定部102は、座席にチャイルドシートが装着されていることを、適宜の方法で検知できる。例えば、第1体格判定部102は、公知の画像認識技術を用いて、撮像画像からチャイルドシートが装着されていることを検知してもよいし、座席に設置されている着座センサから取得した情報に基づいて、チャイルドシートが装着されていることを検知してもよい。
 第1体格判定部102は、撮像画像に基づいて骨格点を検知し、検知した骨格点から、前席乗員の有無を検知するとともに当該前席乗員が大人であるか子供であるかを判定する。
 撮像画像に基づいて骨格点を検知し、人の体格を判定する技術は公知の技術であるため詳細な説明を省略する。第1体格判定部102は、例えば、撮像画像上で、前席乗員の首、肩、肘、及び、腰を示す複数の骨格点を検知する。当該骨格点は、撮像画像における点(以下「骨格座標点」という。)であり、撮像画像における座標であらわされる。なお、第1体格判定部102は、座席(運転席及び助手席)毎に骨格座標点を検知する。撮像装置3の設置位置及び画角は予めわかっているため、第1体格判定部102は、撮像画像上で、車室内の各座席がどの位置に撮像されるかを判定可能である。第1体格判定部102は、撮像画像上の運転席が含まれる領域で骨格座標点が検知できた場合、運転席に前席乗員が存在していると判定する。第1体格判定部102は、撮像画像上の助手席が含まれる領域で骨格座標点が検知できた場合、助手席に前席乗員が存在していると判定する。
 第1体格判定部102は、前席乗員が存在していると判定した場合、骨格座標点から算出した、当該前席乗員の座高又は骨格点間の距離に基づいて、当該前席乗員が大人であるか子供であるかを判定する。第1体格判定部102は、例えば、前席乗員の座高又は骨格点間の距離と、予め設定されている閾値(以下「体格判定用閾値」という。)との比較によって、前席乗員が大人か子供かを判定する。
 第1体格判定部102が行う、乗員を検知し、検知した乗員が大人か子供かを判定する処理を、「第1体格判定処理」ともいう。
 第1体格判定部102は、車室内に存在している乗員の検知結果と、乗員が着座している位置と、乗員が大人であるか子供であるかを示す判定結果とを示す情報(以下「第1判定結果」という。)を、統合判定部106に出力する。乗員が着座している位置は、例えば、座席(例えば、運転席又は助手席)で示されるものとする。
 マップ取得部103は、電波センサ2から動体マップを取得する。
 マップ取得部103は、取得した動体マップを第2体格判定部104及び存否判定部105に出力する。
 第2体格判定部104は、マップ取得部103が取得した動体マップに基づいて、乗員を検知するとともに当該乗員が大人か子供かを判定する。実施の形態1において、第2体格判定部104が検知対象とする乗員は、前席乗員及び後席乗員とする。第2体格判定部104が検知対象とする前席乗員は、より詳細には、後向き前席乗員を想定する。すなわち、第2体格判定部104は、動体マップに基づいて、後向き前席乗員又は後席乗員を検知するとともに当該後向き前席乗員又は後席乗員が大人か子供かを判定する。上述のとおり、第1体格判定部102は、後向き前席乗員を検知できない。しかし、第2体格判定部104は、当該後向き前席乗員を検知できる。電波センサ2が放射するFM送信波は、座席の背もたれ部分を透過するため、動体マップ上で、後向き前席乗員に対応する空間分布があらわされている。
 なお、第2体格判定部104が検知対象とする後席乗員には、後部座席に装着された前向きのチャイルドシートに乗っている後席乗員(以下「前向き後席乗員」という。)と、後部座席に装着された後向きのチャイルドシートに乗っている後席乗員(以下「後向き後席乗員」という。)とが含まれる。
 第2体格判定部104は、座席にチャイルドシートが装着されていることを、適宜の方法で検知できる。例えば、第2体格判定部104は、第1体格判定部102が公知の画像認識技術を用いて撮像画像から検知した、チャイルドシートが装着されている旨の情報を取得してもよいし、座席に設置されている着座センサから取得した情報に基づいて、チャイルドシートが装着されていることを検知してもよい。
 第2体格判定部104が行う、乗員を検知し、検知した乗員が大人か子供かを判定する処理を、「第2体格判定処理」ともいう。
 具体的には、第2体格判定部104は、動体マップに含まれている空間分布(例えば、図10でいうと色がついたグリッドで示されている空間分布)の形状に基づいて、当該空間分布が、乗員空間分布であるのか、非乗員空間分布であるのかを判定する。
 空間分布の形状に基づく判定の手法は、どのような手法でもよいが、例えば、乗員空間分布及び非乗員空間分布におけるそれぞれの形状を学習している学習モデルを用いて、動体マップに含まれている空間分布が、乗員空間分布であるのか、非乗員空間分布であるのかを判定する態様が考えられる。
 また、第2体格判定部104は、動体マップに含まれている空間分布に対応する相対速度vが、例えば、予め設定された閾値(以下「速度判定用閾値」という。)よりも大きければ、当該空間分布が、乗員空間分布であると判定し、相対速度vが、速度判定用閾値以下であれば、当該空間分布が、非乗員空間分布であると判定するようにしてもよい。なお、動体マップの各グリッドには、相対速度vが対応付けられている。速度判定用閾値は、第2体格判定部104に格納されていてもよいし、置き去り検知装置10の外部から与えられてもよい。
 乗員は、手又は足等を動かしていなくても、呼吸をしているので、ある程度の動きがある。これに対し、カバン等の構造物は、一般的には静止している。
 第2体格判定部104は、動体マップに含まれている空間分布が乗員空間分布であると判別すれば、乗員が存在していると判定する。
 また、第2体格判定部104は、動体マップに含まれている空間分布が乗員空間分布であると判定すれば、乗員空間分布に係る距離R、入射角θx,n及び入射角θy,nのそれぞれから、乗員空間分布に存在している乗員の位置を特定する。電波センサ2からの距離Rと、電波センサ2に対する入射角θx,n及び入射角θy,nとが分かれば、乗員の位置の特定が可能である。なお、動体マップの各グリッドには、電波センサ2からの距離Rと、電波センサ2に対する入射角θx,n及び入射角θy,nとが対応付けられている。
 乗員が着座している位置は、例えば、座席(例えば、後席右、後席左、又は後席中央)で示されるものとする。
 また、第2体格判定部104は、動体マップに含まれている乗員空間分布の大きさに基づいて、検知した乗員が、大人であるのか、子供であるのかを判定する。
 乗員空間分布の大きさに基づく判定の手法は、どのような手法でもよいが、例えば、大人及び子供におけるそれぞれの乗員空間分布の大きさを学習している学習モデルを用いて、乗員が、大人であるのか、子供であるのかを判定する態様が考えられる。
 第2体格判定部104は、車室内に存在している乗員の検知結果と、乗員が着座している位置と、乗員が大人であるか子供であるかを示す判定結果とを示す情報(以下「第2判定結果」という。)を、統合判定部106に出力する。
 上述のとおり、実施の形態1では、第2体格判定部104は、前席乗員、詳細には後向き前席乗員と、後席乗員とを検知対象とする。第2体格判定部104は、第1体格判定部102が検知対象とできない後向き前席乗員の検知を、第1体格判定部102に代わって行うことができる。なお、第2体格判定部104は、例えば、大人の前席乗員等、後向き前席乗員以外の前席乗員を検知対象とすることもできる。但し、一般に、電波センサ2の空間解像度は低いため、電波センサ2から離れた位置に存在している乗員の体格を判定することは困難である。したがって、実施の形態1では、第1体格判定部102が検知可能な前席乗員については、第1体格判定部102によって検知することとし、第2体格判定部104の検知対象からは除く。
 一方、第2体格判定部104は、後席乗員を検知対象とすることで、第1体格判定部102が検知できない範囲に存在する乗員の検知を行う。
 このように、第1体格判定部102と第2体格判定部104とで検知対象を互いに補完しあうことで、置き去り検知装置10において、車室内の全ての座席に対して、着座している乗員の有無を検知可能としている。
 つまり、置き去り検知装置10は、車室内の前部座席に近い領域においては当該領域を撮像範囲とする撮像装置3からの撮像画像を用いて乗員の検知及び体格判定を行い、車室内の後部座席に近い領域においては当該領域を検知範囲とする電波センサ2からの動体マップを用いて乗員の検知及び体格判定を行う。また、置き去り検知装置10は、前席乗員であっても、撮像装置3が撮像できない後向き前席乗員については、電波センサ2からの動体マップを用いて乗員の検知及び体格判定を行う。置き去り検知装置10は、合理的に、車室内の全ての座席に対して着座している乗員の有無を検知するようにしている。
 なお、上述のとおり、電波センサ2からのFM送信波は、布、合皮、又はウレタン等を透過する。第2体格判定部104は、例えば、ブランケットに覆われている乗員も検知することができる。
 存否判定部105は、マップ取得部103が取得した動体マップに基づいて、車室内に乗員と想定される動体が存在するか否かを判定する。なお、存否判定部105は、車室内において乗員と想定される動体の位置まで判定する必要はない。存否判定部105は、車室内の領域のうちのどこかに乗員と想定される動体が存在するか否かが判定できればよい。
 例えば、存否判定部105は、マップ取得部103が取得した時系列の動体マップに基づき、各グリッドに対応付けられている、反射物の動きに応じた距離Rの変化速度及び変化両から動きの周波数成分を算出し、算出した動きの周波数成分が、人の呼吸又は脈拍といった体動の周波数に相当するかを判定する。人の体動の周波数に相当するとは、人の体動の周波数と一致する、又は、予め設定されている許容範囲内で一致することをいう。なお、存否判定部105は、マップ取得部103から取得した動体マップを時系列で、存否判定部105が参照可能な場所に記憶させている。
 存否判定部105は、算出した動きの周波数成分が体動に相当する周波数に相当するグリッドがある場合、車室内に乗員と想定される動体が存在すると判定する。
 存否判定部105は、車室内に乗員と想定される動体が存在するか否かの判定結果(以下「存否判定結果」という。)を、統合判定部106に出力する。
 例えば、図2及び図3に示す乗員4cのように座席の下に潜り込んでいる乗員、又は、後部座席に着座している後席乗員であってもFM送信波を反射する構造物で覆われている乗員は、電波センサ2からのFM送信波が直接的に体表で反射されない。これらの乗員へのFM送信波は、マルチパスによって乗員に到達する。そのため、動体マップ上、これらの乗員に対応する空間分布は、車室内において人が存在する位置又は大きさとして想定されない位置又は大きさであらわされる可能性が高い。そうすると、たとえ動体マップ上で空間分布が示されていたとしても、第2体格判定部104は、当該空間分布を乗員空間分布として判定しない。つまり、これらの乗員は、第2体格判定部104には検知されない。
 しかし、存否判定部105は、車室内の領域のうちのどこかに乗員と想定される動体が存在するか否かを判定する。存否判定部105によって、上述した例のように、動体マップ上、車室内において人が存在する位置又は大きさとして想定されない位置又は大きさであらわされる乗員についても、車室内のどこかには存在していることを判定できる。
 統合判定部106は、第1体格判定部102から出力された第1判定結果と、第2体格判定部104から出力された第2判定結果と、存否判定部105から出力された存否判定結果とに基づいて、車室内に子供が置き去りになっているか否かを判定する。詳細には、統合判定部106は、第1体格判定部102による、前部座席に大人又は子供が存在しているかの判定結果と、第2体格判定部104による、前部座席又は後部座席に大人又は子供が存在しているかの判定結果と、存否判定部105による、車室内の領域のうちのどこかに乗員と想定される動体が存在するか否かの判定結果とに基づいて、車室内に子供が置き去りになっているか否かを判定する。
 統合判定部106による、車室内に子供が置き去りになっているか否かの判定を、「統合判定処理」ともいう。統合判定処理の詳細について、説明する。
 統合判定部106は、まず、第1判定結果と第2判定結果とに基づき、第1体格判定処理又は第2体格判定処理にて存在すると判定された前席乗員又は後席乗員が大人であるか否かを判定する。すなわち、統合判定部106は、第1体格判定処理又は第2体格判定処理にて、車室内にて大人が存在すると判定されたか否かを判定する。
 統合判定部106は、車室内にて大人が存在すると判定されたか否かに応じて、以下のとおり、車室内にて置き去りが発生しているか否かを判定する。
<車室内に大人が存在すると判定された場合>
 第1体格判定処理又は第2体格判定処理にて車室内に大人が存在すると判定された場合、統合判定部106は、車室内に子供が置き去りにはなっていないと判定する。つまり、統合判定部106は、車室内に子供が存在していたとしても、車室内に大人が存在すると判定された場合は、置き去りは発生していないと判定する。
<車室内に大人が存在しないと判定された場合>
 第1体格判定処理及び第2体格判定処理にて車室内に大人が存在しないと判定された場合であって、かつ、第1体格判定処理又は第2体格判定処理にて車室内に子供が存在すると判定された場合、統合判定部106は、車室内に子供が置き去りになっていると判定する。つまり、統合判定部106は、車室内にて置き去りが発生していると判定する。
 また、第1体格判定処理及び第2体格判定処理にて車室内に大人の乗員が存在しないと判定された場合であって、かつ、第1体格判定処理及び第2体格判定処理にて車室内に子供の乗員が存在しないと判定された場合であっても、存否判定処理にて車室内の領域のうちのどこかに乗員と想定される動体が存在すると判定された場合は、統合判定部106は、車室内に子供が置き去りになっていると判定する。この場合、車室内の思いもよらない場所での子供等の置き去りが発生していると想定される。例えば、図2及び図3で示した車室内の状況から、乗員4a,4b,4dが車外に出て、乗員4cが車室内に取り残されたとする。この場合、乗員4cは後部座席の下に潜り込んでいることから、第1体格判定処理でも第2体格判定処理でも、検知されない。しかし、動体マップ上、乗員4cの体動に基づく微小運動が検知されるため(図11参照)、存否判定部105は、存否判定処理にて、車室内に乗員と想定される動体が存在すると判定する。よって、統合判定部106は、置き去りが発生していると判定する。このように、統合判定部106は、通常乗員が存在していると想定される場所(例えば、前部座席又は後部座席)で乗員が検知されたか否かだけでなく、車室内に乗員と想定される動体が存在しているか否かを考慮して、置き去りが発生しているか否かの判定を行う。そのため、統合判定部106は、座席の下に潜り込んで遊んでいる等、思いもよらない場所での子供の置き去りの発生の有無を判定できる。
 一方、第1体格判定処理及び第2体格判定処理にて車室内に大人が存在しないと判定され、かつ、車室内に子供の乗員が存在しないと判定された場合であって、さらに、存否判定処理でも車室内の領域のうちどこかに乗員と想定される動体が存在すると判定されなかった場合、統合判定部106は、車室内に子供が置き去りにはなっていないと判定する。つまり、統合判定部106は、車室内にて置き去りは発生していないと判定する。
 統合判定部106は、車室内にて置き去りが発生しているか否かの判定結果(以下「統合判定結果」という。)を、出力部107に出力する。
 このとき、統合判定部106は、車室内に存在している乗員に関する情報(以下「乗員情報」という。)をあわせて出力部107に出力してもよい。
 乗員情報には、車室内に存在している乗員の有無と、乗員が着座している位置と、乗員が大人であるか子供であるかを示す情報とが含まれる。統合判定部106は、第1判定結果と第2判定結果とから、車室内に存在している乗員の有無、乗員が着座している位置と、乗員が大人であるか子供であるかを判定すればよい。乗員情報には、さらに、車室内のうちのどこかに存在している乗員がいるか否かを示す情報が含まれてもよい。統合判定部106は、存否判定結果から、車室内のうちのどこかに存在している乗員がいるか否かを判定すればよい。
 出力部107は、統合判定部106から出力された統合判定結果に基づく情報(以下「置き去り情報」という。)を出力する。例えば、出力部107は、車室内にて置き去りが発生している旨の統合判定結果が出力された場合、車両1が備えている音声出力装置(図示省略)に対して、車外に向けて置き去りが発生していることを知らせる報知音を出力させるための置き去り情報を出力する。また、例えば、出力部107は、予め登録されている携帯端末に対して、車外に向けて置き去りが発生している旨のメッセージを出力させるための置き去り情報を出力する。例えば、車両1の持ち主は、予め自身の携帯端末を登録しておく。
 統合判定部106から乗員情報が出力された場合、出力部107は、当該乗員情報を出力することもできる。出力部107は、乗員情報を、置き去り検知装置10が参照可能な場所に備えられている記憶部(図示省略)に記憶させてもよい。
 なお、出力部107の機能は、統合判定部106が有していてもよい。
 実施の形態1に係る置き去り検知装置10の動作について説明する。
 図12は、実施の形態1に係る置き去り検知装置10の動作について説明するためのフローチャートである。
 撮像画像取得部101は、撮像装置3が撮像した撮像画像を取得する(ステップST1)。
 撮像画像取得部101は、取得した撮像画像を第1体格判定部102に出力する。
 第1体格判定部102は、ステップST1にて撮像画像取得部101が取得した撮像画像に基づいて、乗員を検知するとともに当該乗員が大人か子供かを判定する第1体格判定処理を行う(ステップST2)。
 第1体格判定部102は、第1判定結果を、統合判定部106に出力する。
 マップ取得部103は、電波センサ2から動体マップを取得する(ステップST3)。
 マップ取得部103は、取得した動体マップを第2体格判定部104及び存否判定部105に出力する。
 第2体格判定部104は、ステップST3にてマップ取得部103が取得した動体マップに基づいて、乗員を検知するとともに当該乗員が大人か子供かを判定する第2体格判定処理を行う(ステップST4)。
 第2体格判定部104は、第2判定結果を、統合判定部106に出力する。
 存否判定部105は、ステップST3にてマップ取得部103が取得した動体マップに基づいて、車室内に乗員と想定される動体が存在するか否かを判定する存否判定を行う(ステップST5)。
 存否判定部105は、存否判定結果を、統合判定部106に出力する。
 統合判定部106は、ステップST2にて第1体格判定部102から出力された第1判定結果と、ステップST4にて第2体格判定部104から出力された第2判定結果と、ステップST5にて存否判定部105から出力された存否判定結果とに基づいて、車室内に子供が置き去りになっているか否かを判定する統合判定処理を行う(ステップST6)。
 統合判定部106は、統合判定結果を、出力部107に出力する。このとき、統合判定部106は、乗員情報をあわせて出力部107に出力してもよい。
 出力部107は、ステップST6にて統合判定部106から出力された統合判定結果に基づく置き去り情報を出力する(ステップST7)。
 ステップST6にて統合判定部106から乗員情報が出力された場合、出力部107は、ステップST7にて、当該乗員情報を出力してもよいし、当該乗員情報を記憶部に記憶させてもよい。
 図12に示すフローチャートでは、ステップST4、ステップST5の順番で処理が行われるものとしたが、これは一例に過ぎない。ステップST4の処理とステップST5の処理の順番は逆であってもよいし、ステップST4の処理とステップST5の処理とが並行して行われてもよい。
 図13は、図12のステップST2の第1体格判定部102による第1体格判定処理の詳細を説明するためのフローチャートである。
 第1体格判定部102は、図12のステップST1にて撮像画像取得部101が取得した撮像画像に基づいて骨格点を検知する(ステップST101)。具体的には、第1体格判定部102は、骨格座標点を検知する。
 第1体格判定部102は、ステップST101にて検知した骨格座標点に基づいて、前席乗員が存在しているか否かを判定する(ステップST102)。
 ステップST102にて、前席乗員が存在していると判定した場合(ステップST102の“YES”の場合)、第1体格判定部102は、前席乗員は大人であるか子供であるかを判定する(ステップST103)。
 ステップST102にて、前席乗員が存在していないと判定した場合(ステップST102の“NO”の場合)、第1体格判定部102の処理は、ステップST103の処理をスキップし、ステップST104の処理へ進む。
 第1体格判定部102は、第1判定結果を、統合判定部106に出力する(ステップST104)。
 図14は、図12のステップST4の第2体格判定部104による第2体格判定処理の詳細を説明するためのフローチャートである。
 第2体格判定部104は、図12のステップST3にてマップ取得部103が取得した動体マップに基づいて、前席乗員、より詳細には後向き前席乗員、又は後席乗員が存在しているか否かを判定する(ステップST201)。
 ステップST201にて、後向き前席乗員又は後席乗員が存在していると判定した場合(ステップST201の“YES”の場合)、第2体格判定部104は、動体マップに含まれている乗員空間分布の大きさに基づいて、検知した乗員(後向き前席乗員又は後席乗員)が、大人であるか、子供であるかを判定する(ステップST202)。
 ステップST201にて、後向き前席乗員も後席乗員も存在していないと判定した場合(ステップST201の“NO”の場合)、第2体格判定部104の処理は、ステップST202の処理をスキップし、ステップST203の処理へ進む。
 第2体格判定部104は、第2判定結果を、統合判定部106に出力する(ステップST203)。
 図15は、図12のステップST6の統合判定部106による統合判定処理の詳細を説明するためのフローチャートである。
 統合判定部106は、まず、図12のステップST2にて出力された第1判定結果と、図12のステップST4にて出力された第2判定結果とに基づき、第1体格判定処理又は第2体格判定処理にて存在すると判定された前席乗員又は後席乗員が大人であるか否かを判定する。すなわち、統合判定部106は、第1体格判定処理又は第2体格判定処理にて、車室内にて大人が存在すると判定されたか否かを判定する(ステップST301)。
 ステップST301にて、車室内にて大人が存在すると判定されなかったと判定した場合(ステップST301の“NO”の場合)、統合判定部106は、第1判定結果と第2判定結果とに基づき、第1体格判定処理又は第2体格判定処理にて車室内に子供が存在すると判定されたか否かを判定する(ステップST302)。
 ステップST302にて、車室内にて子供が存在すると判定されなかったと判定した場合(ステップST302の“NO”の場合)、統合判定部106は、図12のステップST5にて出力された存否判定結果に基づき、存否判定処理にて車室内に乗員と想定される動体が存在すると判定されたか否かを判定する(ステップST303)。
 ステップST302にて、車室内にて子供が存在すると判定されたと判定した場合(ステップST302の“YES”の場合)、又は、ステップST303にて、車室内に乗員と想定される動体が存在すると判定されたと判定した場合(ステップST303の“YES”の場合)、統合判定部106は、車室内にて置き去りが発生していると判定する(ステップST304)。
 ステップST301にて、車室内にて大人が存在すると判定されたと判定した場合(ステップST301の“YES”の場合)、統合判定部106は、車室内にて置き去りは発生していないと判定する(ステップST305)。また、ステップST303にて、車室内に乗員と想定される動体が存在すると判定されなかったと判定した場合(ステップST303の“NO”の場合)、統合判定部106は、車室内にて置き去りは発生していないと判定する(ステップST306)。
 統合判定部106は、統合判定結果を、出力部107に出力する(ステップST307)。このとき、統合判定部106は、乗員情報をあわせて出力部107に出力してもよい。
 このように、置き去り検知装置10は、撮像装置3によって撮像された撮像画像に基づいて、前席乗員を検知するとともに当該前席乗員が大人か子供かを判定し、電波センサ2によって作成された動体マップに基づいて、後向き前席乗員又は後席乗員を検知するとともに当該後向き前席乗員又は後席乗員が大人か子供かを判定する。また、置き去り検知装置10は、動体マップに基づいて、車室内の領域のうちのどこかに乗員と想定される動体が存在するか否かを判定する。そして、置き去り検知装置10は、前部座席又は後部座席に大人又は子供が存在しているかの判定結果(第1判定結果及び第2判定結果)と、車室内に乗員と想定される動体が存在するか否かの判定結果(存否判定結果)とに基づいて、車室内に子供が置き去りになっているか否かを判定する。
 置き去り検知装置10は、電波センサ2が作成した動体マップを用いることで、撮像装置3の死角となる範囲であり、かつ、電波センサ2が放射した電波を反射する構造物等により遮られる場所に存在している子供を検知することができる。
 図16A及び図16Bは、実施の形態1に係る置き去り検知装置10のハードウェア構成の一例を示す図である。
 実施の形態1において、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107の機能は、処理回路1001により実現される。すなわち、置き去り検知装置10は、車室内における子供の置き去りを検知する制御を行うための処理回路1001を備える。
 処理回路1001は、図16Aに示すように専用のハードウェアであっても、図16Bに示すようにメモリに格納されるプログラムを実行するプロセッサ1004であってもよい。
 処理回路1001が専用のハードウェアである場合、処理回路1001は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又はこれらを組み合わせたものが該当する。
 処理回路がプロセッサ1004の場合、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107の機能は、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェア又はファームウェアは、プログラムとして記述され、メモリ1005に記憶される。プロセッサ1004は、メモリ1005に記憶されたプログラムを読み出して実行することにより、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107の機能を実行する。すなわち、置き去り検知装置10は、プロセッサ1004により実行されるときに、上述の図12のステップST1~ステップST7が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107の処理の手順又は方法をコンピュータに実行させるものであるとも言える。ここで、メモリ1005とは、例えば、RAM、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の、不揮発性もしくは揮発性の半導体メモリ、又は、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)等が該当する。
 なお、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107の機能について、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。例えば、撮像画像取得部101とマップ取得部103については専用のハードウェアとしての処理回路1001でその機能を実現し、第1体格判定部102と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107についてはプロセッサ1004がメモリ1005に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
 図示しない記憶部は、例えば、メモリで構成される。
 また、置き去り検知装置10は、電波センサ2又は撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置1002及び出力インタフェース装置1003を備える。
 以上の実施の形態1では、撮像装置3は、車両1のセンターコンソールに設置さ、センターコンソールから第2存在可能領域を撮像することを想定したが、これは一例に過ぎない。
 例えば、撮像装置3は、オーバーヘッドコンソールに設置されてもよいし、インストルメントパネルの中央に設置されてもよい。インストルメントパネルの中央とは、厳密に中央であることに限定されず、略中央を含む。
 図17は、実施の形態1において、撮像装置3がオーバーヘッドコンソールに取り付けられているものとした車両1を示す側面視図である。
 図17に示す車両1は、図2に示した車両1とは、撮像装置3の設置位置が異なる。
 撮像装置3は、オーバーヘッドコンソールに設置され、第2存在可能領域に加え、後部座席の背もたれの前方付近、及び、後部座席のヘッドレストの前方付近の空間も撮像可能である。図17において、撮像装置3の撮像範囲を3a’で示している。
 この場合、撮像装置3は、前席乗員に加え、後席乗員も撮像可能となる。そのため、第1体格判定部102が検知対象とする乗員は、前席乗員(より詳細には後向き前席乗員を除く前席乗員)、及び、後向き後席乗員を除く後席乗員とする。置き去り検知装置10において、第1体格判定部102は、撮像画像に基づいて、前席乗員(乗員4a,4b)及び後席乗員(乗員4d)を検知するとともに、前席乗員及び後席乗員が大人であるか子供であるかを判定する。但し、仮に、後部座席に装着されている後向きのチャイルドシートに乗っている後向き後席乗員が存在していたとしても、撮像装置3は、後向き前席乗員同様、当該後向き後席乗員を撮像できない。したがって、後席乗員のうちの後向き後席乗員は、第1体格判定部102の検知対象から除外する。後向き後席乗員は、第2体格判定部104が検知する。
 なお、この場合、後向き後席乗員を除く後席乗員は第1体格判定部102の検知対象となるため、第2体格判定部104は、少なくとも後向き後席乗員を検知対象とすればよい。しかし、撮像装置3は、後部座席の足元付近については、死角となり撮像できない可能性がある。また、上述のとおり、第2体格判定部104は、ブランケット等に覆われている乗員も検知可能である。よって、第1体格判定部102及び第2体格判定部104がともに後向き後席乗員を除く後席乗員を検知対象としてもよい。
 このように、撮像装置3がオーバーヘッドコンソールに設置されている場合、撮像装置3は後部座席付近まで撮像可能となり、撮像装置3がセンターコンソールに設置されている場合に比べ、撮像装置3の撮像範囲が広くなる。そのため、置き去り検知装置10は、より精度高く、後席乗員を検知できる。電波センサ2が作成した動体マップに基づく乗員検知は、毛布等、FM送信波を透過可能な構成物等で隠れている乗員を検知できる点で優れているが、検知精度は、撮像装置3が撮像した撮像画像に基づく乗員検知よりも低い。
 また、以上の実施の形態1では、電波センサ2がマップ作成部18を備えていたが、これは一例に過ぎない。以上の実施の形態1において、置き去り検知装置10がマップ作成部18の機能を有し、置き去り検知装置10が、電波センサ2からデジタル信号Dを取得して、動体マップを生成してもよい。
 また、以上の実施の形態1では、置き去り検知の対象は子供を想定していたが、これは一例に過ぎない。置き去り検知装置10は、ペットの置き去りを検知することもできる。
 以上の実施の形態1では、存否判定部105は、マップ取得部103が取得した動体マップに基づいて、車室内に乗員と想定される動体が存在するか否かを判定するものとしたが、存否判定部105は、車室内において存在すると判定できる動体が、人であるかまでは判別できない。結果的に、存否判定部105が車室内において存在すると判定した乗員がペットである場合もある。
 すなわち、置き去り検知装置10において、存否判定部105は、動体マップに基づいて、車室内に、人及びペットを含む生体と想定される動体が存在するか否かを判定し、統合判定部106は、第1体格判定部102による前部座席に大人又は子供が存在しているかの判定結果と、第2体格判定部104による前部座席又は後部座席に大人又は子供が存在しているかの判定結果と、存否判定部105よる車室内に生体と想定される動体が存在するか否かの判定結果とに基づいて、車室内に生体が置き去りになっているか否かを判定することができる。
 また、以上の実施の形態1において、置き去り検知装置10は、撮像装置3からの撮像画像を用いずに、車室内に生体が置き去りになっているか否かを判定することもできる。
 この場合、置き去り検知装置10は、撮像装置3と接続されることを必須とせず、撮像画像取得部101及び第1体格判定部102を備えない構成とできる。
 置き去り検知装置10において、統合判定部106は、第2体格判定部104による前部座席又は後部座席に大人又は子供が存在しているかの判定結果と、存否判定部105による車室内に生体と想定される動体が存在するか否かの判定結果とに基づいて、車室内に生体が置き去りになっているか否かを判定する。
 なお、この場合、電波センサ2が、車室内の広い範囲を検知範囲とできるよう、電波センサ2は、車室内において、ルームミラー(図示省略)、又は、ピラー(図示省略)における車室内の天井側の端部に設けられることが好ましい。電波センサ2は、ルームミラー付近に設けられてもよい。ピラーは、左右いずれかのAピラー、左右いずれかのBピラー、及び、左右いずれかのCピラーを含む。
 なお、上述のとおり、実施の形態1において、置き去り検知装置10は、撮像装置3からの撮像画像を用いずに、車室内に生体が置き去りになっているか否かを判定することもできるが、置き去り検知装置10は、撮像画像を用いて車室内に生体が置き去りになっているか否かを判定するほうが、撮像画像を用いずに車室内に生体が置き去りになっているかを判定するよりも、乗員検知の精度が高くなり、その結果、車室内の生体の置き去り検知の精度が向上する。
 また、以上の実施の形態1では、置き去り検知装置10は、車両1に搭載される車載装置とし、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107は、車載装置に備えられているものとした。
 これに限らず、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで置き去り検知システムを構成するようにしてもよい。
 また、撮像画像取得部101と、第1体格判定部102と、マップ取得部103と、第2体格判定部104と、存否判定部105と、統合判定部106と、出力部107が全部サーバに備えられてもよい。
 以上のように、実施の形態1によれば、置き去り検知装置10は、電波センサ2が車両1の車室内において少なくとも後部座席及び前部座席を含む第2領域に向けて放射した電波が車室内の物体によって反射された反射波に基づいて生成された、車室内において物体が存在する領域の分布を3次元であらわす動体マップを取得するマップ取得部103と、マップ取得部103が取得した動体マップに基づいて、前部座席又は後部座席に着座している乗員を検知するとともに当該乗員が大人か子供かを判定する第2体格判定部104と、マップ取得部103が取得した動体マップに基づいて、車室内に生体と想定される動体が存在するか否かを判定する存否判定部105と、第2体格判定部104による前部座席又は後部座席に大人又は子供が存在しているかの判定結果(第2判定結果)と、存否判定部105による車室内に生体と想定される動体が存在するか否かの判定結果(存否判定結果)とに基づいて、車室内に生体が置き去りになっているか否かを判定する統合判定部106とを備えるように構成した。そのため、置き去り検知装置10は、車室内に置き去りにされている生体を検知することができる。
 つまり、置き去り検知装置10は、電波センサ2が作成した動体マップを用いることで、撮像装置3の死角となる範囲であり、かつ、電波センサ2が放射した電波を反射する構造物等により遮られる場所に存在している生体を検知することができる。
 なお、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。
 本開示に係る置き去り検知装置は、車室内に置き去りにされている生体を検知することができる。
 1 車両、10 置き去り検知装置、101 撮像画像取得部、102 第1体格判定部、103 マップ取得部、104 第2体格判定部、105 存否判定部、106 統合判定部、107 出力部、2 電波センサ、2a 照射範囲、3 撮像装置、3a,3a’ 撮像範囲、4a,4b,4c,4d 乗員、11 送信アンテナ、11-1,11-2 送信アンテナ素子、12 受信アンテナ、12-1~12-4 受信アンテナ素子、12-1’~12-8’ 仮想アンテナ、13 電波センサ回路部、14 高周波信号発生回路、15 電波送信部、15-1,15-2 送信回路、16 電波受信部、16-1~16-4 受信回路、17 A/D変換回路、18 マップ作成部、19 通信回路、20 電源回路、21 インタフェース部、1001 処理回路、1002 入力インタフェース装置、1003 出力インタフェース装置、1004 プロセッサ、1005 メモリ。

Claims (13)

  1.  電波センサが車両の車室内において少なくとも後部座席及び前部座席を含む第2領域に向けて放射した電波が前記車室内の物体によって反射された反射波に基づいて生成された、前記車室内において前記物体が存在する領域の分布を3次元であらわす動体マップを取得するマップ取得部と、
     前記マップ取得部が取得した前記動体マップに基づいて、前記前部座席又は前記後部座席に着座している乗員を検知するとともに当該乗員が大人か子供かを判定する第2体格判定部と、
     前記マップ取得部が取得した前記動体マップに基づいて、前記車室内に生体と想定される動体が存在するか否かを判定する存否判定部と、
     前記第2体格判定部による前記前部座席又は前記後部座席に大人又は子供が存在しているかの判定結果と、前記存否判定部による前記車室内に前記生体と想定される動体が存在するか否かの判定結果とに基づいて、前記車室内に前記生体が置き去りになっているか否かを判定する統合判定部
     とを備えた置き去り検知装置。
  2.  前記統合判定部は、
     前記第2体格判定部が、大人が存在していると判定しなかった場合で、かつ、前記存否判定部が、前記車室内の領域のうちのどこかに前記生体と想定される体動が存在すると判定した場合、前記車室内に前記生体が置き去りになっていると判定する
     ことを特徴とする請求項1記載の置き去り検知装置。
  3.  前記統合判定部は、
     前記第2体格判定部が、大人も子供も存在していないと判定した場合であっても、前記存否判定部が、前記車室内の領域のうちのどこかに前記生体と想定される体動が存在すると判定した場合は、前記車室内に前記生体が置き去りになっていると判定する
     ことを特徴とする請求項2記載の置き去り検知装置。
  4.  撮像装置が前記車室内において少なくとも前記前部座席の前記乗員の上半身が存在し得る第1領域を撮像した撮像画像を取得する撮像画像取得部と、
     前記撮像画像取得部が取得した前記撮像画像に基づいて、少なくとも前記前部座席に着座している前記乗員を検知するとともに当該乗員が大人か子供かを判定する第1体格判定部とを備え、
     前記統合判定部は、前記第1体格判定部による前記前部座席に大人又は子供が存在しているかの判定結果と、前記第2体格判定部による前記前部座席又は前記後部座席に大人又は子供が存在しているかの判定結果と、前記存否判定部による前記車室内に前記生体と想定される動体が存在するか否かの判定結果とに基づいて、前記車室内に前記生体が置き去りになっているか否かを判定する
     ことを特徴とする請求項1記載の置き去り検知装置。
  5.  前記第1体格判定部は、
     前記撮像画像に基づいて前記乗員の骨格点を検出し、検出した前記骨格点から、前記前部座席に着座している前記乗員を検知するとともに当該乗員が大人か子供かを判定する
     ことを特徴とする請求項4記載の置き去り検知装置。
  6.  前記統合判定部は、
     前記第1体格判定部及び前記第2体格判定部のいずれも、大人が存在していると判定しなかった場合で、かつ、前記存否判定部が、前記車室内の領域のうちのどこかに前記生体と想定される体動が存在すると判定した場合、前記車室内に前記生体が置き去りになっていると判定する
     ことを特徴とする請求項5記載の置き去り検知装置。
  7.  前記統合判定部は、
     前記第1体格判定部及び前記第2体格判定部がいずれも、大人も子供も存在していないと判定した場合であっても、前記存否判定部が、前記車室内の領域のうちのどこかに前記生体と想定される体動が存在すると判定した場合は、前記車室内に前記生体が置き去りになっていると判定する
     ことを特徴とする請求項6記載の置き去り検知装置。
  8.  前記電波センサは、
     前記車室内の天井において、前記前部座席のヘッドレストの上方の位置よりも前記後部座席側に設けられる
     ことを特徴とする請求項1記載の置き去り検知装置。
  9.  前記電波センサは、
     前記車室内の天井において、前記後部座席の座面の、車長方向における中央の点から鉛直上方へ向かう直線と天井とが交わる位置よりも、前記車両の進行方向に対して後方の位置に設けられる
     ことを特徴とする請求項1記載の置き去り検知装置。
  10.  前記電波センサは、
     前記車室内において、ルームミラー、又は、ピラーにおける前記車室内の天井側の端部に設けられる
     ことを特徴とする請求項1記載の置き去り検知装置。
  11.  前記撮像装置は、
     前記車室内において、センターコンソール又はオーバーヘッドコンソールに設けられる
     ことを特徴とする請求項4記載の置き去り検知装置。
  12.  前記生体は、子供又はペットである
     ことを特徴とする請求項1記載の置き去り検知装置。
  13.  マップ取得部が、電波センサが車両の車室内において少なくとも後部座席及び前部座席を含む第2領域に向けて放射した電波が前記車室内の物体によって反射された反射波に基づいて生成された、前記車室内において前記物体が存在する領域の分布を3次元であらわす動体マップを取得するステップと、
     第2体格判定部が、前記マップ取得部が取得した前記動体マップに基づいて、前記前部座席又は前記後部座席に着座している乗員を検知するとともに当該乗員が大人か子供かを判定するステップと、
     存否判定部が、前記マップ取得部が取得した前記動体マップに基づいて、前記車室内に生体と想定される動体が存在するか否かを判定するステップと、
     統合判定部が、前記第2体格判定部による前記前部座席又は前記後部座席に大人又は子供が存在しているかの判定結果と、前記存否判定部による前記車室内に前記生体と想定される動体が存在するか否かの判定結果とに基づいて、前記車室内に前記生体が置き去りになっているか否かを判定するステップ
     とを備えた置き去り検知方法。
PCT/JP2021/048727 2021-12-28 2021-12-28 置き去り検知装置及び置き去り検知方法 WO2023127072A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/048727 WO2023127072A1 (ja) 2021-12-28 2021-12-28 置き去り検知装置及び置き去り検知方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/048727 WO2023127072A1 (ja) 2021-12-28 2021-12-28 置き去り検知装置及び置き去り検知方法

Publications (1)

Publication Number Publication Date
WO2023127072A1 true WO2023127072A1 (ja) 2023-07-06

Family

ID=86998380

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/048727 WO2023127072A1 (ja) 2021-12-28 2021-12-28 置き去り検知装置及び置き去り検知方法

Country Status (1)

Country Link
WO (1) WO2023127072A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019123354A (ja) * 2018-01-16 2019-07-25 株式会社デンソー 乗員検知装置
JP2020047273A (ja) * 2018-09-13 2020-03-26 アイシン精機株式会社 3次元特徴点情報生成装置
WO2021124548A1 (ja) * 2019-12-20 2021-06-24 三菱電機株式会社 車内監視装置、車内監視システム、及び車内監視方法
WO2021240777A1 (ja) * 2020-05-29 2021-12-02 三菱電機株式会社 乗員検出装置および乗員検出方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019123354A (ja) * 2018-01-16 2019-07-25 株式会社デンソー 乗員検知装置
JP2020047273A (ja) * 2018-09-13 2020-03-26 アイシン精機株式会社 3次元特徴点情報生成装置
WO2021124548A1 (ja) * 2019-12-20 2021-06-24 三菱電機株式会社 車内監視装置、車内監視システム、及び車内監視方法
WO2021240777A1 (ja) * 2020-05-29 2021-12-02 三菱電機株式会社 乗員検出装置および乗員検出方法

Similar Documents

Publication Publication Date Title
JP6961274B2 (ja) Mimoレーダを用いた相関移動の検出および測定
US20210016736A1 (en) 3D Time of Flight Active Reflecting Sensing Systems and Methods
JP7289070B2 (ja) レーダー装置および車両
US9671492B2 (en) Radar sensing of vehicle occupancy
CN113556975A (zh) 检测车辆中的对象并获得对象信息的系统、装置和方法
US11543511B2 (en) Radar apparatus and vehicle
US20190231272A1 (en) Measuring apparatus, measuring method, and non-transitory computer-readable storage medium for storing program
EP2808693B1 (en) System and method for determining a position of a living being in a vehicle
US7209033B2 (en) Device and method for detecting an object or a person on a seat of vehicle
JP2011099683A (ja) 物体検出装置
US20230166737A1 (en) Cabin-inside detection device and cabin-inside detection method
US10422874B2 (en) Method and system for spatial modeling of an interior of a vehicle
JP2021026557A (ja) 障害物検知装置
WO2020202159A1 (en) System for determining object status and method thereof
WO2023127072A1 (ja) 置き去り検知装置及び置き去り検知方法
US20220346653A1 (en) Multi-sensor system for cardiovascular and respiratory tracking
US20210209386A1 (en) Radar-based monitoring in a vehicle
WO2022162852A1 (ja) 電波センサ及び乗員検知装置
JP7035876B2 (ja) 生体検知装置
JP7422334B2 (ja) 信号処理装置、及びセンサシステム
CN115402212A (zh) 车辆模组向车厢顶棚的安装构造
WO2024121957A1 (ja) 生体検知装置、電波センサ、生体検知システム、および、生体検知方法
JP2022188651A (ja) 乗員検知装置、方法、およびプログラム
WO2021181998A1 (ja) バイタルサイン検出装置およびそれをシートに備えた車両並びにバイタルサイン検出方法
WO2024121876A1 (ja) 置き去り判定システム、置き去り判定装置、および、置き去り判定方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21969954

Country of ref document: EP

Kind code of ref document: A1