KR20230025738A - 차량 내의 물체 검출 - Google Patents

차량 내의 물체 검출 Download PDF

Info

Publication number
KR20230025738A
KR20230025738A KR1020210189949A KR20210189949A KR20230025738A KR 20230025738 A KR20230025738 A KR 20230025738A KR 1020210189949 A KR1020210189949 A KR 1020210189949A KR 20210189949 A KR20210189949 A KR 20210189949A KR 20230025738 A KR20230025738 A KR 20230025738A
Authority
KR
South Korea
Prior art keywords
vehicle
signal
location
detection system
auditory
Prior art date
Application number
KR1020210189949A
Other languages
English (en)
Inventor
아쉰 아룬모지
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20230025738A publication Critical patent/KR20230025738A/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/74—Systems using reradiation of acoustic waves, e.g. IFF, i.e. identification of friend or foe
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q5/00—Arrangement or adaptation of acoustic signal devices
    • B60Q5/005—Arrangement or adaptation of acoustic signal devices automatically actuated
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0247—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for microphones or earphones
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/02—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems using reflection of acoustic waves
    • G01S15/04—Systems determining presence of a target
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/02—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems using reflection of acoustic waves
    • G01S15/06—Systems determining the position data of a target
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/86—Combinations of sonar systems with lidar systems; Combinations of sonar systems with systems not using wave reflection
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/87—Combinations of sonar systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/87—Combinations of sonar systems
    • G01S15/876—Combination of several spaced transmitters or receivers of known location for determining the position of a transponder or a reflector
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/88—Sonar systems specially adapted for specific applications
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
    • G01S7/523—Details of pulse systems
    • G01S7/526—Receivers
    • G01S7/527—Extracting wanted echo signals
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
    • G01S7/534—Details of non-pulse systems
    • G01S7/536—Extracting wanted echo signals
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
    • G01S7/539—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
    • G01S7/54—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00 with receivers spaced apart
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18—Status alarms
    • G08B21/24—Reminder alarms, e.g. anti-loss alarms
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00—Audible signalling systems; Audible personal calling systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10—General applications
    • H04R2499/13—Acoustic transducers and sound field adaptation in vehicles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00—Circuits for transducers, loudspeakers or microphones

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Acoustics & Sound (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Emergency Management (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Traffic Control Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Signal Processing (AREA)

Abstract

차량 내의 물체를 검출하기 위한 방법이 제공된다. 방법은, 적어도 하나의 제1 시간 간격 동안 상기 차량 내에서 적어도 하나의 청각 신호를 방출하는 단계; 상기 적어도 하나의 제1 시간 간격 후의 제2 시간 간격 동안 상기 차량 내의 물체에 의해 방출된 제2 청각 신호를 측정하는 단계 - 상기 제2 청각 신호의 방출은 상기 적어도 하나의 제1 청각 신호의 방출에 의해 야기됨 - ; 상기 제2 청각 신호의 측정에 기초하여 상기 차량 내의 상기 물체의 위치를 결정하는 단계; 및 사용자에의, 상기 물체의 위치를 나타내는 경보를 생성하는 단계를 포함한다. 시스템 및 컴퓨터 프로그램 제품도 또한 제공된다.

Description

차량 내의 물체 검출 {DETECTING OBJECTS WITHIN A VEHICLE}
차량은 사람들을 한 위치에서 다른 위치로 수송하는데 사용될 수 있다. 예를 들어, 사람이 차량의 승객실에 들어가고, 차량을 사용하여 목적지로 주행할 수 있다(예컨대, 차량을 수동으로 운전하고/거나 목적지로 차량을 운행하도록 차량의 자율 주행 시스템에 명령함으로써).
일부 구현에서, 사람이 차량에 물건(object)을 두고 오거나 남길 수 있다. 예를 들어, 사람이 물건(예컨대, 가방, 전화 등과 같은 개인 용품)을 들고 차량에 들어가지만 그 물건을 갖지 않고 차량에서 나올 수 있다.
도 1은 자율 주행 시스템(autonomous system)의 하나 이상의 컴포넌트를 포함하는 차량이 구현될 수 있는 예시적인 환경이다.
도 2는 자율 주행 시스템을 포함하는 차량의 하나 이상의 시스템의 다이어그램이다.
도 3은 도 1 및 도 2의 하나 이상의 디바이스 및/또는 하나 이상의 시스템의 컴포넌트들의 다이어그램이다.
도 4는 물체 검출 시스템(object detection system)의 특정 컴포넌트들의 다이어그램이다.
도 5a 및 도 5b는 물체 검출 시스템의 예시적인 동작의 다이어그램이다.
도 6a는 예시적인 정현파 스위프 신호의 다이어그램이다.
도 6b는 예시적인 임펄스 응답 신호의 다이어그램이다.
도 7a는 신경 네트워크의 구현의 다이어그램이다.
도 7b 및 도 7c는 신경 네트워크의 예시적인 동작을 예시하는 다이어그램이다.
도 8은 차량 내의 물체를 검출하기 위한 프로세스의 플로차트이다.
이하의 설명에서는, 설명 목적으로 본 개시에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항들이 기재된다. 그렇지만, 본 개시에 의해 기술되는 실시예들이 이러한 특정 세부 사항들이 없더라도 실시될 수 있음이 명백할 것이다. 일부 경우에, 본 개시의 양태들을 불필요하게 모호하게 하는 것을 피하기 위해 잘 알려진 구조들 및 디바이스들은 블록 다이어그램 형태로 예시되어 있다.
시스템들, 디바이스들, 모듈들, 명령어 블록들, 데이터 요소들 등을 나타내는 것들과 같은, 개략적인 요소들의 특정 배열들 또는 순서들이 설명의 편의를 위해 도면들에 예시되어 있다. 그렇지만, 본 기술 분야의 통상의 기술자라면 도면들에서의 개략적인 요소들의 특정 순서 또는 배열이, 그러한 것으로 명시적으로 기술되지 않는 한, 프로세스들의 특정 프로세싱 순서 또는 시퀀스, 또는 프로세스들의 분리가 필요하다는 것을 암시하는 것으로 의미되지 않음을 이해할 것이다. 게다가, 도면에 개략적인 요소를 포함시키는 것은, 그러한 것으로 명시적으로 기술되지 않는 한 일부 실시예들에서, 그러한 요소가 모든 실시예들에서 필요하다는 것 또는 그러한 요소에 의해 표현되는 특징들이 다른 요소들에 포함되지 않을 수 있거나 다른 요소들과 결합되지 않을 수 있다는 것을 암시하는 것으로 의미되지 않는다.
게다가, 2 개 이상의 다른 개략적인 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소들이 도면들에서 사용되는 경우에, 임의의 그러한 연결 요소들의 부재는 연결, 관계 또는 연관이 존재할 수 없음을 암시하는 것으로 의미되지 않는다. 환언하면, 본 개시를 모호하게 하지 않기 위해 요소들 사이의 일부 연결들, 관계들 또는 연관들이 도면들에 예시되어 있지 않다. 추가적으로, 예시의 편의를 위해, 요소들 사이의 다수의 연결들, 관계들 또는 연관들을 나타내기 위해 단일의 연결 요소가 사용될 수 있다. 예를 들어, 연결 요소가 신호들, 데이터 또는 명령어들(예를 들면, "소프트웨어 명령어들")의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면 그러한 요소가, 통신을 수행하기 위해 필요하게 될 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낼 수 있다는 것을 이해할 것이다.
제1, 제2, 제3 등의 용어들이 다양한 컴포넌트들을 기술하는 데 사용되지만, 이러한 요소들이 이러한 용어들에 의해 제한되어서는 안된다. 제1, 제2, 제3 등의 용어들은 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 실시예들의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.
본원에서의 다양한 기술된 실시예들에 대한 설명에서 사용되는 전문용어는 특정 실시예들을 기술하기 위해서만 포함되어 있으며, 제한하는 것으로 의도되지 않는다. 다양한 기술된 실시예들에 대한 설명 및 첨부된 청구항들에서 사용되는 바와 같이, 단수 형태들("a", "an" 및 "the")은 복수 형태들도 포함하는 것으로 의도되고, 문맥이 달리 명확히 나타내지 않는 한, "하나 이상" 또는 "적어도 하나"와 상호 교환 가능하게 사용될 수 있다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 일부 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. "포함한다(includes)", 포함하는(including), 포함한다(comprises)" 및/또는 "포함하는(comprising)"이라는 용어들이, 본 설명에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 명시하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 추가로 이해될 것이다.
본원에서 사용되는 바와 같이, "통신" 및 "통신하다"라는 용어들은 정보(또는, 예를 들어, 데이터, 신호들, 메시지들, 명령어들, 커맨드들 등에 의해 표현되는 정보)의 수신, 접수, 송신, 전달, 제공 등 중 적어도 하나를 지칭한다. 하나의 유닛(예를 들면, 디바이스, 시스템, 디바이스 또는 시스템의 컴포넌트, 이들의 조합들 등)이 다른 유닛과 통신한다는 것은 하나의 유닛이 직접 또는 간접적으로 다른 유닛으로부터 정보를 수신하고/하거나 다른 유닛으로 정보를 전송(예를 들면, 송신)할 수 있음을 의미한다. 이것은 본질적으로 유선 및/또는 무선인 직접 또는 간접 연결을 지칭할 수 있다. 추가적으로, 송신되는 정보가 제1 유닛과 제2 유닛 사이에서 수정, 프로세싱, 중계 및/또는 라우팅될 수 있을지라도 2 개의 유닛은 서로 통신하고 있을 수 있다. 예를 들어, 제1 유닛이 정보를 수동적으로 수신하고 정보를 제2 유닛으로 능동적으로 송신하지 않을지라도 제1 유닛은 제2 유닛과 통신하고 있을 수 있다. 다른 예로서, 적어도 하나의 중간 유닛(예를 들면, 제1 유닛과 제2 유닛 사이에 위치하는 제3 유닛)이 제1 유닛으로부터 수신되는 정보를 프로세싱하고 프로세싱된 정보를 제2 유닛으로 송신하는 경우 제1 유닛은 제2 유닛과 통신하고 있을 수 있다. 일부 실시예들에서, 메시지는 데이터를 포함하는 네트워크 패킷(예를 들면, 데이터 패킷 등)을 지칭할 수 있다.
본원에서 사용되는 바와 같이, "~ 경우"라는 용어는, 선택적으로, 문맥에 따라 "~할 때", 또는 "~시에" 또는 "~라고 결정하는 것에 응답하여", "~을 검출하는 것에 응답하여" 등을 의미하는 것으로 해석된다. 유사하게, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는, 선택적으로, 문맥에 따라, "~라고 결정할 시에", "~라고 결정하는 것에 응답하여", "[언급된 조건 또는 이벤트]를 검출할 시에", "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여" 등을 의미하는 것으로 해석된다. 또한, 본원에서 사용되는 바와 같이, "갖는다"(has, have), "갖는(having)" 등의 용어들은 개방형(open-ended) 용어들인 것으로 의도된다. 게다가, 문구 "~에 기초하여"는, 달리 명시적으로 언급되지 않는 한, "~에 적어도 부분적으로 기초하여"를 의미하는 것으로 의도된다.
그 예가 첨부 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예들이 이러한 특정 세부 사항들이 없더라도 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.
일반적 개관
일부 양태들 및/또는 실시예들에서, 본원에 기술된 시스템들, 방법들 및 컴퓨터 프로그램 제품들은 사운드를 사용하여 차량 내의 물체를 검출하기 위한 기술을 포함 및/또는 구현한다. 예의 구현에서, 물체 검출은 일 기간 동안 차량 내에서 사운드를 방출하며, 이는 차량 내의 물체들이 특정 주파수 또는 주파수들에서 공명하게(resonate) 한다. 시스템은 이들 물체의 공명을 검출하고, 공명에 기초하여 이들 물체의 위치 및/또는 아이덴티티(identity)를 결정한다(예컨대, 머신 러닝 시스템을 사용하여). 또한, 물체 검출 시스템은 물체를 회수하도록(retrieve) 사용자에게 통지한다(예컨대, 청각적 경보 또는 전자 메시지를 사용자의 모바일 디바이스 상에 제시되게 함으로써).
이들 기술의 이점의 일부는, 물체를 분실하기 전에 승객이 물체를 회수할 수 있도록 차량이 차량 내의 물체를 검출할 수 있게 하는 것을 포함한다. 일부 구현에서, 시스템은 다른 센서 기술을 사용하여 검출하는 것이 어려울 수 있는 위치에서의(예컨대, 카메라에 의한 시야에서 숨겨질 수 있는, 시트 아래 또는 시트 포켓 내의) 물체를 검출할 수 있다.
또한, 이들 기술은 차량에 이미 포함되었을 컴포넌트들을 사용하여 차량이 물체를 검출 할 수 있게 한다. 예를 들어, 차량은 종종 스피커(예컨대, 승객에게 오디오를 재생하기 위해) 및 마이크로폰(예컨대, 사용자가 말하는 커맨드를 검출하고/하거나 사용자와 다른 사람들과의 음성 통신을 가능하게 하기 위해)을 포함할 것이다. 이들 컴포넌트는 차량 내의 물체를 검출하는 데에 추가적으로 사용될 수 있다. 이는 예를 들어, 물체를 검출하는 데에만 사용되는 특수 센서에 대한 필요성을 감소시키거나 없앤다는 점에서 이로울 수 있다. 따라서, 차량을 제조하는 것의 비용 및/또는 복잡도가 감소된다.
또한, 이들 기술은 승객은 차량에 탑승한 후에 차량에 물건을 부주의로 남길 가능성을 감소시킬 수 있다. 이들 기술은 여러 다양한 사용자들 사이에 공유되는 차량(예컨대, 승차 공유 서비스에 사용되는 자율 주행 차량)에 특히 유리할 수 있으며, 이는 사용자가 분실물을 회수하는 것 및/또는 차량이 승객이나 서비스 센터에 분실물을 반환하는 것과 연관된 지연을 감소시킬 수 있기 때문이다. 따라서, 차량은 보다 효율적인 방식으로 동작될 수 있다.
일부 실시예에서, 본원에 기재된 기술은 자율 주행 시스템을 갖는 차량(예컨대, 자율 주행 차량) 및/또는 자율 주행 시스템을 갖지 않는 차량과 같은 차량 내에서 구현될 수 있다.
이제 도 1을 참조하면, 자율 주행 시스템들을 포함하는 차량들은 물론 그렇지 않은 차량들이 작동되는 예시적인 환경(100)이 예시되어 있다. 예시된 바와 같이, 환경(100)은 차량들(102a 내지 102n), 대상체들(104a 내지 104n), 루트들(106a 내지 106n), 영역(108), 차량 대 인프라스트럭처(vehicle-to-infrastructure, V2I) 디바이스(110), 네트워크(112), 원격 자율 주행 차량(AV) 시스템(114), 플릿 관리 시스템(fleet management system)(116), 및 V2I 시스템(118)을 포함한다. 차량들(102a 내지 102n), 차량 대 인프라스트럭처(V2I) 디바이스(110), 네트워크(112), 자율 주행 차량(AV) 시스템(114), 플릿 관리 시스템(116), 및 V2I 시스템(118)은 유선 연결들, 무선 연결들, 또는 유선 또는 무선 연결들의 조합을 통해 상호연결한다(예를 들면, 통신 등을 위해 연결을 확립한다). 일부 실시예들에서, 대상체들(104a 내지 104n)은 유선 연결들, 무선 연결들 또는 유선 또는 무선 연결들의 조합을 통해 차량들(102a 내지 102n), 차량 대 인프라스트럭처(V2I) 디바이스(110), 네트워크(112), 자율 주행 차량(AV) 시스템(114), 플릿 관리 시스템(116), 및 V2I 시스템(118) 중 적어도 하나와 상호연결한다.
차량들(102a 내지 102n)(개별적으로 차량(102)이라고 지칭되고 집합적으로 차량들(102)이라고 지칭됨)은 상품 및/또는 사람을 운송하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 실시예들에서, 차량들(102)은 네트워크(112)를 통해 V2I 디바이스(110), 원격 AV 시스템(114), 플릿 관리 시스템(116), 및/또는 V2I 시스템(118)과 통신하도록 구성된다. 일부 실시예들에서, 차량들(102)은 자동차들, 버스들, 트럭들, 기차들 등을 포함한다. 일부 실시예들에서, 차량들(102)은 본원에 기술된 차량들(200)(도 2 참조)과 동일하거나 유사하다. 일부 실시예들에서, 일 세트의 차량들(200) 중의 차량(200)은 자율 주행 플릿 관리자와 연관된다. 일부 실시예들에서, 차량들(102)은, 본원에 기술된 바와 같이, 각자의 루트들(106a 내지 106n)(개별적으로 루트(106)라고 지칭되고 집합적으로 루트들(106)이라고 지칭됨)을 따라 주행한다. 일부 실시예들에서, 하나 이상의 차량(102)은 자율 주행 시스템(예를 들면, 자율 주행 시스템(202)과 동일하거나 유사한 자율 주행 시스템)을 포함한다.
대상체들(104a 내지 104n)(개별적으로 대상체(104)라고 지칭되고 집합적으로 대상체들(104)이라고 지칭됨)은, 예를 들어, 적어도 하나의 차량, 적어도 하나의 보행자, 적어도 하나의 자전거 타는 사람, 적어도 하나의 구조물(예를 들면, 건물, 표지판, 소화전(fire hydrant) 등) 등을 포함한다. 각각의 대상체(104)는 정지해 있거나(예를 들면, 일정 시간 기간 동안 고정 위치에 위치하거나) 이동하고 있다(예를 들면, 속도를 가지며 적어도 하나의 궤적과 연관되어 있다). 일부 실시예들에서, 대상체들(104)은 영역(108) 내의 대응하는 위치들과 연관되어 있다.
루트들(106a 내지 106n)(개별적으로 루트(106)라고 지칭되고 집합적으로 루트들(106)이라고 지칭됨)은 각각 AV가 운행할 수 있는 상태들을 연결하는 행동들의 시퀀스(궤적이라고도 함)와 연관된다(예를 들면, 이를 규정한다). 각각의 루트(106)는 초기 상태(예를 들면, 제1 시공간적 위치, 속도 등에 대응하는 상태) 및 최종 목표 상태(예를 들면, 제1 시공간적 위치와 상이한 제2 시공간적 위치에 대응하는 상태) 또는 목표 영역(예를 들면, 허용 가능한 상태들(예를 들면, 종료 상태들(terminal states))의 부분 공간(subspace))에서 시작된다. 일부 실시예들에서, 제1 상태는 개인 또는 개인들이 AV에 의해 픽업(pick-up)되어야 하는 위치를 포함하고 제2 상태 또는 영역은 AV에 의해 픽업된 개인 또는 개인들이 하차(drop-off)해야 하는 위치 또는 위치들을 포함한다. 일부 실시예들에서, 루트들(106)은 복수의 허용 가능한 상태 시퀀스들(예를 들면, 복수의 시공간적 위치 시퀀스들)을 포함하며, 복수의 상태 시퀀스들은 복수의 궤적들과 연관된다(예를 들면, 이를 정의한다). 일 예에서, 루트들(106)은, 도로 교차로들에서의 회전 방향들을 지시하는 일련의 연결된 도로들과 같은, 상위 레벨 행동들 또는 부정확한 상태 위치들만을 포함한다. 추가적으로 또는 대안적으로, 루트들(106)은, 예를 들어, 특정 목표 차선들 또는 차선 영역들 내에서의 정확한 위치들 및 해당 위치들에서의 목표 속력과 같은, 보다 정확한 행동들 또는 상태들을 포함할 수 있다. 일 예에서, 루트들(106)은 중간 목표들에 도달하기 위해 제한된 룩어헤드 호라이즌(lookahead horizon)을 갖는 적어도 하나의 상위 레벨 행동 시퀀스를 따른 복수의 정확한 상태 시퀀스들을 포함하며, 여기서 제한된 호라이즌 상태 시퀀스들의 연속적인 반복들의 조합은 누적되어 복수의 궤적들에 대응하며 이 복수의 궤적들은 집합적으로 최종 목표 상태 또는 영역에서 종료하는 상위 레벨 루트를 형성한다.
영역(108)은 차량들(102)이 운행할 수 있는 물리적 영역(예를 들면, 지리적 영역)을 포함한다. 일 예에서, 영역(108)은 적어도 하나의 주(state)(예를 들면, 국가, 지방, 국가에 포함된 복수의 주들의 개개의 주 등), 주의 적어도 하나의 부분, 적어도 하나의 도시, 도시의 적어도 하나의 부분 등을 포함한다. 일부 실시예들에서, 영역(108)은 간선 도로, 주간 간선 도로, 공원 도로, 도시 거리 등과 같은 적어도 하나의 명명된 주요 도로(thoroughfare)(본원에서 "도로"라고 지칭됨)를 포함한다. 추가적으로 또는 대안적으로, 일부 예들에서, 영역(108)은 진입로, 주차장의 섹션, 공터 및/또는 미개발 부지의 섹션, 비포장 경로 등과 같은 적어도 하나의 명명되지 않은 도로를 포함한다. 일부 실시예들에서, 도로는 적어도 하나의 차선(예를 들면, 차량(102)에 의해 횡단될 수 있는 도로의 일 부분)을 포함한다. 일 예에서, 도로는 적어도 하나의 차선 마킹과 연관된(예를 들면, 이에 기초하여 식별되는) 적어도 하나의 차선을 포함한다.
차량 대 인프라스트럭처(V2I) 디바이스(110)(때때로 차량 대 인프라스트럭처(V2X) 디바이스라고 지칭됨)는 차량들(102) 및/또는 V2I 인프라스트럭처 시스템(118)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 실시예들에서, V2I 디바이스(110)는 네트워크(112)를 통해 차량들(102), 원격 AV 시스템(114), 플릿 관리 시스템(116), 및/또는 V2I 시스템(118)과 통신하도록 구성된다. 일부 실시예들에서, V2I 디바이스(110)는 RFID(radio frequency identification) 디바이스, 사이니지(signage), 카메라(예를 들면, 2차원(2D) 및/또는 3차원(3D) 카메라), 차선 마커, 가로등, 주차 미터기 등을 포함한다. 일부 실시예들에서, V2I 디바이스(110)는 차량들(102)과 직접 통신하도록 구성된다. 추가적으로 또는 대안적으로, 일부 실시예들에서, V2I 디바이스(110)는 V2I 시스템(118)을 통해 차량들(102), 원격 AV 시스템(114), 및/또는 플릿 관리 시스템(116)과 통신하도록 구성된다. 일부 실시예들에서, V2I 디바이스(110)는 네트워크(112)를 통해 V2I 시스템(118)과 통신하도록 구성된다.
네트워크(112)는 하나 이상의 유선 및/또는 무선 네트워크를 포함한다. 일 예에서, 네트워크(112)는 셀룰러 네트워크(예를 들면, LTE(long term evolution) 네트워크, 3G(third generation) 네트워크, 4G(fourth generation) 네트워크, 5G(fifth generation) 네트워크, CDMA( code division multiple access) 네트워크 등), PLMN(public land mobile network), LAN(local area network), WAN(wide area network), MAN(metropolitan area network), 전화 네트워크(예를 들면, PSTN(public switched telephone network)), 사설 네트워크, 애드혹 네트워크, 인트라넷, 인터넷, 광섬유 기반 네트워크, 클라우드 컴퓨팅 네트워크 등, 이러한 네트워크들의 일부 또는 전부의 조합 등을 포함한다.
원격 AV 시스템(114)은 네트워크(112)를 통해 차량들(102), V2I 디바이스(110), 네트워크(112), 원격 AV 시스템(114), 플릿 관리 시스템(116), 및/또는 V2I 시스템(118)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일 예에서, 원격 AV 시스템(114)은 서버, 서버들의 그룹, 및/또는 다른 유사한 디바이스들을 포함한다. 일부 실시예들에서, 원격 AV 시스템(114)은 플릿 관리 시스템(116)과 동일 위치에 배치된다(co-located). 일부 실시예들에서, 원격 AV 시스템(114)은 자율 주행 시스템, 자율 주행 차량 컴퓨터, 자율 주행 차량 컴퓨터에 의해 구현되는 소프트웨어 등을 포함한, 차량의 컴포넌트들 중 일부 또는 전부의 설치에 관여된다. 일부 실시예들에서, 원격 AV 시스템(114)은 차량의 수명 동안 그러한 컴포넌트들 및/또는 소프트웨어를 유지 관리(예를 들면, 업데이트 및/또는 교체)한다.
플릿 관리 시스템(116)은 차량들(102), V2I 디바이스(110), 원격 AV 시스템(114), 및/또는 V2I 인프라스트럭처 시스템(118)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일 예에서, 플릿 관리 시스템(116)은 서버, 서버들의 그룹, 및/또는 다른 유사한 디바이스들을 포함한다. 일부 실시예들에서, 플릿 관리 시스템(116)은 라이드 셰어링(ridesharing) 회사(예를 들면, 다수의 차량들(예를 들면, 자율 주행 시스템들을 포함하는 차량들 및/또는 자율 주행 시스템들을 포함하지 않는 차량들)의 작동을 제어하는 조직 등)와 연관된다.
일부 실시예들에서, V2I 시스템(118)은 네트워크(112)를 통해 차량들(102), V2I 디바이스(110), 원격 AV 시스템(114), 및/또는 플릿 관리 시스템(116)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, V2I 시스템(118)은 네트워크(112)와 상이한 연결을 통해 V2I 디바이스(110)와 통신하도록 구성된다. 일부 실시예들에서, V2I 시스템(118)은 서버, 서버들의 그룹, 및/또는 다른 유사한 디바이스들을 포함한다. 일부 실시예들에서, V2I 시스템(118)은 지자체 또는 사설 기관(예를 들면, V2I 디바이스(110) 등을 유지 관리하는 사설 기관)과 연관된다.
도 1에 예시된 요소들의 수 및 배열은 예로서 제공된다. 도 1에 예시된 것보다, 추가적인 요소들, 더 적은 요소들, 상이한 요소들 및/또는 상이하게 배열된 요소들이 있을 수 있다. 추가적으로 또는 대안적으로, 환경(100)의 적어도 하나의 요소는 도 1의 적어도 하나의 상이한 요소에 의해 수행되는 것으로 기술된 하나 이상의 기능을 수행할 수 있다. 추가적으로 또는 대안적으로, 환경(100)의 적어도 하나의 요소 세트는 환경(100)의 적어도 하나의 상이한 요소 세트에 의해 수행되는 것으로 기술된 하나 이상의 기능을 수행할 수 있다.
이제 도 2를 참조하면, 차량(200)은 자율 주행 시스템(202), 파워트레인 제어 시스템(204), 조향 제어 시스템(206), 브레이크 시스템(208) 및 물체 검출 시스템(210)을 포함한다. 일부 실시예들에서, 차량(200)은 차량(102)(도 1 참조)과 동일하거나 유사하다. 일부 실시예들에서, 차량(102)은 자율 주행 능력을 갖는다(예를 들면, 완전 자율 주행 차량들(예를 들면, 인간 개입에 의존하지 않는 차량들), 고도 자율 주행 차량들(예를 들면, 특정 상황들에서 인간 개입에 의존하지 않는 차량들) 등을, 제한 없이, 포함한, 차량(200)이 인간 개입 없이 부분적으로 또는 완전히 작동될 수 있게 하는 적어도 하나의 기능, 특징, 디바이스 등을 구현한다). 완전 자율 주행 차량들 및 고도 자율 주행 차량들에 대한 상세한 설명에 대해서는, 그 전체가 참고로 포함되는, SAE International's standard J3016: Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems를 참조할 수 있다. 일부 실시예들에서, 차량(200)은 자율 주행 플릿 관리자 및/또는 라이드 셰어링 회사와 연관된다.
자율 주행 시스템(202)은 카메라들(202a), LiDAR 센서들(202b), 레이더 센서들(202c), 및 마이크로폰들(202d)과 같은 하나 이상의 디바이스들을 포함하는 센서 스위트(sensor suite)를 포함한다. 일부 실시예들에서, 자율 주행 시스템(202)은 보다 많거나 보다 적은 디바이스들 및/또는 상이한 디바이스들(예를 들면, 초음파 센서들, 관성 센서들, GPS 수신기들(아래에서 논의됨), 차량(200)이 주행한 거리의 표시와 연관된 데이터를 생성하는 주행 거리 측정 센서들 등)을 포함할 수 있다. 일부 실시예들에서, 자율 주행 시스템(202)은 자율 주행 시스템(202)에 포함된 하나 이상의 디바이스를 사용하여 본원에서 기술되는 환경(100)과 연관된 데이터를 생성한다. 자율 주행 시스템(202)의 하나 이상의 디바이스에 의해 생성되는 데이터는 차량(200)이 위치하는 환경(예를 들면, 환경(100))을 관측하기 위해 본원에 기술된 하나 이상의 시스템에 의해 사용될 수 있다. 일부 실시예들에서, 자율 주행 시스템(202)은 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f), 및 드라이브 바이 와이어(drive-by-wire, DBW) 시스템(202h)을 포함한다.
카메라들(202a)은 버스(예를 들면, 도 3의 버스(302)와 동일하거나 유사한 버스)를 통해 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f) 및/또는 안전 제어기(202g)와 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 카메라들(202a)은 물리적 대상체들(예를 들면, 자동차들, 버스들, 연석들, 사람들 등)을 포함하는 이미지들을 캡처하기 위한 적어도 하나의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라, 열 카메라, 적외선(IR) 카메라, 이벤트 카메라 등)를 포함한다. 일부 실시예들에서, 카메라(202a)는 카메라 데이터를 출력으로서 생성한다. 일부 예들에서, 카메라(202a)는 이미지와 연관된 이미지 데이터를 포함하는 카메라 데이터를 생성한다. 이 예에서, 이미지 데이터는 이미지에 대응하는 적어도 하나의 파라미터(예를 들면, 노출, 밝기 등과 같은 이미지 특성들, 이미지 타임스탬프 등)를 명시할 수 있다. 그러한 예에서, 이미지는 한 형식(예를 들면, RAW, JPEG, PNG 등)으로 되어 있을 수 있다. 일부 실시예들에서, 카메라(202a)는 입체시(stereopsis)(스테레오 비전(stereo vision))를 위해 이미지들을 캡처하도록 차량 상에 구성된(예를 들면, 차량 상에 위치된) 복수의 독립적인 카메라들을 포함한다. 일부 예들에서, 카메라(202a)는 복수의 카메라들을 포함하고, 이 복수의 카메라들은 이미지 데이터를 생성하고 이미지 데이터를 자율 주행 차량 컴퓨터(202f) 및/또는 플릿 관리 시스템(예를 들면, 도 1의 플릿 관리 시스템(116)과 동일하거나 유사한 플릿 관리 시스템)으로 전송한다. 그러한 예에서, 자율 주행 차량 컴퓨터(202f)는 적어도 2 개의 카메라로부터의 이미지 데이터에 기초하여 복수의 카메라들 중 적어도 2 개의 카메라의 시야 내의 하나 이상의 대상체까지의 깊이를 결정한다. 일부 실시예들에서, 카메라들(202a)은 카메라들(202a)로부터 일정 거리(예를 들면, 최대 100 미터, 최대 1 킬로미터 등) 내의 대상체들의 이미지들을 캡처하도록 구성된다. 그에 따라, 카메라들(202a)은 카메라들(202a)로부터 하나 이상의 거리에 있는 대상체들을 인지하도록 최적화된 센서들 및 렌즈들과 같은 특징부들을 포함한다.
일 실시예에서, 카메라(202a)는 시각적 내비게이션 정보를 제공하는 하나 이상의 교통 신호등, 거리 표지판 및/또는 다른 물리적 대상체와 연관된 하나 이상의 이미지를 캡처하도록 구성된 적어도 하나의 카메라를 포함한다. 일부 실시예들에서, 카메라(202a)는 하나 이상의 이미지와 연관된 교통 신호등 데이터를 생성한다. 일부 예들에서, 카메라(202a)는 한 형식(예를 들면, RAW, JPEG, PNG 등)을 포함하는 하나 이상의 이미지와 연관된 TLD 데이터를 생성한다. 일부 실시예들에서, TLD 데이터를 생성하는 카메라(202a)는, 카메라(202a)가 가능한 한 많은 물리적 대상체들에 관한 이미지들을 생성하기 위해 넓은 시야를 갖는 하나 이상의 카메라(예를 들면, 광각 렌즈, 어안 렌즈, 대략 120도 이상의 시야각을 갖는 렌즈 등)를 포함할 수 있다는 점에서, 카메라들을 포함하는 본원에 기술된 다른 시스템들과 상이하다.
LiDAR(Laser Detection and Ranging) 센서들(202b)은 버스(예를 들면, 도 3의 버스(302)와 동일하거나 유사한 버스)를 통해 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f), 및/또는 안전 제어기(202g)와 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. LiDAR 센서들(202b)은 광 방출기(예를 들면, 레이저 송신기)로부터 광을 송신하도록 구성된 시스템을 포함한다. LiDAR 센서들(202b)에 의해 방출되는 광은 가시 스펙트럼 밖에 있는 광(예를 들면, 적외선 광 등)을 포함한다. 일부 실시예들에서, 작동 동안, LiDAR 센서들(202b)에 의해 방출되는 광은 물리적 대상체(예를 들면, 차량)와 조우하고 LiDAR 센서들(202b)로 다시 반사된다. 일부 실시예들에서, LiDAR 센서들(202b)에 의해 방출되는 광은 광이 조우하는 물리적 대상체들을 투과하지 않는다. LiDAR 센서들(202b)은 광 방출기로부터 방출된 광이 물리적 대상체와 조우한 후에 그 광을 검출하는 적어도 하나의 광 검출기를 또한 포함한다. 일부 실시예들에서, LiDAR 센서들(202b)과 연관된 적어도 하나의 데이터 프로세싱 시스템은 LiDAR 센서들(202b)의 시야에 포함된 대상체들을 나타내는 이미지(예를 들면, 포인트 클라우드, 결합된 포인트 클라우드(combined point cloud) 등)를 생성한다. 일부 예들에서, LiDAR 센서(202b)와 연관된 적어도 하나의 데이터 프로세싱 시스템은 물리적 대상체의 경계들, 물리적 대상체의 표면들(예를 들면, 표면들의 토폴로지) 등을 나타내는 이미지를 생성한다. 그러한 예에서, 이미지는 LiDAR 센서들(202b)의 시야 내의 물리적 대상체들의 경계들을 결정하는 데 사용된다.
레이더(radar, Radio Detection and Ranging) 센서들(202c)은 버스(예를 들면, 도 3의 버스(302)와 동일하거나 유사한 버스)를 통해 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f) 및/또는 안전 제어기(202g)와 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 레이더 센서들(202c)은 전파들을 (펄스형으로 또는 연속적으로) 송신하도록 구성된 시스템을 포함한다. 레이더 센서들(202c)에 의해 송신되는 전파들은 미리 결정된 스펙트럼 내에 있는 전파들을 포함한다. 일부 실시예들에서, 작동 동안, 레이더 센서들(202c)에 의해 송신되는 전파들은 물리적 대상체와 조우하고 레이더 센서들(202c)로 다시 반사된다. 일부 실시예들에서, 레이더 센서들(202c)에 의해 전송되는 전파들이 일부 대상체들에 의해 반사되지 않는다. 일부 실시예들에서, 레이더 센서들(202c)과 연관된 적어도 하나의 데이터 프로세싱 시스템은 레이더 센서들(202c)의 시야에 포함된 대상체들을 나타내는 신호들을 생성한다. 예를 들어, 레이더 센서(202c)와 연관된 적어도 하나의 데이터 프로세싱 시스템은 물리적 대상체의 경계들, 물리적 대상체의 표면들(예를 들면, 표면들의 토폴로지) 등을 나타내는 이미지를 생성한다. 일부 예들에서, 이미지는 레이더 센서들(202c)의 시야 내의 물리적 대상체들의 경계들을 결정하는 데 사용된다.
마이크로폰들(202d)은 버스(예를 들면, 도 3의 버스(302)와 동일하거나 유사한 버스)를 통해 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f) 및/또는 안전 제어기(202g)와 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 마이크로폰들(202d)은 오디오 신호들을 캡처하고 오디오 신호들과 연관된(예를 들면, 이를 나타내는) 데이터를 생성하는 하나 이상의 마이크로폰(예를 들면, 어레이 마이크로폰, 외부 마이크로폰 등)을 포함한다. 일부 예들에서, 마이크로폰들(202d)은 트랜스듀서 디바이스들 및/또는 유사 디바이스들을 포함한다. 일부 실시예들에서, 본원에 기술된 하나 이상의 시스템은 마이크로폰들(202d)에 의해 생성되는 데이터를 수신하고 데이터와 연관된 오디오 신호들에 기초하여 차량(200)에 상대적인 대상체의 위치(예를 들면, 거리 등)를 결정할 수 있다.
통신 디바이스(202e)는 카메라들(202a), LiDAR 센서들(202b), 레이더 센서들(202c), 마이크로폰들(202d), 자율 주행 차량 컴퓨터(202f), 안전 제어기(202g), DBW 시스템(202h) 및/또는 물체 검출 시스템(210)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 예를 들어, 통신 디바이스(202e)는 도 3의 통신 인터페이스(314)와 동일하거나 유사한 디바이스를 포함할 수 있다. 일부 실시예들에서, 통신 디바이스(202e)는 차량 대 차량(vehicle-to-vehicle, V2V) 통신 디바이스(예를 들면, 차량들 간의 데이터의 무선 통신을 가능하게 하는 디바이스)를 포함한다.
자율 주행 차량 컴퓨터(202f)는 카메라들(202a), LiDAR 센서들(202b), 레이더 센서들(202c), 마이크로폰들(202d), 통신 디바이스(202e), 안전 제어기(202g), 및/또는 DBW 시스템(202h)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, 자율 주행 차량 컴퓨터(202f)는 클라이언트 디바이스, 모바일 디바이스(예를 들면, 셀룰러 전화, 태블릿 등), 서버(예를 들면, 하나 이상의 중앙 프로세싱 유닛, 그래픽 프로세싱 유닛 등을 포함하는 컴퓨팅 디바이스) 등과 같은 디바이스를 포함한다. 일부 실시예들에서, 자율 주행 차량 컴퓨터(202f)는 자율 주행 차량 시스템(예를 들면, 도 1의 원격 AV 시스템(114)과 동일하거나 유사한 자율 주행 차량 시스템), 플릿 관리 시스템(예를 들면, 도 1의 플릿 관리 시스템(116)과 동일하거나 유사한 플릿 관리 시스템), V2I 디바이스(예를 들면, 도 1의 V2I 디바이스(110)와 동일하거나 유사한 V2I 디바이스), 및/또는 V2I 시스템(예를 들면, 도 1의 V2I 시스템(118)과 동일하거나 유사한 V2I 시스템)과 통신하도록 구성된다.
안전 제어기(202g)는 카메라들(202a), LiDAR 센서들(202b), 레이더 센서들(202c), 마이크로폰들(202d), 통신 디바이스(202e), 자율 주행 차량 컴퓨터(202f), 및/또는 DBW 시스템(202h)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, 안전 제어기(202g)는 차량(200)의 하나 이상의 디바이스(예를 들면, 파워트레인 제어 시스템(204), 조향 제어 시스템(206), 브레이크 시스템(208) 등)를 작동시키기 위한 제어 신호들을 생성 및/또는 송신하도록 구성된 하나 이상의 제어기(전기 제어기, 전기기계 제어기 등)를 포함한다. 일부 실시예들에서, 안전 제어기(202g)는 자율 주행 차량 컴퓨터(202f)에 의해 생성 및/또는 송신되는 제어 신호들보다 우선하는(예를 들면, 이를 무시하는) 제어 신호들을 생성하도록 구성된다.
DBW 시스템(202h)은 통신 디바이스(202e) 및/또는 자율 주행 차량 컴퓨터(202f)와 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, DBW 시스템(202h)은 차량(200)의 하나 이상의 디바이스(예를 들면, 파워트레인 제어 시스템(204), 조향 제어 시스템(206), 브레이크 시스템(208) 등)를 작동시키기 위한 제어 신호들을 생성 및/또는 송신하도록 구성된 하나 이상의 제어기(예를 들면, 전기 제어기, 전기기계 제어기 등)를 포함한다. 추가적으로 또는 대안적으로, DBW 시스템(202h)의 하나 이상의 제어기는 차량(200)의 적어도 하나의 상이한 디바이스(예를 들면, 방향 지시등, 헤드라이트, 도어록, 윈도실드 와이퍼 등)를 작동시키기 위한 제어 신호들을 생성 및/또는 송신하도록 구성된다.
파워트레인 제어 시스템(204)은 DBW 시스템(202h)과 통신하도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, 파워트레인 제어 시스템(204)은 적어도 하나의 제어기, 액추에이터 등을 포함한다. 일부 실시예들에서, 파워트레인 제어 시스템(204)은 DBW 시스템(202h)으로부터 제어 신호들을 수신하고, 파워트레인 제어 시스템(204)은 차량(200)이 전진하는 것을 시작하게 하고, 전진하는 것을 중지하게 하며, 후진하는 것을 시작하게 하고, 후진하는 것을 중지하게 하며, 한 방향으로 가속하게 하고, 한 방향으로 감속하게 하며, 좌회전을 수행하게 하고, 우회전을 수행하게 하는 등을 한다. 일 예에서, 파워트레인 제어 시스템(204)은 차량의 모터에 제공되는 에너지(예를 들면, 연료, 전기 등)가 증가하게 하거나, 동일하게 유지되게 하거나, 또는 감소하게 하여, 이에 의해 차량(200)의 적어도 하나의 바퀴가 회전하거나 회전하지 않게 한다.
조향 제어 시스템(206)은 차량(200)의 하나 이상의 바퀴를 회전시키도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, 조향 제어 시스템(206)은 적어도 하나의 제어기, 액추에이터 등을 포함한다. 일부 실시예들에서, 조향 제어 시스템(206)은 차량(200)이 좌측 또는 우측으로 방향 전환하게 하기 위해 차량(200)의 전방 2 개의 바퀴 및/또는 후방 2 개의 바퀴가 좌측 또는 우측으로 회전하게 한다.
브레이크 시스템(208)은 차량(200)이 속력을 감소시키게 하고/하거나 정지해 있는 채로 유지하게 하기 위해 하나 이상의 브레이크를 작동시키도록 구성된 적어도 하나의 디바이스를 포함한다. 일부 예들에서, 브레이크 시스템(208)은 차량(200)의 대응하는 로터(rotor)에서 차량(200)의 하나 이상의 바퀴들과 연관된 하나 이상의 캘리퍼(caliper)가 닫히게 하도록 구성되는 적어도 하나의 제어기 및/또는 액추에이터를 포함한다. 추가적으로 또는 대안적으로, 일부 예들에서, 브레이크 시스템(208)은 자동 긴급 제동(automatic emergency braking, AEB) 시스템, 회생 제동 시스템 등을 포함한다.
일부 실시예들에서, 차량(200)은 차량(200)의 상태 또는 조건의 속성들을 측정 또는 추론하는 적어도 하나의 플랫폼 센서(명시적으로 예시되지 않음)를 포함한다. 일부 예들에서, 차량(200)은 GPS(global positioning system) 수신기, IMU(inertial measurement unit), 휠 속력 센서, 휠 브레이크 압력 센서, 휠 토크 센서, 엔진 토크 센서, 조향각 센서 등과 같은 플랫폼 센서들을 포함한다.
또한, 물체 검출 시스템(210)은 차량(200) 내의 물체를 검출하도록 그리고 검출된 물체에 관한, 적어도 하나의 사용자에의 통지를 생성하도록 구성된 적어도 하나의 디바이스를 포함한다. 일 예로서, 물체 검출 시스템(210)은, 승객이 차량(200) 안으로(차량(200)의 승객실 및/또는 차량(200)의 트렁크와 같은 보관실에) 가져왔으며 승객이 차량(200)을 나간 후에 차량(200) 내에 남겨진 물체들을 검출할 수 있다. 일부 실시예에서, 물체 검출 시스템(210)은, 차량(200) 내의 물체에 공명을 유도하고(예컨대, 사운드를 사용하여), 하나 이상의 마이크로폰을 사용하여 공명을 검출하며, 검출된 공명에 기초하여 물체를 식별하고 위치를 찾아냄으로써, 물체를 검출할 수 있다. 또한, 일부 실시예에서, 물체 검출 시스템(210)은 카메라들(202a), LiDAR 시스템들(202b), 레이더 센서들(202c), 마이크로폰들(202d), 및/또는 차량(200)의 임의의 다른 센서로부터 획득된 센서 데이터에 기초하여 물체들을 검출할 수 있다. 또한, 물체 검출 시스템(210)은, 예를 들어 승객이 차량(200) 내에 물체를 남겼다는 것을 그에게 통지하도록, 승객에 대하여 통지를 생성할 수 있다.
일부 실시예에서, 물체 검출 시스템(210)은 적어도 부분적으로, 자율 주행 시스템(202)의 하나 이상의 컴포넌트로서 구현될 수 있다. 일부 실시예에서, 물체 검출 시스템(210)은 적어도 부분적으로, 자율 주행 시스템(202)과는 분리된 별개의 하나 이상의 컴포넌트 또는 디바이스로서 구현될 수 있다.
물체 검출 시스템(210)에 관한 부가적인 세부사항들이 예를 들어 도 4 내지 도 8에 관련하여 기재된다.
이제 도 3을 참조하면, 디바이스(300)의 개략 다이어그램이 예시되어 있다. 일부 실시예들에서, 디바이스(300)는 차량들(102) 및/또는 차량들(200)의 적어도 하나의 디바이스(예를 들면, 차량들(102)의 시스템의 적어도 하나의 디바이스), 원격 AV 시스템(114), 플릿 관리 시스템(116), V2I 시스템(118)의 적어도 하나의 디바이스 및/또는 네트워크(112)의 적어도 하나의 디바이스(예를 들면, 네트워크(112)의 시스템의 하나 이상의 디바이스)에 대응한다. 일부 실시예들에서, 차량들(102 및/또는 202)의 하나 이상의 디바이스(예를 들면, 자율 주행 시스템(202)과 같은 차량들(102 및 202)의 시스템, 물체 검출 시스템(210) 등의 하나 이상의 디바이스), 원격 AV 시스템(114), 플릿 관리 시스템(116), V2I 시스템(118), 및/또는 네트워크(112)의 하나 이상의 디바이스(예를 들면, 네트워크(112)의 시스템의 하나 이상의 디바이스)는 적어도 하나의 디바이스(300) 및/또는 디바이스(300)의 적어도 하나의 컴포넌트를 포함한다.
도 3에 도시된 바와 같이, 디바이스(300)는 버스(302), 프로세서(304), 메모리(306), 저장 컴포넌트(308), 입력 인터페이스(310), 출력 인터페이스(312), 및 통신 인터페이스(314)를 포함한다.
버스(302)는 디바이스(300)의 컴포넌트들 간의 통신을 가능하게 하는 컴포넌트를 포함한다. 일부 실시예들에서, 프로세서(304)는 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합으로 구현된다. 일부 예들에서, 프로세서(304)는 적어도 하나의 기능을 수행하도록 프로그래밍될 수 있는, 프로세서(예를 들면, 중앙 프로세싱 유닛(CPU), 그래픽 프로세싱 유닛(GPU), 가속 프로세싱 유닛(APU) 등), 마이크로폰, 디지털 신호 프로세서(DSP), 및/또는 임의의 프로세싱 컴포넌트(예를 들면, FPGA(field-programmable gate array), ASIC(application specific integrated circuit) 등)를 포함한다. 메모리(306)는 프로세서(304)가 사용할 데이터 및/또는 명령어들을 저장하는, 랜덤 액세스 메모리(RAM), 판독 전용 메모리(ROM), 및/또는 다른 유형의 동적 및/또는 정적 저장 디바이스(예를 들면, 플래시 메모리, 자기 메모리, 광학 메모리 등)를 포함한다.
저장 컴포넌트(308)는 디바이스(300)의 작동 및 사용에 관련된 데이터 및/또는 소프트웨어를 저장한다. 일부 예들에서, 저장 컴포넌트(308)는 하드 디스크(예를 들면, 자기 디스크, 광학 디스크, 광자기 디스크, 솔리드 스테이트 디스크 등), CD(compact disc), DVD(digital versatile disc), 플로피 디스크, 카트리지, 자기 테이프, CD-ROM, RAM, PROM, EPROM, FLASH-EPROM, NV-RAM 및/또는 다른 유형의 컴퓨터 판독 가능 매체를, 대응하는 드라이브와 함께, 포함한다.
입력 인터페이스(310)는 디바이스(300)가, 예컨대, 사용자 입력(예를 들면, 터치스크린 디스플레이, 키보드, 키패드, 마우스, 버튼, 스위치, 마이크로폰, 카메라 등)을 통해, 정보를 수신할 수 있게 하는 컴포넌트를 포함한다. 추가적으로 또는 대안적으로, 일부 실시예들에서, 입력 인터페이스(310)는 정보를 감지하는 센서(예를 들면, GPS(global positioning system) 수신기, 가속도계, 자이로스코프, 액추에이터 등)를 포함한다. 출력 인터페이스(312)는 디바이스(300)로부터의 출력 정보를 제공하는 컴포넌트(예를 들면, 디스플레이, 스피커, 하나 이상의 발광 다이오드(LED) 등)를 포함한다.
일부 실시예들에서, 통신 인터페이스(314)는 디바이스(300)가 유선 연결, 무선 연결, 또는 유선 연결과 무선 연결의 조합을 통해 다른 디바이스들과 통신할 수 있게 하는 트랜시버 유사 컴포넌트(예를 들면, 트랜시버, 개별 수신기 및 송신기 등)를 포함한다. 일부 예들에서, 통신 인터페이스(314)는 디바이스(300)가 다른 디바이스로부터 정보를 수신하고/하거나 다른 디바이스에 정보를 제공할 수 있게 한다. 일부 예들에서, 통신 인터페이스(314)는 이더넷 인터페이스, 광학 인터페이스, 동축 인터페이스, 적외선 인터페이스, RF(radio frequency) 인터페이스, USB(universal serial bus) 인터페이스, Wi-Fi® 인터페이스, 셀룰러 네트워크 인터페이스 등을 포함한다.
일부 실시예들에서, 디바이스(300)는 본원에 기술된 하나 이상의 프로세스를 수행한다. 디바이스(300)는 프로세서(304)가, 메모리(305) 및/또는 저장 컴포넌트(308)와 같은, 컴퓨터 판독 가능 매체에 의해 저장된 소프트웨어 명령어들을 실행하는 것에 기초하여 이러한 프로세스들을 수행한다. 컴퓨터 판독 가능 매체(예를 들면, 비일시적 컴퓨터 판독 가능 매체)는 본원에서 비일시적 메모리 디바이스로서 정의된다. 비일시적 메모리 디바이스는 단일의 물리 저장 디바이스 내부에 위치한 메모리 공간 또는 다수의 물리 저장 디바이스들에 걸쳐 분산된 메모리 공간을 포함한다.
일부 실시예들에서, 소프트웨어 명령어들은 통신 인터페이스(314)를 통해 다른 컴퓨터 판독 가능 매체로부터 또는 다른 디바이스로부터 메모리(306) 및/또는 저장 컴포넌트(308)로 판독된다. 실행될 때, 메모리(306) 및/또는 저장 컴포넌트(308)에 저장된 소프트웨어 명령어들은 프로세서(304)로 하여금 본원에 기술된 하나 이상의 프로세스를 수행하게 한다. 추가적으로 또는 대안적으로, 고정 배선(hardwired) 회로는 본원에 기술된 하나 이상의 프로세스를 수행하기 위해 소프트웨어 명령어들 대신에 또는 소프트웨어 명령어들과 결합하여 사용된다. 따라서, 본원에 기술된 실시예들은, 달리 명시적으로 언급되지 않는 한, 하드웨어 회로와 소프트웨어의 임의의 특정 조합으로 제한되지 않는다.
메모리(306) 및/또는 저장 컴포넌트(308)는 데이터 스토리지 또는 적어도 하나의 데이터 구조(예를 들면, 데이터베이스 등)를 포함한다. 디바이스(300)는 데이터 스토리지 또는 메모리(306) 또는 저장 컴포넌트(308) 내의 적어도 하나의 데이터 구조로부터 정보를 수신하는 것, 그에 정보를 저장하는 것, 그에게로 정보를 통신하는 것, 또는 그에 저장된 정보를 검색하는 것을 할 수 있다. 일부 예들에서, 정보는 네트워크 데이터, 입력 데이터, 출력 데이터, 또는 이들의 임의의 조합을 포함한다.
일부 실시예들에서, 디바이스(300)는 메모리(306)에 그리고/또는 다른 디바이스(예를 들면, 디바이스(300)와 동일하거나 유사한 다른 디바이스)의 메모리에 저장된 소프트웨어 명령어들을 실행하도록 구성된다. 본원에서 사용되는 바와 같이, "모듈"이라는 용어는, 프로세서(304)에 의해 그리고/또는 다른 디바이스(예를 들면, 디바이스(300)와 동일하거나 유사한 다른 디바이스)의 프로세서에 의해 실행될 때, 디바이스(300)(예를 들면, 디바이스(300)의 적어도 하나의 컴포넌트)로 하여금 본원에 기술된 하나 이상의 프로세스를 수행하게 하는 메모리(306)에 그리고/또는 다른 디바이스의 메모리에 저장된 적어도 하나의 명령어를 지칭한다. 일부 실시예들에서, 모듈은 소프트웨어, 펌웨어, 하드웨어 등으로 구현된다.
도 3에 예시된 컴포넌트들의 수 및 배열은 예로서 제공된다. 일부 실시예들에서, 디바이스(300)는 도 3에 예시된 것보다, 추가적인 컴포넌트들, 더 적은 컴포넌트들, 상이한 컴포넌트들, 또는 상이하게 배열된 컴포넌트들을 포함할 수 있다. 추가적으로 또는 대안적으로, 디바이스(300)의 컴포넌트 세트(예를 들면, 하나 이상의 컴포넌트)는 디바이스(300)의 다른 컴포넌트 또는 다른 컴포넌트 세트에 의해 수행되는 것으로 기술된 하나 이상의 기능을 수행할 수 있다.
예시적인 물체 검출 시스템
도 4는 물체 검출 시스템(210)의 양상을 보다 상세하게 도시한다. 물체 검출 시스템(210)은 하나 이상의 스피커(402a-402n), 하나 이상의 마이크로폰(404a-404n), 및 하나 이상의 카메라(406a-406n)를 포함한다. 또한, 물체 검출 시스템(210)은 물체 위치 회로부(408), 데이터베이스(410), 및 통지 회로부(412)를 포함한다.
일반적으로, 물체 검출 시스템(210)은 차량(200)의 내부를 나타내는 사운드, 이미지 및/또는 비디오에 기초하여 차량(200)의 내부에 있는 물체들(예컨대, 물체(450))을 검출하도록 구성된다. 또한, 물체 검출 시스템(210)은 검출된 물체에 관하여 적어도 하나의 사용자에의 통지를 생성하도록 구성된다. 예로서, 물체 검출 시스템(210)은, 승객이 차량(200) 안으로(예컨대, 차량(200)의 승객실 및/또는 차량(200)의 트렁크와 같은 보관실에) 가져왔으며 승객이 차량(200)을 나간 후에 차량(200) 내에 남긴 물체들을 검출할 수 있다. 또한, 물체 검출 시스템(210)은 승객이 차량(200) 내에 물체를 남겼다는 것을 그에게 알리는 통지를 생성할 수 있다(예컨대, 승객이 물체를 회수할 수 있도록).
일부 실시예에서, 물체 검출 시스템(210)은 적어도 부분적으로 사운드에 기초하여 물체를 검출할 수 있다. 예를 들어, 물체 위치 회로부(408)는 스피커들(402a-402n) 중 하나 이상에 오디오 출력 신호를 생성하고(예컨대, 디지털 및/또는 아날로그 오디오 신호), 생성된 오디오 출력 신호에 따라 차량(200)의 내부에서 사운드를 방출하도록 스피커들(402a-402n)에 명령할 수 있다. 도 4 및 도 5a에 도시된 바와 같이, 방출된 사운드(예컨대, 음파(452))는 차량(200)의 내부를 통해 전파하며, 차량(200) 내부 내의 하나 이상의 물체(예컨대, 물체(450))에 부딪힌다.
일부 실시예에서, 스피커들(402a-402n) 중 적어도 일부는 차량(200)의 내부에 위치되거나 이를 향해 지향될 수 있다. 예로서, 도 5a에 도시된 바와 같이, 스피커들(402a-402n) 중 적어도 일부는 차량의 승객실(502)(예컨대, 차량(200)의 객실 또는 좌석 영역)에 위치되거나 이를 향해 지향될 수 있다. 예를 들어, 스피커들(402a-402n) 중 적어도 일부는 대시보드, 콘솔, 지지 기둥, 문, 천장, 바닥, 및/또는 차량(200) 내부 상이나 근처의 임의의 다른 위치에 위치될 수 있다. 다른 예로서, 스피커들(402a-402n) 중 적어도 일부는 후방 트렁크, 전방 트렁크, 글러브 박스 등과 같은 차량의 보관실에 위치되거나 이를 향해 지향될 수 있다.
일부 실시예에서, 스피커들(402a-402n) 중 적어도 일부는 차량(200)의 엔터테인먼트 시스템의 일부로서 구현될 수 있다. 예를 들어, 여기에 기재된 동작에 추가하여, 스피커들(402a-402n) 중 적어도 일부는 또한, 라디오, 오디오 재생 디바이스(예컨대, 카세트 플레이어, CD 플레이어 등), 비디오 재생 디바이스(예컨대, DVD 플레이어, 블루레이 플레이어), 개인 전자 디바이스(예컨대, 스마트 폰, 웨어러블 디바이스 등), 또는 오디오 콘텐츠를 출력하도록 구성된 임의의 다른 디바이스로부터의 오디오와 같은 오디오 콘텐츠를 재생하도록 구성될 수 있다.
적어도 일부 실시예에서, 스피커들(402a-402n)에 의해 방출되는 사운드는 물체(450)가 특정 주파수 또는 주파수 범위에서 공명하게 할 수 있다. 예를 들어, 물체(450)의 물리적 특성으로 인해, 물체(450)는 하나 이상의 고유 진동수를 가질 수 있다. 또한, 물체(450) 상의 음파(452)의 부딪힘으로 인해 물체(450)는 그의 고유 주파수(또는 그의 고조파)에서 진동할 수 있다. 이 진동은, 예를 들어 일 기간 동안 물체(450) 상의 사운드의 반복 또는 연속적인 부딪힘에 의해(예컨대, 물체(450)가 특정 주파수 또는 주파수 범위에서 공명하도록), 더 증폭될 수 있다. 일부 실시예에서, 이 공명은 스피커들(402a-402b)이 더 이상 사운드를 방출하지 않은 후에도 계속될 수 있다(예컨대, 모멘텀으로 인해). 이 공명은 부가의 음파(454)를 물체(450)로부터 전파시킬 수 있다(예컨대, 도 4 및 도 5b에 도시된 바와 같이).
물체(450)의 공명(예컨대, 음파(454)의 형태로)은 마이크로폰들(404a-404n) 중 하나 이상에 의해 검출된다. 예를 들어, 마이크로폰들(404a-404n)은 차량(200)의 내부 내에서 전파하는 사운드를 나타내는 오디오 기록 신호를 생성하고, 물체 위치 회로부(408)에 오디오 기록 신호의 적어도 일부를 제공할 수 있다. 일부 실시예에서, 마이크로폰들(404a-404n)은 스피커들(402a-402n)에 의한 사운드의 방출 전에, 그 동안, 그리고/또는 그 후에 오디오 기록 신호를 생성할 수 있다.
일부 실시예에서, 마이크로폰들(404a-404n) 중 적어도 일부도 또한, 차량(200)의 내부에 위치되거나 이를 향해 지향될 수 있다. 예로서, 도 5b에 도시된 바와 같이, 마이크로폰들(404a-404n) 중 적어도 일부는 차량의 승객실(502)에 위치되거나 이를 향해 지향될 수 있다. 예를 들어, 마이크로폰들(404a-404n) 중 적어도 일부는 대시보드, 콘솔, 지지 기둥, 문, 천장, 바닥, 및/또는 차량(200) 내부 상이나 근처의 임의의 다른 위치에 위치될 수 있다. 다른 예로서, 마이크로폰들(404a-404n) 중 적어도 일부는 후방 트렁크, 전방 트렁크, 글러브 박스 등과 같은 차량의 보관실에 위치되거나 이를 향해 지향될 수 있다.
일부 실시예에서, 마이크로폰들(404a-404n) 중 적어도 일부는 차량(200)의 통신 시스템의 일부로서 구현될 수 있다. 예를 들어, 여기에 기재된 동작에 추가하여, 마이크로폰들(404a-404n) 중 적어도 일부는 또한, 승객의 음성을 기록하고 기록의 적어도 일부를 스마트 폰, 태블릿 등과 같은 무선 통신 디바이스에 제공하도록 구성될 수 있다(예컨대, 전화 통화, 영상 통화 등에의 승객의 참여를 용이하게 하도록). 다른 예로서, 여기에 기재된 동작에 추가하여, 마이크로폰들(404a-404n) 중 적어도 일부는 또한, 승객의 음성을 기록하고 기록의 적어도 일부를 차량(200)의 음성-가능 제어 시스템(예컨대, 승객이 말한 커맨드에 기초하여 차량(200)의 하나 이상의 컴포넌트를 제어하도록 구성된 제어 시스템)에 제공하도록 구성될 수 있다. 일부 구현에서, 마이크로폰들(404a-404n) 중 적어도 일부는 도 2에 관련하여 기재된 마이크로폰들(202d) 중 하나 이상을 포함할 수 있다.
또한, 물체(450)는 또한 카메라들(406a-406n) 중 하나 이상에 의해 검출될 수 있다. 예를 들어, 카메라들(406a-406n)은 차량(200) 내부의 하나 이상의 이미지 및/또는 비디오를 생성하고 이미지 및/또는 비디오의 적어도 일부를 물체 위치 회로부(408)에 제공할 수 있다.
일부 실시예에서, 카메라들(406a-406n) 중 적어도 일부는 차량(200)의 내부에 위치되거나 이를 향해 지향될 수 있다. 예로서, 카메라들(406a-406n) 중 적어도 일부는 차량의 승객실(502)에 위치되거나 이를 향해 지향될 수 있다. 예를 들어, 카메라들(406a-406n) 중 적어도 일부는 대시보드, 콘솔, 지지 기둥, 문, 천장, 바닥, 및/또는 차량(200) 내부 상이나 근처의 임의의 다른 위치에 위치될 수 있다. 다른 예로서, 카메라들(406a-406n) 중 적어도 일부는 후방 트렁크, 전방 트렁크, 글러브 박스 등과 같은 차량의 보관실에 위치되거나 이를 향해 지향될 수 있다.
일부 실시예에서, 카메라들(406a-406n) 중 적어도 일부는 또한 차량(200)의 통신 시스템의 일부로서 구현될 수 있다. 예를 들어, 여기에 기재된 동작에 추가하여, 카메라들(406a-406n) 중 적어도 일부는 또한, 승객의 이미지 및/또는 비디오를 기록하고 이미지 및/또는 비디오의 적어도 일부를 스마트 폰, 태블릿 등과 같은 무선 통신 디바이스에 제공하도록 구성될 수 있다(예컨대, 영상 통화에의 승객의 참여를 용이하게 하도록). 다른 예로서, 여기에 기재된 동작에 추가하여, 카메라들 중 적어도 일부는 또한, 차량(200)의 외부를 기록하도록 구성될 수 있다(예컨대, 자율 주행 내비게이션과 같은 차량의 자율 주행 동작을 용이하게 하도록). 일부 구현에서, 카메라들(406a-406n) 중 적어도 일부는 도 2에 관련하여 기재된 카메라들(202a) 중 하나 이상을 포함할 수 있다.
물체 위치 회로부(408)는 마이크로폰들(404a-404n)로부터 수신된 오디오 기록 신호, 및/또는 카메라들(406a-406n)로부터 수신된 이미지 및/또는 비디오에 기초하여 물체(450)의 하나 이상의 특성을 결정한다.
일 예로서, 물체 위치 회로부(408)는 마이크로폰들(404a-404n)로부터 수신된 오디오 기록 신호, 및/또는 카메라들(406a-406n)로부터 수신된 이미지 및/또는 비디오에 기초하여 차량(200) 내부 내의 물체(450)의 위치를 결정할 수 있다. 예를 들어, 물체 위치 회로부(408)는 물체가 위치되어 있는 일반 영역을 표시하는 데이터를 출력할 수 있다(예컨대, 차량(200)의 특정 자리 상에, 차량(200)의 특정 풋 웰에, 차량(200)의 특정 자리 아래에, 차량(200)의 특정 보관실에, 차량(200)의 특정 자리 주머니에 등). 다른 예로서, 물체 위치 회로부(408)는 물체(450)의 위치를 나타내는 공간 좌표 세트를 표시하는 데이터를 출력할 수 있다(예컨대, 차량을 기준 프레임으로 한 x-, y- 및 z-좌표 세트).
일부 구현에서, 물체 위치 회로부(408)는, 적어도 부분적으로, 차량(200)에서의 상이한 위치에 위치된 마이크로폰들(404a-404n)을 사용하여 복수의 오디오 기록 신호들을 획득하고 공명 소스를 삼각측량함(triangulating)으로써, 물체(450)의 위치를 결정할 수 있다. 예를 들어, 물체 위치 회로부(408)는, 오디오 기록 신호들의 각각에 대하여, 오디오 기록 신호를 생성한 마이크로폰의 위치에 대한 공명의 방향을 결정할 수 있다. 또한, 물체 위치 회로부(408)는 결정된 방향들의 각각과 일치하는 위치 또는 영역을 결정할 수 있다(예컨대, 결정된 방향들 각각에 대한 교차점 또는 교차 영역). 물체 위치 회로부(408)는 이 위치 또는 영역을 물체(450)의 위치로서 식별할 수 있다.
다른 예로서, 물체 위치 회로부(408)는 물체(450)의 아이덴티티 또는 타입을 결정할 수 있다. 예를 들어, 물체 위치 회로부(408)는 물체(450)가 백팩, 손가방, 핸드백, 지갑, 슈트케이스, 서류 가방, 수화물, 의류(예컨대, 코트, 셔츠, 바지, 모자 등), 전자 디바이스(예컨대, 컴퓨터, 스마트 폰, 태블릿, 헤드폰, 이어버드 등), 안경, 스포츠 장비(예컨대, 공, 배트, 라켓, 골프 클럽, 헬멧 등), 공구(예컨대, 망치, 렌치, 스크류드라이버 등), 장신구(예컨대, 반지, 시계, 귀걸이, 목걸이 등), 및/또는 임의의 다른 유형의 물체인지 표시하는 데이터를 출력할 수 있다.
일부 구현에서, 물체 위치 회로부(408)는 오디오 기록 신호에 적어도 부분적으로 기초하여 물체(450)의 아이덴티티 또는 타입을 결정할 수 있다. 예를 들어, 물체의 각각의 타입은 물체의 다른 타입의 것과는 상이한 특정 음향 특성을 가질 수 있다. 따라서, 상이한 타입의 물체들은 그의 음향 특성에 기초하여 서로 구별될 수 있다.
예로서, 제1 타입의 물체는 제1 고유 진동 주파수(또는 주파수들)를 가질 수 있고, 스피커들(402a-402n)에 의해 방출된 사운드에 응답하여 제1 공명 주파수(또는 주파수들)에서 공명할 수 있다. 또한, 제1 타입의 물체는 사운드의 특정 주파수들을 감쇠하거나 약화시킬 수 있다(예컨대, 그 타입의 물체의 물리적 특성으로 인해). 또한, 제2 타입의 물체는 제2 고유 진동 주파수(또는 주파수들)를 가질 수 있고, 스피커들(402a-402n)에 의해 방출된 사운드에 응답하여 제2 공명 주파수(또는 주파수들)에서 공명할 수 있다. 또한, 제2 타입의 물체는 사운드의 특정 다른 주파수들을 감쇠하거나 약화시킬 수 있다(예컨대, 그 타입의 물체의 물리적 특성으로 인해). 물체 위치 회로부(408)는 오디오 기록 신호의 스펙트럼 분석에 기초하여 두 타입의 물체들 사이에 구별할 수 있다(예컨대, 공명 주파수 및/또는 감쇠된 주파수를 결정하고, 동일하거나 유사한 특성을 갖는 물체의 타입을 식별함으로써).
또한, 일부 구현에서, 물체 위치 회로부(408)는 카메라들(406a-406n)에 의해 획득된 이미지 및/또는 비디오에 적어도 부분적으로 기초하여 물체(450)의 아이덴티티 또는 타입을 결정할 수 있다. 예를 들어, 물체 위치 회로부(408)는 컴퓨터 비전 및/또는 이미지 분류 시스템을 사용하여 이미지 및/또는 비디오를 해석하고 여기에 묘사된 물체를 식별할 수 있다.
일부 구현에서, 물체 위치 회로부(408)는 “베이스” 또는 “디폴트” 상태에서(예컨대, 승객에 의해 차량 내에 어떠한 외부 물체도 남겨지지 않았을 때) 차량(200) 내부의 오디오 기록 신호, 이미지, 및/또는 비디오를 획득할 수 있다. 또한, 물체 위치 회로부(408)는 차량(200) 내부의 추가적인 오디오 기록 신호, 이미지, 및/또는 비디오를 획득하고, 기록 사운드, 이미지, 및/또는 비디오에서의 변화를 식별할 수 있다.
이 기술은, 예를 들어 물체 위치 회로부(408)가 차량 자체의 일부인 구조체들(예컨대, 자리, 자리 벨트, 대시보드, 콘솔, 지지 기둥, 문, 천장, 바닥 등)을 승객이 차량 안으로 가져와 차량에 남긴 물체와 구별할 수 있다는 점에서 이로울 수 있다. 예를 들어, 차량의 일부인 구조체들도 또한, 스피커들(402a-402n)에 의한 사운드 방출에 응답하여 특정 공명을 나타낼 수 있다. 물체 위치 회로부(408)는 이들 공명을 식별하고(예컨대, 차량이 디폴트 상태의 베이스에 있을 때 획득된 데이터에 기초하여), 차량 내의 물체들을 위치 찾기 및/또는 식별할 때 이들 공명을 걸러낼(또는 무시함) 수 있다.
일부 실시예에서, 물체 위치 회로부(408)는 하나 이상의 머신 러닝 모델에 기초하여 본원에 기술된 결정들 중 적어도 일부를 행할 수 있다. 예를 들어, 머신 러닝 모델은, 입력 데이터(예컨대, 마이크로폰들(404a-404n) 및/또는 카메라들(406a-406n)로부터 수신된 데이터)를 수신하고 입력 데이터에 기초하여 물체(450)의 위치 및/또는 식별에 관한 하나 이상의 예측과 연관된 출력 데이터를 생성하도록 트레이닝될 수 있다.
일 예로서, 머신 러닝 모델은 차량(200) 또는 또다른 차량에 위치되어 있거나 이미 위치되었던 하나 이상의 추가적인 물체에 관한 트레이닝 데이터(예컨대, 데이터베이스(410)에 저장된 트레이닝 데이터)를 사용하여 트레이닝될 수 있다. 이들 추가적인 물체는 물체 검출 시스템(210)에 의해 이전에 검출 및/또는 식별된 물체들을 포함할 수 있다. 이들 추가적인 물체는 또한, 또다른 시스템(예컨대, 또다른 물체 검출 시스템(210))에 의해 이전에 검출 및/또는 식별된 물체들을 포함할 수 있다.
추가적인 물체들 각각에 대하여, 트레이닝 데이터는 도 4에 관련하여 기재된 바와 유사한 입력 정보를 포함할 수 있다. 예를 들어, 트레이닝 데이터는 물체가 차량 내에 위치된 동안 하나 이상의 마이크로폰(예컨대, 그 물체의 공명을 나타내는 오디오 기록 신호) 및/또는 카메라(예컨대, 차량 내부의 이미지 및/또는 비디오)에 의해 획득된 데이터를 포함할 수 있다.
또한, 추가적인 물체들 각각에 대하여, 트레이닝 데이터는 센서 측정이 획독된 때에 차량(200)(또는 또다른 차량) 내의 그 물체의 위치를 나타내는 데이터를 포함할 수 있다. 예를 들어, 데이터베이스(410)는 센서 측정이 획득된 때에 특정 물체가 위치된 일반 영역을 표시할 수 있다. 다른 예로서, 트레이닝 데이터는 센서 측정이 획득된 때에 특정 물체의 위치를 나타내는 공간 좌표 세트를 표시할 수 있다.
또한, 추가적인 물체들 각각에 대하여, 트레이닝 데이터는 그 물체의 음향 특성을 나타내는 데이터를 포함할 수 있다. 예를 들어, 트레이닝 데이터는 그 물체의 고유 주파수 또는 주파수들, 그 물체의 공명 주파수 또는 주파수들, 및 그 물체의 음향 감쇠 특성을 표시할 수 있다.
또한, 추가적인 물체들 각각에 대하여, 트레이닝 데이터는 그 물체의 아이덴티티 또는 타입을 나타내는 데이터를 포함할 수 있다. 예를 들어, 트레이닝 데이터는 특정 물체가 백팩, 손가방, 핸드백, 지갑, 슈트케이스, 서류 가방, 수화물, 의류, 전자 디바이스, 안경, 스포츠 장비, 공구, 장신구, 및/또는 임의의 다른 타입의 물체인지 표시할 수 있다.
트레이닝 데이터에 기초하여, 머신 러닝 모델은, (i) 입력 데이터, (ii) 차량 내의 물체의 위치, 및/또는 (iii) 그 물체의 아이덴티티 간의 상관, 관계, 및/또는 트렌드를 식별하도록 트레이닝될 수 있다.
예시적인 머신 러닝 모델이 도 6a 내지 도 6c를 참조하여 더 상세하게 기재된다.
일부 실시예에서, 물체 검출 시스템(210)은 추후 검색 및/또는 프로세싱을 위해 물체(450)에 관한 정보를 저장하도록(예컨대, 데이터베이스(410)에) 구성될 수 있다. 일 예로서, 물체 위치 회로부(408)는 물체(450)에 관한 정보, 예컨대 물체(450)의 결정된 위치 및/또는 물체(450)의 타입을 저장을 위해 데이터베이스(410)에 전송할 수 있다. 다른 예로서, 물체 위치 회로부(408)는 물체(450)에 관하여 획득된 센서 정보 중 적어도 일부(예컨대, 오디오 기록 신호, 이미지, 비디오 등)를 저장을 위해 데이터베이스(410)에 전송할 수 있다.
또한, 물체 검출 시스템(210)은 검출된 물체에 관하여 적어도 하나의 사용자에의 통지를 생성하도록 구성될 수 있다. 일 예로서, 물체 위치 회로부(408)는 물체(450)의 위치 및/또는 물체(450)의 타입을 통지 회로부(412)에 제공할 수 있다. 또한, 물체 위치 회로부(408)는 물체(450)의 하나 이상의 이미지 및/또는 비디오를 통지 회로부(412)에 제공할 수 있다. 통지 회로부(412)는 사용자에의 하나 이상의 통지를 생성할 수 있다(예컨대, 물체(450)가 차량(200)에 남겨졌다는 것을 사용자에게 알림). 또한, 통지 회로부(412)는 통지에 물체(450)의 위치, 물체(450)의 타입, 물체(450)의 이미지, 및/또는 물체(450)의 비디오와 같은 물체(450)에 관한 정보를 포함시킬 수 있다.
일부 구현에서, 통지는 이메일 메시지, 채팅 메시지, 텍스트 메시지(예컨대, SMS 메시지), 다이렉트 메시지, 및/또는 임의의 다른 유형의 전자 메시지를 포함할 수 있다. 일부 구현에서, 통지는 전화 통화, 음성 통화, 영상 통화, 또는 임의의 다른 유형의 오디오 및/또는 비디오 통신을 포함할 수 있다. 일부 구현에서, 통지는, 스마트 폰, 태블릿 컴퓨터 및/또는 웨어러블 컴퓨터와 같은 전자 디바이스를 사용하여 제시되는, 오디오 경보(예컨대, 경고 사운드) 및/또는 촉각적 경보(예컨대, 진동 또는 펄스)를 포함할 수 있다. 일부 구현에서, 통지는 전자 디바이스를 사용하여 제시되는 시각적 경보(예컨대, 팝업 통지 또는 통지 뱃지)를 포함할 수 있다. 일부 구현에서, 통지는 차량(200)의 외부 환경에 출력되는(예컨대, 차량(200)의 스피커 또는 경적에 의해) 오디오 경보(예컨대, 경고 사운드)를 포함할 수 있다.
일부 구현에서, 물체 검출 시스템(210)은 특정 사용자에 의해 물체(450)가 차량(200)에 남겨졌다고 결정하고 그 사용자에 대하여 하나 이상의 통지를 생성할 수 있다.
일 예로서, 물체 검출 시스템(210)은, 특정 시간에 물체(450)가 차량(200) 안으로 반입되었으며 특정 사용자가 그 시간 동안 차량(200)에 들어왔다는 것을 결정할 수 있다(예컨대, 승차 공유 서비스의 일부로서 차량(200)의 예약에 관한 기록과 같은, 차량(200)의 사용 또는 서비스 기록에 기초하여). 이 결정에 적어도 부분적으로 기초하여, 물체 검출 시스템(210)은 사용자가 물체(450)의 주인일 가능성이 있다고 결정할 수 있고 물체(450)에 관하여 그 사용자에의 통지를 생성할 수 있다.
다른 예로서, 물체 검출 시스템(210)은, 특정 시간에 물체(450)가 차량(200)에서 검출되었으며 특정 사용자가 그 시간 동안 차량(200)에 탑승하고 있었다는 것을 결정할 수 있다(예컨대, 승차 공유 서비스의 일부로서 차량(200)의 예약에 관한 기록과 같은, 차량(200)의 사용 또는 서비스 기록에 기초하여). 이 결정에 적어도 부분적으로 기초하여, 물체 검출 시스템(210)은 사용자가 물체(450)의 주인일 가능성이 있다고 결정할 수 있고 물체(450)에 관하여 그 사용자에의 통지를 생성할 수 있다.
다른 예로서, 물체 검출 시스템(210)은, 차량의 특정 위치에서 특정 시간에 물체(450)가 검출되었으며 사용자가 그 시간에 그 위치에 또는 그 주위에 앉아 있었다는 것을 결정할 수 있다(예컨대, 그 시간 동안 차량(200)의 센서에 의해 획득된 오디오, 이미지, 및/또는 비디오에 기초하여). 이 결정에 적어도 부분적으로 기초하여, 물체 검출 시스템(210)은 사용자가 물체(450)의 주인일 가능성이 있다고 결정할 수 있고 물체(450)에 관하여 그 사용자에의 통지를 생성할 수 있다.
다른 예로서, 물체 검출 시스템(210)은 차량(200)에서의 물체(450)를 검출하고, 특정 사용자가 차량의 가장 최근 승객이었다는 것을 검출한다(예컨대, 승차 공유 서비스의 일부로서 차량(200)의 예약에 관한 기록과 같은, 차량(200)의 사용 또는 서비스 기록에 기초하여). 이 결정에 적어도 부분적으로 기초하여, 물체 검출 시스템(210)은 사용자가 물체(450)의 주인일 가능성이 있다고 결정할 수 있고 물체(450)에 관하여 그 사용자에의 통지를 생성할 수 있다.
상기 기재된 바와 같이, 물체 검출 시스템(210)은 사운드를 사용하여 물체(450)에서의 공명을 유도할 수 있다. 일부 구현에서, 물체 검출 시스템(210)은, 적어도 부분적으로, 특정 횟수의 반복에 따라 그리고/또는 특정 빈도의 반복에 따라, 특정 기간 동안 차량(200)의 특정 스피커(들)(402a-402n)가 특정 사운드를 방출하게 함으로써, 물체(450)에서의 공명을 유도할 수 있다. 일 예로서, 물체 검출 시스템(210)은 스피커들(402a-402n)의 서브세트를 선택하고 스피커들의 선택된 서브세트에 특정 오디오 출력 신호를 제공할 수 있다. 또한, 물체 검출 시스템(210)은 선택된 스피커들이, 특정 시작 시간에 시작하며 특정 종료 시간에 끝나는 특정 오디오 출력 신호에 따라 사운드를 방출하게 할 수 있다. 또한, 물체 검출 시스템(210)은 선택된 스피커들이 특정 반복 횟수 및 빈도에 따라 사운드를 방출하게 할 수 있다.
일부 구현에서, 스피커들의 서브세트, 오디오 출력 신호, 시간 간격, 반복 횟수 및/또는 반복 빈도는 경험적으로 선택될 수 있다. 예를 들어, 상이한 물체 위치들 및/또는 상이한 물체 타입들을 구별하는데 있어서 물체 검출 시스템의 정확도 및/또는 감도를 향상할 수 있는 특정 조합의 스피커들, 오디오 출력 신호, 시간 간격, 반복 횟수 및/또는 빈도 횟수를 식별하도록 실험이 수행될 수 있다(예컨대, 물체 검출 시스템(210)의 개발자에 의해).
일부 구현에서, 스피커들의 서브세트, 오디오 출력 신호, 시간 간격, 반복 횟수 및/또는 반복 빈도는 머신 러닝을 사용하여 선택될 수 있다. 예를 들어, 상이한 물체 위치들 및/또는 상이한 물체 타입들을 구별하는데 있어서 물체 검출 시스템의 정확도 및/또는 감도를 향상할 수 있는 특정 조합의 스피커들, 오디오 출력 신호, 시간 간격, 반복 횟수 및/또는 빈도 횟수를 식별하도록 머신 러닝 모델이 사용될 수 있다.
일반적으로, 오디오 출력 신호는 초음파 스펙트럼 성분, 인간의 가청 범위 내에 있는 스펙트럼 성분, 및/또는 초저주파 스펙트럼 성분을 포함할 수 있다.
일부 구현에서, 오디오 출력 신호는 단일 주파수 또는 여러 주파수들(예컨대, 하나 이상의 주파수 범위)을 갖는 정현파(sinusoidal) 신호를 포함할 수 있다. 일부 구현에서, 오디오 출력 신호는 정현파 스위프(sinusoidal sweep) 신호(예컨대, 시간이 지남에 따라 달라지는 주파수를 갖는 정현파 신호)를 포함할 수 있다.
예시적인 정현파 스위프 신호(600)가 도 6a에 도시되어 있다. 이 예에서, 정현파 스위프 신호(600)는 시간이 지남에 따라 주파수가 단조적으로(monotonically) 증가한다(예컨대, 제1 하위 주파수에서 제2 상위 주파수로). 그러나, 도 6a에 도시된 정현파 스위프 신호(600) 대신에 또는 이에 추가적으로, 상이한 정현파 스위프 신호가 또한 사용될 수 있다. 예를 들어, 정현파 스위프 신호는 시간이 지남에 따라 주파수가 단조적으로 감소할 수 있다. 다른 예로서, 정현파 스위프 신호는 주파수가 증가하는 시간 간격 및 주파수가 감소하는 다른 시간 간격을 포함할 수 있다.
일부 구현에서, 오디오 출력 신호는 임펄스 응답 신호(예컨대, 임펄스 응답 함수(IRF; impulse response function)와 일치하거나 근사한 국부 강도 피크 또는 임펄스를 갖는 신호)를 포함할 수 있다. 예시적인 임펄스 응답 신호(610)가 도 6b에 도시되어 있다.
본원에 기술된 예들은 차량(200) 내에 남겨진 물체들을 식별하는 것과 관련이 있지만, 일부 구현에서, 본원에 기술된 시스템 및 기술은 또한 차량(200) 밖에 남겨진 물체들을 식별하는 데에도 사용될 수 있다. 예를 들어, 스피커들(402a-402n) 중 적어도 일부는 차량(200)의 외부 환경에 사운드를 출력하도록 구성될 수 있다. 또한, 마이크로폰들(404a-404n) 중 적어도 일부는 외부 환경에서의 사운드를 나타내는 오디오 기록 신호를 생성하도록 구성될 수 있다. 또한, 카메라들(406a-406n) 중 적어도 일부는 외부 환경을 나타내는 이미지 및/또는 비디오를 생성하도록 구성될 수 있다. 물체 검출 시스템(210)은 오디오 기록 신호, 이미지 및/또는 비디오에 기초하여 물체를 위치 찾기 및/또는 식별할 수 있다(예컨대, 상기에 기재된 바와 유사한 방식으로).
본원에 기재된 기술들 중의 적어도 일부는 하나 이상의 머신 러닝 모델을 사용하여 구현될 수 있다. 일 예로서, 도 7a는 머신 러닝 모델의 구현의 다이어그램을 도시한다. 보다 구체적으로, 콘볼루션 신경 네트워크(convolutional neural network, CNN)(720)의 구현의 다이어그램이 예시되어 있다. 예시를 위해, CNN(720)에 대한 이하의 설명은 물체 검출 시스템(400)에 의한 CNN(620)의 구현과 관련하여 이루어질 것이다. 그렇지만, 일부 예들에서 CNN(720)(예를 들면, CNN(720)의 하나 이상의 컴포넌트)이, 자율 주행 차량 계산(202f)과 같은, 물체 검출 시스템(500)과 상이하거나 이 이외의 다른 시스템들에 의해 구현된다는 것이 이해될 것이다. CNN(720)이 본원에 기술된 바와 같은 특정 특징들을 포함하지만, 이러한 특징들은 예시 목적으로 제공되며 본 개시를 제한하는 것으로 의도되지 않는다.
CNN(720)은 제1 콘볼루션 계층(722), 제2 콘볼루션 계층(724), 및 콘볼루션 계층(726)를 포함하는 복수의 콘볼루션 계층들을 포함한다. 일부 실시예들에서, CNN(720)은 서브샘플링 계층(728)(때때로 풀링 계층(pooling layer)이라고 지칭됨)을 포함한다. 일부 실시예들에서, 서브샘플링 계층(728) 및/또는 다른 서브샘플링 계층들은 업스트림 시스템의 차원보다 작은 차원(즉, 노드들의 양)을 갖는다. 서브샘플링 계층(728)이 업스트림 계층의 차원보다 작은 차원을 갖는 것에 의해, CNN(720)은 초기 입력 및/또는 업스트림 계층의 출력과 연관된 데이터의 양을 통합하여 이에 의해 CNN(720)이 다운스트림 콘볼루션 연산들을 수행하는 데 필요한 계산들의 양을 감소시킨다. 추가적으로 또는 대안적으로, (도 7b 및 도 7c와 관련하여 아래에서 기술되는 바와 같이) 서브샘플링 계층(728)이 적어도 하나의 서브샘플링 함수와 연관되는(예를 들면, 이를 수행하도록 구성되는) 것에 의해, CNN(720)은 초기 입력과 연관된 데이터의 양을 통합(consolidate)한다.
물체 검출 시스템(210)이 제1 콘볼루션 계층(722), 제2 콘볼루션 계층(724), 및 콘볼루션 계층(726) 각각과 연관된 각자의 입력들 및/또는 출력들을 제공하여 각자의 출력들을 생성하는 것에 기초하여 물체 검출 시스템(210)은 콘볼루션 연산들을 수행한다. 일부 예들에서, 물체 검출 시스템(210)이 제1 콘볼루션 계층(722), 제2 콘볼루션 계층(724), 및 콘볼루션 계층(726)에 대한 입력으로서 데이터를 제공하는 것에 기초하여 물체 검출 시스템(210)은 CNN(720)을 구현한다. 이러한 예에서, 물체 검출 시스템(210)은 물체 검출 시스템(210)이 하나 이상의 상이한 시스템(예컨대, 마이크로폰들(404a-404n), 카메라들(406a-406n), 데이터베이스(410) 등)으로부터 데이터를 수신하는 것에 기초하여 제1 콘볼루션 계층(722), 제2 콘볼루션 계층(724), 및 콘볼루션 계층(726)에의 입력으로서 데이터를 제공한다. 콘볼루션 연산들에 대한 상세한 설명은 도 7b와 관련하여 아래에 포함된다.
일부 실시예들에서, 물체 검출 시스템(210)은 입력(초기 입력이라고 지칭됨)과 연관된 데이터를 제1 콘볼루션 계층(722)에 제공하고, 물체 검출 시스템(210)은 제1 콘볼루션 계층(722)을 사용하여 출력과 연관된 데이터를 생성한다. 일부 실시예들에서, 물체 검출 시스템(210)은 상이한 콘볼루션 계층에 대한 입력으로서 콘볼루션 계층에 의해 생성되는 출력을 제공한다. 예를 들어, 물체 검출 시스템(210)은 서브샘플링 계층(728), 제2 콘볼루션 계층(724), 및/또는 콘볼루션 계층(726)에 대한 입력으로서 제1 콘볼루션 계층(722)의 출력을 제공한다. 그러한 예에서, 제1 콘볼루션 계층(722)은 업스트림 계층이라고 지칭되고, 서브샘플링 계층(628), 제2 콘볼루션 계층(724) 및/또는 콘볼루션 계층(726)은 다운스트림 계층들이라고 지칭된다. 유사하게, 일부 실시예들에서, 물체 검출 시스템(210)은 서브샘플링 계층(728)의 출력을 제2 콘볼루션 계층(724) 및/또는 콘볼루션 계층(726)에 제공하고, 이 예에서, 서브샘플링 계층(728)은 업스트림 계층이라고 지칭될 것이며, 제2 콘볼루션 계층(724) 및/또는 콘볼루션 계층(726)은 다운스트림 계층들이라고 지칭될 것이다.
일부 실시예들에서, 물체 검출 시스템(210)이 CNN(720)에 입력을 제공하기 전에 물체 검출 시스템(210)은 CNN(720)에 제공되는 입력과 연관된 데이터를 프로세싱한다. 예를 들어, 물체 검출 시스템(210)이 센서 데이터(예를 들면, 오디오 데이터, 이미지 데이터, 비디오 데이터 등)를 정규화하는 것에 기초하여, 물체 검출 시스템(210)은 CNN(720)에 제공되는 입력과 연관된 데이터를 프로세싱한다.
일부 실시예들에서, 물체 검출 시스템(210)이 각각의 콘볼루션 계층과 연관된 콘볼루션 연산들을 수행하는 것에 기초하여, CNN(720)은 출력을 생성한다. 일부 예들에서, 물체 검출 시스템(210)이 각각의 콘볼루션 계층과 연관된 콘볼루션 연산들을 수행하는 것 및 초기 데이터에 기초하여, CNN(720)은 출력을 생성한다. 일부 실시예들에서, 물체 검출 시스템(210)은 출력을 생성하고 출력을 완전 연결 계층(730)으로서 제공한다. 일부 예들에서, 물체 검출 시스템(210)은 콘볼루션 계층(726)의 출력을 완전 연결 계층(730)으로서 제공하고, 여기서 완전 연결 계층(730)은 F1, F2, ... FN이라고 지칭되는 복수의 특징 값들과 연관된 데이터를 포함한다. 이 예에서, 콘볼루션 계층(726)의 출력은 예측을 나타내는 복수의 출력 특징 값들과 연관된 데이터를 포함한다.
일부 실시예들에서, 물체 검출 시스템(210)이 복수의 예측들 중에서 정확한 예측일 가능성이 가장 높은 것과 연관된 특징 값을 식별하는 것에 기초하여, 물체 검출 시스템(210)은 복수의 예측들 중에서 예측을 식별한다. 예를 들어, 완전 연결 계층(730)이 특징 값들 F1, F2, ... FN을 포함하고, F1이 가장 큰 특징 값인 경우에, 물체 검출 시스템(210)은 F1과 연관된 예측을 복수의 예측들 중에서 정확한 예측인 것으로 식별한다. 일부 실시예들에서, 물체 검출 시스템(210)은 예측을 생성하도록 CNN(720)을 트레이닝시킨다. 일부 예들에서, 물체 검출 시스템(210)이 예측과 연관된 트레이닝 데이터를 CNN(720)에 제공하는 것에 기초하여, 물체 검출 시스템(210)은 예측을 생성하도록 CNN(720)을 트레이닝시킨다.
예측은 예를 들어 차량(200) 내부 내의 물체의 예측된 위치를 포함할 수 있다. 다른 예로서, 예측은 물체의 예측된 특성(예컨대, 물체의 타입, 카테고리 또는 아이덴티티)을 포함할 수 있다.
이제 도 7b 및 도 7c를 참조하면, 물체 검출 시스템(210)에 의한 CNN(740)의 예시적인 작동의 다이어그램이 예시되어 있다. 일부 실시예들에서, CNN(740)(예를 들면, CNN(740)의 하나 이상의 컴포넌트)은 CNN(720)(예를 들면, CNN(720)의 하나 이상의 컴포넌트)(도 7a 참조)과 동일하거나 유사하다.
단계 750에서, 물체 검출 시스템(210)은 CNN(740)에 입력으로서 데이터를 제공한다(단계 750). 예를 들어, 물체 검출 시스템(210)은 마이크로폰들(404a-404n) 및/또는 카메라들(406a-406n) 중의 하나 이상에 의해 획득된 데이터를 제공할 수 있다. 다른 예로서, 물체 검출 시스템(210)은 데이터베이스(410)로부터 수신된 데이터를 제공할 수 있다.
단계 755에서, CNN(740)은 제1 콘볼루션 함수를 수행한다. 예를 들어, CNN(740)이 입력 데이터를 나타내는 값들을 제1 콘볼루션 계층(742)에 포함된 하나 이상의 뉴런(명시적으로 예시되지 않음)에 대한 입력으로서 제공하는 것에 기초하여, CNN(740)은 제1 콘볼루션 함수를 수행한다. 예로서, 이미지 또는 비디오를 나타내는 값들은 이미지 또는 비디오의 한 영역(때때로 수용 영역(receptive field)이라고 지칭됨)을 나타내는 값들에 대응할 수 있다. 다른 예로서, 오디오 신호를 나타내는 값들은 오디오 신호의 일부(예컨대, 특정 시간 부분 및/또는 특정 공간 부분)를 나타내는 값들에 대응할 수 있다. 다른 예로서, 일부 다른 센서 측정을 나타내는 값들은 그 센서 측정의 일부(예컨대, 특정 시간 부분 및/또는 특정 공간 부분)를 나타내는 값들에 대응할 수 있다.
일부 실시예들에서, 각각의 뉴런은 필터(명시적으로 예시되지 않음)와 연관된다. 필터(때때로 커널이라고 지칭됨)는 크기가 뉴런에 대한 입력으로서 제공되는 값들에 대응하는 값들의 어레이로서 표현될 수 있다. 일 예에서, 필터는 이미지에서 에지들(예를 들면, 수평 라인들, 수직 라인들, 직선 라인들 등)을 식별하도록 구성될 수 있다. 연속적인 콘볼루션 계층들에서, 뉴런들과 연관된 필터들은 이미지에서 연속적으로 보다 복잡한 패턴들(예를 들면, 호, 대상체 등)을 식별하도록 구성될 수 있다. 다른 예로서, 필터는 오디오 신호의 스펙트럼 부분들(예컨대, 특정 주파수들 및/또는 주파수 범위들에 대응하는 오디오 신호의 부분들)을 식별하도록 구성될 수 있다. 연속적인 콘볼루션 계층들에서, 뉴런들과 연관된 필터들은 오디오 신호에서 연속적으로 보다 복잡한 패턴들(예컨대, 오디오 소스의 위치, 오디오 소스의 아이덴티티나 타입을 나타내는 패턴들 등)을 식별하도록 구성될 수 있다.
일부 실시예들에서, CNN(740)이 제1 콘볼루션 계층(742)에 포함된 하나 이상의 뉴런 각각에 대한 입력으로서 제공되는 값들을 하나 이상의 뉴런 각각에 대응하는 필터의 값들과 곱하는 것에 기초하여, CNN(740)은 제1 콘볼루션 함수를 수행한다. 예를 들어, CNN(740)은 제1 콘볼루션 계층(742)에 포함된 하나 이상의 뉴런 각각에 대한 입력으로서 제공되는 값들을 하나 이상의 뉴런 각각에 대응하는 필터의 값들과 곱하여 단일 값 또는 값들의 어레이를 출력으로서 생성할 수 있다. 일부 실시예들에서, 제1 콘볼루션 계층(742)의 뉴런들의 집합적 출력은 콘볼루션된 출력(convolved output)이라고 지칭된다. 일부 실시예들에서, 각각의 뉴런이 동일한 필터를 갖는 경우에, 콘볼루션된 출력은 특징 맵(feature map)이라고 지칭된다.
일부 실시예들에서, CNN(740)은 제1 콘볼루션 계층(742)의 각각의 뉴런의 출력들을 다운스트림 계층의 뉴런들에 제공한다. 명료함을 위해, 업스트림 계층은 데이터를 상이한 계층(다운스트림 계층이라고 지칭됨)으로 송신하는 계층일 수 있다. 예를 들어, CNN(740)은 제1 콘볼루션 계층(742)의 각각의 뉴런의 출력들을 서브샘플링 계층의 대응하는 뉴런들에 제공할 수 있다. 일 예에서, CNN(740)은 제1 콘볼루션 계층(742)의 각각의 뉴런의 출력들을 제1 서브샘플링 계층(744)의 대응하는 뉴런들에 제공한다. 일부 실시예들에서, CNN(740)은 다운스트림 계층의 각각의 뉴런에 제공되는 모든 값들의 집계들에 바이어스 값을 가산한다. 예를 들어, CNN(740)은 제1 서브샘플링 계층(744)의 각각의 뉴런에 제공되는 모든 값들의 집계들에 바이어스 값을 가산한다. 그러한 예에서, 각각의 뉴런에 제공되는 모든 값들의 집계들 및 제1 서브샘플링 계층(744)의 각각의 뉴런과 연관된 활성화 함수에 기초하여, CNN(740)은 제1 서브샘플링 계층(744)의 각각의 뉴런에 제공할 최종 값을 결정한다.
단계 760에서, CNN(740)은 제1 서브샘플링 함수를 수행한다. 예를 들어, CNN(740)이 제1 콘볼루션 계층(742)에 의해 출력되는 값들을 제1 서브샘플링 계층(744)의 대응하는 뉴런들에 제공하는 것에 기초하여, CNN(740)은 제1 서브샘플링 함수를 수행할 수 있다. 일부 실시예들에서, CNN(740)은 집계 함수에 기초하여 제1 서브샘플링 함수를 수행한다. 일 예에서, CNN(740)이 주어진 뉴런에 제공되는 값들 중 최대 입력을 결정하는 것(맥스 풀링 함수(max pooling function)라고 지칭됨)에 기초하여, CNN(740)은 제1 서브샘플링 함수를 수행한다. 다른 예에서, CNN(740)이 주어진 뉴런에 제공되는 값들 중 평균 입력을 결정하는 것(평균 풀링 함수(average pooling function)라고 지칭됨)에 기초하여, CNN(740)은 제1 서브샘플링 함수를 수행한다. 일부 실시예들에서, CNN(740)이 제1 서브샘플링 계층(744)의 각각의 뉴런에 값들을 제공하는 것에 기초하여, CNN(740)은 출력을 생성하며, 이 출력은 때때로 서브샘플링된 콘볼루션된 출력(subsampled convolved output)이라고 지칭된다.
단계 765에서, CNN(740)은 제2 콘볼루션 함수를 수행한다. 일부 실시예들에서, CNN(740)은 위에서 기술된, CNN(740)이 제1 콘볼루션 함수를 수행한 방식과 유사한 방식으로 제2 콘볼루션 함수를 수행한다. 일부 실시예들에서, CNN(740)이 제1 서브샘플링 계층(744)에 의해 출력되는 값들을 제2 콘볼루션 계층(746)에 포함된 하나 이상의 뉴런(명시적으로 예시되지 않음)에 대한 입력으로서 제공하는 것에 기초하여, CNN(740)은 제2 콘볼루션 함수를 수행한다. 일부 실시예들에서, 위에서 기술된 바와 같이, 제2 콘볼루션 계층(746)의 각각의 뉴런은 필터와 연관된다. 위에서 기술된 바와 같이, 제2 콘볼루션 계층(746)과 연관된 필터(들)는 제1 콘볼루션 계층(742)과 연관된 필터보다 복잡한 패턴들을 식별하도록 구성될 수 있다.
일부 실시예들에서, CNN(740)이 제2 콘볼루션 계층(746)에 포함된 하나 이상의 뉴런 각각에 대한 입력으로서 제공되는 값들을 하나 이상의 뉴런 각각에 대응하는 필터의 값들과 곱하는 것에 기초하여, CNN(740)은 제2 콘볼루션 함수를 수행한다. 예를 들어, CNN(740)은 제2 콘볼루션 계층(746)에 포함된 하나 이상의 뉴런 각각에 대한 입력으로서 제공되는 값들을 하나 이상의 뉴런 각각에 대응하는 필터의 값들과 곱하여 단일 값 또는 값들의 어레이를 출력으로서 생성할 수 있다.
일부 실시예들에서, CNN(740)은 제2 콘볼루션 계층(746)의 각각의 뉴런의 출력들을 다운스트림 계층의 뉴런들에 제공한다. 예를 들어, CNN(740)은 제1 콘볼루션 계층(742)의 각각의 뉴런의 출력들을 서브샘플링 계층의 대응하는 뉴런들에 제공할 수 있다. 일 예에서, CNN(740)은 제1 콘볼루션 계층(742)의 각각의 뉴런의 출력들을 제2 서브샘플링 계층(748)의 대응하는 뉴런들에 제공한다. 일부 실시예들에서, CNN(740)은 다운스트림 계층의 각각의 뉴런에 제공되는 모든 값들의 집계들에 바이어스 값을 가산한다. 예를 들어, CNN(740)은 제2 서브샘플링 계층(748)의 각각의 뉴런에 제공되는 모든 값들의 집계들에 바이어스 값을 가산한다. 그러한 예에서, 각각의 뉴런에 제공되는 모든 값들의 집계들 및 제2 서브샘플링 계층(748)의 각각의 뉴런과 연관된 활성화 함수에 기초하여, CNN(740)은 제2 서브샘플링 계층(748)의 각각의 뉴런에 제공할 최종 값을 결정한다.
단계 770에서, CNN(740)은 제2 서브샘플링 함수를 수행한다. 예를 들어, CNN(740)이 제2 콘볼루션 계층(746)에 의해 출력되는 값들을 제2 서브샘플링 계층(748)의 대응하는 뉴런들에 제공하는 것에 기초하여, CNN(740)은 제2 서브샘플링 함수를 수행할 수 있다. 일부 실시예들에서, CNN(740)이 집계 함수를 사용하는 것에 기초하여, CNN(740)은 제2 서브샘플링 함수를 수행한다. 일 예에서, 위에서 기술된 바와 같이, CNN(740)이 주어진 뉴런에 제공되는 값들 중 최대 입력 또는 평균 입력을 결정하는 것에 기초하여, CNN(740)은 제1 서브샘플링 함수를 수행한다. 일부 실시예들에서, CNN(740)이 제2 서브샘플링 계층(748)의 각각의 뉴런에 값들을 제공하는 것에 기초하여, CNN(740)은 출력을 생성한다.
단계 775에서, CNN(740)은 제2 서브샘플링 계층(748)의 각각의 뉴런의 출력을 완전 연결 계층들(749)에 제공한다. 예를 들어, CNN(740)은 제2 서브샘플링 계층(748)의 각각의 뉴런의 출력을 완전 연결 계층들(749)에 제공하여 완전 연결 계층들(749)이 출력을 생성하게 한다. 일부 실시예들에서, 완전 연결 계층들(749)은 예측(때때로 분류라고 지칭됨)과 연관된 출력을 생성하도록 구성된다.
일 예로서, 출력은 차량(200) 내부 내의 물체의 위치에 관한 예측을 포함할 수 있다. 예를 들어, 출력은 물체가 위치되어 있는 일반 영역을 표시할 수 있다(예컨대, 차량의 특정 자리 상에, 차량의 특정 풋 웰에, 차량의 특정 자리 아래에, 차량의 특정 보관실에, 차량의 특정 자리 주머니에 등). 다른 예로서, 출력은 물체(450)의 위치를 나타내는 공간 좌표 세트를 표시할 수 있다(예컨대, 차량을 기준 프레임으로 한 x-, y- 및 z-좌표 세트).
일 예로서, 출력은 차량(200) 내부 내의 물체의 아이덴티티 또는 타입에 관한 예측을 포함할 수 있다. 예를 들어, 출력은 물체(450)가 백팩, 손가방, 핸드백, 지갑, 슈트케이스, 서류 가방, 수화물, 의류(예컨대, 코트, 셔츠, 바지, 모자 등), 전자 디바이스(예컨대, 컴퓨터, 스마트 폰, 태블릿, 헤드폰, 이어버드 등), 안경, 스포츠 장비(예컨대, 공, 배트, 라켓, 골프 클럽, 헬멧 등), 공구(예컨대, 망치, 렌치, 스크류드라이버 등), 장신구(예컨대, 반지, 시계, 귀걸이, 목걸이 등), 및/또는 임의의 다른 유형의 물체인지 표시할 수 있다.
일부 실시예들에서, 물체 검출 시스템(210)은, 본원에 기술된 바와 같이, 하나 이상의 동작을 수행하고/하거나 예측과 연관된 데이터를 상이한 시스템에 제공한다.
이제 도 8을 참조하면, 차량 내의 물체 검출을 위한 프로세스(800)의 플로차트가 예시되어 있다. 일부 실시예들에서, 프로세스(800)와 관련하여 기술된 단계들 중 하나 이상은 (예를 들면, 전체적으로, 부분적으로 등) 물체 검출 시스템(210)에 의해 수행된다. 추가적으로 또는 대안적으로, 일부 실시예들에서, 프로세스(800)와 관련하여 기술된 하나 이상의 단계는 (예를 들면, 전체적으로, 부분적으로 등), 차량으로부터 원격인 컴퓨터 시스템(예컨대, 서버 컴퓨터 및/또는 클라우드 컴퓨터 시스템)과 같은, 물체 검출 시스템(210)과는 별개인 또는 이를 포함한 또다른 디바이스 또는 디바이스 그룹에 의해 수행된다.
계속해서 도 8을 참조하면, 차량의 물체 검출 시스템은 적어도 하나의 제1 시간 간격 동안 차량 내에서 적어도 하나의 청각 신호를 방출한다(블록 802). 일부 구현에서, 차량은 자율 주행 차량일 수 있다.
일부 구현에서, 적어도 하나의 청각 신호는 하나 이상의 초음파 신호, 인간의 가청 범위 내에 있는 신호 및/또는 초저주파 신호를 포함할 수 있다. 일부 구현에서, 적어도 하나의 청각 신호는 적어도 하나의 정현파 신호, 정현파 스위프 신호 및/또는 임펄스 응답 신호를 포함할 수 있다.
일부 구현에서, 적어도 하나의 청각 신호는 단일 시간 간격 동안 방출될 수 있다. 일부 구현에서, 적어도 하나의 청각 신호는 복수의 제1 시간 간격 동안 방출될 수 있다.
일부 구현에서, 시스템은 사용자가 차량에서 나갔다고 결정하고, 사용자가 차량에서 나갔다고 결정한 후에 적어도 하나의 제1 청각 신호를 방출할 수 있다.
계속해서 도 8을 참조하면, 시스템은 적어도 하나의 제1 시간 간격 후의 제2 시간 간격 동안 차량 내의 물체에 의해 방출된 제2 청각 신호를 측정한다(블록 804). 제2 청각 신호의 방출은 적어도 하나의 제1 청각 신호의 방출에 의해 야기된다. 예를 들어, 제2 청각 신호는 제1 청각 신호에 의해 유도된 물체의 공명에 대응할 수 있다.
계속해서 도 8을 참조하면, 시스템은 제2 청각 신호의 측정에 기초하여 차량 내의 물체의 위치를 결정한다(블록 806). 일부 구현에서, 시스템은 머신 러닝 및/또는 신호 삼각측량에 기초하여 이 결정을 행할 수 있다.
계속해서 도 8을 참조하면, 시스템은 물체의 위치를 표시하는 사용자에의 경보를 생성한다(블록 808).
일부 구현에서, 경보를 생성하는 것은 차량의 외부에서 제3 청각 신호를 방출하는 것을 포함할 수 있다.
일부 구현에서, 경보를 생성하는 것은 사용자와 연관된 모바일 디바이스에 전자 메시지를 전송하는 것을 포함할 수 있다.
일부 구현에서, 시스템은 또한 제2 청각 신호의 측정에 기초하여 물체의 타입을 결정할 수 있다.
일부 구현에서, 물체의 위치 또는 물체의 타입 중의 적어도 하나는 입력으로서 제2 신호의 측정을 갖는 신경 네트워크에 기초하여 결정될 수 있다.
일부 구현에서, 시스템은 또한, 하나 이상의 이미지 센서(예컨대, 스틸 카메라, 비디오 카메라 등)로부터 차량의 내부에 관한 이미지 데이터(예컨대, 이미지 및/또는 비디오)를 획득할 수 있다. 물체의 위치는 이미지 데이터에 더 기초하여 결정될 수 있다.
일부 구현에서, 적어도 하나의 청각 신호는 차량 내의 복수의 스피커들을 사용하여 동시에 방출될 수 있다. 또한, 제2 청각 신호는 차량 내의 복수의 마이크로폰들을 사용하여 동시에 측정될 수 있다. 또한, 물체의 위치는, 적어도 부분적으로, 복수의 마이크론폰들에 의한 제2 청각 신호의 측정에 기초하여 물체의 위치를 삼각측량함으로써, 결정될 수 있다.
전술한 설명에서, 본 개시의 양태들 및 실시예들은 구현마다 달라질 수 있는 다수의 특정 세부 사항들을 참조하여 기술되었다. 그에 따라, 설명 및 도면들은 제한적인 의미가 아니라 예시적인 의미로 간주되어야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "추가로 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (17)

  1. 방법에 있어서,
    차량의 물체 검출 시스템(object detection system)에 의해, 적어도 하나의 제1 시간 간격 동안 상기 차량 내에서 적어도 하나의 청각 신호를 방출하는 단계;
    상기 물체 검출 시스템에 의해, 상기 적어도 하나의 제1 시간 간격 후의 제2 시간 간격 동안 상기 차량 내의 물체에 의해 방출된 제2 청각 신호를 측정하는 단계 - 상기 제2 청각 신호의 방출은 상기 적어도 하나의 제1 청각 신호의 방출에 의해 야기됨 - ;
    상기 물체 검출 시스템에 의해, 상기 제2 청각 신호의 측정에 기초하여 상기 차량 내의 상기 물체의 위치를 결정하는 단계; 및
    상기 물체 검출 시스템에 의해, 사용자에의, 상기 물체의 위치를 나타내는 경보를 생성하는 단계
    를 포함하는, 방법.
  2. 청구항 1에 있어서,
    상기 경보를 생성하는 단계는, 상기 차량의 외부에서 제3 청각 신호를 방출하는 단계를 포함하는 것인, 방법.
  3. 청구항 1에 있어서,
    상기 경보를 생성하는 단계는, 상기 사용자와 연관된 모바일 디바이스에 전자 메시지를 전송하는 단계를 포함하는 것인, 방법.
  4. 청구항 1에 있어서,
    상기 사용자가 상기 차량에서 나갔다고 결정하는 단계를 더 포함하고,
    상기 적어도 하나의 제1 청각 신호는 상기 사용자가 상기 차량에서 나갔다고 결정한 후에 방출되는 것인, 방법.
  5. 청구항 1에 있어서,
    복수의 제1 청각 신호가 복수의 제1 시간 간격 동안 상기 차량 내에서 방출되는 것인, 방법.
  6. 청구항 1에 있어서,
    상기 적어도 하나의 제1 청각 신호는 정현파 신호를 포함하는 것인, 방법.
  7. 청구항 1에 있어서,
    상기 적어도 하나의 제1 청각 신호는 정현파 스위프(sinusoidal sweep) 신호를 포함하는 것인, 방법.
  8. 청구항 1에 있어서,
    상기 적어도 하나의 제1 청각 신호는 임펄스 응답 신호를 포함하는 것인, 방법.
  9. 청구항 1에 있어서,
    상기 제2 청각 신호의 측정에 기초하여 상기 물체의 타입을 결정하는 단계를 더 포함하는, 방법.
  10. 청구항 9에 있어서,
    상기 물체의 위치 또는 상기 물체의 타입 중의 적어도 하나는 상기 제2 신호의 측정을 입력으로서 갖는 신경 네트워크(neural network)에 기초하여 결정되는 것인, 방법.
  11. 청구항 1에 있어서,
    상기 제2 청각 신호는 상기 적어도 하나의 제1 청각 신호에 응답하는 상기 물체의 공명에 대응하는 것인, 방법.
  12. 청구항 1에 있어서,
    상기 물체 검출 시스템에 의해, 하나 이상의 이미지 센서로부터 상기 차량의 내부에 관한 이미지 데이터를 획득하는 단계를 더 포함하고,
    상기 물체의 위치는 상기 이미지 데이터에 더 기초하여 결정되는 것인, 방법.
  13. 청구항 1에 있어서,
    상기 적어도 하나의 청각 신호를 방출하는 단계는, 상기 차량 내의 복수의 스피커를 사용하여 상기 적어도 하나의 청각 신호를 동시에 방출하는 단계를 포함하는 것인, 방법.
  14. 청구항 1에 있어서,
    상기 제2 청각 신호를 측정하는 단계는, 상기 차량 내의 복수의 마이크로폰을 사용하여 상기 제2 청각 신호를 동시에 측정하는 단계를 포함하는 것인, 방법.
  15. 청구항 14에 있어서,
    상기 물체의 위치를 결정하는 단계는, 상기 복수의 마이크로폰에 의한 상기 제2 청각 신호의 측정에 기초하여 상기 물체의 위치를 삼각측량(triangulating)하는 단계를 포함하는 것인, 방법.
  16. 시스템에 있어서,
    적어도 하나의 프로세서; 및
    명령어들을 저장한 적어도 하나의 비일시적 저장 매체
    를 포함하고,
    상기 명령어들은 상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금:
    적어도 하나의 제1 시간 간격 동안 차량 내에서 적어도 하나의 청각 신호를 방출하고;
    상기 적어도 하나의 제1 시간 간격 후의 제2 시간 간격 동안 상기 차량 내의 물체에 의해 방출된 제2 청각 신호를 측정하고 - 상기 제2 청각 신호의 방출은 상기 적어도 하나의 제1 청각 신호의 방출에 의해 야기됨 - ;
    상기 제2 청각 신호의 측정에 기초하여 상기 차량 내의 상기 물체의 위치를 결정하고;
    사용자에의, 상기 물체의 위치를 나타내는 경보를 생성하도록
    하는 것인, 시스템.
  17. 명령어들을 저장한 적어도 하나의 비일시적 저장 매체에 있어서,
    상기 명령어들은 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금:
    적어도 하나의 제1 시간 간격 동안 차량 내에서 적어도 하나의 청각 신호를 방출하고;
    상기 적어도 하나의 제1 시간 간격 후의 제2 시간 간격 동안 상기 차량 내의 물체에 의해 방출된 제2 청각 신호를 측정하고 - 상기 제2 청각 신호의 방출은 상기 적어도 하나의 제1 청각 신호의 방출에 의해 야기됨 - ;
    상기 제2 청각 신호의 측정에 기초하여 상기 차량 내의 상기 물체의 위치를 결정하고;
    사용자에의, 상기 물체의 위치를 나타내는 경보를 생성하도록
    하는 것인, 적어도 하나의 비일시적 저장 매체.
KR1020210189949A 2021-08-16 2021-12-28 차량 내의 물체 검출 KR20230025738A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/403,365 US11904784B2 (en) 2021-08-16 2021-08-16 Detecting objects within a vehicle
US17/403,365 2021-08-16

Publications (1)

Publication Number Publication Date
KR20230025738A true KR20230025738A (ko) 2023-02-23

Family

ID=80219700

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210189949A KR20230025738A (ko) 2021-08-16 2021-12-28 차량 내의 물체 검출

Country Status (5)

Country Link
US (1) US11904784B2 (ko)
KR (1) KR20230025738A (ko)
CN (1) CN115877322A (ko)
DE (1) DE102021134415A1 (ko)
GB (1) GB2610002A (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10795356B2 (en) * 2017-08-31 2020-10-06 Uatc, Llc Systems and methods for determining when to release control of an autonomous vehicle
US11878718B2 (en) * 2021-08-20 2024-01-23 Ford Global Technologies, Llc Autonomous vehicle rider drop-off sensory systems and methods
US20230306754A1 (en) * 2022-03-28 2023-09-28 Gm Cruise Holdings Llc Lost object tracking system

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6778672B2 (en) 1992-05-05 2004-08-17 Automotive Technologies International Inc. Audio reception control arrangement and method for a vehicle
US8098844B2 (en) 2002-02-05 2012-01-17 Mh Acoustics, Llc Dual-microphone spatial noise suppression
KR100696392B1 (ko) * 2005-12-07 2007-03-19 주식회사단해 차량 외곽 모니터링 시스템 및 그 방법
US9616773B2 (en) 2015-05-11 2017-04-11 Uber Technologies, Inc. Detecting objects within a vehicle in connection with a service
KR101642697B1 (ko) * 2015-12-03 2016-08-10 양선종 차량 운전자 생체정보신호 측정 시스템 및 방법
WO2017149526A2 (en) * 2016-03-04 2017-09-08 May Patents Ltd. A method and apparatus for cooperative usage of multiple distance meters
DE102017112738A1 (de) 2016-06-20 2017-12-21 GM Global Technology Operations LLC Ultraschallunterstützte Ortsbestimmung und Zugangssteuerung
US10882538B1 (en) * 2019-07-31 2021-01-05 Karma Automotive Llc System and method for a combined visual and audible spatial warning system

Also Published As

Publication number Publication date
US20230046071A1 (en) 2023-02-16
CN115877322A (zh) 2023-03-31
US11904784B2 (en) 2024-02-20
DE102021134415A1 (de) 2023-02-16
GB2610002A (en) 2023-02-22
GB202200054D0 (en) 2022-02-16

Similar Documents

Publication Publication Date Title
US11710251B2 (en) Deep direct localization from ground imagery and location readings
US11904784B2 (en) Detecting objects within a vehicle
KR102470217B1 (ko) 로컬화 및 위치 기반 서비스를 위해 차량에서 캡처된 승객 주의 데이터의 활용
CN105989749A (zh) 用于优先化驾驶员警报的系统和方法
US20200126418A1 (en) Method and system for vehicle location
CN111319628A (zh) 用于评估错误威胁检测的方法和系统
US11269069B2 (en) Sensors for determining object location
Ortiz et al. Applications and services using vehicular exteroceptive sensors: A survey
KR20230092673A (ko) 매핑에서의 향상된 시맨틱 라벨링을 위한 멀티 모달 분할 네트워크
US11904893B2 (en) Operating a vehicle
WO2023250290A1 (en) Post drop-off passenger assistance
KR20230085800A (ko) 햅틱 피드백을 사용한 차량 경보
US20230160778A1 (en) Systems and methods for measurement of optical vignetting
KR102624991B1 (ko) 승객의 특성에 기초한 차량 좌석 영역의 자동 조정
KR20230074395A (ko) 고충실도 데이터 기반 멀티모달 시뮬레이션
US20230128104A1 (en) Accessibility system for assisting a user in interacting with a vehicle
KR20230083192A (ko) 센서 데이터를 사용하여 자동으로 교통 신호 검출
KR102561976B1 (ko) 전환 가능한 바퀴 뷰 미러
US20240122780A1 (en) Autonomous vehicle with audio user guidance
US20240123822A1 (en) Controlling the operation of an autonomous vehicle based on detected passenger characteristics and behavior
WO2023204076A1 (ja) 音響制御方法及び音響制御装置
KR20230110145A (ko) 아이트래커 디바이스 및 라이다 포인트 클라이드 데이터를 사용하는 목표 결정
WO2024059307A1 (en) Ride experience enhancements with external services
KR20230093158A (ko) 에이전트 우선순위화를 위한 방법 및 시스템
Gorrepati et al. A Hierarchical Architecture for Semantic Sensing Information Representation

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E902 Notification of reason for refusal