JP2022093856A - 車両用装置、及び車両用装置が実行する方法 - Google Patents

車両用装置、及び車両用装置が実行する方法 Download PDF

Info

Publication number
JP2022093856A
JP2022093856A JP2020206569A JP2020206569A JP2022093856A JP 2022093856 A JP2022093856 A JP 2022093856A JP 2020206569 A JP2020206569 A JP 2020206569A JP 2020206569 A JP2020206569 A JP 2020206569A JP 2022093856 A JP2022093856 A JP 2022093856A
Authority
JP
Japan
Prior art keywords
vehicle
mobile terminal
wireless communication
passenger
short
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020206569A
Other languages
English (en)
Other versions
JP7547979B2 (ja
Inventor
久 小磯
Hisashi Koiso
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2020206569A priority Critical patent/JP7547979B2/ja
Priority to CN202180019539.XA priority patent/CN115244915B/zh
Priority to PCT/JP2021/034702 priority patent/WO2022130723A1/ja
Publication of JP2022093856A publication Critical patent/JP2022093856A/ja
Priority to US17/932,689 priority patent/US20230017282A1/en
Application granted granted Critical
Publication of JP7547979B2 publication Critical patent/JP7547979B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/593Recognising seat occupancy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041Portable telephones adapted for handsfree use
    • H04M1/6075Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/724098Interfacing with an on-board device of a vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/48Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for in-vehicle communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W84/00Network topologies
    • H04W84/02Hierarchically pre-organised networks, e.g. paging networks, cellular networks, WLAN [Wireless Local Area Network] or WLL [Wireless Local Loop]
    • H04W84/10Small scale networks; Flat hierarchical networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Telephone Function (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)

Abstract

【課題】車両内における、携帯端末を所持している搭乗者の利便性を向上させる。【解決手段】搭乗者検出部113は、車両の車室内を撮影するカメラ20が撮影した映像から、車両に搭乗している搭乗者の生体情報を識別するとともに、当該搭乗者の搭乗位置を特定する。判断部114は、搭乗者検出部113が識別した生体情報に紐付けられている携帯端末2が、近距離無線通信で接続可能な状態にあるか否かを判断する。決定部115は、判断部114が近距離無線通信で接続可能な状態にあると判断した携帯端末2が複数存在する場合、当該複数の携帯端末2に紐付けられている複数の生体情報で特定される複数の搭乗者の搭乗位置に基づいて、近距離無線通信で接続する携帯端末2を決定する。通信制御部116は、決定部115が決定した携帯端末2と本車両用装置を、近距離無線通信で接続する。【選択図】図2

Description

本発明は、カメラで撮影された映像が入力される車両用装置、及び車両用装置が実行する方法に関する。
自動車の運転中に、運転者が携帯端末(主に、スマートフォン、フィーチャーフォン)を手に持って通話等に使用することは法律や条例で禁止されている。この対策として、携帯端末と、車両側のハンズフリー対応機器を近距離無線通信で接続し、ハンズフリーで通話や操作を行う方法が利用されている。
通常、ハンズフリー用の車両側の機器は、直近の最後に接続していた携帯端末に自動接続するように設定されている。したがって、前回の運転者と別の運転者が運転する場合は、自動接続されず、新たな運転者の携帯端末を選択する操作が必要であった。また、新たな運転者が気付かずに運転していると、ハンズフリー機能が使用できない不便さがあった。
これに対して、ユーザの顔情報と携帯端末の識別情報を関連付けているテーブルを参照して、運転席カメラで撮影された運転者の顔を識別することにより、携帯端末との接続を自動確立する手法が提案されている(例えば、特許文献1参照)。なお、この運転席カメラでは、運転者以外の同乗者を含む車室内全体を撮影することはできない。
特開2008-042577号公報
例えば、運転者が一時的に降車した場合、車両側のハンズフリー対応機器の接続先が、運転者の携帯端末から、助手席に座っている同乗者の携帯端末に切り替わると便利である。
本実施形態はこうした状況に鑑みてなされたものであり、その目的は、車両内における、携帯端末を所持している搭乗者の利便性を向上させる技術を提供することにある。
上記課題を解決するために、本実施形態のある態様の車両用装置は、車両の車室内を撮影するカメラが撮影した映像から、前記車両に搭乗している搭乗者の生体情報を識別するとともに、当該搭乗者の搭乗位置を特定する搭乗者検出部と、前記搭乗者検出部が識別した生体情報に紐付けられている携帯端末が、近距離無線通信で接続可能な状態にあるか否かを判断する判断部と、前記判断部が前記近距離無線通信で接続可能な状態にあると判断した携帯端末が複数存在する場合、当該複数の携帯端末に紐付けられている複数の生体情報で特定される複数の搭乗者の搭乗位置に基づいて、前記近距離無線通信で接続する携帯端末を決定する決定部と、前記決定部が決定した携帯端末と本車両用装置を、前記近距離無線通信で接続する通信制御部と、を備える。
本実施形態の別の態様は、車両用装置が実行する方法である。この方法は、車両の車室内を撮影するカメラが撮影した映像から、前記車両に搭乗している搭乗者の生体情報を識別するとともに、当該搭乗者の搭乗位置を特定するステップと、識別された生体情報に紐付けられている携帯端末が、近距離無線通信で接続可能な状態にあるか否かを判断するステップと、前記近距離無線通信で接続可能な状態にあると判断された携帯端末が複数存在する場合、当該複数の携帯端末に紐付けられている複数の生体情報で特定される複数の搭乗者の搭乗位置に基づいて、前記近距離無線通信で接続する携帯端末を決定するステップと、決定された携帯端末と本車両用装置を、前記近距離無線通信で接続するステップと、を車両用装置が実行する。
なお、以上の構成要素の任意の組合せ、本実施形態の表現を装置、方法、システム、記録媒体、コンピュータプログラム等の間で変換したものもまた、本実施形態の態様として有効である。
本実施形態によれば、車両内における、携帯端末を所持している搭乗者の利便性を向上させることができる。
車両内におけるカメラの設置例を示す図である。 実施の形態に係る車両用ハンズフリー制御システムの構成例を説明するための図である。 ユーザリスト保持部に保持されるユーザリストの一例を示す図である。 車両内の搭乗者と搭乗位置の検出例を示す図である。 実施例1に係る車両用ハンズフリー制御装置の顔認証処理の流れを示すフローチャートである。 実施例2に係る車両用ハンズフリー制御装置の顔認証処理の流れを示すフローチャートである。 実施例2の変形例に係る車両用ハンズフリー制御装置の顔認証処理の流れを示すフローチャートである。
本実施の形態は、車両の搭乗者が所持する携帯端末のハンズフリー機能を実現するための車両用ハンズフリー制御システムに関する。実施の形態に係る車両用ハンズフリー制御システムでは、運転席だけでなく、助手席や後部座席を含む車室内を広範囲に撮影するカメラを使用する。
図1は、車両C1内におけるカメラ20の設置例を示す図である。図1に示す例ではカメラ20がルームミラーに取り付けられている。カメラ20は、ドライブレコーダや車室内モニタリングシステム(In-Cabin Monitoring System)で使用されるカメラを転用してもよいし、ハンズフリー制御システム専用のカメラを用意してもよい。
図2は、実施の形態に係る車両用ハンズフリー制御システム1の構成例を説明するための図である。車両用ハンズフリー制御システム1は、車両用ハンズフリー制御装置10、カメラ20、マイク30、スピーカ40、モニタ50及び操作部60を備える。
カメラ20は車室内を撮影し、撮影した映像を車両用ハンズフリー制御装置10に出力する。カメラ20は可視光カメラであってもよいし、赤外線カメラであってもよい。また、可視光域と赤外域の両方を撮影可能なカメラであってもよい。
カメラ20は、レンズ、撮像素子、信号処理回路を備える。撮像素子には例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサまたはCCD(Charge Coupled Device)イメージセンサを使用することができる。撮像素子は、レンズを介して入射される光を、電気的な映像信号に変換し、信号処理回路に出力する。赤外線映像を撮影する場合、赤外域に感度を有する撮像素子が使用される。信号処理回路は、撮像素子から入力される映像信号に対して、A/D変換、ノイズ除去等の信号処理を施し、車両用ハンズフリー制御装置10に出力する。
車両用ハンズフリー制御装置10は、処理部11、記憶部12、無線通信部13及び車内通信部14を備える。車両用ハンズフリー制御装置10は専用の筐体内に実装されてもよいし、カーナビゲーションシステム、ディスプレイオーディオ、ドライブレコーダ、又は車室内モニタリングシステムの一機能として組み込まれていてもよい。
処理部11は、画像認識部111、登録部112、搭乗者検出部113、判断部114、決定部115、通信制御部116及び機能制御部117を含む。処理部11の機能は、ハードウェア資源とソフトウェア資源の協働、又はハードウェア資源のみにより実現できる。ハードウェア資源として、CPU、ROM、RAM、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、ISP(Image Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、その他のLSIを利用できる。ソフトウェア資源としてファームウェア等のプログラムを利用できる。
記憶部12は、HDD(Hard Disk Drive)、SSD(Solid State Drive)等の不揮発性の記録媒体を含んで構成され、ユーザリスト保持部121を含む。ユーザリスト保持部121は、車両の搭乗者の顔認証データと、搭乗者が所持する携帯端末2に関する情報を紐付けて登録したリストである。ユーザリストには、運転免許証を所持している人物に限らず、運転免許証を所持しない人物も登録可能である。
図3は、ユーザリスト保持部121に保持されるユーザリストの一例を示す図である。図3に示すユーザリストには登録者ごとに、顔認証データと携帯端末2に関する情報が紐付けられて登録されている。携帯端末2に関する情報として、携帯端末2の名前と接続状態とAVソースが登録されている。接続状態として、ハンズフリー通話の使用/不使用、音楽の自動再生の有無、映像の自動再生の有無、データ通信の使用/不使用が登録されている。データ通信の使用/不使用は、車両用ハンズフリー制御装置10が、携帯端末2を通じて携帯電話網(4G/5G)を使用したデータ通信を行うか否かを規定している。例えば、データ通信を使用して、音楽や映像のストリーミング再生を行うことができる。
AVソースは、音楽再生が有り又は映像再生が有りの場合の、音楽データまたは映像データの供給源を示す。例えば、AVソースとして、携帯端末2に記憶されている音楽ファイルや映像ファイルを使用することができる。また、カーナビゲーションシステムやディスプレイオーディオに搭載されたチューナで受信されたラジオ放送やテレビ放送を使用することができる。また、カーナビゲーションシステムやディスプレイオーディオに挿入されたCD/DVDに記録された音声ファイルや映像ファイルを使用することができる。
また登録者ごとに、AV環境以外の車内環境を登録することもできる。例えば、運転席又は助手席に座った場合のシートポジション、エアコン状態等を登録することができる。エアコン状態として、冷房、暖房、送風の切り替え、設定温度等を登録することができる。さらに車内環境として、サイドミラーの位置等を登録することもできる。
図2に戻る。画像認識部111はカメラ20から入力される映像のフレーム画像内において、人物の顔検出用の識別器を用いて人物の顔を探索する。顔検出用の識別器には、人物の顔が映った多数の画像を学習して生成された辞書データが使用される。顔の認識には例えば、Haar-like特徴量、HOG(Histogram of Gradients)特徴量、LBP(Local Binary Patterns)特徴量等を用いることができる。
登録部112は、搭乗者の顔認証データと携帯端末2に関する情報をユーザリストに登録する。ユーザリストへの登録を希望する搭乗者は、前部座席に座った状態で、操作部60を操作して登録モードを起動させる。登録モードが起動すると、登録部112は画像認識部111に、フレーム画像内で検出した搭乗者の顔領域の特徴量を抽出して、当該搭乗者を識別するための顔認証データを生成するよう指示する。
登録部112は、画像認識部111から当該搭乗者の顔認証データを取得すると、通信制御部116に、当該搭乗者が所持する携帯端末2とのペアリング処理を開始させる。車両用ハンズフリー制御装置10と携帯端末2は近距離無線通信で接続することができる。近距離無線通信として、Bluetooth(登録商標)やWi-Fi(登録商標)を使用することができる。以下、本実施の形態ではBluetoothを使用する例を想定する。
登録部112は、スピーカ40及びモニタ50の少なくとも一方から、携帯端末2のペアリング手続きをガイダンスする。まず登録部112は、Bluetooth機能をオンにするようにガイダンスする。登録部112は、通信制御部116に指示して無線通信部13から、自己の存在を周囲に通知するための信号(例えば、アドバタイズパケット)を送信させる。携帯端末2が当該信号をスキャンすると、携帯端末2の画面に車両用ハンズフリー制御装置10が接続可能デバイスとして表示される。当該画面内において当該搭乗者が車両用ハンズフリー制御装置10を選択すると、携帯端末2と車両用ハンズフリー制御装置10間でペアリング処理が実行される。ペアリング処理では、両者の間の通信データの暗号化に使用する暗号鍵の交換が行われる。
携帯端末2とのペアリングが完了すると、登録部112は、通信制御部116を介して、携帯端末2の名前と識別情報を取得する。携帯端末2の名前は、ユーザにとって分かりやすい名前であることが好ましい。例えば、当該搭乗者が携帯端末2内の各種サービスで使用しているユーザアカウント名を使用してもよい。なお、携帯端末2から取得された名前が分かりにくい名前であった場合、当該搭乗者は操作部60から携帯端末2の名前を編集することができる。
当該搭乗者は操作部60から、上述した接続状態の設定項目を入力する。登録部112は、顔認証データと携帯端末の名前と接続状態の各項目を紐付けて、ユーザリスト保持部121内のユーザリストに登録する。なお、当該搭乗者は上述した車内環境の設定項目を入力することもできる。その場合、車内環境の各項目も紐付けて登録される。
搭乗者検出部113は、カメラ20から入力される映像内から、車両C1に搭乗している搭乗者の顔を識別する。具体的には搭乗者検出部113は、画像認識部111によりフレーム画像内で検出された搭乗者の顔の特徴データと、ユーザリストに登録されている複数の顔認証データを照合して、搭乗者の顔を特定する。
搭乗者検出部113は、車両C1に搭乗している少なくとも一人の搭乗者の搭乗位置を特定する。具体的には搭乗者検出部113は搭乗者ごとに、搭乗位置が運転席、助手席、右後部席、左後部席、後部中央席のいずれであるかを特定する。
図4は、車両C1内の搭乗者と搭乗位置の検出例を示す図である。図4に示すフレーム画像F1内において、画像認識部111は、運転席搭乗者用の検出領域A1内において人物の顔を検出すると運転席に搭乗者が存在すると認識する。同様に画像認識部111は、助手席搭乗用の検出領域A2内において人物の顔を検出すると助手席に搭乗者が存在すると認識する。同様に画像認識部111は、右後部席搭乗用の検出領域A3内において人物の顔を検出すると右後部席に搭乗者が存在すると認識する。同様に画像認識部111は、左後部席搭乗用の検出領域A4内において人物の顔を検出すると左後部席に搭乗者が存在すると認識する。なお、図4に示す車室内には存在しないが、後部中央席が存在する車両の場合、後部中央席搭乗用の検出領域も設定される。
図2に戻る。判断部114は、搭乗者検出部113が識別した搭乗者の顔に紐付けられている携帯端末2が、近距離無線通信で接続可能な状態にあるか否かを判断する。通信制御部116が当該携帯端末2を接続可能デバイスとして認識している場合、判断部114は当該携帯端末2を接続可能な状態にあると判断する。識別した搭乗者が携帯端末2を携帯していない場合、携帯端末2の電源がオフになっている場合、またはBluetooth機能がオフになっている場合、判断部114当該携帯端末2を接続可能な状態にないと判断する。
判断部114が接続可能な状態にあると判断した携帯端末2が複数存在する場合(即ち、複数の搭乗者がいる場合)、決定部115は、当該複数の携帯端末2に紐付けられている複数の顔認証データで特定される複数の搭乗者の搭乗位置に基づいて、接続する携帯端末2を決定する。具体的には決定部115は、搭乗者が着座している座席において優先順位が最も高い座席に座っている搭乗者の顔認証データに紐付けられている携帯端末2を、接続する携帯端末2に決定する。
例えば、座席の優先順位は運転席:1、助手席:2、右後部席:3、左後部席:4に設定される。この例では、運転者が降車した場合、助手席に座っている搭乗者の携帯端末2が車両用ハンズフリー制御装置10に接続されることになる。なお、座席の優先順位は設定変更可能である。例えば、役職の高い人物が右後部席に座る場合、優先順位を右後部席:1に設定してもよい。
無線通信部13はアンテナを含み、近距離無線通信方式で携帯端末2と信号を送受信する。車内通信部14は、車載ネットワーク3に接続するための通信処理を実行する。車載ネットワーク3として、CAN(Controller Area Network)、LIN(Local Interconnect Network)、Ethernet(登録商標)等を使用することができる。車載ネットワーク3には、エンジンや補機を制御するための各種のECU(Electronic Control Unit)4が接続される。例えば、シートポジションの位置を制御するためのECUも接続される。また、車載ネットワーク3には、車両C1内のエアコンディショナシステムの制御部も接続可能である。
図2に示す例では車載ネットワーク3に、無線キーシステムの受信機5bが接続されている。受信機5bは、運転者が所持する無線キー(スマートキー、インテリジェンスキー、リモートコントロールキー等とも呼称される)5aから無線信号を受信するための受信機である。
通信制御部116は無線通信部13を制御して、携帯端末2とのペアリング処理、ペアリング済みの携帯端末2との接続/切断処理、ペアリング済みの機器の管理等を行う。また通信制御部116は車内通信部14を制御して、車載ネットワーク3に接続された各種ECU4や機器との間で制御信号を送受信する。
機能制御部117は、車両用ハンズフリー制御システム1の各種機能(例えば、ハンズフリー通話機能、音声再生機能、映像再生機能等)を制御する。機能制御部117は、近距離無線通信で接続している携帯端末2内の機能も制御することができる。
マイク30は、車両C1内の音を収集して機能制御部117に出力する。本実施の形態では、ハンズフリー通話に使用することができる。マイク30は、車両C1内に複数設置されてもよい。例えば、前部座席と後部座席にそれぞれ1つ設置されてもよいし、座席ごとに設置されてもよい。なお、少なくとも1つのマイク30は、カーナビゲーションシステム、ディスプレイオーディオ、ドライブレコーダ、又は車室内モニタリングシステムのマイクを転用したものであってもよい。
スピーカ40は、機能制御部117から供給される音声データを再生して出力する。本実施の形態では、ハンズフリー通話に使用することができる。スピーカ40は、車両C1内に複数設置されてもよい。例えば、前部座席と後部座席にそれぞれ1つ設置されてもよいし、座席ごとに設置されてもよい。なお、少なくとも1つのスピーカ40は、カーナビゲーションシステム、ディスプレイオーディオ、カーオーディオシステム、ドライブレコーダ、または車室内モニタリングシステムのスピーカを転用したものであってもよい。
モニタ50は、機能制御部117から供給される映像データを再生して表示する。モニタ50には、液晶ディスプレイ、有機ELディスプレイ、ミニLEDディスプレイ等を使用することができる。モニタ50は、車両C1内に複数設置されてもよい。例えば、前部座席と後部座席にそれぞれ1つ設置されてもよいし、座席ごとに設置されてもよい。なお、少なくとも1つのモニタ50は、カーナビゲーションシステム、ディスプレイオーディオ、ドライブレコーダ、または車室内モニタリングシステムのモニタを転用したものであってもよい。
(実施例1)
図5は、実施例1に係る車両用ハンズフリー制御装置10の顔認証処理の流れを示すフローチャートである。実施例1は、車両C1内に運転者のみが搭乗している場合の例である。処理部11は、カメラ20で撮影された車室内の映像を取得する(S10)。画像認識部111は、取得された映像のフレーム画像内から運転席の位置に映っている搭乗者の顔を検出する(S11)。
搭乗者検出部113は、検出された搭乗者の顔の特徴データと、ユーザリストに登録されている複数の顔認証データを照合する(S12)。ユーザリスト内に一致する顔認証データが存在しない場合(S13:No)、顔認証処理を終了する。ユーザリスト内に一致する顔認証データが存在する場合(S13:Yes)、判断部114はユーザリストを参照して、一致した顔認証データに紐付けられている携帯端末2を特定し、当該携帯端末2と接続するように通信制御部116に要求する。
通信制御部116は当該要求を受けると、現在接続中の携帯端末2があるか否か確認する(S14)。現在接続中の携帯端末2がある場合(S14:Yes)、通信制御部116は現在接続中の携帯端末2との通信を切断する(S15)。現在接続中の携帯端末2がない場合(S14:No)、ステップS15の処理はスキップされる。通信制御部116は、判断部114から要求された携帯端末2と接続する(S16)。
判断部114は、ユーザリストを参照し、必要に応じて機能制御部117に対してAVソースの切り換え要求を行う。機能制御部117は、AVソースの切り換え要求を受けると、その要求に応じてAVソースを切り換える。機能制御部117は、切り換え後のAVソースから音声データ又は映像データを取得して、スピーカ40から音声を出力させる、又はモニタ50に映像を表示させる。
上記図3に示す例では、登録者No.1の登録情報は、携帯端末名:AAA、ハンズフリー通話:使用、音楽再生:有り、映像再生:無し、データ通信:使用、AVソース:携帯端末2である。搭乗者No.2の登録情報は、携帯端末名:BBB、ハンズフリー通話:使用、音楽再生:無し、映像再生:有り、データ通信:不使用、AVソース:テレビ放送である。
運転者が、登録者No.1から登録者No.2に入れ替わると、搭乗者検出部113は、画像内において運転席の位置に映っている搭乗者の顔の特徴データと、顔認証データ:FR0002との一致を確認する。判断部114は、通信制御部116に携帯端末AAAと切断し、携帯端末BBBと接続するように要求する。携帯端末BBBと接続後、機能制御部117は、AVソースを携帯端末2からテレビ放送に切り換える。機能制御部117は、運転席のシートポジションを登録者No.2用のポジションに切り換える。機能制御部117は、エアコンの設定を登録者No.2用の設定に切り換える。
機能制御部117は通信制御部116を介して、新たに接続が確立した携帯端末2の機能を制御することができる。例えば機能制御部117は、当該携帯端末2のサウンドモードをサイレントモードに切り替えることができる。
図5の処理の開始は任意のタイミングで開始されてもよいが、例えば、車両C1のエンジン始動などによって車両用ハンズフリー制御装置10に電力が供給されたときに開始する。また、車両用ハンズフリー制御装置10に電力が供給されている期間は、ステップS10からステップS12の処理を定期的に実行し、運転席の位置に映っている搭乗者が変更したことを検出する。
(実施例2)
図6は、実施例2に係る車両用ハンズフリー制御装置10の顔認証処理の流れを示すフローチャートである。以下の説明では、車両C1をある店の駐車場に停車させ、運転者がその店に入るため、運転者が車両C1から離れる場面を想定する。
処理部11は、カメラ20で撮影された車室内の映像を取得する(S20)。画像認識部111は、取得された映像のフレーム画像内から運転者の不在を検出すると(S21:Yes)、画像内に、照合していない他の搭乗者の顔が存在するか否か判定する(S23)。照合していない他の搭乗者の顔が存在しない場合(S23:No)、顔認証処理を終了する。つまり、運転中の携帯端末2との通信可能な状態が維持される。
照合していない他の搭乗者の顔が存在する場合(S23:Yes)、画像認識部111は、画像内から次に優先度が高い座席の位置に映っている搭乗者の顔を特定する(S24)。搭乗者検出部113は、特定された搭乗者の顔の特徴データと、ユーザリストに登録されている複数の顔認証データを照合する(S25)。
ユーザリスト内に一致する顔認証データが存在しない場合(S26:No)、ステップS23に遷移し、画像認識部111は、画像内から次に優先度が高い座席の位置に映っている搭乗者の顔を特定する(S24)。例えば、座席の優先度が、運転席:1、助手席:2、右後部席:3、左後部席:4に設定されている場合、運転者が不在になると、助手席→右後部席→左後部席の順で搭乗者の顔を照合する。
ステップS26において、ユーザリスト内に一致する顔認証データが存在する場合(S26:Yes)、判断部114はユーザリストを参照して、一致した顔認証データに紐付けられている携帯端末2を特定し、当該携帯端末2と接続するように通信制御部116に要求する。通信制御部116は当該要求を受けると、現在接続中の運転者の携帯端末2との通信を切断し(S27)、要求された携帯端末2と接続する(S28)。ステップS27の処理は、運転者の携帯端末2が近距離無線通信による通信可能範囲外にあり通信が切断されている場合はスキップされる。機能制御部117は、ユーザリストを参照して、顔認証された搭乗者の設定環境に切り換える。例えば、助手席又は後部座席に座っている搭乗者が、車両C1の外にいる運転者の携帯端末2からの着信に対して、ハンズフリーで応答することができる。
なお、マイク30が車両C1内に複数設置されている場合、機能制御部117は、ハンズフリー通話の際、新たに接続された携帯端末2を所持する搭乗者が座っている座席に最も近い位置に設置されたマイク30から車両C1内の話者音声を取得する。同様に、スピーカ40が車両C1内に複数設置されている場合、機能制御部117は、ハンズフリー通話の際、当該座席に最も近い位置に設置されたスピーカ40から相手方の話者音声を出力する。
機能制御部117は通信制御部116を介して、新たに接続が確立した携帯端末2の機能を制御することができる。例えば機能制御部117は、当該携帯端末2のサウンドモードをサイレントモードに切り替えることができる。
(実施例2の変形例)
図7は、実施例2の変形例に係る車両用ハンズフリー制御装置10の顔認証処理の流れを示すフローチャートである。図6に示したフローチャートでは、運転者が車両C1から降り、運転者が不在になる状況の例を説明した。この状況から、降りた運転者がすぐに運転席に戻ってくる場合もある。例えば、運転者が一旦降りて、トランクから荷物を降ろし、すぐに戻ってくるケース等が考えられる。
図7に示す変形例に係るフローチャートでは、図6に示したフローチャートに対して、ステップS22が追加される。画像認識部111が運転者の不在を検出すると(S21:Yes)、判断部114は車内通信部14を介して、受信機5bが無線キー5aから受信した電波の電波強度を取得する。判断部114は、取得した電波強度から受信機5bと無線キー5aとの間の距離を推定する。
判断部114は、推定した無線キー5aまでの距離と設定値を比較する(S22)。無線キー5aまでの距離が設定値を超える場合(S22:Yes)、ステップS23に遷移し、図6と同様に処理する。無線キー5aまでの距離が設定値を超える場合には、受信機5bが無線キー5aからの電波を受信できない場合も含む。無線キー5aまでの距離が設定値以下の場合(S22:No)、接続する携帯端末2の切り替えを行わず、運転者の携帯端末2との接続を維持する。
図7に示す例では、運転者の不在が検出された後、接続する携帯端末2の切り替え処理が発動される条件として、無線キー5aまでの距離が設定値を超えることを使用した。この点、当該切り替え処理の発動条件として、運転者の不在が検出されてから設定時間が経過したことを使用してもよい。また、当該切り替え処理の発動条件として、両者のAND条件を使用してもよい。また、当該切り替え処理の発動条件として、車両用ハンズフリー制御装置10から運転者が所持する携帯端末2までの距離が設定値を超えることを使用してもよい。また、当該切り替え処理の発動条件として、運転者が所持する携帯端末2までの距離が設定値を超えることと、運転者の不在が検出されてから設定時間が経過したことのAND条件を使用してもよい。
運転者の携帯端末2のバッテリ切れ、何らかの不具合、操作ミス等により、運転者が運転席に座っている状態でも、当該携帯端末2と車両用ハンズフリー制御装置10間の通信が途切れる場合がある。この場合、画像認識部111による運転者の不在を条件とせずに、通信制御部116が運転者の携帯端末2との通信不能を検出すると、ステップS23以下の接続する携帯端末2の切り替え処理が発動されてもよい。
以上説明したように本実施の形態によれば、車両C1内における、携帯端末2を所持している搭乗者の利便性を向上させることができる。具体的には、前回の運転者にかかわらず、今回の運転者の携帯端末2に自動接続でき、煩わしさが低減される。家族間や同僚間等で運転者が入れ替わる時にも、新たな運転者の携帯端末2に自動接続できる。また、運転者が車両C1から離れた場合でも、次に優先度の高い座席に座っている搭乗者の携帯端末2に自動接続でき、車両側のハンズフリー機能を有効活用できる。また、顔認証データの登録時に、携帯端末2内で使用されているユーザアカウント名を自動で入力できる。
以上、本発明を実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
上述した実施の形態では、機能制御部117が通信制御部116を介して、新たに接続が確立した携帯端末2のサウンドモードをサイレントモードに切り替える例を説明した。この点、機能制御部117は、制御する携帯端末2の機能を、搭乗者検出部113が検出した搭乗者の搭乗位置によって変更してもよい。例えば、機能制御部117は、運転席に座っている搭乗者の携帯端末2のサウンドモードはサイレントモードに切り替え、運転席以外に座っている搭乗者の携帯端末2のサウンドモードは設定を維持してもよい。
また上述した実施の形態では、画像認識部111はカメラ20から入力される映像のフレーム画像内において人物の顔を検出した。この点、画像内に映った個人を識別するために、顔以外の生体情報を認証対象としてもよい。例えば、生体情報として画像内に映った虹彩を使用してもよい。また、搭乗者が手のひらをカメラ20にかざすことにより、画像内に映った指紋や静脈を生体情報として使用してもよい。
また上述した実施の形態では、携帯端末2として通話機能を有するスマートフォン、フィーチャーフォンを想定した。この点、携帯端末2には、通話機能を有しないタブレット、携帯型音楽プレーヤ、携帯型ゲーム機等も含まれる。ハンズフリー機能が使用できない場合でも、これらの携帯端末2と近距離無線通信で接続することにより、これらの携帯端末2をAVソースとして使用することができる。
C1 車両、 1 車両用ハンズフリー制御システム、 2 携帯端末、 3 車載ネットワーク、 4 ECU、 5a 無線キー、 5b 受信機、 10 車両用ハンズフリー制御装置、 11 処理部、 111 画像認識部、 112 登録部、 113 搭乗者検出部、 114 判断部、 115 決定部、 116 通信制御部、 117 機能制御部、 12 記憶部、 121 ユーザリスト保持部、 13 無線通信部、 14 車内通信部、 20 カメラ、 30 マイク、 40 スピーカ、 50 モニタ、 60 操作部。

Claims (5)

  1. 車両の車室内を撮影するカメラが撮影した映像から、前記車両に搭乗している搭乗者の生体情報を識別するとともに、当該搭乗者の搭乗位置を特定する搭乗者検出部と、
    前記搭乗者検出部が識別した生体情報に紐付けられている携帯端末が、近距離無線通信で接続可能な状態にあるか否かを判断する判断部と、
    前記判断部が前記近距離無線通信で接続可能な状態にあると判断した携帯端末が複数存在する場合、当該複数の携帯端末に紐付けられている複数の生体情報で特定される複数の搭乗者の搭乗位置に基づいて、前記近距離無線通信で接続する携帯端末を決定する決定部と、
    前記決定部が決定した携帯端末と本車両用装置を、前記近距離無線通信で接続する通信制御部と、
    を備える、車両用装置。
  2. 前記決定部は、前記車両内の搭乗者が着座している座席において優先度が最も高い座席に座っている搭乗者の生体情報に紐付けられている携帯端末を、前記近距離無線通信で接続する携帯端末に決定する、
    請求項1に記載の車両用装置。
  3. 前記近距離無線通信で接続している携帯端末の機能を、前記車両用装置側から制御する機能制御部をさらに備え、
    前記機能制御部は、制御する携帯端末の機能を、前記搭乗者検出部が検出した搭乗者の搭乗位置によって変更する、
    請求項1または2に記載の車両用装置。
  4. 前記車両の運転席に搭乗している搭乗者の携帯端末と前記近距離無線通信で接続している状態において、前記搭乗者検出部が、前記車両の運転者の生体情報を識別できなくなった場合でも、前記運転者が所持する前記車両の無線キーまでの距離が設定値以下の場合は、前記通信制御部は、前記運転者の携帯端末との接続を継続する、
    請求項1から3のいずれか1項に記載の車両用装置。
  5. 車両の車室内を撮影するカメラが撮影した映像から、前記車両に搭乗している搭乗者の生体情報を識別するとともに、当該搭乗者の搭乗位置を特定するステップと、
    識別された生体情報に紐付けられている携帯端末が、近距離無線通信で接続可能な状態にあるか否かを判断するステップと、
    前記近距離無線通信で接続可能な状態にあると判断された携帯端末が複数存在する場合、当該複数の携帯端末に紐付けられている複数の生体情報で特定される複数の搭乗者の搭乗位置に基づいて、前記近距離無線通信で接続する携帯端末を決定するステップと、
    決定された携帯端末と本車両用装置を、前記近距離無線通信で接続するステップと、
    を車両用装置が実行する方法。
JP2020206569A 2020-12-14 2020-12-14 車両用ハンズフリー制御装置、及び車両用ハンズフリー制御装置が実行する方法 Active JP7547979B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020206569A JP7547979B2 (ja) 2020-12-14 2020-12-14 車両用ハンズフリー制御装置、及び車両用ハンズフリー制御装置が実行する方法
CN202180019539.XA CN115244915B (zh) 2020-12-14 2021-09-22 车用装置以及车用装置执行的方法
PCT/JP2021/034702 WO2022130723A1 (ja) 2020-12-14 2021-09-22 車両用装置、及び車両用装置が実行する方法
US17/932,689 US20230017282A1 (en) 2020-12-14 2022-09-16 Vehicle device and method executed by vehicle device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020206569A JP7547979B2 (ja) 2020-12-14 2020-12-14 車両用ハンズフリー制御装置、及び車両用ハンズフリー制御装置が実行する方法

Publications (2)

Publication Number Publication Date
JP2022093856A true JP2022093856A (ja) 2022-06-24
JP7547979B2 JP7547979B2 (ja) 2024-09-10

Family

ID=82059002

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020206569A Active JP7547979B2 (ja) 2020-12-14 2020-12-14 車両用ハンズフリー制御装置、及び車両用ハンズフリー制御装置が実行する方法

Country Status (4)

Country Link
US (1) US20230017282A1 (ja)
JP (1) JP7547979B2 (ja)
CN (1) CN115244915B (ja)
WO (1) WO2022130723A1 (ja)

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7104066B2 (en) 2003-08-19 2006-09-12 General Electric Company Combuster swirler assembly
JP2008042577A (ja) * 2006-08-07 2008-02-21 Toyota Motor Corp 車載装置
JP2009284442A (ja) 2008-05-26 2009-12-03 Fujitsu Ten Ltd 人物認証装置および人物認証方法
JP2011114741A (ja) 2009-11-30 2011-06-09 Equos Research Co Ltd 通信端末接続管理システム
JP2011135122A (ja) 2009-12-22 2011-07-07 Alpine Electronics Inc 車載機及び車載機における接続先切り替え方法
CN103502057B (zh) * 2011-05-25 2016-06-01 丰田自动车株式会社 车辆通信装置
JP5582578B2 (ja) * 2011-11-24 2014-09-03 オムロンオートモーティブエレクトロニクス株式会社 車両用携帯機および情報通信システム
JP5765290B2 (ja) * 2012-04-23 2015-08-19 株式会社デンソー 走行規制プログラム、携帯端末、車両用装置、車両用通信システム
JP5835124B2 (ja) 2012-06-21 2015-12-24 トヨタ自動車株式会社 車載端末および通信方法
US9608952B2 (en) 2012-12-14 2017-03-28 Intel Corporation Systems and methods for user device interaction
JP2014197823A (ja) * 2013-03-04 2014-10-16 株式会社デンソー 通信補助装置、及び通信システム
CN107027089B (zh) * 2016-01-29 2020-02-21 宇龙计算机通信科技(深圳)有限公司 一种车载蓝牙连接方法和装置
KR20180130672A (ko) 2017-05-30 2018-12-10 현대자동차주식회사 상황 기반 대화 개시 장치, 시스템, 차량 및 방법
WO2019049256A1 (ja) * 2017-09-07 2019-03-14 マクセル株式会社 携帯情報端末および車両設備制御システム
JP7119636B2 (ja) * 2018-06-22 2022-08-17 トヨタ自動車株式会社 車載端末、ユーザ端末、及び相乗り制御方法
CN111510886B (zh) 2020-04-20 2023-02-10 肇庆小鹏汽车有限公司 一种车载蓝牙控制方法、控制系统、车辆及存储介质

Also Published As

Publication number Publication date
WO2022130723A1 (ja) 2022-06-23
US20230017282A1 (en) 2023-01-19
CN115244915B (zh) 2024-04-26
JP7547979B2 (ja) 2024-09-10
CN115244915A (zh) 2022-10-25

Similar Documents

Publication Publication Date Title
US11778436B2 (en) Systems, methods, and devices for enforcing do not disturb functionality on mobile devices
US9177429B2 (en) Method and apparatus for assigning profile data to one or more vehicle sub-systems of a vehicle
US10271265B2 (en) Detecting mobile devices within a vehicle based on cellular data detected within the vehicle
US20100039224A1 (en) Biometrics information matching apparatus, biometrics information matching system, biometrics information matching method, person authentication apparatus, and person authentication method
US10861457B2 (en) Vehicle digital assistant authentication
US8755949B2 (en) Telematics system using human body communication, portable device having telematics function using human body communication, and method for providing telematics service using human body communication
CN111510886B (zh) 一种车载蓝牙控制方法、控制系统、车辆及存储介质
US20160150066A1 (en) Method and Apparatus for Providing In-Vehicle Bluetooth Pairing
JP2009284442A (ja) 人物認証装置および人物認証方法
US20070120948A1 (en) Device and method for telephone countermeasure in using telephone during driving
JP6061687B2 (ja) 車載装置、プログラムおよび表示方法
JP2008273370A (ja) 車両用オーディオビジュアル装置、車両用オーディオビジュアルシステム、装置識別方法、プログラム、記憶媒体
WO2021254141A1 (zh) 一种车辆交互方法和一种车辆
US11044566B2 (en) Vehicle external speaker system
US11645731B2 (en) Simplified authentication of mobile device by vehicle for shared or autonomous vehicles
US20050275510A1 (en) Vehicular anti-theft system capable of supplying images related to a vehicle status to an authorized driver
US20200180533A1 (en) Control system, server, in-vehicle control device, vehicle, and control method
JP2011172195A (ja) 車載機、携帯機器、および制御プログラム
JP2008042577A (ja) 車載装置
WO2022130723A1 (ja) 車両用装置、及び車両用装置が実行する方法
CN105430567A (zh) 汽车鸣笛音量调节方法及装置
CN104158566A (zh) 车载通信机构与无线耳机的连接控制方法及装置
CN114124528B (zh) 无线mcu和车辆配置系统
JP2004330965A (ja) 車室内ペット監視システム
JP6737548B2 (ja) 電子装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240812

R150 Certificate of patent or registration of utility model

Ref document number: 7547979

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150