JP2017123029A - 情報通知装置、情報通知方法及び情報通知プログラム - Google Patents

情報通知装置、情報通知方法及び情報通知プログラム Download PDF

Info

Publication number
JP2017123029A
JP2017123029A JP2016001349A JP2016001349A JP2017123029A JP 2017123029 A JP2017123029 A JP 2017123029A JP 2016001349 A JP2016001349 A JP 2016001349A JP 2016001349 A JP2016001349 A JP 2016001349A JP 2017123029 A JP2017123029 A JP 2017123029A
Authority
JP
Japan
Prior art keywords
notification
gaze
gaze degree
information notification
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016001349A
Other languages
English (en)
Inventor
康洋 青木
Yasuhiro Aoki
康洋 青木
水谷 政美
Masami Mizutani
政美 水谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016001349A priority Critical patent/JP2017123029A/ja
Priority to US15/384,657 priority patent/US9932000B2/en
Publication of JP2017123029A publication Critical patent/JP2017123029A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • B60R16/0231Circuits relating to the driving or the functioning of the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/197Matching; Classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Ophthalmology & Optometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】ディストラクションの発生を抑制すること。【解決手段】情報通知装置10は、通知制御部18でユーザ通知を受け付ける処理と、カメラ11により撮像される画像を用いて視線検出部15で視線検出を実行する処理と、視線検出の結果として得られる視線方向から所定の領域を注視する注視度を注視度算出部16で算出する処理とを行う。注視度が第1の閾値以上である場合には、注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で、ユーザ通知を実行する処理を行う。【選択図】図1

Description

本発明は、情報通知装置、情報通知方法及び情報通知プログラムに関する。
ICT(Information and Communication Technology)利用の進化、あるいは自動車のスマート化と共に、各種の車載装置の高機能化および多機能化が進展している。このような状況の下、スマートフォンやそれに接続された車載装置等でSNS(Social Networking Service)等を介して受信されるメッセージが車内に表示される場合がある。
ところが、ドライバの運転負荷、いわゆるワークロードが高い状況でメッセージが表示されると、ドライバがその表示に気をとられて運転への注意が散漫する結果、いわゆるディストラクションが発生し、運転に悪影響を与える場合もある。
かかるディストラクションへの対策の一例として、下記の情報表示システムが提案されている。この情報表示システムでは、車内LAN(Local Area Network)を介して車両制御系ECU(Engine Control Unit)群やナビゲーションECU等から取得される情報を用いて、運転負荷の大小を判定する負荷判定処理を実行する。例えば、後退中、コーナリング中、右左折中、車線変更中、あるいは加減速中である場合に運転負荷が大きいと判定したり、狭い道、スクールゾーン、カーブ、交差点/合流点、踏切、車間短い、混雑、視界不良である場合に運転負荷が大きいと判定したりする。
また、ドライバの負荷状態を測定する技術の一例として、発呼タイミング制御装置も提案されている。この発呼タイミング制御装置は、ドライバへの電話等の発呼タイミングを制御するものであるが、発呼タイミングの制御に下記2つのワークロードの測定方法が用いられる。
例えば、1つ目のワークロードの測定方法では、視線センサおよび車両センサにて取得したデータからワークロードを求めるための定量化モデルを生成しておき、定量化モデルに視線センサおよび車両センサにて取得したデータを適用してワークロードを計算する。この定量化モデルは、様々な状況(例えば、交差点、追い越し、オーディオ操作等)において視線センサや車両センサで得られる検知データと当該状況におけるワークロードの値の関係を、例えば、線形重回帰分析、主成分分析、因子分析などの統計的手法を用いて求めることにより作成される。さらに、様々な状況におけるワークロードの値は、例えば、事前に、ドライバに対して当該状況において感じるワークロードの値を評価してもらい、その評価値に基づいて決定される。また、ワークロードの値は、ドライバの主観的な評価に基づくのではなく、様々な状況においてドライバの生体信号(例えば、心拍数、血圧、呼吸の速さ等)を取得し、生体信号からワークロードの値が決定される。
また、2つ目のワークロードの測定方法では、視線センサ、車両センサ、道路属性解析部にて取得したデータをワークロードのデータに換算するためのワークロード換算テーブルを参照して、各センサで取得したデータをワークロードのデータに換算する。このワークロード換算テーブルには、運転操作、道路属性、機器操作、聴覚コンテンツや視線動作に対応するワークロードのデータが格納される。
特開2014−91440号公報 特開2010−282592号公報 特開2004−07095号公報 特開2000−211543号公報 特開2008−241309号公報 特開平10−244892号公報 特開2010−237954号公報
しかしながら、上記の技術では、ディストラクションの発生を抑制できない場合がある。
例えば、上記の情報表示システムでは、運転負荷が高い場面であるか否かが負荷判定処理で判定されるが、運転負荷が高い場面を事前に漏れなく列挙することは困難であり、負荷判定処理で挙げられた場面以外の場面ではディストラクションの発生を抑制できない。
また、上記の発呼タイミング制御装置が用いる1つ目のワークロードの測定方法では、次のような理由で適用場面が限定される。すなわち、ドライバには、個人差があるので、個々のドライバごとにモデルを推定する必要があるが、ドライバごとに主観評価値や生体信号データを収集することは非効率であり、汎用性に欠けるので、適用可能な場面が限定される。
また、上記の発呼タイミング制御装置が用いる2つ目のワークロードの測定方法では、各センサで取得されるデータをワークロードへ換算するのにワークロード換算テーブルが用いられる。このワークロード換算テーブルには、視線動作のデータをワークロードのデータに変換するものも含まれるが、当該ワークロード換算テーブルでは、一側面として、「まっすぐ前を見る」という視線動作には他の視線動作よりも低いワークロードが設定されている。ところが、ドライバが前方を見ているからといって必ずしもワークロードが低いとは限らない。なぜなら、ドライバが前方を見ている場合でも、先行車両がブレーキをかけるケースなどのように、前方を注視した方がよい場面、すなわちワークロードが高い場面が存在するからである。加えて、上述の通り、運転負荷が高い場面を事前に漏れなく列挙することは困難であり、ワークロード換算テーブルで挙げられた場面以外の場面ではディストラクションの発生を抑制できない。
1つの側面では、本発明は、ディストラクションの発生を抑制できる情報通知装置、情報通知方法及び情報通知プログラムを提供することを目的とする。
一態様では、情報通知装置は、ユーザ通知を受け付ける受付部と、カメラにより撮像される画像に視線検出を実行する視線検出部と、前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する注視度算出部と、前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する通知制御部とを有する。
ディストラクションの発生を抑制できる。
図1は、実施例1に係る情報通知装置の機能的構成を示すブロック図である。 図2は、実施例1に係る前方注視度の算出処理の手順を示すフローチャートである。 図3は、実施例1に係る通知制御処理の手順を示すフローチャートである。 図4は、実施例2に係る情報通知装置及び分析サーバを含むデータ分析システムの構成例を示す図である。 図5は、実施例2に係るデータ分析処理の手順を示すフローチャートである。 図6は、実施例3に係る情報通知装置及び分析サーバを含むデータ分析システムの構成例を示す図である。 図7は、前方注視度のヒストグラムの一例を示す図である。 図8は、実施例1〜実施例3に係る情報通知プログラムを実行するコンピュータのハードウェア構成例を示す図である。
以下に添付図面を参照して本願に係る情報通知装置、情報通知方法及び情報通知プログラムについて説明する。なお、この実施例は開示の技術を限定するものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
図1は、実施例1に係る情報通知装置の機能的構成を示すブロック図である。図1に示す情報通知装置10は、車載装置の一種であり、SNS(Social Networking Service)サーバ30等の通信サービスを介して携帯端末装置20が受信する着信メッセージを通知する情報通知サービスを提供するものである。かかる情報通知サービスの一環として、情報通知装置10は、着信メッセージの通知によりディストラクションが発生するのを抑制する通知制御を実現する。
図1に示すように、情報通知装置10は、携帯端末装置20と接続される。これら情報通知装置10及び携帯端末装置20は、有線または無線の任意の形態で接続することができる。例えば、情報通知装置10及び携帯端末装置20を有線で接続する場合、USB(Universal Serial Bus)やHDMI(登録商標)(High-Definition Multimedia Interface)を介して接続される。また、情報通知装置10及び携帯端末装置20を無線で接続する場合、BLE(Bluetooth(登録商標) Low Energy)などの近距離無線通信の他、Wi−Fi(登録商標)などの無線LAN(Local Area Network)を介して接続される。
さらに、携帯端末装置20は、ネットワーク5を介してSNSサーバ30と接続される。かかるネットワーク5には、有線または無線を問わず、インターネット(Internet)、LANやVPN(Virtual Private Network)などの任意の種類の通信網を採用できる。
SNSサーバ30は、ソーシャルネットワーキングサービスを提供するサービス提供者によって運営されるサーバ装置である。
一実施形態として、SNSサーバ30は、ソーシャルネットワーキングサービスの提供を受けるクライアント側のコミュニケーションアプリケーションがインストールされた携帯端末装置20に対し、各種のサービスを提供する。以下では、コミュニケーションアプリケーションのことを「コミュニケーションアプリ」と略記する場合がある。例えば、SNSサーバ30は、チャット形式のメッセージ交換サービスを始め、自分のプロフィールやアバターなどを公開するマイページ機能、SNS上で交流のある友人や知人を登録するアドレス帳の機能、マイページを訪問したユーザの履歴を参照できる訪問履歴の参照機能、ブログのように簡単にエントリを更新できる日記帳の機能などを提供できる。
携帯端末装置20は、可搬型の情報処理装置である。
一実施形態として、携帯端末装置20には、スマートフォン、携帯電話機やPHS(Personal Handyphone System)などの移動体通信端末のみならず、タブレット端末やスレート端末などを採用できる。例えば、携帯端末装置20には、各種のSNSのサービス事業者により提供されるクライアント用のコミュニケーションアプリがインストールされる。このようにコミュニケーションアプリが動作する環境が携帯端末装置20に用意された環境の下、携帯端末装置20は、一例として、SNSサーバ30が提供するメッセージ交換サービスを通じて、SNSを利用する他のユーザなどとの間でメッセージを送受信できる。
ここで、情報通知装置10は、上記の携帯端末装置20が接続されることにより、携帯端末装置20が提供する機能の一部または全部を利用することができる。例えば、情報通知装置10は、携帯端末装置20から情報通知装置10へ出力される画像データや音声データを情報通知装置10の表示部13やスピーカ12に表示出力または音声出力させることができる。この一環として、情報通知装置10は、SNSのユーザ間で上記のメッセージ交換サービスを通じて授受されるメッセージ、すなわち携帯端末装置20がSNSサーバ30を介して送受信する発信情報や着信情報などを通知することができる。
なお、以下では、あくまで一例として、SNSの着信メッセージの通知によりディストラクションが発生するのを抑制する通知制御について例示するが、上記の通知制御の適用範囲がこれに限定される訳ではない。すなわち、情報通知装置10が搭載される車両のドライバを始めとする乗員に対する通知であればよく、その通知の全般に上記の通知制御を適用できる。例えば、SNSの着信メッセージでなく、キャリア通信による着信メッセージを通知する場合にも、上記の通知制御を適用できる。また、上記の通知制御の適用範囲は、携帯端末装置20から供給される通知にも限定されない。例えば、図示しない他の車載装置、例えばナビゲーション装置やECU(Engine Control Unit)などから出力される通知にも、上記の通知制御を適用できる。この場合、必ずしも情報通知装置10が携帯端末装置20に接続されずともかまわない。
[情報通知装置10の構成]
図1に示すように、情報通知装置10は、カメラ11と、スピーカ12と、表示部13と、受付部14と、視線検出部15と、注視度算出部16と、視認判定部17と、通知制御部18とを有する。なお、図1には、データの入出力の関係を表す実線が示されているが、これは、説明の便宜上、最小限の部分について示されているに過ぎない。すなわち、各処理部に関するデータの入出力は、図示の例に限定されず、図示以外のデータの入出力、例えば処理部及び処理部の間、並びに、処理部及び外部装置の間のデータの入出力が行われることとしてもかまわない。
カメラ11は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を搭載する撮像デバイスである。
一実施形態として、カメラ11は、視線検出用の画像を撮像するのに用いられる。例えば、カメラ11は、視線検出の目標とする乗員、例えばドライバの顔の目の部分、すなわち角膜反射および瞳孔を所定の画素以上で撮像できる位置に設置される。このような設置状況の下、カメラ11は、カメラ11の近傍に配置された光源を制御することによって被写体に赤外線を照射させ、被写体からの反射光を受光した上でデジタル信号に変換された被写体の画像を後述の視線検出部15へ出力する。このとき、被写体に利用者の眼球が含まれる場合には、眼球からの光の反射がカメラ11によって捉えられ、眼球の瞳孔部分と、角膜反射が他の部分よりも明るく写った画像を得ることができる。
スピーカ12は、音声出力装置の一種である。
一実施形態として、スピーカ12は、1つまたは複数のスピーカを含むスピーカユニットとして実装することができる。このスピーカ12は、携帯端末装置20や他の車載装置から出力される音声データ、例えば着信音等を含む効果音、楽曲、案内音声などを音声出力することができる。なお、ここでは、音声出力装置の一例としてスピーカを例示したが、チャイムやベル等の他の音声出力装置で代用することもできる。
表示部13は、各種の情報を表示する表示デバイスである。
一実施形態として、表示部13には、投影により表示を実現するプロジェクタの他、発光により表示を実現する液晶ディスプレイや有機EL(electroluminescence)ディスプレイなどを採用することができる。ここでは、一例として、ドライバの前方の視野、例えば情報通知装置10が搭載される車両のフロントガラス等の任意のスクリーンに画像を投影することにより表示を実現するHUD(Head-Up Display)が表示部13として実装される場合を想定する。
受付部14は、各種の通知を受け付ける処理部である。
一実施形態として、受付部14は、携帯端末装置20がSNSサーバ30からメッセージを受信した場合、携帯端末装置20から携帯端末装置20で受信された着信メッセージの通知を受け付けることができる。ここでは、あくまで一例として、SNSの着信メッセージの通知を受け付ける場合を例示したが、これに限定されず、携帯端末装置20からキャリア通信による着信メッセージの通知を受け付けることとしてもよい。この他、受付部14は、図示しない他の車載装置、例えばナビゲーション装置やECUなどから各種の通知を受け付けることもできる。
視線検出部15は、視線検出を実行する処理部である。
一実施形態として、視線検出部15は、カメラ11から画像が取得される度に、当該画像に角膜反射法などのアルゴリズムを適用し、楕円状の眼球の瞳孔の中心位置及び角膜の曲率中心を結ぶ視線方向を検出する。ここでは、あくまで一例として、角膜反射法を用いて視線検出を実現する場合を例示したが、これ以外の方法を用いて視線検出を実現することもできる。例えば、視線検出部15は、フロントガラスを分割し、分割した領域を見る眼の形状を学習しておき、カメラ11から入力される被写体の画像から検出される眼の形状とテンプレートマッチングを実行することによって視線方向を検出することもできる。また、視線検出部15は、ドライバが装着するヘッドセットによって検出された視線方向を取得することとしてもかまわない。
注視度算出部16は、所定の領域への注視度を算出する処理部である。ここでは、一例として、ドライバの前方の注視度を算出する場合を想定する。ここで言う「前方」とは、情報通知装置10が搭載される車両が走行する車線の進行方向を指す。
一実施形態として、注視度算出部16は、視線検出部15により視線検出が実行される度に、視線検出部15により検出された視線方向がドライバの視野の前方に規定される前方領域内に含まれるか否かを判定する。例えば、視線検出の結果として眼球の瞳孔の中心位置及び角膜の曲率中心を結ぶ視線ベクトルが得られるとしたとき、注視度算出部16は、視線ベクトルと所定の前方直進ベクトルとがなす角度が所定の範囲内であるか否かを判定する。ここで言う「前方直進ベクトル」とは、情報通知装置10が搭載される車両が前方へ直進する方向であり、かつ水平面と平行な方向を持つベクトルを指す。
ここで、視線ベクトルと前方直進ベクトルとがなす角度が所定の範囲内である場合、視線検出部15により視線検出が実行された画像がカメラ11により撮像された時点でドライバが前方を視認していると判断できる。この場合、注視度算出部16は、視線検出部15により視線検出が実行された画像を前方視認画像へ分類する。一方、視線ベクトルと前方直進ベクトルとがなす角度が所定の範囲内でない場合、視線検出部15により視線検出が実行された画像がカメラ11により撮像された時点でドライバが前方を視認していないと判断できる。この場合、注視度算出部16は、視線検出部15により視線検出が実行された画像を前方視認画像へ分類しない。
このような分類の後、注視度算出部16は、過去の所定期間に対応するフレーム数あたりで前方視認画像に分類された画像のフレーム数の割合、すなわち「前方視認画像に分類されたフレーム数/所定期間に対応するフレーム数」を計算する。これによって、注視度算出部16は、「前方注視度」を算出する。ここで言う「所定期間」は、一例として、1度のわき見の所要時間を基準に設定することができる。例えば、1度のわき見時間は、2秒〜4秒と言われるので、所定期間を2秒〜4秒とすることができる。また、わき見時間は、走行環境や車速によって変わる。このため、車載のECU等から走行環境や車速などの情報を取得できる場合、走行環境や車速に応じて2秒〜4秒を伸縮させることにより、所定期間を補正することもできる。このように前方注視度が算出される度、最新の前方注視度が図示しない内部メモリのワークエリアに更新して保存される。
視認判定部17は、表示部13の表示が視認されたか否かを判定する処理部である。
一実施形態として、視認判定部17は、後述の通知制御部18により着信メッセージが表示された後、視線検出部15により視線検出が実行される度に、当該着信メッセージが表示されてから所定時間、例えば1分間以内に着信メッセージが視認されたか否かを監視する。例えば、視認判定部17は、視線検出部15による視線検出の結果として眼球の瞳孔の中心位置及び角膜の曲率中心を結ぶ視線ベクトルが得られる場合、当該視線ベクトルと情報通知装置10が搭載される車両のフロントガラスにより形成される面とが交わることを拘束条件とし、ドライバの注視点を算出する。その上で、視認判定部17は、表示部13がフロントガラス上に投影する着信メッセージの表示エリア内に視線ベクトルから算出されたドライバの注視点が含まれるか否かを判定する。このとき、所定時間が経過するまで着信メッセージの表示エリアにドライバの注視点が含まれなかった場合、ドライバにより着信メッセージが視認されていないと判断できる。
通知制御部18は、表示部13による表示出力およびスピーカ12による音声出力のうち少なくともいずれか1つによる通知を制御する処理部である。
一実施形態として、通知制御部18は、受付部14により着信メッセージが受け付けられた場合、注視度算出部16により内部メモリに保存された前方注視度を参照する。その上で、通知制御部18は、前方注視度と、2つの閾値T1及びT2のうち少なくともいずれか1つの閾値とを比較することにより、当該前方注視度が「低」、「中」及び「高」の3つのレベルのうちいずれかのレベルに属するのかを判定する。
これを具体的に説明すると、通知制御部18は、内部メモリに保存された前方注視度が閾値T1未満であるか否かを判定する。かかる閾値T1には、一例として、交差点や合流点などで左右または後方などの確認が行われた公算が高いと推定できる程度の値が設定される。このとき、通知制御部18は、前方注視度が閾値T1未満である場合、前方注視度をレベル「低」に分類する。このように、前方注視度がレベル「低」に分類される場合、ドライバは、周囲確認に迫られた状態であることから、運転負荷、いわゆるワークロードが高い状態であると推認できる。この場合、通知制御部18は、受付部14により着信メッセージが受け付けられたからといって着信メッセージを直ちに表示部13に表示させずに保留する。
一方、通知制御部18は、前方注視度が閾値T1以上である場合、当該前方注視度が閾値T1よりも大きい閾値T2以上であるか否かをさらに判定する。かかる閾値T2には、一例として、情報通知装置10が搭載される車両よりも前を先行して走行する先行車両の挙動が注視されている公算が高いと推定できる程度の値が設定される。このとき、前方注視度が閾値T2以上である場合には、前方注視度がレベル「高」に分類される一方で、前方注視度が閾値T2未満である場合には、前方注視度がレベル「中」に分類される。
ここで、前方注視度がレベル「中」に分類された場合、ドライバは、周囲確認に迫られておらず、また、先行車両の挙動を注視する状況にも迫られていない状態であることから、ワークロードが高い状態ではないと推認できる。この場合、通知制御部18は、着信メッセージに関する第1の通知、例えば携帯端末装置20で実施される通常形態の通知を実施する。例えば、通知制御部18は、着信メッセージを表示部13に表示出力させると共に当該着信メッセージの着信音をスピーカ12に音声出力させる。
一方、前方注視度がレベル「高」に分類された場合、ドライバは、先行車両の挙動を注視する状況に迫られた状態であることから、ワークロードが高い状態であると推認できる。この場合、前方注視度がレベル「低」に分類された場合と同様に、着信メッセージの表示を保留することもできるが、ここでは、一例として、上記の第1の通知よりも表示出力または音声出力の質または量が抑えられた第2の通知を実施する。例えば、通知制御部18は、第1の通知形態であれば着信音もスピーカ12から音声出力されるが、これは実施せずに、着信メッセージを表示部13に表示出力させる第2の通知を実行する。これによって、着信メッセージの通知を控えめに実施する。
このように、通知制御部18は、前方注視度がレベル「中」またはレベル「高」であるのかにより、着信メッセージを通知したり、あるいは控えめに通知を行ったりといった多段階の通知制御を実現できる。それ故、上記の発呼タイミング制御装置が用いる2つ目のワークロードの測定方法のように、ドライバが前方を視認しているからといってワークロードが低いとの判断を画一的に行うことを抑制できる。この結果、一側面として、ドライバが前方を視認している場合にディストラクションが発生するのを抑制できる。加えて、通知制御部18は、視線検出の結果から求まる前方注視度をレベル分けすることにより通知形態を切り替えるので、上記の背景技術で述べた各装置のように、ワークロードが高い場面を列挙せずとも通知制御を実現できる。それ故、通知制御部18が実現する通知制御は、上記の背景技術で述べた各装置ほど適用場面が限定されず、汎用性を高めることもできる。
また、通知制御部18は、第2の通知を実行した後、視認判定部17により所定時間内に着信メッセージの表示エリアが視認されなかったと判定された場合、着信メッセージの通知形態を第2の通知から第1の通知へ切り替える。これによって、着信メッセージの確認漏れを抑制できる。
なお、上記の受付部14、視線検出部15、注視度算出部16、視認判定部17及び通知制御部18などの処理部は、次のようにして実装できる。例えば、CPU(Central Processing Unit)などの中央処理装置に、上記の各処理部と同様の機能を発揮するプロセスをメモリ上に展開して実行させることにより実現できる。これらの処理部は、必ずしも中央処理装置で実行されずともよく、MPU(Micro Processing Unit)に実行させることとしてもよい。また、上記の各処理部は、ハードワイヤードロジックによっても実現できる。
また、上記の各処理部がワークエリアとして参照する主記憶装置には、一例として、各種の半導体メモリ素子、例えばDRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)やフラッシュメモリを採用できる。また、上記の各処理部が参照する記憶装置は、必ずしも主記憶装置でなくともよく、補助記憶装置であってもかまわない。この場合、HDD(Hard Disk Drive)、光ディスクやSSD(Solid State Drive)などを採用できる。
[処理の流れ]
次に、本実施例に係る情報通知装置10の処理の流れについて説明する。なお、ここでは、情報通知装置10が実行する(1)前方注視度の算出処理を説明した後に、(2)通知制御処理について説明することとする。
(1)前方注視度の算出処理
図2は、実施例1に係る前方注視度の算出処理の手順を示すフローチャートである。この処理は、一例として、カメラ11から画像が取得される限り、繰り返し実行される。図2に示すように、カメラ11から取得された画像を内部メモリに蓄積し(ステップS101)、視線検出部15は、ステップS101で内部メモリに蓄積された画像から視線方向を検出する(ステップS102)。
このとき、ステップS102で検出された視線方向がドライバの視野の前方に規定される前方領域内に含まれる場合(ステップS103Yes)、ステップS102で視線検出が実行された画像が前方視認画像へ分類される。この場合、注視度算出部16は、前方視認画像のフレーム数をカウントするカウンタkの値を1つインクリメントすると共に、内部メモリに蓄積される画像のフレーム数をカウントするカウンタmの値を1つインクリメントする(ステップS104及びステップS105)。
一方、ステップS102で検出された視線方向がドライバの視野の前方に規定される前方領域内に含まれない場合(ステップS103No)、ステップS102で視線検出が実行された画像は前方視認画像へ分類されない。この場合、注視度算出部16は、前方視認画像のフレーム数をカウントするカウンタkの値はインクリメントせずに、内部メモリに蓄積される画像のフレーム数をカウントするカウンタmの値を1つインクリメントする(ステップS105)。
その後、注視度算出部16は、内部メモリに蓄積された画像のフレーム数、すなわちカウンタmの値が所定期間に対応するフレーム数Nであるか否かを判定する(ステップS106)。なお、内部メモリに蓄積された画像のフレーム数が所定期間に対応するフレーム数Nでない場合(ステップS106No)、図2に示す処理が起動されてから所定期間が経過していないことがわかる。この場合、ステップS101の処理に移行する。
一方、内部メモリに蓄積された画像のフレーム数が所定期間に対応するフレーム数Nである場合(ステップS106Yes)、注視度算出部16は、次のような処理を実行する。すなわち、注視度算出部16は、所定期間に対応するフレーム数Nあたりで前方視認画像に分類された画像のフレーム数kの割合、すなわちk/Nを計算することにより「前方注視度」を算出する(ステップS107)。
続いて、注視度算出部16は、ステップS107で算出された前方注視度を内部メモリに上書き更新する(ステップS108)。さらに、注視度算出部16は、内部メモリに蓄積された画像のうち撮像時刻が最も古い画像を削除し(ステップS109)、内部メモリに蓄積される画像のフレーム数をカウントするカウンタmの値を1つデクリメントする(ステップS110)。
このとき、ステップS109で削除された画像が前方視認画像である場合(ステップS111Yes)、注視度算出部16は、前方視認画像のフレーム数をカウントするカウンタkの値を1つデクリメントし(ステップS112)、ステップS101の処理へ移行する。なお、ステップS109で削除された画像が前方視認画像でない場合(ステップS111No)、カウンタkの値は更新せずに、ステップS101の処理へ移行する。
(2)通知制御処理
図3は、実施例1に係る通知制御処理の手順を示すフローチャートである。この処理は、一例として、受付部14により着信メッセージなどの通知が受け付けられた場合に実行される。
図3に示すように、着信メッセージなどの通知が受け付けられると(ステップS301)、通知制御部18は、注視度算出部16により内部メモリに保存された前方注視度を参照する(ステップS302)。
続いて、通知制御部18は、ステップS302で参照された前方注視度が閾値T1未満であるか否かを判定する(ステップS303)。このとき、前方注視度が閾値T1未満である場合(ステップS303Yes)、前方注視度がレベル「低」に分類される。このように、前方注視度がレベル「低」に分類される場合、ドライバは、周囲確認に迫られた状態であることから、ワークロードが高い状態であると推認できる。この場合、ステップS301で着信メッセージが受け付けられたからといって着信メッセージを直ちに表示部13に表示させずに保留し、ステップS302の処理へ戻り、図2に示したステップS108で更新される前方注視度を改めて参照する。
一方、前方注視度が閾値T1以上である場合(ステップS303No)、通知制御部18は、当該前方注視度が閾値T1よりも大きい閾値T2以上であるか否かをさらに判定する(ステップS304)。このとき、前方注視度が閾値T2以上である場合(ステップS304Yes)には、前方注視度がレベル「高」に分類される一方で、前方注視度が閾値T2未満である場合(ステップS304No)には、前方注視度がレベル「中」に分類される。
ここで、前方注視度がレベル「高」に分類された場合(ステップS304Yes)、ドライバは、先行車両の挙動を注視する状況に迫られた状態であることから、ワークロードが高い状態であると推認できる。この場合、通知制御部18は、着信メッセージの着信音をスピーカ12から音声出力させるのを控え、着信メッセージを表示部13に表示出力させるに留める第2の通知を実行する。これによって、着信メッセージの通知を控えめに実施する(ステップS305)。
その後、所定時間内に着信メッセージの表示エリアが視認されなかった場合(ステップS306No)、通知制御部18は、着信メッセージの着信音をスピーカ12から音声出力させると共に着信メッセージを表示部13に表示出力させることにより、着信メッセージの通知形態を第2の通知から第1の通知へ切り替える(ステップS307)。なお、所定時間内に着信メッセージの表示エリアが視認された場合(ステップS306Yes)、着信メッセージの通知形態を第2の通知から第1の通知へ切り替えずにそのまま処理を終了する。
一方、前方注視度がレベル「中」に分類された場合(ステップS304No)、ドライバは、周囲確認に迫られておらず、また、先行車両の挙動を注視する状況にも迫られていない状態であることから、ワークロードが高い状態ではないと推認できる。この場合、通知制御部18は、着信メッセージを表示部13に表示出力させると共に当該着信メッセージの着信音をスピーカ12に音声出力させる第1の通知を実行し(ステップS307)、そのまま処理を終了する。
[効果の一側面]
上述してきたように、本実施例に係る情報通知装置10は、ドライバが撮像された画像に対する視線検出で得た視線方向から求まる前方注視度が所定の閾値以上である場合に着信メッセージ等のユーザ通知を控えめに行う通知制御を実現する。したがって、本実施例に係る情報通知装置10によれば、ディストラクションの発生を抑制できる。
さて、本実施例では、前方注視度のデータ分析サービスをさらに提供する場合について説明する。図4は、実施例2に係る情報通知装置40及び分析サーバ50を含むデータ分析システム2の構成例を示す図である。図4に示すように、データ分析システム2は、情報通知装置40とネットワーク5を介して接続される分析サーバ50を有すると共に、情報通知装置40がアップロード部41をさらに有する点が図1に示した例と異なる。なお、図4では、図1に示した機能部と同一の機能を発揮する機能部に同一の符号を付し、その説明を省略する。
アップロード部41は、情報通知装置40から分析サーバ50へデータをアップロードする処理部である。
一実施形態として、アップロード部41は、注視度算出部16により算出される前方注視度を分析サーバ50へアップロードする。このとき、アップロード部41は、注視度算出部16により前方注視度が算出される度に前方注視度をアップロードすることもできるし、所定の定期時刻になることを条件にそれまでに蓄積された前方注視度をアップロードすることもできる。また、アップロード部41は、前回のアップロードが行われてから所定の周期、例えば1分間などが経過することを条件に、前回にアップロードが行われてからこれまでに蓄積された前方注視度をアップロードすることもできる。
なお、以下では、あくまで一例として、注視度算出部16により前方注視度が算出される度にアップロードが実行される場合を想定して以下の説明を行う。
分析サーバ50は、上記のデータ分析サービスを情報通知装置40へ提供するサーバ装置である。
一実施形態として、分析サーバ50は、パッケージソフトウェアやオンラインソフトウェアとして上記のデータ分析サービスを実現する分析プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、分析サーバ50は、上記のデータ分析サービスを提供するWebサーバとして実装することとしてもよいし、アウトソーシングによって上記のデータ分析サービスを提供するクラウドとして実装することとしてもかまわない。
図5は、実施例2に係るデータ分析処理の手順を示すフローチャートである。この処理は、一例として、情報通知装置40から前方注視度がアップロードされた場合に実行される。図5に示すように、アップロード部41からアップロードされた前方注視度を受信すると(ステップS501)、分析サーバ50は、ステップS501が行われた時点から遡って所定の分析期間、例えば1分間に渡って受信された前方注視度ごとに、当該前方注視度の値が「低」、「中」及び「高」の3つのレベルのうち該当するレベルの度数を累計する(ステップS502)。
続いて、分析サーバ50は、「低」、「中」及び「高」の3つのレベルごとに、当該レベルの度数が所定の分析期間に受信された前方注視度の総数に占める割合を算出する(ステップS503)。
その後、分析サーバ50は、レベル「中」の度数の割合がレベル「低」の度数の割合未満であるか否かを判定する(ステップS504)。ここで、レベル「中」の度数の割合がレベル「低」の度数の割合未満である場合(ステップS504Yes)、次のような判断が可能となる。すなわち、適正な運転がなされている場合、レベル「中」の度数の割合はレベル「低」の度数の割合よりも高くなる公算が高いので、レベル「中」の度数の割合がレベル「低」の度数の割合未満である場合、ドライバがわき見しがちな傾向にあると推認できる。
この場合、分析サーバ50は、SNSサーバ30を制御し、わき見に関する注意を喚起するメッセージをSNSサーバ30から情報通知装置40へ送信させ(ステップS505)、処理を終了する。
また、レベル「中」の度数の割合がレベル「低」の度数の割合未満でない場合(ステップS504No)、分析サーバ50は、レベル「中」の度数の割合がレベル「高」の度数の割合未満であるか否かを判定する(ステップS506)。
ここで、レベル「中」の度数の割合がレベル「高」の度数の割合未満である場合(ステップS506Yes)、次のような判断が可能となる。すなわち、適正な運転がなされている場合、レベル「中」の度数の割合はレベル「高」の度数の割合よりも高くなる公算が高いので、レベル「中」の度数の割合がレベル「高」の度数の割合未満である場合、ドライバが周囲確認を行わずに前方を注視しすぎている傾向にあると推認できる。
この場合、分析サーバ50は、SNSサーバ30を制御し、周囲確認を喚起するメッセージをSNSサーバ30から情報通知装置40へ送信させ(ステップS507)、処理を終了する。
なお、レベル「中」の度数の割合がレベル「低」の度数の割合未満でなく、かつレベル「中」の度数の割合がレベル「高」の度数の割合未満でない場合(ステップS504NoかつステップS506No)、これはレベル「中」の度数の割合が最高であることを意味する。この場合、適正な運転がなされている公算が高いので、わき見や周囲確認を喚起するメッセージは通知せず、ステップS501の処理へ戻り、以降の処理を繰り返す。
[効果の一側面]
上述してきたように、本実施例に係る分析サーバ50は、レベル「中」の度数の割合がレベル「低」の度数の割合未満である場合にわき見注意を促す分析結果を情報通知装置40へ提供する一方で、レベル「中」の度数の割合がレベル「高」の度数の割合未満である場合に周囲確認を促す分析結果を情報通知装置40へ提供する。したがって、本実施例に係る分析サーバ50によれば、ドライバへの運転支援を実現することが可能になる。
さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。
[アップロード情報]
上記の実施例2では、情報通知装置40から分析サーバ50へ前方注視度がアップロードされる場合を例示したが、これはアップロードが行われる情報の種類を限定するものではない。例えば、情報通知装置は、前方注視度以外にも、他の車載装置、例えばナビゲーション装置やECUなどにより出力されるデータをアップロードすることもできる。
図6は、実施例3に係る情報通知装置60及び分析サーバ70を含むデータ分析システム3の構成例を示す図である。図6に示すように、データ分析システム3は、図4に示したデータ分析システム2と比べて、情報通知装置60がCAN(Controller Area Network)・位置取得部61をさらに有する点と、分析サーバ70により実行される分析内容が異なる。なお、図6では、図4に示した機能部と同一の機能を発揮する機能部に同一の符号を付し、その説明を省略する。
CAN・位置取得部61は、CANデータや位置データを取得する処理部である。
一実施形態として、CAN・位置取得部61は、CAN等の車載ネットワークを介して接続されるECUから車速等の車両データを取得することができる。この他、CAN・位置取得部61は、ナビゲーション装置等に搭載されるGPS(Global Positioning System)受信機により測定される位置データを取得することもできる。
分析サーバ70は、CAN・位置取得部61からアップロード部41を介してアップロードされる車両データや位置データを用いることにより、次のような分析が可能になる。
図6には、1つの情報通知装置60が分析サーバ70に収容される場合が図示されているが、図示の例に限定されず、実際には、分析サーバ70は多数の情報通知装置60を収容することができる。このように多数の情報通知装置60が分析サーバ70に収容される場合、分析サーバ70では、上記の車両データ及び上記の位置データを含むビッグデータを多数の情報通知装置60から取得することも可能である。ここでは、一例として、車速の時系列データ、例えば時間および車速が対応付けられたデータが車両データとして取得されると共に、位置の時系列データ、例えば時間および位置(所定の座標系における座標、例えば緯度および経度など)が対応付けられたデータが位置データとして取得される場合を想定する。
これら車両データ及び位置データが取得された状況の下、分析サーバ70は、走行中にわき見が多発する地点を割り出すことができる。具体的には、分析サーバ70は、車両データに含まれる車速が所定値以上である場合、車両が走行中であると判断し、当該走行中である期間を識別する。続いて、分析サーバ70は、情報通知装置60からアップロードされる前方注視度のうち走行中である期間に算出された前方注視度ごとに当該前方注視度が「低」に分類される時刻にわき見のラベルを割り当てる。そして、分析サーバ70は、位置データに含まれる位置のうちわき見のラベルが割り当てられた時刻に対応する位置をわき見イベントの発生地点と識別する。その上で、分析サーバ70は、先に識別されたわき見イベントの発生地点を蓄積することにより次のようなサービスを提供することが可能になる。例えば、分析サーバ70は、各情報通知装置60からアップロードされた情報から割り出されたわき見イベントの発生地点を道路地図上にマッピングすることにより、道路地図における路線のわき見状況を把握させることができる。さらに、分析サーバ70は、所定数以上のわき見イベントが発生しているノードやリンクをわき見イベントの多発地点として道路地図上にマッピングすることにより、道路地図上におけるわき見の多発地点を把握させることもできる。
また、図6では、情報通知装置60から分析サーバ70へ車両データや位置データがアップロードされる場合を例示したが、視認判定部17による判定結果をアップロードさせることもできる。例えば、情報通知装置60は、SNSサーバ30から情報通知装置60へ送信された広告メッセージがドライバにより視認されたか否かを判定する。これによって、ドライバのその広告に対する興味関心を分析することができる。
[閾値の設定方法]
図6に示す通り、前方注視度に加え、車両データや位置データが分析サーバ70へ収集される場合、分析サーバ70は、前方注視度、車両データ及び位置データを用いて、各実施例に示す情報通知装置10、40及び60の通知制御部18が前方注視度の分類に用いる閾値T1および閾値T2を設定することもできる。ここでは、車両データの一例として、車間距離の時系列データ、例えば時間および車間距離が対応付けられたデータが車両データとしてアップロードされる場合を想定して説明を行う。
例えば、分析サーバ70は、レベル「高」、「中」および「低」に対応する場面のデータサンプルごとに前方注視度のヒストグラムを生成する。具体的は、分析サーバ70は、位置データのサンプルのうち位置が図示しない道路ネットワークデータに含まれるノードの中でも交差点に対応する位置を含むサンプルを判別する。そして、分析サーバ70は、先に判別された位置データのサンプルに含まれる時刻を検索キーとし、情報通知装置60からアップロードされる前方注視度のサンプルのうち検索キーとする時刻に算出された前方注視度のサンプルを抽出する。その上で、分析サーバ70は、先に抽出された前方注視度のサンプルから「交差点」に関する前方注視度のヒストグラムを生成する。
さらに、分析サーバ70は、車両データのサンプルのうち車間距離が所定値以内であるサンプルを判別する。そして、分析サーバ70は、先に判別された車両データのサンプルに含まれる時刻を検索キーとし、情報通知装置60からアップロードされる前方注視度のサンプルのうち検索キーとする時刻に算出された前方注視度のサンプルを抽出する。その上で、分析サーバ70は、先に抽出された前方注視度のサンプルから「先行車両有り」に関する前方注視度のヒストグラムを生成する。
また、分析サーバ70は、情報通知装置60からアップロードされる前方注視度のサンプルのうち、「交差点」に関する前方注視度のヒストグラム及び「先行車両有り」に関する前方注視度のヒストグラムのいずれのヒストグラムの生成にも使用されなかったサンプルを抽出する。その上で、分析サーバ70は、先に抽出された前方注視度のサンプルから「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラムを生成する。
これら3つの前方注視度のヒストグラムを用いて、分析サーバ70は、前方注視度を3つのレベル「高」、「中」および「低」へ分類する閾値T1及び閾値T2を算出することができる。図7は、前方注視度のヒストグラムの一例を示す図である。図7の上段には、「交差点」に関する前方注視度のヒストグラム(A)が示されると共に、図7の中段には、「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラム(B)が示されている。さらに、図7の下段には、「先行車両有り」に関する前方注視度のヒストグラム(C)が示されている。
図7に示す通り、「交差点」に関する前方注視度のヒストグラム(A)は、交差点であるので、周囲確認が必要な高負荷状態の典型であり、「先行車両有り」に関する前方注視度のヒストグラム(C)は先行車が存在するので、前方注視が必要な高負荷状態の典型である。また、「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラム(B)はそれ以外の場合であるから、蓄積することで平均的な(高負荷でない)状態の度数分布になる。よって、(A)、(B)及び(C)の度数分布は、最頻値がそれぞれ異なる。つまり、これらの度数分布を重ねると、3つの山ができる。
そこで、分析サーバ70は、先述の2つの閾値T1及び閾値T2の決定方法として、3つの山により形成される、2つの谷の値を閾値T1及び閾値T2として設定することができる。例えば、図7の中段には、「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラム(B)が実線で示される一方で、「交差点」に関する前方注視度のヒストグラム(A)が一点鎖線で示されると共に、「先行車両有り」に関する前方注視度のヒストグラム(C)が破線で示されている。これら3つのヒストグラムの下、分析サーバ70は、「交差点」に関する前方注視度のヒストグラム(A)の曲線と、「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラム(B)の曲線とが交わる交点を閾値T1に設定する。さらに、分析サーバ70は、「交差点以外かつ先行車両無し」に関する前方注視度のヒストグラム(B)の曲線と、「先行車両有り」に関する前方注視度のヒストグラム(C)の曲線とが交わる交点を閾値T2に設定する。このように設定された閾値T1及び閾値T2は、前方注視度の送信元の情報通知装置60へ送信された上で、通知制御部18が前方注視度の分類を参照する内部メモリのワークエリアへ設定される。
このように、上記3つのヒストグラムを用いて閾値T1及び閾値T2を設定する場合、個人特性に合わせて前方注視度を分類する閾値を設定できる結果、疲労や緊張等に伴うわき見や過剰な周囲確認などをより精度良く判定できる。
[通知形態]
上記の実施例1及び2では、第1の通知を着信メッセージの表示出力+効果音の音声出力とし、第2の通知を着信メッセージの表示出力とすることにより、第1の通知および第2の通知の差別化を実現する場合を例示したが、他の方法により、両者の差別化を実現することもできる。例えば、第1の通知を詳細表示とし、第2の通知を簡略表示とすることにより、第1の通知および第2の通知の差別化を実現することもできる。この場合、第1の通知では、例えば、着信メッセージの内容、例えばタイトルや本文を全て表示する一方で、第2の通知では、例えば、タイトルだけを表示したり、本文の一部だけを表示したり、未読の着信メッセージの存在を表すマークだけを表示したりすることができる。
[通知内容]
上記の実施例1及び2では、着信メッセージを通知する場合について説明したが、通知内容はメッセージに限定されず、メッセージ以外の表示出力にも上記の通知制御を適用できる。例えば、マークによる通知が行われる場合にも上記の通知制御を適用できる。この場合、マークのサイズを第1の通知よりも小さくすることにより第2の通知を実現したり、マークの色を第1の通知よりも彩度等を下げることにより第2の通知を実現することができる。この他、必ずしも表示出力による通知に限定されず、音声出力による通知にも上記の通知制御を適用できる。例えば、通知の音量を第1の通知よりも小さくすることにより第2の通知を実現したり、通知のテンポを第1の通知よりも遅くすることにより第2の通知を実現したり、あるいは通知音の周波数を下げることにより第2の通知を実現したりすることができる。
[スタンドアローン]
上記の実施例2及び3では、分析サーバ50及び70が上記のデータ分析サービスを情報通知装置40または60へ提供する場合を例示したが、データ分析サービスは必ずしもクライアントサーバシステムで提供されずともかまわない。すなわち、情報通知装置40または60は、実施例2及び3で説明したデータ分析サービスをスタンドアローンで実行することもできる。
[分散および統合]
また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されておらずともよい。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、受付部14、視線検出部15、注視度算出部16、視認判定部17又は通知制御部18を情報通知装置10、40または60の外部装置としてネットワーク経由で接続するようにしてもよい。また、受付部14、視線検出部15、注視度算出部16、視認判定部17又は通知制御部18を別の装置がそれぞれ有し、ネットワーク接続されて協働することで、上記の情報通知装置10、40または60の機能を実現するようにしてもよい。
[情報通知プログラム]
また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図8を用いて、上記の実施例と同様の機能を有する情報通知プログラムを実行するコンピュータの一例について説明する。
図8は、実施例1〜実施例3に係る情報通知プログラムを実行するコンピュータのハードウェア構成例を示す図である。図8に示すように、コンピュータ100は、操作部110aと、スピーカ110bと、カメラ110cと、ディスプレイ120と、通信部130とを有する。さらに、このコンピュータ100は、CPU150と、ROM160と、HDD170と、RAM180とを有する。これら110〜180の各部はバス140を介して接続される。
HDD170には、図8に示すように、上記の実施例1〜3で示した受付部14、視線検出部15、注視度算出部16、視認判定部17及び通知制御部18と同様の機能を発揮する情報通知プログラム170aが記憶される。この情報通知プログラム170aは、図1、図4または図6に示した受付部14、視線検出部15、注視度算出部16、視認判定部17及び通知制御部18の各構成要素と同様、統合又は分離してもかまわない。すなわち、HDD170には、必ずしも上記の実施例1〜3で示した全てのデータが格納されずともよく、処理に用いるデータがHDD170に格納されればよい。
このような環境の下、CPU150は、HDD170から情報通知プログラム170aを読み出した上でRAM180へ展開する。この結果、情報通知プログラム170aは、図8に示すように、情報表示プロセス180aとして機能する。この情報表示プロセス180aは、RAM180が有する記憶領域のうち情報表示プロセス180aに割り当てられた領域にHDD170から読み出した各種データを展開し、この展開した各種データを用いて各種の処理を実行する。例えば、情報表示プロセス180aが実行する処理の一例として、図2、図3や図5に示す処理などが含まれる。なお、CPU150では、必ずしも上記の実施例1で示した全ての処理部が動作せずともよく、実行対象とする処理に対応する処理部が仮想的に実現されればよい。
なお、上記の情報通知プログラム170aは、必ずしも最初からHDD170やROM160に記憶されておらずともかまわない。例えば、コンピュータ100に挿入されるフレキシブルディスク、いわゆるFD、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に情報通知プログラム170aを記憶させる。そして、コンピュータ100がこれらの可搬用の物理媒体から情報通知プログラム170aを取得して実行するようにしてもよい。また、公衆回線、インターネット、LAN、WANなどを介してコンピュータ100に接続される他のコンピュータまたはサーバ装置などに情報通知プログラム170aを記憶させておき、コンピュータ100がこれらから情報通知プログラム170aを取得して実行するようにしてもよい。
以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)ユーザ通知を受け付ける受付部と、
カメラにより撮像される画像に視線検出を実行する視線検出部と、
前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する注視度算出部と、
前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する通知制御部と
を有することを特徴とする情報通知装置。
(付記2)前記通知制御部は、前記注視度が前記第1の閾値よりも小さい第2の閾値未満である場合に、前記ユーザ通知を前記第2の通知形態で実行することを特徴とする付記1に記載の情報通知装置。
(付記3)前記通知制御部は、前記ユーザ通知を表示出力により実行することを特徴とする付記1または2に記載の情報通知装置。
(付記4)前記視線検出の結果に基づいて、前記第2の通知形態で表示出力されたユーザ通知が視認されたか否かを判定する視認判定部をさらに有し、
前記通知制御部は、所定の時間にわたって前記第2の通知形態で表示出力されたユーザ通知が視認されなかった場合、前記ユーザ通知の表示出力を前記第2の通知形態から前記第1の通知形態へ切り替えることを特徴とする付記3に記載の情報通知装置。
(付記5)前記通知制御部は、前記第1の閾値以上の注視度が算出される頻度が所定値以上である場合に、周囲確認を促す通知をさらに実行することを特徴とする付記1〜4のいずれか1つに記載の情報通知装置。
(付記6)前記通知制御部は、前記第2の閾値未満の注視度が算出される頻度が所定値以上である場合に、わき見注意を喚起する通知をさらに実行することを特徴とする付記2に記載の情報通知装置。
(付記7)前記注視度算出部により算出された注視度のうち前記注視度算出部による算出が行われた時点の位置が交差点である注視度を第1のグループに分類し、前記注視度算出部による算出が行われた時点の車間距離が所定値未満である注視度を第2のグループに分類し、前記第1のグループ及び前記第2のグループに分類されない注視度を第3のグループに分類し、前記第1のグループ、前記第2のグループ及び前記第3のグループごとに注視度のヒストグラムを生成し、前記第1のグループ、前記第2のグループ及び前記第3のグループに関する3つの注視度のヒストグラムを用いて、前記第1の閾値および前記第2の閾値を設定することを特徴とする付記2に記載の情報通知装置。
(付記8)前記第1のグループに関する注視度のヒストグラムと、前記第3のグループに関する注視度のヒストグラムとの分布曲線の交点により定まる注視度の階級値を前記第2の閾値に設定すると共に、前記第2のグループに関する注視度のヒストグラムと、前記第3のグループに関する注視度のヒストグラムのとの分布曲線の交点により定まる注視度の階級値を前記第1の閾値に設定することを特徴とする付記7に記載の情報通知装置。
(付記9)前記第2の通知形態は、前記ユーザ通知の保留であることを特徴とする付記1〜8のいずれか1つに記載の情報通知装置。
(付記10)ユーザ通知を受け付ける処理と、
カメラにより撮像される画像に視線検出を実行する処理と、
前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する処理と、
前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する処理と
がコンピュータにより実行されることを特徴とする情報通知方法。
(付記11)ユーザ通知を受け付ける処理と、
カメラにより撮像される画像に視線検出を実行する処理と、
前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する処理と、
前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する処理と
をコンピュータに実行させることを特徴とする情報通知プログラム。
10 情報通知装置
11 カメラ
12 スピーカ
13 表示部
14 受付部
15 視線検出部
16 注視度算出部
17 視認判定部
18 通知制御部
20 携帯端末装置
30 SNSサーバ

Claims (9)

  1. ユーザ通知を受け付ける受付部と、
    カメラにより撮像される画像に視線検出を実行する視線検出部と、
    前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する注視度算出部と、
    前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する通知制御部と
    を有することを特徴とする情報通知装置。
  2. 前記通知制御部は、前記注視度が前記第1の閾値よりも小さい第2の閾値未満である場合に、前記ユーザ通知を前記第2の通知形態で実行することを特徴とする請求項1に記載の情報通知装置。
  3. 前記通知制御部は、前記ユーザ通知を表示出力により実行することを特徴とする請求項1または2に記載の情報通知装置。
  4. 前記視線検出の結果に基づいて、前記第2の通知形態で表示出力されたユーザ通知が視認されたか否かを判定する視認判定部をさらに有し、
    前記通知制御部は、所定の時間にわたって前記第2の通知形態で表示出力されたユーザ通知が視認されなかった場合、前記ユーザ通知の表示出力を前記第2の通知形態から前記第1の通知形態へ切り替えることを特徴とする請求項3に記載の情報通知装置。
  5. 前記通知制御部は、前記第1の閾値以上の注視度が算出される頻度が所定値以上である場合に、周囲確認を促す通知をさらに実行することを特徴とする請求項1〜4のいずれか1つに記載の情報通知装置。
  6. 前記通知制御部は、前記第2の閾値未満の注視度が算出される頻度が所定値以上である場合に、わき見注意を喚起する通知をさらに実行することを特徴とする請求項2に記載の情報通知装置。
  7. 前記第2の通知形態は、前記ユーザ通知の保留であることを特徴とする請求項1または2に記載の情報通知装置。
  8. ユーザ通知を受け付ける処理と、
    カメラにより撮像される画像に視線検出を実行する処理と、
    前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する処理と、
    前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する処理と
    がコンピュータにより実行されることを特徴とする情報通知方法。
  9. ユーザ通知を受け付ける処理と、
    カメラにより撮像される画像に視線検出を実行する処理と、
    前記視線検出の結果として得られる視線方向から所定の領域を注視する注視度を算出する処理と、
    前記注視度が第1の閾値以上である場合に、前記注視度が第1の閾値未満である場合に実行される第1の通知形態よりも質または量が下げられた第2の通知形態で前記ユーザ通知を実行する処理と
    をコンピュータに実行させることを特徴とする情報通知プログラム。
JP2016001349A 2016-01-06 2016-01-06 情報通知装置、情報通知方法及び情報通知プログラム Pending JP2017123029A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016001349A JP2017123029A (ja) 2016-01-06 2016-01-06 情報通知装置、情報通知方法及び情報通知プログラム
US15/384,657 US9932000B2 (en) 2016-01-06 2016-12-20 Information notification apparatus and information notification method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016001349A JP2017123029A (ja) 2016-01-06 2016-01-06 情報通知装置、情報通知方法及び情報通知プログラム

Publications (1)

Publication Number Publication Date
JP2017123029A true JP2017123029A (ja) 2017-07-13

Family

ID=59235393

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016001349A Pending JP2017123029A (ja) 2016-01-06 2016-01-06 情報通知装置、情報通知方法及び情報通知プログラム

Country Status (2)

Country Link
US (1) US9932000B2 (ja)
JP (1) JP2017123029A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107944415A (zh) * 2017-12-06 2018-04-20 董伟 一种基于深度学习算法的人眼注意力检测方法
WO2021177154A1 (ja) * 2020-03-03 2021-09-10 株式会社東海理化電機製作所 運転支援装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107340849A (zh) * 2016-04-29 2017-11-10 和鑫光电股份有限公司 移动装置及其护眼控制方法
JP6915502B2 (ja) * 2017-11-09 2021-08-04 トヨタ自動車株式会社 ドライバ状態検出装置
JP6731016B2 (ja) * 2018-06-12 2020-07-29 矢崎総業株式会社 車両用表示システム
WO2020082242A1 (zh) * 2018-10-23 2020-04-30 黄正民 一种基于fpga+arm控制的驾驶员疲劳监控系统
CN109598213B (zh) * 2018-11-20 2021-04-06 图普科技(广州)有限公司 人脸朝向聚合方法及装置
DE102018133445A1 (de) * 2018-12-21 2020-06-25 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Überwachen eines Insassen eines Fahrzeugs sowie System zur Analyse der Wahrnehmung von Objekten
US20220165073A1 (en) * 2019-02-22 2022-05-26 Panasonic Intellectual Property Management Co., Ltd. State detection device and state detection method
CN110275510B (zh) * 2019-06-14 2021-12-07 百度在线网络技术(北京)有限公司 车辆控制模型的处理频率调整方法、装置和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002162237A (ja) * 2000-11-28 2002-06-07 Mazda Motor Corp 車両用ナビゲーション方法、車両用ナビゲーションシステム、車載ナビゲーション装置、及び該装置が読み取り可能なナビゲーション制御プログラムを記録した記録媒体
JP2010126135A (ja) * 2008-12-01 2010-06-10 Toyota Motor Corp 視線誘導装置
JP2013120529A (ja) * 2011-12-08 2013-06-17 Isuzu Motors Ltd 運転負荷推定方法及び運転負荷推定システム

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3865856B2 (ja) 1997-03-03 2007-01-10 本田技研工業株式会社 車両用運転支援装置
JP2000211543A (ja) 1999-01-26 2000-08-02 Mazda Motor Corp 車両の運転支援装置
US6496117B2 (en) * 2001-03-30 2002-12-17 Koninklijke Philips Electronics N.V. System for monitoring a driver's attention to driving
JP4107006B2 (ja) 2002-08-08 2008-06-25 日産自動車株式会社 情報提供装置、情報提供制御プログラム
JP2007094618A (ja) * 2005-09-28 2007-04-12 Omron Corp 通知制御装置および方法、記録媒体、並びに、プログラム。
JP2008241309A (ja) 2007-03-26 2008-10-09 Denso Corp 車両用サービス提示装置
JP2010073134A (ja) * 2008-09-22 2010-04-02 Aisin Seiki Co Ltd 車両周辺認知支援システム
JP5359467B2 (ja) 2009-03-31 2013-12-04 日産自動車株式会社 情報提示装置および情報提示方法
JP5388706B2 (ja) 2009-06-08 2014-01-15 株式会社デンソーアイティーラボラトリ 発呼タイミング制御装置および発呼タイミング制御方法
JP5460691B2 (ja) * 2009-06-08 2014-04-02 パナソニック株式会社 注視対象判定装置及び注視対象判定方法
GB201211633D0 (en) * 2012-06-29 2012-08-15 Tomtom Bv Methods and systems generating driver workload data
US9007198B2 (en) * 2012-11-02 2015-04-14 Toyota Motor Engineering & Manufacturing North America, Inc. Adaptive Actuator interface for active driver warning
JP5696712B2 (ja) 2012-11-05 2015-04-08 株式会社デンソー 情報表示システム
US8981942B2 (en) * 2012-12-17 2015-03-17 State Farm Mutual Automobile Insurance Company System and method to monitor and reduce vehicle operator impairment
US8876535B2 (en) * 2013-03-15 2014-11-04 State Farm Mutual Automobile Insurance Company Real-time driver observation and scoring for driver's education
US20160054565A1 (en) * 2013-03-29 2016-02-25 Sony Corporation Information processing device, presentation state control method, and program
FI124068B (en) * 2013-05-03 2014-02-28 Jyvaeskylaen Yliopisto Procedure for improving driving safety
US9619695B2 (en) * 2013-06-06 2017-04-11 Visteon Global Technologies, Inc. Gaze time indicator for a vehicle
JP5999032B2 (ja) * 2013-06-14 2016-09-28 株式会社デンソー 車載表示装置およびプログラム
DE102014109079A1 (de) * 2013-06-28 2014-12-31 Harman International Industries, Inc. Vorrichtung und verfahren zur erfassung des interesses eines fahrers an einer werbeanzeige durch die verfolgung der blickrichtung des fahrers
US9420950B2 (en) * 2013-09-17 2016-08-23 Pixart Imaging Inc. Retro-reflectivity array for enabling pupil tracking
JP6292054B2 (ja) * 2013-11-29 2018-03-14 富士通株式会社 運転支援装置、方法、及びプログラム
US20150310287A1 (en) * 2014-04-28 2015-10-29 Ford Global Technologies, Llc Gaze detection and workload estimation for customized content display
KR102004990B1 (ko) * 2014-05-13 2019-07-29 삼성전자주식회사 영상 처리 장치 및 방법
US9972184B2 (en) * 2014-07-24 2018-05-15 State Farm Mutual Automobile Insurance Company Systems and methods for monitoring a vehicle operator and for monitoring an operating environment within the vehicle
KR101677648B1 (ko) * 2014-12-22 2016-11-18 엘지전자 주식회사 차량 제어 장치 및 그 제어 방법
US9505413B2 (en) * 2015-03-20 2016-11-29 Harman International Industries, Incorporated Systems and methods for prioritized driver alerts
US9586591B1 (en) * 2015-05-04 2017-03-07 State Farm Mutual Automobile Insurance Company Real-time driver observation and progress monitoring
US20170115124A1 (en) * 2015-10-21 2017-04-27 Ford Global Technologies, Llc Driver Workload Prediction and Path Routing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002162237A (ja) * 2000-11-28 2002-06-07 Mazda Motor Corp 車両用ナビゲーション方法、車両用ナビゲーションシステム、車載ナビゲーション装置、及び該装置が読み取り可能なナビゲーション制御プログラムを記録した記録媒体
JP2010126135A (ja) * 2008-12-01 2010-06-10 Toyota Motor Corp 視線誘導装置
JP2013120529A (ja) * 2011-12-08 2013-06-17 Isuzu Motors Ltd 運転負荷推定方法及び運転負荷推定システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107944415A (zh) * 2017-12-06 2018-04-20 董伟 一种基于深度学习算法的人眼注意力检测方法
WO2021177154A1 (ja) * 2020-03-03 2021-09-10 株式会社東海理化電機製作所 運転支援装置
JP2021138205A (ja) * 2020-03-03 2021-09-16 株式会社東海理化電機製作所 運転支援装置

Also Published As

Publication number Publication date
US9932000B2 (en) 2018-04-03
US20170190306A1 (en) 2017-07-06

Similar Documents

Publication Publication Date Title
JP2017123029A (ja) 情報通知装置、情報通知方法及び情報通知プログラム
US9707971B2 (en) Driving characteristics diagnosis device, driving characteristics diagnosis system, driving characteristics diagnosis method, information output device, and information output method
CN107250729B (zh) 信息处理系统、车载装置、及终端装置
US20210197849A1 (en) Warning device and driving tendency analysis method
JP6163017B2 (ja) 携帯端末、及び、危険報知システム
JP2022519895A (ja) ユーザの注目方向および外観を相関させるシステムおよび方法
US20180229654A1 (en) Sensing application use while driving
WO2015078387A1 (zh) 头戴式设备控制方法、装置和头戴式设备
US20200213560A1 (en) System and method for a dynamic human machine interface for video conferencing in a vehicle
JP2016224478A (ja) 車両制御システム
JPWO2017163514A1 (ja) 眼鏡型ウェアラブル端末、その制御方法および制御プログラム
WO2016125672A1 (ja) 情報処理装置、画像処理方法及びプログラム
US20120056803A1 (en) Content output system, output control device and output control method
JP7436061B2 (ja) 運転支援装置、方法及びプログラム
JPWO2016021001A1 (ja) 警告通知システム、警告通知方法及びプログラム
US11988521B2 (en) Navigation system, navigation display method, and navigation display program
JP2016164793A (ja) 携帯端末
JP2019139609A (ja) 運転支援システム及び運転支援方法
Kashevnik et al. Context-based driver support system development: Methodology and case study
CN108140124B (zh) 提示信息确定方法、装置、电子设备
US20210290129A1 (en) State estimation device, method and computer program therefor
CN113505674B (zh) 人脸图像处理方法及装置、电子设备和存储介质
JP2019140424A (ja) 携帯端末装置、通信システム、携帯端末装置の制御方法、及び通信システムの制御方法
JP2022189378A (ja) 表示制御装置、速度制御装置、表示制御方法及びプログラム
CN113687900A (zh) 用于车载屏幕的显示方法及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200407