JP2007193459A - Behavior information acquiring device, display terminal, and behavior information notification system - Google Patents

Behavior information acquiring device, display terminal, and behavior information notification system Download PDF

Info

Publication number
JP2007193459A
JP2007193459A JP2006009383A JP2006009383A JP2007193459A JP 2007193459 A JP2007193459 A JP 2007193459A JP 2006009383 A JP2006009383 A JP 2006009383A JP 2006009383 A JP2006009383 A JP 2006009383A JP 2007193459 A JP2007193459 A JP 2007193459A
Authority
JP
Japan
Prior art keywords
information
behavior
behavior information
vehicle
information acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006009383A
Other languages
Japanese (ja)
Other versions
JP4923579B2 (en
Inventor
Hidetoshi Teraoka
秀敏 寺岡
Takayuki Yamamoto
貴之 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006009383A priority Critical patent/JP4923579B2/en
Publication of JP2007193459A publication Critical patent/JP2007193459A/en
Application granted granted Critical
Publication of JP4923579B2 publication Critical patent/JP4923579B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Navigation (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a behavior information notification device in which users can enjoy contents with their portable terminals while preventing danger such as falling on a vehicle. <P>SOLUTION: The behavior information acquiring device 11 installed in the vehicle distributes the behavior information 14 through a transmitting section 12 to the users with portable terminals on the vehicle, and the terminal 14 displays or outputs the behavior information by voice together with the contents to be viewed by the users. Thus, the users can recognize danger such as emergency stop beforehand even if concentrating on the various contents on the vehicle. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、車両等の乗り物に乗った際にも周囲の様子を逐一気にすることなく、安全に電子書籍や映像コンテンツを楽しむことができる通知システムに関する。   The present invention relates to a notification system that allows users to enjoy electronic books and video content safely without worrying about the surroundings even when they are on a vehicle such as a vehicle.

現在、携帯端末や車載機器が発達し、いつでも、どこでも、文字や画像、音楽、映像等のさまざまなコンテンツを視聴することが可能となっている。また、ネットワーク技術の発達により、自宅のPCやレコーダから直接コンテンツを取得して外出先で視聴することが可能になるなど、今後ますますこの傾向が強くなるものと予想される。このような中で、電車やバスのような乗り物に乗車した際にコンテンツを視聴する機会も確実に増加していくものと予想される。   At present, mobile terminals and in-vehicle devices have been developed, and it is possible to view various contents such as characters, images, music, and videos anytime and anywhere. In addition, with the development of network technology, it is expected that this trend will become stronger in the future, such as being able to acquire content directly from a home PC or recorder and view it on the go. Under such circumstances, it is expected that the opportunity to view contents when riding a vehicle such as a train or bus will surely increase.

従来、電車、バスなどの急停止や横揺れのような車両の挙動に起因する危険の防止については、乗客が進行方向を見る、あるいは通勤路等であればその経験から自ら備えるという対策か、あるいは曲がるときに運転手が乗客に声をかけるなどの手段で、揺れに備えるなどの注意喚起が行われていた。
また、携帯端末にバスなどの乗り物到来を通知することが考えられていた(特許文献1)。
Conventionally, for the prevention of danger caused by the behavior of vehicles such as sudden stops and rolls of trains, buses, etc., whether the passenger sees the direction of travel, or if it is a commute, etc. Or, when the driver turns, the driver calls out to the passengers to alert them to prepare for shaking.
In addition, it has been considered to notify a mobile terminal of arrival of a vehicle such as a bus (Patent Document 1).

特開2000−331290JP2000-33290A

しかしながら、上記従来技術では、携帯端末でイヤホンをして、コンテンツに集中している場合など、周囲の環境がわからない場合には、カーブや車両の揺れで体のバランスを崩して転倒してしまうなどの危険があった。
また、既存のカーナビゲーションシステムは、運転者が次の挙動を決定するために必要な情報を提供する機能を有するが、電車・バスなどに乗車している利用者にとっては、そのような情報よりもむしろ、当該車両が次にどのような挙動をするか、という情報そのものが重要であり、カーナビゲーションシステムではそのような情報を提供する機能がない、という問題がある。
However, with the above-described conventional technology, if you are not sure about the surrounding environment, such as when you are wearing earphones on a mobile device and are concentrating on the content, the body will fall out of balance due to curves and vehicle shaking, etc. There was a danger.
In addition, the existing car navigation system has a function to provide information necessary for the driver to determine the next behavior, but for users on trains, buses, etc., such information Rather, the information itself on how the vehicle will behave next is important, and the car navigation system has a problem that there is no function to provide such information.

上記問題点を鑑み、本発明では乗車中に端末で各種コンテンツに集中している場合でも、車両の挙動を事前に知り、転倒などの危険を回避できる表示システムを提供することを目的としている。   In view of the above problems, an object of the present invention is to provide a display system that can know the behavior of a vehicle in advance and avoid dangers such as a fall even when the terminal is concentrated on various contents.

本発明における車両挙動情報通知システムは、「急停止する」「大きく揺れる」「右(左)に傾く」などの車両の挙動情報を予め取得する車両挙動取得部と、取得した情報を文字・映像等のコンテンツと共に再生して利用者に伝える端末から構成されている。   The vehicle behavior information notification system according to the present invention includes a vehicle behavior acquisition unit that previously acquires vehicle behavior information such as “suddenly stop”, “shake greatly”, “tilt right (left)”, and the acquired information as text / video. It is configured from a terminal that is reproduced together with contents such as and transmitted to the user.

そして本発明によるシステムでは、上記挙動情報を利用者の携帯端末や車両に設置された端末に閲覧中のコンテンツと共に表示することにより、コンテンツに集中していて周りを見ることがなくても、車両の挙動を予め知り、体のバランスを崩して転倒するなどの危険を防止できるようにしている。   In the system according to the present invention, the behavior information is displayed together with the content being browsed on the mobile terminal of the user or the terminal installed in the vehicle, so that the vehicle can be viewed without being concentrated on the content and looking around. Knowing the behavior in advance, it is possible to prevent dangers such as falling the balance of the body.

本発明によれば、利用者が乗り物に乗車中に各種コンテンツに集中していても、予め急停止などの危険を認識することができる。   ADVANTAGE OF THE INVENTION According to this invention, even if a user concentrates on various contents while boarding a vehicle, dangers, such as a sudden stop, can be recognized beforehand.

以下、図面を参照して、本発明を実施するための最良の形態を説明する。
本発明における実施例として、電車車両に適用する場合を示す。図1は、挙動情報取得装置を車両に設置する場合の構成図である。本実施例における電車車両1は、挙動情報取得装置11と、挙動情報表示端末14へ情報を伝送する通信路12を備える。
The best mode for carrying out the present invention will be described below with reference to the drawings.
As an embodiment in the present invention, a case where the present invention is applied to a train car is shown. FIG. 1 is a configuration diagram when a behavior information acquisition device is installed in a vehicle. The train vehicle 1 in this embodiment includes a behavior information acquisition device 11 and a communication path 12 that transmits information to the behavior information display terminal 14.

図2に、本実施例における挙動情報表示端末の概観図を示す。挙動情報表示端末14は、電子書籍・映像コンテンツ等を表示可能な表示画面1401と、利用者からの操作ボタン1402と、挙動情報送信部からの挙動情報を受信する受信部1403を備える。
本実施例では、利用者からの入力が操作ボタン1402によるものと想定するが、入力部のインタフェースは、タッチパネルや音声入力でも良い。
FIG. 2 shows an overview of the behavior information display terminal in this embodiment. The behavior information display terminal 14 includes a display screen 1401 that can display an electronic book, video content, and the like, an operation button 1402 from a user, and a reception unit 1403 that receives behavior information from a behavior information transmission unit.
In the present embodiment, it is assumed that the input from the user is through the operation button 1402, but the interface of the input unit may be a touch panel or voice input.

次に図3のブロック図を用いて、挙動情報取得装置11の内部構成を説明する。
挙動情報取得装置11は、全体の制御を行うCPU (Central Processing Unit)1111と、メモリ1110と、線路形状やメンテナンス情報、運行情報等の各種情報を格納する線路情報格納DB(Data Base)1108と、指令センタ等からの緊急情報等を受信する受信部1109と、GPS(Global Positioning System)受信機1106及び位置情報算出部1107と、速度・加速度等の運動情報を取得するための各種センサ1104と、車両進行方向のリアルタイム映像を取得するための撮像部1102と、取得した映像を解析して障害物情報や信号機等の指示内容を算出する画像処理部1103と、各種センサ1104から取得した運動情報、画像処理部1103から取得した情報と、受信部1109から取得した情報を用いて車両の挙動を予測する挙動情報算出部1105と、挙動情報算出部1105から送出される情報を、挙動情報表示用端末14に対して、通信路12を経由して送信する送信部1101から構成される。
Next, the internal configuration of the behavior information acquisition apparatus 11 will be described using the block diagram of FIG.
The behavior information acquisition device 11 includes a CPU (Central Processing Unit) 1111 that performs overall control, a memory 1110, and a track information storage DB (Data Base) 1108 that stores various information such as track shape, maintenance information, and operation information. A receiving unit 1109 for receiving emergency information from a command center, a GPS (Global Positioning System) receiver 1106 and a position information calculating unit 1107, and various sensors 1104 for acquiring motion information such as speed and acceleration An imaging unit 1102 for acquiring a real-time image of the vehicle traveling direction, an image processing unit 1103 for analyzing the acquired image and calculating instruction information such as obstacle information and traffic lights, and exercise information acquired from various sensors 1104 Behavior information calculation for predicting vehicle behavior using information acquired from the image processing unit 1103 and information acquired from the reception unit 1109 And 1105, the information sent from the behavior information calculation section 1105, with respect to behavior information display terminal 14, a transmitting unit 1101 for transmitting via a communication path 12.

次に、図4のブロック図を用いて、挙動情報表示端末14の内部構成を説明する。挙動情報表示端末14は、全体の制御を行うCPU 1412と、メモリ1411と、テレビ/ラジオ放送を受信するためのTV/ラジオ受信部1409と、予め取得したコンテンツを格納しておくコンテンツ格納部1410と、利用者の操作ボタンによる入力を受け付ける入力処理部1408と、挙動情報を受信する受信部1406と、コンテンツ及び受信した挙動情報の再生制御を行う再生制御部1407と、視聴するコンテンツと挙動情報を表示する表示部1404、コンテンツと挙動情報を音声出力する音声出力部1405から構成される。   Next, the internal configuration of the behavior information display terminal 14 will be described using the block diagram of FIG. The behavior information display terminal 14 includes a CPU 1412 that performs overall control, a memory 1411, a TV / radio reception unit 1409 for receiving television / radio broadcasts, and a content storage unit 1410 that stores previously acquired content. An input processing unit 1408 that accepts input from the user's operation buttons, a receiving unit 1406 that receives behavior information, a playback control unit 1407 that controls playback of content and received behavior information, content to be viewed and behavior information Is displayed, and a sound output unit 1405 that outputs contents and behavior information as sound.

以下に、図を用いて、挙動情報取得装置における挙動情報の取得から、挙動情報表示端末における表示までのシステムの動作について説明する。
図5は、車両の挙動情報の取得から表示まで、本発明における挙動情報通知システムの一連の動作のフロー図である。以下、図5にしたがって、挙動情報表示までの流れについて説明する。挙動情報表示端末14では、本システムにおける処理と並行してコンテンツが再生されているものとする。また、挙動情報の通知方法は、随時挙動情報表示端末14にて設定可能である。
Hereinafter, the operation of the system from acquisition of behavior information in the behavior information acquisition device to display on the behavior information display terminal will be described with reference to the drawings.
FIG. 5 is a flowchart of a series of operations of the behavior information notification system according to the present invention, from acquisition to display of vehicle behavior information. Hereinafter, the flow up to the behavior information display will be described with reference to FIG. In the behavior information display terminal 14, it is assumed that content is being played back in parallel with the processing in this system. The behavior information notification method can be set at the behavior information display terminal 14 at any time.

挙動情報取得装置11では、最初に、信号機情報等の解析に必要な車両の周囲の映像情報を取得する(S2)。次に、挙動情報の算出に必要な、前記映像情報及び速度・加速度等の挙動算出情報を取得する(S3)。次に、前記情報を用いて挙動情報を算出し(S4)、送信部より、S2で取得した映像情報とともに算出結果を送信する(S5)。   The behavior information acquisition device 11 first acquires video information around the vehicle necessary for analyzing traffic signal information and the like (S2). Next, the image information and behavior calculation information such as speed / acceleration necessary for calculating the behavior information are acquired (S3). Next, behavior information is calculated using the information (S4), and the calculation result is transmitted from the transmission unit together with the video information acquired in S2 (S5).

前記S2からS5までの処理は、挙動情報取得装置11において行う。
挙動情報表示端末14では、挙動情報取得装置11から送信された挙動情報を受信する(S6)。挙動情報表示端末は、再生中のコンテンツとともに受信した挙動情報を表示ないしは音声出力する(S7)。
The processes from S2 to S5 are performed in the behavior information acquisition device 11.
The behavior information display terminal 14 receives the behavior information transmitted from the behavior information acquisition device 11 (S6). The behavior information display terminal displays or outputs the behavior information received together with the content being reproduced (S7).

以下、前記の各処理の詳細について説明する。
最初に、図6に従って、本システムにおける挙動情報表示端末14の基本機能であるコンテンツ再生処理のフローを説明する。
入力処理部1407は利用者からの所望のコンテンツの再生指示を受け付ける(S12)。次に再生制御部1406は、指示されたコンテンツが、TV/ラジオのLIVE放送か、挙動情報表示端末への蓄積済みコンテンツか、ネットワーク上に存在するコンテンツかによって、それぞれに対応したコンテンツ取得を開始する(S13、S14、S15)。次に、再生制御部1406は、文字、画像、音楽、映像等、取得したコンテンツの種類に応じて、表示部1404に表示、あるいは音声出力部1405に音声出力する(S16)。
本処理は、以下に説明する挙動情報表示システムの処理と並行して常に実行されているものとする。
Hereinafter, the details of each of the processes will be described.
First, the flow of content reproduction processing, which is the basic function of the behavior information display terminal 14 in this system, will be described with reference to FIG.
The input processing unit 1407 receives an instruction to reproduce desired content from the user (S12). Next, the playback control unit 1406 starts content acquisition corresponding to the instructed content depending on whether it is a live broadcast of TV / radio, a content that has been stored in a behavior information display terminal, or a content that exists on the network. (S13, S14, S15). Next, the playback control unit 1406 displays on the display unit 1404 or outputs the audio to the audio output unit 1405 according to the type of acquired content such as characters, images, music, and video (S16).
This process is always executed in parallel with the process of the behavior information display system described below.

図7は、挙動情報取得装置11における、映像情報取得処理S2のフローである。まず、撮像部1102から、車両進行方向もしくは周囲のリアルタイム映像を取得する(S102)。取得した映像は挙動情報送信部1112に送られる(S103)と同時に、画像処理部1101において当該映像を利用した障害物有無の判定処理を行う(S104、S105)。障害物判定手段としては、例えば、予め取得した映像と撮影した映像を比較する手法を利用することで可能であるが、レーザ光線・赤外線・超音波・レーダなどを利用した検知システムと併用することで、精度を向上させることも可能である。
線路上の障害物は危険性が高いため、この時点で障害物を検知した場合は、緊急情報として運転士に通知し(S108)、挙動情報送信部へ障害物有りという情報を送信する(S109)。
FIG. 7 is a flow of the video information acquisition process S2 in the behavior information acquisition apparatus 11. First, a real-time video of the vehicle traveling direction or surroundings is acquired from the imaging unit 1102 (S102). The acquired video is sent to the behavior information transmission unit 1112 (S103), and at the same time, the image processing unit 1101 performs an obstacle presence / absence determination process using the video (S104, S105). As the obstacle determination means, for example, it is possible to use a method of comparing a pre-acquired image and a captured image, but it can be used in combination with a detection system using a laser beam, infrared ray, ultrasonic wave, radar, etc. Thus, it is possible to improve accuracy.
Since obstacles on the railway track are highly dangerous, if an obstacle is detected at this time, the driver is notified as emergency information (S108), and information indicating that there is an obstacle is sent to the behavior information transmitter (S109). ).

障害物が検知されなかった場合は、取得した映像内に標識・信号機等の列車の運転に必要なサインを提示するものが含まれるか、含まれる場合、その指示内容を分析し(S106)、挙動情報算出部1105へ送信する(S107)。挙動情報取得装置11では、車両が発進してから停止するまで、本処理を繰り返す。   If no obstacle is detected, the acquired image includes or presents a sign necessary for driving the train such as a sign / signal, and if so, analyzes the instruction content (S106), It transmits to the behavior information calculation part 1105 (S107). The behavior information acquisition apparatus 11 repeats this process until the vehicle starts and stops.

図8は、挙動情報取得装置11における、挙動算出情報取得処理S3のフローである。挙動算出情報とは、車両の挙動の算出に利用する信号・標識指示情報、位置情報、線路情報、速度、加速度情報といった各種情報のことである。
まず、位置情報算出部1107が、車両の位置情報を生成し、挙動情報算出部1105に渡す(S122)。本処理において位置情報は、GPS受信機1106から取得したGPSデータと、各種センサ1104から取得した加速度情報等を基に算出することを基本とするが、車両が走行する環境に合わせ、他の手段で位置情報を取得することも可能である。
FIG. 8 is a flow of behavior calculation information acquisition processing S3 in the behavior information acquisition device 11. The behavior calculation information is various information such as signal / sign indication information, position information, track information, speed, and acceleration information used for calculating the behavior of the vehicle.
First, the position information calculation unit 1107 generates vehicle position information and passes it to the behavior information calculation unit 1105 (S122). In this processing, the position information is basically calculated based on GPS data acquired from the GPS receiver 1106, acceleration information acquired from various sensors 1104, and the like. It is also possible to acquire the position information.

次に、挙動情報算出部1105は線路情報格納DB1108から、最も近い駅までの距離、進路の線路の曲率などの現在地付近の線路情報を取得する(S123)。現在地情報及び線路情報の取得と並行して、挙動情報算出部1105は各種センサ1104から車両の加速度・速度・姿勢情報を取得する(S124)。また、画像処理部1103において分析された信号機等の指示内容を取得する(S125)。   Next, the behavior information calculation unit 1105 acquires track information near the current location such as the distance to the nearest station and the curvature of the track on the route from the track information storage DB 1108 (S123). In parallel with the acquisition of the current location information and track information, the behavior information calculation unit 1105 acquires vehicle acceleration / speed / posture information from the various sensors 1104 (S124). Also, the instruction content of the traffic light or the like analyzed by the image processing unit 1103 is acquired (S125).

前記S3のプロセスにより得られた情報から、N秒先の車両の挙動を算出する(S4)。例えば、N=5の場合は、5秒後の車両の挙動を算出することになる。以下、図9にしたがって、挙動情報算出部1105における車両の挙動情報算出の流れを説明する。挙動情報算出部ではまず、各種センサから取得した車両の速度情報・加速度情報とメモリに保持された過去〜現在の信号機情報を元に、車両が次に加速をするか、減速をするかを算出する(S132)。例えば、最初に受け取った(過去に信号機情報がないときの)信号機情報が停止指示となっているときに、車両の次の挙動を減速と算出する。   The behavior of the vehicle N seconds ahead is calculated from the information obtained by the process of S3 (S4). For example, when N = 5, the behavior of the vehicle after 5 seconds is calculated. In the following, the flow of vehicle behavior information calculation in the behavior information calculation unit 1105 will be described with reference to FIG. The behavior information calculation unit first calculates whether the vehicle will accelerate or decelerate based on the vehicle speed information / acceleration information obtained from various sensors and the past to present traffic signal information stored in the memory. (S132). For example, when the traffic signal information received first (when there is no traffic signal information in the past) is a stop instruction, the next behavior of the vehicle is calculated as deceleration.

次に、現在位置と車両の加速度・速度及び線路情報から次に車両がどのような動きをするかを算出する(S133)。例えば、速度・加速度及び線路の曲率から、車両の傾きを算出し、進入速度と駅までの距離から、減速開始のタイミング・減速の大きさと言った挙動情報を算出する。   Next, the next movement of the vehicle is calculated from the current position, the acceleration / speed of the vehicle, and the track information (S133). For example, the vehicle inclination is calculated from the speed / acceleration and the track curvature, and the behavior information such as the deceleration start timing / deceleration magnitude is calculated from the approach speed and the distance to the station.

次に、現在位置と加速度・速度・姿勢及び詳細な線路の形状情報等から、車両の揺れを予測する(S134)。車両の揺れを算出する方法としては、予め取得しておいた各地点での車両の揺れに関する情報を線路情報格納DBに保持し、これを利用する方法を基本とするが、車両の速度と経路情報を数値解析処理し、揺れを算出するなどしても良い。
以上の処理により得られた結果を、送信部1101に送信する(S135)。
Next, the shaking of the vehicle is predicted from the current position, acceleration, speed, posture, detailed track shape information, and the like (S134). As a method of calculating the vehicle shake, the information on the vehicle shake at each point acquired in advance is held in the track information storage DB, and the method using this is basically used. The information may be subjected to numerical analysis processing to calculate shaking.
The result obtained by the above processing is transmitted to the transmission unit 1101 (S135).

上記には明記していないが、電車車両の挙動を予測するに際して、管制システムと連携してより精度の高い挙動情報予測をすることも可能である。自動化された交通システムであれば、管制システム側で車両の挙動をすべて制御するため、予めその情報を挙動情報算出部が取得し、信号機・標識等の情報に代えて利用することなどもできる。
また、上記実施例で示した情報以外にも、車両の挙動に影響を与える情報を取得し、挙動情報の算出に利用することができる。例えば、風速等の天候情報を上記数値解析処理のパラメータに含めることで、挙動算出をより高精度に行うことも可能である。
Although not specified above, when predicting the behavior of a train car, it is also possible to predict behavior information with higher accuracy in cooperation with the control system. In the case of an automated traffic system, the behavior of the vehicle is controlled by the control system, so that the behavior information calculation unit can acquire the information in advance and use it instead of information such as traffic lights and signs.
In addition to the information shown in the above embodiment, information that affects the behavior of the vehicle can be acquired and used to calculate behavior information. For example, it is possible to calculate the behavior with higher accuracy by including weather information such as wind speed in the parameters of the numerical analysis process.

前記S2の結果得られた映像情報、およびS4の結果得られた挙動情報は、挙動情報取得装置11の送信部1101から、通信路12を経由して、挙動情報表示端末14に送信される(S5)。
以上が、挙動情報取得装置11の動作である。
The video information obtained as a result of S2 and the behavior information obtained as a result of S4 are transmitted from the transmission unit 1101 of the behavior information acquisition apparatus 11 to the behavior information display terminal 14 via the communication path 12 ( S5).
The above is the operation of the behavior information acquisition apparatus 11.

次に、挙動情報表示端末14の動作について説明する。
挙動情報表示端末14は、受信部1406において、前記S5にて挙動情報取得装置11から通信路12を経由して送信された映像情報及び挙動情報を受信する(S6)。
挙動情報表示端末では、前記S6にて受信した挙動情報を前記コンテンツと同時に表示する表示処理(S7)を行う。
Next, the operation of the behavior information display terminal 14 will be described.
The behavior information display terminal 14 receives the video information and behavior information transmitted from the behavior information acquisition device 11 via the communication path 12 in S5 at the reception unit 1406 (S6).
The behavior information display terminal performs a display process (S7) for displaying the behavior information received in S6 at the same time as the content.

図10に従って表示/音声出力処理(S7)の流れについて説明する。再生制御部1407は、受信部1406において受信した映像情報と挙動情報の両方を表示するモードか、挙動情報(文字列)のみを表示するモードかを判定する(S202)。尚、どちらの表示モードを利用するかは、予め利用者が指定しておく。判定の結果、前者のモードである場合は、表示画面を分割し、一方に受信した映像情報及び挙動情報を表示する(S203)。また、判定結果が後者のモードである場合は、現在視聴しているコンテンツ上に挙動情報文字列のみを表示する(S204)。画面の構成例については、後述する。挙動情報の表示は、常時視聴中コンテンツとともに表示してもよいし、挙動情報に変化があった場合のみ表示してもよい。   The flow of the display / audio output process (S7) will be described with reference to FIG. The playback control unit 1407 determines whether to display both the video information and behavior information received by the reception unit 1406 or only the behavior information (character string) (S202). Note that the user specifies in advance which display mode to use. If the result of determination is the former mode, the display screen is divided and the received video information and behavior information are displayed on one side (S203). If the determination result is the latter mode, only the behavior information character string is displayed on the currently viewed content (S204). A configuration example of the screen will be described later. The behavior information may be displayed together with the currently viewed content, or may be displayed only when there is a change in the behavior information.

挙動情報を音声で出力する場合は、挙動情報に変化があった場合のみ音声出力部1405より出力する。
また、上記実施例では表示及び音声出力による利用者への通知を例示したが、挙動情報の通知は、端末の振動を用いても良い。
When the behavior information is output by voice, the behavior information is output from the voice output unit 1405 only when the behavior information is changed.
Further, in the above-described embodiment, notification to the user by display and voice output is exemplified, but the behavior information may be notified by vibration of the terminal.

図11に車両進行方向の映像及び挙動情報の文字列の両方を表示する場合の画面構成例を示す。視聴者が視聴している映像等のコンテンツ501が表示された画面510上に子ウィンドウ502を生成し、挙動情報を通知する。
図12に、映像情報および挙動情報文字列を表示する子ウィンドウの構成例を示す。子ウィンドウ502において、挙動情報文字列503及び映像情報504を表示する。
図13に挙動情報の文字列のみを表示する場合の画面構成例を示す。視聴者が視聴している映像等のコンテンツ501が表示された画面510上に挙動情報文字列503を表示する。
FIG. 11 shows a screen configuration example in the case of displaying both an image of the vehicle traveling direction and a character string of behavior information. A child window 502 is generated on a screen 510 on which a content 501 such as a video being viewed by the viewer is displayed, and behavior information is notified.
FIG. 12 shows a configuration example of a child window that displays video information and behavior information character strings. In the child window 502, the behavior information character string 503 and the video information 504 are displayed.
FIG. 13 shows an example of the screen configuration when only the character string of the behavior information is displayed. A behavior information character string 503 is displayed on a screen 510 on which a content 501 such as an image being viewed by the viewer is displayed.

図14に、挙動情報を画面510に図形を表示して通知する場合の例を示す。本構成例では、車両の急停止が予測される場合に、視聴者が視聴している映像等のコンテンツ501の周囲を図形505で囲み、利用者の注意を促す。
本実施例では、図11から図14に示す画面構成としたが、表示方法はこれに限定されない。
FIG. 14 shows an example in which the behavior information is notified by displaying a graphic on the screen 510. In this configuration example, when a sudden stop of the vehicle is predicted, the content 501 such as a video being viewed by the viewer is surrounded by a graphic 505 to urge the user to pay attention.
In this embodiment, the screen configurations shown in FIGS. 11 to 14 are used, but the display method is not limited to this.

最後に、挙動情報の通知形式の設定方法について説明する。
図15は、挙動情報の通知方法設定の流れを示すフロー図である。本処理は、前記挙動情報表示端末の処理中に随時実行するものとする。最初に、利用者の指示により、挙動情報の通知方法選択画面を起動する(S302)。通知方法選択画面では挙動情報の通知方法を選択する(S303)。選択画面の画面構成例を図16(601)に示す。
Finally, a method for setting the behavior information notification format will be described.
FIG. 15 is a flowchart showing a flow of behavior information notification method setting. This process is executed at any time during the process of the behavior information display terminal. First, a behavior information notification method selection screen is activated in accordance with a user instruction (S302). On the notification method selection screen, a behavior information notification method is selected (S303). A screen configuration example of the selection screen is shown in FIG.

次に、利用者の指示により、詳細設定画面を起動する(S305)。利用者が詳細設定画面起動を指示しない場合は、入力の受付を終了する。詳細設定画面では、予測される車体の傾きが何度以上の場合に出力する、といった閾値や、急減速・揺れなどの挙動情報の種類と、表示する図形の対応などを設定する(S306)。詳細設定画面の画面構成例を図17(602)に示す。利用者がすべての項目を設定するか、設定終了を選択したら、入力の受付を終了する。   Next, a detailed setting screen is activated in accordance with a user instruction (S305). If the user does not instruct to start the detailed setting screen, the input acceptance is terminated. On the detailed setting screen, a threshold value that is output when the predicted inclination of the vehicle body is more than once, a type of behavior information such as sudden deceleration / shake, and a correspondence of a figure to be displayed are set (S306). A screen configuration example of the detail setting screen is shown in FIG. 17 (602). When the user sets all items or selects the end of setting, the acceptance of input ends.

入力処理部1408では、入力の受付を終了した後に、設定された内容を再生制御部1407に送信し(S307)、再生制御部1407では受信した情報を元に、利用者14への挙動情報の通知を行う。
以上により、挙動情報の通知形式の設定を完了する。
The input processing unit 1408 transmits the set content to the playback control unit 1407 after finishing receiving the input (S307). Based on the received information, the playback control unit 1407 transmits the behavior information to the user 14. Make a notification.
This completes the setting of the behavior information notification format.

上記実施例では電車車両に適用する場合を例示した。本発明をバス車両に適用する場合は、バス車両では電車とは違い、右折、左折時の挙動情報がより重要になる、といった違いがあるが、上記線路情報として運行経路の道路情報や車両の方向指示器など運転中の操作に関する情報を利用することで、同様のシステムとすることが可能である。
上記によれば、利用者が乗り物に乗車中に各種コンテンツに集中していても、予め急停止などの危険を認識することができる。
In the above embodiment, the case where the present invention is applied to a train car is illustrated. When the present invention is applied to a bus vehicle, there is a difference that the behavior information at the time of turning right or left is more important in the bus vehicle than the train. A similar system can be obtained by using information related to operations during driving such as a turn indicator.
According to the above, even if the user concentrates on various contents while getting on the vehicle, it is possible to recognize danger such as a sudden stop in advance.

挙動情報配信システムの全体図。1 is an overall view of a behavior information distribution system. 挙動情報表示端末の概観図。An overview of a behavior information display terminal. 挙動情報取得装置のブロック図。The block diagram of a behavior information acquisition apparatus. 挙動情報表示端末のブロック図。The block diagram of a behavior information display terminal. 挙動情報通知システム全体のフロー図。The flowchart of the whole behavior information notification system. コンテンツ再生処理のフロー図。The flowchart of a content reproduction process. 映像情報処理のフロー図。The flowchart of image information processing. 挙動情報取得装置の挙動算出情報取得処理のフロー図。The flowchart of the behavior calculation information acquisition process of a behavior information acquisition apparatus. 挙動情報取得装置の挙動情報算出処理のフロー図。The flowchart of the behavior information calculation process of a behavior information acquisition apparatus. 挙動情報表示端末の表示処理のフロー図。The flowchart of the display process of a behavior information display terminal. 映像情報および挙動情報文字列を表示する場合の挙動情報表示端末の画面構成例。The screen structural example of the behavior information display terminal in the case of displaying video information and a behavior information character string. 映像情報および挙動情報文字列を表示する子ウィンドウの構成例。The example of a structure of the child window which displays image | video information and a behavior information character string. 挙動情報文字列のみを表示する場合の挙動情報表示端末の画面構成例。A screen configuration example of a behavior information display terminal when only a behavior information character string is displayed. 挙動情報を画面上に図形を表示して通知する場合の画面構成例。Example of screen configuration when behavior information is notified by displaying a graphic on the screen. 通知方法設定のフロー図。The flowchart of a notification method setting. 通知方法選択画面の構成例。The example of a structure of a notification method selection screen. 通知方法詳細設定画面の構成例。Configuration example of notification method detail setting screen.

符号の説明Explanation of symbols

1 電車車両
11 挙動情報取得装置
12 通信路
13 利用者
14 挙動情報表示端末
1101 挙動情報送信部
1102 撮像部
1103 画像処理部
1104 各種センサ
1105 挙動情報算出部
1106 GPS受信機
1107 位置情報算出部
1108 線路情報格納DB
1109 受信部
1110 メモリ
1111 CPU
1401 表示画面
1402 操作ボタン
1403 受信部
1404 表示部
1405 音声出力部
1406 受信部
1407 再生制御部
1408 入力処理部
1409 TV/ラジオ受信部
1410 コンテンツ格納部
1411 メモリ
1412 CPU
501 映像等コンテンツ
502 挙動情報表示用子ウィンドウ
503 挙動情報文字列
504 映像情報
505 図形
510 表示画面
601 通知方法選択画面
602 通知方法詳細設定画面
DESCRIPTION OF SYMBOLS 1 Train vehicle 11 Behavior information acquisition apparatus 12 Communication path 13 User 14 Behavior information display terminal 1101 Behavior information transmission part 1102 Imaging part 1103 Image processing part 1104 Various sensors 1105 Behavior information calculation part 1106 GPS receiver 1107 Position information calculation part 1108 Track Information storage database
1109 Receiver 1110 Memory 1111 CPU
1401 Display screen 1402 Operation button 1403 Reception unit 1404 Display unit 1405 Audio output unit 1406 Reception unit 1407 Playback control unit 1408 Input processing unit 1409 TV / radio reception unit 1410 Content storage unit 1411 Memory 1412 CPU
501 Contents such as video 502 Child information display child window 503 Behavior information character string 504 Video information 505 Figure 510 Display screen 601 Notification method selection screen 602 Notification method detail setting screen

Claims (16)

乗り物の挙動を予測する挙動情報算出手段と、
前記挙動情報の算出に必要な情報を取得する挙動算出情報取得手段と、
前記挙動情報を送信する送信手段と、を有することを特徴とする挙動情報取得装置。
Behavior information calculation means for predicting the behavior of the vehicle;
Behavior calculation information acquisition means for acquiring information necessary for calculation of the behavior information;
A behavior information acquisition apparatus comprising: transmission means for transmitting the behavior information.
前記挙動算出情報取得手段は、乗り物の進行方向ないしは周囲の映像を取得する映像取得手段と、前記映像を解析して周囲の状況を把握するための映像情報解析手段と、を備えることを特徴とする請求項1に記載の挙動情報取得装置。   The behavior calculation information acquisition means comprises: a video acquisition means for acquiring a moving direction of a vehicle or a surrounding video; and a video information analysis means for analyzing the video and grasping a surrounding situation. The behavior information acquisition apparatus according to claim 1. 前記挙動算出情報取得手段は、乗り物の進行方向ないしは周囲の映像を取得する映像取得手段と、前記映像を解析して周囲の状況を把握するための映像情報解析手段と、前記乗り物の運動情報を取得するための運動情報取得手段と、を備えることを特徴とする請求項1または2の何れか1つに記載の挙動情報取得装置。   The behavior calculation information acquisition means includes a video acquisition means for acquiring a moving direction of a vehicle or a surrounding video, a video information analysis means for analyzing the video and grasping a surrounding situation, and motion information of the vehicle. The behavior information acquisition device according to claim 1, further comprising exercise information acquisition means for acquiring. 前記挙動算出情報取得手段は、前記乗り物が走行する線路ないしは道路や運行情報を格納する線路情報格納手段に格納された情報を取得する機能、を備えることを特徴とする請求項1に記載の挙動情報取得装置。   2. The behavior according to claim 1, wherein the behavior calculation information acquisition unit has a function of acquiring information stored in a track information storage unit that stores a track on which the vehicle travels or a road and operation information. Information acquisition device. 前記挙動算出情報取得手段は、前記乗り物が走行する線路ないしは道路や運行情報を格納する線路情報格納手段に格納された情報を取得する機能と、前記乗り物の現在位置情報を取得する位置情報取得手段と、を備えることを特徴とする請求項1または4の何れか1つに記載の挙動情報取得装置。   The behavior calculation information acquisition means includes a function for acquiring information stored in a track information storage means for storing a track on which the vehicle travels or road and operation information, and a position information acquisition means for acquiring current position information of the vehicle. The behavior information acquisition apparatus according to claim 1, wherein the behavior information acquisition apparatus includes: 前記挙動算出情報取得手段は、前記乗り物が走行する線路ないしは道路や運行情報を格納する線路情報格納手段に格納された情報を取得する機能と、前記乗り物の現在位置情報を取得する位置情報取得手段と、前記乗り物の運動情報を取得するための運動情報取得手段と、を備えることを特徴とする請求項1、4または5の何れか1つに記載の挙動情報取得装置。   The behavior calculation information acquisition means includes a function for acquiring information stored in a track information storage means for storing a track on which the vehicle travels or road and operation information, and a position information acquisition means for acquiring current position information of the vehicle. The behavior information acquisition apparatus according to claim 1, further comprising: motion information acquisition means for acquiring motion information of the vehicle. 前記挙動算出情報取得手段は、乗り物の進行方向ないしは周囲の映像を取得する映像取得手段と、前記映像を解析して周囲の状況を把握するための映像情報解析手段と、前記乗り物の運動情報を取得するための運動情報取得手段と、前記乗り物が走行する線路ないしは道路や運行情報を格納する線路情報格納手段に格納された情報を取得する機能と、前記乗り物の現在位置情報を取得する位置情報取得手段と、を備えることを特徴とする請求項1から6の何れか1つに記載の挙動情報取得装置。   The behavior calculation information acquisition means includes a video acquisition means for acquiring a moving direction of a vehicle or a surrounding video, a video information analysis means for analyzing the video and grasping a surrounding situation, and motion information of the vehicle. Movement information acquisition means for acquiring, a function for acquiring information stored in a track on which the vehicle runs or road information storage means for storing road and operation information, and position information for acquiring current position information of the vehicle The behavior information acquisition device according to any one of claims 1 to 6, further comprising an acquisition unit. コンテンツを再生する再生手段と、
乗り物の挙動を予測するための挙動情報の算出に必要な情報を取得する挙動算出情報取得手段と算出した挙動情報を送信する送信手段とを有する挙動情報取得装置から送信される挙動情報を受信する受信手段と、
受信した挙動情報を通知する通知手段と、
通知手段を選択する通知手段設定機能と、を有することを特徴とする挙動情報表示端末。
Playback means for playing back content;
Receives behavior information transmitted from a behavior information acquisition device having behavior calculation information acquisition means for acquiring information necessary for calculation of behavior information for predicting the behavior of the vehicle and transmission means for transmitting the calculated behavior information Receiving means;
A notification means for notifying the received behavior information;
A behavior information display terminal comprising a notification means setting function for selecting a notification means.
前記再生手段は、テレビ放送およびラジオ放送を受信して再生するテレビ・ラジオ再生手段と、自端末内に蓄積されたコンテンツを再生する蓄積コンテンツ再生手段と、ネットワーク上に存在するコンテンツを再生するネットワークコンテンツ再生手段を備えることを特徴とする請求項8に記載の挙動情報表示端末。   The playback means includes a television / radio playback means for receiving and playing back a television broadcast and a radio broadcast, a stored content playback means for playing back content stored in the terminal, and a network for playing back content existing on the network. The behavior information display terminal according to claim 8, further comprising a content reproduction unit. 前記通知手段は、画面への表示であることを特徴とする請求項8または9の何れか1つに記載の挙動情報表示端末。   The behavior information display terminal according to claim 8, wherein the notification means is display on a screen. 前記画面への表示は、車両進行方向ないしは周囲の映像情報であることを特徴とする請求項10記載の挙動情報表示端末。   The behavior information display terminal according to claim 10, wherein the display on the screen is vehicle traveling direction or surrounding video information. 前記画面への表示は、挙動情報を表す文字列であることを特徴とする請求項10記載の挙動情報表示端末。   The behavior information display terminal according to claim 10, wherein the display on the screen is a character string representing behavior information. 前記画面への表示は、挙動情報を表す図形ないしは画面変化であることを特徴とする請求項10記載の挙動情報表示端末。   The behavior information display terminal according to claim 10, wherein the display on the screen is a figure representing behavior information or a screen change. 前記通知手段は、音声出力であることを特徴とする請求項8または9の何れか1つに記載の挙動情報表示端末。   The behavior information display terminal according to claim 8, wherein the notification unit is an audio output. 前記通知手段は、端末の振動によるものであることを特徴とする請求項8または9の何れか1つに記載の挙動情報表示端末。   The behavior information display terminal according to any one of claims 8 and 9, wherein the notification means is caused by vibration of the terminal. 乗り物の挙動を予測する挙動情報算出手段と、前記挙動情報の算出に必要な情報を取得する挙動算出情報取得手段と、前記挙動情報を送信する送信手段と、を有する挙動情報取得装置と、
コンテンツを再生する再生手段と、前記挙動情報取得装置から送信される挙動情報を受信する受信手段と、受信した挙動情報を通知する通知手段と、通知手段を選択する通知手段設定機能と、を有する挙動情報表示端末とからなる挙動情報通知システムであって、
挙動情報取得装置で算出し送信された挙動情報を挙動情報表示端末で受信し、受信した挙動情報を通知手段により通知する、ことを特徴とする挙動情報通知システム。
A behavior information acquisition device having behavior information calculation means for predicting the behavior of the vehicle, behavior calculation information acquisition means for acquiring information necessary for calculating the behavior information, and transmission means for transmitting the behavior information;
Reproduction means for reproducing content, reception means for receiving behavior information transmitted from the behavior information acquisition device, notification means for notifying the received behavior information, and notification means setting function for selecting the notification means A behavior information notification system comprising a behavior information display terminal,
A behavior information notification system characterized in that behavior information calculated and transmitted by a behavior information acquisition device is received by a behavior information display terminal, and the received behavior information is notified by a notification means.
JP2006009383A 2006-01-18 2006-01-18 Behavior information acquisition device, display terminal, and behavior information notification system Expired - Fee Related JP4923579B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006009383A JP4923579B2 (en) 2006-01-18 2006-01-18 Behavior information acquisition device, display terminal, and behavior information notification system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006009383A JP4923579B2 (en) 2006-01-18 2006-01-18 Behavior information acquisition device, display terminal, and behavior information notification system

Publications (2)

Publication Number Publication Date
JP2007193459A true JP2007193459A (en) 2007-08-02
JP4923579B2 JP4923579B2 (en) 2012-04-25

Family

ID=38449123

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006009383A Expired - Fee Related JP4923579B2 (en) 2006-01-18 2006-01-18 Behavior information acquisition device, display terminal, and behavior information notification system

Country Status (1)

Country Link
JP (1) JP4923579B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010036722A (en) * 2008-08-05 2010-02-18 Mitsubishi Electric Corp Operation prediction information providing system, ground information processing device, and in-vehicle information processing device
JP2013003719A (en) * 2011-06-14 2013-01-07 Alpine Electronics Inc Electronic book viewing system and in-vehicle unit
JP2020114720A (en) * 2019-01-18 2020-07-30 株式会社日立製作所 Gangway door, vehicle for rail transport system, and modification method for the same

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06195056A (en) * 1992-12-25 1994-07-15 Sony Corp Display device
JPH10162285A (en) * 1996-12-02 1998-06-19 Tatsuno Co Ltd Traffic system for automobile
JP2000331290A (en) * 1999-05-20 2000-11-30 Shimazu S D Kk Vehicle arrival recognition system and portable terminal equipment for the system
JP2002135758A (en) * 2000-10-20 2002-05-10 Yazaki Corp On-vehicle transmitting system, receiving apparatus and transmitting apparatus for video data
JP2002245574A (en) * 2001-02-14 2002-08-30 Fujitsu Ten Ltd Vehicular alarm device and terminal apparatus with vibration
JP2003154900A (en) * 2001-11-22 2003-05-27 Pioneer Electronic Corp Rear entertainment system and method of controlling the same
JP2004046875A (en) * 2002-07-03 2004-02-12 Iwane Kenkyusho:Kk Transportation automatic guiding device
JP2005031787A (en) * 2003-07-08 2005-02-03 Alpine Electronics Inc On-vehicle system and attention-drawing method in the same
JP2005173729A (en) * 2003-12-08 2005-06-30 Fuji Photo Film Co Ltd Information providing system

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06195056A (en) * 1992-12-25 1994-07-15 Sony Corp Display device
JPH10162285A (en) * 1996-12-02 1998-06-19 Tatsuno Co Ltd Traffic system for automobile
JP2000331290A (en) * 1999-05-20 2000-11-30 Shimazu S D Kk Vehicle arrival recognition system and portable terminal equipment for the system
JP2002135758A (en) * 2000-10-20 2002-05-10 Yazaki Corp On-vehicle transmitting system, receiving apparatus and transmitting apparatus for video data
JP2002245574A (en) * 2001-02-14 2002-08-30 Fujitsu Ten Ltd Vehicular alarm device and terminal apparatus with vibration
JP2003154900A (en) * 2001-11-22 2003-05-27 Pioneer Electronic Corp Rear entertainment system and method of controlling the same
JP2004046875A (en) * 2002-07-03 2004-02-12 Iwane Kenkyusho:Kk Transportation automatic guiding device
JP2005031787A (en) * 2003-07-08 2005-02-03 Alpine Electronics Inc On-vehicle system and attention-drawing method in the same
JP2005173729A (en) * 2003-12-08 2005-06-30 Fuji Photo Film Co Ltd Information providing system

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010036722A (en) * 2008-08-05 2010-02-18 Mitsubishi Electric Corp Operation prediction information providing system, ground information processing device, and in-vehicle information processing device
JP2013003719A (en) * 2011-06-14 2013-01-07 Alpine Electronics Inc Electronic book viewing system and in-vehicle unit
JP2020114720A (en) * 2019-01-18 2020-07-30 株式会社日立製作所 Gangway door, vehicle for rail transport system, and modification method for the same
JP7461106B2 (en) 2019-01-18 2024-04-03 株式会社日立製作所 Pass-through door, vehicle for track transportation system, and modification method thereof

Also Published As

Publication number Publication date
JP4923579B2 (en) 2012-04-25

Similar Documents

Publication Publication Date Title
US10214145B2 (en) Vehicle control device and vehicle control method thereof
WO2021033464A1 (en) Driving control device and vehicle behavior suggestion device
WO2015162764A1 (en) Vehicle-mounted information device and function limiting method for vehicle-mounted information device
US20200377126A1 (en) Information output control device and information output control method
JP2016197390A (en) Start-up suggestion device and start-up suggestion method
JP5139126B2 (en) Inter-vehicle communication system, in-vehicle communication device and portable communication device
JP2011028651A (en) Image recording device for vehicle
US8548737B2 (en) Navigation apparatus
JP4529735B2 (en) Display control device for television broadcast display and program for display control device
JP4561675B2 (en) Driving support device and computer program
JP2009003595A (en) Navigation unit, drive support unit, traffic signal state notification method and program, and drive support method and program
JP2009150849A (en) On-vehicle apparatus, output propriety determination method, road communication system, and program
JP4923579B2 (en) Behavior information acquisition device, display terminal, and behavior information notification system
JPH10116086A (en) On-vehicle karaoke
JP2007259146A (en) Caption detector, caption detecting method, caption detecting program and recording medium
JP5050771B2 (en) Information providing apparatus, information providing method, and program
WO2016157814A1 (en) Startup suggestion device and startup suggestion method
JP5003399B2 (en) Road communication system, communication terminal, data reproduction processing method, and data reproduction program
JP2009093532A (en) Road communication system, communication terminal, data reproduction-processing method, and data-reproducing program
JP4658357B2 (en) Traffic jam information providing apparatus, program and system
JP2008164505A (en) Device for providing information
WO2023204076A1 (en) Acoustic control method and acoustic control device
JP2003346287A (en) Vehicle, information communication method used therefor, and information communication system for vehicle
JP5125388B2 (en) Road communication system, communication terminal, data reproduction processing method, and data reproduction program
JP5619530B2 (en) Mobile communication device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120123

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees