JP6534810B2 - Vision control device, vision control system, vision control method, and vision control program - Google Patents

Vision control device, vision control system, vision control method, and vision control program Download PDF

Info

Publication number
JP6534810B2
JP6534810B2 JP2014255160A JP2014255160A JP6534810B2 JP 6534810 B2 JP6534810 B2 JP 6534810B2 JP 2014255160 A JP2014255160 A JP 2014255160A JP 2014255160 A JP2014255160 A JP 2014255160A JP 6534810 B2 JP6534810 B2 JP 6534810B2
Authority
JP
Japan
Prior art keywords
state
view
visibility
changing device
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014255160A
Other languages
Japanese (ja)
Other versions
JP2016114892A (en
Inventor
祐司 笹鹿
祐司 笹鹿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solutions Innovators Ltd
Original Assignee
NEC Solutions Innovators Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Solutions Innovators Ltd filed Critical NEC Solutions Innovators Ltd
Priority to JP2014255160A priority Critical patent/JP6534810B2/en
Publication of JP2016114892A publication Critical patent/JP2016114892A/en
Application granted granted Critical
Publication of JP6534810B2 publication Critical patent/JP6534810B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)

Description

本願発明は、視覚を通して危険を通知する視界制御装置等に関する。   The present invention relates to a visibility control device and the like that notify of danger through vision.

日常生活における様々な局面において、危険を迅速に察知することは非常に重要である。例えば、触ることによって熱傷になる物体の存在、あるいは、有毒な気体の発生等の危険を察知することが遅れた場合、人命に関わる虞がある。このような危険を、視覚あるいは聴覚等を通して通知する様々な技術が知られている。一般的に人間は、五感のうち、視覚から最も多くの情報を得ているので、特に視覚を通して危険を通知することによって危険を回避する技術への期待が高まっている。   It is very important to detect danger quickly in various aspects of daily life. For example, if it is delayed to detect the presence of an object which is burnt by touching, or the generation of a toxic gas, it may be life-threatening. There are known various techniques for notifying such a danger through sight or hearing. In general, human beings receive the most information from vision among the five senses, so there is a growing expectation of technology for avoiding danger by notifying danger through vision, in particular.

このような技術の一例として、特許文献1には、使用者の視界方向の画像を取得し、取得した画像に基づいて使用者に注意を促す注意情報を生成し、その注意情報を虚像として表示する、拡張現実を体感可能なヘッドマウントディスプレイ装置が開示されている。この装置は、個別に予め用意された危険場所に関する情報を必要とせずに、使用者の視界方向における危険等の注意点を推定することによって、使用者に注意を促す。   As an example of such a technique, Patent Document 1 acquires an image in the direction of the field of view of the user, generates attention information that warns the user based on the acquired image, and displays the attention information as a virtual image. There is disclosed a head mounted display device capable of experiencing augmented reality. This device warns the user of the user's attention by estimating the attention point such as the danger in the user's sight direction without requiring the information on the separately prepared danger place.

また、特許文献2には、車間距離センサが出力した情報から後続車の煽り走行を検出した場合、ドライバの目に後続車が入らないように、ルームミラーによる後方視界を通常状態から変更する運転支援装置が開示されている。この装置は、ドライバの不安感を軽減させることによって、運転ミスによる事故の発生を防止する。   In addition, according to Patent Document 2, when the turning of the following vehicle is detected from the information output from the inter-vehicle distance sensor, the rearview mirror changes the rear view from the normal state so that the following vehicle does not get into the driver's eyes. A support device is disclosed. This device prevents the occurrence of an accident due to a driving error by reducing the driver's anxiety.

特開2014-120786号公報JP, 2014-120786, A 特開2010-271906号公報Unexamined-Japanese-Patent No. 2010-271906

上述した特許文献1が示すヘッドマウントディスプレイ装置は、視界を表示する画面において、視界を過度に遮らずにわかりやすく使用者に注意を促すため、アイコンや図形等を、注意を要する場所の近傍に表示する。この場合、使用者は、視界を表示する画面に表示されるアイコンや図形が示す意味を事前に理解していないと、危険を察知することが遅れる虞がある。また、使用者が、注意を要する場所の近傍に表示されたこれらのアイコンや図形を見逃す可能性もある。すなわち、特許文献1に記載された技術は、使用者が危険を着実に察知できるように、その危険を使用者に着実に通知するという課題を解決するには不十分である。また、特許文献2にも、この課題を解決する技術は示されていない。   The head-mounted display device described in Patent Document 1 described above displays icons, figures, etc. in the vicinity of a location requiring attention on the screen for displaying the field of view, in order to alert the user easily without comprehending the field of view. indicate. In this case, if the user does not understand in advance the meaning indicated by the icon or graphic displayed on the screen displaying the view, the user may be late in detecting the danger. It is also possible for the user to miss these icons or shapes displayed in the vicinity of the area requiring attention. That is, the technology described in Patent Document 1 is insufficient for solving the problem of steadily notifying the user of the danger so that the user can steadily sense the danger. Patent Document 2 does not disclose any technique for solving this problem.

本願発明の主たる目的は、上述した課題を解決した、視界制御装置等を提供することである。   The main object of the present invention is to provide a view control device and the like that solve the problems described above.

本願発明の一態様に係る視界制御装置は、自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が変化するよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する制御手段を備える。   A visibility control apparatus according to an aspect of the present invention is configured to have transparency covering a user's visibility when a value indicated by environment information representing a result of measurement of a state of a surrounding environment of the own apparatus satisfies a predetermined determination condition. And control means for controlling the view changing device capable of changing the state regarding the object or the view image so that the state regarding the object having the state or the view image displayed by the display device and configuring the view changes. .

上記目的を達成する他の見地において、本願発明の一態様に係る視界制御方法は、自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が変化するよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する。   In another aspect for achieving the above object, the view control method according to an aspect of the present invention is configured such that the value indicated by the environmental information indicating the result of measurement of the state of the surrounding environment of the own device satisfies a predetermined determination condition It is possible to change the state relating to the object or the view image such that the state relating to the transparent object covering the view of the user, or the state relating to the view image displayed by the display device and constituting the view changes. Control the visibility changing device.

また、上記目的を達成する更なる見地において、本願発明の一態様に係る視界制御プログラムは、自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が変化するよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する制御処理をコンピュータに実行させる。   Further, in a further aspect of achieving the above object, the view control program according to an aspect of the present invention is characterized in that the value indicated by the environmental information indicating the result of the measurement of the state of the peripheral environment of the own device is a predetermined judgment condition When it is satisfied, the state regarding the object or the view image is changed so that the state regarding the object having transparency covering the view of the user or the state regarding the view image displayed by the display device and configuring the view changes. A computer executes control processing to control possible visibility changing devices.

更に、本発明は、係る視界制御プログラム(コンピュータプログラム)が格納された、コンピュータ読み取り可能な、不揮発性の記憶媒体によっても実現可能である。   Furthermore, the present invention can also be realized by a computer readable non-volatile storage medium storing such a view control program (computer program).

本願発明は、使用者が危険を着実に察知できるように、その危険を使用者に通知することを可能とする。   The present invention makes it possible to notify the user of the danger so that the user can steadily sense the danger.

本願発明の第1の実施形態に係る視界制御システムの構成を示すブロック図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a block diagram which shows the structure of the visual field control system which concerns on the 1st Embodiment of this invention. 本願発明の第1の実施形態に係る視界制御システムを実装したメガネの斜視図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a perspective view of the spectacles which mounted the visual field control system which concerns on the 1st Embodiment of this invention. 本願発明の第1の実施形態に係る視界制御システムの動作を示すフローチャートである。It is a flowchart which shows operation | movement of the visual field control system which concerns on the 1st Embodiment of this invention. 本願発明の第2の実施形態に係る視界制御装置の構成を示すブロック図である。It is a block diagram which shows the structure of the visual field control apparatus which concerns on the 2nd Embodiment of this invention. 本願発明の各実施形態に係る視界制御装置の制御部及び判定部を実行可能な情報処理装置の構成を示すブロック図である。It is a block diagram which shows the structure of the information processing apparatus which can perform the control part and the determination part of the visual field control apparatus which concern on each embodiment of this invention.

以下、本願発明の実施の形態について図面を参照して詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

<第1の実施形態>
図1は、第1の実施形態に係る視界制御システム1の構成を概念的に示すブロック図である。本実施形態に係る視界制御システム1は、視界制御装置10、計測装置20、視界変更装置30、及び、メガネレンズ40を備えている。
First Embodiment
FIG. 1 is a block diagram conceptually showing the configuration of a view control system 1 according to the first embodiment. The view control system 1 according to the present embodiment includes a view control device 10, a measurement device 20, a view changing device 30, and an eyeglass lens 40.

メガネレンズ40は、一般的なメガネレンズである場合もあれば、可視光が透過する透過率を電気的な制御によって変更可能な素材を含むレンズ等である場合もある。本実施形態では、メガネレンズ40を、例えば自動車のフロントガラスに置き換えてもよい。あるいはまた、本実施形態では、メガネレンズ40を、周辺の視界を表示するヘッドマウントディスプレイ装置等の表示装置に置き換えてもよい。   The spectacle lens 40 may be a general spectacle lens or may be a lens including a material that can change the transmittance of visible light by electrical control. In the present embodiment, the spectacle lens 40 may be replaced with, for example, a windshield of a car. Alternatively, in the present embodiment, the spectacle lens 40 may be replaced with a display device such as a head mounted display device for displaying the peripheral vision.

計測装置20は、計測機器21を備えている。計測機器21は、周辺環境の状態を計測する機器である。計測機器21は、例えば、温度や湿度等を計測するセンサである場合もあれば、有毒ガスや放射線等を計測するセンサである場合もある。また、計測機器21は、例えば、周辺の映像を撮影するカメラである場合もあれば、音を集音するマイクロフォンである場合もある。計測機器21は、周辺環境の状態を、例えば継続的に計測することができる。この際、計測機器21は、一定時間毎に計測してもよいし、所定の条件を満たした場合に計測してもよい。計測装置20は、計測機器21が計測して得た計測データを、アナログデジタル変換、及び、スケール変換等を行うことによって、環境情報200を時系列に生成する。計測装置20は、生成した環境情報200を、視界制御装置10へ入力する。   The measuring device 20 includes a measuring device 21. The measuring device 21 is a device that measures the state of the surrounding environment. The measuring device 21 may be, for example, a sensor that measures temperature, humidity, or the like, or may be a sensor that measures toxic gas, radiation, or the like. In addition, the measuring device 21 may be, for example, a camera for capturing an image of a surrounding area, or may be a microphone for collecting sound. The measuring device 21 can, for example, continuously measure the state of the surrounding environment. At this time, the measuring device 21 may measure at regular intervals or may measure when a predetermined condition is satisfied. The measuring device 20 generates environmental information 200 in time series by performing analog-to-digital conversion, scale conversion, and the like on measurement data obtained by measurement by the measuring device 21. The measuring device 20 inputs the generated environment information 200 to the view control device 10.

視界変更装置30は、視界制御装置10によって制御され、メガネレンズ40に関する状態を変更する。メガネレンズ40に関する状態とは、具体的には、例えば、メガネレンズ40を透過する可視光の透過率である。視界制御システム1が、一般的なメガネレンズ40、あるいは、自動車のフロントガラスを備えている場合、視界変更装置30は、例えば水蒸気を噴霧する噴霧器を備える。視界変更装置30がメガネレンズ40あるいは自動車のフロントガラスに水蒸気を噴霧することによって、メガネレンズ40あるいは自動車のフロントガラスを透過する可視光の透過率が低下する。尚、噴霧器が自動車のフロントガラスに水蒸気を噴霧する場合、自動車の運転に支障が出ない程度に、フロントガラスを曇らすようにしなければならない。   The visibility changing device 30 is controlled by the visibility control device 10 to change the state of the spectacle lens 40. Specifically, the state relating to the spectacle lens 40 is, for example, the transmittance of visible light transmitted through the spectacle lens 40. If the vision control system 1 comprises a general spectacle lens 40 or a windshield of a motor vehicle, the vision modification device 30 comprises, for example, a sprayer that sprays water vapor. As the visibility changing device 30 sprays water vapor on the spectacle lens 40 or the windshield of the car, the transmittance of visible light transmitted through the spectacle lens 40 or the windshield of the car is reduced. When the sprayer sprays water vapor on the windshield of a car, the windshield must be made frosty to such an extent that the operation of the car is not hindered.

また、メガネレンズ40が、可視光が透過する透過率を電気的な制御によって変更可能な素材を含むレンズである場合、視界変更装置30は、電気的な制御によって当該透過率を変更する。メガネレンズ40が含む素材が、電気的な制御によって、透過する可視光の色を変更可能である場合は、視界変更装置30は、例えば、メガネレンズ40を通した使用者の視界が、全体或いは略全体に亘って赤くなるように、メガネレンズ40に関する状態を変更してもよい。   Moreover, when the spectacles lens 40 is a lens containing the material which can change the transmittance | permeability in which visible light permeate | transmits by electrical control, the visibility change apparatus 30 changes the said transmittance | permeability by electrical control. When the material contained in the spectacle lens 40 is capable of changing the color of visible light to be transmitted by electrical control, the view changing device 30 may, for example, display the entire view of the user through the spectacle lens 40 or The state relating to the spectacle lens 40 may be changed so as to be almost entirely red.

視界制御システム1が、メガネレンズ40の代わりに周辺の視界を表示するヘッドマウントディスプレイ装置等の表示装置を備えている場合、視界変更装置30は、この表示装置が表示する画像に関する透明度あるいは色調等を変更する画像処理を行う。   When the view control system 1 includes a display device such as a head mounted display device for displaying a peripheral view instead of the eyeglass lens 40, the view changing device 30 is a transparency, a color tone, etc. of an image displayed by the display device. Perform image processing to change the.

視界変更装置30は、視界制御装置10からの指示を受けて、状態を変更したメガネレンズ40に関する状態を元の状態に戻す。視界変更装置30は、例えば、メガネレンズ40を温める機能を備え、曇ったメガネレンズ40を周辺温度と同じ温度にすることによって、メガネレンズ40の曇りを解消する。視界変更装置30は、自動車のフロントガラスの車両外部側を水蒸気によって曇らせた場合、例えば、ワイパーを作動させることによって、フロントガラスの曇りを解消する。視界変更装置30は、自動車のフロントガラスの車両内部側を水蒸気によって曇らせた場合、例えば、デフロスターを作動させることによって、フロントガラスの曇りを解消する。   In response to an instruction from the view control device 10, the view changing device 30 restores the state of the spectacle lens 40 whose state has been changed back to the original state. The view changing device 30 has, for example, a function of warming the spectacle lens 40, and eliminates the fogging of the spectacle lens 40 by making the cloudy spectacle lens 40 the same temperature as the ambient temperature. When the vehicle exterior side of the windshield of the automobile is fogged with water vapor, the visibility changing device 30 eliminates the fogging of the windshield, for example, by operating a wiper. The visibility change device 30 eliminates the fogging of the windshield, for example, by activating the defroster when the interior of the windshield of the automobile is fogged with water vapor.

視界変更装置30は、メガネレンズ40について、可視光が透過する透過率を電気的な制御によって変更した場合、当該透過率を元の値に戻す。視界変更装置30は、ヘッドマウントディスプレイ装置等の表示装置が表示する画像に関する透明度あるいは色調等を変更する画像処理を行った場合、表示画像を、当該画像処理を行う前の状態に戻す。   The visibility changing device 30 returns the transmittance to the original value when the transmittance of visible light through the spectacle lens 40 is changed by electrical control. When the field-of-view change device 30 performs image processing to change the transparency, color tone, and the like of an image displayed by a display device such as a head mounted display device, the display image is returned to the state before the image processing.

上述した通り、視界変更装置30は、メガネレンズ40、あるいは、自動車のフロントガラス、あるいは、ヘッドマウントディスプレイ装置等の表示装置が表示する画像に関する状態を変更することによって、使用者の視界の状態を変更する。   As described above, the view changing device 30 changes the state of the view of the user by changing the state of the image displayed by the display device such as the spectacle lens 40 or the windshield of the car or the head mounted display device. change.

視界制御装置10は、判定部11、制御部12、及び、スイッチ13を備えている。判定部11、及び、制御部12は、電子回路の場合もあれば、コンピュータプログラムとそのコンピュータプログラムに従って動作するプロセッサによって実現される場合もある。   The visibility control device 10 includes a determination unit 11, a control unit 12, and a switch 13. The determination unit 11 and the control unit 12 may be an electronic circuit or may be realized by a computer program and a processor operating according to the computer program.

判定部11は、周辺環境の状態が危険であるか否かを判定する際の基準となる判定条件110を内部メモリ(図1には不図示)に記憶している。判定条件(判定条件を表す情報)110は、例えば、計測機器21が温度や湿度等を計測するセンサである場合は、温度や湿度等に関する閾値である。判定条件110は、例えば、計測機器21が有毒ガスや放射線等を計測するセンサである場合は、有毒ガスの濃度や放射線量に関する閾値である。判定条件110は、例えば、計測機器21が周辺の映像を撮影するカメラである場合は、刃物等の危険物に関する画像情報である。   The determination unit 11 stores, in an internal memory (not shown in FIG. 1), a determination condition 110 which is a reference when determining whether or not the state of the surrounding environment is dangerous. The determination condition (information representing the determination condition) 110 is, for example, a threshold related to the temperature, the humidity, or the like when the measurement device 21 is a sensor that measures the temperature, the humidity, or the like. For example, when the measuring device 21 is a sensor that measures toxic gas, radiation, or the like, the determination condition 110 is a threshold related to the concentration or radiation dose of the toxic gas. The determination condition 110 is, for example, image information related to a dangerous substance such as a blade when the measuring device 21 is a camera for capturing an image of the surroundings.

判定部11は、計測装置20から入力された環境情報200が示す値が、判定条件110を満たすか否かを判定する。判定部11は、例えば、環境情報200が示す温度や湿度、あるいは、有毒ガスの濃度や放射線量が、判定条件110が示す閾値以上である場合、周辺環境の状態が危険であると判定する。判定部11は、例えば、環境情報200が示す周辺の映像に、判定条件110が示す刃物等の危険物に関する画像が含まれている場合、周辺環境の状態が危険であると判定する。判定部12は、判定結果を制御部12へ入力する。判定部11は、この判定を一定時間毎に行ってもよいし、所定の条件を満たした場合に行ってもよい。   The determination unit 11 determines whether the value indicated by the environment information 200 input from the measuring device 20 satisfies the determination condition 110. For example, when the temperature or humidity indicated by the environmental information 200 or the concentration or radiation dose of toxic gas is equal to or higher than the threshold indicated by the determination condition 110, the determination unit 11 determines that the state of the surrounding environment is dangerous. For example, when an image related to a dangerous object such as a blade indicated by the determination condition 110 is included in the peripheral image indicated by the environment information 200, the determination unit 11 determines that the state of the peripheral environment is dangerous. The determination unit 12 inputs the determination result to the control unit 12. The determination unit 11 may perform this determination every constant time, or may perform this determination when a predetermined condition is satisfied.

制御部12は、判定部11から入力された判定結果が、周辺環境の状態が危険であることを示す場合、使用者がメガネレンズ40を通して見る視界の状態が変化するよう、視界変更装置30を制御する。   When the determination result input from the determination unit 11 indicates that the state of the surrounding environment is dangerous, the control unit 12 changes the view changing device 30 so that the state of the view seen by the user through the spectacle lens 40 changes. Control.

制御部12は、メガネレンズ40等に関する状態を変更するよう、視界変更装置30に指示したのち、判定部11から危険が解消されたことを示す判定結果を入力された場合、視界変更装置30に、変更した視界の状態を元に戻すように指示する。   After instructing the view changing device 30 to change the state regarding the spectacle lens 40 or the like, the control unit 12 instructs the view changing device 30 to input a determination result indicating that the danger has been eliminated from the determining unit 11. , Instructs to restore the state of the changed view.

スイッチ13は、使用者が押圧可能なスイッチである。制御部12は、視界変更装置30が使用者の視界を変更している最中に、使用者がスイッチ13を押圧したことを検知する。この場合、制御部12は、変更した視界の状態を元の状態に戻すように、視界変更装置30に指示する。この際、制御部12は、視界の状態を変更している最中であるか否かを示す情報を記憶するメモリを内蔵することによって、視界の状態を変更している最中であるか否かを判断してもよい。あるいは、制御部12は、メガネレンズ40等に関する状態を示す情報を視界変更装置30から入手することによって、視界の状態を変更している最中であるか否かを判断してもよい。   The switch 13 is a switch that can be pressed by the user. The control unit 12 detects that the user has pressed the switch 13 while the visibility changing device 30 is changing the visibility of the user. In this case, the control unit 12 instructs the view changing device 30 to restore the changed view state to the original state. At this time, whether or not the state of the field of view is being changed by incorporating a memory for storing information indicating whether or not the state of the field of view is being changed. You may decide whether or not. Alternatively, the control unit 12 may determine whether or not the state of the field of view is being changed by obtaining information indicating the state of the spectacle lens 40 or the like from the field of view changing device 30.

尚、制御部12は、使用者がスイッチ13を押圧したことによって、視界の状態が元の状態に戻ったのちは、判定部11から、新たな危険が発生したことを通知されるまで、視界の状態を変更しないよう、視界変更装置30を制御する。   After the state of the field of view returns to the original state by the user pressing the switch 13, the controller 12 causes the field of view until the notification of the occurrence of a new danger from the determination unit 11 Control the visibility changing device 30 so as not to change the state of.

本実施形態に係る視界制御システム1をメガネ2に実装した例の斜視図を図2に示す。メガネ2は、フレーム前部に計測装置20を備え、周辺環境の状態を計測する。メガネ2は、フレーム側部に、視界制御装置10及び視界変更装置30を備え、周辺環境に関する危険の状態に応じて、メガネレンズ40に関する状態を変更することによって、使用者の視界の状態を変更する。メガネ2は、また、変更した視界の状態を元に戻す場合に使用者が押圧するスイッチ13を、フレーム側部に備えている。   The perspective view of the example which mounted the vision control system 1 which concerns on this embodiment to the spectacles 2 is shown in FIG. The glasses 2 include a measuring device 20 at the front of the frame to measure the state of the surrounding environment. The glasses 2 are provided with the view control device 10 and the view changing device 30 on the side of the frame, and change the state of the user's view by changing the state regarding the eyeglass lens 40 according to the state of danger related to the surrounding environment. Do. The glasses 2 also have a switch 13 on the side of the frame that the user presses in order to restore the changed view state.

次に図3のフローチャートを参照して、本実施形態に係る視界制御システム1の動作(処理)について詳細に説明する。   Next, the operation (process) of the view control system 1 according to the present embodiment will be described in detail with reference to the flowchart of FIG. 3.

計測装置20は、計測機器21を使用して周辺環境の状態を計測し、計測機器21が計測した結果を基に環境情報200を生成する。計測装置20は、生成した環境情報200を視界制御装置10へ入力する(ステップS101)。視界制御装置10における判定部11は、環境情報200が示す値が判定条件110を満たすか否か確認する。(ステップS102)。   The measuring device 20 measures the state of the surrounding environment using the measuring device 21, and generates the environmental information 200 based on the result of measurement by the measuring device 21. The measuring device 20 inputs the generated environmental information 200 to the view control device 10 (step S101). The determination unit 11 in the view control device 10 checks whether the value indicated by the environment information 200 satisfies the determination condition 110. (Step S102).

環境情報200が示す値が判定条件110を満たす場合(ステップS103でYes)、判定部11は、周辺環境の状態が危険であると判定し、処理はステップS104へ進む。環境情報200が示す値が判定条件110を満たさない場合(ステップS103でNo)、判定部11は、周辺環境の状態が危険でないと判定し、処理はステップS107へ進む。   When the value indicated by the environment information 200 satisfies the determination condition 110 (Yes in step S103), the determination unit 11 determines that the state of the surrounding environment is dangerous, and the process proceeds to step S104. When the value indicated by the environment information 200 does not satisfy the determination condition 110 (No in step S103), the determination unit 11 determines that the state of the surrounding environment is not dangerous, and the process proceeds to step S107.

視界変更装置30がまだメガネレンズ40に関する状態を変更していない場合(ステップS104でNo)、制御部12は、メガネレンズ40に関する状態を変更するよう視界変更装置30を制御する(ステップS105)。視界変更装置30は、メガネレンズ40に関する状態を変更し(ステップS106)、全体の処理は終了する。視界変更装置30が既にメガネレンズ40に関する状態を変更している場合(ステップS104でYes)、処理はステップS108へ進む。   When the view changing device 30 has not yet changed the state regarding the eyeglass lens 40 (No in step S104), the control unit 12 controls the view changing device 30 to change the state regarding the eyeglass lens 40 (step S105). The view changing device 30 changes the state of the spectacle lens 40 (step S106), and the whole process ends. If the field of view change device 30 has already changed the state of the spectacle lens 40 (Yes in step S104), the process proceeds to step S108.

視界変更装置30がまだメガネレンズ40に関する状態を変更していない場合(ステップS107でNo)、全体の処理は終了する。視界変更装置30が既にメガネレンズ20に関する状態を変更している場合(ステップS107でYes)、制御部12は、メガネレンズ40に関する状態を元の状態に戻すよう視界変更装置30を制御する(ステップS109)。視界変更装置30は、メガネレンズ40に関する状態を元の状態に戻し(ステップS110)、全体の処理は終了する。   When the field of view changing device 30 has not changed the state regarding the spectacle lens 40 (No in step S107), the entire process ends. When the view changing device 30 has already changed the state of the eyeglass lens 20 (Yes in step S107), the control unit 12 controls the view changing device 30 to restore the state of the eyeglass lens 40 to the original state (step S109). The view changing device 30 returns the state regarding the spectacle lens 40 to the original state (step S110), and the whole process ends.

制御部12が、スイッチ13が押圧されたことを検知した場合(ステップS108でYes)、処理はステップS109へ進む。制御部12が、スイッチ13が押圧されたことを検知していない場合(ステップS108でNo)、全体の処理は終了する。   When control unit 12 detects that switch 13 is pressed (Yes in step S108), the process proceeds to step S109. When the control unit 12 does not detect that the switch 13 is pressed (No in step S108), the entire process ends.

本実施形態に係る視界制御システム1は、使用者が危険を着実に察知できるように、その危険を使用者に通知することができる。その理由は、計測装置20によって計測された周辺環境の状態から、判定部11が周辺環境に危険があると判定したときに、制御部12がメガネレンズ40に関する状態を変更するよう視界変更装置30を制御することによって、使用者の視界の状態を変更するからである。   The visibility control system 1 according to the present embodiment can notify the user of the danger so that the user can steadily sense the danger. The reason is that, from the state of the surrounding environment measured by the measuring device 20, when the determining unit 11 determines that there is a danger in the surrounding environment, the view changing device 30 changes the state related to the spectacle lens 40. Controlling the state of the user's view.

日常生活における様々な局面にいて遭遇する危険を、視覚を通して通知することによって、使用者が危険を迅速に察知することを支援する様々な技術が知られている。しかしながら、危険を使用者に通知したとしても、使用者が通知された内容を理解できない、あるいは、使用者が通知された内容を見逃す可能性がある場合、使用者がその危険を回避できずに人命に関わる虞がある。   There are known various techniques for assisting a user to quickly sense dangers by visually notifying the dangers encountered in various aspects of daily life. However, even if the user is notified of the danger, if the user can not understand the notified content or if the user may miss the notified content, the user can not avoid the danger. There is a risk of being involved in human life.

これに対して、本実施形態に係る視界制御システム1では、判定部11が危険を検知したときに、制御部12は、メガネレンズ40を曇らす等、使用者の視界の状態を変更する制御を行う。すなわち、本実施形態に係る視界制御装置10は、視界の状態を変更するという人間の原始的な感覚に直接的に訴えかけることによって、使用者が直感的かつ迅速に危険を察知することを支援する。これにより、本実施形態に係る視界制御装置10は、使用者が危険を着実に察知できるように、その危険を使用者に通知することができる。尚、視界制御装置10は、使用者による危険の認識をより確実にすべく、使用者の視界の全体あるいは略全体の状態を変更可能な視界変更装置30を、使用者の視界の全体あるいは略全体の状態を変更するように制御してもよい。   On the other hand, in the view control system 1 according to the present embodiment, when the determination unit 11 detects a danger, the control unit 12 controls to change the state of the user's view, such as fogging the spectacle lens 40. I do. That is, the view control device 10 according to the present embodiment supports the user to intuitively and quickly detect danger by directly appealing to the primitive sense of the human being to change the state of the view. Do. Thereby, the visibility control device 10 according to the present embodiment can notify the user of the danger so that the user can steadily sense the danger. Note that the view control device 10 can change the state of the whole or substantially the whole of the view of the user, in order to make the recognition of the danger by the user more certain, the whole of the view of the user or the view changing device 30. Control may be made to change the overall state.

また、本実施形態に係る視界制御装置10では、判定部11が継続的に危険を検知するので、危険を検知したのち、その危険が解消したことも検知する。制御部12は、判定部11から危険が発生したことを通知されたタイミングにメガネレンズ40を通した視界の状態を変更する制御を行ったのち、判定部11からその危険が解消したことを通知されたタイミングに視界の状態を元に戻す制御を行う。すなわち、本実施形態に係る視界制御装置10は、必要以上に長い間、視界の状態を変更した状態を維持することによって、使用者に必要以上に不便を強いることを防止できる。   Further, in the view control device 10 according to the present embodiment, since the determination unit 11 continuously detects the danger, after detecting the danger, it is also detected that the danger has been eliminated. The control unit 12 performs control to change the state of the field of view through the eyeglass lens 40 at the timing notified that the danger has occurred from the judgment unit 11, and then notifies the judgment unit 11 that the danger has been eliminated. Control is performed to restore the state of the field of view at the specified timing. That is, the visibility control device 10 according to the present embodiment can prevent the user from being unnecessarily inconvenient by maintaining the state where the visibility is changed for a long time more than necessary.

さらに、本実施形態に係る視界制御装置10では、制御部12が、スイッチ13が押圧されたことを検知する。制御部12は、視界変更装置30が視界の状態を変更している最中に使用者がスイッチ13を押圧したときに、視界の状態を元に戻す制御を行う。使用者がスイッチ13を押圧したときには、使用者は既に危険を察知しているので、たとえその危険が解消していない状態であっても、視界の状態を変更する必要はない。したがって、本実施形態に係る視界制御装置10は、使用者に必要以上に不便を強いることを防止できる。   Furthermore, in the view control device 10 according to the present embodiment, the control unit 12 detects that the switch 13 is pressed. When the user presses the switch 13 while the visibility changing device 30 is changing the visibility state, the control unit 12 performs control to restore the visibility state. When the user presses the switch 13, the user already senses the danger, so even if the danger has not been eliminated, there is no need to change the state of view. Therefore, the visibility control device 10 according to the present embodiment can prevent the user from being unnecessarily inconvenient.

<第2の実施形態>
図4は、第2の実施形態に係る視界制御装置50の構成を概念的に示すブロック図である。
Second Embodiment
FIG. 4 is a block diagram conceptually showing the configuration of the view control device 50 according to the second embodiment.

本実施形態に係る視界制御装置50は、制御部52を備えている。   The view control device 50 according to the present embodiment includes a control unit 52.

制御部52は、自装置の周辺環境の状態が計測された結果を表す環境情報600を入手する。制御部52は、環境情報600が示す値が、所定の判定条件520を満たす場合に、ユーザの視界を覆う透明性を有する物体80に関する状態が変化するよう、視界変更装置70を制御する。視界変更装置70は、透明性を有する物体80に関する状態を変更可能な装置である。尚、視界変更装置70が状態を変更する対象は、透明性を有する物体80の代わりに、表示装置によって表示された視界を構成する視界画像であってもよい。   The control unit 52 obtains environment information 600 representing the result of measurement of the state of the surrounding environment of the own device. When the value indicated by the environment information 600 satisfies the predetermined determination condition 520, the control unit 52 controls the view changing device 70 so that the state of the transparent object 80 covering the view of the user is changed. The visibility changing device 70 is a device capable of changing the state of the object 80 having transparency. The target whose view changing device 70 changes the state may be a view image forming the view displayed by the display device instead of the transparent object 80.

本実施形態に係る視界制御装置50は、使用者が危険を着実に察知できるように、その危険を使用者に通知することができる。その理由は、制御部52が、環境情報600及び判定条件520に基づき、周辺環境が危険であると判定したときに、透明性を有する物体80に関する状態を変更するよう視界変更装置70を制御することによって、使用者の視界の状態を変更するからである。   The visibility control device 50 according to the present embodiment can notify the user of the danger so that the user can steadily sense the danger. The reason is that, when the control unit 52 determines that the surrounding environment is dangerous based on the environment information 600 and the determination condition 520, it controls the view changing device 70 to change the state regarding the transparent object 80. This is because it changes the state of the user's view.

<ハードウェア構成例>
上述した各実施形態において図1、及び、図4に示した各部は、電子回路を含む専用のHW(HawdWare)によって実現することができる。また、少なくとも、判定部11、及び、制御部12及び52は、ソフトウェアプログラムの機能(処理)単位(ソフトウェアモジュール)と捉えることができる。但し、これらの図面に示した各部の区分けは、説明の便宜上の構成であり、実装に際しては、様々な構成が想定され得る。この場合のハードウェア環境の一例を、図5を参照して説明する。
<Hardware configuration example>
Each part shown in FIG. 1 and FIG. 4 in each embodiment described above can be realized by a dedicated HW (HawdWare) including an electronic circuit. Further, at least the determination unit 11 and the control units 12 and 52 can be regarded as a function (processing) unit (software module) of the software program. However, the division of each part shown in these drawings is a configuration for convenience of explanation, and various configurations can be assumed at the time of mounting. An example of the hardware environment in this case will be described with reference to FIG.

図5は、本発明の模範的な実施形態に係る視界制御装置を実行可能な情報処理装置900(コンピュータ)の構成を例示的に説明する図である。即ち、図5は、図1及び図4に示した視界制御装置を実現可能なコンピュータ(情報処理装置)の構成であって、上述した実施形態における各機能を実現可能なハードウェア環境を表す。   FIG. 5 exemplarily illustrates the configuration of an information processing apparatus 900 (computer) capable of executing a view control apparatus according to an exemplary embodiment of the present invention. That is, FIG. 5 is a configuration of a computer (information processing apparatus) capable of realizing the view control device shown in FIG. 1 and FIG. 4 and shows a hardware environment capable of realizing each function in the above-described embodiment.

図5に示した情報処理装置900は、構成要素として下記を備えている。
・CPU(Central_Processing_Unit)901、
・ROM(Read_Only_Memory)902、
・RAM(Random_Access_Memory)903、
・外部装置との通信インタフェース904、
・入出力インタフェース906、
情報処理装置900は、これらの構成がバス905(通信線)を介して接続された一般的なコンピュータである。
The information processing apparatus 900 illustrated in FIG. 5 includes the following as constituent elements.
CPU (Central_Processing_Unit) 901,
ROM (Read_Only_Memory) 902,
RAM (Random_Access_Memory) 903,
Communication interface 904 with an external device
Input / output interface 906,
The information processing apparatus 900 is a general computer whose configuration is connected via a bus 905 (communication line).

そして、上述した実施形態を例に説明した本発明は、図5に示した情報処理装置900に対して、次の機能を実現可能なコンピュータプログラムを供給する。その機能とは、その実施形態の説明において参照したブロック構成図(図1、及び、図4)における、判定部11、及び、制御部12及び52、或いはフローチャート(図3)の機能である。本発明は、その後、そのコンピュータプログラムを、当該ハードウェアのCPU901に読み出して解釈し実行することによって達成される。また、当該装置内に供給されたコンピュータプログラムは、読み書き可能な揮発性の記憶メモリ(RAM903)またはROM902等の不揮発性の記憶デバイスに格納すれば良い。   The present invention described by taking the above-described embodiment as an example supplies a computer program capable of realizing the following functions to the information processing apparatus 900 shown in FIG. The function is the function of the determination unit 11 and the control units 12 and 52 or the flowchart (FIG. 3) in the block configuration diagram (FIGS. 1 and 4) referred to in the description of the embodiment. The present invention is then achieved by reading, interpreting and executing the computer program on the CPU 901 of the hardware. In addition, the computer program supplied in the apparatus may be stored in a readable / writable volatile storage memory (RAM 903) or a non-volatile storage device such as the ROM 902.

また、前記の場合において、当該ハードウェア内へのコンピュータプログラムの供給方法は、現在では一般的な手順を採用することができる。その手順としては、例えば、インターネット等の通信回線を介して外部よりダウンロードする方法等がある。そして、このような場合において、本発明は、係るコンピュータプログラムを構成するコード或いは、そのコードが格納された記憶媒体によって構成されると捉えることができる。   Also, in the above case, the method of supplying the computer program into the hardware can adopt a general procedure at present. The procedure includes, for example, a method of downloading from the outside via a communication line such as the Internet. And, in such a case, the present invention can be understood as being constituted by a code that constitutes the computer program or a storage medium in which the code is stored.

以上、上述した実施形態を模範的な例として本発明を説明した。しかしながら、本発明は、上述した実施形態には限定されない。即ち、本発明は、本発明のスコープ内において、当業者が理解し得る様々な態様を適用することができる。   The present invention has been described above by taking the above-described embodiment as an exemplary example. However, the present invention is not limited to the embodiments described above. That is, the present invention can apply various aspects that can be understood by those skilled in the art within the scope of the present invention.

1 視界制御システム
10 視界制御装置
11 判定部
110 判定条件
12 制御部
13 スイッチ
20 計測装置
21 計測機器
200 環境情報
30 視界変更装置
40 メガネレンズ
2 メガネ
50 視界制御装置
52 制御部
520 判定条件
600 環境情報
70 視界変更装置
80 透明性を有する物体
900 情報処理装置
901 CPU
902 ROM
903 RAM
904 通信インタフェース
905 バス
906 入出力インタフェース
DESCRIPTION OF SYMBOLS 1 visibility control system 10 visibility control device 11 determination unit 110 determination condition 12 control unit 13 switch 20 measuring device 21 measuring device 200 environment information 30 view changing device 40 eyeglass lens 2 glasses 50 view control device 52 control unit 520 determination condition 600 environment information 70 Field of view changer 80 Object with transparency 900 Information processor 901 CPU
902 ROM
903 RAM
904 Communication interface 905 Bus 906 I / O interface

Claims (6)

自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、前記周辺環境の危険性を表す所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が、前記視界の悪化を生じるよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する際に、
前記物体に水蒸気を噴霧することによって前記物体を透過する可視光の透過率が低下するよう、前記視界変更装置を制御する、あるいは、前記視界画像に関する透明度あるいは色調を変更する画像処理を行うよう、前記視界変更装置を制御する制御手段
を備える視界制御装置。
A state related to an object having transparency that covers the user's field of view when a value indicated by environment information representing a result of measuring the state of the surrounding environment of the own device satisfies a predetermined determination condition representing the danger of the surrounding environment. Alternatively, when controlling the view changing device capable of changing the state of the object or the state of the view image so that the state of the view image displayed by the display device and constituting the view causes deterioration of the view .
Controlling the visibility changing device so as to reduce the transmittance of visible light transmitted through the object by spraying water vapor onto the object, or performing image processing to change the transparency or color tone of the visibility image, A visibility control device comprising control means for controlling the visibility changing device.
前記制御手段は、前記周辺環境の状態が時系列に計測された結果である前記環境情報が示す値が、前記判定条件を満たしたのち、特定の時間を経て、前記判定条件を満たさなくなったときに、前記物体に関する状態、あるいは、前記視界画像に関する状態を、変更前の状態に戻すよう、前記視界変更装置を制御する、
請求項1に記載の視界制御装置。
When the value indicated by the environment information, which is a result of measuring the state of the surrounding environment in time series, satisfies the determination condition and then the determination condition is not satisfied after passing a specific time. And controlling the view changing device to return the state relating to the object or the state relating to the view image to the state before the change.
The visibility control device according to claim 1 .
前記制御手段は、前記物体に関する状態あるいは前記視界画像に関する状態が前記視界変更装置によって変更されたのち、所定の入力操作を受け付けたときに、前記物体に関する状態あるいは前記視界画像に関する状態を、変更前の状態に戻すよう、前記視界変更装置を制御する、
請求項1または2に記載の視界制御装置。
The control means changes the state relating to the object or the state relating to the view image before the state relating to the object or the view image is received after receiving a predetermined input operation after the state relating to the object or the state relating to the view image is changed by the view changing device. Control the visibility changing device to return to the state of
Visual-field control device according to claim 1 or 2.
請求項1乃至のいずれかに記載の視界制御装置と、
前記周辺環境の状態を計測した結果に基づいて、前記環境情報を生成する計測装置と、
前記視界変更装置と、
前記物体あるいは前記表示装置と、
を備える視界制御システム。
A visibility control device according to any one of claims 1 to 3 .
A measuring device that generates the environmental information based on a result of measuring the state of the surrounding environment;
The visibility changing device;
The object or the display device;
Vision control system with
情報処理装置によって、
自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、前記周辺環境の危険性を表す所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が、前記視界の悪化を生じるよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する際に
前記物体に水蒸気を噴霧することによって前記物体を透過する可視光の透過率が低下するよう、前記視界変更装置を制御する、あるいは、前記視界画像に関する透明度あるいは色調を変更する画像処理を行うよう、前記視界変更装置を制御する、
視界制御方法。
Depending on the information processing device
A state related to an object having transparency that covers the user's field of view when a value indicated by environment information representing a result of measuring the state of the surrounding environment of the own device satisfies a predetermined determination condition representing the danger of the surrounding environment. Alternatively, when controlling the view changing device capable of changing the state of the object or the state of the view image so that the state of the view image displayed by the display device and constituting the view causes deterioration of the view.
Controlling the visibility changing device so as to reduce the transmittance of visible light transmitted through the object by spraying water vapor onto the object, or performing image processing to change the transparency or color tone of the visibility image, Control the visibility changing device,
Vision control method.
自装置の周辺環境の状態が計測された結果を表す環境情報が示す値が、前記周辺環境の危険性を表す所定の判定条件を満たす場合に、ユーザの視界を覆う透明性を有する物体に関する状態、あるいは、表示装置によって表示され当該視界を構成する視界画像に関する状態が、前記視界の悪化を生じるよう、前記物体に関する状態あるいは前記視界画像に関する状態を変更可能な視界変更装置を制御する際に、
前記物体に水蒸気を噴霧することによって前記物体を透過する可視光の透過率が低下するよう、前記視界変更装置を制御する、あるいは、前記視界画像に関する透明度あるいは色調を変更する画像処理を行うよう、前記視界変更装置を制御する制御処理
をコンピュータに実行させる、視界制御プログラム。
A state related to an object having transparency that covers the user's field of view when a value indicated by environment information representing a result of measuring the state of the surrounding environment of the own device satisfies a predetermined determination condition representing the danger of the surrounding environment. Alternatively, when controlling the view changing device capable of changing the state of the object or the state of the view image so that the state of the view image displayed by the display device and constituting the view causes deterioration of the view .
Controlling the visibility changing device so as to reduce the transmittance of visible light transmitted through the object by spraying water vapor onto the object, or performing image processing to change the transparency or color tone of the visibility image, A vision control program that causes a computer to execute control processing for controlling the visibility changing device .
JP2014255160A 2014-12-17 2014-12-17 Vision control device, vision control system, vision control method, and vision control program Active JP6534810B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014255160A JP6534810B2 (en) 2014-12-17 2014-12-17 Vision control device, vision control system, vision control method, and vision control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014255160A JP6534810B2 (en) 2014-12-17 2014-12-17 Vision control device, vision control system, vision control method, and vision control program

Publications (2)

Publication Number Publication Date
JP2016114892A JP2016114892A (en) 2016-06-23
JP6534810B2 true JP6534810B2 (en) 2019-06-26

Family

ID=56139989

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014255160A Active JP6534810B2 (en) 2014-12-17 2014-12-17 Vision control device, vision control system, vision control method, and vision control program

Country Status (1)

Country Link
JP (1) JP6534810B2 (en)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0534013U (en) * 1991-10-15 1993-05-07 オムロン株式会社 Auto sun visor for automobiles
JP4326999B2 (en) * 2003-08-12 2009-09-09 株式会社日立製作所 Image processing system
JP2005165778A (en) * 2003-12-03 2005-06-23 Canon Inc Head mounted display device and its control method
JP2006023862A (en) * 2004-07-06 2006-01-26 Denso Corp Device for reporting and dealing with danger to vehicle
JP5231846B2 (en) * 2008-03-31 2013-07-10 株式会社デンソーアイティーラボラトリ In-vehicle light control device, transmittance control method, and program
JP2012252091A (en) * 2011-06-01 2012-12-20 Sony Corp Display apparatus

Also Published As

Publication number Publication date
JP2016114892A (en) 2016-06-23

Similar Documents

Publication Publication Date Title
KR101596751B1 (en) Method and apparatus for displaying blind spot customized by driver
EP3118047B1 (en) Display control device, display device, display control program, display control method, and recording medium
US9043042B2 (en) Method to map gaze position to information display in vehicle
US11524578B2 (en) Control method and control device for vehicle display device
US8605009B2 (en) In-vehicle display management system
CA2999004C (en) Vehicular display device and vehicular display method
JP6413207B2 (en) Vehicle display device
JP2002137653A (en) Method and device for controlling attention of technical device operator
US20150154940A1 (en) Determining Correlated Movements Associated With Movements Caused By Driving A Vehicle
US20230249618A1 (en) Display system and display method
US20170162168A1 (en) Adaptive instrument cluster
US20160041612A1 (en) Method for Selecting an Information Source from a Plurality of Information Sources for Display on a Display of Smart Glasses
JP2016055801A (en) On-vehicle display device
US20170185146A1 (en) Vehicle notification system including transparent and mirrored displays
JP2011183916A (en) In-cabin image display system
CN104890570B (en) Worn type information of vehicles indicator and the method for indicating information of vehicles using it
JP2015128202A (en) Vehicular information display apparatus and vehicular information display method
JP2017003684A (en) Head-up display device
JP2014149640A (en) Gesture operation device and gesture operation program
JP5131152B2 (en) Visual support device
CN106080136B (en) Incident light intensity control method and device
JP2017003836A (en) Head-up display device
JP6534810B2 (en) Vision control device, vision control system, vision control method, and vision control program
CN109716204B (en) Method for managing the display of images to a user of an optical system
JP6248041B2 (en) Display device for automobile

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180731

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190530

R150 Certificate of patent or registration of utility model

Ref document number: 6534810

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150