JP6181278B1 - 可視光波長変換部を有する頭部装着型映像提示装置 - Google Patents

可視光波長変換部を有する頭部装着型映像提示装置 Download PDF

Info

Publication number
JP6181278B1
JP6181278B1 JP2016249858A JP2016249858A JP6181278B1 JP 6181278 B1 JP6181278 B1 JP 6181278B1 JP 2016249858 A JP2016249858 A JP 2016249858A JP 2016249858 A JP2016249858 A JP 2016249858A JP 6181278 B1 JP6181278 B1 JP 6181278B1
Authority
JP
Japan
Prior art keywords
signal
wavelength
converted
value
video information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016249858A
Other languages
English (en)
Other versions
JP2018107531A (ja
Inventor
浩史 冨田
浩史 冨田
江里子 菅野
江里子 菅野
藤井 剛
剛 藤井
Original Assignee
Jig−Saw株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jig−Saw株式会社 filed Critical Jig−Saw株式会社
Priority to JP2016249858A priority Critical patent/JP6181278B1/ja
Application granted granted Critical
Publication of JP6181278B1 publication Critical patent/JP6181278B1/ja
Priority to CN201780079358.XA priority patent/CN110100434B/zh
Priority to US16/471,394 priority patent/US10924719B2/en
Priority to EP17885321.4A priority patent/EP3562151B1/en
Priority to CN202210215895.5A priority patent/CN114500980A/zh
Priority to PCT/JP2017/045766 priority patent/WO2018117163A1/ja
Priority to TW106145003A priority patent/TWI766920B/zh
Priority to TW111102161A priority patent/TWI807596B/zh
Publication of JP2018107531A publication Critical patent/JP2018107531A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/026Control of mixing and/or overlay of colours in general
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/06Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed using colour palettes, e.g. look-up tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/16Calculation or use of calculated indices related to luminance levels in display data
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/324Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Video Image Reproduction Devices For Color Tv Systems (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザのための可視光波長変換部を有する頭部装着型映像提示装置を提供すること。【解決手段】可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザのための頭部装着型映像提示装置であって、ユーザの視界方向を撮像して第1の映像情報を取得する撮像部と、前記第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に変換し、当該変換された色信号に基づく第2の映像情報を出力する波長変換部と、前記第2の映像情報に基づいて、波長変換されたユーザの視界方向の映像をユーザに提示する映像提示部と、を備える、頭部装着型映像提示装置。【選択図】図1a

Description

本発明は、可視光波長変換部を有する頭部装着型映像提示装置に関する。
日本に於ける年間失明者数は16000人におよび、その要因は、重度の外傷を除き、網膜内層の障害と、外層の障害に起因するものの大きく2つに分けられる。網膜色素変性、加齢黄斑変性及び網膜剥離といった網膜変性疾患では、網膜外層が選択的に変性することが知られている。網膜の光受容とその情報伝達機構についてみると、入射した光、映像情報は網膜外層に位置する光受容細胞(視細胞)で受容され、網膜内層に伝達される。その情報は網膜内層に位置する、視神経を構成する神経節細胞によって脳に伝えられる。このように光すなわち映像を受容できる細胞は網膜において視細胞のみであり、視細胞が何らかの要因で変性、消失すると、その他の細胞が正常であったとしても失明に至る。
視細胞の光受容様式によれば、視細胞に存在する光受容タンパク質で光受容後、様々なタンパク質の連鎖反応が必要であることが分かっている。このような様式から、従来、単一の遺伝子を導入することによって、光受容能を賦与することは不可能であると考えられてきた。これに関連して、神経細胞に光受容能を与えるためには、最低限、3種類のタンパク質(すなわち、アレスチン、オプシン、G蛋白質αサブユニット)を1つの細胞に導入することが必要であることが報告されている(非特許文献1)。
Nagelら(非特許文献2)は、緑藻類クラミドモナス(Chamydomonas)より単離されたチャネルロドプシン−2(以下、「ChR2」とも称する)が光受容能と陽イオン選択的透過性を併せ持つこと、及びChR2遺伝子を導入することによって培養哺乳類細胞(HEK293、BHK)等に光受容能を与えることができることを報告した。緑藻類ボルボックスから赤色に感受性を有する同様の遺伝子が見出されている(非特許文献3)。
本発明者らは、クラミドモナス・レインハルトチイ(Chlamydomonas reinhardtii)由来のチャネルロドプシン−1のN末端領域を、ボルボックス由来のチャネルロドプシンと融合させて得られた、改変されたボルボックス(Volvox carteri)由来の光受容チャネルロドプシンタンパク質を用いることで、該チャネルロドプシンの細胞膜上での発現効率を改善できることを見出した(特許文献1)。
WO2011/019081
Zemelman BV et al.,Neuron.2002 Jan 3;33(1):15−22 Nagel G et al.,Proc Natl Acad SciU S A.2003 Nov 25;100(24):13940−5 Freng Zhang et al.,Nature Neuroscience,Volume 11,Number 6,June 2008:p631−633
しかしながら、クラミドモナス由来のChR2は光感受性が青色に限定されているために、視覚が回復したとしても青色のみしか見ることができない。緑藻類ボルボックスから光感受性を有する同様の遺伝子が見出されたが視覚の回復は赤色に限定される。改変されたボルボックス由来の光受容チャネルロドプシンタンパク質はより広い波長域に反応するものであるものの、450〜600nm付近に限定され、380〜450nm及び600〜750nmの波長については良好な反応を示さない。
このように、網膜変性患者に対してタンパク質を投与することで、可視光波長領域のうちの一定の波長領域については反応させることが可能ではあるが、他の領域については依然として十分に反応させることができない。網膜変性患者を含め、可視光波長域のうちの一部の波長域に対する感度が低下している者にその視野に入射する可視光すべてを認識させるための手段は実現されていない。
本発明は上記の課題に鑑みてなされたものであり、以下のような特徴を有している。すなわち本発明の一実施態様の頭部装着型映像提示装置は、可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザのための頭部装着型映像提示装置であって、ユーザの視界方向を撮像して第1の映像情報を取得する撮像部と、前記第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に変換し、当該変換された色信号に基づく第2の映像情報を出力する波長変換部と、前記第2の映像情報に基づいて、波長変換されたユーザの視界方向の映像をユーザに提示する映像提示部と、を備える。
本発明の前記波長変換部は、XYZ表色系におけるスペクトル色度座標を含む第1のテーブルと、前記一部の波長域の波長を前記他の波長域に変換するために、前記第1のテーブルにおいて前記一部の波長域の波長に対応づけられた色度座標を前記他の波長域の波長に対応づけ、前記第1のテーブルにおいて前記他の波長域の波長に対応づけられた色度座標の少なくとも一部を前記第1のテーブルにおいて対応づけられた色度座標とは異なる色度座標に対応づけた第2のテーブルと、を含み、前記第1の映像情報に基づいて、XYZ表色系で色を表現するXYZ信号を取得し、前記第1のテーブルに基づいて、前記XYZ信号に対応する波長を特定し、前記第2のテーブルに基づいて、前記特定された波長に対応づけられた変換された波長のためのXYZ信号を取得し、前記変換されたXYZ信号に基づく第2の映像情報を出力するようにしてもよい。
また、前記波長変換部は、前記第1の映像情報に基づいてRGB表色系で色を表現するRGB信号を取得し、前記RGB信号に基づいてXYZ信号の刺激和を演算し、前記RGB信号から取得されるR信号値を前記刺激和で除算してr信号値を取得し、前記取得されたr信号値がr信号上限値以上である場合は、前記取得されたr信号値をr信号上限値に変換し、前記変換されたr信号値に前記刺激和を乗算して変換されたR信号値を取得し、前記変換されたR信号値を含むRGB信号に基づく第2の映像情報を出力し、前記r信号上限値は、XYZ表色系によるスペクトル色度座標をRGB変換して得られる前記他の波長域における最大のr信号値以下の値であるようにしてもよい。
さらに、前記波長変換部は、前記RGB信号から取得されるG信号値を前記刺激和で除算してg信号値を取得し、前記取得されたg信号値がg信号下限値以下である場合は、前記g信号値をg信号下限値に変換し、前記変換されたg信号値に前記刺激和を乗算して変換されたG信号値を取得し、前記変換されたG信号値を更に含むRGB信号に基づく第2の映像情報を出力し、前記g信号下限値は、XYZ表色系によるスペクトル色度座標をRGB変換して得られる前記他の波長域における両端の波長のためのg信号値のうち大きい方のg信号値以上であるようにしてもよい。
前記波長変換部は、前記第1の映像情報に基づいてRGB表色系で色を表現するRGB信号を取得し、XYZ表色系によるスペクトル色度座標をRGB変換して得られるRGB表色系によるスペクトル色度座標に基づいて決定されたr信号変換係数を、前記取得されたRGB信号に含まれるR信号値に乗算して変換されたR信号値を取得し、前記変換されたR信号値を含むRGB信号に基づく第2の映像情報を出力し、前記r信号変換係数は、前記RGB表色系によるスペクトル色度座標におけるr信号値に当該r信号変換係数を乗算したときに得られる値の最大値がr信号上限値を超えないように決定され、前記r信号上限値は、前記RGB表色系によるスペクトル色度座標における他の波長域における最大のr信号値以下の値であるようにしてもよい。
前記r信号変換係数を、前記取得されたRGB信号に含まれるR信号値に乗算して変換されたR信号値を取得することに代えて、取得されたRGB信号に基づいて演算された刺激和で前記取得されたRGB信号に含まれるR信号値を除算して得られたr信号値に、前記r信号変換係数を乗算して変換されたr信号値を取得し、当該変換されたr信号値に前記刺激和を乗算して、変換されたR信号値を取得することもできる。
前記波長変換部は、前記取得されたRGB信号に基づいてXYZ信号の刺激和を演算し、前記取得されたRGB信号に含まれるG信号値を、前記刺激和で除算してg信号値を取得し、前記g信号値に所定の係数を乗算した後g信号下限値を加算し、前記刺激和を乗算して変換されたG信号値を取得し、前記変換されたG信号値をさらに含むRGB信号に基づく第2の映像情報を出力し、前記g信号下限値は、前記RGB表色系によるスペクトル色度座標における前記他の波長域における両端の波長のためのg信号値のうち大きい方のg信号値以上であるとしてもよい。
前記r信号上限値は波長600nmのためのr信号値としてもよい。
前記他の波長域は450nm〜600nmとしてもよい。
前記提示部はプロジェクタやディスプレイとすることができる。
前記撮像部はユーザの左眼に提示するためのユーザの視界方向の左眼用映像及び当該左眼用映像とは異なるユーザの右眼に提示するためのユーザの視界方向の右眼用映像を撮像し、前記第1の映像情報は前記左眼用映像及び右眼用映像のための映像情報を含み、前記第2の映像情報は前記波長変換部によって変換された前記左眼用映像及び右眼用映像のための映像情報を含み、前記映像提示部は前記第2の映像情報に含まれる前記変換された左眼用映像のための映像情報に基づいてユーザの左眼に対して変換された左眼用映像を提示し、前記第2の映像情報に含まれる前記変換された右眼用映像ための映像情報に基づいてユーザの右眼に対して変換された右眼用映像を提示するようにしてもよい。
前記ユーザは、網膜変性患者であって前記他の波長域内の光を神経節細胞が受容可能となるタンパク質が眼球に投与されたユーザとすることができる。
また、本発明の一実施態様の波長変換装置は、可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力する波長変換装置であって、ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に変換し、前記変換された色信号に基づく第2の映像情報を出力する。
さらに、本発明の一実施形態のプログラムは、可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力するためのプログラムであって、コンピュータに、ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に変換する工程と、前記変換された色信号に基づく第2の映像情報を出力させる工程と、を実行させることができる。
本発明の実施形態の方法は、可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力するための方法であって、コンピュータが、ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に変換する工程と、前記変換された色信号に基づく第2の映像情報を出力する工程と、を実行してもよい。
本発明によれば、可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザであっても、可視光線の全てを認識できるようにすることができる。
本発明の一実施形態に係る頭部装着型映像提示装置の概略斜視図である。 本発明の一実施形態に係る頭部装着型映像提示装置の概略背面側斜視図である。 本発明の一実施形態に係る頭部装着型映像提示装置の概略背面側斜視図である。 本発明の一実施形態に係る頭部装着型映像提示装置の概略斜視図である。 本発明の一実施形態に係る頭部装着型映像提示装置のハードウェア構成ブロック図である。 本発明の一実施形態に係る変換前後の波長領域を示す図である。 本発明の一実施形態に係る情報処理を示すフローチャートである。 本発明の一実施形態に係る情報処理を示すフローチャートである。 本発明の一実施形態に係るXYZ表色系によるスペクトル色度座標のグラフである。 本発明の一実施形態に係る情報処理を示すフローチャートである。 本発明の一実施形態に係るRGB表色系によるスペクトル色度座標のグラフである。 本発明の一実施形態に係る情報処理を示すフローチャートである。 本発明の一実施形態に係るRGB表色系によるスペクトル色度座標のグラフである。 本発明の一実施形態に係る情報処理を示すフローチャートである。 本発明の一実施形態に係るRGB表色系によるスペクトル色度座標のグラフである。
[第1の実施形態]
本発明の一つの実施形態における頭部装着型映像提示装置100の概略図を図1a〜dに示す。頭部装着型映像提示装置100はユーザの頭部に装着されて使用されるものであり、撮像部101及び映像提示部102を備える。撮像部101はユーザの視界方向を撮像できる位置に配置され、映像提示部102はユーザに映像を提示できる位置に配置される。頭部装着型映像提示装置100は、撮像部101によって撮像されたユーザの視界方向の映像を波長変換部103によって波長変換処理(色変換処理)して、映像提示部102において波長変換された映像をユーザに提示する。波長変換部103は図1においては図示を省略した。
図1aは頭部装着型映像提示装置100の一つの構成例の概略斜視図であり、図1b及び図1cはその概略背面側斜視図である。図1dは頭部装着型映像提示装置100のもう一つの構成例の概略斜視図である。図1bは映像提示部102としてプロジェクタを用いた場合の構成例である。本図においては左右の眼の各々のために別々のプロジェクタレンズを備える構成としたが、軽量化、低廉化のために一つのレンズのみを備えて、一方の眼にのみ映像を提示する構成としてもよい。図1cは映像提示部102としてディスプレイを用いた場合の構成例を示す。図1dは映像提示部102としてプロジェクタを用いた場合であり、光源を含むプロジェクタ筐体110、プリズム111及び112を備える。プロジェクタ筐体110から放射された光がプリズム111及び112によってコの字に屈折されてユーザの右眼に向けて放射される。プロジェクタは、例えば網膜投影方式を用いて網膜に直接投影することでユーザに映像を視覚させることができる。
第1の実施形態における頭部装着型映像提示装置100のハードウェア構成図を図2に示す。頭部装着型映像提示装置100は、前述のように、撮像部101、映像提示部102、波長変換部103を備え、さらに、処理部104、記憶部105及びバス108を備える。波長変換部103は内部記憶部107を備える。記憶部105はプログラム106を格納する。
頭部装着型映像提示装置100は可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザのための装置である。このユーザは、一部の可視光波長域については感度が低下しているため、その波長域の光を認識しにくいか、全く認識できない。本発明において感度が低下しているとは、感度が全くない場合を含む。一方、その他の波長域の光については、健常者に比べれば感度が低い場合もあるが、前記一部の波長域に比べて感度が高い。頭部装着型映像提示装置100は、比較的感度が低下している波長域の光を波長変換して、比較的感度の高い波長域で認識させるようにする。
本発明が対象とするユーザの可視光波長に対する感度が低下した理由はどのようなものであってもかまわない。その原因の一例として、網膜色素変性症、加齢黄斑変性症、網膜剥離等の網膜変性の疾患が挙げられる。本実施形態の対象ユーザは、網膜変性患者であるが、改変ボルボックス由来の光受容チャネルロドプシンタンパク質を投与することにより、可視光波長域のうちの450〜600nmの波長域内の色については感度が向上し認識可能となった一方、380〜450nm及び600〜750nmの波長域内の色については依然として感度が非常に低く認識できない患者とする。
撮像部101は、ユーザの視界方向を撮像して第1の映像情報を取得する。波長変換部103は、撮像部101によって取得された第1の映像情報における少なくとも感度が低下している一部の波長域のための色信号の少なくとも一部を、可視光波長域のうちの比較的感度の高い他の可視光波長域内の色で表現する色信号に変換し、当該変換された色信号に基づく第2の映像情報を出力する。映像提示部102は、波長変換部103によって出力された第2の映像情報に基づいて、波長変換されたユーザの視界方向の映像をユーザに提示する。映像提示部102は、映像を提示するプロジェクタでもよいし、液晶ディスプレイ、有機ELディスプレイやプラズマディスプレイ等のディスプレイ装置であってもよい。
ユーザの可視光線に対する感度が比較的良好な波長域(可視光波長域のうちの他の波長域)であってもディスプレイのような映像提示装置が放射する光量では十分に可視光を認識できないユーザもいる。このようなユーザのためには、映像提示部102としてプロジェクタを用いることが望ましい。プロジェクタによって強度の強い可視光線をユーザの眼に直接入射させることで、ユーザに映像を認識させることができる。本実施形態において映像提示部102として二つのレンズを備えるプロジェクタを用いた場合、両レンズから第2の映像情報に基づいて同じ映像を提示するための光が放射される。また、二つのレンズを備えるプロジェクタを用いる場合には、各眼のために異なる別々の波長変換を行った映像を提示することが好ましい。各眼毎に各波長に対する感度が異なる場合に、各眼に適した波長変換を行うことができる。
処理部104は、記憶部105に格納されたプログラム106に含まれる命令に基づいて、撮像部101、映像提示部102、波長変換部103を制御して、情報処理を実行する。記憶部105はハードディスク、メインメモリ、及びバッファメモリを含む。記憶部105にはプログラム106が記憶される。ただし記憶部105は、情報を格納できるものであればいかなる不揮発性ストレージ又は不揮発性メモリであってもよく、着脱可能なものであっても構わない。記憶部105には、プログラム106や当該プログラムの実行に伴って参照されうる各種のデータが記憶される。波長変換部103は波長変換のために必要な情報を内部記憶部107に格納してもよいし、記憶部105に格納してもよいし、併用してもよい。内部記憶部107は記憶部105と同様にハードディスク、メインメモリ、及びバッファメモリを含む。波長変換部103は集積回路によって実現されてもよいし、記憶部105に格納されたプログラム106を処理部104が実行することによって、波長変換部としての機能を実現してもよい。バス108は眼鏡型映像提示装置100に含まれる各ハードウェア要素間を接続する。
本実施形態においては、図3に示すとおり、380〜750nmの可視光波長域の光を450〜600nmの波長域の光に波長変換する。すなわち、可視光波長域380〜750nmの波長域内の可視光線を、本実施形態が対象とするユーザが認識可能な450〜600nmの波長域内の波長に変換して提示し、450nm以下及び600nm以上の波長は出力、提示されないようにする。このため、本来認識できない波長の可視光線がユーザの視界に含まれていたとしても、実際の波長とは異なる波長によってではあるがその可視光線の存在も含んだ視界の映像を認識させることが可能となる。
本実施形態における頭部装着型映像提示装置100の動作について図4に示したフローチャートを用いて説明する。まず、ステップ401において、撮像部101がユーザの視界方向の撮像を開始して第1の映像情報を取得する。撮像部101は撮像を中止しない限り撮像を継続し、第1の映像情報を波長変換部103に継続的に出力する。ステップ402において、波長変換部103が、撮像部101から出力された第1の映像情報を取得し、380nm以下及び750nm以上の波長光のための色信号のうちの少なくとも一部を、450〜600nmの波長光のための色で表現する色信号に変換し、当該変換された色信号に基づく第2の映像情報を出力する。波長変換は、可視光波長全体に行ってもよいし、ユーザが認識できない波長域450nm以下及び600nm以上の波長を含んでいればどのような波長域に対して行ってもよい。ステップ403において、映像提示部102が、波長変換部103によって出力された第2の映像情報に基づいて、波長変換されたユーザの視界方向の映像をユーザに提示する。映像の提示は例えば映像提示部102がプロジェクタである場合には、当該プロジェクタから映像情報に基づいた光を放射することにより行われる。その後、ステップ402に戻り、波長変換部103は、撮像部101が順次出力する第1の映像情報に対して波長変換を実行して第2の映像情報を出力し、ステップ403において映像提示部102がこれに基づいて映像を提示する処理を繰り返す。
本実施形態の上述の処理を実行することにより、図3に示すように、可視光波長域380〜750nmの波長域内の可視光線を、本実施形態が対象とするユーザが認識可能である450〜600nmの波長域内の波長に変換して表示し、本来認識できない波長の可視光線の存在も含んだ視界の映像をユーザに認識させることが可能となる。ユーザが認識可能な波長域が他の波長域であっても同様の方法により、本発明の実施が可能であることは明らかである。
[第2の実施形態]
本実施形態は、波長変換処理としてXYZ変換を用いる点で第1の実施形態と異なる。その他の点については、第1の実施形態と同様である。以下、第1の実施形態と異なる波長変換処理を中心に説明する。
本実施形態において波長変換部103は、XYZ表色系におけるスペクトル色度座標を含む第1のテーブルと、ユーザの感度が可視光域内の他の波長域に比較して低下している一部の可視光波長域の波長を他の波長域内の波長に変換するために、前記第1のテーブルにおいて前記一部の可視光波長域の波長に対応づけられた色度座標を前記他の波長域内の波長に対応づけ、前記第1のテーブルにおいて前記他の波長域の波長に対応づけられた色度座標の少なくとも一部を前記第1のテーブルにおいて対応づけられた色度座標とは異なる色度座標に対応づけた第2のテーブルと、を含む。本実施形態においてこれらのテーブルは波長変換部103に備えられた内部記憶部107に格納されるが、記憶部105に格納されてもよい。波長変換部103は、第1の映像情報に基づいて、XYZ表色系で色を表現するXYZ信号を取得し、前記第1のテーブルに基づいて、前記XYZ信号に対応する波長を特定し、前記第2のテーブルに基づいて、前記特定された波長に対応づけられた変換された波長のためのXYZ信号を取得し、前記変換されたXYZ信号に基づく第2の映像情報を出力する。
図5に、波長変換処理(ステップ402)として、本実施形態におけるXYZ変換を用いる処理を示す。ステップ501において、撮像部101が取得した第1の映像情報から1フレームを取り出す。撮像部101によって取得された第1の映像情報は複数のフレームを含む動画データであり、例えば、30fps(Frames per Second)の動画データであれば、1秒間に30フレーム撮像される。本実施形態においては、波長変換部103が第1の映像情報から1フレームを読み出し、波長変換処理を実行し、映像提示部102が映像を提示する、という処理をフレーム毎に繰り返し実行する。
ステップ501において取り出した1フレームの映像情報における色信号として各画素のRGB信号を、ステップ502において取得する。撮像部101から取得された映像情報のRGB信号がガンマ補正を含むsRGB信号である場合には、逆ガンマ補正を行うことによりRGB信号を取得する。RGB信号を取得する他の実施形態においても同様に必要に応じて逆ガンマ補正を行う。入力されるRGB信号値が所定値以上となると適切な波長変換処理を行うことができない場合があるため、キャリブレーション若しくは、参照信号を基にした自動利得制御(AGC)によりRGB信号が所定の範囲内の大きさとなるような制御を行ってもよい。AGCは波長変換の前の適切なタイミングで参照信号を基に実行される。そして、ステップ503において、このRGB信号をXYZ信号に変換(XYZ変換)する。RGB信号をXYZ信号へ変換する種々の変換式が知られているが、本実施形態においては、CIE RGB方式による式(1)を用いる。ここでiは画素番号を示し、0〜最大画素番号i_max(画素数−1)までの値を取りうる。このXYZ変換をすべての画素(i=0〜i_max)に対して行う。さらにステップ504において、各画素の三刺激値XYZの刺激和S[i]を式(2)の演算により取得し、内部記憶部107に格納する。
そして、ステップ505において、式(3)に示すとおり取得されたXYZ値を刺激和S[i]で除算して、すべての画素のための正規化されたxyz値を取得する。
ステップ506において、この正規化されたxyz値及びXYZ表色系におけるスペクトル色度座標に基づいて、各画素の波長を特定する。スペクトル色度座標は、正規化されたxyz値と波長との対応関係が示されているものであればどのようなものであってもかまわない。本実施形態においては、表1及び図6(a)に示すCIEによって策定されたXYZ表色系におけるスペクトル色度座標を用いる。このXYZ表色系におけるスペクトル色度座標そのものは当業者によく知られたものであるから、表1においては説明のために必要な波長域についてのみ示し、その他の領域については簡略化のため省略する。また、本実施形態においては、380〜700nmまでのスペクトル色度座標を用いるが、より広い範囲やより狭い範囲を含むスペクトル色度座標の表、例えば、380〜750nmまでのスペクトル色度座標を用いた場合であっても同様の方法により本発明の実現が可能であることは明らかである。
ステップ505で取得された各画素のxyz値と表1のxyz値とを比較し、対応する波長λを特定する。例えば、まずx値を基準として比較して一致又はいくつかの近いx値を持つ波長を候補として特定し、その後、y値、z値を基準として順次比較を実行し、一致又は最も近いxyz値を有する波長をその画素のための波長として特定する。
取得された画素iのためのxyz値がx[i]=0.17332、y[i]=0.00482、z[i]=0.82188であったとき(これをxyz[i]=(0.17332, 0.00482, 0.82188)と表現する)であった場合は、まずx値を基準として候補となる波長λを選択する。表1においてx=0.17332を持つ波長λはないから、最も近いx値(0.17344)を持つ波長λ=400nmと2番目に近いx値(0.17329)を持つ波長λ=401nmと3番目に近いx値(0.17338)を持つ波長λ=399nmを候補として選択する。次に、候補波長λ=399nm、400nm及び401nmのうち、y[i]=0.00482に最も近いy値(0.00481)を持つ波長λ=399nmと次に近いy値(0.00480)を持つ波長λ=400nmを候補として絞り込む。さらに、波長λ=399nm及び400nmのうちz[i]=0.82188により近いz値(0.82186)を持つ波長λ=400nmをこの画素iの波長として特定する。その他、取得された画素iのためのxyz値と表1におけるxyz値との間の相関を様々な方法で算出して相関が最も大きい波長を選択して波長λを特定できることは当業者には明らかである。
この波長特定処理をすべての画素について行い、画素毎の波長λ[i]を特定する。なお、本実施形態においては、波長380〜700nmの範囲のスペクトル色度座標を用いているが、この範囲外の波長が入力された場合には、上述の方法により、スペクトル色度座標を用いて波長380〜700nmの範囲内の波長が特定される。
次に、ステップ507において波長変換を行う。波長変換は、ユーザの感度が低下して認識できない可視光波長域の波長をユーザが認識可能な可視光波長域の波長に変換する。本実施形態においては、ユーザが認識可能な波長域もユーザが認識可能な波長域内の他の波長に変換するが、ユーザの感度が低下している可視光波長域のみを波長変換してもよい。本実施形態において波長変換は以下の波長変換テーブルを用いて行う。
表2の波長変換テーブルにおいて、「変換前波長λ(nm)」は波長変換前の波長、「変換後波長λ(nm)」は変換後(変換先)の波長を示す。「x(λ)」、「y(λ)」、「z(λ)」は変換後の波長λを表現するためのx(λ)、y(λ)、z(λ)値を示す。すなわち、この波長変換表は、変換前波長λ(nm)に対して、変換後波長λ(nm)及び変換後波長λ(nm)のためのxyz値を割り当てる。例えば、変換前波長λ(nm)=380nmに対して、変換後波長λ(nm)として450nmを割り当て、変換後波長450nmを表現するためのxyz値(0.15664, 0.01771, 0.82565)を割り当てる。この変換後波長λ(nm)を表現するためのxyz値は表1に示したXYZ表色系におけるスペクトル色度座標のテーブルから取得される。変換後波長λ(nm)は発明の理解のために記載したが、実際の情報処理においては含まれなくともよい。
この波長変換表を作成するにあたり、式(4)を用いて、可視光波長域380〜700nmの波長に対する450〜600nmの変換後波長を直線近似或いは1次近似計算により求める。
表1に示したXYZ表色系におけるスペクトル色度座標は1nm毎にxyz値を示すだけであるから、式(4)で算出された小数点を含む変換後波長を適宜、四捨五入、切り捨て、切り上げ等行って、整数値の変換後波長に割り当てる。また、XYZ表色系におけるスペクトル色度座標には450〜600nmのxyz値が1nm毎に示されているから151個の波長に対するxyz値が示されているのに対して、可視光波長域380〜700nmに1nm毎にxyzを割り当てると321個のxyz値が必要となる。したがって、スペクトル色度座標に示されたxyz値の数が不足する。そこで、本実施形態においては、前述の方法により変換前波長380nmから1ないし2nm毎にXYZ表色系におけるスペクトル色度座標のテーブルに示された波長450nmから1nm毎のxyz値を割り当て、割り当てされなかった変換前波長については、「変換後波長λ(nm)」は空欄として、その前後の波長に割り当てられたxyz値に基づいて線形補間を行った。この補間方式はn次近似(n=1以上)に限定されず、他の方式を用いてもよい。
例えば、変換前波長380nmに対して変換後波長450nmのためのxyz値(0.15664, 0.01771, 0.82565)を割り当て、変換前波長382nmに対して変換後波長451nmのためのxyz値(0.15560, 0.01861, 0.82579)を割り当て、その間の変換前波長λ381nmについては変換後波長450nmと451nmのためのxyz値の間の値(平均値)であるxyz値(0.15612, 0.01816, 0.82572)を割り当てる。
本実施形態においては、この波長変換表を用いて、ステップ507において特定された波長を変換する。例えば、ステップ506において特定された波長λ[i]が399nmである場合、まず、変換前波長λ(nm)=399nmの行を検索する。そして、検索によって特定された行の変換後波長λは459nmであり、そのためのxyz値として割り当てられた(0.14547, 0.02812, 0.82641)を出力する。すなわち、波長399nmを表現するxyz値を持つ画素iのためのxyz[i]として波長459nmを表現する(0.14472,0.02891,0.82638)を出力するから、この画素[i]の波長が399nmから459nmに変換される。
ステップ508において、変換されたすべての画素のxyz[i]に対してその画素iのための刺激和S[i]を内部記憶部107より読み出して式(5)に示すとおり乗算し、波長変換後のXYZ値を取得する。そして、ステップ509において、この変換後XYZ値を式(6)に基づいてRGB変換し、ステップ510において変換後のRGB信号を映像提示部102に出力する。
その後、ステップ403において、映像提示部102がステップ507において波長変換部103から出力されたRGB信号に基づいてユーザに対して映像の提示を行う。必要に応じてガンマ補正を行ってもよい。RGB信号を出力する他の実施形態においても同様に必要に応じてガンマ補正を行う。
上述の処理により1つのフレームの映像を提示したのち、ステップ402へ戻って、次のフレームについての本実施形態の前述の波長変換(ステップ402)及び映像提示(ステップ403)を行う。本実施形態においては、1フレーム毎に波長変換(ステップ402)及び映像提示(ステップ403)を行ったが、複数フレームをまとめて波長変換を行ったのち、映像提示を行ってもよい。
本実施形態においては、可視光波長域全体の380〜700nm内の波長がユーザの認識可能な波長域450〜600nmに変換される。変換前後のXYZ表色系によるスペクトル色度座標をグラフで表したものを図6に示す。図6(a)は変換前、図6(b)は変換後のグラフを示す。変換前(図6(a))においては、各波長に対してその波長を表現するための本来のxyz値が割り当てられているが、変換後(図6(b))は各波長に対して、その波長を表現するための本来のxyz値ではなく450〜600nmのためのxyz値が380〜700nmにわたってほぼ均等に割り当てられている。したがって、図6(a)の450〜600nmのグラフの形状が左右に引き延ばされた形で図6(b)の380〜700nmに割り当てられていることが理解される。変換後においては、波長380nmに対して波長450nmを表現するためのxyz値が割り当てられているから、380nmの入力があった画素においては450nmのxyz値に基づいた出力が映像提示部102によってなされ、波長450nmの光がユーザによって観察されることとなる。
したがって、本実施形態を用いることにより、ユーザは、感度が低下して本来認識できない波長域の可視光線があった場合であっても比較的感度が良好で認識可能な波長に変換された可視光線として観察できるようになる。さらに、変換前波長が認識可能な波長域にほぼ線形に割り当てられているから、隣接する部分間の色の関係等の表現が実際の色表現に近い表現でユーザに認識させることを可能とする。
本実施形態においては、可視光波長域380〜700nm内の波長を波長域450〜600nmに変換するという一つの連続した波長域から一つの連続した波長域への変換を行う例を示したが、一つの連続的な波長域から二つ以上の分離した波長域への変換や、二つ以上の分離した波長域から他の二つ以上の分離した波長域へ変換することも同様の方法により可能であることは明らかである。
[第3の実施形態]
本実施形態は、波長変換処理が第1及び第2の実施形態と異なる。その他の点については、第1及び第2の実施形態と同様である。以下、第1及び第2の実施形態と異なる波長変換処理を中心に説明する。
本実施形態においては、波長変換ステップ402においてXYZ変換を行わず、RGB信号において波長変換を行う。以下、本実施形態における波長変換ステップ402を図7に示したフローチャートに基づいて説明する。第2の実施形態と同様に、ステップ701において、波長変換部103が、撮像部101から取得された第1の映像情報から1フレームを読み出し、ステップ702において、このフレームにおける各画素のRGB信号を取得する。次に、ステップ703において、式(1)から導出される式(7)を用いて、RGB信号に基づいて各画素の刺激和S[i]を算出して、内部記憶部107に格納する。刺激和[i]は近似式等によって算出されるものであってもかまわない。
ここで、R[i]、G[i]及びB[i]は画素iのR信号値、G信号値及びB信号値である。また、r[i]、g[i]及びb[i]は画素iのR[i]、G[i]及びB[i]を刺激和S[i]で除算して得られる。ステップ704において、各画素のR[i]を刺激和S[i]で除算し、r[i]を演算する。
ステップ705において、各画素のr[i]がr信号上限値以上であるか否かの判定を行い、上限値以上であれば、その上限値に変換する。上限値より小さい場合には変換を行わずそのままのr[i]を変換されたr[i]として出力する。本実施形態において用いるRGB表色系によるスペクトル色度座標を表3及び図8(a)に示した。本実施形態におけるRGB表色系によるスペクトル色度座標は、表1及び図6(a)に示したCIEによって策定されたXYZ表色系によるスペクトル色度座標に式(6)に示したRGB変換を用いて作成した。表3及び図8に示されるrgb信号値は、XYZ表色系によるスペクトル色度座標に示された正規化されたxyz信号値をRGB変換して得られた値である。RGB表色系によるスペクトル色度座標は、XYZ表色系による色度座標に基づいて、rgb信号値と波長との対応関係が示されているものであればどのようなものであってもよい。網膜変性疾患により、認識可能な可視光波長域が450〜600nmである患者を想定した場合、波長が600nmより長い波長を表現するためのRGB信号を出力しても認識できない。図8(a)によれば、波長600nmより長い波長においては、G及びB信号に比べて、R信号が大きく支配的である。そこで、本実施形態においては、各画素iのr[i]が、ユーザが認識可能なr信号の最大値、すなわち、波長600nmにおけるr信号値をr信号上限値とし、これを超える場合には、このr信号上限値に変換することにより、常にユーザが認識可能なr信号を出力し、約600nm以上の波長光が提示部102より提示されないようにすることが可能である。表3及び図8(a)に示したスペクトル色度座標から波長600nmのときのr信号値(1.14888)を取得する。r信号上限値はユーザが認識可能な波長域におけるr信号の最大値より小さければよい。
そして、ステップ706において、変換されたr[i]にその画素iの刺激和S[i]を乗算して変換されたR[i]を取得する。ステップ707において、撮像部101によって撮像され出力された各画素のRGB信号に含まれるR信号値をこの変換されたR信号値に置換することにより、変換されたR信号値を含むRGB信号を波長変換部103から映像提示部102に出力する。G及びB信号値については変換を行わず、撮像部101から出力された値を用いる。映像提示部102はこの変換されたRGB信号に基づいてフレームの提示を行う(ステップ403)。
このような変換処理により、図8(b)に示すように、波長600nm以上のr[i]としてr信号上限値が出力され、波長600nm以上の波長が撮像部101によって撮像された場合であっても、約600nmの波長の光が映像提示部によって提示される。
本実施形態を用いることにより、600nmより長い波長を認識できないユーザであっても、映像提示部102を介して波長600nmより長い波長光を約600nmの波長光として観察することが可能となる。600nm以下の波長域においては本来の波長で出力されるから、隣接する部分間の色の関係等の表現が実際の色表現でユーザに認識させることを可能とする。また、本発明においては、ユーザの視界の波長変換をリアルタイムに実行して、眼鏡のようにユーザにリアルタイムに視界を提供できることが好ましい。しかしながら、ヘッドマウントディスプレイのようなユーザの頭部に装着する装置においては、ハードウェアの処理能力が限られている場合がある。本実施形態は、XYZ変換を経ることなくRGB信号を直接処理して波長変換を実現するから、情報処理が少なく、限られたハードウェア資源によっても、リアルタイムな変換波長映像の提示を可能とする。
[第4の実施形態]
本実施形態は、XYZ変換を伴わずにRGB信号値の処理を実行するという点において第3の実施形態と同様であるが、具体的な波長変換処理が第3の実施形態と異なる。以下、第3の実施形態と異なる波長変換処理を中心に説明する。本実施形態においては、撮像部101から取得されるRGB信号における各R信号値、G信号値及びB信号値が負の値を取らないことを前提とする。
本実施形態における波長変換ステップ402の具体的な処理を、図9に示したフローチャートに基づいて説明する。ステップ901〜903は、第3の実施形態におけるステップ701〜703と同様である。ステップ904においては、各画素のR[i]とともにG[i]についても刺激和S[i]で除算を行い、r[i]及びg[i]を取得する。そして、ステップ905において、r[i]がr信号上限値以上であれば、r信号上限値に変換し、ステップ906において、g[i]がg信号下限値以下であれば、g信号下限値に変換する。
本実施形態においては、表3及び図8(a)に示されたRGB表色系によるスペクトル色度座標のグラフに基づいて、波長600nmにおけるr信号値(1.114888)及びg信号値(0.20837)をそれぞれr信号上限値及びg信号下限値として決定する。r信号上限値はユーザが認識可能な波長のためのr信号値の最大値とすることが好ましいが、それ以下の値であればよい。本実施形態においては撮像部101は負の値を返さないから、表3及び図8(a)に示されるRGB表色系によるスペクトル色度座標において負の値となっている値は0に読み替える。例えば、450〜500nmにおけるr信号値は0であり、この波長域におけるr信号値の最大値は0となるから、r信号上限値は0となる。g信号下限値はユーザが認識可能な波長域の両端の波長のためのg信号値のうち大きい方の値とする。本実施形態においては、ユーザが認識可能な波長域として450〜600nmを想定した。この波長域の両端のg信号値を比較した場合、波長600nmのための信号値の方が大きいため、g信号下限値を600nmの値とする。例えば、ユーザが認識可能な波長域として500〜600nmした場合には波長500nmのg信号値の方が大きいから、波長500nmのための信号値をg信号下限値とする。図8(a)からg信号値のためのRGB表色系によるスペクトル色度座標のグラフは上に凸の形状であるから、前述のようにg信号値がg信号下限値以上の値となるようにすることにより、ユーザが認識できない波長光が提示されないようにできる。
そして、波長変換部103は、この変換されたr[i]及びg[i]に刺激和S[i]を乗算して変換されたR[i]及びG[i]を取得し(ステップ907)、これらを含む変換されたRGB信号を出力する(ステップ908)。B[i]については変換されていないものを使用する。映像提示部102は、これに基づいて映像提示部102が映像の提示を行う(ステップ403)。
このようにr信号値及びg信号値を変換することにより、本実施形態によって出力されるスペクトル色度座標のグラフは図10に示すようになる。波長が600nm以上の領域においては、r信号及びg信号は波長600nmのための値を出力する。図8(a)において600nm以上の波長に対するb信号値は負の値であるが、本実施形態における撮像部101は負の値については0を出力する。したがって、撮像部101が600nm以上の光を撮像した場合であっても、本実施形態の波長変換により、600nmのためのRGB信号に変換されて出力されるから、600nmの光が提示される。
さらに、波長が短い領域においてもg[i]がg信号下限値(0.20837)以下となる場合にはg[i]の値がg信号下限値に変換されて出力される。本実施形態においては波長479nmのときにg信号下限値となり、それよりも短い波長のときのg[i]はこれを下回る値となるから、g信号下限値に変換される。波長479nmよりも短い波長域においては、r信号値及びb信号値はほぼ一定の値となるから、g信号値をg信号下限値に固定することにより、この領域においてほぼ479nmの波長光が放射されることとなる。
第3の実施形態においては、波長が600nmより長い波長域においては、r信号が大きく支配的であることに注目し、r信号のみの変換を行った。本実施形態においては、r信号とともにg信号についても波長600nm以上の波長に対しては600nmのg信号値を出力する。本実施形態を用いることにより、撮像部101が450nm以下及び600nm以上の光を撮像したとしても、映像提示部102からはほぼ479〜600nmの波長の光のみが提示されるから、450〜600nmの波長域しか認識できないユーザであっても、すべての可視光を認識できることになる。479〜600nmの波長域においては本来の波長で出力されるから、隣接する部分間の色の関係等の表現が実際の色表現に近い表現でユーザに認識させることを可能とする。また、第3の実施形態と同様に、XYZ変換を伴わないで波長変換処理を実行できるから、高速処理が可能となる。
[第5の実施形態]
本実施形態は、XYZ変換を伴わずにRGB信号の処理を実行するという点において第3及び第4の実施形態と同様であるが、具体的な波長変換処理が異なる。以下、第3及び第4の実施形態と異なる波長変換処理を中心に説明する。本実施形態においても、撮像部101から取得されるRGB信号における各R信号値、G信号値及びB信号値が負の値を取らない。
以下、本実施形態における波長変換ステップ402を図11に示したフローチャートに基づいて説明する。ステップ1101〜1104は、第4の実施形態におけるステップ901〜904と同様である。そして、ステップ1105において、r[i]及びg[i]に対して所定の演算を行って波長変換を行う。本実施形態においては、r[i]のための演算として、変換後のr[i]の最大値がユーザが認識可能な波長域における最大r信号値以下となるようにr信号変換係数をr[i]に乗算する。r信号変換係数は、RGB表色系によるスペクトル色度座標において示されたr信号値にこの変換係数を乗算して得られる値の最大値がr信号上限値を超えないように決定される。g[i]のための演算としては、変換後のg[i]の最小値がユーザが認識可能な波長のためのg信号値の下限値以上となるような演算を行う。本実施形態においては、以下の式に基づいてr[i]及びg[i]を変換する。
ここで、upper_limit_rは波長変換後のr信号上限値、peak_rは波長変換前の最大r信号値である。upper_limit_rをpeak_rで除算した値をr信号変換係数とする。式(8)から分かるとおり変換後のr[i]はr信号上限値が最大値となる。r信号上限値はユーザが認識可能な波長のためのr信号値の最大値とすることが好ましいが、それ以下の値であればよい。本実施形態においてr信号上限値は波長600nmにおけるr信号値である1.14888であり、peak_rは波長700nmにおけるr信号値である1.49990であり、r信号変換係数は約0.766(1.14888/1.49990)である。このr信号変換係数を用いれば、RGB表色系によるスペクトル色度座標において示されたr信号値に乗算して得られる値の最大値はr信号上限値(1.14888)となる。各画素のr[i]についても同様に、式(8)に示したr信号変換係数を乗算することにより、r信号上限値を上限とする値に線形に変換することが可能となる。
図8(a)によれば、450〜600nmの波長域のみを認識できるユーザは、波長600nmのためのr信号値より大きいr信号値が出力されると認識できないことが理解される。そこで、本実施形態においては、波長600nmのためのr信号値が変換後の最大値となるように波長600nmのr信号値をupper_limit_r(r信号上限値)とし、波長変換前の最大r信号値を示す波長700nmのr信号値をpeak_r(変換前最大r信号値)とした。upper_limit_r及びpeak_rは表3及び図8(a)に示したRGB表色系によるスペクトル色度座標から決定できるものであり、r信号値変換係数は予め決定可能な係数である。
peak_gは波長変換前の最大g信号値であり、lower_limit_gは波長変換後のg信号下限値であり、オフセット値である。本実施形態においてpeak_gは波長518nmにおけるg信号値(1.16241)とし、lower_limit_gは波長600nmにおけるg信号値(0.20837)とする。式(9)の右項のr[i]に乗算される係数はg信号変換係数であり、変換後のg信号値が変換前のg信号値の最大値を超えないようにするとともに、変換後のg信号についてのスペクトル色度座標のグラフの形状が変換前の形状に類似するように決定される。式(9)に示した演算を行うことにより、各画素のg[i]をオフセット値としてlower_limit_g(g信号下限値)を下限としつつ、上限値は変換前と同一値に保つ値に線形に変換することが可能となる。図8(a)によれば、g信号値は上に凸の形状を有するグラフによって示され、ユーザが認識できる450〜600nmの波長域における両端の波長のためのg信号値を比較すると600nmのためのg信号値の方が大きい。したがって、このユーザは波長600nmのためのg信号値以上のg信号値であれば認識できることが理解される。そこで、本実施形態においては、波長600nmのためのg信号値が最小値となるように波長600nmのg信号値をオフセット信号としてlower_limit_g(g信号下限値)とし、波長変換前の最大g信号値を示す波長518nmのg信号値のpeak_gを保つような演算を行うこととした。
ステップ1106において、式(8)及び(9)によって変換されたr[i]及びg[i]に刺激和S[i]を乗算して、波長変換されたR及びG値を取得し、ステップ1107においてこれらを含むRGB信号を映像提示部102へ出力する。B信号値については変換を行わず、撮像部101から出力された値を用いる。なお、r[i]についての波長変換演算は乗算のみであるから、ステップ1104で除算した刺激和S[i]はステップ1106の乗算で打ち消される。したがって、ステップ1104及び1106における刺激和の除算及び乗算は省略して、R[i]のまま波長変換処理を実行してもよい。
波長変換のための演算方法は、前述の式(8)及び(9)に限定されない。r[i]のための演算としては、変換後のr[i]の最大値が、ユーザが認識可能なr信号値の最大値以下であるr信号上限値を超えないような演算であればどのような演算であってもかまわない。例えば、変換されたr信号がr信号上限値を超えないのであればr信号変換係数を2/3としてこれをr[i]に乗算するだけでもよい。g[i]のための演算としては、変換後のg[i]の最小値が前述のlower_limit_g(g信号下限値)以上となるような演算であれば、例えば、g信号変換係数=1としてg[i]にlower_limit_gを加算するだけでもよいし、g[i]をpeak_gで除算した後に(g信号変換係数=1/peak_g)、lower_limit_gを加算してもよい。また、R信号値のみ又はG信号値のみの処理によっても波長変換は可能である。
本実施形態を用いれば、スペクトル色度座標のグラフの形状を類似の形状に保ったままユーザが認識可能な波長を表現するためのRGB信号に変換することが可能となる。したがって、r信号上限値以上又はg信号下限値以下のRGB信号値を上限ないし下限値に固定する実施形態に比べて、隣接する部分間の色の関係等の表現が実際の色表現に近い表現でユーザに認識させることを可能とする。さらに、実施形態3及び4と同様に、XYZ変換を伴わないから高速な処理も可能である。
[第6の実施形態]
本実施形態における頭部装着型映像装置は、撮像部101によって撮像された視差を持つ映像をユーザの各眼に提示する3D型頭部装着型映像提示装置である点で、第1から第5の実施形態と異なる。その他の点においては他の実施形態と同様である。以下、他の実施形態と異なる点を中心に説明する。
図4のステップ401として、撮像部101はユーザの左眼に提示するためのユーザの視界方向の映像及びユーザの右眼に提示するためのユーザの視界方向の映像を撮像し、この左右の眼に提示するための視差のある映像情報を含む第1の映像情報を出力する。左右の眼の各々に提示される映像は視差のある映像であり、互いに異なる映像となる。左右の眼に提示するための映像情報を撮像するために例えば並べて配置された二つの単眼カメラやステレオカメラを用いてもよい。一つの単眼カメラで演算された視差を用いて左右の映像情報を生成してもよい。
ステップ402として、波長変換部103は第1の映像情報に含まれる左右の眼に提示するための映像情報の各々に対して波長変換処理を行い、変換された左右の眼に提示するための視差のある映像情報を含む第2の映像情報を出力する。波長変換処理は第1から第5の実施形態において説明した波長変換処理のいずれであってもかまわない。映像提示部102は第2の映像情報に含まれる左眼に提示するための映像情報に基づいてユーザの左眼に対して映像を提示し、第2の映像情報に含まれる右眼に提示するための映像情報に基づいてユーザの右眼に対して映像を提示する。左右の眼に提示するための映像情報を提示するために例えば二つのディスプレイを用いてもよい。図1bにおいて映像提示部102としてプロジェクタのレンズを二つ備える構成を示した。本実施形態においては、それぞれのレンズから左右それぞれの眼に提示するための視差のある映像情報を提示する。本実施形態を用いることにより、ユーザに三次元的な映像を提供することが可能となる。また、各眼毎に各波長に対する感度が異なる場合には、各眼に適した別々の波長変換を行い、各眼のために異なる波長変換を行った映像を提示することが望ましいが、例えば一方の眼の感度に適応させた波長変換を両方の眼の映像情報に対して行ってもかまわない。
以上に説明した処理又は動作において、矛盾が生じない限りにおいて、処理、動作及び組み合わせを自由に変更することができる。また以上に説明してきた各実施形態は、本発明を説明するための例示であり、本発明はこれらの実施形態に限定されるものではない。本発明は、その要旨を逸脱しない限り、種々の形態で実施することができる。また、本実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本実施形態に記載されたものに限定されるものではない。
100 頭部装着型映像提示装置
101 撮像部
102 映像提示部
103 波長変換部
104 処理部
105 記憶部
106 プログラム
107 内部記憶部
108 バス
110 プロジェクタ筐体
111 プリズム
112 プリズム

Claims (16)

  1. 可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザのための頭部装着型映像提示装置であって、
    ユーザの視界方向を撮像して第1の映像情報を取得する撮像部と、
    前記第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に波長変換し、当該波長変換された色信号に基づく第2の映像情報を出力する波長変換部と、
    前記第2の映像情報に基づいて、波長変換されたユーザの視界方向の映像をユーザに提示する映像提示部と、
    を備える、頭部装着型映像提示装置。
  2. 前記波長変換部は、
    XYZ表色系におけるスペクトル色度座標を含む第1のテーブルと、
    前記一部の波長域の波長を前記他の波長域に変換するために、前記第1のテーブルにおいて前記一部の波長域の波長に対応づけられた色度座標を前記他の波長域の波長に対応づけ、前記第1のテーブルにおいて前記他の波長域の波長に対応づけられた色度座標の少なくとも一部を前記第1のテーブルにおいて対応づけられた色度座標とは異なる色度座標に対応づけた第2のテーブルと、
    を含み、
    前記第1の映像情報に基づいて、XYZ表色系で色を表現するXYZ信号を取得し、 前記第1のテーブルに基づいて、前記XYZ信号に対応する波長を特定し、
    前記第2のテーブルに基づいて、前記特定された波長に対応づけられた変換された波長のためのXYZ信号を取得し、
    前記変換されたXYZ信号に基づく第2の映像情報を出力する、
    請求項1に記載の頭部装着型映像提示装置。
  3. 前記波長変換部は、
    前記第1の映像情報に基づいてRGB表色系で色を表現するRGB信号を取得し、
    前記RGB信号に基づいてXYZ信号の刺激和を演算し、
    前記RGB信号から取得されるR信号値を前記刺激和で除算してr信号値を取得し、 前記取得されたr信号値がr信号上限値以上である場合は、前記取得されたr信号値をr信号上限値に変換し、
    前記変換されたr信号値に前記刺激和を乗算して変換されたR信号値を取得し、
    前記変換されたR信号値を含むRGB信号に基づく第2の映像情報を出力し、
    前記r信号上限値は、XYZ表色系によるスペクトル色度座標をRGB変換して得られる前記他の波長域における最大のr信号値以下の値である、
    請求項1に記載の頭部装着型映像提示装置。
  4. 前記波長変換部は、
    前記RGB信号から取得されるG信号値を前記刺激和で除算してg信号値を取得し、 前記取得されたg信号値がg信号下限値以下である場合は、前記g信号値をg信号下限値に変換し、
    前記変換されたg信号値に前記刺激和を乗算して変換されたG信号値を取得し、
    前記変換されたG信号値を更に含むRGB信号に基づく第2の映像情報を出力し、
    前記g信号下限値は、XYZ表色系によるスペクトル色度座標をRGB変換して得られる前記他の波長域における両端の波長のためのg信号値のうち大きい方のg信号値以上である、
    請求項3に記載の頭部装着型映像提示装置。
  5. 前記波長変換部は、
    前記第1の映像情報に基づいてRGB表色系で色を表現するRGB信号を取得し、
    XYZ表色系によるスペクトル色度座標をRGB変換して得られるRGB表色系によるスペクトル色度座標に基づいて決定されたr信号変換係数を、前記取得されたRGB信号に含まれるR信号値に乗算して変換されたR信号値を取得し、
    前記変換されたR信号値を含むRGB信号に基づく第2の映像情報を出力し、
    前記r信号変換係数は、前記RGB表色系によるスペクトル色度座標におけるr信号値に当該r信号変換係数を乗算したときに得られる値の最大値がr信号上限値を超えないように決定され、
    前記r信号上限値は、前記RGB表色系によるスペクトル色度座標における他の波長域における最大r信号値以下の値である、
    請求項1に記載の頭部装着型映像提示装置。
  6. 前記r信号変換係数を、前記取得されたRGB信号に含まれるR信号値に乗算して変換されたR信号値を取得することに代えて、
    取得されたRGB信号に基づいて演算された刺激和で前記取得されたRGB信号に含まれるR信号値を除算して得られたr信号値に、前記r信号変換係数を乗算して変換されたr信号値を取得し、当該変換されたr信号値に前記刺激和を乗算して、変換されたR信号値を取得する、
    請求項5に記載の頭部装着型映像提示装置。
  7. 前記波長変換部は、
    前記取得されたRGB信号に基づいてXYZ信号の刺激和を演算し、
    前記取得されたRGB信号に含まれるG信号値を、前記刺激和で除算してg信号値を取得し、
    前記g信号値に所定の係数を乗算した後g信号下限値を加算し、前記刺激和を乗算して変換されたG信号値を取得し、
    前記変換されたG信号値をさらに含むRGB信号に基づく第2の映像情報を出力し、 前記g信号下限値は、前記RGB表色系によるスペクトル色度座標における前記他の波長域における両端の波長のためのg信号値のうち大きい方のg信号値以上である、
    請求項5又は6のいずれか1項に記載の頭部装着型映像提示装置。
  8. 前記r信号上限値は波長600nmのためのr信号値である、請求項3〜7のいずれか1項に記載の頭部装着型映像提示装置。
  9. 前記他の波長域は450〜600nmである、請求項1〜8のいずれか1項に記載の頭部装着型映像提示装置。
  10. 前記映像提示部はプロジェクタである、請求項1〜9のいずれか1項に記載の頭部装着型映像提示装置。
  11. 前記映像提示部はディスプレイである、請求項1〜9のいずれか1項に記載の頭部装着型映像提示装置。
  12. 前記撮像部はユーザの左眼に提示するためのユーザの視界方向の左眼用映像及び当該左眼用映像とは異なるユーザの右眼に提示するためのユーザの視界方向の右眼用映像を撮像し、
    前記第1の映像情報は前記左眼用映像及び前記右眼用映像のための映像情報を含み、
    前記第2の映像情報は前記波長変換部によって波長変換された前記左眼用映像及び前記右眼用映像のための映像情報を含み、
    前記映像提示部は前記第2の映像情報に含まれる前記波長変換された左眼用映像のための映像情報に基づいてユーザの左眼に対して波長変換された左眼用映像を提示し、前記第2の映像情報に含まれる前記波長変換された右眼用映像ための映像情報に基づいてユーザの右眼に対して波長変換された右眼用映像を提示する、
    請求項1〜11のいずれか1項に記載の頭部装着型映像提示装置。
  13. 前記ユーザは、網膜変性患者であって前記他の波長域内の光を神経節細胞が受容可能となるタンパク質が眼球に投与されたユーザである、請求項1〜12のいずれか1項に記載の頭部装着型映像提示装置。
  14. 可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力する波長変換装置であって、
    ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に波長変換し、
    前記波長変換された色信号に基づく第2の映像情報を出力する、
    波長変換装置。
  15. 可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力するためのプログラムであって、コンピュータに、
    ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に波長変換する工程と、
    前記変換された色信号に基づく第2の映像情報を出力させる工程と、
    を実行させる、プログラム。
  16. 可視光波長域のうちの一部の波長域に対する感度が可視光波長域のうちの他の波長域と比較して低下しているユーザに前記他の波長域内の色を表現する色信号に基づく映像を提示するための映像信号を出力するための方法であって、コンピュータが、
    ユーザの視界方向を撮像して取得された第1の映像情報における少なくとも前記一部の波長域のための色信号の少なくとも一部を、前記他の波長域内の色を表現する色信号に波長変換する工程と、
    前記波長変換された色信号に基づく第2の映像情報を出力する工程と、
    を実行する、方法。
JP2016249858A 2016-12-22 2016-12-22 可視光波長変換部を有する頭部装着型映像提示装置 Active JP6181278B1 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2016249858A JP6181278B1 (ja) 2016-12-22 2016-12-22 可視光波長変換部を有する頭部装着型映像提示装置
PCT/JP2017/045766 WO2018117163A1 (ja) 2016-12-22 2017-12-20 可視光波長変換部を有する頭部装着型映像提示装置
EP17885321.4A EP3562151B1 (en) 2016-12-22 2017-12-20 Head mounted type video presenting device including visible light wavelength converting unit
US16/471,394 US10924719B2 (en) 2016-12-22 2017-12-20 Head mounted type video presenting device including visible light wavelength converting unit
CN201780079358.XA CN110100434B (zh) 2016-12-22 2017-12-20 具有可见光波长转换部的头部佩戴型影像呈现装置
CN202210215895.5A CN114500980A (zh) 2016-12-22 2017-12-20 具有可见光波长转换部的头部佩戴型影像呈现装置
TW106145003A TWI766920B (zh) 2016-12-22 2017-12-21 可見光波長轉換裝置與具有該裝置之頭戴型影像展示裝置、影像展示方法及程式
TW111102161A TWI807596B (zh) 2016-12-22 2017-12-21 可見光波長轉換裝置與具有該裝置之頭戴型影像展示裝置、影像展示方法及程式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016249858A JP6181278B1 (ja) 2016-12-22 2016-12-22 可視光波長変換部を有する頭部装着型映像提示装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017139785A Division JP6803027B2 (ja) 2017-07-19 2017-07-19 可視光波長変換部を有する頭部装着型映像提示装置

Publications (2)

Publication Number Publication Date
JP6181278B1 true JP6181278B1 (ja) 2017-08-16
JP2018107531A JP2018107531A (ja) 2018-07-05

Family

ID=59604913

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016249858A Active JP6181278B1 (ja) 2016-12-22 2016-12-22 可視光波長変換部を有する頭部装着型映像提示装置

Country Status (6)

Country Link
US (1) US10924719B2 (ja)
EP (1) EP3562151B1 (ja)
JP (1) JP6181278B1 (ja)
CN (2) CN110100434B (ja)
TW (2) TWI807596B (ja)
WO (1) WO2018117163A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63282883A (ja) * 1987-05-15 1988-11-18 Nippon Hoso Kyokai <Nhk> 色覚変換装置
JP2003223635A (ja) * 2002-01-29 2003-08-08 Nippon Hoso Kyokai <Nhk> 映像表示装置および撮影装置
WO2011019081A1 (ja) * 2009-08-10 2011-02-17 国立大学法人東北大学 発現効率が改善された光受容チャネルロドプシン
JP2014165768A (ja) * 2013-02-26 2014-09-08 Hitachi Information & Telecommunication Engineering Ltd 視覚補助装置
JP2016095577A (ja) * 2014-11-12 2016-05-26 富士通株式会社 視覚補助装置,視覚補助プログラム,視覚補助方法,検査装置,検査プログラム,及び検査方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101411178B (zh) * 2006-03-28 2011-10-05 京瓷株式会社 暗视装置
US8470790B2 (en) 2006-05-04 2013-06-25 Wayne State University Restoration of visual responses by in vivo delivery of rhodopsin nucleic acids
US8749635B2 (en) * 2009-06-03 2014-06-10 Flir Systems, Inc. Infrared camera systems and methods for dual sensor applications
WO2011030814A1 (ja) * 2009-09-09 2011-03-17 国立大学法人 鹿児島大学 画像処理装置、画像処理方法及びプログラム
EP3611555A1 (en) * 2009-11-19 2020-02-19 eSight Corporation Image magnification on a head mounted display
CN108014002A (zh) * 2011-11-04 2018-05-11 马萨诸塞眼科耳科诊所 自适应视觉辅助装置
WO2014085781A1 (en) * 2012-11-30 2014-06-05 Waba Fun, Llc Systems and methods for preventing friendly fire through infrared recognition and authentication
EP2951620B1 (en) * 2013-01-31 2017-03-01 Nitto Denko Corporation Optical element for correcting color blindness
US20180218642A1 (en) * 2014-09-02 2018-08-02 Baylor College Of Medicine Altered Vision Via Streamed Optical Remapping
US20160269646A1 (en) * 2015-03-13 2016-09-15 Paul John Grata Diversionary system
US10306217B2 (en) * 2015-04-17 2019-05-28 Seiko Epson Corporation Display device, control method for display device, and computer program
WO2016185563A1 (ja) * 2015-05-19 2016-11-24 日立マクセル株式会社 ヘッドマウントディスプレイ、ヘッドアップディスプレイ、及び映像表示方法
US20160362692A1 (en) * 2015-06-15 2016-12-15 Isis Innovation Limited Treatment of retinitis pigmentosa
US9984658B2 (en) * 2016-04-19 2018-05-29 Apple Inc. Displays with improved color accessibility
US20180012377A1 (en) * 2016-07-08 2018-01-11 Toyota Motor Engineering & Manufacturing North America, Inc. Vision-assist devices and methods of calibrating vision-assist devices

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63282883A (ja) * 1987-05-15 1988-11-18 Nippon Hoso Kyokai <Nhk> 色覚変換装置
JP2003223635A (ja) * 2002-01-29 2003-08-08 Nippon Hoso Kyokai <Nhk> 映像表示装置および撮影装置
WO2011019081A1 (ja) * 2009-08-10 2011-02-17 国立大学法人東北大学 発現効率が改善された光受容チャネルロドプシン
JP2014165768A (ja) * 2013-02-26 2014-09-08 Hitachi Information & Telecommunication Engineering Ltd 視覚補助装置
JP2016095577A (ja) * 2014-11-12 2016-05-26 富士通株式会社 視覚補助装置,視覚補助プログラム,視覚補助方法,検査装置,検査プログラム,及び検査方法

Also Published As

Publication number Publication date
EP3562151A4 (en) 2020-07-08
US10924719B2 (en) 2021-02-16
TW202219938A (zh) 2022-05-16
WO2018117163A1 (ja) 2018-06-28
TWI807596B (zh) 2023-07-01
EP3562151A1 (en) 2019-10-30
TWI766920B (zh) 2022-06-11
CN110100434B (zh) 2022-11-01
JP2018107531A (ja) 2018-07-05
CN114500980A (zh) 2022-05-13
TW201839750A (zh) 2018-11-01
US20190394439A1 (en) 2019-12-26
CN110100434A (zh) 2019-08-06
EP3562151B1 (en) 2022-06-08

Similar Documents

Publication Publication Date Title
US11436814B2 (en) Adjusted overlaid images in scenes
CN111883032A (zh) 显示设备、用于控制显示设备的方法和计算机可读介质
US10547832B2 (en) Image processing apparatus, method, and storage medium for executing gradation on stereoscopic images
CN101884222A (zh) 用于支持立体呈现的图像处理
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2021526700A (ja) デジタル収差補正を有する複合現実光学システム
WO2012074091A1 (ja) シースルー型画像表示装置およびシースルー型画像表示方法
JP2012199736A (ja) 画像処理装置、画像処理方法およびプログラム
TWI589150B (zh) 3d自動對焦顯示方法及其系統
JP5909849B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6467881B2 (ja) 視覚補助装置,視覚補助プログラム,視覚補助方法,検査装置,検査プログラム,及び検査方法
JP6181278B1 (ja) 可視光波長変換部を有する頭部装着型映像提示装置
JP6803027B2 (ja) 可視光波長変換部を有する頭部装着型映像提示装置
JP2017003856A (ja) 表示装置、及び、表示装置の制御方法
CN112526749B (zh) 显示装置、记录介质、显示装置的控制方法和显示系统
JP2017212720A (ja) 画像処理装置、画像処理方法およびプログラム
JP2015097049A (ja) 画像処理装置及び画像処理方法
US20180268779A1 (en) Image display apparatus, image display method, and storage medium
CN112748573B (zh) 头部佩戴型显示装置和显示方法
US20230314596A1 (en) Ear-region imaging
US20230305793A1 (en) Control device, control method, and control program
TWI740083B (zh) 低光源環境顯示結構
JP2017103578A (ja) 制御装置、撮像装置、撮像システム、法線情報取得システム、画像処理装置、制御方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161222

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20161222

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170719

R150 Certificate of patent or registration of utility model

Ref document number: 6181278

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250