JP2012073350A - 映像制御装置、及び映像制御方法 - Google Patents

映像制御装置、及び映像制御方法 Download PDF

Info

Publication number
JP2012073350A
JP2012073350A JP2010217190A JP2010217190A JP2012073350A JP 2012073350 A JP2012073350 A JP 2012073350A JP 2010217190 A JP2010217190 A JP 2010217190A JP 2010217190 A JP2010217190 A JP 2010217190A JP 2012073350 A JP2012073350 A JP 2012073350A
Authority
JP
Japan
Prior art keywords
video
viewer
video control
brain activity
measuring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010217190A
Other languages
English (en)
Other versions
JP5677002B2 (ja
Inventor
Jungo Miyazaki
淳吾 宮崎
Yoshikatsu Ichimura
好克 市村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010217190A priority Critical patent/JP5677002B2/ja
Priority to US13/241,066 priority patent/US9414029B2/en
Publication of JP2012073350A publication Critical patent/JP2012073350A/ja
Application granted granted Critical
Publication of JP5677002B2 publication Critical patent/JP5677002B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • A61B5/378Visual stimuli
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Social Psychology (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radiology & Medical Imaging (AREA)
  • Psychology (AREA)
  • Psychiatry (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】 生体に影響を与えている、映像内の動きに関わる特徴量を脳活動計測によって推定し、得られた結果に基づいて視聴者に与える映像効果を制御する技術を提供すること。
【解決手段】 映像を視聴している視聴者の脳活動を計測し、得られる脳活動データから前記映像の動きに関わる特徴量である動きベクトルを推定して、当該特徴量に基づいて映像の表示を制御する。
【選択図】 図1

Description

映像が生体に与える影響を計測し、得られたデータに基づいて当該映像を制御する映像制御装置および映像制御方法に関する。
近年、映像表示装置の大画面化・高精彩化が進展し、多くの視聴者が臨場感のある映像を楽しむことができるようになりつつある。しかし、その一方で、映像が生体に与える悪影響についても報告されるようになってきた。例えば、市販のビデオカメラで撮影した手ブレのある映像を大画面ディスプレイで視聴した時に、視聴者の中には乗り物酔いに似た症状、いわゆる「映像酔い」と呼ばれる不快感を覚えることがある。視聴している大画面映像からは、あたかも視空間内で自分が動いているように感じられるのだが、実際には視聴者は静止している。それにより、視覚器官から得られる視知覚と、前庭器官から得られる平衡感覚との間に矛盾が生じ、脳内での空間認識が阻害される。このままででは身体制御などに支障をきたすことから、警報として「映像酔い」という不快症状が誘発されると考えられている。「映像酔い」は、映像内の動きに関わる成分が生体に悪影響を及ぼす一例である。
一方で、映像が生体に好影響を与えることも明らかになりつつある。例えば、視覚をはじめ感覚に関わる脳神経系の発達が著しい乳幼児期において、映像を視聴することは、色や形、あるいは動きといった視覚刺激を知覚するための訓練として効果的である。しかし、乳幼児は自分の見え方を言語で表現することが難しいので、視聴している映像が乳幼児に本当に知覚されているのかどうかを評価することは困難である。映像の動きを知覚するための機構が未発達な乳幼児に対して高速で運動する対象を含む映像を表示しても、当該対象は知覚されず、映像の効果が得られていない可能性があり、その評価は難しい。このように、乳幼児の視覚系の発達を促進するという目的においては、乳幼児が知覚でき得る速度に映像内の動きを制御しなければならない。以上のような事情に鑑み、映像が生体に与える影響を他覚的に検知し、場合によっては視聴者に表示する映像を制御する技術が望まれている。
表示装置の使用者の作業進行状態やそれに伴う生体疲労状況に合わせて表示サイズ、解像度等の表示条件を変化させ、使用者の生体にかかる負荷を少なくすることができる技術として、特許文献1記載の生体固有情報を用いた表示システム及び表示方法がある。これは、文字、画像の表示装置において、生体から生ずる脳波、呼吸、脈拍、血圧等の生体固有情報の計測データと、使用者の状態が蓄積された蓄積データとに基づいて、文字、画像の表示サイズ、解像度、表示位置などを制御するものである。
一方、映像を視聴している人間の脳活動を測定し、得られたデータを解析することで視聴者が知覚している映像内の線分を推定する技術が、非特許文献1に記載されている。非特許文献1には、以下の技術が記載されている。人間の大脳視覚野には、視聴している映像中の特定の線分に反応する神経細胞が存在している。例えば一次視覚野では、それらの神経細胞がそれぞれの担当する視野に応じて規則正しく配列している。したがって、映像を視聴している人間の一次視覚野の神経活動を機能的磁気共鳴画像法で測定することによって、視野中のどの位置にどんな線分の画像が表示されているかを推定することができる。
特許文献1に記載の技術では、使用者の脳波、呼吸、脈拍、血圧等の生体固有情報に影響を与えた映像要因については何も推し量ることはしていなかった。そのため、制御すべき映像だけでなく、制御する必要の無い映像まで同様に制御してしまい、必要以上に情報量を低下させていた。その結果として映像品質が必要以上に低下するという問題が残されていた。
また、非特許文献1に記載の技術では、視聴者の知覚情報を推定することはできるが、それをもとに視聴中の映像に何らかの制御を加えるものではなく、視聴者への影響を制御できなかった。
本発明に係る映像制御装置は、視聴者に映像を呈示する映像呈示手段と、
前記視聴者の脳活動を計測する脳活動計測手段と、
前記脳活動計測手段によって得られたデータをもとに前記視聴者が知覚している映像の動きの方向と量に関わる特徴量を推定する特徴量推定手段と、
前記特徴量に基づいて前記映像呈示手段が表示する映像を制御する映像制御手段と、
を有することを特徴とする。
また、本発明に係る映像制御方法は、視聴者に映像を呈示する映像呈示工程と、
前記視聴者の脳活動を計測する脳活動計測工程と、
前記脳活動計測工程によって得られたデータをもとに前記視聴者が知覚している映像の動きの方向と量に関わる特徴量を推定する特徴量推定工程と、
前記特徴量に基づいて視聴者に表示する映像を制御する映像制御工程と、
を有することを特徴とする。
本発明の技術によれば、視聴者に影響を与えている映像の動きに関わる特徴量を脳活動計測によって推定できるので、当該特徴量に基づいて映像効果を制御することができる。
本発明の映像制御装置の基本構成を表すブロック図 脳活動計測装置の具体的構成を表す断面図 本発明の映像制御のフローチャート 視覚的運動方向選択性を有する神経細胞の模式図 生理反応計測手段を具備する映像制御装置の基本構成を表すブロック図 本発明の映像制御のフローチャート 主観評価手段を具備する映像制御装置の基本構成を表すブロック図 本発明の映像制御のフローチャート
本発明の映像制御装置及び映像制御方法の実施の形態を、図面を参照して詳細に説明する。
ここで説明する実施の形態においては、映像を視聴している視聴者の脳活動から、当該映像の動きに関わる特徴量である動きベクトルを推定し、当該映像を制御する。
図1は本形態の映像制御装置の基本構成を表すブロック図である。
(脳活動計測手段)
視聴者1が映像呈示手段である表示装置2によって表示される映像を見ているときの脳活動を、脳活動計測手段である脳活動計測装置3により計測する。脳活動計測装置3に用いられるものとしては、機能的磁気共鳴画像計測装置、ポジトロン断層計測装置、近赤外分光計測装置、脳波計、脳磁計、電極を用いた神経活動記録装置などの様々な脳活動計測装置が挙げられる。その中でも、機能的磁気共鳴画像法は脳内の活動部位を高感度かつ精細に計測することが可能であるため好ましい。ポジトロン断層計測装置も特定の脳部位の活動を精度よく計測するのに適しており、好ましい。脳波計及び近赤外分光計測装置は、被験者頭部の所定箇所に計測用のセンサを装着する簡便な構成で脳活動に伴う信号を取得できるので、好ましい。とりわけ、本発明において計測する主な脳部位は後頭葉の大脳視覚野であるため、計測対象となる部位は限定され、装着すべきセンサの数も少なくて済むので好ましい。
(特徴量推定手段)
脳活動計測装置3によって計測された脳活動に関するデータは特徴量推定手段である脳活動データ解析装置4に送られ、視聴者1が知覚している映像の特徴量である、映像の動きベクトルが推定される。ここで映像の動きベクトルとは、動画像データの表現方法の一つであり、動画像のある瞬間に相当する静止画像を基準とした時、前後の瞬間に相当する別の静止画像との間の動き成分をベクトルとして表現したものである。「映像酔い」の不快症状は、映像の動きベクトルと相関があると言われており、「映像酔い」を検知する上で映像の動きベクトルを推定することは有効である。
具体的には、視聴している映像の運動方向、及び速度に対して選択的に反応する神経細胞の活動に伴う信号を取得する。当該神経細胞は大脳視覚野の特定の領野に存在し、視野内の位置と対応のとれた規則で配列していることが知られている。脳波計、脳磁計、電極を用いた神経活動記録装置の場合には、映像視聴によって誘発される神経細胞の電気的活動を計測する。一方、機能的磁気共鳴画像計測装置、ポジトロン断層計測装置、近赤外分光計測装置の場合には、映像視聴によって誘発された神経細胞の電気的活動に付随して生じる脳血流変化を計測する。それらの脳活動計測装置は、視聴者1の網膜に刻々と投影される二次元像に応じて変化する前記神経細胞の所在と活動レベルとを活動パターンとして取得する。例えば、ランダムドットパターンが上方向に速度を変えながら運動する映像を視聴者1に呈示し、その際の当該神経細胞の活動を計測すれば、前記ランダムドットパターンに対して選択的に反応する神経細胞の所在と活動レベルとが活動パターンとして得られる。同様に、任意の方向に速度を変えながら運動するランダムドットパターンを呈示し、その際の視聴者1の神経活動を計測すれば、所定の運動方向と速度に対して選択的に反応する神経細胞の所在と活動レベルとを活動パターンとして取得することができる。映像内の単純な動きによって変化する上記の神経活動パターンと、任意の映像を視聴している際に計測される視聴者1の神経活動パターンとをパターン認識処理することで、当該神経活動パターンに含まれる視覚的な動きの方向と速度を定量的に推定することができる。
推定された映像の動きベクトルの値は、判別装置5へ送られる。
判別装置5は、当該動きベクトルの値をもとに、映像に対して制御が必要かどうかを判別する。判別を有効に行うために、目的に応じて前記動きベクトルの値の閾値を予め設定することができる。例えば、「映像酔い」を誘発する動きベクトルの臨界値や、目的とする映像効果を与えるのに必要な基準値を設定することが挙げられる。「映像酔い」を判別する場合を考えると、もしも前記動きベクトルの値が予め設定した閾値を越えた時には、視聴者1が知覚している映像が適正ではない、すなわち「映像酔い」の危険性が高まっていると判別し、映像制御装置6へ映像効果を抑制する信号を出力する。
「映像酔い」の危険性が高まっている場合には、予め測定した視聴者の知覚特性を踏まえて、視聴者が知覚する特定の方向における動きの感覚を減少させるように前記ランダムドットパターンを映像に重畳する。
具体的には、映像内にランダムドットパターンを生成し重畳することで、視聴者が知覚する特定の方向における動きの感覚を減少させるように映像制御装置6へ信号を出力する。
映像の動きに対する人間の知覚には個人差があると考えられるので、好ましくは事前に視聴者ごとに調整することが好ましい。例えば、映像の一部を視聴者に呈示し、その際の脳活動を計測して当該映像の動きベクトルを推定する。推定された映像の動きベクトルに応じて運動するランダムドットパターンを当該映像に重畳し、その際の脳活動を計測して映像の動きに対して反応した神経活動パターンを得る。その後、同じ映像に対して速度や色、ドット数を変えて前記ランダムドットパターンを繰り返し呈示し、そのたびごとに脳活動を計測して神経活動パターンを取得する。同時に、前記ランダムドットパターンを重畳した映像の動きについて、視聴者に主観的な印象を報告してもらう。以上の手続きを予め行っておくことで、当該視聴者が属性の異なるランダムドットパターンを重畳した映像に対してどれくらいの動きの感覚を知覚するか、ならびにどのような神経活動パターンを示すかが明らかとなる。つまり、映像に対する当該視聴者の知覚特性を予め測定しておくことで重畳する前記ランダムドットパターンの属性を調整することができるので、より適切な映像制御を行えるという効果が得られる。
一方、前記動きベクトルの値が閾値を越えない時には、「映像酔い」の危険性は少ないと判別し、映像制御装置6へ信号を出力しない。前記閾値は、視聴者1の映像に対する感応性を考慮して任意に設定することができる。より好ましくは、脳活動計測から推定される映像の動きベクトルと、その際に当該映像が視聴者へ与える影響とを事前に調べておくのがよい。複数名の視聴者を対象に、映像を視聴している際の脳活動計測と主観的な印象に関する質問紙法を実施する。脳活動計測から推定される映像の動きベクトルの値と、前記視聴者の主観的印象との結果から、映像の動きベクトルについて適切な閾値を設定することが望ましい。
また、映像が視聴者1に与える動きの感覚を増強したい場合、もしも前記動きベクトルの値が予め設定された基準値を越えない時には、目的とする映像効果が不十分であり適正ではないと判別して、映像制御装置6へ映像効果をより増強するように信号を出力する。具体的には、映像内にランダムドットパターンを生成し、脳活動計測から推定された動きベクトルに応じて前記ランダムドットパターンを運動させるように映像制御装置6へ信号を出力する。前述のように、視聴者ごとに異なる映像の動きに対する知覚特性を予め測定しておくことで、当該視聴者にとって適切な映像制御を行うことができる。目的とする映像効果が視聴者に与えられていないと判定された場合には、予め測定した視聴者の知覚特性を踏まえて、特定の方向における動きの感覚を増加させるように当該映像にランダムドットパターンを重畳する。
一方、前記動きベクトルの値が基準値を越えている場合には、映像効果が十分である、すなわち視聴者1が知覚している映像は適正であると判別して信号を出力せず、当該映像を維持する。
(映像呈示手段)
映像呈示手段である表示装置2として用いられ得るものとしては、ブラウン管や液晶パネルからなる表示装置や投射型表示装置、ヘッドマウント型の表示装置等、通常考えられるあらゆる表示装置が用いられ得る。但し、脳活動計測装置3に影響を与えることが考えられる場合には、表示装置2に対して制限が加えられる。例えば、脳活動計測装置3として磁気共鳴画像計測装置を用いる場合には、視聴者の視野内に設置されたスクリーンと、磁気共鳴画像計測装置の外から前記スクリーンに映像を投射する液晶プロジェクタとから成るシステムが表示装置2として好ましい。
(記憶手段)
また、判別装置5あるいは映像制御装置6内に既設のハードディスクや半導体メモリなどの記憶媒体に、その出力履歴を記録しておくことが可能である。当該出力履歴は視聴者ごとにIDを付して保管する。視聴者が再び当該映像を視聴する際には、当該視聴者に対応するIDを付した出力履歴が記憶媒体から読み出され、脳活動計測を行わなくても同様な映像制御が行われ得る。従って、視聴者毎に一旦計測を行っておけば、脳活動計測による拘束を伴わずに適切な制御の施された映像を視聴する効果が得られる。
実施例1では、映像を視聴している人間の脳活動から、当該映像の動きに関わる特徴量である動きベクトルを推定し、当該映像を制御する事例を示す。
本実施例において、図1中の脳活動計測装置3は機能的磁気共鳴画像法(fMRI装置)を採用する。表示装置2は、脳活動計測装置3における筒状の計測部内に備えられたスクリーンと、計測部外に設置され、前記スクリーンに映像を投射する液晶プロジェクタとから成る。
図2は、本実施例に係る脳活動計測装置3の断面図である。被験者1はfMRI装置に付属した寝台21に横たわり、傾斜磁場コイル22、及び超伝導磁石23が備えられた筒状の計測部内に配置される。計測部内には視聴者1の眼前にスクリーン24が備えられており、液晶プロジェクタ25によって計測部外から映像を投射する。視聴者1の後頭部には信号検出用コイル26が設置されており、神経活動に伴う脳血流変化に相関した電磁波信号を検出する。
図3は、本実施例に係る映像制御のフローチャートである。本実施例では、市販のビデオカメラで撮影した映像を視聴者に表示する。映像の表示を開始するとともに、fMRI装置を用いて被験者1の脳活動の測定を始める。本実施例で計測する脳部位は、特に5次視覚野(MT:middle temporal area)とする。図4は、5次視覚野における視覚的運動方向選択性を有する神経細胞の模式図である。この図に示すように、5次視覚野には映像の運動方向に対して選択的に反応する神経細胞が存在していることが知られている(非特許文献2を参照)。図中の柱状に示したものが視覚的運動方向選択性を有する神経細胞であり、それぞれの上面に記した矢印は、それぞれの神経細胞が選択的に反応する映像内の運動方向を示している。例えば、図中の神経細胞11は、映像中に右方向へ動く対象がある場合に活動し、それ以外の方向へ動く対象には活動しない。また、これらの神経細胞は、網膜に投影された空間的な配置に相当するように規則正しく配列していることが知られている。従って、fMRI装置を用いてこれらの神経細胞の活動を測定すれば、視聴者1が視野中のどの位置にどんな方向に動く映像を知覚しているのかに相当した、神経活動パターンを得ることができる。また、それらの神経細胞は映像内を運動する物体の速度によっても異なる活動パターンを示すことが知られており、この神経活動パターンは、知覚した映像内の動きベクトルに相当していると言える。
本実施例では5次視覚野の脳活動パターンを計測するが、映像の動きに対して選択的に反応する神経細胞は1次視覚野、2次視覚野、MST野(medial superior temporal area)にも存在している。これらのうち少なくとも一つを計測対象としても同様な効果を得ることができる。
fMRI装置で計測された映像表示中の視聴者1の脳活動データは、脳活動データ解析装置4に送られる。脳活動データ解析装置4は前記fMRI装置によって得られた脳活動データを解析し、前記映像がどの領野の神経細胞をどの程度賦活したのかを算出して、脳活動パターンとして記憶する。上述のように前記脳活動パターンは映像の運動方向と速度に対して選択性を有する神経細胞の活動状態、すなわち視聴者1が知覚している映像の動きベクトルに相当しており、表示される映像の動きによって計測される脳活動パターンが異なる。そこで、脳活動パターンに対してパターン認識処理を施し、脳活動パターンから知覚している映像の動き成分、すなわち映像の動きベクトルを推定することができる。例えば、脳活動データ解析装置4を予め訓練したサポートベクターマシンとして構成することで、パターン認識性能はさらに強化され、推定される映像の動きベクトルの精度も向上する。
脳活動データ解析装置4で推定された映像の動きベクトルの値は、判別装置5へ送られる。判別装置5は、当該動きベクトルの値をもとに、映像に対して制御が必要かどうかを判別する。判別装置5では、目的に応じて前記動きベクトルの値の閾値を予め設定することができる。例えば、「映像酔い」を誘発する動きベクトルの臨界値や、目的とする映像効果を与えるのに必要な基準値などが考えられる。例えば「映像酔い」を判別する場合を考える。
もしも前記動きベクトルの値が予め設定した閾値を越えた時には、視聴者1が知覚している映像が適正ではない、すなわち「映像酔い」の危険性が高まっていると判別し、映像制御装置6へ信号を出力する。その結果、「映像酔い」を誘発する動きの感覚が抑制される。
一方、前記動きベクトルの値が予め設定した閾値を越えない、すなわち視聴者1が知覚している映像が適正な範囲内である時には、「映像酔い」の危険性は少ないと判別して信号を出力せず、当該映像を維持する。
また、映像が視聴者1に与える動きの感覚を増加させる場合を考える。
映像の動きベクトルの値が予め設定した基準値に満たない、すなわち映像効果が不十分であると判別された時、映像が与える動きの感覚を増強するようにランダムドットパターンを重畳して、視聴者1が知覚する特定の方向における動きの感覚を増加させることができる。
次に、実施例1の別の形態として、生理反応計測手段を具備した映像制御装置について説明する。
図5は、本実施例に係る映像制御装置の基本構成を表すブロック図である。脳活動計測装置3を用いて表示装置2に表示される映像を視聴している視聴者1の脳活動を計測する。得られた脳活動データを解析して映像の動きに関わる特徴量を推定することで、当該映像に制御を施す構成は実施例1と同様である。本実施例では、それに加えて映像が視聴者1の自律神経系に与える影響を計測する生理反応計測装置7を導入する。例えば、「映像酔い」の不快感が誘発される際には、自律神経系に変調をきたすことが知られている。実施例1に示したように、脳活動を計測することによって映像が生体に与える影響を推定することはできるが、より精度を向上するためには自律神経系の生理指標を計測する本実施例の構成が有効である。ここでは、生理反応計測装置7として心電計、及び呼吸計を用いることとし、その他の構成は実施例1と同様である。
図6は、本実施例に係る映像制御のフローチャートである。被験者1はfMRI装置の計測部内の寝台21上に仰向けになり、眼前のスクリーン24に投射される映像を視聴する。その時、fMRI装置によって脳活動を計測し、映像が賦活した所定部位の脳活動パターンを得る。脳活動データ解析装置4は当該脳活動パターンを解析し、視聴者1が知覚している映像の動きに関わる特徴量、すなわち動きベクトルを推定する。
一方、心電計、及び呼吸計で構成される生理反応計測装置7は、当該映像を視聴している間、視聴者1の心拍数、及び呼吸数を計測する。得られたデータは生理反応データ解析装置8へ送られ、時系列データとして記録される。生理反応データ解析装置8は当該データの時間変化を算出し、上昇、下降、あるいは一定といった測定期間中のデータの動特性を解析し、その結果を判別装置5へ出力する。
判別装置5は、脳活動データ解析装置4から入力される視聴者1が知覚している動きベクトルの値と、生理反応データ解析装置8から入力される視聴者1の心拍数、及び呼吸数の時間変化量とが、適正の範囲にあるか否かを判別する。前記動きベクトルの値と前記心拍数、及び前記呼吸数の時間変化量とが両者ともに予め設定した閾値を越えない時、視聴者1が知覚している映像は適正であると判別して信号を出力せず、当該映像を維持する。一方、前記動きベクトルの値、前記心拍数、または前記呼吸数の時間変化量のいずれかが予め設定した閾値を越えた時には、視聴者1が知覚している映像は適正ではない、すなわち「映像酔い」の危険性が高まっていると判別して、映像制御装置6へ信号を出力する。
当該信号を受信した映像制御装置6は、表示装置2に対して脳活動データ解析装置4から入力された映像の動きベクトルに基づいて、当該映像が視聴者に与える動きの感覚を抑制するように運動するランダムドットパターンを重畳する。
もしもランダムドットパターンを重畳しても映像の動きの量が所定値を越え、前記動きベクトルの量が十分に低減できないような場合には、以下のように処理を加えることによって、視聴者への悪影響を防止することも好ましく行なわれるものである。前記動きベクトルの量が十分に低減できないため「映像酔い」の発生が予測された場合には、前記スクリーンへの映像投射を中止することで、当該映像が視聴者に与える動きの感覚を抑制する。または、予め用意された静止画や、動きの少ない映像に切替えて呈示することも可能である。
前記動きの量の所定値の決め方としては、悪影響が現れ始める動きベクトルの量を測定しておく方法、または「映像酔い」を誘発することのない映像視聴時に通常算出される動きベクトルの値の1.5倍等に定めておく方法などが挙げられる。
また、本実施例の構成によれば、どの時刻に生理反応の変調が現れたかを特定することができるので、当該時刻に視聴者1が知覚していた映像の動きベクトルをも同定することができる。従って、生体に悪影響を与える映像の動き成分を特定し、消去、あるいは編集して、安全な映像へと制御することも可能である。
以上、生理反応計測手段を具備する映像制御装置について説明した。本実施例はあくまで一態様であって、これに限定されるものではない。例えば、生理反応計測装置7は心電計、及び呼吸計以外にも血圧計、心電位計、筋電位計、脈拍計、呼吸計、皮膚電位計、発汗計、胃電位計、眼電運動計測器など通常考えられる非侵襲の生理反応計測手段を用いることが可能である。それらの計測機器は視聴者の身体各所に装着され、交感神経系、及び副交換神経系の作用を反映した時系列の生体信号を取得する。例えば、上述の実施例で記載した心電計に替えて、脈拍計を導入することもできる。呼吸計は伸縮性可変抵抗素子によって体幹部(腹部あるいは胸部)の周囲長変化を検出し、呼吸数や換気量を算出する。一方、脈拍計は近赤外光を指先に照射して末梢血管に流れる血流量を検出し、出力波形から脈拍数や脈拍間の時間間隔を算出する。脈拍数や脈拍間の時間間隔は心拍変動を反映しており、心電計から得られる生体信号と同等な信号を取得することができる。呼吸計、並びに脈拍計は簡便な構成であり被験者への負荷が少なく、fMRI装置への電磁的ノイズも少ない。従って、fMRI装置内の視聴者への負担を軽減し、生理的反応をより精密に計測できる効果が得られる。そのため、本発明において好適な別の構成と言える。
次に、実施例1の別の形態として、主観評価手段を具備する映像制御装置について説明する。
図7は、本実施例に係る映像制御装置の基本構成を表すブロック図である。前記実施例2における生理反応計測手段を、主観評価手段で置き換えた構成である。本実施例によれば、前記実施例2と同様に映像が視聴者1に与える影響を、より精度良く検知することができる。すなわち、前記実施例2において視聴者1の自律神経系の状態を生理反応計測装置7で測定したのに替えて、視聴者1から体調に関わる主観的な反応を評価する主観評価装置9を備えていることを特徴とする。
図8は、本実施例に係る映像制御のフローチャートである。表示装置2に表示された映像を視聴者1は視聴し、脳活動計測装置3を用いて当該視聴者1の脳活動を計測する。得られた脳活動データを解析して映像の動きに関わる特徴量を推定し、当該映像に制御を施す構成は実施例1と同様である。本実施例では、それに加えて視聴者1が自らの体調の変調を意思表示するための、押しボタンが敷設された主観評価装置9を導入する。映像を視聴している視聴者1は、当該主観評価装置9を手元に備えておく。もしも映像を視聴している際に不快感を覚えた時には、視聴者1は当該主観評価装置9の押しボタンを押し下げる。ここでは、押しボタンを押し下げる回数に応じて、不快感の程度を表すように設定する。視聴者1が当該押しボタンを押すごとに、主観評価装置9は主観データ解析装置10へ信号を出力する。主観データ解析装置10は、前記主観評価装置9からの信号を計数し、視聴者1が意思表示している不快感の程度を解析して判別装置5へ信号を出力する。
判別装置5は、脳活動データ解析装置4から入力される視聴者1が知覚している動きベクトルの値と、主観データ解析装置10から入力される主観評価値とが、適正の範囲にあるか否かを判別する。前記動きベクトルの値と前記主観評価値とが両者ともに予め設定した閾値を越えない時、視聴者1が知覚している映像は適正であると判別して信号を出力せず、当該映像を維持する。一方、前記動きベクトルの値、または前記主観評価値のいずれか一方が予め設定した閾値を越えた時には、視聴者1が知覚している映像は適正ではない、すなわち「映像酔い」の危険性が高まっていると判別して、映像制御装置6へ信号を出力する。
当該信号を受信した映像制御装置6は、表示装置2に対して脳活動データ解析装置4から入力された映像の動きベクトルに基づいて、当該映像が視聴者に与える動きの感覚を抑制するように運動するランダムドットパターンを重畳する。もしも「映像酔い」が深刻であると判別した場合には、液晶プロジェクタへ映像制御信号を出力してスクリーンへの映像投射を中止することで、当該映像が視聴者に与える動きの感覚を抑制する。または、予め用意された静止画や、動きの少ない映像に切替えて呈示することも可能である。
以上、主観評価手段を具備する映像制御装置の実施例について説明した。ここで採用した主観評価手段はあくまで一態様であり、通常考えられるあらゆる主観評価手段を用いることが可能である。例えば、SSQ(Simulator Sickness Questionnaire)という質問紙法を計測の合間に導入することで、不快感の有無だけではなく頭痛や眼精疲労などより多面的な尺度で視聴者の主観を評価することができる。SSQで設定されている複数の質問事項の中から、所望のものを選択して視聴者に回答させることもできる。
また、実施例2では生理反応計測手段のみを、実施例3では主観評価手段のみを具備する構成としたが、双方を具備する構成にすれば、視聴者の心身の状態をより精度よく計測することができる。それにより、どの時点の映像が視聴者にとって主要な影響を及ぼしたのかを精緻に推定することができる。従って、視聴者に与える映像効果をより的確に制御できるという効果が得られる。
1 視聴者
2 表示装置
3 脳活動計測装置
4 脳活動データ解析装置
5 判別装置
6 映像制御装置
7 生理反応計測装置
8 生理反応データ解析装置
9 主観評価装置
10 主観データ解析装置
11 神経細胞
21 寝台
22 傾斜磁場コイル
23 超伝導磁石
24 スクリーン
25 液晶プロジェクタ
26 信号検出用コイル

Claims (10)

  1. 視聴者に表示する映像を制御する映像制御装置であって、
    視聴者に映像を呈示する映像呈示手段と、
    前記視聴者の脳活動を計測する脳活動計測手段と、
    前記脳活動計測手段によって得られたデータをもとに前記視聴者が知覚している映像の動きの方向と量に関わる特徴量を推定する特徴量推定手段と、
    前記特徴量に基づいて前記映像呈示手段が表示する映像を制御する映像制御手段と、
    を有することを特徴とする映像制御装置。
  2. 前記映像制御手段は、前記特徴量の内、特定の方向における映像の動きの量を減少もしくは増加させることを特徴とする請求項1に記載の映像制御装置。
  3. 前記視聴者の自律神経系の反応を計測する生理反応計測手段、または前記視聴者の体調に関する主観的な反応を評価する主観評価手段のうち少なくとも一方を具備する請求項1または請求項2に記載の映像制御装置。
  4. 前記脳活動計測手段は機能的磁気共鳴画像計測装置、ポジトロン断層計測装置、近赤外分光計測装置、脳波計、脳磁計、電極を用いた神経活動記録装置のうち少なくとも一つであることを特徴とする請求項1から請求項3のいずれか一項に記載の映像制御装置。
  5. 前記生理反応計測手段は、血圧計、心電位計、筋電位計、脈拍計、呼吸計、皮膚電位計、発汗計、胃電位計、眼電運動計測器のうち少なくとも一つであることを特徴とする請求項3に記載の映像制御装置。
  6. 前記映像制御手段は、前記特徴量の内、映像の動きの量が所定値を越えた場合は映像の呈示を中止、もしくは静止画や他の映像に切替えて呈示することを特徴とする請求項1から請求項5のいずれか一項に記載の映像制御装置。
  7. 視聴者に表示する映像を制御する映像制御方法であって、
    視聴者に映像を呈示する映像呈示工程と、
    前記視聴者の脳活動を計測する脳活動計測工程と、
    前記脳活動計測工程によって得られたデータをもとに前記視聴者が知覚している映像の動きの方向と量に関わる特徴量を推定する特徴量推定工程と、
    前記特徴量に基づいて視聴者に表示する映像を制御する映像制御工程と、
    を有することを特徴とする映像制御方法。
  8. 前記映像制御工程は、前記特徴量の内、特定の方向における映像の動きの量を減少もしくは増加させることを特徴とする請求項7に記載の映像制御方法。
  9. 前記視聴者の自律神経系の反応を計測する生理反応計測工程、または前記視聴者の体調に関する主観的な反応を評価する主観評価工程のうち少なくとも一方を具備する請求項7に記載の映像制御方法。
  10. 前記映像制御工程は、前記特徴量の内、映像の動きの量が所定値を越えた場合は映像の呈示を中止、もしくは静止画や他の映像に切替えて呈示することを特徴とする請求項7から請求項9のいずれか一項に記載の映像制御方法。
JP2010217190A 2010-09-28 2010-09-28 映像制御装置、及び映像制御方法 Active JP5677002B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010217190A JP5677002B2 (ja) 2010-09-28 2010-09-28 映像制御装置、及び映像制御方法
US13/241,066 US9414029B2 (en) 2010-09-28 2011-09-22 Video control apparatus and video control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010217190A JP5677002B2 (ja) 2010-09-28 2010-09-28 映像制御装置、及び映像制御方法

Publications (2)

Publication Number Publication Date
JP2012073350A true JP2012073350A (ja) 2012-04-12
JP5677002B2 JP5677002B2 (ja) 2015-02-25

Family

ID=45870306

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010217190A Active JP5677002B2 (ja) 2010-09-28 2010-09-28 映像制御装置、及び映像制御方法

Country Status (2)

Country Link
US (1) US9414029B2 (ja)
JP (1) JP5677002B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017126288A1 (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
WO2017208718A1 (ja) * 2016-06-02 2017-12-07 ソニー株式会社 表示制御装置及び表示制御方法、表示装置、並びに移動体装置
JP7395577B2 (ja) 2018-10-09 2023-12-11 バルブ コーポレーション 再投影フレームのモーションスムージング

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2649935A2 (en) * 2012-04-12 2013-10-16 Canon Kabushiki Kaisha Evaluation method, evaluation device, program, and recording medium
KR101623834B1 (ko) 2013-08-09 2016-05-24 삼성전자주식회사 의료 영상 촬영과 관련된 컨텐츠를 제공하기 위한 방법 및 그 장치
EP3229477A4 (en) * 2014-12-03 2018-05-23 Sony Corporation Information processing apparatus, information processing method, and program
US10438215B2 (en) * 2015-04-10 2019-10-08 International Business Machines Corporation System for observing and analyzing customer opinion
CN105163180A (zh) 2015-08-21 2015-12-16 小米科技有限责任公司 播放控制方法、装置及终端
CN106713787A (zh) * 2016-11-02 2017-05-24 天津大学 基于eeg对不同速度滚动字幕引起观看舒适度的评价方法
US11723579B2 (en) 2017-09-19 2023-08-15 Neuroenhancement Lab, LLC Method and apparatus for neuroenhancement
US11717686B2 (en) 2017-12-04 2023-08-08 Neuroenhancement Lab, LLC Method and apparatus for neuroenhancement to facilitate learning and performance
WO2019133997A1 (en) 2017-12-31 2019-07-04 Neuroenhancement Lab, LLC System and method for neuroenhancement to enhance emotional response
US11364361B2 (en) 2018-04-20 2022-06-21 Neuroenhancement Lab, LLC System and method for inducing sleep by transplanting mental states
CN113382683A (zh) 2018-09-14 2021-09-10 纽罗因恒思蒙特实验有限责任公司 改善睡眠的系统和方法
US11786694B2 (en) 2019-05-24 2023-10-17 NeuroLight, Inc. Device, method, and app for facilitating sleep
US20210304457A1 (en) * 2020-03-31 2021-09-30 The Regents Of The University Of California Using neural networks to estimate motion vectors for motion corrected pet image reconstruction
US20230095350A1 (en) * 2021-09-17 2023-03-30 Smart Science Technology, LLC Focus group apparatus and system

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07124331A (ja) * 1993-11-04 1995-05-16 Canon Inc 脳波による制御装置及びそれを用いたゲーム装置と覚醒装置と照明装置
JPH1173286A (ja) * 1997-08-28 1999-03-16 Omron Corp ポインタ制御装置及び方法
JP2004086768A (ja) * 2002-08-28 2004-03-18 Fuji Xerox Co Ltd 物体制御装置、物体制御方法、物体制御プログラムおよびコンピュータ読み取り可能な記録媒体
JP2004191628A (ja) * 2002-12-11 2004-07-08 Nec Software Chubu Ltd 生体固有情報を用いた表示システム及び表示方法
JP2005237561A (ja) * 2004-02-25 2005-09-08 Canon Inc 情報処理装置及び方法
JP2006113534A (ja) * 2004-09-16 2006-04-27 Ricoh Co Ltd 画像表示装置、画像表示制御方法、プログラム及び情報記録媒体
JP2007265274A (ja) * 2006-03-29 2007-10-11 Sendai Foundation For Applied Information Sciences 生理適応型表示装置
JP2008147864A (ja) * 2006-12-07 2008-06-26 Sony Corp 画像表示システム、表示装置、表示方法
JP2008153776A (ja) * 2006-12-14 2008-07-03 Toshiba Corp 生体負荷管理装置、動きベクトル周波数遷移回数管理装置、生体負荷管理方法および動きベクトル周波数遷移回数管理方法
JP2008299241A (ja) * 2007-06-04 2008-12-11 Sharp Corp 画像処理装置及び表示装置
WO2009139119A1 (ja) * 2008-05-15 2009-11-19 パナソニック株式会社 脳波信号の識別方法を調整する装置、方法およびプログラム
JP2010050645A (ja) * 2008-08-20 2010-03-04 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2012033146A (ja) * 2010-07-08 2012-02-16 Nippon Telegr & Teleph Corp <Ntt> 操作抵抗感制御装置及び操作抵抗感制御方法
JP2012063547A (ja) * 2010-09-15 2012-03-29 Canon Inc 画像処理装置、画像処理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4149716A (en) * 1977-06-24 1979-04-17 Scudder James D Bionic apparatus for controlling television games
JP2004527815A (ja) * 2000-12-18 2004-09-09 ヒューマン バイオニクス エルエルシー、 感知電気生理学的データに基づく活動開始方法及びシステム
US20040073129A1 (en) * 2002-10-15 2004-04-15 Ssi Corporation EEG system for time-scaling presentations
WO2006105530A2 (en) * 2005-03-31 2006-10-05 The United States Of America As Represented By The Secretary Of The Navy Use of eeg to measure cerebral changes during computer-based motion sickness-inducing tasks
US20080281221A1 (en) * 2007-05-10 2008-11-13 Devon Greco Method and Apparatus for Encouraging Physiological Change Through Physiological Control of Video Devices

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07124331A (ja) * 1993-11-04 1995-05-16 Canon Inc 脳波による制御装置及びそれを用いたゲーム装置と覚醒装置と照明装置
JPH1173286A (ja) * 1997-08-28 1999-03-16 Omron Corp ポインタ制御装置及び方法
JP2004086768A (ja) * 2002-08-28 2004-03-18 Fuji Xerox Co Ltd 物体制御装置、物体制御方法、物体制御プログラムおよびコンピュータ読み取り可能な記録媒体
JP2004191628A (ja) * 2002-12-11 2004-07-08 Nec Software Chubu Ltd 生体固有情報を用いた表示システム及び表示方法
JP2005237561A (ja) * 2004-02-25 2005-09-08 Canon Inc 情報処理装置及び方法
JP2006113534A (ja) * 2004-09-16 2006-04-27 Ricoh Co Ltd 画像表示装置、画像表示制御方法、プログラム及び情報記録媒体
JP2007265274A (ja) * 2006-03-29 2007-10-11 Sendai Foundation For Applied Information Sciences 生理適応型表示装置
JP2008147864A (ja) * 2006-12-07 2008-06-26 Sony Corp 画像表示システム、表示装置、表示方法
JP2008153776A (ja) * 2006-12-14 2008-07-03 Toshiba Corp 生体負荷管理装置、動きベクトル周波数遷移回数管理装置、生体負荷管理方法および動きベクトル周波数遷移回数管理方法
JP2008299241A (ja) * 2007-06-04 2008-12-11 Sharp Corp 画像処理装置及び表示装置
WO2009139119A1 (ja) * 2008-05-15 2009-11-19 パナソニック株式会社 脳波信号の識別方法を調整する装置、方法およびプログラム
JP2010050645A (ja) * 2008-08-20 2010-03-04 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2012033146A (ja) * 2010-07-08 2012-02-16 Nippon Telegr & Teleph Corp <Ntt> 操作抵抗感制御装置及び操作抵抗感制御方法
JP2012063547A (ja) * 2010-09-15 2012-03-29 Canon Inc 画像処理装置、画像処理方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017126288A1 (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
JP2017129923A (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
WO2017208718A1 (ja) * 2016-06-02 2017-12-07 ソニー株式会社 表示制御装置及び表示制御方法、表示装置、並びに移動体装置
US10757380B2 (en) 2016-06-02 2020-08-25 Sony Corporation Display control device, display control method, display device, and mobile device to control display of media content in a mobile object
JP7395577B2 (ja) 2018-10-09 2023-12-11 バルブ コーポレーション 再投影フレームのモーションスムージング

Also Published As

Publication number Publication date
US20120075530A1 (en) 2012-03-29
US9414029B2 (en) 2016-08-09
JP5677002B2 (ja) 2015-02-25

Similar Documents

Publication Publication Date Title
JP5677002B2 (ja) 映像制御装置、及び映像制御方法
US11550005B2 (en) Method and apparatus for providing content related to capture of medical image
Brozinsky et al. Motion velocity thresholds in deaf signers: changes in lateralization but not in overall sensitivity
JP5320543B2 (ja) 脳機能亢進支援装置および脳機能亢進支援方法
US20210393190A1 (en) Apparatus and method for evaluating cognitive function
Keshavarz et al. Detecting and predicting visually induced motion sickness with physiological measures in combination with machine learning techniques
van der Molen et al. Will they like me? Neural and behavioral responses to social-evaluative peer feedback in socially and non-socially anxious females
Kang et al. A wellness platform for stereoscopic 3D video systems using EEG-based visual discomfort evaluation technology
Sakai et al. Immediate effects of visual–motor illusion on resting-state functional connectivity
KR102235716B1 (ko) 가상현실을 이용한 학습장애 진단/치유장치, 및 그 방법
US20230059015A1 (en) Apparatus for monitoring of a patient undergoing a magnetic resonance image scan
CN117063075A (zh) Fmri检查的监测
KR101722690B1 (ko) 의료 영상 촬영과 관련된 컨텐츠를 제공하기 위한 방법 및 그 장치
JP4707991B2 (ja) 能力判定装置
JP2013173035A (ja) 脳機能亢進支援装置および脳機能亢進支援方法
US20230181074A1 (en) Apparatus for monitoring of a patient undergoing a magnetic resonance image scan
US20200390577A1 (en) Method and system for detecting voluntary binary responses by analyzing the pupil diameter of a subject
Carpio et al. Causal computations of supplementary motor area on spatial impulsivity
Villalpando Stimuli and feature extraction methods for EEG-based brain-machine interfaces: a systematic comparison.
JP2023139906A (ja) 脳活動計測装置
Bristow Monitoring and predicting actions and their consequences in the human brain

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20140610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141226

R151 Written notification of patent or utility model registration

Ref document number: 5677002

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151