JP6151573B2 - 視聴状態推定装置及びそのプログラム - Google Patents

視聴状態推定装置及びそのプログラム Download PDF

Info

Publication number
JP6151573B2
JP6151573B2 JP2013116016A JP2013116016A JP6151573B2 JP 6151573 B2 JP6151573 B2 JP 6151573B2 JP 2013116016 A JP2013116016 A JP 2013116016A JP 2013116016 A JP2013116016 A JP 2013116016A JP 6151573 B2 JP6151573 B2 JP 6151573B2
Authority
JP
Japan
Prior art keywords
viewing state
biological signal
vector
similarity
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013116016A
Other languages
English (en)
Other versions
JP2014236332A (ja
Inventor
康仁 澤畠
康仁 澤畠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2013116016A priority Critical patent/JP6151573B2/ja
Publication of JP2014236332A publication Critical patent/JP2014236332A/ja
Application granted granted Critical
Publication of JP6151573B2 publication Critical patent/JP6151573B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本願発明は、被験者の視聴状態を推定する視聴状態推定装置及びそのプログラムに関する。
従来から、視聴者のコンテンツに対する理解度又は主観評価は、視聴後のアンケートで把握されている。受信機で視聴者の理解度又は主観評価の把握が可能であれば、視聴者の嗜好の把握に役立ち、有益な情報推薦に応用が期待できるが、コンテンツ視聴後に毎回アンケートを行うことは現実的ではない。
そのため、視聴者の生体信号から客観的、かつ、自動的に理解度を把握する従来技術が提案されている(例えば、特許文献1−6)。これら従来技術は、計測された生体信号に、理解度に応じて予め決められた生体信号パターンが含まれるか否かによって、理解度を推定するものである。
特許第4370209号公報 特許第4441345号公報 特許第4686299号公報 特許第3991066号公報 特許第4189440号公報 特許第5119375号公報
しかし、前記した従来技術は、予め決められた生体信号パターンに基づいて理解度を推定するため、多種多様なコンテンツに対応できておらず、理解度の推定が困難であるという問題がある。
そこで、本願発明は、前記した課題に鑑みて、コンテンツに対する視聴状態を客観的、かつ、高精度に推定できる視聴状態推定装置及びそのプログラムを提供することを課題とする。
前記した課題を解決するため、本願発明に係る視聴状態推定装置は、コンテンツに対する理解度又は主観評価である視聴状態を尋ねる設問に対する第1被験者群の解答と、コンテンツの視聴中に計測された第1被験者群の生体信号と、解答を行っていない第2被験者の生体信号とに基づいて、第2被験者の視聴状態を推定する視聴状態推定装置であって、生体信号類似度行列算出手段と、視聴状態類似度行列算出手段と、類似度相関係数算出手段と、計測チャンネル選択手段と、生体信号抽出手段と、生体信号類似度ベクトル算出手段と、視聴状態推定手段と、を備えることを特徴とする。
かかる構成によれば、視聴状態推定装置は、生体信号類似度行列算出手段によって、生体信号の計測チャンネル毎に、第1被験者群の生体信号が入力され、入力された第1被験者群の生体信号から、第1被験者間の生体信号の類似度を示す生体信号類似度行列を算出する。また、視聴状態推定装置は、視聴状態類似度行列算出手段によって、第1被験者群の解答を要素とする第1視聴状態ベクトルが入力され、入力された第1視聴状態ベクトルから、第1被験者間の第1視聴状態ベクトルの類似度を示す視聴状態類似度行列を算出する。
ここで、被験者間の生体信号の類似度と、被験者間の解答パターンの類似度との間には、高い相関があると考えられる。そこで、視聴状態推定装置は、類似度相関係数算出手段によって、生体信号類似度行列の上三角要素又は下三角要素からなる生体信号三角要素ベクトルを生成し、視聴状態類似度行列の上三角要素又は下三角要素からなる視聴状態三角要素ベクトルを生成し、計測チャンネル毎に、生体信号三角要素ベクトル及び視聴状態三角要素ベクトルの相関係数を算出する。
また、視聴状態推定装置は、計測チャンネル選択手段によって、計測チャンネル毎の相関係数が予め設定された閾値を超えるか否かを判定し、相関係数が閾値を超えた計測チャンネルを選択チャンネルとして選択する。そして、視聴状態推定装置は、生体信号抽出手段によって、コンテンツの視聴中に計測された第2被験者の生体信号が計測チャンネル毎に入力され、入力された第2被験者の生体信号から、計測チャンネルが選択チャンネルに一致する第2被験者の生体信号を抽出する。このようにして、視聴状態との間に有意な相関がある計測チャンネルの生体信号が抽出される。
また、視聴状態推定装置は、生体信号類似度ベクトル算出手段によって、生体信号抽出手段で抽出された第2被験者の生体信号と、第1被験者の生体信号との類似度を示す生体信号類似度ベクトルを算出する。そして、視聴状態推定装置は、視聴状態推定手段によって、第2被験者の解答を示す第2視聴状態ベクトル及び第1視聴状態ベクトルの類似度を示す視聴状態類似度ベクトルと、生体信号類似度ベクトルとの相関係数が最大になる第2視聴状態ベクトルを求め、求めた第2視聴状態ベクトルを、第2被験者の視聴状態として推定する。このようにして、視聴状態推定装置は、予め決められた生体信号パターンを用いることなく、第2被験者の視聴状態を推定することができる。
なお、本願発明に係る視聴状態推定装置は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した各手段として協調動作させる視聴状態推定プログラムで実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD−ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
本願発明によれば、以下のような優れた効果を奏する。
本願発明によれば、被験者間の生体信号の類似度と、被験者間の解答パターンの類似度との間に高い相関があることを利用し、視聴状態との間に有意な相関がある計測チャンネルの生体信号を用いて、第2被験者の視聴状態を推定するため、予め決められた生体信号パターンを用いる必要がない。これによって、本願発明によれば、コンテンツに対する視聴状態を客観的、かつ、高精度に推定することができる。
本願発明の実施形態に係る視聴状態推定装置の構成を示すブロック図である。 本願発明の実施形態において、視聴状態及び生体信号の相関関係を説明する画像である。 図1の視聴状態推定手段による視聴状態の推定を説明する説明図である。 図1の視聴状態推定装置の動作を示すフローチャートである。
(実施形態)
以下、本願発明の実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の機能を有する手段には同一の符号を付し、説明を省略した。
[視聴状態推定装置の構成]
図1を参照し、本願発明の実施形態に係る視聴状態推定装置1の構成について、説明する。
視聴状態推定装置1は、第1被験者の解答と、第1被験者の生体信号と、第2被験者の生体信号とに基づいて、第2被験者の視聴状態(解答)を推定するものである。
図1に示すように、視聴状態推定装置1は、生体信号入力手段10と、生体信号蓄積手段11と、生体信号類似度行列算出手段12と、視聴状態入力手段20と、視聴状態蓄積手段21と、視聴状態類似度行列算出手段22と、類似度相関係数算出手段30と、計測チャンネル選択手段40と、生体信号抽出手段50と、生体信号類似度ベクトル算出手段51と、視聴状態推定手段60とを備える。
第1被験者とは、コンテンツの視聴中に生体信号が計測されると共に、そのコンテンツの視聴状態を尋ねる設問を解答した被験者である。本実施形態では、第1被験者がN人であることとする(N≧2)。
第2被験者とは、視聴状態の推定対象となっている被験者である。つまり、第2被験者は、コンテンツの視聴中に生体信号が計測されるだけで、設問を解答しない。
コンテンツは、例えば、ニュース番組、バラエティ番組等の番組を内容とする番組コンテンツである。
生体信号入力手段10は、生体信号の計測チャンネル毎に、必要被験者数Nの人数分だけ、第1被験者の生体信号が入力されるものである。また、生体信号入力手段10は、入力された生体信号を数値化し、計測チャンネルの位置データに基づく前処理を施す。そして、生体信号入力手段10は、位置データと共に、必要被験者数Nの人数分だけ、第1被験者の生体信号を生体信号蓄積手段11に蓄積する。
生体信号は、被験者の生体組織の状態や組織が機能している場合の情報を反映した信号である。この生体信号は、例えば、脳血中酸素量、脳表の電位(EEG:Electroencephalogram)、又は、人体の体表温度である。例えば、脳血中酸素量は、機能的核磁気共鳴映像法(fMRI:functional Magnetic Resonance Imaging)、又は、近赤外分光法で計測できる。また、例えば、人体の体表温度は、サーモグラフィで計測できる。
計測チャンネルとは、生体信号計測装置で生体信号の計測領域単位で表された、生体信号を計測した被写体の位置(部位)に相当するものである。fMRIを用いた場合、計測チャンネルは、fMRI装置が3次元画像を生成することから、ボクセル単位で表された、被験者の脳の部位に相当する。また、近赤外分光法又はEEGを用いた場合、計測チャンネルは、被験者の頭表上に置かれるプローブ単位又は電極単位で表された、脳の部位に相当する。
計測チャンネルの位置データとは、計測チャンネルの位置(部位)を示すデータである。fMRIを用いた場合、計測チャンネルの位置データは、被験者の脳の部位を表す3次元座標(ボクセル座標)となる。
fMRIを用いた場合、生体信号入力手段10は、計測チャンネルの位置データに基づく前処理として、脳断層画像の正規化処理を行うことが好ましい。つまり、各第1被験者の脳の大きさが異なるので、脳断層画像に含まれる脳の大きさを予め揃えておく必要がある。そこで、生体信号入力手段10は、正規化処理として、脳断層画像に含まれる脳を圧縮、伸張及び回転させて、標準脳と呼ばれるテンプレート脳画像にあわせる。
生体信号蓄積手段11は、生体信号を蓄積するメモリ、ハードディスク等の記憶装置である。生体信号蓄積手段11に蓄積された生体信号は、生体信号類似度行列算出手段12及び生体信号類似度ベクトル算出手段51によって、参照される。
生体信号類似度行列算出手段12は、生体信号蓄積手段11に蓄積された生体信号の計測チャンネル毎に、第1被験者間の生体信号の類似度を示す生体信号類似度行列を算出するものである。本実施形態では、生体信号類似度行列算出手段12は、下記の式(1)〜式(4)のように、相関係数を用いて、全ての第1被験者間で生体信号類似度行列M を算出する。
ここで、第1被験者をi、計測チャンネルをc、生体信号の時刻をt(t=1〜T)とすると、時系列の生体信号x は、下記の式(1)のベクトルで表すことができる。なお、時刻t=1がコンテンツの開始時刻であり、時刻t=Tがコンテンツの終了時刻である。
この場合、第1被験者間の生体信号類似度行列M は、下記の式(2)のように、N×N次元の対称行列で表すことができる(対角成分は全て1)。つまり、M x,i,j=M x,j,iであり、i=jのとき、M x,i,j=1となる(但し、1≦i≦N、1≦j≦Nを満たす)。
そして、生体信号類似度行列M の要素M x,i,jは、第1被験者i,jの計測チャンネルcの生体信号x ,x の相関係数となり、下記の式(3)で表すことができる。また、式(3)のx ̄ は、下記の式(4)及び式(5)で表すことができる(x ̄ も同様)。なお、式(5)は、全ての要素が1となるT次元のベクトルを表す。
生体信号類似度行列算出手段12は、算出した生体信号類似度行列M を類似度相関係数算出手段30に出力する。
<設問及び解答の具体例>
視聴状態入力手段20を説明する前に、設問及び解答の具体例を説明する。
設問は、コンテンツの視聴状態を第1被験者に尋ねるものである。つまり、設問は、そのコンテンツを視聴した第1被験者の理解度又は主観評価を尋ねるものである。本実施形態では、設問は、第1被験者の理解度を尋ねるものとする。
また、各設問には、複数の選択肢が予め設定されている。そして、第1被験者は、複数の選択肢から、自らが相応しいと思う選択肢を1個選択して解答する。各解答には、コンテンツの内容と照らし合わせて、正解又は不正解が設定される。
例えば、コンテンツが経済に関するニュース番組の場合、以下の設問1〜4を第1被験者に尋ねる。また、設問1〜4のそれぞれには、4個の選択肢1〜4が設定されている。設問1〜4では、選択肢1が正解であり、選択肢2〜4が不正解である。
設問1:何の話題ですか?
選択肢1:通貨ユーロの危機
選択肢2:EUの政情不安
選択肢3:中国のEU圏への投資
選択肢4:ドイツとフランスの経済紛争
設問2:現在のユーロはどのような状況ですか?
選択肢1:ユーロ体制そのものへの信頼性が低下している
選択肢2:IMFからの金融支援で信頼回復を果たしている
選択肢3:EUの各国間の政治的な対立により価値切り下げの様相を呈している
選択肢4:多くの国が自国通貨へ回帰を検討している
設問3:信頼性が低下している原因は何ですか?誤っているものを解答してください
選択肢1:ギリシャがEUとIMFから金融支援を受けることが決まったこと
選択肢2:アイルランドがギリシャと同様の経済状況になったこと
選択肢3:ポルトガルの国債が値下がりしたこと
選択肢4:スペインの国債が値下がりしたこと
設問4:当面の注目点は何だといっていますか。誤っているものを解答してください
選択肢1:中国の投資が持続するかどうか
選択肢2:危機の連鎖を止められるかどうか
選択肢3:EUやIMFが設けたセーフティネットは十分か
選択肢4:EUが結束して危機に対応できるか
なお、第1被験者が解答を行うタイミングは、任意である。例えば、第1被験者は、コンテンツの視聴中又は視聴後に解答を行ってもよい。
また、設問及び選択肢を第1被験者に提示する手法は、任意である。例えば、図示を省略したディスプレイに設問及び選択肢を表示してもよい。
続いて、視聴状態入力手段20を説明する。
視聴状態入力手段20は、必要被験者数Nの人数分だけ、第1被験者の解答が入力されるものである。また、視聴状態入力手段20は、予め設定された解答数値化規則により、入力された第1被験者の解答を数値化して、第1被験者の解答を要素とする第1視聴状態ベクトルを生成する。そして、視聴状態入力手段20は、必要被験者数Nの人数分だけ、第1視聴状態ベクトルを視聴状態蓄積手段21に蓄積する。
前記した設問1〜4に対し、第1被験者が解答した場合を考える。
例えば、視聴状態入力手段20は、解答数値化規則として、入力された解答を正解(例えば、‘1’)又は不正解(例えば、‘0’)で数値化する規則が予め設定される。ここで、視聴状態入力手段20には、ある第1被験者について、設問1で選択肢1、設問2で選択肢2、設問3で選択肢4、設問4で選択肢1という解答が入力された場合を考える。この場合、視聴状態入力手段20は、正解が選択肢1のため、解答数値化規則により、第1視聴状態ベクトル[1 0 0 1]を生成する。
従って、第1被験者iの第1視聴状態ベクトルyは、下記の式(6)のように、設問数がNであれば、N次元のベクトルとなり、各要素が‘0’又は‘1’になる。なお、式(6)では、k番目の要素yi,kは、k番目の設問に対する解答を表している。
視聴状態蓄積手段21は、第1被験者の生体信号と対応付けて、第1視聴状態ベクトルを蓄積するメモリ、ハードディスク等の記憶装置である。視聴状態蓄積手段21に蓄積された第1視聴状態ベクトルは、視聴状態類似度行列算出手段22及び視聴状態推定手段60によって、参照される。
視聴状態類似度行列算出手段22は、視聴状態蓄積手段21に蓄積された第1視聴状態ベクトルから、第1被験者間の第1視聴状態ベクトルの類似度を示す視聴状態類似度行列を算出するものである。本実施形態では、視聴状態類似度行列算出手段22は、下記の式(7)及び式(8)を用いて、視聴状態類似度行列Mを算出する。
ここで、視聴状態類似度行列Mは、下記の式(7)のように、N×N次元の対称行列で表すことができる(対角成分は全て1)。
また、第1被験者i,j間の視聴状態の類似度My,i,jは、下記の式(8)のように、第1被験者i,j間の第1視聴状態ベクトルy,yの内積を用いて、表すことができる。
このように内積を用いた場合、類似度My,i,jには、第1被験者i,jのコンテンツ全体を通しての視聴状態を反映できる。これにより、視聴状態推定装置1は、類似度My,i,jを正確に求められるので、第2被験者の視聴状態をより高精度に推定することができる。
なお、類似度My,i,jは、内積よりも精度が劣るが、コサイン距離でも定義できる。
視聴状態類似度行列算出手段22は、算出した視聴状態類似度行列Mを類似度相関係数算出手段30に出力する。
類似度相関係数算出手段30は、後記する生体信号三角要素ベクトル及び視聴状態三角要素ベクトルを生成し、計測チャンネル毎に、生体信号三角要素ベクトル及び視聴状態三角要素ベクトルの相関係数を算出するものである。
まず、類似度相関係数算出手段30は、生体信号類似度行列算出手段12より入力された生体信号類似度行列M の上三角要素からなる生体信号三角要素ベクトルを生成する。具体的には、類似度相関係数算出手段30は、生体信号類似度行列M の対角成分を除き、上三角要素を予め設定された順序で1次元に並び変えることで、生体信号三角要素ベクトルを生成する。つまり、生体信号類似度行列M がN×N次元のとき、対角成分を除いた上三角要素は、(N×N−N)/2個となる。従って、生体信号三角要素ベクトルは、(N×N−N)/2次元のベクトルになる。
また、類似度相関係数算出手段30は、生体信号三角要素ベクトルと同様の手順で、視聴状態類似度行列算出手段22より入力された視聴状態類似度行列Mの上三角要素からなる視聴状態三角要素ベクトルを生成する。
なお、類似度相関係数算出手段30は、上三角要素の代わりに下三角要素から、生体信号三角要素ベクトル及び視聴状態三角要素ベクトルを生成してもよい。
また、類似度相関係数算出手段30は、全ての計測チャンネルについて、生体信号三角要素ベクトル及び視聴状態三角要素ベクトルの相関係数(以後、「相関係数r」)を算出する。そして、類似度相関係数算出手段30は、計測チャンネル毎の相関係数rを計測チャンネル選択手段40に出力する。
計測チャンネル選択手段40は、類似度相関係数算出手段30から入力された計測チャンネル毎の相関係数rが予め設定された閾値T(例えば、‘0.5’)を超えるか否かを判定するものである。また、計測チャンネル選択手段40は、相関係数rが閾値Tを超えた計測チャンネルを選択チャンネルとして選択する。そして、計測チャンネル選択手段40は、選択チャンネルを生体信号抽出手段50に出力する。
<視聴状態及び生体信号の相関関係>
図2を参照し、視聴状態及び生体信号の相関関係について、説明する(適宜図1参照)。
図2は、ある被験者の首側から頭頂側までの脳断層画像である。各脳断層画像には、脳断層画像の撮影位置を示す数値(ミリメートル単位)が付されている。また、各脳断層画像では、選択チャンネルとして選択された部位について、図2の右下のように、相関係数rに応じた色が付されている。
つまり、各脳断層画像では、相関係数rが高くなるほど、選択チャンネルとして選択された部位が明るくなっている。一方、各脳断層画像では、相関係数rが低くなるほど、選択チャンネルとして選択された部位が暗くなっている。このことから、視聴状態と生体信号(脳血中酸素量)との間には、相関関係があることがわかる。
図1に戻り、視聴状態推定装置1の構成について、説明する。
生体信号抽出手段50は、計測チャンネル毎に第2被験者の生体信号が入力され、入力された第2被験者の生体信号から、計測チャンネルが選択チャンネルに一致する第2被験者の生体信号を抽出するものである。
具体的には、生体信号抽出手段50は、計測チャンネル選択手段40から入力された選択チャンネルで、第2被験者の生体信号を抽出する。また、生体信号抽出手段50は、生体信号入力手段10と同様、抽出した第2被験者の生体信号を数値化し、計測チャンネルの位置データに基づく前処理を施す。そして、生体信号抽出手段50は、位置データと共に、第2被験者の生体信号を生体信号類似度ベクトル算出手段51に出力する。
第2被験者の生体信号は、コンテンツの視聴中に第2被験者から計測された、第1被験者と同種の生体信号である。
以後、生体信号抽出手段50が抽出した第2被験者の生体信号をx newと表す。
生体信号類似度ベクトル算出手段51は、生体信号抽出手段50から入力された第2被験者の生体信号x newと、生体信号蓄積手段11に蓄積された第1被験者の生体信号x との類似度を示す生体信号類似度ベクトルを算出するものである。本実施形態では、生体信号類似度ベクトル算出手段51は、下記の式(9)を用いて、生体信号類似度ベクトルsを算出する。
ここで、生体信号類似度ベクトルsは、生体信号蓄積手段11に蓄積された第1被験者の生体信号x がN人分であれば、N次元のベクトルとなる。また、生体信号類似度ベクトルsは、そのi番目の要素sxiを、下記の式(9)で表すことができる。
この式(9)のx ̄ newは、下記の式(10)及び式(11)で表すことができる。また、ベクトルx newは、そのi番目の要素がx new,iであり、下記の式(12)で表すことができる。なお、式(11)は、全ての要素が1となるT次元のベクトルを表す。
生体信号類似度ベクトル算出手段51は、算出した生体信号類似度ベクトルsを視聴状態推定手段60に出力する。
視聴状態推定手段60は、後記する視聴状態類似度ベクトルsと、生体信号類似度ベクトル算出手段51から入力された生体信号類似度ベクトルsとの相関係数が最大になる第2視聴状態ベクトルの推定値y^newを求めるものである。本実施形態では、視聴状態推定手段60は、下記の式(13)及び式(14)を用いて、第2視聴状態ベクトルy^newを求める。
ここで、第2被験者の視聴状態を示す第2視聴状態ベクトルをynewと記す。この場合、視聴状態類似度ベクトルsは、下記の式(13)のように、視聴状態蓄積手段21に蓄積された第1視聴状態ベクトルyと、第2視聴状態ベクトルynewとの類似度を表す。
もし、第2視聴状態ベクトルynewが既知であれば、生体信号類似度ベクトルsと視聴状態類似度ベクトルsとの相関係数は、大きくなる。従って、第2視聴状態ベクトルynewが未知の場合、第2視聴状態ベクトルynewを推定するには、第2視聴状態ベクトルynewを変数として、生体信号類似度ベクトルsと視聴状態類似度ベクトルsとの相関係数を最大化すればよい。すなわち、第2視聴状態ベクトルの推定値y^newは、下記の式(14)で表すことができる。
例えば、視聴状態推定手段60は、全ての解答を組み合わせた第2視聴状態ベクトルynewを生成する。そして、視聴状態推定手段60は、生体信号類似度ベクトルsと視聴状態類似度ベクトルsとの相関係数が最大になるときの第2視聴状態ベクトルynewを、第2視聴状態ベクトルの推定値y^newとしてもよい。
ここで、設問数が多いといった理由で、全ての解答を組み合わせた第2視聴状態ベクトルynewを生成することが困難な場合もある。この場合、視聴状態推定手段60は、下記の式(15)に示すように、最小二乗法で解くこともできる。なお、式(15)では、Xのi列目は、第1被験者の生体信号x を表している。
視聴状態推定手段60は、求めた第2視聴状態ベクトルy^newが示す解答を、第2被験者の視聴状態として外部に出力する。
<複数の選択チャンネルにおける第2視聴状態ベクトルの推定>
図3を参照し、選択チャンネルが複数の場合における、第2視聴状態ベクトルの推定について、説明する(適宜図1参照)。
図3は、脳断層画像の模式図であり、破線が頭蓋骨を示し、実線が脳を示している。また、図3では、3つの選択チャンネルC〜Cに対応する部位をハッチングで図示した。
この例では、4問の設問が第1被験者に尋ねられ、その解答が視聴状態推定装置1に入力されたこととする。
生体信号抽出手段50は、選択チャンネルに一致する全ての計測チャンネルについて、第2被験者の生体信号x newを抽出する。
生体信号類似度ベクトル算出手段51は、前記同様、選択チャンネル毎に、生体信号類似度ベクトルsを算出する。
視聴状態推定手段60は、前記同様、選択チャンネルC〜C毎に第2視聴状態ベクトルy^newを推定する。ここでは、選択チャンネルCの第2視聴状態ベクトルy^new1=[1 0 1 1]であることとする。この第2視聴状態ベクトルy^new1は、設問1,3,4の解答が‘1’なので正解であり、設問2の解答が‘0’なので不正解であることを示している。
選択チャンネルCの第2視聴状態ベクトルy^new2=[1 0 0 1]であることとする。また、選択チャンネルCの第2視聴状態ベクトルy^new3=[1 1 0 0]であることとする。
次に、視聴状態推定手段60は、第2視聴状態ベクトルy^new1〜y^new3に投票処理を施して、最多得票となる第2被験者の視聴状態ベクトルy^newを、視聴状態として推定する。言い換えるなら、視聴状態推定手段60は、第2視聴状態ベクトルy^new1〜y^new3について、要素毎の平均値を算出する。そして、視聴状態推定手段60は、算出した平均値が’0.5’を超えれば正解、要素毎の平均値が’0.5’以下であれば不正解として、第2被験者の視聴状態ベクトルy^newを推定する。
この例では、視聴状態推定手段60は、要素毎の平均値=[(1+1+1)/3 (0+0+1)/3 (1+0+0)/3 (1+1+0)/3]=[1 1/3 1/3 2/3]を算出する。そして、視聴状態推定手段60は、第2被験者の視聴状態ベクトルy^new=[1 0 0 1]を推定する。
このように選択チャンネルが複数選択された場合でも、視聴状態推定装置1は、第2被験者の視聴状態を客観的、かつ、高精度に推定することができる。
[視聴状態推定装置の動作]
図4を参照し、視聴状態推定装置1の動作について、説明する(適宜図1参照)。
視聴状態推定装置1は、生体信号入力手段10によって、計測チャンネル毎に、第1被験者の生体信号が入力される(ステップS1)。
視聴状態推定装置1は、生体信号入力手段10によって、ステップS1で入力された第1被験者の生体信号を生体信号蓄積手段11に蓄積する(ステップS2)。
視聴状態推定装置1は、視聴状態入力手段20によって、第1視聴状態ベクトルが入力される(ステップS3)。
視聴状態推定装置1は、視聴状態入力手段20によって、ステップS3で入力された第1視聴状態ベクトルを視聴状態蓄積手段21に蓄積する(ステップS4)。
視聴状態推定装置1は、生体信号及び第1視聴状態ベクトルを蓄積した第1被験者数が必要被験者数Nを超えているか否か判定する(ステップS5)。
第1被験者数が必要被験者数Nを超えている場合(ステップS5でYes)、視聴状態推定装置1は、ステップS6の処理に進む。
第1被験者数が必要被験者数Nを超えていない場合(ステップS5でNo)、視聴状態推定装置1は、ステップS1の処理に戻る。
視聴状態推定装置1は、生体信号類似度行列算出手段12によって、ステップS2で蓄積された生体信号から、生体信号類似度行列を算出する(ステップS6)。
視聴状態推定装置1は、視聴状態類似度行列算出手段22によって、ステップS4で蓄積された第1視聴状態ベクトルから、視聴状態類似度行列を算出する(ステップS7)。
視聴状態推定装置1は、類似度相関係数算出手段30によって、計測チャンネル毎に、生体信号類似度行列の上三角要素からなる生体信号三角要素ベクトルと、視聴状態類似度行列の上三角要素からなる視聴状態三角要素ベクトルとの相関係数rを算出する(ステップS8)。
視聴状態推定装置1は、計測チャンネル選択手段40によって、相関係数rが閾値Tを超えた計測チャンネルを選択チャンネルとして選択する(ステップS9)。
視聴状態推定装置1は、生体信号抽出手段50によって、計測チャンネル毎に第2被験者の生体信号が入力される(ステップS10)。
視聴状態推定装置1は、生体信号抽出手段50によって、ステップS10で入力された第2被験者の生体信号から、計測チャンネルが選択チャンネルに一致する第2被験者の生体信号を抽出する(ステップS11)。
視聴状態推定装置1は、生体信号類似度ベクトル算出手段51によって、第2被験者の生体信号と第1被験者の生体信号との類似度を示す生体信号類似度ベクトルを算出する(ステップS12)。
視聴状態推定装置1は、視聴状態推定手段60によって、視聴状態類似度ベクトルと生体信号類似度ベクトルとの相関係数が最大になる第2視聴状態ベクトルを求める。そして、視聴状態推定装置1は、視聴状態推定手段60によって、求めた第2視聴状態ベクトルが示す解答を、第2被験者の視聴状態として推定する(ステップS13)。
[視聴状態推定装置1の作用・効果]
視聴状態推定装置1は、被験者間の生体信号の類似度と、被験者間の解答パターンの類似度との間に高い相関があることを利用し、視聴状態との間に有意な相関がある計測チャンネルの生体信号を用いて、第2被験者の視聴状態を推定するため、予め決められた生体信号パターンを用いる必要がない。これによって、視聴状態推定装置1は、コンテンツに対する視聴状態を客観的、かつ、高精度に推定することができる。
(変形例)
本願発明に係る視聴状態推定装置1は、前記した実施形態に限定されず、その趣旨を逸脱しない範囲で変形を加えることができる。
前記した実施形態では、設問が第1被験者の理解度を尋ねるものとして説明したが、本願発明は、これに限定されない。
つまり、設問は、コンテンツを視聴した第1被験者の主観評価(印象評価)を尋ねるものであってもよい。例えば、SD(Semantic Differential)法を用いて設問及び選択肢を準備してもよい。
前記した実施形態では、生体信号を1種類として説明したが、本願発明は、2種類以上の生体信号を組み合わせてもよい。例えば、第1被験者及び第2被験者について、fMRIで脳血中酸素量を計測し、サーモグラフィで人体の体表温度を計測した場合を考える。また、fMRIの計測チャンネル数をRとし、サーモグラフィの計測チャンネル数をRとする。
この場合、第1被験者の生体信号は、fMRIで計測した脳血中酸素量と、サーモグラフィで計測した人体の体表温度との2種類を組み合わせて、計測チャンネルの数が(R+R)となる1種類の生体信号として扱うことができる(第2被験者の生体信号も同様)。従って、視聴状態推定装置1は、2種類以上の生体信号を組み合わせた場合でも、前記した実施形態と同様の処理で第2被験者の視聴状態を推定できる。
前記した実施形態では、解答数値化規則が、解答を正解(例えば、‘1’)又は不正解(例えば、‘0’)で数値化する規則であることとしたが、本願発明は、これに限定されない。
つまり、本願発明は、解答数値化規則として、解答を連続量で数値化する規則を用いてもよい。例えば、解答数値化規則は、解答が「良い」を‘0’、「普通」を‘1’、「悪い」を‘2’と数値化する規則である。
前記した実施形態では、生体信号類似度行列算出手段12が、相関係数を用いて、生体信号類似度行列M を算出することとして説明したが、本願発明は、これに限定されない。
つまり、生体信号類似度行列算出手段12は、コサイン距離又は内積の何れかにより、生体信号類似度行列M を算出することもできる。これにより、視聴状態推定装置1は、生体信号類似度行列M を正確に求められるので、第2被験者の視聴状態をより高精度に推定することができる。
前記した実施形態では、視聴状態推定装置1を独立したハードウェアとして説明したが、本願発明は、これに限定されない。例えば、視聴状態推定装置1は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した各手段として協調動作させる視聴状態推定プログラムで実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD−ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
本願発明は、視聴者(被験者)が、視聴したコンテンツを興味深く感じることができたか、このコンテンツを正しく受容できたかの客観的な判断に利用することができる。従って、本願発明は、コンテンツの制作や評価といった分野で利用することができる。
1 視聴状態推定装置
10 生体信号入力手段
11 生体信号蓄積手段
12 生体信号類似度行列算出手段
20 視聴状態入力手段
21 視聴状態蓄積手段
22 視聴状態類似度行列算出手段
30 類似度相関係数算出手段
40 計測チャンネル選択手段
50 生体信号抽出手段
51 生体信号類似度ベクトル算出手段
60 視聴状態推定手段

Claims (6)

  1. コンテンツに対する理解度又は主観評価である視聴状態を尋ねる設問に対する第1被験者群の解答と、前記コンテンツの視聴中に計測された前記第1被験者群の生体信号と、前記解答を行っていない第2被験者の生体信号とに基づいて、前記第2被験者の視聴状態を推定する視聴状態推定装置であって、
    前記生体信号の計測チャンネル毎に、前記第1被験者群の生体信号が入力され、入力された前記第1被験者群の生体信号から、第1被験者間の生体信号の類似度を示す生体信号類似度行列を算出する生体信号類似度行列算出手段と、
    前記第1被験者群の解答を要素とする第1視聴状態ベクトルが入力され、入力された前記第1視聴状態ベクトルから、前記第1被験者間の第1視聴状態ベクトルの類似度を示す視聴状態類似度行列を算出する視聴状態類似度行列算出手段と、
    前記生体信号類似度行列の上三角要素又は下三角要素からなる生体信号三角要素ベクトルを生成し、前記視聴状態類似度行列の上三角要素又は下三角要素からなる視聴状態三角要素ベクトルを生成し、前記計測チャンネル毎に、前記生体信号三角要素ベクトル及び前記視聴状態三角要素ベクトルの相関係数を算出する類似度相関係数算出手段と、
    前記計測チャンネル毎の相関係数が予め設定された閾値を超えるか否かを判定し、前記相関係数が前記閾値を超えた計測チャンネルを選択チャンネルとして選択する計測チャンネル選択手段と、
    前記コンテンツの視聴中に計測された前記第2被験者の生体信号が前記計測チャンネル毎に入力され、入力された前記第2被験者の生体信号から、前記計測チャンネルが前記選択チャンネルに一致する前記第2被験者の生体信号を抽出する生体信号抽出手段と、
    前記生体信号抽出手段で抽出された第2被験者の生体信号と、前記第1被験者の生体信号との類似度を示す生体信号類似度ベクトルを算出する生体信号類似度ベクトル算出手段と、
    前記第2被験者の解答を示す第2視聴状態ベクトル及び前記第1視聴状態ベクトルの類似度を示す視聴状態類似度ベクトルと、前記生体信号類似度ベクトルとの相関係数が最大になる第2視聴状態ベクトルを求め、求めた前記第2視聴状態ベクトルを、前記第2被験者の視聴状態として推定する視聴状態推定手段と、
    を備えることを特徴とする視聴状態推定装置。
  2. 前記計測チャンネル選択手段で前記選択チャンネルが複数選択された場合、
    前記生体信号類似度ベクトル算出手段は、前記選択チャンネル毎に前記生体信号類似度ベクトルを算出し、
    前記視聴状態推定手段は、前記選択チャンネル毎に前記生体信号類似度ベクトルと前記視聴状態類似度ベクトルとの相関係数が最大になる第2視聴状態ベクトルを求め、求めた前記選択チャンネル毎の第2視聴状態ベクトルに投票処理を施して、最多得票となる前記第2視聴状態ベクトルを、前記第2被験者の視聴状態として推定することを特徴とする請求項1に記載の視聴状態推定装置。
  3. 前記視聴状態類似度行列算出手段は、前記第1被験者間の第1視聴状態ベクトルの類似度として、前記第1被験者間の前記第1視聴状態ベクトルの内積を算出することを特徴とする請求項1又は請求項2に記載の視聴状態推定装置。
  4. 前記生体信号類似度行列算出手段は、前記第1被験者間の生体信号の類似度として、前記第1被験者間の生体信号のコサイン距離、相関関数又は内積の何れかを算出することを特徴とする請求項1から請求項3の何れか一項に記載の視聴状態推定装置。
  5. 前記生体信号類似度行列算出手段は、前記第1被験者群の生体信号として、前記第1被験者群の脳血中酸素量、脳表の電位、又は、人体の体表温度の何れか1以上が入力され、
    前記生体信号抽出手段は、前記第2被験者の生体信号として、前記第2被験者の脳血中酸素量、脳表の電位、又は、人体の体表温度の何れか1以上が入力されることを特徴とする請求項1から請求項4の何れか一項に記載の視聴状態推定装置。
  6. コンピュータを、請求項1に記載の視聴状態推定装置として機能させるための視聴状態推定プログラム。
JP2013116016A 2013-05-31 2013-05-31 視聴状態推定装置及びそのプログラム Active JP6151573B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013116016A JP6151573B2 (ja) 2013-05-31 2013-05-31 視聴状態推定装置及びそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013116016A JP6151573B2 (ja) 2013-05-31 2013-05-31 視聴状態推定装置及びそのプログラム

Publications (2)

Publication Number Publication Date
JP2014236332A JP2014236332A (ja) 2014-12-15
JP6151573B2 true JP6151573B2 (ja) 2017-06-21

Family

ID=52138752

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013116016A Active JP6151573B2 (ja) 2013-05-31 2013-05-31 視聴状態推定装置及びそのプログラム

Country Status (1)

Country Link
JP (1) JP6151573B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6417232B2 (ja) * 2015-02-09 2018-10-31 日本放送協会 映像評価装置およびそのプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4441345B2 (ja) * 2004-07-08 2010-03-31 パナソニック株式会社 理解度判定装置および方法
JP2009066186A (ja) * 2007-09-13 2009-04-02 Sony Corp 脳活動状態推定方法および情報処理システム
JP2011065504A (ja) * 2009-09-18 2011-03-31 Tokyo Univ Of Science ユーザの選好関係についての予測モデルを生成する選好予測サーバ及びその方法
JP5929020B2 (ja) * 2011-07-04 2016-06-01 株式会社豊田中央研究所 意識状態推定装置及びプログラム

Also Published As

Publication number Publication date
JP2014236332A (ja) 2014-12-15

Similar Documents

Publication Publication Date Title
US8202095B2 (en) Cognitive function index
WO2015064665A1 (ja) 個人特性予測システム、個人特性予測方法及び記録媒体
Eaton et al. Reliability of fMRI for studies of language in post-stroke aphasia subjects
Steenwijk et al. High-resolution T1-relaxation time mapping displays subtle, clinically relevant, gray matter damage in long-standing multiple sclerosis
Huber et al. A lack of experience-dependent plasticity after more than a decade of recovered sight
JP6863563B2 (ja) ストレス評価システム
George et al. Clinical 3-tesla FLAIR* MRI improves diagnostic accuracy in multiple sclerosis
US20180060757A1 (en) Data annotation method and apparatus for enhanced machine learning
US20110230781A1 (en) Apparatus and method for dementia diagnosis through eeg (electroencephalogram) analysis
CN105852797A (zh) 一种基于心电信号的立体显示视觉疲劳检测系统
US20180279935A1 (en) Method and system for detecting frequency domain cardiac information by using pupillary response
JP6433632B1 (ja) コンピュータシステム、被験者診断支援方法及びプログラム
Shakespeare et al. Scene perception in posterior cortical atrophy: categorization, description and fixation patterns
KR101388546B1 (ko) 기능성 자기 공명 영상을 사용한 뇌기능 진단 시스템 및 방법
US11331048B2 (en) Brain connectivity analysis system and brain connectivity analysis method
Dessouky et al. Computer-aided diagnosis system for Alzheimer’s disease using different discrete transform techniques
Mikhailova et al. Eye-movements reveal semantic interference effects during the encoding of naturalistic scenes in long-term memory
JP6151573B2 (ja) 視聴状態推定装置及びそのプログラム
JP5801226B2 (ja) 画像診断支援装置、方法およびプログラム
EP4231311A1 (en) Method and apparatus for providing information needed for dementia diagnosis
Colak et al. Detecting the shape differences of the corpus callosum in Behçet's disease by statistical shape analysis
US10631727B2 (en) Method and system for detecting time domain cardiac parameters by using pupillary response
Ko et al. Electrophysiological distinctions between recognition memory with and withoutawareness
JP6417232B2 (ja) 映像評価装置およびそのプログラム
Gottlieb et al. Effects of modality on the neural correlates of encoding processes supporting recollection and familiarity

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170525

R150 Certificate of patent or registration of utility model

Ref document number: 6151573

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250