JP2008102594A - コンテンツの検索方法及び検索装置 - Google Patents

コンテンツの検索方法及び検索装置 Download PDF

Info

Publication number
JP2008102594A
JP2008102594A JP2006282519A JP2006282519A JP2008102594A JP 2008102594 A JP2008102594 A JP 2008102594A JP 2006282519 A JP2006282519 A JP 2006282519A JP 2006282519 A JP2006282519 A JP 2006282519A JP 2008102594 A JP2008102594 A JP 2008102594A
Authority
JP
Japan
Prior art keywords
brain image
brain
content
query
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006282519A
Other languages
English (en)
Inventor
Takayuki Baba
孝之 馬場
Susumu Endo
進 遠藤
Shuichi Shiitani
秀一 椎谷
Yusuke Uehara
祐介 上原
Shigemi Osada
茂美 長田
Daiki Masumoto
大器 増本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2006282519A priority Critical patent/JP2008102594A/ja
Priority to US11/703,959 priority patent/US7899274B2/en
Publication of JP2008102594A publication Critical patent/JP2008102594A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】検索者が頭に思い描いているコンテンツを検索できるようにする。
【解決手段】人間が知覚可能なコンテンツを検索する検索方法は、検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得ステップと、コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、クエリ脳画像に対応するコンテンツを特定する特定ステップと、クエリ脳画像に対応するコンテンツを出力する出力ステップとを含む。このようにクエリ脳画像を用いることによって、検索者は具体的に図面などのコンテンツを指し示すことなく、想像するだけで該当するコンテンツを抽出することができるようになる。すなわち、より容易に検索することができるようになる。
【選択図】図1

Description

本発明は、図面、映像、画像、3D−CAD(Computer Aided Design)データ、ボリュームデータ、その他(例えば視覚/聴覚/味覚/触覚/臭覚で知覚できるもの)を含むコンテンツを検索する技術に関する。
製造業では競争力のある製品を低コストで開発し早期に市場投入するために、既存製品の図面などの技術資産を有効活用することが求められている。これまで蓄積してきた大量の図面の中から必要な情報を見つけるためには、必要な部品が描かれている図面を効率よく検索する技術が必要となる。そこで単純な方法として、図面に付与した部品名などをキーワードとして入力するテキスト中心の検索が多く用いられてきた。また、最近では、テキストでは表現が難しい部品の形状を使った検索を実現するために、図面に描かれた部品の形状情報を用いた類似形状検索なども用いられつつある。
一方、以下のような研究が報告されている。すなわち、被験者にじゃんけんの動作をさせ、MRI装置で脳活動に伴う血流の変化を一秒ごとに計測、その画像データから脳活動の運動指令に関与する部分だけを抽出してコンピュータで解析し、じゃんけんのどの動作をしているのかを解読する。その結果をロボットハンドに送り、被験者と同じ動作をさせる。但し、具体的に存在するコンテンツを検索するものではない。
馬場,劉汝傑,遠藤,椎谷,上原,増本,長田:機械系組立図面からの形状に基づく部品検索手法の提案, 電子情報通信学会技術研究報告書, PRMU2004-225, pp.79-84(2005). 劉汝傑,馬場,増本:Attributed Graph Matching based Engineering Drawings Retrieval, Proc. of IAPR Workshop on Document Analysis Systems(DAS04), pp.378-388, September (2004). 劉汝傑,馬場,増本:Component Parts Extraction from Assembly Drawings for Content based Retrieval, Proc. of The IEE International Conference on Visual Information Engineering: Convergence in Graphics and Vision(VIE2005), pp.45-50, April (2005) 馬場,劉汝傑(FRDC),遠藤,椎谷,上原,増本,長田:Similarity-based Partial Image Retrieval System for Engineering Drawings, Proc. of Seventh IEEE International Symposium on Multimedia (ISM2005), pp.303-309, December 14, (2005). 「ATRとHonda、脳でロボットを操作する基礎技術の開発に成功」[Online]2006年5月24日、[2006年9月21日検索]インターネット<URL:http://www.honda.co.jp/news/2006/c060524a.html> Yukiyasu Kamitani, Frank Tong, "Decoding the visual and subjective contents of the human brain", NATURE NEUROSCIENCE, VOLUME 8, NUMBER 5, MAY 2005
しかし、従来の類似形状検索技術では、図面から抽出する形状情報は、システム開発者により予め決められた形状特徴量を用いており、検索者が指定するクエリ図面によっては、検索者が意図したものに近い結果が得られない場合がある。これは、検索に用いる形状特徴量の抽出方法を予め決めておく必要があるが、検索者の意図に沿うような適切な形状特徴量を必ず抽出できるとは限らないためである。
また、クエリ図面を用意する必要があるが、手元に適当なクエリ図面がない場合も多い。そのような場合には、スケッチ入力などによって自分が探したい部品を描画することも考えられるが、検索者が頭に思い描いている部品を「思い通りに」スケッチとして描画するのは難しいことが多い。
従って、本発明の目的は、コンテンツを検索する新規な技術を提供することである。
また、本発明の他の目的は、検索者が頭に思い描いているコンテンツを検索することができるようにするための新規な技術を提供することである。
さらに、本発明の他の目的は、検索者がより容易にコンテンツを検索することができるようにするための新規な技術を提供することである。
本発明の第1の態様に係る、人間が知覚可能なコンテンツを検索する検索方法は、検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得ステップと、コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、クエリ脳画像に対応するコンテンツを特定する特定ステップと、クエリ脳画像に対応するコンテンツを出力する出力ステップとを含む。
このようにクエリ脳画像を用いることによって、検索者は具体的に図面などのコンテンツを指し示すことなく、想像するだけで該当するコンテンツを抽出することができるようになる。すなわち、より容易に検索することができるようになる。
また、上で述べた構造が、コンテンツを知覚した際における脳の活動状態を表すDB脳画像を当該コンテンツに対応して格納するデータベースであってもよい。その場合、上で述べた特定ステップが、データベースをクエリ脳画像で検索し、当該クエリ脳画像と所定の類似性を有するDB脳画像を特定するステップと、特定されたDB脳画像に対応するコンテンツをデータベースから特定するステップとを含むようにしてもよい。このように、予めコンテンツに対応してDB脳画像を用意することによって、DB脳画像とクエリ脳画像との画像としての類似性を特定できるようになる。
さらに、上で述べた所定の類似性が、DB脳画像の画素の濃度とクエリ脳画像の対応画素の濃度との差、又はクエリ脳画像の一部の画素の濃度とDB脳画像の対応画素の濃度との差に基づき決定される場合もある。
さらに、上で述べた所定の類似性が、DB脳画像についての特徴量とクエリ脳画像についての特徴量との距離に基づき決定される場合もある。
また、上で述べたデータベースに、DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDが登録されるようにしてもよい。その場合、上で述べた特定ステップが、データベースにおいて検索者のユーザIDでDB脳画像を絞り込むステップを含むようにしてもよい。検索者が異なる場合には脳画像が異なる場合もあるためである。
さらに、上で述べた特定ステップが、絞り込まれたDB脳画像から所定の類似性を有するDB脳画像を抽出できない場合、検索者のユーザIDとは無関係に又は検索者のユーザID以外のユーザIDを用いてデータベースを検索するステップをさらに含むようにしてもよい。
また、データベースに、DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDを登録するようにしてもよい。さらに、DB脳画像を、ユーザID単位でクラスタリングしてもよい。また、各クラスタが、テスト・コンテンツを知覚した際における該当ユーザの脳の活動状態を表すテスト登録脳画像を含むようにしてもよい。そして、その場合、テスト・コンテンツを知覚した際における検索者の脳の活動状態を表すテスト脳画像を取得するステップと、テスト脳画像とデータベースに格納されている各クラスタのテスト登録脳画像とを比較して、テスト脳画像が属するクラスタを特定するステップとをさらに含むようにしてもよい。さらに、その場合、上で述べた特定ステップが、データベースにおいてテスト脳画像が属するクラスタでDB脳画像を絞り込むステップを含ようにしてもよい。脳画像に所定の傾向が存在する場合には、このようなクラスタを導入することで、より適切なコンテンツを抽出することができるようになる。
また、データベースに、クエリ脳画像を当該クエリ脳画像に対する検索結果として特定されたコンテンツに対応付けて登録するステップをさらに含むようにしてもよい。また、データベースに、テスト脳画像をテスト・コンテンツに対応付けて登録するステップをさらに含むようにしてもよい。クエリ脳画像又はテスト脳画像を再利用するためである。
さらに、上で述べたコンテンツが単一の図面である場合もある。その場合、本発明の第1の態様に係る検索方法が、コンテンツである特定の図面及び当該特定の図面を含む図面の組み合わせを管理するデータ構造によって、特定ステップで特定されたコンテンツである図面を含む前記図面の組み合わせを特定するステップをさらに含むようにしてもよい。そして、上で述べた出力ステップが、特定ステップで特定された上記図面にマークを付して、特定された上記図面の組み合わせを出力するステップを含むようにしてもよい。複数の図面がまとまっている場合に、該当する部分を検索者に提示することができるようになる。
さらに、上で述べた特定ステップが、クエリ脳画像と所定の類似性を有するDB脳画像を、当該DB脳画像の類似度に基づき降順にソートするステップをさらに含むようにしてもよい。また、上で述べた出力ステップが、ソートの順番で、クエリ脳画像に対応するコンテンツを出力するステップを含むようにしてもよい。さらに、本発明の第1の態様に係る検索方法が、検索者が指示したタイミング又は任意のタイミングで、検索者の第2のクエリ脳画像を取得するステップと、特定ステップと出力ステップとを、第2のクエリ脳画像について実施するステップとを含むようにしてもよい。このようにすれば、頭に思い描いているコンテンツにより近いコンテンツを絞り込むことができるようになる。
また、上で述べた取得ステップが、コンテンツの特徴量を入力データとし且つ当該コンテンツを知覚した際における脳の活動を表す脳画像を出力データとして学習したニューラルネットワークに、検索対象のコンテンツの特徴量を入力して、対応する脳画像を取得するステップを含むようにしてもよい。検索対象のコンテンツや類似するコンテンツを保持している場合に簡便に検索を行うことができるようになる。
また、上で述べた構造が、脳画像を入力データとし且つ当該脳画像に対応するコンテンツを出力データとして学習したニューラルネットワークである場合もある。
本発明の第2の態様に係る、人間が知覚可能なコンテンツを検索する検索装置は、検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得手段と、コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、クエリ脳画像に対応するコンテンツを特定する特定手段と、クエリ脳画像に対応するコンテンツを出力する出力手段とを有する。
また、上で述べた構造が、コンテンツを知覚した際における脳の活動状態を表すDB脳画像を当該コンテンツに対応して格納するデータベースである場合もある。その際、上で述べた特定手段は、データベースをクエリ脳画像で検索し、当該クエリ脳画像と所定の類似性を有するDB脳画像を特定し、特定されたDB脳画像に対応するコンテンツをデータベースから特定することもある。
さらに、データベースに、DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDを登録する場合もある。そして、DB脳画像が、ユーザID単位でクラスタリングされている場合もある。さらに、各クラスタが、テスト・コンテンツを知覚した際における該当ユーザの脳の活動状態を表すテスト登録脳画像を含む場合もある。その場合、本発明の第2の態様に係る検索装置は、データベースを検索して最も多くのユーザがDB脳画像を登録しているコンテンツ又は予め定められたコンテンツをテスト・コンテンツとして特定する手段をさらに有する場合もある。さらに、上で述べた取得手段が、テスト・コンテンツを知覚した際における検索者の脳の活動状態を表すテスト脳画像を取得し、上で述べた特定手段が、テスト脳画像とデータベースに格納されている各クラスタのテスト登録脳画像とを比較して、テスト脳画像が属するクラスタを特定し、データベースにおいてテスト脳画像が属するクラスタでDB脳画像を絞り込む場合もある。クラスタリングを適切に行って、正確な検索を行うためである。
さらに、所定の基準以上の類似性を有する複数のコンテンツを検出した場合、当該複数のコンテンツに1の脳画像を対応付けてデータベースに登録する手段をさらに有するようにしてもよい。このようにすれば、極めて類似する図面などに対しては1回脳画像を計測すればよいので、データ蓄積の際の手間を削減することができる。
さらに、本発明の第2の態様に係る検索装置は、コンテンツの特徴量に基づき対応するDB脳画像を配置してユーザに提示する手段と、DB脳画像の配置と同様の配置でコンテンツを前記ユーザに提示する手段と、ユーザにより特定されたコンテンツとDB脳画像との対応関係をデータベースに登録する手段とをさらに有するようにしてもよい。
同様に、DB脳画像の特徴量に基づき当該DB脳画像を配置してユーザに提示する手段と、DB脳画像の配置と同様の配置で、対応するコンテンツをユーザに提示する手段と、ユーザにより特定されたコンテンツとDB脳画像との対応関係をデータベースに登録する手段とをさらに有するようにしてもよい。このように新たなデータをデータベースに登録して検索に役立てることができるようになる。
本発明にかかる検索方法をコンピュータに実行させるためのプログラムや検索システムをコンピュータに実施させるためのプログラムを作成することができ、当該プログラムは、例えばフレキシブル・ディスク、CD−ROM、光磁気ディスク、半導体メモリ、ハードディスク等の記憶媒体又は記憶装置に格納される。また、ネットワークを介してディジタル信号にて頒布される場合もある。なお、処理途中のデータについては、コンピュータのメモリ等の記憶装置に一時保管される。
本発明によれば、コンテンツを検索する新規な技術を利用できるようになる。
また、本発明の他の側面によれば、検索者が頭に思い描いているコンテンツを検索することができるようになる。
さらに、本発明の他の側面によれば、検索者がより容易にコンテンツを検索することができるようになる。
[本発明の実施の形態の概要]
まず、本発明の実施の形態の概要を説明する。本実施の形態では、fMRI(functional Magnetic Resonance Imaging(機能的磁気共鳴画像))や光トポグラフィーなどの脳の活動領域を計測する装置で計測した、検索者の脳画像(例えば2次元画像、3次元画像、時系列画像など)の類似性を利用して、人間が知覚可能なコンテンツを検索する検索装置を構成する。 これにより、例えば、わざわざスケッチして、思い描いているクエリ図面などを生成せずに、検索者がクエリ図面を想像したときの脳画像を用いて図面を検索することが可能となる。以下、図面を検索する例をもって説明する。
本実施の形態では、事前処理として、図1右側に示すように、図面データベース(DB)内の登録図面それぞれを検索者が視認したときの脳画像(DB脳画像と呼ぶ)を計測して脳画像DBに登録図面を対応付けて登録しておく。そして、検索実行時には、図1左側に示すように、検索者Aがクエリ図面を視認した時、又はクエリ図面を視認せずに想像した時の脳画像(クエリ脳画像と呼ぶ)を計測してクエリとして検索装置に入力し、クエリ脳画像とDB脳画像それぞれとの類似度を算出し、クエリ脳画像と所定の類似性を有するDB脳画像を特定し、そのDB脳画像に対応する図面を出力するものである。
[実施の形態1]
本発明の実施の形態に係る検索装置を図2に示す。検索装置は、コンテンツの一例として図面を格納する図面DB1と、図面と当該図面を視認した際に計測され且つ脳の活動状態を表す脳画像とを対応付ける処理を実施する脳画像管理部3と、脳画像及び図面との関連付けデータを格納する脳画像DB5と、クエリのためのクエリ脳画像又は登録図面に対応するDB脳画像を取得する脳画像入力部7と、脳画像入力部7によって取得された脳画像を格納する脳画像格納部8と、脳画像格納部8に格納されたクエリ脳画像で脳画像DB5の検索を行い、図面DB1から該当図面データを抽出する検索処理部9と、検索処理部9の検索結果を格納する検索結果格納部11と、検索結果格納部11に格納された検索結果を検索者に出力し、検索者からの選択指示を受け付ける入出力部13とを有する。
脳画像入力部7は、図面DB1又は脳画像DB5を参照して、テスト図面などを特定し、ユーザに提示する処理も行う。また、入出力部13は、クエリ脳画像を脳画像DB5に検索者によって選択された図面と対応付けて登録するために、検索者の図面の選択指示データを脳画像管理部3に出力し、クエリ脳画像を脳画像DB5に登録させる指示を検索処理部9に出力する。
脳画像DB5は、脳画像そのものだけではなく、例えば図3のようなデータを保持する。すなわち、脳画像IDと登録図面IDとの対応関係を登録するためのテーブルである。このようなデータを保持することによって、DB脳画像から対応する図面を特定することができるようになる。脳画像管理部3は、DB脳画像登録時に、図面DB1内のいずれの図面を出力したかを特定し、それに対応して入力されたDB脳画像の脳画像IDを対応付けて、脳画像DB5に登録する。
次に、図4を用いて図2に示した検索装置の処理フローを説明する。まず、脳画像入力部7は、検索者が検索対象の図面を視認した時又は検索対象の図面を想像した時の脳活動を表すクエリ脳画像を取得し、脳画像格納部8に格納する(ステップS1)。クエリ脳画像は、脳画像全体を用いるようにしても良いし、予め特定されている活動が活発な領域のみを用いるようにしても良い。脳画像の一部を用いる場合には、DB脳画像についても同様に対応する一部のみを用いることになる。
次に、検索処理部9は、脳画像DB5内の未処理のDB脳画像を1つ特定する(ステップS3)。そして、検索処理部9は、クエリ脳画像とステップS3で特定されたDB脳画像との類似度を計算し、例えばメインメモリなどの記憶装置に格納する(ステップS5)。ステップS5では、例えば、クエリ脳画像の画素の濃度と、DB脳画像の対応画素の濃度との差を算出し、当該差の絶対値の総和を類似度として算出するようにしても良い。この場合、差の絶対値の総和が小さいほど類似度が高いこととなる。なお、クエリ脳画像及びDB脳画像の両方でその一部についてのみ画素濃度の差を算出するようにしても良い。
また、クエリ脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、DB脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、これらの特徴量ベクトル間の距離を類似度として算出するようにしてもよい。この場合も、距離が小さいほど類似度が高いと判断される。なお、画像特徴量については、例えば上で述べた非特許文献1に記載している技術を用いればよい。
そして、検索処理部9は、脳画像DB5内の全てのDB脳画像について処理したか判断する(ステップS7)。未処理のDB脳画像が存在する場合にはステップS3に戻る。一方、脳画像DB5内の全てのDB脳画像について処理した場合には、図3に示したようなデータ構造によってDB脳画像に対応する図面を、DB脳画像の類似度の降順にソートする(ステップS9)。図面のデータは図面DB1から取得され、ソート結果(例えば図6のようなデータ)と共に検索結果格納部11に格納される。なお、全ての図面データを図面DB1から取得するのではなく、上位所定数取得すればよい。
入出力部13は、検索結果格納部11に格納されたソート結果に基づき、図面をソート順で出力する(ステップS11)。例えば、「次へ」ボタンと「選択」ボタンを表示する。そして、検索者は、該当しない図面が表示された場合には「次へ」ボタンをクリックする。入出力部13は、「次へ」ボタンがクリックされると、次の順番の図面を表示するようにする。検索者は、自ら視認した図面又は想像した図面が出力されると、「選択」ボタンをクリックする。入出力部13は、当該図面の選択に応じて、当該図面の図面IDを脳画像管理部3に出力する。また、入出力部13は、脳画像格納部8に格納したクエリ画像を脳画像DB5に登録するように検索処理部9に指示し、検索処理部9は、当該指示に応じて、クエリ脳画像を脳画像DB5に登録する。また、脳画像管理部3は、図面IDとクエリ脳画像のIDとを対応付けて例えば図3のようなテーブルに登録する(ステップS13)。このようにすれば、後の検索の際にクエリ脳画像がDB脳画像として用いられることになり、有用である。
以上のような処理を行うことによって、具体的に図面を自ら描くことなく、念頭にある図面を抽出することができるようになる。
[実施の形態2]
第1の実施の形態では、DB脳画像の絞り込みは具体的には示していない。第2の実施の形態では、検索者によって脳画像が若干異なる場合も考えられるため、DB脳画像に対応して当該DB脳画像を計測したユーザのユーザIDをも登録しておく。例えば、図5に示すようなデータを脳画像DB5に登録しておく。すなわち、DB脳画像が測定されたユーザのユーザIDと、当該DB脳画像の脳画像IDと、当該DB脳画像に対応する図面の登録図面IDとが登録されるテーブルである。脳画像管理部3は、脳画像入力部7などから測定を実施するユーザのユーザIDを取得し、DB脳画像の脳画像IDとその際の図面の登録図面IDとを対応付けて登録する。
そして、ユーザIDがAである検索者Aのクエリ脳画像については、まずユーザIDとして「A」が登録されているDB脳画像に比較対象を絞る。図7の例では、上段の点線で囲まれた部分に比較対象を限定する。比較対象の限定は、例えば図4のステップS3で、未処理且つ該当ユーザIDのDB脳画像を特定するようにすればよい。但し、ユーザIDとして「A」が登録されているDB脳画像だけでは、所定の類似度を超えるDB脳画像が存在しない場合には、他のユーザID、例えばユーザIDとして「B」が登録されているDB脳画像をも比較の対象とする。同一ユーザIDが登録されたDB脳画像だけでは、図面の種類に限界がある場合があるためである。
このようにすれば、検索者の傾向に合わせて比較を行うので、より正確な検索結果を得ることができるようになる。
[実施の形態3]
第2の実施の形態では、ユーザIDの異同で検索対象を絞り込んでいたが、脳画像が同じ傾向を有するユーザも存在するので、ユーザIDではなく、脳画像の類似性でクラスタリングするようにしても良い。
例えば、脳画像管理部3は、図8に示すようなK−means法などを用いて脳画像をクラスタリングして、脳画像DB5で管理する。すなわち、K個の初期的なクラスタ中心(クラスタ中心に相当するDB脳画像。但し、以下の処理では画素数分の次元を有するベクトルデータとして取り扱う)を特定する(ステップS21)。Kは予め設定され、初期的なクラスタ中心は、どのようにして選んでも良い。そして、全てのDB脳画像をK個のクラスタ中心と比較して類似度を算出し、最も近いクラスタ中心のクラスタに仮に分類する(ステップS23)。本ステップの処理対象となるDB脳画像は、予め定められたテスト図面又は最も多くのユーザが図面DB脳画像を登録している1つの図面に対応するDB脳画像である。その後、各クラスタの重心を算出し、新たなクラスタ中心に設定する(ステップS25)。
そして、クラスタ中心のいずれかが所定の基準以上移動したか判断する(ステップS27)。クラスタ中心のいずれかが移動した場合にはステップS23に戻る。一方、クラスタ中心のいずれもが移動していない場合には、DB脳画像のクラスタを脳画像DB5に登録する(ステップS29)。ステップS23の処理対象とされたDB脳画像には、そのままステップS23の分類に従ってクラスタが登録され、ステップS23の処理対象以外のDB脳画像には、ユーザIDに基づきクラスタが登録される。すなわち、クラスタaが登録されたDB脳画像のユーザIDがAであれば、ユーザIDがAのDB脳画像は同じようにクラスタaが登録される。ステップS29では、例えば図9に示すようなデータが脳画像DB5に登録される。すなわち、ユーザIDと、脳画像IDと、登録図面IDと、クラスタIDとが対応付けて登録されている。
このようなデータが脳画像DB5で管理される状態を図10に模式的に示す。図10の例では、クラスタaとクラスタbとの2つのクラスタが存在しており、クラスタaにはユーザIDがAとBのユーザが分類されており、クラスタbにはユーザIDがCとDのユーザが分類されており、テスト図面以外の登録図面に対応するDB脳画像については同じクラスタに分類される。
上ではK−means法をクラスタリングの手法として述べたが、本実施の形態では他の方法を用いてクラスタリングを行うようにしても良い。
このようなデータが脳画像DB5で管理される場合、図4におけるステップS3で比較対象となるDB脳画像は、図11に示すように絞り込まれる。すなわち、脳画像入力部7は、例えばテスト図面を検索者に提示して視認させ、当該テスト図面に対応する脳画像を取得し、脳画像格納部8に格納する(ステップS31)。テスト図面ではなく、脳画像入力部7が、脳画像DB5を検索して、最も多くのユーザが脳画像を登録している図面の図面IDを特定し、当該図面IDに基づき図面DB1からテスト図面として用いる図面を検索者に提示するようにしても良い。
次に、検索処理部9は、取得された脳画像と、各クラスタにおけるテスト図面に対応するDB脳画像とを比較する(ステップS33)。すなわち、取得された脳画像と、各クラスタにおける代表的なDB脳画像との類似度を算出し、例えばメインメモリなどの記憶装置に格納する。類似度の算出は上で述べたものと同様である。そして、類似度が最も高いクラスタを特定し、当該クラスタ内のDB脳画像に処理対象を限定する(ステップS35)。すなわち、例えば図9に示すようなテーブルにおいては、クラスタIDとして、類似度が最も高いクラスタのIDが登録されているDB脳画像についてのみステップS5以降の処理を実施するものとする。
なお、クラスタリングは、所定の周期で又は任意のタイミングで再度実行することによって、クラスタリングを動的に変化させ、好ましいクラスタを維持管理できるようになる。
このようにすれば、処理対象を同様の傾向を有するユーザのDB脳画像に絞り込むことができ、高速に、好ましい検索結果を得ることができるようになる。
[実施の形態4]
図12右上に示すように、図面DB1には、複数の部品が描かれた複数部品図面が登録されている場合がある。そのような場合には、例えば部品単位に図面を自動分割する手法(例えば非特許文献1記載の技術)を実装した図面分割部21によって、部品単位に図面を分割しておく。分割後の図面を単品図面と呼ぶ。脳画像DB5においては、単品図面に対応してDB脳画像を格納して、管理する。但し、図面DB1においては、図13に示すように、複数部品図面と単品図面との関係を管理しておく必要がある。すなわち、複数部品図面IDと単品図面IDとを対応付けて管理する必要がある。
そして図14に示すような処理を行う。まず、脳画像入力部7は、検索者が検索対象の図面を視認した時又は検索対象の図面を想像した時の脳活動を表すクエリ脳画像を取得し、脳画像格納部8に格納する(ステップS41)。クエリ脳画像は、脳画像全体を用いるようにしても良いし、予め特定されている活動が活発な領域のみを用いるようにしても良い。図12では、例えば左上の部分から(1)の矢印で示すように、クエリ脳画像が取得される。
次に、検索処理部9は、脳画像DB5内の未処理のDB脳画像を1つ特定する(ステップS43)。そして、検索処理部9は、クエリ脳画像とステップS43で特定されたDB脳画像との類似度を計算し、例えばメインメモリなどの記憶装置に格納する(ステップS45)。ステップS45では、例えば、クエリ脳画像の画素の濃度と、DB脳画像の対応画素の濃度との差を算出し、当該差の絶対値の総和を類似度として算出するようにしても良い。なお、クエリ脳画像及びDB脳画像の両方でその一部についてのみ画素濃度の差を算出するようにしても良い。
また、クエリ脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、DB脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、これらの特徴量ベクトル間の距離を類似度として算出するようにしてもよい。
そして、検索処理部9は、脳画像DB5内の全てのDB脳画像について処理したか判断する(ステップS47)。未処理のDB脳画像が存在する場合にはステップS43に戻る。一方、脳画像DB5内の全てのDB脳画像について処理した場合には、DB脳画像をその類似度で降順にソートする(ステップS49)。例えば、DB脳画像の脳画像IDを類似度で降順に並べる。その後、類似度最高の脳画像に対応する図面(単品図面)を特定し(ステップS51)、図面DB1から抽出して検索結果格納部11に格納する。さらに図13に示したようなデータ構造から、ステップS51で特定された単品図面を含む複数部品図面を特定し、図面DB1から抽出して検索結果格納部11に格納する。そして、入出力部13は、検索結果格納部11に格納されている複数部品図面を、特定された単品図面の部分にマークを付してユーザに出力する(ステップS53)。図12の例では、(2)の矢印の先に示すように、複数部品図面31がユーザに提示される。この複数部品図面31内においてステップS51で特定された単品図面の部分にはマーク41が付される。
ここで検索者は、提示された複数部品図面31及びマーク41を参照して、目的とする図面が提示されているか判断する。目的とする図面が提示されていないという場合には、クエリ脳画像の再入力を脳画像入力部7に指示する。脳画像入力部7は、クエリ脳画像の再入力指示を受け付け(ステップS55:Noルート)、出力(すなわち提示内容)を見た後に再度検索対象の図面を想像した場合におけるクエリ脳画像を取得して脳画像格納部8に格納する(ステップS57)。図12では、マーク41が付される複数部品図面31を参照して再度クエリ脳画像の計測が行われる場面が、左下に示されており、矢印(3)で当該クエリ脳画像が入力される。そして処理は、ステップS43に戻る。このようにすれば、より具体的な図形を想像することができ、より好ましいクエリ脳画像が計測されるようになり、正しい図面が抽出されるようになる。図12においては、矢印(4)で示すように、再度検索が実施される。
一方、目的とする図面が提示されていると判断された場合には、検索者は、選択指示を入出力部13に行う。入出力部13は、検索者から選択指示を受け付けると(ステップS55:Yesルート)、クエリ脳画像を脳画像DB5に登録すると共に、当該クエリ脳画像が入力の脳画像IDと対応する図面(単品図面)の図面IDとを図3のデータ構造に登録する(ステップS59)。図12においては、矢印(5)で示すように、クエリ脳画像が入力が脳画像DB5に登録され、再利用されるようになる。
このように複数部品図面であっても、検索者に必要な図面を抽出して提示することができるようになる。
なお、ステップS57で再度クエリ脳画像を取得する処理例を示したが、例えば特定された単品図面の類似形状を図面DB1において検索して、検索者に提示するようにしても良い。
[実施の形態5]
検索処理は様々に変形することができ、例えば図15に示すような検索処理であってもよい。
まず、入出力部13は、カウンタiを1に初期化する(ステップS61)。そして、脳画像入力部7は、検索者が検索対象の図面を視認した時又は検索対象の図面を想像した時の脳活動を表すクエリ脳画像を取得し、脳画像格納部8に格納する(ステップS63)。クエリ脳画像は、脳画像全体を用いるようにしても良いし、予め特定されている活動が活発な領域のみを用いるようにしても良い。脳画像の一部を用いる場合には、DB脳画像についても同様に一部のみを用いることになる。
次に、検索処理部9は、脳画像DB5内の未処理のDB脳画像を1つ特定する(ステップS65)。そして、検索処理部9は、クエリ脳画像とステップS65で特定されたDB脳画像との類似度を計算し、例えばメインメモリなどの記憶装置に格納する(ステップS67)。ステップS67では、例えば、クエリ脳画像の画素の濃度と、DB脳画像の対応画素の濃度との差を算出し、当該差の絶対値の総和を類似度として算出するようにしても良い。なお、クエリ脳画像及びDB脳画像の両方でその一部についてのみ画素濃度の差を算出するようにしても良い。
また、クエリ脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、DB脳画像から色又は形状などの画像特徴量を抽出し、当該画像特徴量から特徴量ベクトルを生成し、これらの特徴量ベクトル間の距離を類似度として算出するようにしてもよい。
そして、検索処理部9は、脳画像DB5内の全てのDB脳画像について処理したか判断する(ステップS69)。未処理のDB脳画像が存在する場合にはステップS65に戻る。一方、脳画像DB5内の全てのDB脳画像について処理した場合には、図3に示したようなデータ構造によってDB脳画像に対応する図面を、DB脳画像の類似度の降順にソートする(ステップS71)。図面のデータは図面DB1から取得され、ソート結果(例えば図6のようなデータ)と共に検索結果格納部11に格納される。なお、全ての図面データを図面DB1から取得するのではなく、上位所定数取得すればよい。
入出力部13は、検索結果格納部11に格納されたソート結果に基づき、i番目の類似度のDB脳画像に対応する図面を検索者に提示する(ステップS73)。例えば、「スキップ」ボタンと「選択」ボタンと「再検索」ボタンとを表示する。そして、検索者は、該当しない図面が表示された場合には「スキップ」ボタンをクリックする。入出力部13は、「スキップ」ボタンがクリックされると、当該スキップ指示を受け付け(ステップS75:Yesルート)、iが最大値であるか判断し(ステップS81)、iが最大値であればステップS79に移行する。一方、iが最大値でなければiを1インクリメントして(ステップS83)、ステップS73に戻る。
一方、「スキップ」ボタンでなく(ステップS75:Noルート)、「再検索」ボタンがクリックされると、脳画像入力部7は、当該再検索指示を受け付け(ステップS77:Yesルート)、提示内容を見た後に再度検索対象の図面を想像した場合におけるクエリ脳画像を取得して脳画像格納部8に格納する(ステップS79)。そして、入出力部13は、カウンタiを1に初期化し(ステップS80)、ステップS65に戻る。
また、検索者は、自ら視認した図面又は想像した図面が出力されると、「選択」ボタンをクリックする。入出力部132は、当該図面の選択指示を受け付け(ステップS77:Noルート)、当該図面の図面IDを脳画像管理部3に出力する。また、入出力部13は、脳画像格納部8に格納したクエリ画像を脳画像DB5に登録するように検索処理部9に指示し、検索処理部9は、当該指示に応じて、クエリ脳画像を脳画像DB5に登録する。また、脳画像管理部3は、図面IDとクエリ脳画像のIDとを対応付けて例えば図3のようなテーブルに登録する(ステップS85)。このようにすれば、後の検索の際にクエリ脳画像がDB脳画像として用いられることになり有用である。
以上のような処理を行うことによって、クエリ脳画像を徐々に検索者のイメージに合わせてゆくことができるようになる。
[実施の形態6]
例えば以下のような処理を行うことによって、図面と脳画像との関係を抽出して、新たなデータとして脳画像DB5に登録することができる。
脳画像管理部3は、図面DB1の各図面から色や形状などの画像特徴量(例えば非特許文献1で述べている画像特徴量)を抽出し、当該画像特徴量を入力データとしてSOM(Self Organization Map)を用いて、二次元平面上に画像特徴量が類似した図面に対応するDB脳画像が近くに集まるように配置し、ユーザに提示する(図16:ステップS91)。例えば、図17(a)に示すように、脳画像DB5に格納されているDB脳画像を二次元的に配置する。図17(a)の例では枠51内のDB脳画像はほぼ同じになっている。ステップS91は、例えば図面の画像特徴量を入力データとしてSOMを適用したが、DB脳画像の画像特徴量を入力データとしてSOMを適用し、DB脳画像を二次元的に配置するようにしても良い。なお、SOMを用いた配置方法については、例えば、上原,遠藤,椎谷,増本,長田:仮想空間での情報構造表現に基づく画像群からの知識発見支援システム, 人工知能学会研究会資料, SIG-FAI/KBS-J-40, pp.243-250(2001)に開示されており、本実施の形態の主要部ではないので、これ以上説明しない。
ユーザは、提示内容から例えば枠51内のDB脳画像を選択する。そうすると、脳画像管理部3は、DB脳画像の選択を受け付け(ステップS93)、例えば図3のようなデータ構造から、選択されたDB脳画像に対応する図面を特定し、DB脳画像と同様に配置してユーザに提示する(ステップS95)。例えば図17(b)のような表示を行う。図17(b)では、枠51内のDB脳画像だけではなく周辺のDB脳画像に対応する図面も同様の配置で提示される例を示している。図17(b)の枠52は、図17(a)の枠51に対応するものであり、ほぼ同じ三角形の図面が配置されている。なお、図17(a)と(b)については画面を切り替えても良いが、同時に並列配置することが好ましい。さらに、別ウインドウで提示するようにしても良い。
ユーザは図17(b)のような提示内容を参照して、DB脳画像と図面との間に共通のルールが存在しないかを判断する。図17(b)の例では、類似するDB脳画像に対応して類似する三角形の図面が捉えられるので、例えば図17(c)に示すような関係を特定し、例えばDB脳画像と図面とを選択して脳画像管理部3に入力する。
脳画像管理部3は、DB脳画像と図面との関係付けの入力を受け付け、例えば図3のようなデータ構造に、DB脳画像IDと図面IDとを登録する(ステップS97)。
このようにすることで新たな関係を脳画像DBに登録することができるようになる。
[実施の形態7]
脳画像の計測負荷を緩和するため、類似度が極度に高い図面が複数存在する場合には、代表図面のみをユーザに視認させ、その脳画像を他の類似図面にも付与するようにしてもよい。例えば、脳画像管理部3は、各図面の画像特徴量(例えば非特許文献1における特徴量)を算出しておき、図面DB1に登録しておく。そして、脳画像入力部7は、算出した画像特徴量間の距離が予め指定しておいた閾値未満の場合には類似度が高いとみなし、その中のいずれかの図面だけをユーザに提示してその際の脳画像を計測し、脳画像管理部3に出力する。脳画像管理部3は、今回測定した脳画像のデータを脳画像DB5に登録すると共に、ユーザに提示した図面の図面IDと今回計測した脳画像の脳画像IDとを図3のようなデータ構造に登録する。さらに、画像特徴量間の距離が予め指定しておいた閾値未満の図面にも同一の脳画像IDを対応付けて、図3のようなデータ構造に登録する。
脳画像の計測負荷が軽減され、より多くの図面に脳画像が対応付けられる。
[実施の形態8]
クエリ脳画像を計測するには、例えばfMRIの測定装置が必要となる。従って、必ずしもクエリ脳画像を容易に取得できない場合もある。そのような場合のために、脳画像入力部7の代わりに、ニューラルネットワークを用いるようにしても良い。ニューラルネットワークについては周知であるから詳細には述べない。
本実施の形態の場合、図18(a)に示すように、学習フェーズでは、登録図面の画像特徴量(例えば非特許文献1における画像特徴量)を入力データとして対応する脳画像を出力データとする学習を行う。そして、検索時には予測フェーズとしては、図18(b)に示すように、検索者はクエリ図面(検索対象図面又はそれに近い図面)を用意して、当該クエリ図面の画像特徴量を算出し、ニューラルネットワークに入力する。そうすると、ニューラルネットワークからクエリ脳画像が出力され、脳画像格納部8に格納される。以降は、上で述べたのと同様の処理を実施すれば、図面が抽出される。
[実施の形態9]
また、検索処理部9及び脳画像DB5の代わりにニューラルネットワークを用いることも可能である。すなわち、図19(a)に示すように、学習フェーズでは脳画像を入力とし、対応する登録図面を出力として学習を行う。そして、検索時には予測フェーズとして、図19(b)に示すように、クエリ脳画像を入力すれば、ニューラルネットワークから対応する図面が出力される。
このようにすればニューラルネットワークによって同様の機能を実現することができるようになる。
以上のような検索装置を用いることによって、従来は「検索者がクエリとして意図した内容を、どのようにしてクエリ図面として具現化して効率的に入力すべきか」という入力手段の検討が必要であったが、検索者が想像すれば脳画像を計測可能であるため、クエリ図面を予め用意する必要が無くなるという効果がある。
また、従来の類似形状検索技術では、図面検索に利用する形状特徴量をシステム開発者が予め決めておく必要があり、形状特徴量の類似性により図面検索を実行していた。一方、本実施の形態では、検索者が図面を視認したときに計測した脳画像の類似性を用いて、図面検索を実行するため、形状特徴量を予め決めておく必要がなく、検索者が意図する類似性を検索結果に加味しやすいという副次的な利点もある。
以上本発明の実施の形態を説明したが、本発明はこれに限定されるものではない。例えば、図2に示した機能ブロック図は一例であって、実際のモジュール構成は異なる場合もある。さらに、処理フローについても並列実行できる部分や順番を入れ替えることができる部分も存在する。その他主要部でない部分については様々な変形が可能である。
なお、本実施の形態における検索装置は、コンピュータ装置であって、図20に示すように、メモリ2501とCPU2503とハードディスク・ドライブ(HDD)2505と表示装置2509に接続される表示制御部2507とリムーバブル・ディスク2511用のドライブ装置2513と入力装置2515とネットワークに接続するための通信制御部2517とがバス2519で接続されている。オペレーティング・システム(OS:Operating System)及び本実施例における処理を実施するためのアプリケーション・プログラムは、HDD2505に格納されており、CPU2503により実行される際にはHDD2505からメモリ2501に読み出される。必要に応じてCPU2503は、表示制御部2507、通信制御部2517、ドライブ装置2513を制御して、必要な動作を行わせる。また、処理途中のデータについては、メモリ2501に格納され、必要があればHDD2505に格納される。本発明の実施例では、上で述べた処理を実施するためのアプリケーション・プログラムはリムーバブル・ディスク2511に格納されて頒布され、ドライブ装置2513からHDD2505にインストールされる。インターネットなどのネットワーク及び通信制御部2517を経由して、HDD2505にインストールされる場合もある。このようなコンピュータ装置は、上で述べたCPU2503、メモリ2501などのハードウエアとOS及び必要なアプリケーション・プログラムとが有機的に協働することにより、上で述べたような各種機能を実現する。
(付記1)
人間が知覚可能なコンテンツを検索する検索方法であって、
検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得ステップと、
前記コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、前記クエリ脳画像に対応するコンテンツを特定する特定ステップと、
前記クエリ脳画像に対応するコンテンツを出力する出力ステップと、
を含み、コンピュータにより実行される検索方法。
(付記2)
前記構造が、前記コンテンツを知覚した際における脳の活動状態を表すDB脳画像を当該コンテンツに対応して格納するデータベースであり、
前記特定ステップが、
前記データベースを前記クエリ脳画像で検索し、当該クエリ脳画像と所定の類似性を有するDB脳画像を特定するステップと、
特定された前記DB脳画像に対応するコンテンツを前記データベースから特定するステップと、
を含む付記1記載の検索方法。
(付記3)
前記所定の類似性が、前記DB脳画像の画素の濃度と前記クエリ脳画像の対応画素の濃度との差、又は前記クエリ脳画像の一部の画素の濃度と前記DB脳画像の対応画素の濃度との差に基づき決定される
付記2記載の検索方法。
(付記4)
前記所定の類似性が、前記DB脳画像についての特徴量と前記クエリ脳画像についての特徴量との距離に基づき決定される
付記2記載の検索方法。
(付記5)
前記データベースに、前記DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDが登録されており、
前記特定ステップが、
前記データベースにおいて前記検索者のユーザIDで前記DB脳画像を絞り込むステップ
を含む、付記2記載の検索方法。
(付記6)
前記特定ステップが、
絞り込まれた前記DB脳画像から前記所定の類似性を有するDB脳画像を抽出できない場合、前記検索者のユーザIDとは無関係に又は前記検索者のユーザID以外のユーザIDを用いて前記データベースを検索するステップと、
をさらに含む付記5記載の検索方法。
(付記7)
前記データベースに、前記DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDが登録されており、
前記DB脳画像は、ユーザID単位でクラスタリングされており、
各クラスタは、テスト・コンテンツを知覚した際における該当ユーザの脳の活動状態を表すテスト登録脳画像を含み、
前記テスト・コンテンツを知覚した際における前記検索者の脳の活動状態を表すテスト脳画像を取得するステップと、
前記テスト脳画像と前記データベースに格納されている各前記クラスタのテスト登録脳画像とを比較して、前記テスト脳画像が属するクラスタを特定するステップと、
をさらに含み、
前記特定ステップが、
前記データベースにおいて前記テスト脳画像が属するクラスタで前記DB脳画像を絞り込むステップ
を含む、付記2記載の検索方法。
(付記8)
前記データベースに、前記クエリ脳画像を当該クエリ脳画像に対する検索結果として特定されたコンテンツに対応付けて登録するステップ
をさらに含む付記1記載の検索方法。
(付記9)
前記データベースに、前記テスト脳画像を前記テスト・コンテンツに対応付けて登録するステップ
をさらに含む付記7記載の検索方法。
(付記10)
前記コンテンツが単一の図面であり、
前記コンテンツである特定の図面及び当該特定の図面を含む図面の組み合わせを管理するデータ構造によって、前記特定ステップで特定されたコンテンツである図面を含む前記図面の組み合わせを特定するステップ
をさらに含み、
前記出力ステップが、
前記特定ステップで特定された前記図面にマークを付して、特定された前記図面の組み合わせを出力するステップ
を含む付記1記載の検索方法。
(付記11)
前記特定ステップが、
前記クエリ脳画像と所定の類似性を有するDB脳画像を、当該DB脳画像の類似度に基づき降順にソートするステップ
をさらに含み、
前記出力ステップが、
前記ソートの順番で、前記クエリ脳画像に対応するコンテンツを出力するステップ
を含み、
さらに、前記検索者が指示したタイミング又は任意のタイミングで、前記検索者の第2のクエリ脳画像を取得するステップと、
前記特定ステップと前記出力ステップとを、前記第2のクエリ脳画像について実施するステップと、
を含む付記2記載の検索方法。
(付記12)
前記取得ステップが、
コンテンツの特徴量を入力データとし且つ当該コンテンツを知覚した際における脳の活動を表す脳画像を出力データとして学習したニューラルネットワークに、検索対象のコンテンツの特徴量を入力して、対応する脳画像を取得するステップ
を含む付記1記載の検索方法。
(付記13)
前記構造が、脳画像を入力データとし且つ当該脳画像に対応するコンテンツを出力データとして学習したニューラルネットワークである
付記1記載の検索方法。
(付記14)
人間が知覚可能なコンテンツを検索する検索装置であって、
検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得手段と、
前記コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、前記クエリ脳画像に対応するコンテンツを特定する特定手段と、
前記クエリ脳画像に対応するコンテンツを出力する出力手段と、
を有する検索装置。
(付記15)
前記構造が、前記コンテンツを知覚した際における脳の活動状態を表すDB脳画像を当該コンテンツに対応して格納するデータベースであり、
前記特定手段が、
前記データベースを前記クエリ脳画像で検索し、当該クエリ脳画像と所定の類似性を有するDB脳画像を特定し、
特定された前記DB脳画像に対応するコンテンツを前記データベースから特定する、
付記14記載の検索装置。
(付記16)
前記データベースに、前記DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDが登録されており、
前記DB脳画像は、ユーザID単位でクラスタリングされており
各クラスタは、テスト・コンテンツを知覚した際における該当ユーザの脳の活動状態を表すテスト登録脳画像を含み、
前記データベースを検索して最も多くのユーザがDB脳画像を登録しているコンテンツ又は予め定められたコンテンツをテスト・コンテンツとして特定する手段、
をさらに含み、
前記取得手段が、
前記テスト・コンテンツを知覚した際における前記検索者の脳の活動状態を表すテスト脳画像を取得し、
前記特定手段が、
前記テスト脳画像と前記データベースに格納されている各前記クラスタのテスト登録脳画像とを比較して、前記テスト脳画像が属するクラスタを特定し、
前記データベースにおいて前記テスト脳画像が属するクラスタで前記DB脳画像を絞り込む
付記15記載の検索装置。
(付記17)
前記クラスタを、動的に変更する手段
をさらに有する付記16記載の検索装置。
(付記18)
所定の基準以上の類似性を有する複数のコンテンツを検出した場合、当該複数のコンテンツに1の脳画像を対応付けて前記データベースに登録する手段
をさらに有する付記14記載の検索装置。
(付記19)
前記コンテンツの特徴量に基づき対応する前記DB脳画像を配置してユーザに提示する手段と、
前記DB脳画像の配置と同様の配置で前記コンテンツを前記ユーザに提示する手段と、
前記ユーザにより特定されたコンテンツとDB脳画像との対応関係を前記データベースに登録する手段と、
をさらに有する付記14記載の検索装置。
(付記20)
前記DB脳画像の特徴量に基づき当該DB脳画像を配置してユーザに提示する手段と、
前記DB脳画像の配置と同様の配置で、対応する前記コンテンツを前記ユーザに提示する手段と、
前記ユーザにより特定されたコンテンツとDB脳画像との対応関係を前記データベースに登録する手段と、
をさらに有する付記14記載の検索装置。
(付記21)
付記1乃至13記載の検索方法をコンピュータに実行させるためのプログラム。
本発明の実施の形態の概要を示す図である。 本発明の実施の形態における検索装置の機能ブロック図である。 脳画像DBで管理されるデータ例を示す図である。 第1の検索処理の処理フローを示す図である。 脳画像DBで管理されるデータ例を示す図である。 ソート結果の一例を示す図である。 ユーザIDに基づく絞り込みを行う場合の概要図である。 クラスタリング処理の処理フローを示す図である。 脳画像DBで管理されるデータ例を示す図である。 クラスタリングを用いた検索処理を説明するための図である。 DB脳画像特定処理の処理フローを示す図である。 複数部品図面が存在する場合の処理の概要を示す図である。 複数部品図面が存在する場合に図面DBで管理されるデータ例を示す図である。 第2の検索処理の処理フローを示す図である。 第3の検索処理の処理フローを示す図である。 登録支援処理の処理フローを示す図である。 (a)乃至(c)は、登録支援処理を説明するための図である。 ニューラルネットワークを用いる第1の例を示す図である。 ニューラルネットワークを用いる第2の例を示す図である。 コンピュータの機能ブロック図である。
符号の説明
1 図面DB
3 脳画像管理部
5 脳画像DB
7 脳画像入力部
8 脳画像格納部
9 検索処理部
11 検索結果格納部
13 入出力部

Claims (5)

  1. 人間が知覚可能なコンテンツを検索する検索方法であって、
    検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得ステップと、
    前記コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、前記クエリ脳画像に対応するコンテンツを特定する特定ステップと、
    前記クエリ脳画像に対応するコンテンツを出力する出力ステップと、
    を含み、コンピュータにより実行される検索方法。
  2. 前記構造が、前記コンテンツを知覚した際における脳の活動状態を表すDB脳画像を当該コンテンツに対応して格納するデータベースであり、
    前記特定ステップが、
    前記データベースを前記クエリ脳画像で検索し、当該クエリ脳画像と所定の類似性を有するDB脳画像を特定するステップと、
    特定された前記DB脳画像に対応するコンテンツを前記データベースから特定するステップと、
    を含む請求項1記載の検索方法。
  3. 前記データベースに、前記DB脳画像に対応して当該DB脳画像が測定されたユーザのユーザIDが登録されており、
    前記DB脳画像は、ユーザID単位でクラスタリングされており、
    各クラスタは、テスト・コンテンツを知覚した際における該当ユーザの脳の活動状態を表すテスト登録脳画像を含み、
    前記テスト・コンテンツを知覚した際における前記検索者の脳の活動状態を表すテスト脳画像を取得するステップと、
    前記テスト脳画像と前記データベースに格納されている各前記クラスタのテスト登録脳画像とを比較して、前記テスト脳画像が属するクラスタを特定するステップと、
    をさらに含み、
    前記特定ステップが、
    前記データベースにおいて前記テスト脳画像が属するクラスタで前記DB脳画像を絞り込むステップ
    を含む、請求項2記載の検索方法。
  4. 請求項1乃至3のいずれか1つ記載の検索方法をコンピュータにより実行させるためのプログラム。
  5. 人間が知覚可能なコンテンツを検索する検索装置であって、
    検索対象となるコンテンツを知覚した際又は想像した際における検索者の脳の活動状態を表すクエリ脳画像を取得する取得手段と、
    前記コンテンツを知覚した際における脳の活動状態を表す脳画像と当該コンテンツとを対応付ける構造を用いて、前記クエリ脳画像に対応するコンテンツを特定する特定手段と、
    前記クエリ脳画像に対応するコンテンツを出力する出力手段と、
    を有する検索装置。
JP2006282519A 2006-10-17 2006-10-17 コンテンツの検索方法及び検索装置 Pending JP2008102594A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006282519A JP2008102594A (ja) 2006-10-17 2006-10-17 コンテンツの検索方法及び検索装置
US11/703,959 US7899274B2 (en) 2006-10-17 2007-02-08 Content search method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006282519A JP2008102594A (ja) 2006-10-17 2006-10-17 コンテンツの検索方法及び検索装置

Publications (1)

Publication Number Publication Date
JP2008102594A true JP2008102594A (ja) 2008-05-01

Family

ID=39303150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006282519A Pending JP2008102594A (ja) 2006-10-17 2006-10-17 コンテンツの検索方法及び検索装置

Country Status (2)

Country Link
US (1) US7899274B2 (ja)
JP (1) JP2008102594A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013018515A1 (ja) * 2011-07-29 2013-02-07 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置
WO2014057710A1 (ja) * 2012-10-11 2014-04-17 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置
WO2017022228A1 (ja) * 2015-08-05 2017-02-09 セイコーエプソン株式会社 脳内映像再生装置
JP2017076193A (ja) * 2015-10-13 2017-04-20 株式会社国際電気通信基礎技術研究所 脳活動解析装置、脳活動解析方法および脳活動解析プログラム
JP2017129923A (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
JP2017129924A (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 素材評価方法、及び素材評価装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8572084B2 (en) 2009-07-28 2013-10-29 Fti Consulting, Inc. System and method for displaying relationships between electronically stored information to provide classification suggestions via nearest neighbor
US8612446B2 (en) 2009-08-24 2013-12-17 Fti Consulting, Inc. System and method for generating a reference set for use during document review
JP5693369B2 (ja) * 2011-05-13 2015-04-01 キヤノン株式会社 情報処理装置、その制御方法及びコンピュータプログラム
US10409361B2 (en) * 2014-06-03 2019-09-10 Otoy, Inc. Generating and providing immersive experiences to users isolated from external stimuli
WO2017210618A1 (en) 2016-06-02 2017-12-07 Fti Consulting, Inc. Analyzing clusters of coded documents

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04246772A (ja) * 1991-02-01 1992-09-02 Nippon Telegr & Teleph Corp <Ntt> スケッチによる画像検索方式
JP2004265231A (ja) * 2003-03-03 2004-09-24 Toshiba Corp 顔画像記録システム及び顔画像記録方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6121969A (en) * 1997-07-29 2000-09-19 The Regents Of The University Of California Visual navigation in perceptual databases
US6102846A (en) * 1998-02-26 2000-08-15 Eastman Kodak Company System and method of managing a psychological state of an individual using images
US6804683B1 (en) * 1999-11-25 2004-10-12 Olympus Corporation Similar image retrieving apparatus, three-dimensional image database apparatus and method for constructing three-dimensional image database
JP4527322B2 (ja) * 2001-07-25 2010-08-18 日本電気株式会社 画像検索装置、画像検索方法、及び画像検索用プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04246772A (ja) * 1991-02-01 1992-09-02 Nippon Telegr & Teleph Corp <Ntt> スケッチによる画像検索方式
JP2004265231A (ja) * 2003-03-03 2004-09-24 Toshiba Corp 顔画像記録システム及び顔画像記録方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013018515A1 (ja) * 2011-07-29 2013-02-07 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置
WO2014057710A1 (ja) * 2012-10-11 2014-04-17 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置
WO2017022228A1 (ja) * 2015-08-05 2017-02-09 セイコーエプソン株式会社 脳内映像再生装置
CN107636569A (zh) * 2015-08-05 2018-01-26 精工爱普生株式会社 脑内影像再生装置
JPWO2017022228A1 (ja) * 2015-08-05 2018-05-24 セイコーエプソン株式会社 脳内映像再生装置
CN107636569B (zh) * 2015-08-05 2020-07-07 精工爱普生株式会社 脑内影像再生装置
JP2017076193A (ja) * 2015-10-13 2017-04-20 株式会社国際電気通信基礎技術研究所 脳活動解析装置、脳活動解析方法および脳活動解析プログラム
JP2017129923A (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
WO2017126288A1 (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 視聴素材評価方法、視聴素材評価システム、及びプログラム
JP2017129924A (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 素材評価方法、及び素材評価装置
WO2017126474A1 (ja) * 2016-01-18 2017-07-27 国立研究開発法人情報通信研究機構 素材評価方法、及び素材評価装置

Also Published As

Publication number Publication date
US7899274B2 (en) 2011-03-01
US20080089553A1 (en) 2008-04-17

Similar Documents

Publication Publication Date Title
JP2008102594A (ja) コンテンツの検索方法及び検索装置
JP6811645B2 (ja) 画像検索装置及び画像検索方法
US20210182333A1 (en) Correlating image annotations with foreground features
US8565537B2 (en) Methods and apparatus for retrieving images from a large collection of images
US20180096069A1 (en) Interactive clothes searching in online stores
US20150039583A1 (en) Method and system for searching images
EP3048540A1 (en) Picture ordering method and device
JP6371465B2 (ja) 画像検索装置、及び画像を検索する方法
Xu et al. Near duplicate identification with spatially aligned pyramid matching
JP5794036B2 (ja) 画像検索装置、画像検索方法、およびプログラム
JP7509144B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN110569918B (zh) 一种样本分类的方法以及相关装置
US20160283564A1 (en) Predictive visual search enginge
CN108431800B (zh) 图像处理装置以及图像检索界面的显示方法
JP2018509664A (ja) モデル生成方法、単語重み付け方法、装置、デバイス及びコンピュータ記憶媒体
JP6377917B2 (ja) 画像検索装置及び画像検索プログラム
Chao et al. A framework for robust feature selection for real-time fashion style recommendation
JP4544047B2 (ja) Web画像検索結果分類提示方法及び装置及びプログラム及びプログラムを格納した記憶媒体
JP2016014990A (ja) 動画像検索方法、動画像検索装置及びそのプログラム
JP5876397B2 (ja) 文字付与プログラム、文字付与方法および情報処理装置
US20240212228A1 (en) Image generating and retrieving apparatus, image generating and retrieving system, and image generating and retrieving method
KR101643979B1 (ko) 비디오 컨텐츠 증강 방법
EP3432154A1 (en) Method and apparatus for providing search recommendation information
KR20190134230A (ko) 콘텐츠 추천어 제공 방법 및 그 콘텐츠 제공 장치
Freytag et al. Interactive image retrieval for biodiversity research

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110721

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111122