JP2021068063A - クエリ修正支援システム、検索システム及びプログラム - Google Patents

クエリ修正支援システム、検索システム及びプログラム Download PDF

Info

Publication number
JP2021068063A
JP2021068063A JP2019191529A JP2019191529A JP2021068063A JP 2021068063 A JP2021068063 A JP 2021068063A JP 2019191529 A JP2019191529 A JP 2019191529A JP 2019191529 A JP2019191529 A JP 2019191529A JP 2021068063 A JP2021068063 A JP 2021068063A
Authority
JP
Japan
Prior art keywords
query
correction
information
target
modification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019191529A
Other languages
English (en)
Inventor
洋 劉
Hiroshi Ryu
洋 劉
真太郎 安達
Shintaro Adachi
真太郎 安達
山口 聡之
Satoyuki Yamaguchi
聡之 山口
大悟 堀江
Daigo Horie
大悟 堀江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2019191529A priority Critical patent/JP2021068063A/ja
Priority to US16/843,248 priority patent/US11403292B2/en
Priority to CN202010415199.XA priority patent/CN112685587A/zh
Priority to AU2020203176A priority patent/AU2020203176A1/en
Publication of JP2021068063A publication Critical patent/JP2021068063A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2453Query optimisation
    • G06F16/24534Query rewriting; Transformation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/248Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】クエリとして使用する画像に対するユーザの修正をそのまま受け入れる場合とは異なり、修正の対象に関連する条件に応じた情報をユーザに提示できるようにする、クエリ修正支援システム、検索システム及びプログラムを提供する。【解決手段】画像検索システムにおいて、クエリ修正支援システムとしての検索サーバ10は、クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示する、クエリ画像修正支援部109を有する。【選択図】図6

Description

本発明は、クエリ修正支援システム、検索システム及びプログラムに関する。
クエリとして画像を入力する場合、検索の結果をユーザの希望に近づけるため、前回の検索により得られた画像の一部又は全部に修正を加えて再度の検索を実行することがある。例えば検索により得られた部屋の画像に含まれる窓の配置やサイズを変更し、新たなクエリとして用いることも可能である。
特開2007−122694号公報
修正後の画像をクエリに用いることで、ユーザは、修正前の画像を用いる場合よりも自身のイメージに近い検索の結果を得られるようになる。
しかし、ユーザが加える修正には、現実には許されない修正も含まれる可能性がある。例えば修正の対象が部屋の場合、ユーザの希望する窓等に対する修正は、法令等により現実には許されない可能性がある。このような修正を加えた画像でもクエリとしての使用は可能であるが、結局は、初めから検索をやり直す必要が発生する。
本発明は、クエリとして使用する画像に対するユーザの修正をそのまま受け入れる場合とは異なり、修正の対象に関連する条件に応じた情報をユーザに提示できるようにすることを目的とする。
請求項1に記載の発明は、クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示するプロセッサを有するクエリ修正支援システムである。
請求項2に記載の発明は、前記条件は、指定された前記対象との関係により定まる、請求項1に記載のクエリ修正支援システムである。
請求項3に記載の発明は、前記プロセッサは、前記対象の配置が可能な範囲を提示する、請求項2に記載のクエリ修正支援システムである。
請求項4に記載の発明は、前記プロセッサは、前記対象について推奨される位置を提示する、請求項3に記載のクエリ修正支援システムである。
請求項5に記載の発明は、前記プロセッサは、前記対象の大きさを変更可能な範囲を提示する、請求項2に記載のクエリ修正支援システムである。
請求項6に記載の発明は、前記プロセッサは、前記対象について推奨される大きさを提示する、請求項5に記載のクエリ修正支援システムである。
請求項7に記載の発明は、前記条件は、指定された前記対象と他の物品との関係を含む、請求項3に記載のクエリ修正支援システムである。
請求項8に記載の発明は、前記プロセッサは、前記他の物品との関係で修正を支援する情報を提示する、請求項7に記載のクエリ修正支援システムである。
請求項9に記載の発明は、前記条件は、指定された前記対象毎に定まる、請求項1に記載のクエリ修正支援システムである。
請求項10に記載の発明は、前記プロセッサは、前記対象について推奨される修正の内容を提示する、請求項9に記載のクエリ修正支援システムである。
請求項11に記載の発明は、前記条件は、検索サービスの提供者により指定される、請求項1に記載のクエリ修正支援システムである。
請求項12に記載の発明は、前記条件は、ユーザが入力したクエリに基づいて設定される、請求項1に記載のクエリ修正支援システムである。
請求項13に記載の発明は、前記プロセッサは、前記修正を支援する情報として前記条件の内容を提示する、請求項1に記載のクエリ修正支援システムである。
請求項14に記載の発明は、クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示し、修正を受け付けた場合、修正後の画像をクエリに用いてデータベースを検索するプロセッサを有する検索システムである。
請求項15に記載の発明は、コンピュータに、クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示する機能とを実行させるプログラムである。
請求項1記載の発明によれば、クエリとして使用する画像に対するユーザの修正をそのまま受け入れる場合とは異なり、修正の対象に関連する条件に応じた情報をユーザに提示できる。
請求項2記載の発明によれば、指定された対象だけでなく、指定された対象との関係で条件を満たす修正を行うことができる。
請求項3記載の発明によれば、指定された対象の移動が可能な範囲を事前に知ることができる。
請求項4記載の発明によれば、指定された対象の推奨位置を事前に知ることができる。
請求項5記載の発明によれば、指定された対象のサイズの変更が可能な範囲を事前に知ることができる。
請求項6記載の発明によれば、指定された対象について推奨される大きさを事前に知ることができる。
請求項7記載の発明によれば、指定された対象の構造に関する条件だけでなく他の物品との関係でも条件を満たす修正を行うことができる。
請求項8記載の発明によれば、修正の影響を受ける他の物品を事前に知ることができる。
請求項9記載の発明によれば、指定された対象に関連する条件を満たす修正を行うことができる。
請求項10記載の発明によれば、条件を満たす修正を事前に知ることができる。
請求項11記載の発明によれば、サービスの提供者の実績や都合を条件として設定できる。
請求項12記載の発明によれば、ユーザの希望に沿った修正となるように支援できる。
請求項13記載の発明によれば、修正に対する納得感を高めることができる。
請求項14記載の発明によれば、クエリとして使用する画像に対するユーザの修正をそのまま受け入れる場合とは異なり、修正の対象に関連する条件に応じた情報をユーザに提示できる。
請求項15記載の発明によれば、クエリとして使用する画像に対するユーザの修正をそのまま受け入れる場合とは異なり、修正の対象に関連する条件に応じた情報をユーザに提示できる。
実施の形態で使用する画像検索システムの構成例を示す図である。 データベースに記録されるデータセットを生成するコンピュータの機能上の構成を説明する図である。 クエリとして入力される画像に類似する、又は、関連する画像をデータベースから検索する検索サーバの機能上の構成を説明する図である。 ユーザが操作する端末からクエリとして入力される情報を説明する図表である。 特徴抽出部による特徴の抽出例を説明する図である。 実施の形態で使用する検索サーバに設けられる他の機能を説明する図である。 クエリ画像修正支援部が実行する処理の一部を説明するフローチャートである。 クエリ画像修正支援部が実行する残りの処理を説明するフローチャートである。 対象と属性の指定に用いるインタフェース画面の一例を示す図である。(A)は修正の対象を指定する例を示し、(B)は修正する属性を指定する例を示す。 修正の受け付けに用いられるインタフェース画面の例を示す図である。(A)は修正の対象を指定した状態を示し、(B)は修正の対象のサイズを画面上の操作で拡大する例を示し、(C)は修正の対象のサイズを画面上の操作で縮小する例を示し、(D)は修正の対象の位置を画面上の操作で移動する例を示す。 指定された対象と属性に関する修正の選択肢の提示に用いられるインタフェース画面の一例を示す図表である。 指定された対象と属性に関する選択肢の提示に用いられるインタフェース画面の他の例を示す図表である。(A)は選択肢が提示される前の画面を示し、(B)は修正が可能な最小サイズを提示する画面を示し、(C)は推奨される枠の種別と窓のサイズを提示する画面を示す。 修正の対象の指定に用いられるインタフェース画面の他の例を示す図表である。 個別制約に基づいた修正の対象に対応する選択肢の提示例を示す図である。 一般制約に基づいた修正の対象に対応する選択肢の提示例を示す図である。(A)はクエリ画像において薪ストーブが指定された状態を示し、(B)は薪ストーブが同じ空間に存在する他の物品に与える影響の提示例を示す。 一般制約の一例であるローカル規則に基づいた選択肢の提示例を示す図である。 一般制約の一例である火災予防法上の制約をユーザに提示する画面の例を示す図である。 一般制約の一例である火災予防法上の制約をユーザに提示する画面の他の例を示す図である。 指定された対象と属性に関する修正の選択肢の提示に用いられるインタフェース画面の一例を示す図表である。
以下、図面を参照して、本発明の実施の形態を説明する。
<実施の形態>
以下では、設計事務所やデザイン事務所での使用を想定する画像検索システムについて説明する。
設計事務所等には、過去に扱った案件の記録が蓄積されている。ここでの情報には、デザイン案、設計図等の画像の他、顧客からのクレーム、事故の事例、社内レビューの記録等の文書も含まれる。本実施の形態で説明する画像検索システムは、これらの情報の活用を通じ、設計業務の効率化を支援する。
<システム構成>
図1は、実施の形態で使用する画像検索システム1の構成例を示す図である。
図1に示す画像検索システム1は、入力されたクエリに類似する、又は、関連する画像を検索する検索サーバ10と、検索の対象である画像のデータ(以下「画像データ」という)が蓄積されるデータベース(=Data Base)20と、クエリを入力するユーザが操作する端末30と、これらを通信可能に接続するネットワーク40とで構成されている。なお、ネットワークは、ローカルエリアネットワークでもよいし、インターネットでもよい。画像検索システム1は、検索システムの一例である。
図1に示す検索サーバ10は、プログラムの実行を通じて検索その他の処理を実行するプロセッサ11と、プログラムや各種のデータを記憶する記憶装置12と、外部との通信を実現するネットワークIF(=InterFace)13と、これらを接続するバスその他の信号線14とを有している。
プロセッサ11は、例えばCPUで構成される。記憶装置12は、例えばBIOS(=Basic Input Output System)等が記憶されたROM(=Read Only Memory)と、ワークエリアとして用いられるRAM(=Random Access Memory)と、基本プログラムやアプリケーションプログラム等が記憶されたハードディスク装置とで構成される。もっとも、ROMやRAMがプロセッサ11の一部に含まれることを妨げない。プロセッサ11と記憶装置12は、コンピュータを構成する。
図1に示すデータベース20には、デザイン案、設計図等の画像の他、顧客からのクレーム、事故の事例、社内レビューの記録等の文書が記録されている。これらの情報を総称して「過去の事例」という。
過去の事例を構成する個々の情報には、検索用のタグが紐付けられている。タグは、個々の情報に含まれる特徴量(以下「特徴」という)の集合で与えられる。本実施の形態では、特徴の集合をデータセットともいう。
図1に示す端末30は、いわゆるコンピュータである。端末30は、デスクトップ型のコンピュータでも、ノート型のコンピュータでも、スマートフォンやウェアラブル端末等の携帯型のコンピュータでもよい。図1では、端末30を1台のみ表しているが、台数は任意である。
なお、検索サーバ10は、1台である必要はなく、協働する複数台のコンピュータでもよい。本実施の形態では、検索サーバ10を検索システムの一例ともいう。なお、検索サーバ10は、クエリ修正支援システムの一例でもある。
<機能構成>
図2は、データベース20に記録されるデータセットを生成するコンピュータ50の機能上の構成を説明する図である。
コンピュータ50のハードウェア上の構成は、図1に示す検索サーバ10と同様である。すなわち、コンピュータ50には、プロセッサと、記憶装置と、データベース20との通信に用いるインタフェースが設けられている。
コンピュータ50は、データベース20から過去の事例を読み出すと、構造的な表現に分類される特徴(以下「構造情報」という)の抽出用に用意された前処理部51で前処理し、前処理済みの結果を構造情報抽出部52に与える。図2の場合、構造情報抽出部52は、個々の特徴を学習した推論モデルを用いた推論により、過去の事例に含まれる1つ又は複数の特徴を推論し、推論された特徴の集合を過去の事例に紐付けるデータセットとしてデータベース20に出力する。
本実施の形態の場合、推論モデルは特徴毎に用意されている。推論モデルは、機械学習等により事前に生成されている。図2においては、推論モデルを用いる推論をAI(=Artificial Intelligence)推論という。
コンピュータ50は、データベース20から過去の事例を読み出すと、感性的な表現に分類される特徴(以下「感性情報」という)の抽出用に用意された前処理部53で前処理し、前処理済みの結果を感性情報抽出部54に与える。本実施の形態の場合、感性情報は、構造的な表現又は定量的な表現を含まない特徴をいう。換言すると、感性情報は、定性的又は主観的な表現を含む特徴をいう。
図2の場合、感性情報抽出部54は、感性情報を学習した推論モデルを用いた推論により、過去の事例に含まれる1つ又は複数の感性情報を推論し、推論された感性情報の集合を過去の事例に紐付けるデータセットとしてデータベース20に出力する。本実施の形態の場合、推論モデルは感性情報毎に用意される。推論モデルは、機械学習等により事前に生成されている。
このように、データベース20に蓄積される過去の事例には、構造情報と感性情報の両方又は一方に属する1又は複数の特徴が紐付けられている。
図3は、クエリとして入力される画像(以下「クエリ画像」という)に類似する、又は、関連する画像をデータベース20から検索する検索サーバ10の機能上の構成を説明する図である。
検索サーバ10は、クエリ画像を対象別に分類する分類部101、クエリ画像に予め定めた処理を加える前処理部102、クエリ画像に含まれる特徴量(以下「特徴」という)を抽出する特徴抽出部103、構造的な表現を含むテキスト(以下「構造情報テキスト」という)の表現上のゆらぎを補正する正規化部104、感性的な表現を含むテキスト(以下「感性情報テキスト」という)の表現上のゆらぎを補正する正規化部105、構造情報テキストや感性情報テキストを構成する文字列を対応付ける特徴を分類する対応特徴分類部106、検索エンジン108に与える特徴を補正する特徴補正部107、補正後の特徴との関連性が高い事例をデータベース20から検索する検索エンジン108として機能する。
これらの機能は、プロセッサ11(図1参照)によるプログラムの実行を通じて実現される。なお、検索サーバ10のうち検索エンジン108を除く構成は、検索条件特定システムの一例である。
本実施の形態における検索サーバ10は、端末30(図1参照)から、前提情報と、画像情報と、構造情報テキストと、感性情報テキストをクエリ(以下「検索クエリ」ともいう)として入力する。
ただし、これら4種類の情報の全てがクエリとして入力される必要はない。また、本実施の形態の場合、構造情報テキストと感性情報テキストは、明確に区別されている必要はない。実際には、テキストの入力に用いる表現上の種類についての制約はない。従って、ユーザは、両者を区別することなく、検索したい過去の事例に求める要望を文字列で入力することが可能である。
図4は、ユーザが操作する端末30からクエリとして入力される情報を説明する図表である。
前提情報は、ユーザが入力するクエリの中でも他のクエリに比して優先の度合いが高い、構造的な又は定量的な情報である。なお、前提情報には、法令等も含まれる。前提情報は、検索の対象に関連する条件の一例である。もっとも、法令等は、ユーザが入力する必要はない。
本実施の形態の場合、建物に関する画像を検索の対象とする。
このため、前提情報は、例えば住所、土地の広さ、敷地の条件、周辺環境、物件の種別、予算、庭の有無、車の有無、車庫の有無、家族の構成、世帯数で与えられる。物件の種別には、例えばビル、マンション、一戸建てがある。
画像情報は、いわゆるクエリ画像である。画像情報は、例えば手書きの絵、写真、チラシ、CG(=Computer Graphics)で与えられる。本実施の形態の場合、画像情報は、他の種類のクエリに比して優先の度合いが低い。
構造情報テキストは、構造的な表現を含むテキストである。構造情報テキストには、例えば二世帯住宅、徒歩10分、3LDK、木の家がある。
感性情報テキストは、感性的な表現を含むテキストである。感性情報テキストには、例えば開放感、家族団らん、和のスペース、木のぬくもりがある。
なお、構造情報テキストと感性情報テキストは、明確に区別することなく入力される場合もある。構造的な表現と感性的な表現が混在するテキストには、例えば「開放感のある明るいリビング」がある。「リビング」は、明確に特定が可能な名詞であるので構造的な表現であり、「開放感」や「明るい」は、感覚的な状態を表す形容詞であるので感性的な表現である。
図3の説明に戻る。
分類部101は、ユーザが入力したクエリ画像を対象別に分類する。本実施の形態の場合、クエリ画像がリビングの画像、キッチンの画像、外観の画像のいずれかに分類される。勿論、分類先の候補は3種類に限らない。他の候補には、例えば子供部屋、寝室、浴室、トイレ、玄関、庭等がある。分類部101は、分類の結果を、個々のクエリ画像の属性として付加する。
前処理部102は、入力されたクエリ画像に対し、予め定めた処理を加える。予め定めた処理には、例えばサイズの調整、コントラストの調整、エッジの強調、ノイズの除去等がある。
この他、図3に示す前処理部102には、他の条件と矛盾する部分をクエリ画像から取り除く機能が前処理の1つとして用意されている。例えば前提情報では車庫が不要と指定されているのにクエリ画像には車庫が含まれる場合、前処理部102は、クエリ画像から車庫の部分を除去する補正を行う。ここでの「矛盾」は、同時には成立しない又は併存しないという意味で使用する。なお、本実施の形態では、矛盾する部分を、整合しない部分ともいう。
もっとも、他の条件と矛盾する部分の補正は必須でない。
特徴抽出部103は、機械学習等により特徴毎に用意された推論モデルとの照合により、クエリ画像に含まれる1つ又は複数の特徴を抽出する。
図5は、特徴抽出部103による特徴の抽出例を説明する図である。図5の場合、クエリ画像として入力されたリビングの写真から、「高い天井」、「高所の窓」、「はしご」、「フローリング」、「木のぬくもり」、「開放的」、「シーリングファン」、「スポットライト」等が特徴として抽出されている。
図3の説明に戻る。
正規化部104は、ユーザがクエリとして入力した構造情報テキストの表現上のゆらぎを補正する。例えば文字種の統一、つづりや表記の揺れが吸収される。
正規化部105は、ユーザがクエリとして入力した感性情報テキストの表現上のゆらぎを補正する。また、正規化部104により、個人毎の表現のばらつきも補正される。
対応特徴分類部106は、構造情報テキストや感性情報テキストを構成する文字列が構造的な特徴に対応するか、感性的な特徴に対応するか、それとも両方に対応するかを分類する。
特徴補正部107は、ユーザの意図する検索結果が得られやすくなるように、検索エンジン108に与える特徴を補正する処理を実行する。本実施の形態における特徴補正部107は、抽出された特徴間の矛盾を除去する。例えば特徴補正部107は、クエリ画像から抽出された特徴のうち前提情報と矛盾する特徴を除去する補正を実行する。また例えば特徴補正部107は、複数のクエリ画像間で矛盾する特徴を除去する補正を実行する。
図6は、実施の形態で使用する検索サーバ10に設けられる他の機能を説明する図である。
本実施の形態における検索サーバ10には、分類部101に入力されるクエリ画像、又は、検索の結果物である画像に対するユーザの修正を支援する機能が用意されている。
本実施の形態の場合、この機能を、クエリ画像修正支援部109という。クエリ画像修正支援部109は、クエリ修正支援システムの一例である。
ここでの支援は、修正されたクエリ画像を用いた検索の結果に対する手戻りの回数を減らす観点で実行される。なお、手戻りが増える原因には、検索の結果とユーザの意図との齟齬がいつまでも解消されない場合、法律や条例等の外因により検索の結果をそのままでは活用できない場合等がある。
このため、本実施の形態におけるクエリ画像修正支援部109は、ユーザが指定した対象に対する修正の内容が、関連する制約に矛盾したり違反したりしないようにユーザによる修正を支援する。ここでの制約は、ユーザが指定した対象に関連する条件の一例である。本実施の形態の場合、ユーザが指定した対象に関連する条件は、修正の内容や範囲等の限界を与える。
本実施の形態の場合、クエリ画像修正支援部109が修正するクエリ画像には、新規に入力されるクエリ画像に限らず、データベース20(図1参照)から検索の結果として出力された画像も含まれる。
また、クエリ画像修正支援部109が支援に使用する制約には、ユーザ個人の希望が反映された制約(以下「個別制約」という)と、一般的な制約(以下「一般制約」という)が含まれる。個別制約及び一般制約のいずれも、ユーザが指定した対象に関連する条件の一例である。
個別制約の具体例には、前提情報、構造情報テキスト、感性情報テキスト等が含まれる。また、一般制約の具体例には、法律、政令、規則、条例その他の法上の規制、画像検索システム1(図1参照)を利用する事業者や検索サービスを提供する事業者が定めるローカル規則、成文化されていない慣習や常識等が含まれる。因みに、法上の規則には、例えば建築基準法、火災予防条例がある。
<クエリ画像の修正を支援する処理の例>
以下では、クエリ画像修正支援部109(図6参照)として機能するプロセッサ11(図1参照)が実行する処理動作の一例を、図7及び図8を用いて説明する。
図7は、クエリ画像修正支援部109が実行する処理の一部を説明するフローチャートである。図8は、クエリ画像修正支援部109が実行する残りの処理を説明するフローチャートである。なお、図7及び図8に示す記号のSはステップを意味する。
まず、クエリ画像修正支援部109は、クエリ画像を受け付ける(ステップ1)。ここでのクエリ画像は、ユーザが新たに入力するクエリ画像、検索の結果の中からユーザが選択した画像を含む。本実施の形態の場合、クエリ画像は1つである。もっとも、複数のクエリ画像が入力されてもよい。
次に、クエリ画像修正支援部109は、ユーザからクエリ画像に対する修正の指示があったか否かを判定する(ステップ2)。
修正の指示が無い場合、クエリ画像修正支援部109は、ステップ2で否定結果を得る。ステップ2で否定結果が得られた場合、クエリ画像修正支援部109は、処理を終了し、クエリ画像を確定する。確定したクエリ画像は、分類部101(図3参照)に与えられ、検索が開始される。
一方、修正の指示があった場合、クエリ画像修正支援部109は、ステップ2で肯定結果を得る。ステップ2で肯定結果が得られた場合、クエリ画像修正支援部109は、修正の対象と修正する属性の指定を受け付ける(ステップ3)。
ユーザによる修正の対象は、例えばマウスポインタによるクエリ画像上の領域の指定により行われる。例えばクエリ画像修正支援部109は、マウスポインタの座標を取得すると、対応する位置に存在する領域の画像を処理し、マウスポインタで指定された物体を特定する。修正の対象を指定する他の方法には、テキストにより指定する方法もある。例えば修正の対象の欄に「窓」と入力する、又は、選択肢から「窓」を選択する。
修正する属性の指定や属性の修正の内容は、例えば対象上でのマウスの右クリックやドラッグ移動等により行われる。属性には、例えば「位置」、「サイズ」、「デザイン」、「色」等がある。修正する属性の指定は1つに限らない。すなわち、複数の指定が可能である。
なお、「位置」の修正は、例えば画面上でのドラッグアンドドロップにより可能である。また、「サイズ」の修正は、例えば指定された領域を示す矩形の範囲の角を外側に広げる、又は、内側に狭めることにより可能である。また、マウスポインタが対象の上にある状態で右クリックすることで画面上に表示されるメニューの中から修正したい属性を指定することも可能である。なお、修正が可能な属性は、対象毎に異なる。例えば窓の属性とストーブの属性は異なる。
対象の指定の場合と同様に、テキストによる入力や画面上に表示される選択肢からの選択も可能である。もっとも、対象の指定とは異なり、属性の指定は必須ではない。
修正の対象が特定されると、クエリ画像修正支援部109は、ステップ4及び5の処理とステップ6及び7の処理を並列に実行する。ステップ4及び5は、個別制約に関する処理であり、ステップ6及び7は、一般制約に関する処理である。
もっとも、図7の例とは異なり、ステップ4〜7の処理を時系列に実行しても良い。
まず、個別制約に関する処理について説明する。
ステップ4において、クエリ画像修正支援部109は、修正の対象に関連する個別制約を検出する。前述したように、個別制約は、検索の実行者であるユーザが入力する制約であり、例えば前提情報、構造情報テキスト、感性情報テキストである。本実施の形態におけるクエリ画像修正支援部109は、個別制約で規定される意味の解析等を通じ、修正の対象に関連がある制約を検出する。
個別制約には、例えば「落ち着いた雰囲気」、「プライバシー重視」、「陽射しをあまり入れたくない」、「大きな窓」、「明るい部屋」がある。この例の場合、制約は、窓の位置や色、サイズ、枠の種別等に関係する。
また例えば個別制約には、処理の対象となっているクエリ画像の被写体の分類の情報も含まれる。例えばクエリ画像が、建物の外観なのか、居室なのか、トイレなのか、浴室なのか、洗面室なのか、玄関なのか、納戸やサービスルームなのかの分類の情報も活用される。クエリ画像の分類は、分類部101(図3参照)の機能を利用してもよい。
もっとも、クエリ画像の被写体の分類は、構造情報テキストで指定することも可能である。例えば「居室として使用する」等のテキストで、クエリ画像の被写体の分類を与えることも可能である。クエリ画像の分類は、関連する制約を絞り込む上で重要な情報である。例えば居室を被写体とするクエリ画像が与えられた場合の窓の制約と、浴室を被写体とするクエリ画像が与えられた場合の窓の制約とは、制約の内容が異なる可能性がある。なお、クエリ画像の被写体が納戸の場合、窓についての制約はない。
ユーザが指定した対象に関連する個別制約が検出されると、クエリ画像修正支援部109は、検出された個別制約を満たす選択肢を推定又は抽出する(ステップ5)。
ステップ5において、クエリ画像修正支援部109は、選択肢として、例えば過去の事例から類似の事例を抽出する、又は、蓄積されている修正の履歴の傾向等からユーザが望む可能性が高い選択肢を推定する。
次に、一般制約に関する処理について説明する。
ステップ6において、クエリ画像修正支援部109は、修正の対象に関連する一般制約を検出する。
前述したように、一般制約は、検索の実行者であるユーザとは無関係に定まる制約であり、例えば法上の規制、ローカル規則、慣習や常識である。これらの情報は、例えば記憶装置12(図1参照)や不図示のデータベースに記憶されている。
クエリ画像修正支援部109は、一般制約で規定される意味の解析等を通じ、修正の対象に指定された物体に関連する制約を検出する。
建築基準法上の制約には、例えば窓のサイズに関する制約がある。また、防火地域や準防火地域を想定する建物で使用する窓には、防火戸や防火設備の設置が義務付けられる。なお、検索の前提が防火地域や準防火地域の建物であることは、前提情報から特定が可能である。このため、一般制約の検索では、前提情報等の情報も使用される。
また、ローカル規則の制約には、例えば事業者が推奨又は調達が可能な窓ガラスの色、窓枠の材質、塗料の種別、ブランド名がある。
また、慣習や常識の制約には、例えば強度上の制約、利便性、セキュリティ、配線、換気、家具の配置、近隣への配慮がある。
ユーザが指定した対象に関連する一般制約が検出されると、クエリ画像修正支援部109は、検出された一般制約を満たす選択肢を抽出する(ステップ7)。
ステップ7において、クエリ画像修正支援部109は、選択肢として、例えば過去の事例から類似の事例を抽出する。
ステップ5及びステップ7において選択肢が推定又は抽出されると、クエリ画像修正支援部109は、ユーザが操作する端末30(図1参照)に、指定された対象に関する修正の選択肢を提示する(ステップ8)。
選択肢を提示する方法には、例えばクエリ画像と重ねて提示する方法、クエリ画像とは別に提示する方法、図表等の形式で提示する方法がある。
この後、クエリ画像修正支援部109は、ユーザが提示された選択肢に基づく修正を希望するか否かを判定する(ステップ9)。この判定は、例えば特定の選択肢がユーザにより選択されたか否かにより行う。
ステップ9で肯定結果が得られた場合、クエリ画像修正支援部109は、選択された選択肢に基づいてクエリ画像を修正する(ステップ10)。一方、ステップ9で否定結果が得られた場合、クエリ画像修正支援部109は、ユーザ自身によるクエリ画像への修正を受け付ける(ステップ11)。
この後、クエリ画像修正支援部109は、修正後の内容を、修正の対象に対する修正の傾向又は制約と比較する(ステップ12)。具体的には、クエリ画像修正支援部109は、修正後の内容が修正の対象に対する修正の傾向や制約に矛盾していないか又は違反していないかを確認する。
続いて、クエリ画像修正支援部109は、矛盾又は違反があるか否かを判定する(ステップ13)。
矛盾も違反もない場合、クエリ画像修正支援部109は、ステップ13で否定結果を得、ステップ1に戻る。すなわち、修正後のクエリ画像を新たなクエリ画像に設定する。
一方、矛盾又は違反がある場合、クエリ画像修正支援部109は、ステップ13で肯定結果を得る。
この場合、クエリ画像修正支援部109は、ユーザに、矛盾又は違反の内容を提示する(ステップ14)。
この場合、クエリ画像修正支援部109は、修正の見直し又は個別制約の見直しを受け付け(ステップ15)、ステップ12に戻る。このループ処理は、ステップ13で否定結果が得られるまで継続される。
<ユーザインタフェースの例>
以下では、端末30(図1参照)に表示されるインタフェース画面の具体例を説明する。
・例1
図9は、対象と属性の指定に用いるインタフェース画面の一例を示す図である。(A)は修正の対象を指定する例を示し、(B)は修正する属性を指定する例を示す。
図9に示すインタフェース画面200は、ステップ3(図7参照)で用いられる。
図9に示すインタフェース画面200には、クエリ画像の表示欄200Aと、構造情報テキストの入力に用いられるテキスト欄200Bと、感性情報テキストの入力に用いられるテキスト欄200Cとが配置されている。
(A)に示すインタフェース画面200では、マウスポインタ202により窓201が修正の対象に指定されている。また、テキスト欄200Bには、修正の対象である窓を居室で用いることが指定されている。また、テキスト欄200Cには、修正の対象である窓を、温かみがある家で用いたいこと、落ち着いた雰囲気にしたいこと、プライバシーを重視したいこと、陽射しをあまり入れたくないこと等が指定されている。
(B)に示すインタフェース画面200は、マウスの右クリック等の操作により、プルダウンメニューが開かれた状態を示している。プルダウンメニューには、指定された対象について属性の候補が羅列されている。図9の場合、移動、サイズ、デザイン、色が示されている。また、図9では、修正する属性としてサイズが指定された状態を表している。このため、サイズの行が、ハイライト表示されている。
図10は、修正の受け付けに用いられるインタフェース画面の例を示す図である。(A)は修正の対象を指定した状態を示し、(B)は修正の対象のサイズを画面上の操作で拡大する例を示し、(C)は修正の対象のサイズを画面上の操作で縮小する例を示し、(D)は修正の対象の位置を画面上の操作で移動する例を示す。
図10には、クエリ画像の表示欄200Aだけを示している。なお、図10に示すインタフェース画面は、例えばステップ11(図8参照)で用いられる。
図10の場合も、窓201が修正の対象に指定されている。ただし、図10の場合には、マウスポインタ202の指定により、クエリ画像内の窓201がオブジェクトとして認識され、修正が可能な状態になる。このため、図10の例では、オブジェクトの隅に位置合わせしたマウスポインタ202をそのまま対角線方向に移動させることで、オブジェクトのサイズが変更されている。また、窓201を指定した状態でマウスポインタ202をドラッグすることで、オブジェクトの位置が移動されている。
図10に示す表示は、修正を支援する情報の一例である。
・例2
図11は、指定された対象と属性に関する修正の選択肢の提示に用いられるインタフェース画面210の一例を示す図表である。
図11に示す図表は、図9(A)に示す指定を前提としている。すなわち、修正の対象は、「居室の窓」の場合である。
図11の場合、修正の対象は、「選択されたparts」の欄211に示されている。修正の属性については、「消去」の欄212と「修正が可能な属性」の欄213が設けられている。
このうち、「消去」の欄212には、「可否」と「理由」の欄が設けられる。図11の場合、窓の消去は「不可」である。その理由は、修正の対象である窓が居室で用いられるためである。
因みに、理由の欄には「「居室」として使われる予定。「居室」の窓に関する規制に建築基準法2条4号がある。」と表示されている。
「修正が可能な属性」の欄213には、「属性名」、「範囲(上限値、下限値)」、「理由」、「推奨」、「理由」の欄が設けられる。
図11の場合、「属性名」には、「壁面上の位置」、「窓のサイズ」、「窓の色」、「枠の色」、「枠の形」、「枠の種別」が例示されている。
以下では、「属性名」に示されている項目別に記載の内容を説明する。
(壁面上の位置)
図11の場合、「範囲(上限値、下限値)」の欄には、「床からの高度a1cm」、「天井までの高度b1cm」、「左壁までの距離c1cm」、「右壁までの距離d1cm」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として「強度上の考慮、工事の難易度、開閉の利便性、セキュリティ上の考慮(子供向け)、電気配線、換気、家具配置、近隣への配慮など」等の情報が示されている。
「推奨」の欄には、「床からの高度a2cm」、「天井までの高度b2cm」、「左壁までの距離c2cm」、「右壁までの距離d2cm」等の情報が示されている。
「理由」の欄には、「強度、コスト、利便性、セキュリティ、その他への影響を総合的に考慮。社内に多くの採用実績がある。」等の推奨の理由が示されている。
(窓のサイズ)
図11の場合、「範囲(上限値、下限値)」の欄には、「採光:採光に有効な面積がその居室の床面積の7分の1以上必要」、「換気:換気に有効な面積がその居室の床面積の20分の1以上必要」、「防火:防火地域や準防火地域では延焼の恐れのある部分に法令で定める構造の防火戸、その他の防火設備が必要」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「建築基準法2条4号」が示されている。
「推奨」の欄には、「e平米」が示されている。
「理由」の欄には、この例の場合、「「落ち着いた雰囲気、プライバシー重視、陽射しをあまり入れたくない」という希望と建築基準法2条4号を満たすため、窓のサイズを縮小する。」等の推奨の理由が示されている。
(窓の色)
図11の場合、「範囲(上限値、下限値)」の欄には、「透明、茶色」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「調達が可能な色」が示されている。
「推奨」の欄には、「淡色」が示されている。
「理由」の欄には、「「温かみがある家」という希望を満たすため、「淡色」を推奨。壁の色との整合性も考慮する。」等の推奨の理由が示されている。なお、推奨の理由では、社内の基準や建築業界におけるデザインに関する基準も参照される。これらは、慣習や常識の類である。
(枠の色)
図11の場合、「範囲(上限値、下限値)」の欄には、「任意」が示されている。すなわち、枠の色については制約が無い。
「理由」の欄には、修正の範囲が制限される理由として、「塗料(混合)による。」等の情報が示されている。
「推奨」の欄には、「淡色」が示されている。
「理由」の欄には、「「温かみがある家」との希望を満たすため、「淡色」を推奨。壁の色との整合性も考慮する。」等の推奨の理由が示されている。なお、推奨の理由では、社内の基準や建築業界におけるデザインに関する基準も参照される。
(枠の形)
図11の場合、「範囲(上限値、下限値)」の欄には、「四角、円型、三角など」が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「調達又は作成が可能な形」等の情報が示されている。
「推奨」の欄には、「四角」が示されている。
「理由」の欄には、「コスト。社内の事例集でも多くの採用実績がある。」等の推奨の理由が示されている。
(枠の種別)
図11の場合、「範囲(上限値、下限値)」の欄には、「引き違い窓、ルーバー窓、上げ下げ窓、すべり出し窓」が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「調達又は作成が可能な形」等の情報が示されている。
「推奨」の欄には、「ルーバー窓」が示されている。
「理由」の欄には、「「落ち着いた雰囲気、プライバシー重視、陽射しをあまり入れたくない」との希望を満たすため。」等の推奨の理由が示されている。
図11に示す表示は、修正を支援する情報の一例である。
・例3
図12は、指定された対象と属性に関する選択肢の提示に用いられるインタフェース画面の他の例を示す図表である。(A)は選択肢が提示される前の画面を示し、(B)は修正が可能な最小サイズを提示する画面を示し、(C)は推奨される枠の種別と窓のサイズを提示する画面を示す。
図12の場合も、インタフェース画面を構成するクエリ画像の表示欄200Aの欄だけを示している。
なお、図12に示す提示の例は、インタフェース画面210(図11参照)が提示された状態で予め定めた操作があった場合に実行されてもよい。もっとも、インタフェース画面210の提示は必須ではない。
図12の場合、修正可能な窓の最小サイズは、元のサイズよりも小さい。また、推奨される枠の種別は、ルーバー窓である。
図12に示す表示は、修正を支援する情報の一例である。
・例4
図13は、修正の対象の指定に用いられるインタフェース画面の他の例を示す図表である。
図13に示すインタフェース画面220の場合、クエリ画像の表示欄200Aとしてロッジ風のリビングの写真が表示されている。クエリ画像200には、薪ストーブ204があり、複数のソファーが配置されている。
図13に示すインタフェース画面220にも、構造情報テキストの入力に用いられるテキスト欄200Bと、感性情報テキストの入力に用いられるテキスト欄200Cとが配置されている。図13の場合、テキスト欄200Bには「リビング」と入力され、テキスト欄200Cには「温かみがある家」が入力されている。
また、図13では、黒色の薪ストーブ204がマウスポインタ202で指定されている。
・例5
図14は、個別制約に基づいた修正の対象に対応する選択肢の提示例を示す図である。図14の場合、修正の対象は薪ストーブ204である。ここでの薪ストーブ204の色は黒色である。
ところで、前述したように、テキスト欄200C(図13参照)には「温かみがある家」が入力されている。このため、インタフェース画面230には、淡色系の薪ストーブが選択肢として表示されている。
図14の場合、インタフェース画面230には、説明文231、選択肢の選択に用いるラジオボタン232、234、選択肢の画像233、235、選択の確定に用いる「確定」ボタン236、選択のキャンセルに用いる「戻る」ボタン237が配置されている。
なお、説明文231には、「「温かみがある家」との条件から、以下の色への修正を提案します。気に入った色があれば、選択して確定ボタンを押してください。」等の情報が表示される。
また、本実施の形態の場合、推奨される薪ストーブは、調達の観点やコストの観点その他の一般成約も考慮して提示される。
図14に示す表示は、修正を支援する情報の一例である。
・例6
図15は、一般制約に基づいた修正の対象に対応する選択肢の提示例を示す図である。(A)はクエリ画像の表示欄200Aにおいて薪ストーブ204が指定された状態を示し、(B)は薪ストーブ204が同じ空間に存在する他の物品に与える影響の提示例を示す。
クエリ画像の表示欄200Aの内容は、図13に示すインタフェース画面220で用いたクエリ画像の表示欄200Aの内容と同じある。すなわち、図15のクエリ画像の表示欄200Aは、リビングの写真である。
(B)に示すインタフェース画面240は、薪ストーブ204が設置されているリビングの平面図を表している。また、薪ストーブ204を中心とする同心円は、薪ストーブ204から周囲に伝わる熱の強さを表している。同心円の中心ほど、伝わる温度が高く、周辺ほど伝わる温度が低いことを色の濃淡で示している。
図15の場合、薪ストーブ204の周囲には、ソファー、キッチン、テーブルが配置されている。なお、薪ストーブ204からの熱の影響は、テーブルが一番大きく、次にキッチン、次にソファーである。この表示は、薪ストーブの周囲に配置されている他の物品の配置に関する修正の必要性に対する気づきをユーザに与える。また、この表示は、ソファーやキッチン等の配置に関する修正に用いられる。
図15に示す表示は、修正を支援する情報の一例である。
図16は、一般制約の一例であるローカル規則に基づいた選択肢の提示例を示す図である。
図16に示すインタフェース画面250は、社内に蓄積されている事例の中から薪ストーブ204の設置場所の候補が3つ見つかった場合における選択肢の表示例である。
なお、3つの候補のうちの1つは、薪ストーブ204をリビングの中央に配置するレイアウトである。ただし、このレイアウトは、ユーザがクエリ画像で選択している。
このため、インタフェース画面250では、他の2つの設置場所が選択肢として表示されている。
選択肢の1つは、薪ストーブ204をリビングの隅に配置するレイアウト243である。レイアウト243の近くには、選択用のラジオボタン242が表示されている。
選択肢の残る1つは、薪ストーブ204を壁際の中央付近に配置するレイアウト245である。レイアウト245の近くにも、選択用のラジオボタン244が表示されている。
その他、インタフェース画面250には、説明文241、選択の確定に用いる「確定」ボタン246、選択のキャンセルに用いる「戻る」ボタン247が配置されている。
図16に示す表示は、修正を支援する情報の一例である。
ところで、薪ストーブ204の配置には、建築基準法や火災予防法等の制約が関係する。
図17は、一般制約の一例である火災予防法上の制約をユーザに提示する画面の例を示す図である。
図17に示すインタフェース画面260には、ストーブ本体と周囲にある可燃物に要求される離隔距離が模式図により表されている。このインタフェース画面260も、修正を支援する情報の一例である。
図17の場合、ストーブ本体と可燃物等との離隔距離は、前方について1.5m以上、後方について1.0m以上、側方について1.0m以上、上方について1.5m以上と定められている。
インタフェース画面260の表示により、図表等のテキストベースでの提示に比して、薪ストーブ204と周囲の物品との間に要求される関係の把握が容易になる。
図18は、一般制約の一例である火災予防法上の制約をユーザに提示する画面の他の例を示す図である。
図18に示す例は、薪ストーブ204をリビングの隅や壁際に設置する場合に火災予防条例等から求められる仕様を表している。
図18の例では、壁と遮熱壁の間に30mm以上の隙間を設ける必要があること、薪ストーブ204と遮熱壁との間に500mm以上の隙間が必要であることが示されている。因みに、遮熱壁には、不燃材である耐火レンガ等が用いられる。
なお、薪ストーブ204の下には、耐熱レンガ炉台等の耐火処理が必要であることも示されている。
図18に示す表示も、ユーザが対象に指定した薪ストーブ204と周囲の物品との関係が図的に表現されるため、図表等のテキストベースだけで提示される場合に比して、要求される仕様の把握が容易になる。図18に示す表示は、修正を支援する情報の一例である。
・例7
図19は、指定された対象と属性に関する修正の選択肢の提示に用いられるインタフェース画面270の一例を示す図表である。
図19に図表は、修正の対象が「リビングにあるストーブ」の場合である。
図19の場合、修正の対象は、「選択されたparts」の欄271に示されている。修正の属性については、「消去」の欄272と「修正が可能な属性」の欄273が設けられている。
このうち、「消去」の欄272には、「可否」と「理由」の欄が設けられる。図19の場合、ストーブの消去は「可」である。
因みに、理由の欄には、「必須ではない。床暖房、エアコン等の代用の暖房手段がある。」と表示されている。
「修正が可能な属性」の欄273には、「属性名」、「範囲(上限値、下限値)」、「理由」、「推奨」、「理由」の欄が設けられる。
図19の場合、「属性名」には、「位置」、「ブランド」、「サイズ」、「色」が例示されている。
以下では、「属性名」に示されている項目別に記載の内容を説明する。
(位置)
図19の場合、「範囲(上限値、下限値)」の欄には、「前方1.5m以上」、「後方1.0m以上」、「側方1.0m以上」、「上方1.5m以上」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「火災予防条例」が示されている。
「推奨」の欄には、「壁際や隅に設置する。前方a3m、後方b3m、側方c3m、上方d3m」が示されている。
「理由」の欄には、「部屋の中央にストーブを設置する例に修正の希望あり。社内の他の事例を抽出。」等の推奨の理由が示されている。
ここでの推奨の例が、インタフェース画面250(図16参照)である。
(ブランド)
図19の場合、「範囲(上限値、下限値)」の欄には、「任意」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「特になし」が示されている。
「推奨」の欄には、「ブランドX、ブランドY、ブランドZ」が示されている。
「理由」の欄には、この例の場合、「調達が可能なブランド。「温かみがある家」との希望との関係でブランドX、Y、Zがおすすめ。」等の推奨の理由が示されている。
(サイズ)
図19の場合、「範囲(上限値、下限値)」の欄には、「任意」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「特になし」が示されている。
「推奨」の欄には、「Mサイズ」が示されている。
「理由」の欄には、「採用実績が最も多いサイズ。」等の推奨の理由が示されている。
(色)
図19の場合、「範囲(上限値、下限値)」の欄には、「任意」等の情報が示されている。
「理由」の欄には、修正の範囲が制限される理由として、「特になし」が示されている。
「推奨」の欄には、「淡色」が示されている。
「理由」の欄には、「「温かみがある家」との希望を満たすため、「淡色」を推奨。」等の推奨の理由が示されている。
図19に示す表示も、修正を支援する情報の一例である。
<他の実施の形態>
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は前述した実施の形態に記載の範囲に限定されない。前述した実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
前述の実施の形態では、設計事務所やデザイン事務所での使用を想定する画像検索システムを例示したが、クエリ画像とテキスト情報を入力する画像検索システムであれば、使用分野は建築関係に限らない。例えばウェブ検索や文書の検索にも活用が可能である。
前述の実施の形態では、修正の対象として窓が指定された場合に、窓が設けられる居室との関係で窓の修正に関する制約が定められているが、窓が設けられる壁面との関係で窓の修正に関する制約が定められてもよい。すなわち、修正の条件は、修正の対象と当該対象が設けられる空間との関係により定まる場合に限らず、修正の対象と修正の対象が設置される部材や場所との関係によって定まる場合もある。また、薪ストーブ204と床との関係や薪ストーブ204と壁との関係も修正の対象と修正の対象が設置される部材や場所との関係の一例である。
なお、窓と壁面の関係等は、修正の対象と他の物品との関係の一例でもある。
なお、前述した各実施の形態におけるプロセッサは、広義的な意味でのプロセッサを指し、汎用的なプロセッサ(例えばCPU(=Central Processing Unit)等)の他、専用的なプロセッサ(例えばGPU(=Graphical Processing Unit)、ASIC(=Application Specific Integrated Circuit)、FPGA(=Field Programmable Gate Array)、プログラム論理デバイス等)を含む。
また、前述した各実施の形態におけるプロセッサの動作は、1つのプロセッサが単独で実行してもよいが、物理的に離れた位置に存在する複数のプロセッサが協働して実行してもよい。また、プロセッサにおける各動作の実行の順序は、前述した各実施の形態に記載した順序のみに限定されるものでなく、個別に変更してもよい。
1…画像検索システム、10…検索サーバ、11…プロセッサ、12…記憶装置、20…データベース、30…端末、50…コンピュータ、51…前処理部、52…構造情報抽出部、53…前処理部、54…感性情報抽出部、101…分類部、102…前処理部、103…特徴抽出部、104、105…正規化部、106…対応特徴分類部、107…特徴補正部、108…検索エンジン、109…クエリ画像修正支援部

Claims (15)

  1. クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示する
    プロセッサを有するクエリ修正支援システム。
  2. 前記条件は、指定された前記対象との関係により定まる、請求項1に記載のクエリ修正支援システム。
  3. 前記プロセッサは、
    前記対象の配置が可能な範囲を提示する、請求項2に記載のクエリ修正支援システム。
  4. 前記プロセッサは、
    前記対象について推奨される位置を提示する、請求項3に記載のクエリ修正支援システム。
  5. 前記プロセッサは、
    前記対象の大きさを変更可能な範囲を提示する、請求項2に記載のクエリ修正支援システム。
  6. 前記プロセッサは、
    前記対象について推奨される大きさを提示する、請求項5に記載のクエリ修正支援システム。
  7. 前記条件は、指定された前記対象と他の物品との関係を含む、請求項3に記載のクエリ修正支援システム。
  8. 前記プロセッサは、
    前記他の物品との関係で修正を支援する情報を提示する、請求項7に記載のクエリ修正支援システム。
  9. 前記条件は、指定された前記対象毎に定まる、請求項1に記載のクエリ修正支援システム。
  10. 前記プロセッサは、
    前記対象について推奨される修正の内容を提示する、請求項9に記載のクエリ修正支援システム。
  11. 前記条件は、検索サービスの提供者により指定される、請求項1に記載のクエリ修正支援システム。
  12. 前記条件は、ユーザが入力したクエリに基づいて設定される、請求項1に記載のクエリ修正支援システム。
  13. 前記プロセッサは、
    前記修正を支援する情報として前記条件の内容を提示する、請求項1に記載のクエリ修正支援システム。
  14. クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示し、
    修正を受け付けた場合、修正後の画像をクエリに用いてデータベースを検索する
    プロセッサを有する検索システム。
  15. コンピュータに、
    クエリとして使用する画像の少なくとも一部が修正の対象として指定された場合、指定された対象に関連する条件に応じて、修正を支援する情報をユーザに提示する機能と
    を実行させるプログラム。
JP2019191529A 2019-10-18 2019-10-18 クエリ修正支援システム、検索システム及びプログラム Pending JP2021068063A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019191529A JP2021068063A (ja) 2019-10-18 2019-10-18 クエリ修正支援システム、検索システム及びプログラム
US16/843,248 US11403292B2 (en) 2019-10-18 2020-04-08 Query modification assistance system, search system, and computer readable medium
CN202010415199.XA CN112685587A (zh) 2019-10-18 2020-05-15 查询修改辅助系统、检索系统以及存储介质
AU2020203176A AU2020203176A1 (en) 2019-10-18 2020-05-15 Query modification assistance system, search system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019191529A JP2021068063A (ja) 2019-10-18 2019-10-18 クエリ修正支援システム、検索システム及びプログラム

Publications (1)

Publication Number Publication Date
JP2021068063A true JP2021068063A (ja) 2021-04-30

Family

ID=75445291

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019191529A Pending JP2021068063A (ja) 2019-10-18 2019-10-18 クエリ修正支援システム、検索システム及びプログラム

Country Status (4)

Country Link
US (1) US11403292B2 (ja)
JP (1) JP2021068063A (ja)
CN (1) CN112685587A (ja)
AU (1) AU2020203176A1 (ja)

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006227994A (ja) 2005-02-18 2006-08-31 Olympus Corp 画像検索表示装置、画像検索表示方法及びプログラム
JP5009577B2 (ja) 2005-09-30 2012-08-22 富士フイルム株式会社 画像検索装置および方法並びにプログラム
JP2009027393A (ja) 2007-07-19 2009-02-05 Hitachi Ltd 映像検索システムおよび人物検索方法
US20100029326A1 (en) * 2008-07-30 2010-02-04 Jonathan Bergstrom Wireless data capture and sharing system, such as image capture and sharing of digital camera images via a wireless cellular network and related tagging of images
US9087078B2 (en) 2012-09-25 2015-07-21 Adobe Systems Incorporated Single user interface for selecting, modifying, and querying images
JP6129020B2 (ja) * 2013-08-07 2017-05-17 三菱電機株式会社 端末装置、エネルギーマネジメントシステム、表示制御方法、及び、プログラム
US9384213B2 (en) * 2013-08-14 2016-07-05 Google Inc. Searching and annotating within images
US10109051B1 (en) * 2016-06-29 2018-10-23 A9.Com, Inc. Item recommendation based on feature match
US10311614B2 (en) * 2016-09-07 2019-06-04 Microsoft Technology Licensing, Llc Customized realty renovation visualization
KR102652362B1 (ko) 2017-01-23 2024-03-29 삼성전자주식회사 전자 장치 및 전자 장치 제어 방법
JP6811645B2 (ja) 2017-02-28 2021-01-13 株式会社日立製作所 画像検索装置及び画像検索方法
US11010421B2 (en) * 2019-05-09 2021-05-18 Microsoft Technology Licensing, Llc Techniques for modifying a query image

Also Published As

Publication number Publication date
US20210117421A1 (en) 2021-04-22
CN112685587A (zh) 2021-04-20
US11403292B2 (en) 2022-08-02
AU2020203176A1 (en) 2021-05-06

Similar Documents

Publication Publication Date Title
US12008666B1 (en) Automatic updating of real estate database
KR20200017347A (ko) 지식 그래프를 생성하기 위한 방법, 장치, 기기 및 컴퓨터 판독 가능 저장 매체
US11494794B1 (en) Estimating the cost of residential remodeling projects
US11941238B2 (en) Systems and methods for entity visualization and management with an entity node editor
JP2007199950A (ja) 情報管理システム、情報管理方法及び情報管理用プログラム
WO2019237571A1 (zh) 定向推荐用户的方法、装置及存储介质、服务器
CN106815377B (zh) 基于建筑信息模型的设计指标自动计算的编制方法及系统
US20140278268A1 (en) Method for mapping elements of a construction project
US20190362545A1 (en) Augmented reality method and system for design
WO2023193576A1 (zh) 建筑规范条款智能筛选确定方法
WO2023193577A1 (zh) 建筑设计自动设计计算方法及系统
JP2021068063A (ja) クエリ修正支援システム、検索システム及びプログラム
US11455332B2 (en) Query change system, search system, and computer readable medium
US11475206B1 (en) Tool for the creation and editing of web page content
JP2017033362A (ja) 建物仕様書作成システム
JP2005025287A (ja) 検索サイトのサーバ、及び検索用ページ提供方法
US20130174085A1 (en) Interactive online showing
AU2020203177B2 (en) Search criterion determination system, search system, and program
JP4408621B2 (ja) 住戸プラン変更方法及びプログラムとこのプログラムを記憶した記憶媒体
JP2002342388A (ja) 面積自動計算システム及びその方法、当該自動面積計算プログラム、及び当該プログラムを記録したコンピュータ読み取り可能な記録媒体、及び当該プログラムを配信する配信サーバ装置
JP6699942B2 (ja) ドア情報提供装置
JP6329424B2 (ja) 建物仕様確定支援システム
JP2009245453A (ja) 検索サイトのサーバ、及び検索用ページ提供方法
JP7525278B2 (ja) 支援システム、及び支援方法
JPH09259160A (ja) プレゼンテーションシステム