JP2011138512A - Method and system for selecting representative image in removal of duplicated image - Google Patents

Method and system for selecting representative image in removal of duplicated image Download PDF

Info

Publication number
JP2011138512A
JP2011138512A JP2010288777A JP2010288777A JP2011138512A JP 2011138512 A JP2011138512 A JP 2011138512A JP 2010288777 A JP2010288777 A JP 2010288777A JP 2010288777 A JP2010288777 A JP 2010288777A JP 2011138512 A JP2011138512 A JP 2011138512A
Authority
JP
Japan
Prior art keywords
image
images
representative image
search
representative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010288777A
Other languages
Japanese (ja)
Other versions
JP5647509B2 (en
Inventor
Gun Han Park
根 韓 朴
Eikan Kin
榮 寛 金
Dong Wook Kim
東 旭 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NHN Corp
Original Assignee
NHN Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NHN Corp filed Critical NHN Corp
Publication of JP2011138512A publication Critical patent/JP2011138512A/en
Application granted granted Critical
Publication of JP5647509B2 publication Critical patent/JP5647509B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Abstract

<P>PROBLEM TO BE SOLVED: To provide a method and system for selecting a representative image in removal of image duplication. <P>SOLUTION: The method for selecting a representative image in removal of image duplication includes: extracting a plurality of identical images; adding the plurality of identical images to a search object to perform an image search based on a keyword input by a user to the search object; and displaying, when displaying a search result related to the image search, a representative image of the plurality of identical images. A duplicated identical image is not removed prior to a search request by the user, but is removed when the search based on the keyword input by the user is executed, whereby a representative image containing the keyword input by the user is displayed as the search result to enhance the user's convenience for the search result. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、重複画像除去時の代表画像の選択方法及びシステムに関し、特に重複する文書を検索対象に全て表示して、検索時の重複を除去する重複画像除去時の代表画像の選択方法及びシステムに関する。   The present invention relates to a method and system for selecting a representative image when removing duplicate images, and more particularly, a method and system for selecting a representative image when removing duplicate images in which all duplicate documents are displayed as search targets and duplicates are removed during search. About.

ユーザが入力したキーワードに対応して画像の検索を行う画像検索において、検索の対象となる画像に同一の画像が複数存在する場合がある。この場合、検索結果において同一の画像が複数表示されることは、画像検索の品質を低下させる要因となり得る。   In an image search for searching for an image corresponding to a keyword input by a user, there may be a case where there are a plurality of the same images as the search target images. In this case, the display of a plurality of the same images in the search result can be a factor that degrades the quality of the image search.

一方、重複する複数の同一画像を除去して代表画像だけを検索結果として表示する場合、表示された代表画像にユーザが入力したキーワードが含まれていなければ、入力したキーワードと関連する画像が正確に検索されたとしても、ユーザは検索結果の正確性を疑うことになる。   On the other hand, when only a representative image is displayed as a search result by removing a plurality of duplicate identical images, if the displayed representative image does not include the keyword input by the user, the image related to the input keyword is accurate. Even if it is searched, the user doubts the accuracy of the search result.

そこで、重複する画像を除去して代表画像を表示する際に、ユーザが入力したキーワードを含む代表画像を表示するためのキーワード選択方法及びシステムに関する研究が要求されている。   Therefore, research on a keyword selection method and system for displaying a representative image including a keyword input by a user when removing a duplicate image and displaying the representative image is required.

本発明は、ユーザによる検索要請に先立って重複する画像を除去せずに、ユーザが入力したキーワードに基づく検索実行時に重複する文書を除去することによって、ユーザが入力したキーワードを含む代表画像を検索結果に表示させ、検索結果に対するユーザの便宜性を高める代表画像の選択方法及びシステムを提供する。   The present invention searches for a representative image including a keyword input by the user by removing a duplicate document when performing a search based on the keyword input by the user without removing the duplicate image prior to the search request by the user. Provided is a representative image selection method and system that is displayed in a result and enhances user convenience for a search result.

本発明は、各同一画像を含む文書内の単語ごとに予め算出されたターム重み(term weights)を割当て、各画像を含む文書のターム重みをスコアリングし、当該スコアが最も高い画像を代表画像として決定することによって、ユーザが入力したキーワードを含む代表画像を検索結果に表示できるようにする代表画像の選択方法及びシステムを提供する。   The present invention assigns term weights calculated in advance for each word in a document including each identical image, scores the term weight of the document including each image, and selects the image with the highest score as the representative image. Thus, a representative image selection method and system that allows a representative image including a keyword input by a user to be displayed in a search result are provided.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法は、複数の同一画像を抽出し、抽出された複数の同一画像を検索対象に加え、検索対象に対して、ユーザが入力したキーワードに基づく画像の検索を行い、画像検索に係る検索結果を表示する際に、前記複数の同一画像の中から代表画像を表示することを含んでもよい。   According to an embodiment of the present invention, a method for selecting a representative image when removing duplicate images includes extracting a plurality of identical images, adding the extracted plurality of identical images to the search target, and inputting the search target by the user When searching for an image based on the keyword and displaying a search result related to the image search, a representative image from the plurality of the same images may be displayed.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法によれば、複数の同一画像を抽出することは、各画像のシグネチャ(signature:特徴)を比較して画像の同一性を判断し、同一であると判断された複数の画像をグループ化して複数の同一画像を抽出することを含んでもよい。   According to the representative image selection method at the time of duplicate image removal according to an embodiment of the present invention, extracting a plurality of identical images compares the signatures (characteristics) of the images to determine the identity of the images. This may include determining and grouping a plurality of images determined to be the same to extract a plurality of the same images.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法によれば、各画像のシグネチャは、各画像のハッシュ値(hash value)であってもよい。   According to the representative image selection method when removing duplicate images according to an embodiment of the present invention, the signature of each image may be a hash value of each image.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法によれば、代表画像を表示することは、検索結果の複数の同一画像の中から代表画像を選択し、検索結果として表示された複数の同一画像の中から代表画像以外の画像を除去して代表画像を表示することを含んでもよい。 According to the representative image selection method at the time of removing duplicate images according to an embodiment of the present invention, displaying a representative image selects a representative image from a plurality of identical images as search results and displays them as search results. The method may include displaying a representative image by removing an image other than the representative image from the plurality of identical images.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法によれば、複数の同一画像を含む各文書内の1つ以上の単語に付与されるターム重みを計算し、複数の同一画像をそれぞれスコアリングすることをさらに含み、代表画像を表示することは、複数の同一画像のうちスコアが最も高い画像を代表画像として選択してもよい。   According to the representative image selection method for removing duplicate images according to an embodiment of the present invention, a plurality of identical weights are calculated by calculating a term weight to be given to one or more words in each document including a plurality of identical images. The method further includes scoring each image, and displaying the representative image may select an image having the highest score among a plurality of the same images as the representative image.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法によれば、複数の同一画像をスコアリングすることは、一つ以上の単語に予め決められたターム重みを付与し、各単語に付与されたターム重みを各画像別に合算して複数の同一画像をスコアリングしてもよい。   According to the representative image selection method at the time of duplicate image removal according to an embodiment of the present invention, scoring a plurality of identical images gives predetermined term weights to one or more words, A plurality of identical images may be scored by adding the term weights assigned to the words for each image.

本発明の一実施形態に係る重複画像除去時の代表画像の選択システムは、複数の同一画像を抽出する重複画像抽出部と、複数の同一画像を検索対象として表示させる検索対象管理部と、検索対象に対して、ユーザが入力したキーワードに基づく画像検索を行う検索実行部と、画像検索に係る検索結果を表示する際に、複数の同一画像の中から代表画像を表示する検索結果提供部とを含んでもよい。   A representative image selection system for removing duplicate images according to an embodiment of the present invention includes a duplicate image extraction unit that extracts a plurality of identical images, a search target management unit that displays a plurality of identical images as a search target, and a search A search execution unit that performs an image search based on a keyword input by a user for a target; and a search result providing unit that displays a representative image from a plurality of identical images when displaying a search result related to the image search; May be included.

本発明の一実施形態に係る重複画像除去時の代表画像の選択システムによれば、検索結果提供部は、検索結果の複数の同一画像の中から代表画像を選択する代表画像選択部と、検索結果として表示された複数の同一画像の中から代表画像以外の画像を除去して代表画像を表示する画像表示部とを含んでもよい。   According to the representative image selection system for removing duplicate images according to an embodiment of the present invention, the search result providing unit includes a representative image selection unit that selects a representative image from a plurality of identical images of the search result, and a search. An image display unit that displays a representative image by removing an image other than the representative image from a plurality of the same images displayed as a result may be included.

本発明の一実施形態に係る重複画像除去時の代表画像の選択システムによれば、複数の同一画像を含む各文書内の1つ以上の単語に付与されるターム重みを計算するターム重み計算部と、予め計算されたターム重みを用いて複数の同一画像をそれぞれスコアリングする画像スコアリング部とをさらに含み、検索結果提供部は、複数の同一画像の中からスコアが最も高い画像を代表画像として選択してもよい。   According to the representative image selection system for removing duplicate images according to an embodiment of the present invention, a term weight calculator that calculates a term weight to be given to one or more words in each document including a plurality of identical images. And an image scoring unit that scores each of a plurality of the same images using a pre-calculated term weight, and the search result providing unit selects the image having the highest score from the plurality of the same images. You may choose as

本発明の一実施形態に係る重複画像除去時の代表画像の選択システムによれば、ユーザによる検索要請に先立って重複する同一画像を予め除去せずに、ユーザが入力したキーワードに基づく検索実行時に重複する文書を除去することによって、ユーザが入力したキーワードを含む代表画像を検索結果に表示し、検索結果に対するユーザの便宜性を高める代表画像の選択方法及びシステムが提供される。   According to the representative image selection system at the time of duplicate image removal according to an embodiment of the present invention, the search is performed based on the keyword input by the user without previously removing the same duplicate image prior to the search request by the user. A method and system for selecting a representative image that improves a user's convenience for a search result by displaying a representative image including a keyword input by the user in a search result by removing a duplicate document is provided.

本発明の一実施形態に係る重複画像除去時の代表画像の選択システムによれば、各同一画像を含む文書内の単語ごとに算出されたターム重みを当該単語に割当て、各画像をスコアリングし、スコアが最も高い画像を代表画像として決定することによって、ユーザが入力したキーワードを含む代表画像を検索結果に表示できるようにする代表画像の選択方法及びシステムが提供される。   According to the representative image selection system for removing duplicate images according to an embodiment of the present invention, a term weight calculated for each word in a document including each identical image is assigned to the word, and each image is scored. A method and system for selecting a representative image is provided so that a representative image including a keyword input by a user can be displayed in a search result by determining an image having the highest score as a representative image.

本発明の一実施形態に係る重複画像除去時の代表画像の選択方法を示すフローチャートである。It is a flowchart which shows the selection method of the representative image at the time of the duplicate image removal which concerns on one Embodiment of this invention. 本発明の一実施形態に係る検索対象画像の重複を説明するための図である。It is a figure for demonstrating duplication of the search object image which concerns on one Embodiment of this invention. 図1に示す重複画像除去時の代表画像の選択方法において、複数の同一画像を抽出することの一例を示す図である。It is a figure which shows an example which extracts the several same image in the selection method of the representative image at the time of the duplicate image removal shown in FIG. 本発明の他の一実施形態に係る重複画像除去時の代表画像の選択方法を示すフローチャートである。12 is a flowchart illustrating a method for selecting a representative image when removing duplicate images according to another embodiment of the present invention. 本発明の一実施形態に係る重複画像除去時の代表画像の選択方法において、ターム重みを用いて代表画像を選択することを説明するための図である。It is a figure for demonstrating selecting a representative image using term weight in the selection method of the representative image at the time of the duplicate image removal which concerns on one Embodiment of this invention. 本発明の一実施形態に係る重複画像除去時の代表画像の選択システムを示すブロック図である。It is a block diagram which shows the selection system of the representative image at the time of the duplication image removal which concerns on one Embodiment of this invention.

以下、添付の図面に記載された内容を参照して本発明の実施形態を詳細に説明する。ただし、これらの実施形態によって本発明が制限されたり限定されたりすることはない。各図面に記載された同一の参照符号は、同一の部材を示す。   Hereinafter, embodiments of the present invention will be described in detail with reference to the contents described in the accompanying drawings. However, the present invention is not limited or limited by these embodiments. The same reference numerals described in the drawings indicate the same members.

図1は、本発明の一実施形態に係る重複画像除去時の代表画像の選択方法を示すフローチャートである。   FIG. 1 is a flowchart showing a method for selecting a representative image when removing duplicate images according to an embodiment of the present invention.

図1を参照すると、ステップS110では複数の同一画像を抽出する。ウェブページなどに含まれる画像を検索するための検索対象には、同一の画像が複数含まれていてもよく、画像を検索するために、複数の同一画像をすべて抽出してもよい。画像を検索するための検索対象に複数の同一画像が含まれていることの一例について、図2を参照しながら、以下において詳しく説明する。   Referring to FIG. 1, a plurality of identical images are extracted in step S110. A search target for searching for an image included in a web page or the like may include a plurality of the same images, and in order to search for images, all of the plurality of the same images may be extracted. An example in which a plurality of identical images are included in the search target for searching for images will be described in detail below with reference to FIG.

図2は、本発明の一実施形態に係る検索対象画像の重複を説明するための図である。   FIG. 2 is a diagram for explaining duplication of search target images according to an embodiment of the present invention.

図2に示すように、検索の対象となる画像のうちユーザが入力したキーワードである「イ・ヒョリ」と関連する画像211,212,213,214,215,216,217,218,219,220が複数存在する場合がある。ここで、「イ・ヒョリ」と関連する画像の中に、同一の画像が様々なウェブページなどに重複して存在する場合がある。図2の例では、画像1(211)と同一の画像213,220が存在し、さらに画像2(212)と同一の画像218が存在する。この場合、同一の画像をすべて検索結果に表示させると、検索の品質を低下させて検索結果に対するユーザの便宜性を低下させることがあり得るため、同一画像の重複を避け、代表画像だけを検索結果に表示するようにしてもよい。しかし、代表画像を選択して検索結果に表示する場合、どの画像を代表画像として選択して表示するかによって、検索結果の品質が変わることがある。例えば、画像5(215)は画像9(219)と同一の画像であるため、2つの画像215,219のうちいずれか一つの画像を代表画像として選択して表示してもよい。仮に、画像9(219)を代表画像として選択すると、画像9(219)には、ユーザが入力したキーワードである「イ・ヒョリ」が含まれていないため、検索結果にイ・ヒョリに関する画像が表示されたとしても、表示された画像にキーワードである「イ・ヒョリ」が含まれていないため、ユーザは検索が正確になされなかったと判断することもあり得る。そこで、ユーザが検索キーワードを入力して検索を実行する際に代表画像の選択及び重複画像の除去を行うことによって、常に検索キーワードを含む代表画像が選択されるようにしてもよい。   As shown in FIG. 2, images 211, 212, 213, 214, 215, 216, 217, 218, 219, 220 associated with the keyword “Lee Hyori” entered by the user among the images to be searched. There may be more than one. Here, among the images related to “Lee Hyori”, the same image may be duplicated on various web pages. In the example of FIG. 2, the same images 213 and 220 as the image 1 (211) exist, and the same image 218 as the image 2 (212) exists. In this case, if all the same images are displayed in the search results, the quality of the search may be reduced and the user's convenience for the search results may be reduced. Therefore, avoid duplication of the same images and only the representative images are searched. You may make it display on a result. However, when a representative image is selected and displayed in the search result, the quality of the search result may change depending on which image is selected and displayed as the representative image. For example, since the image 5 (215) is the same image as the image 9 (219), any one of the two images 215 and 219 may be selected and displayed as the representative image. If the image 9 (219) is selected as the representative image, the image 9 (219) does not include the keyword “Lee Hyori” input by the user. Even if displayed, since the keyword “Lee Hyori” is not included in the displayed image, the user may determine that the search has not been performed correctly. Therefore, when a user inputs a search keyword and executes a search, a representative image including the search keyword may always be selected by selecting a representative image and removing a duplicate image.

一方、複数の同一画像を抽出することの詳細は、図3を参照しながら以下において詳しく説明する。   On the other hand, details of extracting a plurality of identical images will be described in detail below with reference to FIG.

図3は、図1に示す重複画像除去時の代表画像の選択方法において、複数の同一画像を抽出することの一例を示す図である。   FIG. 3 is a diagram showing an example of extracting a plurality of identical images in the representative image selection method at the time of removing duplicate images shown in FIG.

図3を参照すると、ステップS310では、各画像のシグネチャを比較して画像の同一性を判断してもよい。ここで、画像のシグネチャは、画像に対するハッシュ値であってもよい。   Referring to FIG. 3, in step S310, the signatures of the images may be compared to determine the identity of the images. Here, the image signature may be a hash value for the image.

ステップS320では、同一であると判断された複数の画像をグループ化して複数の同一画像を抽出してもよい。すなわち、画像のシグネチャの比較によって、同一であると判断された画像を画像ごとにグループ化してもよい。よって、複数の同一画像を抽出する際に重複する同一の画像を1つのグループとしてもよい。   In step S320, a plurality of images determined to be the same may be grouped to extract a plurality of the same images. That is, images that are determined to be identical by comparison of image signatures may be grouped for each image. Therefore, it is good also considering the same image which overlaps when extracting several same image as one group.

再び図1を参照すると、ステップS110は、同一画像を含む各文書内に含まれる1つ以上の単語に付与されるターム重みを計算し、計算されたターム重みを用いて複数の同一画像をそれぞれスコアリングすることをさらに含んでもよい。すなわち、複数の同一画像グループに付与されるターム重みを計算して単語ごとに付与されるターム重みを予め決定し、予め決定されたターム重みを各画像を含む文書内の各単語に割当ててもよい。したがって、各単語に割当てられたターム重みを画像ごとに合算して、算出されたスコアの大きさによって各画像の順位を決定してもよい。順位付けされた画像は、その後に代表画像を選択するために用いられてもよく、これについは、以下において詳しく説明する。   Referring to FIG. 1 again, step S110 calculates a term weight to be given to one or more words included in each document including the same image, and uses the calculated term weights to determine a plurality of the same images. Scoring may further be included. That is, it is possible to calculate term weights to be assigned to a plurality of the same image group, determine term weights to be given for each word in advance, and assign the predetermined term weights to each word in the document including each image. Good. Therefore, the term weight assigned to each word may be added for each image, and the rank of each image may be determined based on the calculated score. The ranked images may then be used to select a representative image, which will be described in detail below.

ステップS120では、複数の同一画像を検索対象に加えてもよい。複数の同一画像をすべて検索対象に加え、重複する同一画像をユーザによる検索要請前に予め除去せずに、ユーザによる検索実行時に重複する同一画像を除去するようにしてもよい。   In step S120, a plurality of identical images may be added to the search target. A plurality of identical images may all be added to the search target, and the duplicate identical images may be removed when the user performs a search without removing the duplicate identical images before the user requests the search.

ステップS130では、検索対象に基対して、ユーザが入力したキーワードに基づく画像検索を実行してもよい。すなわち、ユーザが入力したキーワードを含む画像をすべて検索結果として表示してもよく、その検索結果には、複数の重複した同一の画像が含まれていてもよい。   In step S130, an image search based on a keyword input by the user may be executed based on the search target. That is, all the images including the keyword input by the user may be displayed as search results, and the search results may include a plurality of identical identical images.

ステップS140では、画像検索に係る検索結果を表示する際に、複数の同一画像の中から代表画像を表示してもよい。検索結果をユーザに対して表示する時、重複画像を除去して代表画像だけを表示してもよく、代表画像は、ユーザが入力したキーワードを含む画像であってもよい。   In step S140, the representative image may be displayed from among a plurality of the same images when displaying the search result related to the image search. When displaying the search result to the user, the duplicate image may be removed and only the representative image may be displayed, and the representative image may be an image including a keyword input by the user.

この時、一例として、代表画像を決定するために上述の計算されたターム重みを用いて複数の同一画像をスコアリングし、スコアリングした各画像の順位に従って代表画像を決定してもよい。すなわち、予め決定されたターム重みによって順位付けされた画像の順位に従って最も順位の高い画像を複数の重複画像に対する代表画像として決定してもよい。   At this time, as an example, a plurality of identical images may be scored using the calculated term weights to determine a representative image, and the representative image may be determined according to the ranking of each scored image. In other words, the image with the highest rank may be determined as a representative image for a plurality of overlapping images in accordance with the rank of the images ranked by the predetermined term weight.

上述のように、重複画像に対する除去をユーザによる検索前に実行せずに、ユーザがキーワード入力後に検索を行う時に重複画像を除去することによって、代表画像がユーザの入力したキーワードを常に含むことになり、検索結果に対するユーザの満足度を向上させることができる。   As described above, the representative image always includes the keyword entered by the user by removing the duplicate image when the user performs a search after inputting the keyword without performing the removal for the duplicate image before the search by the user. Thus, user satisfaction with the search result can be improved.

図4は、本発明の他の一実施形態における、画像重複除去時の代表画像の選択方法を示すフローチャートである。   FIG. 4 is a flowchart showing a method for selecting a representative image at the time of image duplication removal according to another embodiment of the present invention.

図4を参照すると、ステップS410では、複数の同一画像を抽出してもよい。すなわち、ウェブページなどから画像を検索するための複数の同一画像を抽出してもよい。   Referring to FIG. 4, in step S410, a plurality of identical images may be extracted. That is, a plurality of identical images for searching for images from a web page or the like may be extracted.

ステップS420では同一画像を含む複数の各文書内の1つ以上の単語に付与されるターム重みを計算してもよく、ステップS430ではターム重みを用いて複数の同一画像をそれぞれスコアリングしてもよい。   In step S420, a term weight assigned to one or more words in each of a plurality of documents including the same image may be calculated. In step S430, a plurality of the same images may be scored using the term weight. Good.

ステップS440では、複数の同一画像を検索対象に加えてもよい。   In step S440, a plurality of identical images may be added to the search target.

ステップS450では、検索対象に対して、ユーザが入力したキーワードに基づく画像検索を実行してもよく、ステップS460では複数の同一画像のうちスコアが最も高い画像を代表画像として選択してもよい。   In step S450, an image search based on a keyword input by the user may be performed on the search target. In step S460, an image having the highest score among a plurality of the same images may be selected as a representative image.

ステップS470では、検索結果の複数の同一画像の中から代表画像以外の画像を除去した後、代表画像のみを表示してもよい。   In step S470, only the representative image may be displayed after removing images other than the representative image from the plurality of identical images as the search results.

ここで、ターム重みを計算し、ターム重みを用いて代表画像を選択する本発明の一実施形態について図5を参照しながら以下において詳細に説明する。   Here, an embodiment of the present invention for calculating term weights and selecting a representative image using the term weights will be described in detail below with reference to FIG.

図5は、本発明の一実施形態に係る重複画像除去時の代表画像の選択方法において、ターム重みを用いて代表画像を選択することを説明するための図である。   FIG. 5 is a diagram for describing selection of a representative image using term weights in the method for selecting a representative image when removing duplicate images according to an embodiment of the present invention.

図5を参照すると、「イ・ヒョリ」の画像Aに関する複数の同一画像511,512,513は、1つのグループ510にグループ化することができる。この時、複数の同一画像511,512,513を含む各文書は、互いに異なる単語を含んでもよく、代表画像を決定するために、まず、各文書に含まれる単語に対するターム重みを計算してもよい。予め決定されたターム重みは、各画像に含まれる単語に割当てられてもよく、ターム重みが割当てられた単語のスコアは画像ごとに合算されてもよく、各画像は合算されたスコアに従って順位付けされてもよい。例えば、画像Aに関する複数の同一画像511,512,513は、単語「イ・ヒョリ」、「セクシーな」、「チョン・ジヒョン」、及び「かわいい」を含んでもよく、各単語に対して順に3.5、1.0、1.0、1.0の重みをそれぞれ割り当ててもよい。したがって、予め決定された重みを各画像に含まれる単語に割当てて画像別にスコアを合算し、最も高いスコアを有する画像を代表画像530として決定してもよい。   Referring to FIG. 5, a plurality of the same images 511, 512, and 513 related to the image A of “Lee Hyori” can be grouped into one group 510. At this time, each document including a plurality of the same images 511, 512, and 513 may include different words. To determine a representative image, first, the term weights for the words included in each document are calculated. Good. Pre-determined term weights may be assigned to the words included in each image, the scores of words assigned term weights may be summed for each image, and each image is ranked according to the summed score. May be. For example, a plurality of the same images 511, 512, and 513 related to the image A may include the words “Lee Hyo-ri”, “Sexy”, “Jung Ji Hyun”, and “Cute”, and 3 for each word in turn. Weights of .5, 1.0, 1.0, and 1.0 may be assigned, respectively. Therefore, a predetermined weight may be assigned to words included in each image, and the score may be added for each image, and the image having the highest score may be determined as the representative image 530.

上述のように、重複画像に含まれる各単語に付与されるターム重みを予め決定し、決定されたターム重みのスコアによって各画像を順位付けして代表画像を決定することにより、常にユーザが入力したキーワードを含む代表画像を決定することができる代表画像の選択方法を提供することができる。   As described above, the term weight given to each word included in the duplicate image is determined in advance, and the images are ranked according to the determined term weight score to determine the representative image, so that the user always inputs It is possible to provide a method of selecting a representative image that can determine a representative image including the keyword.

図6は、本発明の一実施形態に係る、重複画像除去時の代表画像の選択システムを示すブロック図である。   FIG. 6 is a block diagram showing a representative image selection system at the time of duplicate image removal according to an embodiment of the present invention.

図6を参照すると、代表画像選択システム600は、重複画像抽出部610、検索対象管理部640、検索実行部650、及び検索結果提供部660を含んでもよい。   Referring to FIG. 6, the representative image selection system 600 may include a duplicate image extraction unit 610, a search target management unit 640, a search execution unit 650, and a search result providing unit 660.

重複画像抽出部610は、ウェブページなどから複数の同一画像を抽出してもよい。すなわち、重複画像抽出部610は、画像を検索するための検索対象画像を提供するためにウェブページなどから複数の同一画像を抽出してもよい。ここで、重複画像抽出部610は、重複判断部611及び重複分類部612を含んでもよい。重複判断部611は、ウェブページなどに存在する画像のシグネチャを比較して画像の同一性を判断し、重複分類部612は画像の同一性判断の結果、同一であると判断された複数の画像をグループ化してもよい。前記画像のシグネチャは、画像のハッシュ値であってもよい。   The duplicate image extraction unit 610 may extract a plurality of identical images from a web page or the like. That is, the duplicate image extraction unit 610 may extract a plurality of identical images from a web page or the like in order to provide a search target image for searching for images. Here, the duplicate image extraction unit 610 may include a duplication determination unit 611 and a duplication classification unit 612. The duplication determination unit 611 compares image signatures existing on a web page or the like to determine the identity of the images, and the duplication classification unit 612 determines a plurality of images that are determined to be the same as a result of the image identity determination. May be grouped. The signature of the image may be a hash value of the image.

検索対象管理部640は、複数の同一画像を検索対象に加えてもよい。すなわち、複数の重複する同一画像をユーザによる検索前に予め除去せずに、画像検索時にウェブページ等から抽出された複数の同一画像をすべて検索対象に加えてもよい。   The search target management unit 640 may add a plurality of identical images to the search target. That is, a plurality of identical images extracted from a web page or the like at the time of image search may be added to the search target without removing a plurality of overlapping identical images in advance before the search by the user.

検索実行部650は、検索対象に対して、ユーザが入力したキーワードに基づく画像検索を実行してもよい。したがって、画像を含む文書内にユーザが入力したキーワードが含まれる場合、検索実行部650によって当該画像が検索されてもよい。   The search execution unit 650 may execute an image search based on a keyword input by the user with respect to the search target. Therefore, when a keyword input by the user is included in a document including an image, the search execution unit 650 may search for the image.

検索結果提供部660は、画像検索に係る検索結果を表示する際に、複数の同一画像の中から代表画像を表示してもよい。すなわち、除去されなかった複数の重複する同一画像を含む検索対象に基づいて画像検索を行い、代表画像を選択することによって、ユーザが入力したキーワードを含む画像を代表画像として選択して検索結果に表示してもよい。   The search result providing unit 660 may display a representative image from a plurality of the same images when displaying the search result related to the image search. That is, an image search is performed based on a search target including a plurality of overlapping identical images that have not been removed, and by selecting a representative image, an image including a keyword input by the user is selected as a representative image and the search result is displayed. It may be displayed.

検索結果提供部660は、検索結果に含まれる複数の同一画像の中から代表画像を選択する代表画像の選択部661と、検索結果に含まれる複数の同一画像の中から代表画像以外の画像を除いて代表画像を表示する画像表示部662とを含んでもよい。したがって、重複する同一画像を除去し、検索結果を表示することができ、代表画像に常にユーザが入力したキーワードが含まれるようにすることができる。   The search result providing unit 660 selects a representative image selecting unit 661 that selects a representative image from a plurality of the same images included in the search result, and selects an image other than the representative image from the plurality of the same images included in the search result. An image display unit 662 that displays a representative image may be included. Therefore, the same duplicate image can be removed and the search result can be displayed, and the keyword input by the user can always be included in the representative image.

一方、代表画像選択システム600は、ターム重み計算部620及び画像スコアリング部630をさらに含むものでもよい。   On the other hand, the representative image selection system 600 may further include a term weight calculation unit 620 and an image scoring unit 630.

ターム重み計算部620は同一画像を含む複数の各文書内の1つ以上の単語に対してターム重みを計算し、画像スコアリング部630はターム重みを用いて複数の同一画像をそれぞれスコアリングしてもよい。すなわち、画像スコアリング部630は、1つ以上の単語に予め決定されたターム重みを付与し、各単語に付与されたターム重みを各画像別に合算して複数の同一画像をスコアリングしてもよい。ここで、スコアリングされた画像のうち最もスコアが高い画像を複数の同一画像に対する代表画像として選択してもよい。   The term weight calculation unit 620 calculates a term weight for one or more words in each of a plurality of documents including the same image, and the image scoring unit 630 scores each of the same images using the term weight. May be. That is, the image scoring unit 630 assigns a predetermined term weight to one or more words, adds the term weights assigned to each word for each image, and scores a plurality of the same images. Good. Here, an image having the highest score among the scored images may be selected as a representative image for a plurality of the same images.

上述のように、ユーザによる検索要請に先立ち重複する同一画像を予め除去せずに、ユーザによる検索実行時に重複する同一画像を含む文書を除去することによって、ユーザが入力したキーワードを含む代表画像を検索結果に表示し、検索結果に対するユーザの便宜性を向上させることができる。   As described above, the representative image including the keyword input by the user is removed by removing the document including the same image that is duplicated at the time of the search execution by the user without removing the same duplicate image in advance before the search request by the user. It is displayed on the search result, and the convenience of the user for the search result can be improved.

また、同一画像を含む文書内の単語ごとに算出されたターム重みを割当てて、各画像をスコアリングした後、スコアが最も高い画像を代表画像として決定することによって、ユーザが入力したキーワードを含む代表画像を常に選択することができる。   In addition, after assigning term weights calculated for each word in a document containing the same image, scoring each image, and determining the image with the highest score as the representative image, the keyword input by the user is included. A representative image can always be selected.

また、本発明の一実施形態に係る画像重複除去時の代表画像の選択方法は、コンピュータにより実現される多様な動作を実行するためのプログラム命令を含むコンピュータ読取可能な記録媒体を含む。前記記録媒体は、プログラム命令、データファイル、データ構造などを単独または組み合わせて含むこともできる。前記記録媒体及びプログラム命令は、本発明の目的のために特別に設計されて構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知であり使用可能なものであってもよい。コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスクのような磁気−光媒体、及びROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置が含まれる。プログラム命令の例としては、コンパイラによって生成されるような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードを含む。上述のハードウェア装置は、本発明の動作を行うために1つ以上のソフトウェアモジュールとして作動するように構成されてもよい。   In addition, the representative image selection method at the time of image deduplication according to an embodiment of the present invention includes a computer-readable recording medium including program instructions for executing various operations realized by a computer. The recording medium may include program instructions, data files, data structures, etc. alone or in combination. The recording medium and program instructions may be specially designed and configured for the purposes of the present invention, and may be known and usable by those skilled in the art in the field of computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy (registered trademark) disks and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magnetic-lights such as floppy disks. A medium and a hardware device specially configured to store and execute program instructions such as ROM, RAM, flash memory, etc. are included. Examples of program instructions include not only machine language code generated by a compiler but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the present invention.

上述したように、本発明では具体的な構成要素などと同じ特定事項と限定された実施形態及び図面によって説明したが、これは本発明のより全般的な理解を助けるために提供されたものであり、本発明は、前記の実施例に限定されるものではなく、本発明が属する技術分野における通常の知識を持つ者であれば、このような記載から多様な修正及び変形が可能である。   As described above, the present invention has been described using the same specific matters as specific components and the like and limited embodiments and drawings, but this is provided to help a more general understanding of the present invention. The present invention is not limited to the above-described embodiments, and various modifications and variations can be made from such description by those having ordinary knowledge in the technical field to which the present invention belongs.

したがって、本発明の思想は説明した実施形態に限定されず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等であるか等価な変形のあるすべてのものを本発明の思想の範囲に属するものとする。   Accordingly, the concept of the present invention is not limited to the embodiments described above, and includes not only the claims described below, but also all modifications that are equivalent or equivalent to the scope of the claims. It belongs to the range.

Claims (15)

複数の同一画像を抽出し、
前記複数の同一画像を検索対象に加え、
前記検索対象に対して、ユーザが入力したキーワードに基づく画像検索を行い、
前記画像検索に係る検索結果を表示する際に、前記複数の同一画像の中から代表画像を表示すること、
を含むことを特徴とする画像重複除去時の代表画像の選択方法。
Extract multiple identical images,
Adding the plurality of identical images to the search target;
An image search based on a keyword input by the user is performed on the search target,
Displaying a representative image from the plurality of the same images when displaying the search result related to the image search;
A method for selecting a representative image at the time of image deduplication.
前記複数の同一画像を抽出することは、
各画像のシグネチャを比較して画像の同一性を判断し、
互いに同一であると判断された複数の画像をグループ化して前記複数の同一画像を抽出すること、
を含むことを特徴とする請求項1に記載の画像重複除去時の代表画像の選択方法。
Extracting the plurality of identical images includes:
Compare the signatures of each image to determine the identity of the images,
Grouping a plurality of images determined to be identical to each other and extracting the plurality of the same images;
The method for selecting a representative image at the time of image duplication removal according to claim 1, further comprising:
前記各画像のシグネチャは、
前記各画像のハッシュ値であることを特徴とする請求項2に記載の画像重複除去時の代表画像の選択方法。
The signature of each image is
The method for selecting a representative image at the time of image duplication removal according to claim 2, wherein the hash value of each image is used.
前記画像検索を行うことは、
前記複数の同一画像を含む文書内の単語に前記ユーザが入力したキーワードが含まれる場合、前記複数の同一画像が検索されることを特徴とする請求項1に記載の画像重複除去時の代表画像の選択方法。
Performing the image search
The representative image at the time of image deduplication according to claim 1, wherein when the keyword input by the user is included in a word in the document including the plurality of the same images, the plurality of the same images are searched. How to choose.
前記代表画像を表示することは、
前記検索結果に含まれる複数の同一画像の中から代表画像を選択し、
前記検索結果に含まれる前記複数の同一画像の中から前記代表画像以外の同一画像を除去して前記代表画像を表示すること、
を含むことを特徴とする請求項1に記載の画像重複除去時の代表画像の選択方法。
Displaying the representative image
Selecting a representative image from a plurality of identical images included in the search results;
Removing the same image other than the representative image from the plurality of the same images included in the search result and displaying the representative image;
The method for selecting a representative image at the time of image duplication removal according to claim 1, further comprising:
前記同一画像を含む各文書内の1つ以上の単語に付与されるターム重みを予め計算し、
前記ターム重みを用いて前記複数の同一画像をそれぞれスコアリングすること、
をさらに含み、
前記複数の同一画像の中から代表画像を表示することは、
前記複数の同一画像の中からスコアが最も高い画像を前記代表画像として選択することを特徴とする請求項1に記載の画像重複除去時の代表画像の選択方法。
Pre-calculating term weights to be given to one or more words in each document containing the same image;
Scoring each of the plurality of identical images using the term weights;
Further including
Displaying a representative image from the plurality of the same images,
2. The method for selecting a representative image at the time of image duplication removal according to claim 1, wherein an image having the highest score is selected as the representative image from the plurality of identical images.
前記複数の同一画像をスコアリングすることは、
前記一つ以上の単語に予め決定された前記ターム重みを付与して、各単語に付与された前記ターム重みを各画像別に合算して前記複数の同一画像をスコアリングすることを特徴とする請求項6に記載の画像重複除去時の代表画像の選択方法。
Scoring the plurality of identical images includes
The predetermined term weight is given to the one or more words, and the term weight given to each word is added up for each image to score the plurality of identical images. Item 7. A method for selecting a representative image at the time of image duplication removal according to Item 6.
請求項1乃至請求項7のいずれか一項に記載の方法を実行するためのプログラムが記録されていることを特徴とするコンピュータで読み出し可能な記録媒体。   A computer-readable recording medium on which a program for executing the method according to any one of claims 1 to 7 is recorded. 複数の同一画像を抽出する重複画像抽出部と、
前記複数の同一画像を検索対象に表示させる検索対象管理部と、
前記検索対象に対して、ユーザが入力したキーワードに基づく画像検索を行う検索実行部と、
前記画像検索に係る検索結果を表示する際に、前記複数の同一画像の中から代表画像を表示する検索結果提供部と、
を含むことを特徴とする画像重複除去時の代表画像の選択システム。
A duplicate image extraction unit for extracting a plurality of identical images;
A search object management unit for displaying the plurality of identical images on a search object;
A search execution unit that performs an image search based on a keyword input by a user with respect to the search target;
A search result providing unit for displaying a representative image from the plurality of the same images when displaying a search result related to the image search;
A representative image selection system at the time of image duplication removal.
前記重複画像抽出部は、
各画像のシグネチャを比較して画像の同一性を判断する重複判断部と、
同一であると判断された複数の画像をグループ化する重複分類部と、
を含むことを特徴とする請求項9に記載の画像重複除去時の代表画像の選択システム。
The duplicate image extraction unit includes:
A duplication determination unit that compares the signatures of the images to determine the identity of the images;
A duplicate classifier for grouping multiple images determined to be the same;
The representative image selection system at the time of image duplication removal according to claim 9.
前記各画像のシグネチャは、
前記各画像のハッシュ値であることを特徴とする請求項10に記載の画像重複除去時の代表画像の選択システム。
The signature of each image is
11. The representative image selection system at the time of image duplication removal according to claim 10, wherein the hash value of each image is used.
前記検索実行部は、
前記複数の同一画像を含む文書内の単語に前記ユーザが入力したキーワードが含まれる場合、前記複数の同一画像が検索されることを特徴とする請求項9に記載の画像重複除去時の代表画像の選択システム。
The search execution unit
The representative image at the time of image deduplication according to claim 9, wherein the plurality of identical images are searched when a keyword input by the user is included in a word in the document including the plurality of identical images. Selection system.
前記検索結果提供部は、
前記検索結果に含まれる複数の同一画像の中から代表画像を選択する代表画像選択部と、
前記検索結果に含まれる前記複数の同一画像の中から前記代表画像以外の画像を除去して前記代表画像を表示する画像表示部と、
を含むことを特徴とする請求項9に記載の画像重複除去時の代表画像の選択システム。
The search result providing unit
A representative image selection unit for selecting a representative image from a plurality of the same images included in the search result;
An image display unit that displays the representative image by removing images other than the representative image from the plurality of the same images included in the search result;
The representative image selection system at the time of image duplication removal according to claim 9.
前記同一画像を含む各文書内の1つ以上の単語に付与されるターム重みを計算するターム重み計算部と、
前記ターム重みを用いて前記複数の同一画像をそれぞれスコアリングする画像スコアリング部と、
をさらに含み、
前記検索結果提供部は、
前記複数の同一画像の中からスコアが最も高い画像を前記代表画像として選択することを特徴とする請求項9に記載の画像重複除去時の代表画像の選択システム。
A term weight calculator for calculating a term weight to be given to one or more words in each document containing the same image;
An image scoring unit for scoring each of the plurality of identical images using the term weights;
Further including
The search result providing unit
The representative image selection system at the time of image duplication removal according to claim 9, wherein an image having the highest score is selected as the representative image from the plurality of the same images.
前記画像スコアリング部は、
前記一つ以上の単語に予め決定された前記ターム重みを付与して、各単語に付与された前記ターム重みを各画像別に合算して前記複数の同一画像をスコアリングすることを特徴とする請求項14に記載の画像重複除去時の代表画像の選択システム。
The image scoring unit
The predetermined term weight is given to the one or more words, and the term weight given to each word is added up for each image to score the plurality of identical images. Item 15. The representative image selection system at the time of image duplication removal according to Item 14.
JP2010288777A 2009-12-29 2010-12-24 Method and system for selecting representative image when removing duplicate images Expired - Fee Related JP5647509B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2009-0132704 2009-12-29
KR1020090132704A KR101108761B1 (en) 2009-12-29 2009-12-29 System and method for selecting representative image in eliminating image redundancy

Publications (2)

Publication Number Publication Date
JP2011138512A true JP2011138512A (en) 2011-07-14
JP5647509B2 JP5647509B2 (en) 2014-12-24

Family

ID=44349806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010288777A Expired - Fee Related JP5647509B2 (en) 2009-12-29 2010-12-24 Method and system for selecting representative image when removing duplicate images

Country Status (2)

Country Link
JP (1) JP5647509B2 (en)
KR (1) KR101108761B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10013426B2 (en) 2012-06-14 2018-07-03 International Business Machines Corporation Deduplicating similar image objects in a document

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8837867B2 (en) 2012-12-07 2014-09-16 Realnetworks, Inc. Method and system to detect and select best photographs
EP4164234A4 (en) * 2020-06-04 2024-04-10 Lg Electronics Inc Image display device and operation method thereof

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000305933A (en) * 1999-04-26 2000-11-02 Canon Inc Information retrieving device, information retrieving method and storage medium
JP2003203090A (en) * 2002-01-07 2003-07-18 Ricoh Co Ltd Image space displaying method
JP2004102792A (en) * 2002-09-11 2004-04-02 Canon Inc Image retrieval device and image retrieval method, program, and medium
JP2005182179A (en) * 2003-12-16 2005-07-07 Hitachi Medical Corp Image search system and program
JP2006221446A (en) * 2005-02-10 2006-08-24 Mitsubishi Electric Corp Image search device
JP2008167291A (en) * 2006-12-28 2008-07-17 Canon Inc Information processing apparatus, method and program
JP2009295104A (en) * 2008-06-09 2009-12-17 Fujifilm Corp Website retrieving device, image information collecting server, and website retrieving method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100706389B1 (en) * 2005-07-15 2007-04-10 (주)첫눈 Image search method and apparatus considering a similarity among the images
KR100785928B1 (en) 2006-07-04 2007-12-17 삼성전자주식회사 Method and system for searching photograph using multimodal

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000305933A (en) * 1999-04-26 2000-11-02 Canon Inc Information retrieving device, information retrieving method and storage medium
JP2003203090A (en) * 2002-01-07 2003-07-18 Ricoh Co Ltd Image space displaying method
JP2004102792A (en) * 2002-09-11 2004-04-02 Canon Inc Image retrieval device and image retrieval method, program, and medium
JP2005182179A (en) * 2003-12-16 2005-07-07 Hitachi Medical Corp Image search system and program
JP2006221446A (en) * 2005-02-10 2006-08-24 Mitsubishi Electric Corp Image search device
JP2008167291A (en) * 2006-12-28 2008-07-17 Canon Inc Information processing apparatus, method and program
JP2009295104A (en) * 2008-06-09 2009-12-17 Fujifilm Corp Website retrieving device, image information collecting server, and website retrieving method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10013426B2 (en) 2012-06-14 2018-07-03 International Business Machines Corporation Deduplicating similar image objects in a document

Also Published As

Publication number Publication date
KR20110076089A (en) 2011-07-06
KR101108761B1 (en) 2012-02-24
JP5647509B2 (en) 2014-12-24

Similar Documents

Publication Publication Date Title
JP5472110B2 (en) Relationship discovery device, relationship discovery method, and relationship discovery program
JP2010009577A (en) Information processing apparatus, full text retrieval method, full text retrieval program, and recording medium
JP2012208604A5 (en)
JP4896132B2 (en) Information retrieval method and apparatus reflecting information value
RU2018122689A (en) METHOD AND SELECTION SYSTEM FOR RANKING SEARCH RESULTS USING THE MACHINE LEARNING ALGORITHM
JP5647509B2 (en) Method and system for selecting representative image when removing duplicate images
JP5687312B2 (en) Digital information analysis system, digital information analysis method, and digital information analysis program
JP5891875B2 (en) Information processing apparatus and information processing program
JP2012038066A (en) Data processor and data processing method and program
WO2021174924A1 (en) Information generation method and apparatus, electronic device, and storage medium
US20140280050A1 (en) Term searching based on context
JP5439235B2 (en) Document classification method, document classification device, and program
JP2019148859A (en) Device and method supporting discovery of design pattern in model development environment using flow diagram
JP5613536B2 (en) Method, system, and computer-readable recording medium for dynamically extracting and providing the most suitable image according to a user&#39;s request
KR20080024584A (en) Method for making document score using book search and system for executing the method
JP5826148B2 (en) Drawing management server and drawing management system using the same
KR101083476B1 (en) System and method for calculation rank of document using position information of document
JP2009146013A (en) Content retrieval method, its device, and program
JP2012027525A (en) File storage auxiliary system, method and program
KR101421819B1 (en) Method for providing keyword search result using balloon in an online environment
JP5188290B2 (en) Annotation apparatus, annotation method and program
JP2016091354A (en) Information processing device and information processing program
JP2009271671A (en) Information processor, information processing method, program, and recording medium
JP6707410B2 (en) Document search device, document search method, and computer program
JP5589009B2 (en) RECOMMENDED QUERY EXTRACTION DEVICE, METHOD, AND PROGRAM

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130703

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140218

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140522

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141107

R150 Certificate of patent or registration of utility model

Ref document number: 5647509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees