DE112019001226T5 - Bildsuchvorrichtung, Bildsuchverfahren, elektronische Vorrichtung und Steuerverfahren dafür - Google Patents

Bildsuchvorrichtung, Bildsuchverfahren, elektronische Vorrichtung und Steuerverfahren dafür Download PDF

Info

Publication number
DE112019001226T5
DE112019001226T5 DE112019001226.6T DE112019001226T DE112019001226T5 DE 112019001226 T5 DE112019001226 T5 DE 112019001226T5 DE 112019001226 T DE112019001226 T DE 112019001226T DE 112019001226 T5 DE112019001226 T5 DE 112019001226T5
Authority
DE
Germany
Prior art keywords
image
search
images
group
receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE112019001226.6T
Other languages
English (en)
Inventor
Ayana Tsuji
Kiyoaki Tanaka
Takahiro Takayama
Lizhou Zhang
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Publication of DE112019001226T5 publication Critical patent/DE112019001226T5/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/535Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/538Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Abstract

Eine Bildsuchvorrichtung enthält ein Suchanfrage-Empfangsmittel, die eine Bildsuchanfrage von einem Benutzer empfängt, ein erstes Auswahlmittel zum Auswählen einer ersten Gruppe von Bildern, die Suchbedingungen entsprechen, aus einer Vielzahl von Bildern auf der Grundlage der Suchanfrage, ein zweites Auswahlmittel zum Auswählen einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage einer Bewertung, die durch eine vorbestimmte Bewertungsformel berechnet wird, und ein Ergebnisausgabemittel zum Ausgeben von Informationen über die zweite Gruppe von Bildern als Suchergebnis. Die Bewertungsformel ist vorgesehen, die Punktzahl für ein Bild in der ersten Gruppe von Bildern in dem Maße zu erhöhen, in welchem sich viele Menschen auf dem vorgegebenen Internet-Dienst positiv auseinandersetzen, und die Punktzahl in dem Maße zu erhöhen, in welchem das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.

Description

  • TECHNISCHES GEBIET
  • Die vorliegende Erfindung bezieht sich auf eine Bildsuchtechnologie.
  • HINTERGRUND
  • Die Verbreitung von Smartphones und das Aufkommen von sozialen Netzwerken (Social-Networking-Services (SNS)) haben es einfacher und bequemer gemacht, persönlich aufgenommene Bilder im Netzwerk zu veröffentlichen und die Bilder mit anderen zu teilen. Diese Art von Dienst ermöglicht es einer Person, nicht nur ihre eigenen Bilder zu veröffentlichen, sondern auch von anderen aufgenommene Bilder zu durchsuchen und nach gewünschten Bildern zu suchen. Beispielsweise kann eine Person soziale Netzwerke verwenden, um Bilder eines Reiseziels oder eines beliebten Ortes als Bezugspunkte für eine Komposition oder einen Blickwinkel zu suchen und zu durchstöbern, wenn sie ihre eigenen Fotos an diesem Ort macht.
  • Ein typisches soziales Netzwerk bietet eine schlüsselwortbasierte Bildsuche (Hashtag-Suche) und ordnet die Suchergebnisse nach ihrer Popularität (sog. „most likes“). Darüber hinaus wird in Patentdokument 1 ein System vorgeschlagen, das es den Benutzern ermöglicht, populäre Bilder effizient zu durchstöbern. Das System klassifiziert die auf dem sozialen Netzwerk (SNS) geposteten Bilder, die eine große Anzahl von Zugriffen (Ansichten) haben, in eine bestimmte Kategorie, um die Effizienz des Bilder-Durchstöberns auf dem sozialen Netzwerk (SNS) zu verbessern.
  • Stand der Technik
  • PATENTDOKUMENTE
  • [Patentdokument 1] Japanische Patentanmeldung mit Veröffentlichungsnummer 2013-196200
  • KURZFASSUNG
  • Technische Aufgabe
  • Ein Verfahren, populäre Bilder einfach als Suchergebnis abzurufen, wie die oben beschriebene konventionelle Bildsuche, neigt dazu, viele Fotos auszugeben, die mit ähnlicher Komposition und ähnlichem Winkel aufgenommen wurden. Während diese Art von Suchergebnissen immer noch hilfreich für Benutzer sind, die Fotos mit einer Standardkomposition oder einem Standardwinkel aufnehmen möchten, sind die Suchergebnisse nicht so hilfreich oder inspirierend für Benutzer, die Fotos mit einer einzigartigen oder unerwarteten Note aufnehmen möchten. Viele aktive Nutzer sozialer Netzwerke wünschen sich, die gleichen Dinge zu tun, die andere tun, und dabei Fotos zu machen, z.B. in beliebte Orte zu gehen und viel besprochene Dinge zu erleben; dennoch möchten sie auch Fotos machen, die Aufmerksamkeit erregen und von anderen geschätzt werden können (d.h. „soziale-Netzwerke-würdige Bilder“). Herkömmliche Verfahren der Bildsuche können solche Wünsche nicht befriedigen.
  • Unter Berücksichtigung der vorgenannten Umstände zielt die vorliegende Erfindung darauf ab, eine Technologie bereitzustellen, die in der Lage ist, ein einzigartiges Bildbeispiel als Suchergebnis zu liefern.
  • Lösung der Aufgabe
  • Ein erster Aspekt der vorliegenden Erfindung sieht eine Bildsuchvorrichtung vor, die ein Suchanfrage-Empfangsmittel zum Empfangen einer Bildsuchanfrage von einem Benutzer, ein erstes Auswahlmittel zum Auswählen einer ersten Gruppe von Bildern aus einer Vielzahl von Bildern, die mit einer Suchbedingung übereinstimmt, die auf der Suchanfrage basiert, ein zweites Auswahlmittel zum Auswählen einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage einer Bewertung, die durch eine vorbestimmte Bewertungsformel berechnet wird, und ein Ergebnisausgabemittel zum Ausgeben von Informationen über die zweite Gruppe von Bildern als ein Suchergebnis umfasst, wobei jedes der mehreren Bilder ein Bild ist, das einer möglichen bewertenden Auseinandersetzung durch eine beliebige Person in einem vorbestimmten Internetdienst unterworfen ist, und die vorbestimmte Bewertungsformel so gestaltet ist, dass sie die Bewertung für ein Bild in der ersten Gruppe von Bildern in dem Maße der positiven Auseinandersetzung vieler Personen in dem vorbestimmten Internetdienst erhöht und die Bewertung in dem Maße erhöht, dass das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.
  • Diese Konfiguration liefert aus einer Gruppe von Bildern, die der Suchbedingung entsprechen, die Bilder, die bei anderen hohe Zustimmung erfahren und reichhaltig variiert sind, mit unkonventionellen Kompositionen oder Winkeln als Suchergebnis. Auf diese Weise kann der Benutzer auf das von der Suche gelieferte Bild verweisen, um ein Bild zu machen, das für andere auffälliger und sympathischer sein könnte.
  • Der erste Aspekt der vorliegenden Erfindung kann ferner ein Auswahlinformations-Empfangsmittel zum Empfangen von Informationen über ein ausgewähltes Bild als Reaktion darauf, dass der Benutzer das Bild aus der zweiten Gruppe von Bildern auswählt, und ein drittes Auswahlmittel zum Auswählen einer dritten Gruppe von Bildern, die dem ausgewählten Bild ähnlich ist, aus der ersten Gruppe von Bildern umfassen, und das Ergebnisausgabemittel kann Informationen über die dritte Gruppe von Bildern als zweites Suchergebnis ausgeben. Bei der Aufnahme eines Bildes kann sich der Benutzer auf die dritte Gruppe von Bildern für Kompositionen und Winkel beziehen.
  • Der erste Aspekt der vorliegenden Erfindung kann ferner eine Datenbank umfassen, die die Vielzahl von Bildern oder deren Zeigerinformationen vorkategorisiert und speichert, die Suchbedingung kann Informationen enthalten, die die Kategorie angeben, und das erste Auswahlmittel kann aus der Datenbank eine Gruppe von Bildern auswählen, die zu einer Kategorie gehören, die der Suchbedingung als erste Gruppe von Bildern entspricht. Die Vorkategorisierung der Bilder auf diese Weise bietet eine erste Filterstufe für die Bilder und ermöglicht einen schnelleren Suchprozess.
  • Die Datenbank kann pro Kategorie Gruppen von Bildern, die zu der Kategorie gehören, auf der Grundlage der Punktzahl vorklassifizieren, und das zweite Auswahlmittel kann aus der ersten Gruppe von Bildern als zweite Gruppe von Bildern eine vorgegebene Anzahl von höchstklassifizierten Bildern auswählen. Eine solche Vorklassifikation der Bilder ermöglicht einen schnelleren Suchprozess.
  • Die Suchanfrage kann ein vom Benutzer eingegebenes Eingangsbild enthalten, und das Suchanfrage-Empfangsmittel kann so konfiguriert werden, dass es ein Element im Eingangsbild erkennt und die Suchbedingung auf der Grundlage des erkannten Elements bestimmt. Entsprechend dieser Konfiguration reicht der Benutzer ein selbst aufgenommenes Bild oder ein vor der eigentlichen Aufnahme erstelltes Vorschaubild als Eingangsbild ein und erhält als Suchergebnis ein Bild mit einem gemeinsamen Element mit dem Eingangsbild, das als bequeme Referenz bei der Aufnahme eines Bildes durch den Benutzer verwendet werden kann.
  • Die Suchanfrage kann vom Benutzer eingegebene Ortsinformationen enthalten, und das Suchanfrage-Empfangsmittel kann die Suchbedingung auf der Grundlage der Ortsinformationen bestimmen. Gemäß dieser Konfiguration erhält der Benutzer, wenn die Information über die aktuelle Position des Benutzers oder ähnliches als Ortsinformation übermittelt wird, ein Bild, das von seiner aktuellen Position als Suchergebnis genommen werden kann, um es als bequeme Referenz zu verwenden, wenn der Benutzer ein Bild aufnimmt.
  • Ein zweiter Aspekt der vorliegenden Erfindung sieht eine elektronische Vorrichtung vor, die über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist; und die elektronische Vorrichtung enthält ein Übertragungsmittel zum Senden einer Bildsuchanfrage an die Bildsuchvorrichtung, ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Bildsuchanfrage von der Bildsuchvorrichtung und ein Anzeigesteuermittel zum Anzeigen der zweiten Gruppe von Bildern auf einer Anzeigevorrichtung auf der Grundlage des empfangenen Suchergebnisses.
  • Ein dritter Aspekt der vorliegenden Erfindung sieht eine elektronische Vorrichtung vor, die über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Die elektronische Vorrichtung enthält ein Übertragungsmittel zum Senden einer Bildsuchanfrage an die Bildsuchvorrichtung, ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung, ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einer Anzeigevorrichtung auf der Grundlage des empfangenen Suchergebnisses, und ein Auswahlanweisungs-Empfangsmittel zum Empfangen einer Auswahlanweisung vom Benutzer, um ein Bild aus der zweiten Gruppe von Bildern auszuwählen. Wenn das Auswahlanweisungs-Empfangsmittel eine Auswahlanweisung empfängt, sendet das Übertragungsmittel Informationen über ein ausgewähltes Bild an die Bildsuchvorrichtung, das Empfangsmittel empfängt das zweite Suchergebnis von der Bildsuchvorrichtung, und das Anzeigesteuerungsmittel zeigt die dritte Gruppe von Bildern, die dem ausgewählten Bild ähnlich ist, auf einer Anzeigevorrichtung auf der Grundlage des zweiten empfangenen Suchergebnisses an.
  • Ein vierter Aspekt der vorliegenden Erfindung sieht eine elektronisches Vorrichtung vor, die über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Die elektronische Vorrichtung enthält ein Bildgewinnungsmittel, ein Übertragungsmittel zum Senden einer Suchanfrage, die ein von dem Bildgewinnungsmittel aufgenommenes Bild als Eingangsbild an die Bildsuchvorrichtung enthält, ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung und ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einer Anzeigevorrichtung auf der Grundlage des empfangenen Suchergebnisses.
  • Das Übertragungsmittel kann so konfiguriert werden, dass es ein von dem Bildgewinnungsmittel aufgenommenes Vorschaubild als Eingangsbild an die Bildsuchvorrichtung sendet, und das Anzeigesteuerungsmittel kann so konfiguriert werden, dass die zweite Gruppe von Bildern auf der Anzeigevorrichtung entlang des Vorschaubildes angezeigt wird.
  • Ein vierter Aspekt der vorliegenden Erfindung kann ferner ein Verarbeitungsmittel zur Verarbeitung eines Bildes umfassen, das mit dem Bildgewinnungsmittel aufgenommen wurde, während oder nachdem die zweite Gruppe von Bildern angezeigt wird, um deren Ähnlichkeit mit der zweiten Gruppe von Bildern zu verringern.
  • Ein fünfter Aspekt der vorliegenden Erfindung sieht eine elektronische Vorrichtung vor, die über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Die elektronische Vorrichtung enthält ein Positionserkennungsmittel, ein Übertragungsmittel zum Senden einer Suchanfrage, die von dem Positionserkennungsmittel erfasste aktuelle Ortsinformation als die Ortsinformation an die Bildsuchvorrichtung enthält, ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanforderung von der Bildsuchvorrichtung und ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einer Anzeigevorrichtung auf der Grundlage des empfangenen Suchergebnisses.
  • Ein sechster Aspekt der vorliegenden Erfindung stellt ein Bildsuchverfahren zur Verfügung, das die Schritte des Empfangens einer Bildsuchanfrage von einem Benutzer, des Auswählens einer ersten Gruppe von Bildern aus einer Vielzahl von Bildern, die einer Suchbedingung entspricht, die auf der Suchanfrage basiert, des Auswählens einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage eines durch eine vorbestimmte Bewertungsformel berechneten Ergebnisses und des Ausgebens von Informationen über die zweite Gruppe von Bildern als Suchergebnis umfasst; jedes der Vielzahl von Bildern ist ein Bild, das einer möglichen bewertenden Auseinandersetzung durch eine beliebige Person in einem vorbestimmten Internet-Dienst unterworfen ist, und die vorbestimmte Bewertungsformel so gestaltet ist, dass sie die Bewertung für ein Bild in der ersten Gruppe von Bildern in dem Maße erhöht, dass viele Personen in dem vorbestimmten Internet-Dienst eine positives Auseinandersetzung zeigen, und die Bewertung in dem Maße erhöht, dass das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.
  • Ein siebter Aspekt der vorliegenden Erfindung sieht ein Programm vor, mit dem ein Computer jeden Schritt des oben beschriebenen Bildsuchverfahrens ausführen kann.
  • Ein achter Aspekt der vorliegenden Erfindung sieht ein Steuerverfahren für ein elektronisches Gerät vor, das über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Das Steuerverfahren umfasst die Schritte des Sendens einer Bildsuchanfrage an die Bildsuchvorrichtung, des Empfangens eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung und des Anzeigens der zweiten Gruppe von Bildern auf der Grundlage des empfangenen Suchergebnisses.
  • Ein neunter Aspekt der vorliegenden Erfindung sieht ein Steuerverfahren für ein elektronisches Gerät vor, das über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Das Verfahren umfasst die Schritte des Sendens einer Bildsuchanfrage an die Bildsuchvorrichtung, des Empfangens eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung, des Anzeigens der zweiten Gruppe von Bildern auf der Grundlage des empfangenen Suchergebnisses und des Empfangens einer Auswahlanweisung vom Benutzer, um ein Bild aus der zweiten Gruppe von Bildern auszuwählen, des Sendens von Informationen über das ausgewählte Bild an die Bildsuchvorrichtung, wenn die Auswahlanweisung empfangen wird, des Empfangens des zweiten Suchergebnisses von der Bildsuchvorrichtung und des Anzeigens der dritten Gruppe von Bildern, die dem ausgewählten Bild ähnlich ist, auf der Grundlage des empfangenen zweiten Suchergebnisses.
  • Ein zehnter Aspekt der vorliegenden Erfindung sieht ein Steuerverfahren für ein elektronisches Gerät vor, das über ein Netzwerk mit dem oben beschriebenen Bildsuchgerät verbunden ist. Das Steuerverfahren umfasst folgende Schritte: Aufnehmen eines Bildes, Senden einer Suchanfrage, die das aufgenommene Bild als Eingangsbild enthält, an die Bildsuchvorrichtung, Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung und Anzeigen der zweiten Gruppe von Bildern auf der Grundlage des empfangenen Suchergebnisses.
  • Ein elfter Aspekt der vorliegenden Erfindung sieht ein Steuerverfahren für ein elektronisches Gerät vor, das über ein Netzwerk mit der oben beschriebenen Bildsuchvorrichtung verbunden ist. Das Steuerverfahren umfasst die Schritte des Erfassens von aktuellen Ortsinformationen, des Sendens einer Suchanfrage, die die als Ortsinformationen erfassten Informationen über den aktuellen Standort enthält, an die Bildsuchvorrichtung, des Empfangens eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung und des Anzeigens der zweiten Gruppe von Bildern auf der Grundlage des empfangenen Suchergebnisses.
  • Ein zwölfter Aspekt der vorliegenden Erfindung sieht ein Programm vor, mit dem ein Computer jeden Schritt des oben beschriebenen Steuerverfahrens für ein elektronisches Gerät ausführen kann.
  • Wirkungen
  • Die vorliegende Erfindung ermöglicht es, ein einzigartiges Bildbeispiel als Suchergebnis bereitzustellen.
  • Figurenliste
    • 1 ist ein Diagramm, das ein Gesamtbild eines Bildsuchdienstes mit einem Bildsuchsystem nach einer Ausführungsform der vorliegenden Erfindung veranschaulicht;
    • 2 ist ein Diagramm, das die Konfiguration des Bildsuchsystems im Detail zeigt;
    • 3 ist ein Flussdiagramm, das den Ablauf der Erstellung von Einträgen in einer Bilddatenbank veranschaulicht;
    • 4 ist ein Diagramm, das ein Beispiel für die Struktur einer Bilddatenbank veranschaulicht;
    • 5 ist ein Diagramm, das die Abläufe auf einem Bildsuchserver und einem Benutzerendgerät veranschaulicht;
    • 6 ist ein Beispiel für die Anzeige eines Vorschaubildes auf einem Benutzerendgerät;
    • 7A und 7B sind Beispiele für die Anzeige empfohlener Bilder auf einem Benutzerendgerät; und
    • 8 ist ein Beispiel für die Anzeige ähnlicher Bilder auf einem Benutzerendgerät.
  • DETAILLIERTE BESCHREIBUNG
  • Anwendungsbeispiel
  • Zunächst wird ein Beispiel für eine Situation beschrieben, in der die vorliegende Erfindung angewendet wird. 1 ist ein Diagramm, das ein Gesamtbild eines Bildsuchdienstes mit einem Bildsuchsystem nach einer Ausführungsform der vorliegenden Erfindung veranschaulicht.
  • Das Bildsuchsystem 1 besteht grob aus einem Bildsuchserver (Bildsuchvorrichtung) 10, der einen Bildsuchdienst zur Verfügung stellt, und einem Benutzerendgerät (elektronische Vorrichtung) 11, das von einem Benutzer des Dienstes benutzt wird. 1 stellt nur einen einzigen Bildsuchserver 10 und ein einziges Benutzerendgerät 11 dar, aber in Wirklichkeit kann das System eine redundante Konfiguration mit einer Vielzahl von Bildsuchservern 10 haben, und der Dienst kann von einer Vielzahl der Benutzerendgeräten 11 genutzt werden.
  • Der Bildsuchserver 10 ist ein Server, der einen Internetdienst zur Verfügung stellt, der auf der Grundlage einer von einem Benutzer erhaltenen Suchanfrage nach einem Bild sucht und das Suchergebnis an den Benutzer zurückgibt. Der Bildsuchserver 10 enthält eine Bilddatenbank 100, die eine Vielzahl von Bildern speichert. Zu beachten ist, dass die Bilddatenbank 100 so konfiguriert werden kann, dass sie anstelle des Bildes selbst (eigentliche Bilddaten) Zeigerinformationen des Bildes (z.B. ein einheitlicher Bezeichner für Ressourcen (Uniform Resource Identifier (URI))) speichert. Das heißt, der Bildsuchserver 10 kann so konfiguriert werden, dass er nicht nur nach Bilddaten sucht, die auf dem Server gespeichert sind und von diesem verwaltet werden, sondern auch nach Bilddaten, die auf anderen Servern gespeichert sind, sowie nach Bilddaten, die von anderen Diensten (wie z.B. einem sozialen Netzwerk (SNS)) bereitgestellt werden.
  • Das Benutzerendgerät 11 ist ein elektronisches Gerät, das sich im Besitz eines Benutzers befindet und von diesem bedient wird, der den Bildsuchdienst nutzt. Während ein Client-Programm beliebige Funktionen und/oder Spezifikationen für die Nutzung des Bildsuchdienstes haben kann, enthält die vorliegende Beispielanwendung ein Programm, das einen Benutzer bei der Aufnahme eines Fotos unterstützt (im Folgenden als „Aufnahmeassistentenanwendung“ bezeichnet).
  • Zunächst startet der Benutzer die Anwendung des Aufnahmeassistentenanwendung auf dem Benutzerendgerät 11. Dann nimmt das Benutzerendgerät 11 (genauer gesagt eine zentrale Verarbeitungseinheit (CPU), die eine Anweisung der Aufnahmeassistentenanwendung ausführt) ein Bild von der Aufnahmevorrichtung auf und zeigt ein Vorschaubild davon auf dem Bildschirm des Benutzerendgeräts 11 an. Das Benutzerendgerät 11 wiederum sendet das Vorschaubild zusammen mit einer Suchanfrage an den Bildsuchserver 10.
  • Der Bildsuchserver 10 analysiert das vom Benutzerendgerät 11 empfangene Bild, um ein darin fotografiertes Element zu erkennen, und bestimmt auf der Grundlage eines Erkennungsergebnisses eine Bildsuchbedingung. Beispielsweise kann der Bildsuchserver 10 Personenerkennung, allgemeine Objekterkennung, Szenenanalyse und Ähnliches durchführen, um ein Element wie eine Person, ein Objekt, eine Landschaft und/oder einen Ort in einem Bild zu erkennen. Anhand eines Erkennungsergebnisses kann eine Suchbedingung (ein Suchbegriff) wie „Frau“, „Paar“, „Auto“, „Tokyo Skytree“, „Mt. Fuji“, „Hawaii“ und „Schiefer Turm von Pisa“ generiert werden. Als nächstes wählt der Bildsuchserver 10 aus der Bilddatenbank 100 ein Bild aus, das der Suchbedingung entspricht (eine erste Auswahl), und wählt dann aus der Gruppe der ausgewählten Bilder (eine erste Gruppe von Bildern) mehrere Bilder aus, die auf sozialen Netzwerken (SNS) usw. eine hohe Zustimmung erfahren und sich von anderen Bildern in der gleichen Kategorie unterscheiden (eine zweite Auswahl). Dann stellt der Bildsuchserver 10 dem Benutzerendgerät 11 als Suchergebnis Informationen über die mehreren ausgewählten Bilder (eine zweite Gruppe von Bildern) zur Verfügung.
  • Das Benutzerendgerät 11 zeigt eine Gruppe von Bildern, die als Suchergebnis vom Bildsuchserver 10 als empfohlene Bilder empfangen wurden, auf dem Bildschirm an (zu diesem Zeitpunkt können die empfohlenen Bilder in einer Weise angezeigt werden, die einen Vergleich mit dem Vorschaubild ermöglicht). Die empfohlenen Bilder sind Bilder, die die Bedingungen erfüllen, dass sie ein gemeinsames Element mit dem Motiv (Subjekt), das der Benutzer fotografieren möchte, aufweisen, eine positive Auseinandersetzung auf dem sozialen Netzwerk (SNS) erhalten haben usw. und eine einzigartige Komposition und/oder einen einzigartigen Winkel aufweisen. Auf diese Weise kann der Benutzer auf empfohlene, auf dem Bildschirm angezeigte Bilder verweisen, um ein potenziell einzigartiges Bild aufzunehmen, das sich positiv auf soziale Netzwerke (SNS) anwenden lässt.
  • Bildsuchsystem
  • Als nächstes wird unter Bezugnahme auf 2 eine spezifische Konfiguration des Bildsuchsystems 1 nach der vorliegenden Ausführungsform beschrieben. 2.
  • Bildsuchserver
  • Der Bildsuchserver 10 umfasst eine Bilddatenbank 100, eine Suchanfrage-Empfangseinheit (ein Suchanfrage-Empfangsmittel) 101, eine Kategorie-Auswahleinheit (ein erstes Auswahlmittel) 102, eine Empfohlenes-Bild-Auswahleinheit (ein zweites Auswahlmittel) 103, eine Auswahlinformations-Empfangseinheit (ein Auswahlinformations-Empfangsmittel) 104, eine Ähnliches-Bild-Auswahleinheit (ein drittes Auswahlmittel) 105 und eine Ergebnis-Ausgabeeinheit (ein ErgebnisAusgabemittel) 106.
  • Die Bilddatenbank 100 ist eine Datenbank, die eine Vielzahl von Bildern oder deren Zeigerinformationen kategorisiert und speichert. Die Suchanfrage-Empfangseinheit 101 erhält eine Suchanfrage vom Benutzerendgerät 11. Die Kategorie-Auswahleinheit 102 identifiziert eine Kategorie, die einer Suchbedingung entspricht, und wählt aus einer Vielzahl von Bildern, die in der Bilddatenbank 100 gespeichert sind, eine Gruppe von Bildern, die zu der Kategorie gehören, als erste Gruppe von Bildern aus. Die Empfohlenes-Bild-Auswahleinheit 103 wählt aus der ersten Gruppe von Bildern mehrere Bilder (eine zweite Gruppe von Bildern) aus, die nach einer vorgegebenen Bewertungsformel eine hohe Punktzahl aufweisen. Die zweite Gruppe von Bildern wird als Suchergebnis an das Benutzerendgerät 11 ausgegeben und als empfohlene Bilder auf dem Bildschirm des Benutzerendgeräts 11 angezeigt. Als Reaktion darauf, dass der Benutzer ein Bild aus der Gruppe der empfohlenen Bilder auswählt, erhält die Auswahlinformations-Empfangseinheit 104 Informationen über das ausgewählte Bild. Die Ähnliches-Bild-Auswahleinheit 105 wählt eine Gruppe von Bildern (eine dritte Gruppe von Bildern), die dem ausgewählten Bild aus der ersten Gruppe von Bildern ähnlich sind, aus. Die Ergebnisausgabeeinheit 106 sendet das Auswahlergebnis der Empfohlenes-Bild-Auswahleinheit 103 und das Auswahlergebnis der Ähnliches-Bild-Auswahleinheit 105 an das Benutzerendgerät 11.
  • Der Bildsuchserver 10 kann z.B. durch die Installation der erforderlichen Programme (ein Betriebssystem, ein Datenbankverwaltungsprogramm, ein Bildsuchprogramm usw.) auf einem Mehrzweck-Server-Computer konfiguriert werden, der mindestens eine CPU (einen Prozessor), einen Arbeitsspeicher, einen Speicher mit großer Kapazität, ein Kommunikationsgerät und ein Eingabegerät umfasst. In dieser Konfiguration sind die in der 2 dargestellten Blöcke 100 bis 106 dadurch realisiert, dass die CPU ein im Speicher abgelegtes Programm in den Arbeitsspeicher lädt und das Programm ausführt. Die Konfiguration des Bildsuchservers 10 ist jedoch nicht hierauf beschränkt. Beispielsweise können einige oder alle Funktionen, die vom Bildsuchserver 10 bereitgestellt werden, durch dedizierte Hardware wie eine anwendungsspezifische integrierte Schaltung (ASIC) oder ein programmierbares Logikgatter (Field Programmable Gate Array (FPGA)) realisiert werden. Der Bildsuchserver 10 kann aus einem einzelnen Computer oder aus mehreren Computern bestehen.
  • Benutzerendgerät
  • Das Benutzerendgerät 11 enthält eine Suchanfragensendeeinheit (ein Übertragungsmittel) 110, eine Suchergebnis-Empfangseinheit (ein Empfangsmittel) 111, eine Anzeigesteuereinheit (ein Anzeigesteuerungsmittel) 112, eine Auswahlanweisungs-Empfangseinheit (ein Auswahlanweisungs-Empfangsmittel) 113 und eine Bildverarbeitungseinheit (ein Verarbeitungsmittel) 114. Das Benutzerendgerät 11 umfasst als Hardware auch eine Aufnahmevorrichtung (ein Bildgewinnungsmittel) 115, ein Touchpanel-Display (ein Anzeigegerät und Eingabegerät) 116 und einen Positionssensor (ein Positionserkennungsmittel) 117.
  • Die Suchanfragenübertragungseinheit 110 sendet eine Suchanfrage an den Bildsuchserver 10. Die Suchergebnis-Empfangseinheit 111 erhält vom Bildsuchserver 10 ein Suchergebnis für die Suchanfrage. Die Anzeigesteuereinheit 112 steuert die Anzeige eines Vorschaubildes, eines Suchergebnisbildes und dergleichen auf dem Touchpanel-Display 116. Die Auswahlanweisungs-Empfangseinheit 113 erhält vom Benutzer eine Auswahlanweisung, ein Bild aus den als Suchergebnis angezeigten empfohlenen Bildern auszuwählen. Die Bildverarbeitungseinheit 114 verarbeitet ein von der Aufnahmevorrichtung 115 aufgenommenes Bild.
  • Die Aufnahmevorrichtung 115 ist eine Kamera, die Standbilder und Videos aufnehmen kann. Das Touchpanel-Display 116 ist ein Gerät, das sowohl als Anzeige- als auch als Eingabegerät fungiert und z.B. als eine Flüssigkristallanzeige, eine organischen Elektrolumineszenzanzeige (EL) oder ähnliches bereitgestellt werden kann. Der Positionssensor 117 ist ein Gerät, das die aktuellen Ortsinformationen des Benutzerendgerät 11 erfasst und z.B. als ein GPS-Sensor bereitgestellt werden kann. Das Benutzerendgerät 11 umfasst außerdem eine CPU (einen Prozessor), einen Arbeitsspeicher und einen Speicher (nicht abgebildet). Die in 2 abgebildeten Blöcke 110 bis 114 werden dadurch realisiert, dass die CPU ein im Speicher abgelegtes Programm (ein Betriebsprogramm, ein Bildbearbeitungs-Assistenzprogramm und dergleichen) in den Arbeitsspeicher lädt und das Programm ausführt. Die Konfiguration des Benutzerendgeräts 11 ist jedoch nicht hierauf beschränkt. Zum Beispiel können einige oder alle Funktionen, die das Benutzerendgerät 11 zur Verfügung stellt, durch dedizierte Hardware wie einen ASIC oder ein FPGA realisiert werden. Darüber hinaus können einige der Funktionen des Benutzerendgeräts 11 von einem Cloud-Server ausgeführt werden.
  • Bilddatenbank
  • Die Struktur der Bilddatenbank 100 und die Art und Weise, wie sie Dateneinträge erzeugt, wird unter Bezugnahme auf die 3 und 4 beschrieben. 3 ist ein Flussdiagramm, das den Prozess der Dateneingabe in die Bilddatenbank 100 illustriert, und 4 ist ein Diagramm, das eine Struktur der Bilddatenbank 100 veranschaulicht.
  • In Schritt S30 beschafft der Bildsuchserver 10 die Daten einer Vielzahl von Bildern, die in der Bilddatenbank 100 registriert werden sollen. Das Bild kann von jeder beliebigen Quelle bezogen werden. Nehmen Sie hier zum Beispiel an, dass ein Bild von einem Sozialen-Netzwerk-Server (SNS-Server) bezogen wird, der von derselben Firma bereitgestellt wird, die auch den Bildsuchdienst anbietet. In diesem sozialen Netzwerk können die Mitglieder selbst aufgenommene Bilder frei veröffentlichen und auch von anderen veröffentlichte Bilder ansehen und sich mit ihnen auseinandersetzen (indem sie „Gefällt mir“ und „Kommentare“ abgeben); ferner können die Mitglieder Bilder mit Metadaten wie Hashtags und Ortsangaben in dem sozialen Netzwerk veröffentlichen.
  • In einem Schritt S31 kategorisiert der Bildsuchserver 10 jedes Bild. Insbesondere führt der Bildsuchserver 10 verschiedene analytische Prozesse durch, darunter Personenerkennung, allgemeine Objekterkennung, Szenenanalyse und ähnliches, um ein Element (eine Person, ein Objekt, einen Ort usw.) in einem Bild zu erkennen. Da bei dieser Art der analytischen Verarbeitung z.B. ein konvolutionelles neuronales Netz (CNN) und andere bekannte Algorithmen zum Einsatz kommen können, wird hier auf eine detaillierte Beschreibung verzichtet. Neben der Bildanalyse kann der Bildsuchserver 10 auch aus den dem Bild hinzugefügten Metadaten (Hashtag, Ortsangaben usw.) auf ein Element in einem Bild schließen. Der Bildsuchserver 10 bestimmt dann die Kategorie des Bildes auf der Grundlage des Bildelements. Zum Beispiel werden die folgenden Kategorien angenommen.
    • • Attribute des Subjekts (Person): „Frau“, „Paar“, „Baby“, „Geschäftsmann“ usw.
    • • Subjekt (allgemeiner Gegenstand): „Auto“, „Berg“, „Kirschblüte“, „Betrachter“, „Tempel“ usw.
    • • Subjekt (Entität): „Berg Fuji“, „Tokio Skytree“, „Kiyomizu-Tempel“, „Schiefer Turm von Pisa“ usw.
    • • Landschaft: „Strand“, „Wolkenkratzer“, „Sonnenuntergang“, „blauer Himmel“ usw.
    • • Ort: „Waikiki Beach, Hawaii“, „Higashi Honganji, Kyoto“ usw.
  • Zu beachten ist, dass die Kategorisierung von Bildern nicht auf das oben genannte beschränkt ist und frei gestaltet werden kann. Darüber hinaus kann ein Bild in mehreren Kategorien registriert werden (z.B. kann ein Bild eines Paares, das am Strand von Waikiki aufgenommen wurde, in vier Kategorien registriert werden: „Paar“, „Strand“, „blauer Himmel“ und „Waikiki Beach, Hawaii“).
  • In einem Schritt S32 ordnet der Bildsuchserver 10 Bilder nach Kategorien. Insbesondere werden Bilder in einer Kategorie nach einer Punktzahl eingestuft, die für jedes Bild durch eine Bewertungsformel vergeben wird, die darauf abzielt, die Punktzahl für ein Bild in dem Maße zu erhöhen, in dem sich viele Menschen positiv auf das oben beschriebene soziale Netzwerk einlassen und die Punktzahl in dem Maße zu erhöhen, in dem das Bild anderen Bildern in derselben Kategorie weniger ähnlich ist. Im Folgenden wird ein Beispiel für die Auswertungsformel beschrieben.
  • Yci = α × Ei + β × Sci ,
    Figure DE112019001226T5_0001
    wobei
    • Yci sich auf die Bewertung eines Bildes i in einer Kategorie c bezieht,
    • Ei sich auf ein Grad des positiven Auseinandersetzens bezieht, das das Bild in dem sozialen Netzwerk erfahren hat,
    • Sei sich auf mangelnde Ähnlichkeit (Unähnlichkeit) zwischen dem Bild i und anderen Bildern in der Kategorie c bezieht, und
    • α, β sich auf Gewichtungsfaktoren beziehen.
  • Der Grad des positiven Auseinandersetzens Ei repräsentiert zum Beispiel die Anzahl der „Gefällt mir“, die das Bild i erhalten hat. Alternativ kann es auch die Anzahl der positiven Kommentare sein, die das Bild i erhalten hat. Ob ein Kommentar positiv ist oder nicht, kann z.B. mit Hilfe der Verarbeitung natürlicher Sprache festgestellt werden.
  • Die fehlende Ähnlichkeit Sci kann z.B. durch folgende Formel berechnet werden:
    Sci = Σsij,
    wobei
    sij sich auf die fehlende Ähnlichkeit zwischen einem Bild i und einem Bild j bezieht, und j ∈ c (jedoch i≠j).
  • Zur Berechnung der Ähnlichkeit kann jeder beliebige Algorithmus verwendet werden. Beispielsweise wird die Ähnlichkeit [bewertet? beurteilt?] durch Vergleiche von Merkmalswerten (Farbe, Helligkeit usw.), Szenen, Haltungen und Posen der Probanden, Bildbearbeitungsmethoden (ein Filter, ein Stempel usw.) und dergleichen, nachgewiesen.
  • 4 zeigt ein Beispiel für die Struktur der Bilddatenbank 100. Eine Vielzahl von Bildern wird in Kategorien eingeteilt und auf der Grundlage der oben beschriebenen Punktzahl Y innerhalb jeder Kategorie in eine Rangfolge gebracht. Zu beachten ist, dass im Beispiel der 4 die Datenbank auch den Grad des positiven Auseinandersetzens E und die fehlende Ähnlichkeit (Unähnlichkeit) S jedes Bildes in dem sozialen Netzwerk speichert. Darüber hinaus sind bei einigen der registrierten Bilder in der Bilddatenbank 100 die eigentlichen Bilddaten registriert, während bei anderen nur die URI, die den Speicherort angibt, registriert ist.
  • Bildsuchdienst
  • Als nächstes wird der Aufnahmeassistent, welcher den Bildsuchdienst des Bildsuchsystems 1 verwendet, unter Bezugnahme auf die 5 bis 8 ausführlich beschrieben. 5 ist ein Diagramm, das die jeweiligen Abläufe des Bildsuchservers 10 und des Benutzerendgeräts 11 veranschaulicht; 6 ist ein Beispiel für die Anzeige eines Vorschaubildes auf dem Benutzerendgerät; 7A und 7B sind Beispiele für empfohlene Bilder; und 8 ist ein Beispiel für die Anzeige ähnlicher Bilder.
  • In einem Schritt S500 nimmt die Anzeigesteuereinheit 112 beim Start der Aufnahmeassistentenanwendung auf dem Benutzerendgerät 11 ein Bild von der Aufnahmevorrichtung 115 auf und zeigt ein Vorschaubild davon auf dem Touchscreen-Display 116 an. Zu beachten ist, dass die Bildaufnahme und die Anzeige des Vorschaubildes in einem vorgegebenen Zeitintervall, z.B. 10 Bilder/Sekunde (fps) und 30 fps, wiederholt werden. 6 ist ein Beispiel für ein Vorschaubild, das auf dem Bildschirm eines Smartphones angezeigt wird, das als Benutzerendgerät 11 dient.
  • Wenn hier der Benutzer in der Aufnahmeassistentenanwendung anweist, „ein empfohlenes Bild anzuzeigen“, sendet die Suchanfragenübertragungseinheit 110 ein Vorschaubild zusammen mit einer Suchanfrage an den Bildsuchserver 10 (ein Schritt S501). In diesem Beispiel wird die Suchanfrage gemäß der Anweisung des Benutzers gesendet, aber die Suchanfrage kann auch automatisch ohne die Anweisung des Benutzers gesendet werden. Beispielsweise kann eine Suchanfrage jedes Mal gesendet werden, wenn ein Vorschaubild von der Aufnahmevorrichtung 115 erfasst wird, oder in einem vorgegebenen Zeitintervall, z.B. einmal pro Sekunde, um die Verarbeitungslast zu verringern. Um den Bearbeitungsaufwand weiter zu reduzieren, kann die Suchanfrage alternativ nur dann gesendet werden, wenn sich ein Inhalt (ein Thema, eine Komposition, ein Winkel usw.) des Vorschaubildes wesentlich geändert hat. Eine inhaltliche Änderung des Vorschaubildes kann z.B. durch einfache Unterschiede des Bildes, durch die Änderung eines Bildmerkmalswertes (Farbe, Helligkeit usw.) oder durch andere Verfahren bewertet werden.
  • In einem Schritt S520 empfängt die Suchanfrage-Empfangseinheit 101 des Bildsuchservers 10 die Suchanfrage und das Vorschaubild vom Benutzerendgerät 11. Dann führt die Suchanfrage-Empfangseinheit 101 in einem Schritt S521 verschiedene analytische Prozesse wie Personenerkennung, allgemeine Objekterkennung und Szenenanalyse auf dem Vorschaubild durch und erkennt dadurch ein Element (eine Person, ein Objekt, eine Landschaft, einen Ort usw.) im Vorschaubild. Auf eine detaillierte Beschreibung der Verarbeitung wird verzichtet, da hier die gleiche Verarbeitung zur Bestimmung einer Kategorie eines Bildes bei der Erstellung eines Eintrags in der Bilddatenbank 100 verwendet werden kann. Die Kategorieinformation des im Schritt S521 erhaltenen Vorschaubildes wird als Suchbedingung für den nächsten Schritt verwendet. Wenn im Schritt S521 eine Vielzahl von Kategoriekandidaten für das Vorschaubild erhalten wird, kann eine durch einen Eigennamen identifizierte Kategorie als Suchbedingung aus den Kandidaten bevorzugt ausgewählt werden. Wenn z.B. „Paar“, „Kirschblüten“, „Tempel“, „Kiyomizu-Tempel“ und „blauer Himmel“ als Kategoriekandidaten erhalten werden, kann die Kategorie „Kiyomizu-Tempel“ als Suchbedingung festgelegt werden. Wenn die Suchbedingung auf diese Weise ausgewählt wird, erhöht sich die Wahrscheinlichkeit, dass ein Bild mit hoher Relevanz für das im Vorschaubild angezeigte Element als Suchergebnis zurückgegeben wird.
  • In einem Schritt S522 wählt die Kategorie-Auswahleinheit 102 aus der Bilddatenbank 100 eine Gruppe von Bildern aus, die zu einer Kategorie gehören, die der Suchbedingung entspricht. Anschließend wählt die Empfohlenes-Bild-Auswahleinheit 103 aus der Gruppe von Bildern, die zu der im Schritt S522 ausgewählten Kategorie gehören, N Bilder mit dem höchsten Rang aus (ein Schritt S523). N ist eine ganze Zahl, die willkürlich festgelegt wird, und in diesem Beispiel ist N=6. Dann, in einem Schritt S524, sendet die Ergebnisausgabeeinheit 106 die Informationen der im Schritt S523 ausgewählten N Bilder an das Benutzerendgerät 11. Zu diesem Zeitpunkt können die eigentlichen Bilddaten, so wie sie vorliegen, gesendet werden; alternativ können Daten einer Version des Bildes in niedrigerer Auflösung oder Zeigerinformationen des Bildes gesendet werden.
  • In einem Schritt S502 erhält die Suchergebnis-Empfangseinheit 111 des Benutzerendgeräts 11 ein Suchergebnis (Informationen der N Bilder) vom Bildsuchserver 10. Dann zeigt die Anzeigesteuereinheit 112 die N Bilder als empfohlene Bilder auf dem Touchscreen-Display 116 an (ein Schritt S503). Die 7A und 7B sind Beispiele für empfohlene Bilder. 7A ist ein Beispiel, in dem eine Gruppe empfohlener Bilder 71 entlang des Vorschaubildes 70 angezeigt wird; 7B ist ein Beispiel, in dem nur eine Gruppe empfohlener Bilder 72 angezeigt wird. Ferner wird im Ausführungsbeispiel der 7B ein Bild mit einer höheren Punktzahl Y in einer größeren Größe angezeigt. Der Benutzer kann sich, wie in den 7A und 7B gezeigt, für die Komposition und den Winkel bei der Aufnahme eines Bildes auf die empfohlenen Bilder beziehen.
  • Wenn der Benutzer eines der empfohlenen Bilder berührt, bestimmt die Auswahlanweisungs-Empfangseinheit 113 das ausgewählte Bild, und die Informationen über das ausgewählte Bild werden von der Suchanfragenübertragungseinheit 110 an den Bildsuchserver 10 gesendet (ein Schritt S504). Dann empfängt die Auswahlinformations-Empfangseinheit 104 des Bildsuchservers 10 die Informationen über das ausgewählte Bild vom Benutzerendgerät 11 (ein Schritt S525), und die Ähnliches-Bild-Auswahleinheit 105 wählt aus den Bildern in der Kategorie, zu der das ausgewählte Bild gehört, M Bilder aus, die dem ausgewählten Bild sehr ähnlich sind (ein Schritt S526). M ist eine ganze Zahl, die willkürlich festgelegt wird, und in diesem Beispiel ist M=6. Zu beachten ist, dass die Ähnlichkeit, die hier verwendet wird, der gleiche Index sein kann wie die Ähnlichkeit, die bei der Erstellung eines Eintrags in der Bilddatenbank 100 verwendet wurde, oder ein anderer Index sein kann. Ferner kann der Ähnlichkeitsindex vom Benutzer bestimmt werden. Indem dem Benutzer beispielsweise die Möglichkeit gegeben wird, eine Ähnlichkeitsperspektive zu wählen, wie z.B. Ähnlichkeit einer Komposition, einer Haltung oder Pose einer Person sowie Farbe oder Helligkeit, ist es möglich, dem Benutzer ein Bild zur Verfügung zu stellen, das ihn eher interessiert. Die Informationen über die M ausgewählten ähnlichen Bilder werden in einem Schritt S527 von der Ergebnisausgabeeinheit 106 an das Benutzerendgerät 11 gesendet.
  • In einem Schritt S505 erhält die Suchergebnis-Empfangseinheit 111 des Benutzerendgeräts 11 ein zusätzliches Suchergebnis (Informationen über die M ähnlichen Bilder) vom Bildsuchserver 10. Dann zeigt die Anzeigesteuereinheit 112 die M ähnlichen Bilder auf dem Touchscreen-Display 116 an (ein Schritt S506). 8 ist ein Beispiel für ähnliche Bilder, die angezeigt werden, wenn ein Bild 73 der 7B ausgewählt wird.
  • Der Benutzer kann sich für die Komposition und den Winkel auf ein ähnliches Bild beziehen, wie in 8 gezeigt, wenn der Benutzer ein Bild aufnimmt.
  • In einem Schritt S507 wird beim Drücken des Auslösers durch den Benutzer ein Bild aufgenommen, und das von der Aufnahmevorrichtung 115 aufgenommene Bild wird in einem Speicher abgelegt. Wenn zu diesem Zeitpunkt eine „Verarbeitungseinstellung“ der Aufnahmeassistentenanwendung aktiviert ist, führt die Bildverarbeitungseinheit 114 eine vorbestimmte Verarbeitung des von der Aufnahmevorrichtung 115 aufgenommenen Bildes durch (ein Schritt S508). Diese Verarbeitung kann jedes Verfahren umfassen, das die Ähnlichkeit zwischen dem aufgenommenen Bild und dem empfohlenen Bild verringern kann. Zum Beispiel kann ein Filterverfahren und ein Dekorationsverfahren wie z.B. Stempeln verwendet werden.
  • Die oben beschriebene Aufnahmeassistentenanwendung ermöglicht es dem Benutzer, sich auf ein empfohlenes Bild zu beziehen, das auf dem Bildschirm angezeigt wird, um ein potenziell einzigartiges Bild aufzunehmen, mit welchem sich im sozialen Netzwerk positiv auseinandergesetzt werden kann.
  • Weiteres
  • Die oben beschriebene Ausführungsform ist lediglich ein Beispiel zur Erläuterung einer Konfiguration der vorliegenden Erfindung. Die vorliegende Erfindung ist nicht auf die oben beschriebene Ausführungsform beschränkt; im Rahmen der technischen Idee können verschiedene Änderungen vorgenommen werden. In der oben beschriebenen Ausführungsform wurde beispielsweise ein Beispiel für die Verwendung einer Aufnahmeassistentenanwendung für einen Bildsuchdienst beschrieben, aber die Anwendung der vorliegenden Erfindung ist hierauf nicht beschränkt.
  • Nachschrift 1
  • Eine Bildsuchvorrichtung (10) umfasst ein Suchanfrage-Empfangsmittel (101) zum Empfangen einer Bildsuchanfrage von einem Benutzer, ein erstes Auswahlmittel (102) zur Auswahl einer ersten Gruppe von Bildern, die einer Suchbedingung entspricht, die auf der Suchanfrage basiert,
    ein zweites Auswahlmittel (103) zum Auswählen einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage einer durch eine vorbestimmte Bewertungsformel berechneten Punktzahl, und ein Ergebnisausgabemittel (106) zur Ausgabe von Informationen über die zweite Gruppe von Bildern als Suchergebnis;
    jedes der Vielzahl von Bildern ist ein Bild, das einer möglichen bewertenden Auseinandersetzung durch eine beliebige Person in einem vorbestimmten Internet-Dienst unterzogen wird, und
    die vorgegebene Bewertungsformel ist vorgesehen, die Punktzahl für ein Bild in der ersten Gruppe von Bildern in dem Maße zu erhöhen, in welchem sich viele Menschen auf dem vorgegebenen Internet-Dienst positiv auseinandersetzen, und die Punktzahl in dem Maße zu erhöhen, in welchem das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.
  • Nachschrift 2
  • Eine elektronische Vorrichtung (11), die über ein Netzwerk mit einer Bildsuchvorrichtung (10) verbunden ist,
    wobei die elektronische Vorrichtung ein Übertragungsmittel (110) zum Senden einer Bildsuchanfrage an die Bildsuchvorrichtung (10) enthält,
    ein Empfangsmittel (111) zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung (10), und
    ein Anzeigesteuerungsmittel (112) zum Anzeigen der zweiten Gruppe von Bildern auf einem Anzeigegerät (116) auf der Grundlage des empfangenen Suchergebnisses.
  • Bezugszeichen
  • Bezugszeichenliste
  • 10;
    Bildsuchserver
    11;
    Benutzerendgerät
    100;
    Bilddatenbank
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • JP 2013196200 [0004]

Claims (19)

  1. Bildsuchvorrichtung, umfassend: ein Suchanfrage-Empfangsmittel zum Empfangen einer Bildsuchanfrage von einem Benutzer; ein erstes Auswahlmittel, um aus einer Vielzahl von Bildern eine erste Gruppe von Bildern auszuwählen, die einer Suchbedingung entspricht, die auf der Suchanfrage basiert; ein zweites Auswahlmittel zur Auswahl einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage einer durch eine vorbestimmte Bewertungsformel berechneten Punktzahl; und ein Ergebnisausgabemittel zum Ausgeben von Informationen über die zweite Gruppe von Bildern als ein Suchergebnis; wobei jedes der Vielzahl von Bildern ein Bild ist, das einer möglichen bewertenden Auseinandersetzung durch eine beliebige Person in einem vorbestimmten Internet-Dienst unterzogen wird; und die vorgegebene Bewertungsformel ist vorgesehen, die Punktzahl für ein Bild in der ersten Gruppe von Bildern in dem Maße zu erhöhen, in welchem sich viele Menschen auf dem vorgegebenen Internet-Dienst positiv auseinandersetzen, und die Punktzahl in dem Maße zu erhöhen, in welchem das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.
  2. Bildsuchvorrichtung nach Anspruch 1, weiterhin umfassend: ein Auswahlinformations-Empfangsmittel zum Empfangen von Informationen eines ausgewählten Bildes in Antwort darauf, dass der Benutzer das Bild aus der zweiten Gruppe von Bildern auswählt; und ein drittes Auswahlmittel, um aus der ersten Gruppe von Bildern eine dritte Gruppe von Bildern auszuwählen, die dem ausgewählten Bild ähnlich ist; wobei das Ergebnisausgabemittel Informationen über die dritte Gruppe von Bildern als zweites Suchergebnis ausgibt.
  3. Bildsuchvorrichtung nach Anspruch 1 oder 2, weiterhin umfassend: eine Datenbank, die die Vielzahl von Bildern oder deren Zeigerinformationen vorkategorisiert und speichert; wobei die Suchbedingung Informationen enthält, die die Kategorie angeben; und das erste Auswahlmittel eine Gruppe von Bildern, die zu einer Kategorie gehören, die der Suchbedingung entspricht, als erste Gruppe von Bildern aus der Datenbank auswählt.
  4. Bildsuchvorrichtung nach Anspruch 3, wobei die Datenbank für jede Kategorie Gruppen von Bildern, die zu der Kategorie gehören, auf der Grundlage der Punktzahl vorklassifiziert, und das zweite Auswahlmittel aus der ersten Gruppe von Bildern eine vorbestimmte Anzahl von höchstklassifizierten Bildern als zweite Gruppe von Bildern auswählt.
  5. Bildsuchvorrichtung nach einem der Ansprüche 1 bis 4, wobei die Suchanfrage ein von einem Benutzer eingegebenes Eingangsbild enthalten kann, und das Suchanfrage-Empfangsmittel ein Element im Eingangsbild erkennt und die Suchbedingung auf der Grundlage des erkannten Elements bestimmt.
  6. Bildsuchvorrichtung nach einem der Ansprüche 1 bis 4, wobei die Suchanfrage vom Benutzer eingegebene Ortsinformationen enthält, und das Suchanfrage-Empfangsmittel die Suchbedingung auf der Grundlage der Ortsinformationen bestimmt.
  7. Elektronische Vorrichtung, die über ein Netzwerk mit einer Bildsuchvorrichtung gemäß einem der Ansprüche 1 bis 6 verbunden ist, wobei die elektronische Vorrichtung umfasst: ein Übertragungsmittel zum Senden einer Bildsuchanfrage an die Bildsuchvorrichtung; ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einem Anzeigegerät auf der Grundlage des empfangenen Suchergebnisses.
  8. Elektronische Vorrichtung, die über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 2 verbunden ist, wobei die elektronische Vorrichtung umfasst: ein Übertragungsmittel zum Senden einer Bildsuchanfrage an die Bildsuchvorrichtung; ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einem Anzeigegerät auf der Grundlage des empfangenen Suchergebnisses; und ein Auswahlanweisungs-Empfangsmittel zum Empfangen einer Auswahlanweisung vom Benutzer, um ein Bild aus der zweiten Gruppe von Bildern auszuwählen; wobei wenn das Auswahlanweisungs-Empfangsmittel eine Auswahlanweisung empfängt, sendet das Übertragungsmittel Informationen über ein ausgewähltes Bild an die Bildsuchvorrichtung, empfängt das Empfangsmittel das zweite Suchergebnis von der Bildsuchvorrichtung und zeigt das Anzeigesteuerungsmittel die dritte Gruppe von Bildern, die dem ausgewählten Bild ähnlich sind, auf einer Anzeigevorrichtung auf der Grundlage des zweiten empfangenen Suchergebnisses an.
  9. Elektronische Vorrichtung, die über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 5 verbunden ist, wobei die elektronische Vorrichtung umfasst: ein Bildgewinnungsmittel; ein Übertragungsmittel zum Senden einer Suchanfrage, die ein von dem Bildgewinnungsmittel aufgenommenes Bild als Eingangsbild an die Bildsuchvorrichtung enthält; ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einem Anzeigegerät auf der Grundlage des empfangenen Suchergebnisses.
  10. Elektronische Vorrichtung nach Anspruch 9; wobei das Übertragungsmittel ein von dem Bildgewinnungsmittel aufgenommenes Vorschaubild als Eingangsbild an die Bildsuchvorrichtung sendet; und das Anzeigesteuerungsmittel die zweite Gruppe von Bildern auf dem Anzeigegerät entlang des Vorschaubildes anzeigt.
  11. Elektronische Vorrichtung nach Anspruch 9 oder 10, weiterhin umfassend: ein Verarbeitungsmittel zum Verarbeiten eines Bildes, das durch das Bildgewinnungsmittel aufgenommen wurde, während oder nachdem die zweite Gruppe von Bildern angezeigt wird, um die Ähnlichkeit des Bildes mit der zweiten Gruppe von Bildern zu verringern.
  12. Elektronische Vorrichtung, die über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 6 verbunden ist, wobei die elektronische Vorrichtung umfasst: ein Positionserkennungsmittel; ein Übertragungsmittel zum Senden einer Suchanfrage, die die von dem Positionserkennungsmittel als die Ortsinformation erkannte aktuelle Ortsinformation enthält, an die Bildsuchvorrichtung; ein Empfangsmittel zum Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und ein Anzeigesteuerungsmittel zum Anzeigen der zweiten Gruppe von Bildern auf einem Anzeigegerät auf der Grundlage des empfangenen Suchergebnisses.
  13. Bildsuchverfahren umfassend folgende Schritte: Empfangen einer Bildsuchanfrage von einem Benutzer; Auswählen einer ersten Gruppe von Bildern aus einer Vielzahl von Bildern, die einer Suchbedingung entspricht, die auf der Suchanfrage basiert; Auswählen einer zweiten Gruppe von Bildern aus der ersten Gruppe von Bildern auf der Grundlage einer durch eine vorgegebene Bewertungsformel berechneten Punktzahl; und Ausgeben von Informationen über die zweite Gruppe von Bildern als ein Suchergebnis; wobei jedes der Vielzahl von Bildern ist ein Bild, das einer möglichen bewertenden Auseinandersetzung durch eine beliebige Person in einem vorbestimmten Internet-Dienst unterzogen wird, und die vorgegebene Bewertungsformel vorgesehen ist, die Punktzahl für ein Bild in der ersten Gruppe von Bildern in dem Maße zu erhöhen, in welchem sich viele Menschen auf dem vorgegebenen Internet-Dienst positiv auseinandersetzen, und die Punktzahl in dem Maße zu erhöhen, in welchem das Bild anderen Bildern in der ersten Gruppe von Bildern weniger ähnlich ist.
  14. Programm für einen Computer zur Ausführung der einzelnen Schritte des Bildsuchverfahrens nach Anspruch 13.
  15. Steuerverfahren für eine elektronische Vorrichtung, die über ein Netzwerk mit der Bildsuchvorrichtung gemäß einem der Ansprüche 1 bis 6 verbunden ist, wobei das Steuerverfahren die folgenden Schritte umfasst: Senden einer Bildsuchanfrage an die Bildsuchvorrichtung; Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und Anzeigen der zweiten Gruppe von Bildern auf der Grundlage des erhaltenen Suchergebnisses.
  16. Steuerverfahren für ein elektronisches Gerät, das über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 2 verbunden ist, wobei das Steuerverfahren folgende Schritte umfasst: Senden einer Bildsuchanfrage an die Bildsuchvorrichtung; Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; Anzeigen der zweiten Gruppe von Bildern auf der Grundlage des erhaltenen Suchergebnisses; Erhalten einer Auswahlanweisung vom Benutzer, um ein Bild aus der zweiten Gruppe von Bildern auszuwählen; Senden von Informationen über das ausgewählte Bild an die Bildsuchvorrichtung, wenn die Auswahlanweisung empfangen wird; Empfangen des zweiten Suchergebnisses von der Bildsuchvorrichtung; und Anzeigen der dritten Gruppe von Bildern, die dem ausgewählten Bild ähnlich sind, auf der Grundlage des zweiten erhaltenen Suchergebnisses.
  17. Steuerverfahren für ein elektronisches Gerät, das über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 5 verbunden ist, wobei das Steuerverfahren folgende Schritte umfasst: Aufnehmen eines Bildes; Senden einer Suchanfrage, die das als Eingangsbild aufgenommene Bild enthält, an die Bildsuchvorrichtung; Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und Anzeigen der zweiten Gruppe von Bildern auf der Grundlage des erhaltenen Suchergebnisses.
  18. Steuerverfahren für ein elektronisches Gerät, das über ein Netzwerk mit einer Bildsuchvorrichtung nach Anspruch 6 verbunden ist, wobei das Steuerverfahren folgende Schritte umfasst: Erkennung von aktuellen Ortsinformationen; Senden einer Suchanfrage, die die als Ortsinformationen erkannte aktuelle Ortsinformation enthält, an die Bildsuchvorrichtung; Empfangen eines Suchergebnisses für die Suchanfrage von der Bildsuchvorrichtung; und Anzeigen der zweiten Gruppe von Bildern auf der Grundlage des erhaltenen Suchergebnisses.
  19. Programm für einen Computer, um jeden Schritt eines Steuerverfahrens für ein elektronisches Gerät nach einem der Ansprüche 15 bis 18 auszuführen.
DE112019001226.6T 2018-03-09 2019-01-23 Bildsuchvorrichtung, Bildsuchverfahren, elektronische Vorrichtung und Steuerverfahren dafür Pending DE112019001226T5 (de)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018042761A JP6947085B2 (ja) 2018-03-09 2018-03-09 電子機器及びその制御方法
JP2018-042761 2018-03-09
PCT/JP2019/002143 WO2019171803A1 (ja) 2018-03-09 2019-01-23 画像検索装置、画像検索方法、電子機器及びその制御方法

Publications (1)

Publication Number Publication Date
DE112019001226T5 true DE112019001226T5 (de) 2020-11-26

Family

ID=67846006

Family Applications (1)

Application Number Title Priority Date Filing Date
DE112019001226.6T Pending DE112019001226T5 (de) 2018-03-09 2019-01-23 Bildsuchvorrichtung, Bildsuchverfahren, elektronische Vorrichtung und Steuerverfahren dafür

Country Status (5)

Country Link
US (1) US11275780B2 (de)
JP (1) JP6947085B2 (de)
CN (1) CN111699478B (de)
DE (1) DE112019001226T5 (de)
WO (1) WO2019171803A1 (de)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11100145B2 (en) * 2019-09-11 2021-08-24 International Business Machines Corporation Dialog-based image retrieval with contextual information
CN111259183B (zh) * 2020-02-21 2023-08-01 北京百度网讯科技有限公司 图像识图方法、装置、电子设备和介质
CN112561893A (zh) * 2020-12-22 2021-03-26 平安银行股份有限公司 图片匹配方法、装置、电子设备及存储介质
CN113868453B (zh) * 2021-09-28 2024-02-27 北京百度网讯科技有限公司 对象推荐方法和装置
WO2023112321A1 (ja) * 2021-12-17 2023-06-22 日本電気株式会社 画像処理システム、画像処理方法及び非一時的なコンピュータ可読媒体

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4891691B2 (ja) 2006-07-31 2012-03-07 ヤフー株式会社 位置情報を付加されたデータを検索する方法およびシステム
JP5262308B2 (ja) * 2008-06-03 2013-08-14 ソニー株式会社 評価装置、評価方法、評価プログラムおよび評価システム
US9087059B2 (en) * 2009-08-07 2015-07-21 Google Inc. User interface for presenting search results for multiple regions of a visual query
JP5706729B2 (ja) * 2011-03-25 2015-04-22 株式会社日本総合研究所 生物画像処理装置及び生物画像処理方法
JP5826513B2 (ja) * 2011-05-16 2015-12-02 株式会社日立国際電気 類似画像検索システム
US8625904B2 (en) * 2011-08-30 2014-01-07 Intellectual Ventures Fund 83 Llc Detecting recurring themes in consumer image collections
JP5582157B2 (ja) 2012-03-16 2014-09-03 カシオ計算機株式会社 ソーシャル・ネットワーク・サービスシステム、画像表示方法、並びにプログラム
US11222044B2 (en) * 2014-05-16 2022-01-11 Microsoft Technology Licensing, Llc Natural language image search
JP6720509B2 (ja) * 2015-11-18 2020-07-08 カシオ計算機株式会社 画像評価装置、画像評価方法及びプログラム
JP2017204169A (ja) * 2016-05-12 2017-11-16 株式会社Nttドコモ 事象判断装置
CN106202316A (zh) * 2016-07-01 2016-12-07 传线网络科技(上海)有限公司 基于视频的商品信息获取方法及装置
JP2018025994A (ja) * 2016-08-10 2018-02-15 株式会社リクポ 情報処理装置、サービス提供予約システム、サービス提供予約サーバ、方法およびプログラム
US11841735B2 (en) * 2017-09-22 2023-12-12 Pinterest, Inc. Object based image search

Also Published As

Publication number Publication date
CN111699478A (zh) 2020-09-22
JP6947085B2 (ja) 2021-10-13
US11275780B2 (en) 2022-03-15
CN111699478B (zh) 2024-06-14
US20200401616A1 (en) 2020-12-24
JP2019159537A (ja) 2019-09-19
WO2019171803A1 (ja) 2019-09-12

Similar Documents

Publication Publication Date Title
DE112019001226T5 (de) Bildsuchvorrichtung, Bildsuchverfahren, elektronische Vorrichtung und Steuerverfahren dafür
DE112015002286T9 (de) Visuelle interaktive suche
DE112019005489T5 (de) Bestimmung visueller attribute zur inhaltsauswahl
DE112017002821T5 (de) Verfahren, System und Computerprogrammprodukt zur interaktiven Identifizierung von gleichen Personen oder Objekten in Videoaufnahmen
DE112011102043T5 (de) Objekterfassungsmetadaten
DE112008003972T5 (de) Automatische Erzeugung einer skalierbaren, nach Relevanz geordneten Darstellung einer Bildsammlung
DE102011003201A1 (de) System für kreative Bildnavigation und Untersuchung
DE112016005006T5 (de) Automatische videozusammenfassung
DE102017009505A1 (de) Erzeugen einer kompakten Videomerkmaldarstellung in einer digitalen Medienumgebung
DE112017006406T5 (de) Intelligentes automatisches zuschneiden von bildern
DE202011110900U1 (de) Systeme zum Sammeln und Bereitstellen von Kartenbildern
DE112019001175T5 (de) Visuelles Feedback zum Prozesszustand
DE112013005851T5 (de) Verfahren und System zum Ermitteln und Auswählen der besten Fotos
DE102011081542A1 (de) Datensuchergebnis-anzeigeverfahren und datensuchergebnis-anzeigevorrichtung
DE112015005186T5 (de) Strukturierte Entitätsinformationsseite
DE102017012116A1 (de) Vorschauerzeugung aus panoramischen Bildern
DE112016001039T5 (de) Vorrichtung und Verfahren zur Extraktion eines interessierenden Bereichs
DE102016125315A1 (de) Informationsverarbeitungsvorrichtung, informationsverarbeitungsverfahren und programm
DE112016002275T5 (de) Koordinierte benutzerwortauswahl zum übersetzen und erhalten von kontextinformtionen für das ausgewählte wort
US20170032187A1 (en) Image processing device, image processing method and recording medium
DE102014113817A1 (de) Vorrichtung und Verfahren zur Erkennung eines Objekts in Einem Bild
US20090157670A1 (en) Contents-retrieving apparatus and method
CN105320514A (zh) 图片处理方法及装置
DE112013001829T5 (de) Verfahren, Gerät und Computerprogrammprodukt zur visuellen Gruppierung von Beziehungen von Datenbanken
US20220159177A1 (en) Imaging system, server, communication terminal, imaging method, program, and recording medium

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R083 Amendment of/additions to inventor(s)