WO2019207795A1 - 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ - Google Patents

行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ Download PDF

Info

Publication number
WO2019207795A1
WO2019207795A1 PCT/JP2018/017315 JP2018017315W WO2019207795A1 WO 2019207795 A1 WO2019207795 A1 WO 2019207795A1 JP 2018017315 W JP2018017315 W JP 2018017315W WO 2019207795 A1 WO2019207795 A1 WO 2019207795A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
person
behavior
action
camera
Prior art date
Application number
PCT/JP2018/017315
Other languages
English (en)
French (fr)
Inventor
田中 正道
将仁 谷口
Original Assignee
株式会社ウフル
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ウフル filed Critical 株式会社ウフル
Priority to PCT/JP2018/017315 priority Critical patent/WO2019207795A1/ja
Priority to JP2020515453A priority patent/JP6812603B2/ja
Publication of WO2019207795A1 publication Critical patent/WO2019207795A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising

Definitions

  • the present invention relates to a marketing technology using IoT (Internet of Things).
  • IoT Internet of Things
  • Patent Document 1 discloses a technology that supports marketing analysis for efficiently performing advertisement and sales promotion by correctly associating and storing customer information and purchase information using a smaller number of network camera devices.
  • the present invention aims to efficiently provide information on matters presumed that people are interested using IoT.
  • the present invention provides first control means for controlling an image sensor module in a camera so as to extract feature information related to the appearance of a person based on an image captured by the camera, and the image Second control means for controlling the image sensor module so as to detect that the person has taken a predetermined action on the basis of the information on the person's characteristic information and the person
  • the user's appearance characteristics and information destinations are stored in association with each other
  • a specifying unit that specifies one or more transmission destinations corresponding to the acquired feature information, and a wide area corresponding to the acquired action information to the specified one or more transmission destinations.
  • the behavior related information providing system further includes an interference unit that executes transmission of the feature information and the behavior information to the acquisition unit when the predetermined behavior is detected.
  • the behavior information preferably indicates a degree of interest in the person's product. More specifically, it is preferable that the behavior information includes information indicating that the product has been purchased, the product has been tried, or the product has been viewed. It is considered that the actor's interest in the product is higher when the product is used than when the product is simply viewed, and when the product is actually purchased, the actor's interest in the product is further increased. It is because the degree of is considered high.
  • the specifying unit specifies one or more users whose degree of coincidence between the appearance features of the user stored in the database and the feature information acquired by the acquiring unit is a predetermined value or more.
  • the transmission destination is a user terminal
  • the acquisition unit further acquires information indicating the position of the camera and the timing at which the behavior information is detected from the camera
  • the specifying unit Among the one or more specified transmission destinations, the acquired position information of the user terminal and the timing at which the position information is acquired satisfy the predetermined relationship between the position of the camera and the timing at which the action information is detected. Identify things.
  • the camera includes a first camera and a second camera, and one transmission destination is determined using feature information and behavior information acquired for each camera.
  • the providing means provides the advertisement information at a timing corresponding to the behavior information.
  • the present invention includes a step of controlling an image sensor module in the camera so as to extract feature information related to the appearance of a person based on an image captured by the camera; And controlling the image sensor module to detect that the person has taken a predetermined action based on the person's feature information and the predetermined action for the person for which the predetermined action has been detected.
  • the present invention provides a step of controlling an image sensor module in a camera so that one or more computers extract feature information related to the appearance of a person based on an image captured by the camera; Controlling the image sensor module so as to detect that the person has taken a predetermined action based on an image; and detecting that the person has taken a predetermined action based on the image; A step of acquiring characteristic information of the person and behavior information indicating the predetermined action via a communication network for the person for which the predetermined action is detected; Referring to the database stored in association with the destination, specify one or more destinations corresponding to the acquired feature information And step, to one or more destination that is the specified, provides a program for executing and providing the advertisement information corresponding to the acquired action information.
  • the present invention provides a communication unit, an imaging unit, a first control unit that controls the imaging unit so as to extract feature information regarding the appearance of a person based on the captured image, and the image
  • a second control unit that controls the imaging means so as to detect that the person has taken a predetermined action based on the characteristics of the person and the characteristic information of the person and the predetermined
  • a camera having transmission means for transmitting action information indicating the action to a server using the communication means.
  • the present invention efficiently provides information related to matters presumed to be of interest to people using IoT.
  • FIG. 1 shows the structural example of the action related information provision system 100 by one Embodiment of this invention. It is a figure which shows an example of the hardware constitutions of the edge device 110 contained in the action related information provision system 100.
  • 2 is a diagram illustrating an example of a functional configuration of an edge device 110.
  • FIG. It is a figure which shows an example of the hardware constitutions of the delivery server included in the action related information provision system.
  • 3 is a diagram illustrating an example of a functional configuration of a distribution server 130.
  • DESCRIPTION OF SYMBOLS 100 Behavior related information provision system, 110 ... Edge device, 120 ... Storage apparatus, 130 ... Distribution server, 140 ... IoT device, 150, 160 ... Communication line, 111, 131 ... Processor, 112, 132 ... Memory, 113, 133 ... Storage 114, 134 ... Communication device 211 ... Extraction means 212 ... Detection means 213 ... Transmission means 214 ... Communication means 215 ... Imaging means 231 ... Acquisition means 232 ... Identification means 233 ... Providing means
  • FIG. 1 is a diagram illustrating a configuration example of a behavior related information providing system 100 according to an embodiment of the present invention.
  • the behavior related information providing system 100 includes a distribution server 130, a storage device 120, a plurality of edge devices 110, and a plurality of IoT devices 140.
  • the number of each apparatus shown in FIG. 1 is an illustration, and is not limited to this.
  • the plurality of edge devices 110 and the plurality of IoT devices 140 are arranged in stores that sell products such as retail stores and stores that provide various services.
  • Retail stores include, for example, restaurants such as fast food and restaurants, supermarkets, clothing stores, and home appliance mass retailers.
  • the behavior-related information providing system 100 relates advertisement information related to the product to the behavior when the customer who has visited the store takes action such as picking up the product or receiving a trial service. It is an information system which transmits to a user terminal (for example, a smart phone which the customer uses, etc., illustration is omitted in Drawing 1) as the action related information.
  • the advertisement information related to the product is, for example, the color variation or size variation of the product, related products related to the product (for example, products having similar uses, functions, price ranges), and the same producer as the product And information on new products that will be released in the future from brands and brands.
  • a person database and an advertisement database are stored in advance (both not shown in FIG. 2).
  • the person database feature information regarding appearance and a communication address as a transmission destination of behavior related information are recorded for each of a plurality of persons.
  • this person database include a customer database in which the feature information and communication address of a customer who has previously purchased a product at the store are recorded, or user registration for an information providing service by the behavior related information providing system 100.
  • a registered user database that stores the above-described feature information and communication address of the user who performed the operation is given.
  • feature information feature information generally used in face recognition technology (for example, HAAR-Like feature information) may be used, and sex, age group, height, and the like may be used.
  • advertisement information having different contents is recorded in advance for each action information indicating the type of action of a person.
  • the action information indicating that the product is being viewed is associated with the advertisement information of the related product.
  • the action information indicating that the product has been tried is associated with advertisement information regarding the color variation or size variation of the product.
  • the action information indicating that the product has been purchased is associated with advertisement information about a new product scheduled to be released in the future.
  • the edge device 110 is connected to the distribution server 130 via the communication line 150.
  • the communication line 150 may be configured including the Internet, for example.
  • An IoT device 140 is connected to the edge device 110 via a communication line 160.
  • the IoT device 140 is, for example, a network camera, and provides image data representing a captured image to the edge device 110 to which the own device is connected. More specifically, the network camera includes an imaging mechanism including a lens, an image sensor module, and the like, and a host controller that controls the imaging mechanism.
  • the image sensor module includes an image sensor, a microcomputer, and the like. As will be described later, the first control means and the second control means of the edge device control the image sensor module. Then, the interference control means of the edge device interferes with the host controller.
  • the image captured by the IoT device 140 may be a still image or a moving image.
  • the communication line 160 may include, for example, a LAN (Local Area Network) or a wireless LAN laid in the store.
  • each of the plurality of IoT devices 140 is disposed in the vicinity of the product shelf or the cash register counter in the store, the entrance to the fitting room, the entrance of the store, the vicinity of the show window, or the like. For this reason, in this embodiment, when a person who visits the store performs various actions such as viewing the product, trying the product, or purchasing the product, the state is captured by the IoT device 140, and the captured result is Certain image data is provided to the edge device 110.
  • the edge device 110 is a relay device such as a gateway, for example, and includes a processor 111, a memory 112, a storage 113, and a communication device 114 as shown in FIG. These devices are connected via a bus 115.
  • the processor 111 executes various processes by reading the program into the memory 112 and executing it.
  • the processor 111 may be configured by a CPU (Central Processing Unit).
  • the memory 112 stores a program executed by the processor 111.
  • the memory 112 may be constituted by a ROM (Read Only Memory) or a RAM (Random Access Memory).
  • the storage 113 stores various data and programs.
  • the storage 113 may be configured by a hard disk drive or a flash memory.
  • the communication device 114 performs data communication via the communication line 150 or the communication line 160.
  • FIG. 3 is a diagram illustrating an example of a functional configuration of the edge device 110.
  • the edge device 110 includes an extraction unit 211, a detection unit 212, a transmission unit 213, and a communication unit 214.
  • the communication unit 214 is the communication device 114 in FIG. 2
  • the imaging unit 215 is the IoT device 140 connected to the edge device 110 via the communication line 160.
  • the extraction unit 211, the detection unit 212, and the transmission unit 213 in FIG. 3 are operated or communicated by the processor 111 in cooperation with the program stored in the memory 112 or the storage 113 and the processor 111 that executes the program. It is a software module realized by controlling the means 214 (communication device 114).
  • the extraction unit 211 extracts feature information related to the appearance of the subject person based on the image captured by the imaging unit 215.
  • the feature information extraction algorithm an existing algorithm may be used as appropriate.
  • it is a first control unit that controls an imaging mechanism (such as an image sensor module) in the camera so that feature information relating to the appearance of a person is extracted based on an image captured by the imaging unit 215.
  • the detection unit 212 detects that the subject person has taken a predetermined action according to the degree of interest in the product based on the image captured by the imaging unit 215.
  • the detection unit 212 is a second control unit that controls the image sensor module so as to detect that the person has taken a predetermined action based on the image.
  • the transmission unit 213 transmits the feature information of the person whose predetermined behavior is detected and the behavior information indicating the predetermined behavior to the distribution server 130 via the communication unit 214. In other words, the transmission unit 213 triggers the detection of the predetermined action to cause the feature information and the action information to be transmitted to the acquisition unit via the communication network. It is an interference means to interfere with.
  • Specific examples of behavior information include codes such as “1” for “viewing a product”, “2” for “trial use of a product”, and “3” for “purchase of a product”. Information. Note that the communication address of the distribution server 130 that is the transmission destination of the feature information and behavior information may be written in the storage 113 in advance or embedded in the program.
  • FIG. 4 is a diagram illustrating a configuration example of the distribution server 130.
  • the distribution server 130 identifies the user terminal of the person whose feature and the feature represented by the feature information received via the communication line 150 match, and the behavior related information according to the behavior information received together with the feature information (this implementation) In the form, it is a device that executes a process of providing advertisement information) to the user terminal.
  • the distribution server 130 includes a processor 131, a memory 132, a storage 133, and a communication device 134. These devices are connected via a bus 135.
  • processor 131 the memory 132, the storage 133, the communication device 134, and the bus 135 are the same as the processor 111, the memory 112, the storage 113, the communication device 114, and the bus 115 described above, description thereof is omitted.
  • FIG. 5 is a diagram illustrating an example of a functional configuration of the distribution server 130.
  • the distribution server 130 includes an obtaining unit 231, a specifying unit 232, a providing unit 233, and a communication unit 234.
  • the communication means 234 is the communication device 134 in FIG.
  • the acquisition unit 231, the identification unit 232, and the providing unit 233 in FIG. 5 perform computation or communication by the processor 131 in cooperation with the program stored in the memory 132 or the storage 133 and the processor 131 that executes the program.
  • a software module realized by controlling the means 234 (communication device 134).
  • the acquisition unit 231 acquires characteristic information of the person and action information indicating the predetermined action for the person whose predetermined action is detected by the detection unit 212 described above.
  • the acquisition unit 231 acquires the feature information and the behavior information by receiving the feature information and the behavior information transmitted via the communication line 150.
  • feature information and behavior information about a person who has performed the behavior when the predetermined behavior is detected by the detection unit 212 are transmitted from the edge device 110 to the distribution server 130 via the communication line 150.
  • the acquisition unit 231 may acquire the feature information and the behavior information by polling from the distribution server 130.
  • the identifying unit 232 identifies one or more transmission destinations corresponding to the feature information acquired by the acquiring unit 231 with reference to the person database. More specifically, the specifying unit 232 has one or more matching factors between the user's appearance feature stored in the person database and the feature information acquired by the acquiring unit 231 being a predetermined value (for example, 80%) or more. A user is specified, and a communication address for the specified user is specified as a transmission destination of behavior related information. It takes into account errors in identifying users based on feature information.
  • the providing unit 233 reads out advertisement information corresponding to the behavior information acquired by the acquiring unit 231 from the advertisement database, and transmits the read advertisement information to one or more transmission destinations specified by the specifying unit 232.
  • the above is the configuration of the behavior related information providing system 100.
  • FIG. 6 is a sequence diagram illustrating operations of the edge device 110 and the distribution server 130 included in the behavior related information providing system 100.
  • Step SA100 in FIG. 6 is a process executed by the extraction unit 211 of the edge device 110.
  • the extraction unit 211 analyzes the image data provided from the imaging unit 215, and extracts feature information related to the appearance of the subject person.
  • Step SA110 subsequent to step SA100 is processing executed by the detection unit 212 of the edge device 110.
  • the detection unit 212 analyzes the image data provided from the imaging unit 215, and detects that the subject person has taken a predetermined action according to the degree of interest in the product.
  • Step SA120 following step SA110 is a process executed by the transmission means 213 of the edge device 110.
  • the transmission unit 213 transmits the feature information extracted by the extraction unit 211 and the behavior information indicating the predetermined behavior to the distribution server 130 for the person whose predetermined behavior is detected by the detection unit 212.
  • the feature information and behavior information transmitted from the edge device 110 in this way are transmitted to the distribution server 130 via the communication line 150.
  • Step SB100 in FIG. 6 is a process executed by the acquisition unit 231 of the distribution server 130.
  • the acquisition unit 231 acquires feature information and behavior information transmitted from the edge device 110.
  • Step SB110 subsequent to Step SB100 is a process executed by the specifying unit 232 of the distribution server 130.
  • the specifying unit 232 refers to the person database stored in the storage device 120, specifies one or more persons having appearance features corresponding to the feature information acquired by the acquiring unit 231, and the person The user terminal is specified as the transmission destination of the behavior related information.
  • Step SB120 following step SB110 is a process executed by the providing unit 233 of the distribution server 130.
  • the providing unit 233 transmits the advertisement information corresponding to the behavior information acquired in step SB100 to one or more transmission destinations specified in step SB110.
  • advertising information regarding color variation or size variation is transmitted to the user terminal of the customer.
  • the customer in contact with the advertisement information can grasp the product of his / her favorite color or the product of a size suitable for himself / herself, and can increase the customer's willingness to purchase.
  • advertisement information relating to a new product scheduled to be released in the future is transmitted to the user terminal of the customer who purchased the product, and the willingness to purchase the new product can be increased.
  • advertising information with different contents is presented to a customer who visits a store and performs a predetermined action corresponding to the degree of interest in the product with respect to the product. For this reason, according to the behavior related information providing system 100 of the present embodiment, information corresponding to the degree of interest is directly provided to the customer who has visited the store for the product that the customer may be interested in. It becomes possible to do.
  • data transmitted from the edge device 110 to the distribution server 130 is feature information and behavior information, and image data captured by the IoT device 140 is not transmitted from the edge device 110 to the distribution server 130.
  • the image data captured by the IoT device 140 is transmitted to the distribution server 130, and the image data is analyzed by the distribution server 130.
  • the amount of data transmitted from the edge device 110 to the distribution server 130 can be reduced.
  • Data transmission from the edge device 110 to the distribution server 130 is executed only when a predetermined action is detected. When an action other than the predetermined action is performed, the data is transmitted from the edge device 110 to the distribution server 130. No data transmission is performed. For this reason, the amount of data transmitted from the edge device 110 to the distribution server 130 via the communication line 150 can be further reduced.
  • the processing load of the distribution server 130 can be reduced and the response of the distribution server 130 can be speeded up compared to the mode in which the image data is analyzed by the distribution server 130.
  • the distribution server 130 is less likely to be down due to overload.
  • the present embodiment it is possible to increase the response speed of the distribution server 130, reduce downtime of the distribution server 130, and prevent an increase in cost, while preventing customers from visiting the store where the edge device 110 is installed. It is possible to directly provide information according to the degree of interest of the products that the customer will be interested in.
  • the advertisement information is used as the behavior related information.
  • a marketing dashboard in which various indexes related to marketing are organized and visualized may be used.
  • the predetermined action to be detected may be anything that is estimated to reflect the degree of interest in the product.
  • the predetermined action may be information that can be extracted from the video, such as changes in facial expressions such as emotions, as well as those related to body movements and actions such as walking and running.
  • an action of having a conversation may be included in the predetermined action.
  • the specifying unit 232 in the above-described embodiment is triggered by the reception of the feature information and the behavior information, and the one or more of the appearance features of the user stored in the person database and the degree of coincidence between the received feature information is a predetermined value or more. Identified the user.
  • one user may be specified using feature information acquired for each of the plurality of cameras (IoT devices 140). According to this aspect, it is possible to narrow down the destinations of the behavior related information to the user terminals of the person who has truly performed the behavior indicated by the behavior information, thereby avoiding useless data communication.
  • the acquisition unit 231 acquires information indicating the position of the camera that has captured the image from which the feature information is calculated and the timing (for example, time) when the predetermined action is detected, and the specifying unit 232 Among the one or more destinations identified based on the feature information, the position indicated by the position information of the user terminal and the position of the camera have a predetermined relationship (for example, the former is within a circle with a predetermined radius centered on the latter). Behave) and satisfy the predetermined relationship between the timing at which the position information is acquired and the timing at which the predetermined behavior is detected (the time difference between the former and the latter is equal to or less than a predetermined threshold). You may make it identify as a transmission destination of related information.
  • the timing for transmitting the advertisement information may be varied according to the behavior information. For example, when behavior information indicating that a product has been tried is received, in order to strongly urge the purchase of the product, it is conceivable that the advertisement information is immediately transmitted after specifying the transmission destination by the specifying unit 232. In addition, when the behavior information indicating that the product has been purchased is received, it is assumed that the willingness to purchase has already been satisfied, so the advertisement information is transmitted after a certain period of time has elapsed since the transmission destination is specified by the specifying unit 232. It is possible to do.
  • feature information indicating the appearance characteristics of the person who is the subject is extracted based on the image picked up by the image pickup means 215, and it is further detected that the person has performed a predetermined action.
  • the product that is the target of the predetermined action may be specified based on the image, and identification information indicating the product may be transmitted from the edge device 110 to the distribution server 130.
  • the extraction unit 211, the detection unit 212, and the transmission unit 213 in the edge device 110 are software modules, but may be electronic circuits such as an ASIC.
  • the acquisition unit 231, the specifying unit 232, and the providing unit 233 in the distribution server 130 may be electronic circuits such as an ASIC.
  • the IoT device 140 connected to the edge device 110 via the communication line 160 plays the role of the imaging unit 215.
  • a camera including a communication unit 214, an imaging unit 215, an extraction unit 211, a detection unit 212, and a transmission unit 213 is provided, and the camera is connected to a communication line. It may be connected to 150 and an action related information provision system may be constituted.
  • the person database and the advertisement database are stored in the storage device 120 that is a separate device from the distribution server 130, but the person database and the advertisement database are stored in the storage 133 of the distribution server 130. May be.
  • a program that causes the processor 111 of the edge device 110 to function as the extraction unit 211, the detection unit 212, and the transmission unit 213 is preinstalled in the edge device 110, and the processor 131 of the distribution server 130 is acquired by the acquisition unit 231.
  • Programs that function as the means 232 and the providing means 233 have been installed in the distribution server 130 in advance.
  • the configuration of the node on which the above-described feature information extraction function, predetermined action detection function, action information acquisition function, advertisement information transmission destination determination function, and advertisement information transmission function are implemented is an example. Only. For example, the function of the edge device 110 may be integrated into the IoT device 140.
  • the communication line 160 is omitted, and it can be considered that one hardware device having the functions of each edge device 110 and the IoT device 140 constitutes an information processing system.
  • the information processing system according to the present invention includes an IoT-side device including a camera and a server-side device connected via a communication line.
  • the first control means for controlling the image sensor module in the camera so that the device on the IoT side extracts feature information regarding the appearance of the person based on the image captured by the camera.
  • Second control means for controlling the image sensor module so as to detect that the person has taken a predetermined action.
  • an acquisition unit that acquires characteristic information of the person and action information indicating the predetermined action via a communication network, and a plurality of users
  • a specifying means for specifying one or more transmission destinations corresponding to the acquired characteristic information with reference to a database in which the user's appearance features and information transmission destinations are stored in association with each other;
  • the first control means and / or the second control means may be provided in each camera housing, or may be provided in a hardware device different from the camera.
  • the camera constituting the information processing system includes a communication unit, an imaging unit, and the imaging unit so as to extract feature information related to the appearance of a person based on the captured image.
  • a first control unit that controls the imaging means a second control unit that controls the imaging means to detect that the person has taken a predetermined action based on the image, and the predetermined action is detected.
  • a transmission means for transmitting the characteristic information of the person and the action information indicating the predetermined action to the server using the communication means.
  • the step of extracting feature information relating to the appearance of a person based on the image captured by the camera (see FIG. 6) to one or more nodes or computers (processors), and the camera A step of detecting that the person has taken a predetermined action based on the captured image, and, for the person for which the predetermined action has been detected, feature information of the person and action information indicating the predetermined action
  • a plurality of users referring to a database in which user appearance features and information destinations are stored in association with each other, and identifying one or more destinations corresponding to the acquired feature information; And providing the advertisement information corresponding to the acquired behavior information to the specified one or more transmission destinations.
  • Such a program may be installed by connecting a recording medium in which the program is written to a computer, or may be downloaded to the computer via the Internet or the like.

Abstract

IoTデバイスにて撮像された画像に基づいて人物の外見に関する特徴情報を抽出するステップSA100と、画像に基づいて人物が所定の行動をとったことを検知するステップSA110と、所定の行動が検知された人物について、当該人物の特徴情報および所定の行動を示す行動情報を取得するステップSB100と、複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、取得された特徴情報に対応する1以上の送信先を特定するステップSB110と、該特定された1以上の送信先へ、取得された行動情報に対応する広告情報を提供するステップSB120とを有する行動関連情報の提供方法、を提供する。

Description

行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ
 本発明は、IoT(Internet of Things)を利用したマーケティング技術に関する。
 マーケティングにおいて、訴求力を高めるため、人々の関心の対象を如何に的確に把握するかは重要である。この点に関連し、近年、画像解析をマーケティングに利用する技術が注目を集めており、その一例としては特許文献1に開示の技術が挙げられる。特許文献1には、より少ない数のネットワークカメラ機器を用いて顧客情報と購買情報を正しく関連付けて記憶し、広告や販売促進を効率良く行うためのマーケティング分析を支援する技術が開示されている。
特開2018-25882号公報
 特許文献1の技術によれば、より少ない数のネットワークカメラ機器を用いて顧客情報と購買情報とを関連付けてデータベース化される。しかし、購買したという情報のみでからでは興味の対象を的確に把握するのは困難である。
 本発明は、人々が関心を持っていると推定される事柄に関する情報を、IoTを利用して効率的に提供することを目的とする。
 上記課題を解決するために本発明は、カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御する第1制御手段と、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御する第2制御手段と、前記所定の行動が検知された人物について、当該人物の特徴情報および当該所定の行動を示す行動情報を、通信網を介して取得する取得手段と、複数のユーザについて、ユーザの外見的特徴と、情報の送信先と、を対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定する特定手段と、該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供する提供手段とを備える行動関連情報提供システムを提供する。
 好ましい態様において、行動関連情報提供システムは、前記所定の行動が検知されたことを契機として、前記特徴情報および前記行動情報の取得手段への送信を実行する干渉手段を更に有する。
 前記行動情報は、前記人物の商品に対する関心の度合いを示すことが好ましい。より具体的には、前記行動情報には、商品を購入したこと、商品を試用したこと、商品を眺めていたこと、の少なくともいずれかを示す情報が含まれることが好ましい。単に商品を眺めていた場合よりは、商品を試用した場合の方がその商品に対する行為者の関心の度合いは高いと考えられ、実際に商品を購入した場合には更にその商品に対する行為者の関心の度合いは高いと考えられるからである。
 好ましい態様においては、前記特定手段は、前記データベースに記憶されたユーザの外見的特徴と、前記取得手段により取得された特徴情報の一致度が所定値以上である1以上のユーザを特定する。
 より好ましい態様において、前記送信先はユーザ端末であり、前記取得手段は、前記カメラから、当該カメラの位置と当該行動情報が検知されたタイミングを示す情報を更に取得し、前記特定手段は、該特定された1以上の送信先のうち、該取得したユーザ端末の位置情報および当該位置情報を取得したタイミングと、前記カメラの位置および当該行動情報が検知されたタイミングとが、所定の関係を満たすものを特定する。
 好ましい態様において、前記カメラには、第1のカメラと第2のカメラとが含まれ、各カメラに関して取得された特徴情報および行動情報を用いて、一の送信先を決定する。
 好ましい態様において、前記提供手段は、前記行動情報に対応するタイミングで、前記広告情報を提供する。
 また、上記課題を解決するために本発明は、カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御するステップと、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御するステップと、前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を通信網を介して取得するステップと、複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定するステップと、該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供するステップとを有する行動関連情報の提供方法を提供する。
 本発明は、他の観点において、1以上のコンピュータに、カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御するステップと、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御するステップと、前記画像に基づいて前記人物が所定の行動をとったことを検知するステップと、前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を通信網を介して取得するステップと、複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定するステップと、該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供するステップとを実行させるためのプログラムを提供する。
 本発明は、他の観点において、通信手段と、撮像手段と、撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、前記撮像手段を制御する第1制御部と、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記撮像手段を制御する第2制御部と、前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を、前記通信手段を用いてサーバへ送信する送信手段とを有するカメラを提供する。
 本発明によれば、本発明は、人々が関心を持っていると推定される事柄に関係する情報が、IoTを利用して効率的に提供される。
本発明の一実施形態による行動関連情報提供システム100の構成例を示す図である。 行動関連情報提供システム100に含まれるエッジデバイス110のハードウェア構成の一例を示す図である。 エッジデバイス110の機能構成の一例を示す図である。 行動関連情報提供システム100に含まれる配信サーバ130のハードウェア構成の一例を示す図である。 配信サーバ130の機能構成の一例を示す図である。 行動関連情報提供システム100に含まれる各装置の動作を示す図である。
 100…行動関連情報提供システム、110…エッジデバイス、120…ストレージ装置、130…配信サーバ、140…IoTデバイス、150,160…通信回線、111,131…プロセッサ、112,132…メモリ、113,133…ストレージ、114,134…通信装置、211…抽出手段、212…検知手段、213…送信手段、214…通信手段、215…撮像手段、231…取得手段、232…特定手段、233…提供手段。
 以下、図面を参照しつつ本発明の実施形態を説明する。
<1.構成>
 図1は、本発明の一実施形態による行動関連情報提供システム100の構成例を示す図である。行動関連情報提供システム100は、配信サーバ130と、ストレージ装置120と、複数のエッジデバイス110と、複数のIoTデバイス140と、を備える。なお、図1に示す各装置の数は例示であり、これに限定されない。
 図1に示す各装置のうち、複数のエッジデバイス110と複数のIoTデバイス140とは、小売店など商品を販売する店舗や各種サービスを提供する店舗に配置される。小売店には、例えば、ファーストフード、レストランなどの飲食店、スーパーマーケット、衣料品店、家電量販店などが含まれる。行動関連情報提供システム100は、上記店舗に来店した顧客が商品を手に取るあるいはお試しサービスの提供を受けるなどの行動を行ったことを契機として、その商品に関する広告情報をその行動に関連する行動関連情報として、当該顧客のユーザ端末(例えば、当該顧客の使用するスマートフォンなど、図1では図示略)に送信する情報システムである。ここで、商品に関する広告情報とは、例えば、その商品のカラーバリエーションやサイズバリエーション、その商品に関連する関連商品(例えば、用途、機能、価格帯が類似する商品)、その商品と同一の生産者やブランドから今後発売される予定の新商品に関する情報等である。
 ストレージ装置120には、人物データベースと広告データベースとが予め格納されている(図2では何れも図示略)。人物データベースには、複数の人物の各々について外見に関する特徴情報と行動関連情報の送信先となる通信アドレスとが記録されている。この人物データベースの具体例としては、過去に上記店舗にて商品を購入した顧客についての上記特徴情報および通信アドレスを記録した顧客データベース、あるいは行動関連情報提供システム100による情報提供サービスについてのユーザ登録を行ったユーザの上記特徴情報および通信アドレスを格納した登録ユーザデータベースが挙げられる。また、上記特徴情報としては、顔認識技術において一般に用いられる特徴情報(例えば、HAAR-Like特徴情報)を用いても良く、また、性別、年齢層および身長等を用いても良い。
 広告データベースには、人物の行動の種別を示す行動情報毎に異なる内容の広告情報が予め記録されている。例えば、商品を眺めていることを示す行動情報には、関連商品の広告情報が対応付けられている。また、商品を試用したことを示す行動情報には、商品のカラーバリエーションあるいはサイズバリエーションについての広告情報が対応付けられている。そして、商品を購入したことを示す行動情報には今後発売予定の新商品についての広告情報が対応付けられている。
 エッジデバイス110は、通信回線150を介して配信サーバ130に接続されている。通信回線150は、例えばインターネットを含んで構成されていても良い。エッジデバイス110には、通信回線160を介してIoTデバイス140が接続されている。
 IoTデバイス140は、例えばネットワークカメラであり、撮像した画像を表す画像データを、自装置の接続先のエッジデバイス110に与える。より具体的には、ネットワークカメラは、レンズやイメージセンサモジュールなどを含む撮像機構と、この撮像機構を制御するホストコントローラとを備えている。イメージセンサモジュールは、イメージセンサ、マイクロコンピュータなどを備えている。後述するように、エッジデバイスの第1制御手段および第2制御手段は、イメージセンサモジュールを制御する。そして、エッジデバイスの干渉制御手段は、ホストコントローラに干渉する。
 なお、IoTデバイス140により撮像される画像は静止画像であっても良いし、動画像であっても良い。通信回線160は、例えば上記店舗に敷設されたLAN(Local Area Network)または無線LANを含んで構成されても良い。
 本実施形態では、複数のIoTデバイス140の各々は、上記店舗における商品棚近傍やレジカウンタ近傍、試着室へ入口、店舗の入口、ショーウィンドウの近傍等に配置されている。このため、本実施形態では、上記店舗に来店した人物が商品を眺める、商品を試用する、商品を購入する等の各種行動を行うと、その様子がIoTデバイス140によって撮像され、その撮像結果である画像データがエッジデバイス110に与えられる。
 エッジデバイス110は、例えばゲートウェイなどの中継装置であり、図2に示すように、プロセッサ111と、メモリ112と、ストレージ113と、通信装置114と、を備える。これらの装置は、バス115を介して接続されている。
 プロセッサ111は、プログラムをメモリ112に読み出して実行することにより、各種の処理を実行する。例えばプロセッサ111は、CPU(Central Processing Unit)により構成されても良い。メモリ112は、プロセッサ111により実行されるプログラムを記憶する。例えばメモリ112は、ROM(Read Only Memory)またはRAM(Random Access Memory)により構成されても良い。ストレージ113は、各種のデータおよびプログラムを記憶する。例えばストレージ113は、ハードディスクドライブまたはフラッシュメモリにより構成されても良い。通信装置114は、通信回線150または通信回線160を介してデータ通信を行う。
 図3は、エッジデバイス110の機能構成の一例を示す図である。エッジデバイス110は、抽出手段211と、検知手段212と、送信手段213と、通信手段214と、を備える。通信手段214は、図2における通信装置114であり、撮像手段215は、通信回線160を介してエッジデバイス110に接続されるIoTデバイス140である。図3における抽出手段211、検知手段212、および送信手段213は、メモリ112またはストレージ113に記憶されたプログラムと、このプログラムを実行するプロセッサ111との協働により、プロセッサ111が演算を行いまたは通信手段214(通信装置114)を制御することにより実現されるソフトウェアモジュールである。
 抽出手段211は、撮像手段215にて撮像された画像に基づいて、被写体の人物の外見に関する特徴情報を抽出する。特徴情報の抽出アルゴリズムについては既存のアルゴリズムを適宜用いるようにすれば良い。換言すると、撮像手段215にて撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内の撮像機構(イメージセンサモジュール等)を制御する第1制御手段である。
 検知手段212は、撮像手段215にて撮像された画像に基づいて、上記被写体の人物が商品に対する関心の度合いに応じた所定の行動をとったことを検知する。換言すると、検知手段212は、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御する第2制御手段である。商品に対する関心の度合いに応じた所定の行動の具体例としては、商品を眺めていること、商品を試用したこと、商品を購入したこと等が挙げられる。
 送信手段213は、上記所定の行動が検知された人物の特徴情報および当該所定の行動を示す行動情報を、通信手段214を介して配信サーバ130へ送信する。換言すると、送信手段213は、前記所定の行動が検知されたことを契機として、前記特徴情報および前記行動情報を、前記通信網を介して前記取得手段へ送信させるように、前記カメラのホストコントローラに干渉する干渉手段である。
 行動情報の具体例としては、「商品を眺めていること」については“1”、「商品を試用したこと」については“2”、「商品を購入したこと」については“3”、といったコード情報が挙げられる。なお、上記特徴情報および行動情報の送信先となる配信サーバ130の通信アドレスについては、ストレージ113に予め書き込んでおいても良いし、上記プログラムに埋め込んでおいても良い。
 図4は、配信サーバ130の構成例を示す図である。配信サーバ130は、通信回線150を介して受信した特徴情報の表す特徴と外見の特徴が一致する人物のユーザ端末を特定し、上記特徴情報とともに受信した行動情報に応じた行動関連情報(本実施形態では、広告情報)を当該ユーザ端末へ提供する処理を実行する装置である。配信サーバ130は、プロセッサ131と、メモリ132と、ストレージ133と、通信装置134と、を備える。これらの装置は、バス135を介して接続されている。プロセッサ131、メモリ132、ストレージ133、通信装置134、およびバス135は、上述したプロセッサ111、メモリ112、ストレージ113、通信装置114、およびバス115と同様であるため、その説明を省略する。
 図5は、配信サーバ130の機能構成の一例を示す図である。
 配信サーバ130は、取得手段231と、特定手段232と、提供手段233と、通信手段234と、を備える。通信手段234は、図4における通信装置134である。図5における取得手段231、特定手段232、および提供手段233は、メモリ132またはストレージ133に記憶されたプログラムと、このプログラムを実行するプロセッサ131との協働により、プロセッサ131が演算を行いまたは通信手段234(通信装置134)を制御することにより実現されるソフトウェアモジュールである。
 取得手段231は、前述の検知手段212により所定の行動が検知された人物について、当該人物の特徴情報および当該所定の行動を示す行動情報を取得する。本実施形態では、取得手段231は、通信回線150を介して送信されてくる特徴情報および行動情報を受信することにより、当該特徴情報および当該行動情報を取得する。本実施形態では、検知手段212により所定の行動が検知されたことを契機として当該行動を行った人物についての特徴情報および行動情報が通信回線150を介してエッジデバイス110から配信サーバ130へ送信されるが、配信サーバ130からのポーリングにより特徴情報および行動情報を取得手段231に取得させるようにしても良い。
 特定手段232は、前述の人物データベースを参照し、取得手段231により取得された特徴情報に対応する1以上の送信先を特定する。より詳細に説明すると、特定手段232は、人物データベースに記憶されたユーザの外見的特徴と、取得手段231により取得された特徴情報の一致度が所定値(例えば80%)以上である1以上のユーザを特定し、当該特定したユーザについての通信アドレスを行動関連情報の送信先として特定する。特徴情報に基づいてユーザを同定する際の誤差を考慮したものである。
 提供手段233は、取得手段231により取得された行動情報に対応する広告情報を広告データベースから読み出し、特定手段232により特定された1以上の送信先へ当該読み出した広告情報を送信する。
 以上が行動関連情報提供システム100の構成である。
<2.動作>
 次いで、図6を参照しつつ行動関連情報提供システム100に含まれる各装置の動作を説明する。図6は、行動関連情報提供システム100に含まれるエッジデバイス110および配信サーバ130の動作を示すシーケンス図である。
 図6におけるステップSA100は、エッジデバイス110の抽出手段211により実行される処理である。このステップSA100では、抽出手段211は、撮像手段215から与えられる画像データを解析し、被写体の人物の外見に関する特徴情報を抽出する。ステップSA100に後続するステップSA110は、エッジデバイス110の検知手段212により実行される処理である。このステップSA110では、検知手段212は、撮像手段215から与えられる画像データを解析し、被写体の人物が商品に対する関心の度合いに応じた所定の行動をとったことを検知する。
 ステップSA110に後続するステップSA120は、エッジデバイス110の送信手段213により実行される処理である。このステップSA120では、送信手段213は、検知手段212により所定の行動が検知された人物について抽出手段211により抽出された特徴情報、および所定の行動を示す行動情報を配信サーバ130へ送信する。このようにしてエッジデバイス110ら送信された特徴情報および行動情報は、通信回線150を介して配信サーバ130に伝送される。
 図6に示すように、配信サーバ130では、通信回線150を介して特徴情報および行動情報を受信したことを契機としてステップSB100以降の処理が実行される。図6におけるステップSB100は、配信サーバ130の取得手段231により実行される処理である。このステップSB100では、取得手段231はエッジデバイス110から送信された特徴情報および行動情報を取得する。
 ステップSB100に後続するステップSB110は、配信サーバ130の特定手段232により実行される処理である。このステップSB110では、特定手段232は、ストレージ装置120に格納されている人物データベースを参照し、取得手段231により取得された特徴情報に対応する外見の特徴を有する人物を一人以上特定し、当該人物のユーザ端末を行動関連情報の送信先として特定する。
 ステップSB110に後続するステップSB120は、配信サーバ130の提供手段233により実行される処理である。このステップSB120では、提供手段233は、ステップSB110にて特定した1以上の送信先へ、ステップSB100にて取得した行動情報に対応する広告情報を送信する。
 上記店舗に来店した顧客が商品を試用した場合、その顧客のユーザ端末には、カラーバリエーションあるいはサイズバリエーション等に関する広告情報が送信される。この広告情報に接した当該顧客は、自身の好みの色の商品あるいは自身に適したサイズの商品を把握することができ、当該顧客の購買意欲を高めることができる。また、商品を購入した顧客のユーザ端末には、今後発売予定の新商品に関する広告情報が送信され、新商品に対する購買意欲を高めることができる。
 上記実施例においては、店舗に来店し商品に対してその商品に対する関心の度合いに応じた所定の行動を行った顧客に対して、その行動内容に応じて内容の異なる広告情報が提示される。このため、本実施形態の行動関連情報提供システム100によれば、店舗に来店した顧客に対し、その顧客が関心を持っているであろう商品についてその関心の度合いに応じた情報をダイレクトに提供することが可能になる。
 加えて、エッジデバイス110から配信サーバ130に送信されるデータは特徴情報と行動情報とであり、IoTデバイス140により撮像された画像データはエッジデバイス110から配信サーバ130に送信されない。このため、上記実施例においては、IoTデバイス140により撮像された画像データを配信サーバ130に送信し、当該画像データの解析を配信サーバ130にて行う態様に比較して、通信回線150を介してエッジデバイス110から配信サーバ130に送信されるデータ量を少なくすることができる。また、エッジデバイス110から配信サーバ130へのデータ送信は、所定の行動が検知された場合にのみ実行され、所定の行動以外の行動が行われた場合には、エッジデバイス110から配信サーバ130へのデータ送信は行われない。このため、通信回線150を介してエッジデバイス110から配信サーバ130に送信されるデータ量を更に削減することができる。
 更に、本実施形態によれば、画像データの解析を配信サーバ130にて行う態様に比較して、配信サーバ130の処理負荷を軽減することができ、配信サーバ130のレスポンスを高速化が可能になるとともに、過負荷に起因する配信サーバ130のダウンが発生し難くなる。また、本実施形態によれば、画像データの解析を配信サーバ130にて行う態様に比較して、処理能力の低い安価なコンピュータ装置を用いて配信サーバ130を構成することが可能になる。
 つまり、本実施形態によれば、配信サーバ130のレスポンスを高速化、配信サーバ130のダウンタイムの軽減、およびコスト増大防止を図りつつ、エッジデバイス110の設置された店舗に来店した顧客に対してその顧客が関心を持っているであろう商品について、その関心の度合いに応じた情報をダイレクトに提供することが可能になる。
<3.変形>
 以上本発明の実施形態について説明したが、この実施形態に以下の変形を加えても勿論良い。
 上記実施形態では、行動関連情報として広告情報を用いたが、広告情報に代えてマーケティングに関する様々な指標を整理し可視化したマーケティングダッシュボードを用いても良い。
 検知すべき所定の行動とは、商品に対する関心の度合いが反映されていると推定されるものであれば良い。よって、所定の行動には、例えば、歩く、走る、といった体の動きや所作に関するものの他、喜怒哀楽などの表情の変化など、映像から抽出できる情報であれば良い。あるいは、口の動きの変化や他人との位置関係に基づいて、他の客や店員と会話をしていると推定された場合、会話を行ったという行為を所定の行動に含めても良い。
 上記実施形態における特定手段232は、特徴情報および行動情報の受信を契機として、人物データベースに記憶されたユーザの外見的特徴と、当該受信した特徴情報の一致度が所定値以上である1以上のユーザを特定した。しかし、複数のカメラ(IoTデバイス140)の各々に関して取得された特徴情報を用いて、一人のユーザを特定するようにしても良い。本態様によれば、行動関連情報の送信先を、真に上記行動情報の示す行動を行った人物のユーザ端末に絞り込み、無駄なデータ通信の発生を回避することが可能になる。
 また、取得手段231には、特徴情報の算出元となった画像を撮像したカメラの位置と所定の行動が検知されたタイミング(例えば、時刻)を示す情報とを取得させ、特定手段232には、特徴情報に基づいて特定された1以上の送信先のうち、ユーザ端末の位置情報の示す位置とカメラの位置とが所定の関係(例えば、後者を中心とした所定半径の円内に前者が位置すること)を満たすこと、および当該位置情報を取得したタイミングと所定の行動が検知されたタイミングとが所定の関係(前者と後者の時間差が所定の閾値以下であること)を満たすものを行動関連情報の送信先として特定させるようにしても良い。本態様によっても、行動関連情報の送信先を真に上記所定の行動を行った人物のユーザ端末に絞り込み、無駄なデータ通信の発生を回避することが可能になる。なお、ユーザ端末の位置情報については、GPS、無線LANアクセスポイントのビーコン等を利用して取得すれば良い。
 広告情報を送信するタイミングを、行動情報に応じて異ならせても良い。例えば、商品を試用したことを示す行動情報を受信した場合には、商品の購入を強く促すため、特定手段232による送信先の特定の後、即座に広告情報を送信することが考えられる。また、商品を購入したことを示す行動情報を受信した場合には、既に購買意欲が満たされていると想定されるため、特定手段232による送信先の特定から一定期間経過した後に広告情報を送信することが考えられる。
 上記実施形態では、撮像手段215により撮像された画像に基づいて被写体である人物の外見の特徴を示す特徴情報を抽出し、更に当該人物が所定の行動を行ったことを検知したが、これらに加えて当該所定の行動の対象となった商品を当該画像に基づいて特定し、その商品を示す識別情報をエッジデバイス110から配信サーバ130へ送信するようにしても良い。所定の行動の対象となった商品を特定することで、当該商品に関連し、かつ当該所定の行動に関連する行動関連情報をその行動を行った人物に提供すること(例えば、よりきめ細やかな広告情報を提供すること)が可能になるからである。
 上記実施形態では、エッジデバイス110における抽出手段211、検知手段212、および送信手段213はソフトウェアモジュールであったが、ASICなどの電子回路であっても良い。配信サーバ130における取得手段231、特定手段232および提供手段233についても同様にASICなどの電子回路であっても良い。
 上記実施形態では、通信回線160を介してエッジデバイス110に接続されるIoTデバイス140に撮像手段215の役割を担わせた。しかし、エッジデバイス110およびIoTデバイス140に代えて、通信手段214と、撮像手段215と、抽出手段211と、検知手段212と、送信手段213と、を備えるカメラを提供し、当該カメラを通信回線150に接続して行動関連情報提供システムを構成しても良い。また、上記実施形態では、配信サーバ130とは別箇の装置であるストレージ装置120に人物データベースと広告データベースとが格納されていたが、配信サーバ130のストレージ133に人物データベースと広告データベースを格納しても良い。
 上記実施形態では、エッジデバイス110のプロセッサ111を抽出手段211、検知手段212および送信手段213として機能させるプログラムがエッジデバイス110に予めインストールされており、配信サーバ130のプロセッサ131を取得手段231、特定手段232および提供手段233として機能させるプログラムが配信サーバ130に予めインストールされていた。しかし、上述した、特徴情報の抽出機能、所定行動の検知機能、行動情報の取得機能、広告情報の送信先を決定する機能、広告情報を提供する機能が実装されるノードの構成は、一例にすぎない。
 例えば、エッジデバイス110の機能は、IoTデバイス140に統合されていても良い。この場合、通信回線160は省略され、各エッジデバイス110の機能とIoTデバイス140と機能を有する一つのハードウェア機器が情報処理システムを構成するとみなせる。
 一の態様において、本発明に係る情報処理システムは、通信回線を介して接続された、カメラを含むIoT側のデバイスと、サーバ側デバイスとによって構成されると把握できる。そしてIoT側のデバイスには、カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御する第1制御手段と、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御する第2制御手段とを備える。一方、サーバ側デバイスにおいては、前記所定の行動が検知された人物について、当該人物の特徴情報および当該所定の行動を示す行動情報を、通信網を介して取得する取得手段と、複数のユーザについて、ユーザの外見的特徴と、情報の送信先と、を対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定する特定手段と、該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供する提供手段とを備える。
 行動関連情報提供システムを提供する。第1制御手段および/または第2制御手段は、各カメラ筐体内に設けられてもよいし、カメラとは異なるハードウェアデバイスに設けられていてもよい。
 換言すると、一の態様において、本発明に係る情報処理システム構成するカメラは、通信手段と、撮像手段と、撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、前記撮像手段を制御する第1制御部と、前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記撮像手段を制御する第2制御部と、前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を、前記通信手段を用いてサーバへ送信する送信手段とを有する。
 要するに、本発明の情報処理システムにおいて、1以上のノードないしコンピュータ(プロセッサ)に、カメラにて撮像された画像に基づいて人物の外見に関する特徴情報を抽出するステップ(図6参照)と、カメラにて撮像された画像に基づいて該人物が所定の行動をとったことを検知するステップと、該所定の行動が検知された人物について、当該人物の特徴情報および該所定の行動を示す行動情報を取得するステップと、複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、取得された特徴情報に対応する1以上の送信先を特定するステップと、該特定された1以上の送信先へ、取得された行動情報に対応する広告情報を提供するステップとが実行されれば良い。
 このようなプログラムは、プログラムが書き込まれた記録媒体をコンピュータに接続してインストールしても良いし、インターネット等を介してコンピュータへダウンロードしても良い。

Claims (11)

  1.  カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御する第1制御手段と、
     前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御する第2制御手段と、
     前記所定の行動が検知された人物について、当該人物の特徴情報および当該所定の行動を示す行動情報を、通信網を介して取得する取得手段と、
     複数のユーザについて、ユーザの外見的特徴と、情報の送信先と、を対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定する特定手段と、
     該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供する提供手段と
     を備える行動関連情報提供システム。
  2.  前記所定の行動が検知されたことを契機として、前記特徴情報および前記行動情報を、前記通信網を介して前記取得手段へ送信させるように、前記カメラのホストコントローラに干渉する干渉手段を更に有する、
     請求項1に記載の行動関連情報提供システム。
  3.  前記行動情報は、前記人物の商品に対する関心の度合いを示す、
     請求項1または2に記載の行動関連情報提供システム。
  4.  前記行動情報には、商品を購入したこと、商品を試用したこと、商品を眺めていたこと、の少なくともいずれかを示す情報が含まれる。
     請求項3に記載の行動関連情報提供システム。
  5.  前記特定手段は、前記データベースに記憶されたユーザの外見的特徴と、該取得された特徴情報の一致度が所定値以上である1以上のユーザを特定する、
     請求項1~4のいずれか一項に記載の行動関連情報提供システム。
  6.  前記送信先はユーザ端末であり、
     前記取得手段は、前記カメラから、当該カメラの位置と当該行動情報が検知されたタイミングを示す情報を更に取得し、
     前記特定手段は、該特定された1以上の送信先のうち、該取得したユーザ端末の位置情報および当該位置情報を取得したタイミングと、前記カメラの位置および当該行動情報が検知されたタイミングとが、所定の関係を満たすものを特定する、
     請求項1~5のいずれか一項に記載の行動関連情報提供システム。
  7.  前記カメラには、第1のカメラと第2のカメラとが含まれ、
     各カメラに関して取得された特徴情報および行動情報を用いて、一の送信先を決定する、
     請求項6に記載の行動関連情報提供システム。
  8.  前記提供手段は、前記行動情報に対応するタイミングで、前記広告情報を提供する、
     請求項1~7のいずれか一項に記載の行動関連情報提供システム。
  9.  カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御するステップと、
     前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御するステップと、
     前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を通信網を介して取得するステップと、
     複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定するステップと、
     該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供するステップと
     を有する行動関連情報の提供方法。
  10.  1以上のコンピュータに、
     カメラで撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、当該カメラ内のイメージセンサモジュールを制御するステップと、
     前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記イメージセンサモジュールを制御するステップと、
     前記画像に基づいて前記人物が所定の行動をとったことを検知するステップと、
     前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を通信網を介して取得するステップと、
     複数のユーザについて、ユーザの外見的特徴と情報の送信先とを対応付けて記憶したデータベースを参照し、前記取得された特徴情報に対応する1以上の送信先を特定するステップと、
     該特定された1以上の送信先へ、前記取得された行動情報に対応する広告情報を提供するステップと
     を実行させるためのプログラム。
  11.  通信手段と、
     撮像手段と、
     撮像された画像に基づいて人物の外見に関する特徴情報を抽出させるように、前記撮像手段を制御する第1制御部と、
     前記画像に基づいて前記人物が所定の行動をとったことを検知させるように、前記撮像手段を制御する第2制御部と、
     前記所定の行動が検知された人物について、当該人物の特徴情報および前記所定の行動を示す行動情報を、前記通信手段を用いてサーバへ送信する送信手段と
     を有するカメラ。
PCT/JP2018/017315 2018-04-27 2018-04-27 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ WO2019207795A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
PCT/JP2018/017315 WO2019207795A1 (ja) 2018-04-27 2018-04-27 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ
JP2020515453A JP6812603B2 (ja) 2018-04-27 2018-04-27 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/017315 WO2019207795A1 (ja) 2018-04-27 2018-04-27 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ

Publications (1)

Publication Number Publication Date
WO2019207795A1 true WO2019207795A1 (ja) 2019-10-31

Family

ID=68295224

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/017315 WO2019207795A1 (ja) 2018-04-27 2018-04-27 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ

Country Status (2)

Country Link
JP (1) JP6812603B2 (ja)
WO (1) WO2019207795A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033577A1 (ja) * 2013-09-06 2015-03-12 日本電気株式会社 顧客行動分析システム、顧客行動分析方法、非一時的なコンピュータ可読媒体及び棚システム
JP2015055924A (ja) * 2013-09-10 2015-03-23 株式会社セオン 店内情報配信装置、店内情報配信方法及び店内情報配信プログラム
JP2015135581A (ja) * 2014-01-16 2015-07-27 ヤフー株式会社 配信装置、配信方法、およびプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11150713B2 (en) * 2015-01-15 2021-10-19 Nec Corporation Information-processing device, control method, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015033577A1 (ja) * 2013-09-06 2015-03-12 日本電気株式会社 顧客行動分析システム、顧客行動分析方法、非一時的なコンピュータ可読媒体及び棚システム
JP2015055924A (ja) * 2013-09-10 2015-03-23 株式会社セオン 店内情報配信装置、店内情報配信方法及び店内情報配信プログラム
JP2015135581A (ja) * 2014-01-16 2015-07-27 ヤフー株式会社 配信装置、配信方法、およびプログラム

Also Published As

Publication number Publication date
JP6812603B2 (ja) 2021-01-13
JPWO2019207795A1 (ja) 2021-02-18

Similar Documents

Publication Publication Date Title
US11238654B2 (en) Offline shopping guide method and apparatus
CN107291732B (zh) 一种信息推送方法及装置
US11138420B2 (en) People stream analysis method, people stream analysis apparatus, and people stream analysis system
JP5238933B2 (ja) 客層付販売情報生成システム
WO2016203718A1 (ja) 顔認識システム、顔認識サーバ及び顧客情報提示方法
JP2008015577A (ja) 消費者行動分析装置、および消費者行動分析方法
JP2014170314A (ja) 情報処理システム、情報処理方法およびプログラム
US20200034783A1 (en) Store system, electronic shelf label, processing method for store system, and non-transitory storage medium
CN111989704A (zh) 上下文感知
US20240020979A1 (en) Information processing apparatus, information processing method, and program
WO2019010376A1 (en) METHODS AND SYSTEMS FOR PROVIDING CUSTOMIZED, CONTEXTUALIZED TARIFFS, OFFERS AND RECOMMENDATIONS
JP2022042014A (ja) 制御方法、プログラム、情報処理装置、及び情報処理システム
JP2021140636A (ja) クーポン発行装置、方法、及び、プログラム
JP7294663B2 (ja) 接客支援装置、接客支援方法、及びプログラム
JP5851560B2 (ja) 情報処理システム
JP6795667B1 (ja) ネットワークシステム、不審者検知装置、および不審者検知方法
US11170428B2 (en) Method for generating priority data for products
WO2019207795A1 (ja) 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ
JP6396568B1 (ja) 提供プログラム、提供装置、提供方法、端末装置および情報提供装置
JP2021047660A (ja) 商品情報通知システム、商品情報通知方法、プログラム
JP7066257B2 (ja) コンピュータシステム、来店者行動提供オファー方法及びプログラム
US11659273B2 (en) Information processing apparatus, information processing method, and non-transitory storage medium
WO2024018548A1 (ja) 生成プログラム、生成方法および情報処理装置
WO2024018545A1 (ja) 生成プログラム、生成方法および情報処理装置
EP4310760A1 (en) Display control program, display control method, and information processing apparatus

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18916269

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020515453

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18916269

Country of ref document: EP

Kind code of ref document: A1