WO2021044588A1 - メッセージ送信システム及びメッセージ送信方法 - Google Patents

メッセージ送信システム及びメッセージ送信方法 Download PDF

Info

Publication number
WO2021044588A1
WO2021044588A1 PCT/JP2019/035007 JP2019035007W WO2021044588A1 WO 2021044588 A1 WO2021044588 A1 WO 2021044588A1 JP 2019035007 W JP2019035007 W JP 2019035007W WO 2021044588 A1 WO2021044588 A1 WO 2021044588A1
Authority
WO
WIPO (PCT)
Prior art keywords
terminal
message
position information
information
unit
Prior art date
Application number
PCT/JP2019/035007
Other languages
English (en)
French (fr)
Inventor
吉澤 和彦
Original Assignee
マクセル株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マクセル株式会社 filed Critical マクセル株式会社
Priority to PCT/JP2019/035007 priority Critical patent/WO2021044588A1/ja
Publication of WO2021044588A1 publication Critical patent/WO2021044588A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units

Definitions

  • the present invention relates to a message transmission system and a message transmission method for transmitting a message from a transmission terminal to a reception terminal via a management server.
  • Patent Document 1 it is necessary to register the feature amount of each person in advance in the feature amount database for identifying a person from the extracted feature amount.
  • the target person is assumed, but when targeting an unspecified number of people, it is not easy to register the feature amount of each person in advance.
  • the process of extracting the feature amount from the visual field image and identifying the person not only has a large processing load, but also there is a risk of erroneous determination if the face image of the person is not clear in the identification of the person by face recognition. That is, the condition is that the other party's face can be seen.
  • An object of the present invention is to provide a message transmission system and a message transmission method capable of transmitting a message to an unspecified number of persons existing in a visual field without preparing a feature database for identifying a person in advance. Is.
  • the present invention is a message transmitting system that transmits a message from a transmitting terminal to a receiving terminal via a management server, and the transmitting terminal is a terminal position calculation unit that calculates the current position of the transmitting terminal (hereinafter, transmitting terminal position information).
  • the first imaging unit that acquires the external image of the transmitting terminal
  • the receiving target person selection unit that selects the receiving target person who receives the message from the acquired external image in response to the operation of the sender, and the transmitting terminal position information.
  • the target person position calculation unit that calculates the position information of the selected reception target person (hereinafter referred to as the reception target person position information), the message creation unit that creates a message to the reception target person, and the created message.
  • the receiving terminal is a terminal position calculation unit that calculates the current position of the receiving terminal (hereinafter, receiving terminal position information), and a terminal position transmitting unit that transmits the calculated receiving terminal position information together with the terminal identification information of the receiving terminal to the management server.
  • a message receiving unit that receives a message transmitted from the management server.
  • the management server receives the receiving terminal position information and the terminal identification information from the receiving terminal, links them and registers them in the database, and the message sent from the transmitting terminal to the receiving target and the receiving target.
  • the message receiving unit that receives the position information and the database are referred to to extract the terminal identification information associated with the receiving terminal position information corresponding to the received reception target person position information, and the terminal identification information is identified by the extracted terminal identification information. It is provided with a message transmitting unit that transmits a message received from the transmitting terminal to the receiving terminal.
  • the present invention is a message transmission method for transmitting a message from a transmitting terminal to a receiving terminal via a management server, wherein the transmitting terminal has a terminal position calculation step for calculating a current position (hereinafter, transmission terminal position information) and transmission. Selection based on the external image acquisition step to acquire the external image of the terminal, the reception target selection step to select the reception target to receive the message from the external image in response to the operation of the sender, and the transmission terminal position information.
  • the receiving terminal manages a terminal position calculation step for calculating the current position (hereinafter, receiving terminal position information), a terminal position transmitting step for transmitting the calculated receiving terminal position information together with the terminal identification information of the receiving terminal to the management server, and a management. It includes a message receiving step for receiving a message sent from a server.
  • the management server receives the receiving terminal position information and the terminal identification information from the receiving terminal, links them and registers them in the database, and the terminal information registration step, and the message sent from the transmitting terminal to the receiving target and the receiving target.
  • the message receiving step for receiving the person position information and the database are referred to to extract the terminal identification information associated with the receiving terminal position information corresponding to the received reception target person position information, and the extracted terminal identification information is used for identification.
  • a message transmission step of transmitting a message received from the transmitting terminal to the receiving terminal to be performed is provided.
  • the present invention it is possible to send a message to an unspecified number of people even when the other person's face cannot be seen, and the usability is improved.
  • the figure which shows the whole structure of the message transmission system (Example 1).
  • the figure which shows the basic operation of a message sending system The figure which shows the hardware configuration of a transmitting terminal.
  • the figure which shows the functional block composition of a transmitting terminal External view of the transmitting terminal (in the case of HMD).
  • the figure which shows the hardware configuration of a receiving terminal The figure which shows the functional block composition of a receiving terminal.
  • External view of the receiving terminal for smartphones.
  • the figure which shows the hardware configuration of the management server The figure which shows the functional block composition of the management server.
  • the figure which shows the data structure of the terminal management database A flowchart showing a message transmission process of a transmitting terminal.
  • FIG. 2 is a flowchart showing a captured image saving process of a transmitting terminal (Example 2). The figure which shows the structure of the photographed image data which a transmission terminal saves. A flowchart showing a message transmission process of a transmitting terminal. A flowchart showing the message forwarding process of the management server. The figure which shows the whole structure of the message transmission system (Example 3).
  • FIG. 1A is a diagram showing the overall configuration of the message transmission system. Further, FIG. 1B is a diagram showing the basic operation of the message transmission system.
  • the transmission terminal 100, the reception terminal 200, and the management server 300 are connected to the network (LAN) 400, and a message is sent from the transmission terminal 100 to the reception terminal 200 via the management server. It is configured to be able to send.
  • Area 10 (indicated by a broken line) indicates an area in which messages can be transmitted and received between terminals in this system.
  • the management server 300 may be installed inside / outside the predetermined area 10.
  • the transmitting terminal 100 and the receiving terminal 200 can transmit / receive information including a message between the management server 300 and the management server 300 by wireless communication via the network (LAN) 400. Further, the position information of the own terminal can be acquired by a known positioning system or the like. Here, each terminal (transmitting terminal 100 and receiving terminal 200) calculates its own position information by receiving a signal from the position reference signal generator 500 installed in the area 10.
  • the transmission terminal 100 is a device possessed by a user (sender) U1 and transmitting a message to other persons (receivers) U2 and U3. Specifically, a head-mounted display (hereinafter, HMD), a smartphone, or the like is used. Here, an example of HMD (100H) is shown.
  • the user U1 who owns the transmission terminal 100 selects a person (reception target person) (U2 or U3) to whom the message is to be transmitted from the field image of the transmission terminal 100.
  • the transmitting terminal 100 When the transmitting terminal 100 is an HMD, the internal camera detects the line-of-sight position of the user U1 to select a person corresponding to the line-of-sight position as a reception target person. Next, the transmitting terminal 100 calculates the position information (target person position information 12) of the selected reception target person (U2 or U3). Then, the target person position information 12 is transmitted to the management server 300 together with the message 11 created by the user U1.
  • the receiving terminal 200 is a device possessed by persons (receivers) U2 and U3 in the area 10 and receiving a message 11 from a user (sender) U1 via a management server 300.
  • smartphones, smart watches, wristbands and the like are used.
  • an example of a smartphone (200S) and a smart watch (200W) is shown.
  • the receiving terminal 200 transmits its own terminal identification information 21 and the current position information (terminal position information 22) to the management server 300 at any time. Then, the person (U2 or U3) selected as the reception target receives the message 11 created by the user U1 at the receiving terminal 200 possessed via the management server 300.
  • the management server 300 associates the terminal identification information 21 received from each receiving terminal 200 with the terminal position information 22 and registers them in the terminal management database 4000.
  • the terminal management database 4000 is referred to, and the terminal identification information 21 associated with the terminal position information 22 corresponding to the target person position information 12 (approximately matching) To get.
  • the message 11 received from the transmitting terminal 100 is transmitted (forwarded) to the receiving terminal 200 identified by the acquired terminal identification information 21.
  • the position information (target person position information 12) of the person (U2 or U3) to whom the message is transmitted and the position information (terminal position information 22) of the receiving terminal 200 are exchanged.
  • the message 11 is transmitted to the receiving terminals corresponding to each other (approximately the same) by comparison.
  • a message is sent to an unspecified number of people existing in the field of view without preparing a feature database or the like for identifying the person in advance. It becomes possible.
  • the position reference signal generator 500 outputs a position reference signal for each terminal (transmitting terminal 100 and receiving terminal 200) to calculate its own position information. For example, when used indoors, by installing a plurality of signal generators such as beacons in the area 10, it is possible to calculate the position information at an arbitrary position in the area 10. Of course, as long as the environment can receive GPS (Global Positioning System) signals, a configuration using the GPS method may be used.
  • GPS Global Positioning System
  • the message transmission system 1 of this embodiment is assumed to be used within a predetermined area 10 set in advance.
  • area 10 include exhibition venues, event venues, party venues, venues for presentations and academic societies, etc., and staff (senders) who are patrolling the venue can be arbitrary visitors (receivers). ) Is applied when sending a message. Therefore, within the area 10, each terminal (transmitting terminal 100 and receiving terminal 200) can calculate the position information, and each terminal can communicate with the management server 300. It is not necessary that direct communication between each terminal is possible.
  • FIG. 2A is a diagram showing a hardware configuration of the transmitting terminal 100.
  • the transmission terminal 100 includes a main control unit 101, a system bus 102, a RAM 103, a storage unit 110, an operation input unit 120, an image processing unit 130, a voice processing unit 140, a position information acquisition unit 151, a distance measuring unit 152, and a sensor unit 160. It is configured to include a LAN communication unit 170 and an expansion interface 180.
  • the main control unit 101 is a microprocessor unit that controls the entire transmission terminal 100 according to a predetermined operation program.
  • the system bus 102 is a data communication path for transmitting and receiving various commands and data between the main control unit 101 and each operation block in the transmission terminal 100.
  • RAM (RandomAccessMemory) 103 is a work area for executing basic operation programs and other operation programs.
  • the RAM 103 may be integrated with the main control unit 101.
  • the storage unit 110 stores an operation program, an operation setting value, and the like of the transmission terminal 100. In addition, it is possible to store an operation program downloaded from the network and various data created by the operation program.
  • the storage unit 110 needs to hold the stored information even when the transmission terminal 100 is not supplied with power from the outside. Therefore, for example, a device such as a semiconductor element memory such as a flash ROM or SSD (Solid State Drive), a magnetic disk drive such as an HDD (Hard Disc Drive), or the like is used.
  • the operation input unit 120 is a user operation interface that receives a user's operation input to the transmission terminal 100.
  • it has an operation key 121 such as a power key, a volume key, and a home key, a touch sensor (touch pad) 122 used for operating the HMD, and a touch panel 123 used for operating the smartphone.
  • the touch panel 123 is integrally arranged on the display unit 131 and is called a touch screen.
  • the image processing unit 130 is composed of a display unit 131, an image signal processing unit 132, a first imaging unit 133, and a second imaging unit 134.
  • the display unit 131 displays the image data (object) generated by the image signal processing unit 132.
  • the HMD there are transparent type and non-transparent type display, and in the transparent type, it is possible to superimpose an object on the visual field landscape that can be seen through (so-called augmented reality (AR) display).
  • AR augmented reality
  • VR virtual reality
  • Smartphones are non-transparent and can display objects superimposed on camera-through images.
  • the image signal processing unit 132 drives the display unit 131 based on the input image data.
  • the first imaging unit 133 and the second imaging unit 134 are photographing units (cameras) that convert the light input from the lens into an electric signal and capture the image data of the subject.
  • the first imaging unit 133 is an external camera for the HMD and an out-camera (rear camera) for the smartphone.
  • the second imaging unit 134 is an internal camera for the HMD and an in-camera (front camera) for the smartphone.
  • the external image taken by the first imaging unit 133 is displayed as a camera-through image on the non-transparent display unit 131. Further, in the HMD, the second imaging unit 134 is used to detect the line of sight of the user.
  • the voice processing unit 140 is composed of a voice output unit 141, a voice signal processing unit 142, and a voice input unit 143.
  • the voice output unit 141 is a speaker, and outputs the voice processed by the voice signal processing unit 142.
  • the voice input unit 143 is a microphone and inputs a user's voice.
  • the position information acquisition unit 151 receives the signal from the position reference signal generator 500 and acquires the position information of the transmission terminal 100.
  • the position information is absolute coordinates (longitude / latitude), and when the position reference signal generator 500 is a signal such as a beacon installed indoors, the position information is relative coordinates. That is, the coordinate values differ depending on whether the positioning system is an indoor positioning system or a GPS system.
  • the distance measuring unit 152 is a device that measures the distance to the subject, and for example, a TOF (Time Of Flight) method is used.
  • the distance to the subject can also be measured by taking a stereo image with the first imaging unit 133. In that case, the first imaging unit 133 also serves as the distance measuring unit 152.
  • the sensor unit 160 is a group of various sensors for detecting the state of the transmitting terminal 100, includes a gyro sensor 161, a geomagnetic sensor 162, and an acceleration sensor 163, and includes tilt, orientation (direction), movement, and movement of the transmitting terminal 100. Is detected.
  • the direction (directivity) may be detected by using a direction detection unit different from that of the geomagnetic sensor 162.
  • the LAN (Local Area Network) communication unit 170 is connected to the network 400 via an access point or the like, and transmits / receives data to / from the management server 300 on the network.
  • LAN Local Area Network
  • the expansion interface 180 is a group of interfaces for expanding the functions of the transmission terminal 100, and is composed of a video / audio interface, a USB (Universal Serial Bus) interface, a memory interface, and the like.
  • the configuration example of the transmission terminal 100 shown in FIG. 2A includes many configurations that are not essential for the operation of this embodiment, and even if these configurations are not provided, the effect of this embodiment is impaired. There is no.
  • FIG. 2B is a diagram showing a functional block configuration of the transmitting terminal 100.
  • various programs stored in the storage unit 110 in FIG. 2A and executed by the RAM 103 will be described.
  • the storage unit 110 stores basic operation programs 1001 such as an OS, applications 1002 that execute various functions of the transmission terminal 100, various operation setting values, and various information (video / still image / audio, etc.). It has a storage area 1009.
  • the programs and applications stored in the storage unit 110 are expanded in the RAM 103, and the main control unit 101 executes the expanded programs / applications to configure various functional units of the transmission terminal 100.
  • an external image captured by the first imaging unit 133 is stored as captured image data 5000. The usage of the captured image data 5000 will be described in Example 2 described later.
  • the RAM 103 has the following functional parts.
  • the basic operation execution unit 1101 executes the basic operation of the transmission terminal 100.
  • the terminal position calculation unit 1111 calculates the current position information (terminal position information) of the transmission terminal 100 based on the signal received from the position reference signal generator 500 by the position information acquisition unit 151.
  • the reception target person selection unit 1112 selects a person (that is, a reception target person) to whom the message is to be transmitted. Specifically, in the HMD, among the external images acquired by the first imaging unit 133 (external camera), a person corresponding to the line-of-sight position of the user U1 detected by the second imaging unit 134 (internal camera) is selected. Select as the recipient. On the other hand, in the smartphone, among the external images acquired by the first imaging unit 133 (out-camera) and displayed on the display unit 131 (touch screen), a person corresponding to the touch operation of the user U1 is set as the reception target person. select.
  • the target person position calculation unit 1113 calculates the position information (target person position information) of the reception target person selected by the reception target person selection unit 1112. Therefore, reception is performed based on the distance information to the reception target person measured by the distance measuring unit 152, the orientation information directed by the transmitting terminal 100 measured by the geomagnetic sensor 162, and the terminal position information calculated by the terminal position calculating unit 1111. Calculate the position information of the target person.
  • the message creation unit 1114 creates a message to be transmitted to the reception target person in response to the user operation instruction to the operation input unit 120. Specifically, the user's voice input from the voice input unit 143 is used as the message data. Message data is created by gesture input to the virtual keyboard displayed on the display unit 131. Alternatively, it is performed by selecting message data created in advance in an external information device such as a smartphone.
  • the message transmission unit 1115 transmits the message data created by the message creation unit 1114 to the management server 300 via the LAN communication unit 170 together with the target person position information calculated by the target person position calculation unit 1113.
  • the temporary storage area 1199 is a temporary storage area for various information created / acquired by the application.
  • FIG. 2C shows a state in which the user U1 is wearing the HMD (100H) as an external view of the transmission terminal 100, (a) is a front view, and (b) is a side view.
  • the user U1 is in a state where the HMD (100H) is attached to the head and the landscape in front is viewed by the transparent (or non-transparent) display unit 131.
  • first imaging units external cameras
  • a ranging unit 152 for measuring the distance to the subject in the center.
  • a touch sensor 122L for receiving a user's operation and a voice output unit (speaker) 141L are provided. Only one of the left and right touch sensors 122 may be used as the first imaging unit 133. It is also possible to measure the distance to the subject by taking a stereo image with the left and right first imaging units 133L / 133R. In that case, the distance measuring unit 152 can be omitted. Further, it may be configured by one image input device having the functions of the first imaging unit 133L / 133R and the distance measuring unit 152, that is, a camera capable of simultaneously acquiring image information and distance information.
  • FIG. 3A is a diagram showing a hardware configuration of the receiving terminal 200.
  • the configuration when a smartphone is used will be mainly described, and the explanation will be added when a smart watch or a wristband is used. A detailed description of the same components as the transmission terminal 100 of FIG. 2A will be omitted.
  • the receiving terminal 200 includes a main control unit 201, a system bus 202, a RAM 203, a storage unit 210, an operation input unit 220, an image processing unit 230, a voice processing unit 240, a position information acquisition unit 251 and a sensor unit 260, and a LAN communication unit 270. It is configured to include an expansion interface 280.
  • the main control unit 201 controls the entire receiving terminal 200.
  • the system bus 202 is a data communication path between the main control unit 201 and each operation block in the receiving terminal 200.
  • the RAM 203 serves as a work area when the operation program is executed.
  • the storage unit 210 stores an operation program, an operation setting value, and the like of the receiving terminal 200.
  • the operation input unit 220 is a user operation interface that receives a user's operation input to the receiving terminal 200.
  • it has an operation key 221 such as a power key, a volume key, and a home key, a touch sensor (touch pad) 222, and a touch panel 223.
  • the touch sensor 222 is used for operating the wristband, but can be omitted in smartphones and smart watches.
  • the touch panel 223 is integrally arranged on the display unit 231 and is called a touch screen.
  • the image processing unit 230 is composed of a display unit 231, an image signal processing unit 232, a first imaging unit 233, and a second imaging unit 234.
  • the display unit 231 displays the image data (object) generated by the image signal processing unit 232.
  • the image signal processing unit 232 drives the display unit 231 based on the input image data. In the wristband, the display unit 231 can be omitted.
  • the first imaging unit 233 is an out-camera (rear camera) for smartphones and an external camera for smart watches and wristbands.
  • the second imaging unit 234 is an in-camera (front camera) in a smartphone, and can be omitted in a smart watch or a wristband.
  • the voice processing unit 240 is composed of a voice output unit 241, a voice signal processing unit 242, and a voice input unit 243.
  • the voice output unit 241 is a speaker, and outputs the voice processed by the voice signal processing unit 242.
  • the voice input unit 243 is a microphone and inputs a user's voice.
  • the position information acquisition unit 251 receives the signal from the position reference signal generator 500 and acquires the position information of the receiving terminal 200.
  • the positioning system is common to the method used by the position information acquisition unit 151 of the transmission terminal 100, and the position coordinates differ depending on whether it is an indoor positioning method or a GPS method.
  • the sensor unit 260 is a group of various sensors for detecting the state of the receiving terminal 200, and has a gyro sensor 261, a geomagnetic sensor 262, and an acceleration sensor 263, and includes tilt, orientation (direction), movement, and movement of the receiving terminal 200. Is detected.
  • the LAN communication unit 270 is connected to the network 400 and transmits / receives data to / from the management server 300 on the network.
  • the expansion interface 280 is a group of interfaces for expanding the functions of the receiving terminal 200.
  • FIG. 3B is a diagram showing a functional block configuration of the receiving terminal 200.
  • various programs stored in the storage unit 210 in FIG. 3A and executed by the RAM 203 will be described.
  • the storage unit 210 stores basic operation programs 2001 such as an OS, applications 2002 that execute various functions of the receiving terminal 200, and various data for storing various operation setting values and various information (video / still image / audio, etc.). It has a storage area 2009.
  • the terminal identification information (MAC address and IP address) of the receiving terminal 200 and the like are stored in the various data storage areas 2009.
  • the programs and applications stored in the storage unit 210 are expanded in the RAM 203, and the main control unit 201 executes the expanded programs / applications to configure various functional units of the receiving terminal 200.
  • the RAM 203 has the following functional parts.
  • the basic operation execution unit 2101 executes the basic operation of the receiving terminal 200.
  • the operation setting unit 2111 sets the operation of the receiving terminal 200 in response to the user's operation instruction to the operation input unit 220, and stores the setting contents in various data storage areas 2009. Specifically, it is set whether or not to receive the message transmitted from the transmitting terminal 100 (permission / denial).
  • the terminal position calculation unit 2112 calculates the current position information (terminal position information) of the receiving terminal 200 based on the signal received from the position reference signal generator 500 by the position information acquisition unit 251.
  • the terminal position transmission unit 2113 transmits the current terminal position information calculated by the terminal position calculation unit 2112 to the management server 300 via the LAN communication unit 270. At that time, the terminal identification information of the receiving terminal 200 stored in the various data storage areas 2009 and the operation setting information of the receiving terminal 200 (information on whether or not a message can be received from the transmitting terminal) are transmitted together.
  • the message receiving unit 2114 receives the message transmitted from the management server 300 via the LAN communication unit 270.
  • the received message (image / voice) is displayed / output by the image processing unit 230 or the voice processing unit 240.
  • the temporary storage area 2199 is a temporary storage area for various information created / acquired by the application.
  • 3C shows the case of a smartphone (200S) possessed by persons (recipients) U2 and U3 as an external view of the receiving terminal 200, (a) is a front (front) view, and (b) is a rear view. ..
  • a touch screen 290 composed of a display unit 231 and a touch panel 223 stacked on top of each other is arranged on the front surface of the smartphone 200S, and the receiver visually recognizes the image displayed on the display unit 231 and inputs operations to the touch panel 223. can do. Further, on the front surface of the smartphone 200S, a second imaging unit (front camera / in-camera) 234, a voice output unit (monaural speaker) 241M used during a call, and an operating state notification LED 225 are arranged.
  • a power switch 221P which is an operation key
  • a voice input unit (monaural microphone) 243M
  • a USB terminal extended interface
  • FIG. 4A is a diagram showing a hardware configuration of the management server 300.
  • the management server 300 manages the terminal position information and the like of each receiving terminal 200 in a database, receives the message transmitted from the transmitting terminal 100 and the target person position information, and the position information of both corresponds (approximately matches).
  • the management server 300 includes a main control unit 301, a system bus 302, a RAM 303, a storage unit 310, an operation input unit 320, a display unit 331, an image signal processing unit 332, and a LAN communication unit 370.
  • the storage unit 310 has a terminal management database 4000 that manages each receiving terminal located in the area.
  • the terminal management database 4000 stores the terminal identification information and the terminal position information of each receiving terminal 200.
  • the LAN communication unit 370 transmits / receives a message and various information between each terminal (transmitting terminal 100 and receiving terminal 200) in the area.
  • FIG. 4B is a diagram showing a functional block configuration of the management server 300.
  • various programs stored in the storage unit 310 in FIG. 4A and executed by the RAM 303 will be described.
  • the storage unit 310 stores a basic operation program 3001 such as an OS, an application 3002 that executes various functions of the management server 300, and a terminal management database 4000 that stores terminal identification information and terminal position information of each receiving terminal in association with each other.
  • the programs and applications stored in the storage unit 310 are expanded in the RAM 303, and the main control unit 301 executes the expanded programs / applications to configure various functional units of the management server 300.
  • the RAM 303 has the following functional parts.
  • the basic operation execution unit 3101 executes the basic operation of the management server 300.
  • the terminal management unit 3111 manages each receiving terminal 200 in the area.
  • the terminal identification information, terminal position information, and message reception availability information transmitted from each receiving terminal 200 are received via the LAN communication unit 370, and the received information is linked and registered in the terminal management database 4000. To do. Also, when new information is received, the data in the terminal management database 4000 is updated (or new information is added to create a history).
  • the message receiving unit 3112 receives the message transmitted from the transmitting device 100 and the target person position information via the LAN communication unit 370.
  • the message transmitting unit 3113 refers to the terminal management information registered in the terminal management database 4000, and is associated with the terminal position information corresponding to (approximately matching) the target person position information received by the message receiving unit 3112. Extract the terminal identification information. Then, the message received by the message receiving unit 3112 is transmitted to the receiving terminal 200 identified by the extracted terminal identification information via the LAN communication unit 370.
  • the temporary storage area 3199 is a temporary storage area for various information created / acquired by the application.
  • FIG. 4C is a diagram showing a data structure of the terminal management database 4000.
  • the terminal management database 4000 is composed of the following fields.
  • the terminal identification information 4001 is a unique identification number (MAC address / IP address, etc.) that can identify the receiving terminal 200.
  • the reception availability information 4002 is setting information for allowing or rejecting the reception of the message from the transmission terminal 100 by the reception terminal 200.
  • the registration (update) time information 4003 is information regarding the date and time (year / month / day / hour / minute / second) when the terminal position information of the receiving terminal 200 is registered (updated).
  • the terminal position information 4004 is the position information of the receiving terminal 200.
  • FIG. 5A is a flowchart showing a message transmission process of the transmission terminal.
  • the user (sender) U1 wearing the transmission terminal (HMD) 100 selects a reception target person who wants to send a message via the transmission terminal 100, and creates a message.
  • the transmission terminal 100 calculates the position information of the reception target person from the distance information and the direction information to the selected reception target person, and transmits the message created by the user to the management server 300 together with the target person position information.
  • S101 When the operation input unit 120 receives the message transmission instruction from the user (sender), the basic operation execution unit 1101 executes the following message transmission process.
  • the reception target person selection unit 1112 acquires an external image (landscape in front) from the first imaging unit (external camera) 133. At this time, the user wearing the HMD visually recognizes the scenery in front of the user through the transparent display unit 131, so that the external image is the same as the visual field image of the user.
  • the reception target person selection unit 1112 acquires an internal image (user's face image) from the second imaging unit (internal camera) 134.
  • S106 The reception target person selection unit 1112 analyzes the internal image acquired in S105 to detect the line-of-sight position of the user.
  • S107 The reception target person selection unit 1112 analyzes the external image acquired in S104, and selects a person corresponding to the line-of-sight position of the user detected in S106 as the message reception target person in the external image.
  • the target person position calculation unit 1113 acquires the distance information to the reception target person selected in S107 by using the distance measuring unit 152.
  • the message creation unit 1114 receives the user's operation via the operation input unit 120 and creates a message to be transmitted to the reception target person.
  • the message transmission unit 1115 transmits the message created in S110 and the target person position information calculated in S109 to the management server 300 via the LAN communication unit 170.
  • FIG. 5B is a flowchart showing a terminal position transmission process of the receiving terminal.
  • Each receiving terminal 200 possessed by the receivers U2 and U3 calculates the position information (terminal position information) of the receiving terminal 200 at predetermined time (for example, 0.5 sec) intervals as an operation before receiving the message, and owns the terminal. It is transmitted to the management server 300 together with the identification information and the reception availability information of the message.
  • the terminal identification information of the receiving terminal 200 is stored in various data storage areas 2009 of the storage unit 210.
  • the operation setting unit 2111 stores (or updates) the setting information of whether or not the message can be received in the various data storage areas 2009 in response to the operation instruction of the receiver from the operation input unit 220.
  • the terminal position calculation unit 2112 calculates the current position information (terminal position information) of the receiving terminal 200 based on the position reference signal received by the position information acquisition unit 251 from the position reference signal generator 500. In addition, the time information when the position information is calculated is acquired.
  • S203 The terminal position transmission unit 2113 compares the position information calculated in S202 with the past position information stored in the temporary storage area 2199, and determines whether or not the movement amount is a predetermined distance (for example, 50 cm) or more. .. If there is a movement of a predetermined distance or more, the process proceeds to S204. If there is no movement beyond the predetermined distance, the process proceeds to S205.
  • S204 The position information calculated in S202 and the time information when the position information is calculated are stored (or updated) in the temporary storage area 2199, and the process proceeds to S207.
  • S205 The terminal position transmission unit 2113 compares the time information when the position information is calculated in S202 with the time information when the past position information stored in the temporary storage area 2199 is calculated, and the elapsed time is compared. It is determined whether or not it is equal to or longer than a predetermined time (for example, 10 sec). If the lapse of a predetermined time or more has passed, the process proceeds to S206. If the elapse of the predetermined time or more has not passed, the process returns to S201.
  • S206 The time information when the position information is calculated in S202 is stored (or updated) in the temporary storage area 2199.
  • the terminal position transmitting unit 2113 acquires the terminal identification information of the receiving terminal 200 from various data storage areas 2009.
  • the terminal position transmission unit 2113 acquires message reception availability information from various data storage areas 2009.
  • the terminal position transmission unit 2113 transmits the terminal position information stored in the temporary storage area 2199, the terminal identification information acquired in S207, and the message reception availability information acquired in S208 via the LAN communication unit 270. It is transmitted to the management server 300. Further, the time information stored in the temporary storage area 2199 may be transmitted. Although the terminal identification information is transmitted every time, the message reception availability information may be transmitted only when there is a change from the previous transmission content. After that, the process returns to S201, and the above process is repeated during the message transmission / reception period.
  • each receiving terminal 200 transmits its own terminal position information to the management server 300 when it has moved by a predetermined distance or more, or when a predetermined time or more has elapsed.
  • the management server 300 receives the terminal position information, the terminal identification information, and the reception availability information from each receiving terminal 200, it registers (updates) with the time information in the terminal management database 4000 of FIG. 4C.
  • the time information may be based on the operation of the internal clock of the management server 300, or may be transmitted from each receiving terminal 200.
  • FIG. 5C is a flowchart showing the message forwarding process of the management server.
  • the management server 300 links the terminal identification information received from each receiving terminal 200, the terminal position information, and the message reception availability information, and registers them in the terminal management database 4000.
  • the terminal management database 4000 is referred to, and the terminal identification associated with the terminal position information corresponding to the target person position information (approximately matching) is performed. Read information. Then, the message is transferred to the receiving terminal 200 having the read terminal identification information.
  • the message receiving unit 3112 receives the message transmitted from the transmitting terminal 100 and the target person position information via the LAN communication unit 370.
  • the message transmission unit 3113 refers to the terminal position information 4004 of the receiving terminal 200 registered in the terminal management database 4000 based on the current time.
  • S303 It is determined whether or not there is terminal position information 4004 corresponding to (approximately matching) the target person position information received in S301. Here, if the difference between the two positions is within a predetermined value, it is determined that the two positions are roughly the same. As a result of the determination, if there is a corresponding (approximately matching) terminal position information, the process proceeds to S304. If there is no corresponding (approximately matching) terminal position information, the process proceeds to S308.
  • S304 The message transmission unit 3113 acquires the terminal identification information 4001 associated with the terminal position information 4004 determined to correspond (approximately match) from the terminal management database 4000.
  • S305 The message transmission unit 3113 acquires the reception availability information 4002 associated with the terminal position information 4004 determined to correspond (approximately match) from the terminal management database 4000.
  • S307 The message transmitting unit 3113 transfers the message received in S301 to the receiving terminal 200 identified by the terminal identification information acquired in S304 via the LAN communication unit 370.
  • S308 The message transmission unit 3113 returns an error message to the transmission terminal 100 via the LAN communication unit 370.
  • the error message if the judgment of S303 is No, it means that the receiving terminal 200 to receive the message cannot be found, and if the judgment of S306 is No, it means that the receiving target person refuses to receive the message. ..
  • the message is transmitted to the receiving terminal in which the position information (target person position information) of the message receiving target person and the position information (terminal position information) of the receiving terminal 200 correspond (approximately match).
  • the position information target person position information
  • terminal position information position information
  • reception target person selection process (S107) and the reception target person position information calculation process (S109) performed by the transmission terminal 100 in FIG. 5A will be described in detail.
  • FIG. 6A is a diagram showing an example of arrangement of a user (sender) and a person (receiver).
  • a user U1 who possesses (wears) the transmission terminal 100 and persons U2, U3, U4 who possess the reception terminal 200, and their positions are indicated by XY coordinates.
  • XY coordinates There is.
  • only the calculation process of the position information in the XY plane (horizontal plane) is described for the sake of simplicity, but the same process may be performed in the vertical direction as well.
  • the position information of the user U1 (approximately match with the position information of the transmission terminal 100) is (X1, Y1)
  • the position information of each person U2, U3, U4 (approximately match with the position information of each transmission terminal 200) is (X2, Y2). ), (X3, Y3), (X4, Y4).
  • ⁇ 1 be the directional information (based on the Y direction) directed by the transmitting terminal 100
  • be the shooting angle of view of the first imaging unit 133 of the transmitting terminal 100.
  • the position information (X1, Y1) of the transmission terminal 100 is acquired by the position information acquisition unit 151
  • the orientation information ⁇ 1 of the transmission terminal 100 is acquired by the geomagnetic sensor 162.
  • the relative directional information of each person U2, U3, U4 based on the directional direction (direction ⁇ 1) of the transmitting terminal 100 is set to ⁇ 2, ⁇ 3, ⁇ 4, and the distance information from the transmitting terminal 100 to each person U2, U3, U4 is used. Let it be L2, L3, and L4.
  • the distance information L2, L3, L4 to each person is acquired by the distance measuring unit 152.
  • FIG. 6B is a diagram showing a message reception target person selection process (S107) by the user.
  • (A) shows an external image 600 acquired by the first imaging unit (external camera / out-camera) 133 of the transmission terminal 100 possessed (mounted) by the user U1.
  • the transmitting terminal 100 is an HMD
  • the external image 600 is a field image that the user can see through the transparent display unit 131
  • the transmitting terminal 100 is a smartphone
  • the external image 600 is displayed on the display unit 131.
  • there are persons U2 and U4 included in the shooting angle of view ⁇ of the first imaging unit 133 there are persons U2 and U4 included in the shooting angle of view ⁇ of the first imaging unit 133, and the user U1 selects a reception target person to send a message from among them.
  • FIG. (B) is a diagram showing selection of a reception target person when the transmission terminal 100 is an HMD.
  • the user U1 selects a reception target person by directing his / her line of sight to a desired person in the external image 600.
  • the reception target person selection unit 1112 analyzes the internal image (user's face image) acquired by the second imaging unit (internal camera) 134, detects the line-of-sight position of the user U1, and puts a cross mark 601 at the detected line-of-sight position. indicate.
  • the cross mark 601 is the position of the person U2, and the person U2 is selected as the reception target person.
  • the voice input unit 143 detects this and starts the message transmission process to the person U2.
  • FIG. (C) is a diagram showing selection of a reception target person when the transmission terminal 100 is a smartphone.
  • An external image acquired by the first imaging unit (out-camera) 133 is displayed on the touch screen 190 (integrated configuration of the display unit 131 and the touch panel 123), and the user U1 touches a person in the external image. By doing so, the recipient is selected.
  • the touch panel 123 detects this and the person U2 is selected as the reception target person.
  • the position of the person U2 is touched for a long time and a command such as "send message" is selected from the pop-up menu, the message transmission process is started.
  • FIG. 6C is a diagram illustrating a method of calculating the position information of the message reception target person (S109).
  • the position information of the reception target person is calculated by using the relative direction information, the distance information, and the like.
  • the person U2 will be described as the message receiving target person.
  • FIG. 1 shows the positional relationship of the reception target person in the external image (shooting screen) 600.
  • the distance in the screen is expressed by the number of pixels of the image sensor.
  • the horizontal distance of the shooting screen 600 by the first imaging unit 133 is W
  • the left edge position of the screen is L
  • the center position is C
  • the right edge position is R
  • the position of the person U2 who is the reception target that is, the transmission terminal 100 is the HMD.
  • the line-of-sight position of the user U1 and the touch position of the finger 602 or the like when the transmitting terminal 100 is a smartphone are set as T.
  • the horizontal distance M from the center position C to the position T of the person U2 is obtained.
  • (B) shows a method of calculating the relative orientation information ⁇ 2 of the person U2 as seen from the user U1.
  • O be the position of user U1.
  • the relative orientation information ⁇ 2 is calculated by using the horizontal distance W of the shooting screen 600 and the shooting angle of view ⁇ .
  • (C) shows the calculation method of the position information (X2, Y2) of the person U2.
  • the position information (X2, Y2) of the person U2 uses the distance information L2 to the person U2, the relative direction information ⁇ 2 of the person U2, the position information (X1, Y1) of the user U1, and the direction information ⁇ 1 of the transmission terminal 100. , Is calculated as follows. The angle is positive in the clockwise direction.
  • the position information (X3, Y3) and (X4, Y4) of other persons U3 and U4 are also calculated in the same manner.
  • the current terminal position information of the receiving terminal is registered, and the position information of the person (reception target person) who wants to send the message is calculated, so that the position information of both corresponds (generally matches). ) It is configured to send a message to the receiving terminal. As a result, it is possible to send a message to an unspecified number of people even when the other person's face cannot be seen.
  • a message is transmitted to the receiving terminal 200 having the same position information based on the past terminal position information of the receiving terminal 200 and the past target person position information of the receiving target person. Therefore, the user (sender) shoots an image including the receiver with the transmission terminal 100, saves it together with the shooting time information, etc., selects a reception target person who wants to send a message from the past shot images, and selects the reception target person, Calculate the target person position information.
  • the management server 300 refers to the terminal position information of the receiving terminal at the designated shooting time from the information registered in the past, and transfers the message to the corresponding receiving terminal.
  • the configuration of the message transmission system 1 in the second embodiment is the same as that in the first embodiment, but the transmission terminal 100 is suitable for a smartphone.
  • the processing performed by the transmission terminal 100 and the management server 300 will be described with a flowchart.
  • FIG. 7A is a flowchart showing a captured image saving process of the transmitting terminal.
  • the user U1 who owns the transmission terminal 100 captures and saves a landscape including a person who may send a message later.
  • the captured image is stored as captured image data 5000 in the various data storage areas 1009 of FIG. 2B.
  • S401 When the operation input unit 120 receives a shooting instruction from the user (sender), the basic operation executing unit 1101 executes the following shooting process.
  • S402 The first imaging unit (out-camera) 133 captures an external landscape and acquires an external image.
  • S403 The current time information is acquired by referring to the system clock or the like in the transmission terminal 100.
  • S404 The terminal position calculation unit 1111 calculates the current position information (terminal position information) of the transmission terminal 100 based on the position reference signal received by the position information acquisition unit 151 from the position reference signal generator 500.
  • S405 The direction (terminal orientation information) directed by the transmitting terminal 100 is calculated based on the geomagnetic information acquired by the geomagnetic sensor 162.
  • S406 The reception target person selection unit 1112 analyzes the external image acquired in S402 and detects a person appearing in the image.
  • S407 The target person position calculation unit 1113 acquires the distance information to the person detected in S406 by using the distance measurement unit 152. When a plurality of people are detected, the distance information to each person is acquired.
  • the external image acquired in S402 and its related information are stored in various data storage areas 1009.
  • the related information includes the shooting time information acquired in S403, the terminal position information of the transmitting terminal 100 calculated in S404, the terminal orientation information of the transmitting terminal 100 calculated in S405, and each person appearing in the external image acquired in S407. Includes distance information and. By repeating the above steps, the past captured images taken by the user U1 and the related information are accumulated in the various data storage areas 1009 of the transmission terminal 100.
  • FIG. 7B is a diagram showing a configuration of captured image data 5000 stored in various data storage areas 1009 of the transmitting terminal by the process of FIG. 7A.
  • the captured image 5001 is external image data acquired in S402. As information related to the captured image 5001, the captured time information 5002, the terminal position information 5003, and the terminal orientation information 5004 are stored. Further, the person information 5005 shown in the captured image 5001 and the distance information 5006 to each person are stored.
  • FIG. 7C is a flowchart showing a message transmission process of the transmission terminal.
  • the user U1 who possesses the transmission terminal 100 refers to the photographed image data 5000 of FIG. 7B and selects a reception target person who wants to transmit a message from the past photographed images.
  • the transmission terminal 100 calculates the position information of the selected reception target person at the time of shooting, and transmits the message created by the user to the management server 300 together with the target person position information.
  • S411 Upon receiving an operation instruction from the user (sender) via the operation input unit 120, the basic operation execution unit 1101 selects a photographed image captured in the past from the photographed image data 5000. For example, a thumbnail of the captured image 5001 is displayed on the display unit 131, and the user selects an image showing a person to be transmitted.
  • S412 The basic operation execution unit 1101 reads out the photographed image 5001 selected in S411 and its related information from the photographed image data 5000.
  • the related information includes shooting time information 5002, terminal position information 5003, terminal orientation information 5004, and distance information 5006 to each person 5005 shown in the shot image 5001.
  • S413 The captured image 5001 read in S412 is displayed on the display unit 131.
  • S414 The reception target person selection unit 1112 detects a user's touch operation on the touch screen 190 (the display unit 131 and the touch panel 123 are integrated) on which the captured image is displayed, and sends a message to the person existing at the touch position. Select as the recipient. The reception target is selected in the same manner as in FIG. 6B (c).
  • the target person position calculation unit 1113 calculates the position information (target person position information) of the message reception target person selected in S414 when the captured image is taken. For this calculation, the terminal position information 5003 read in S412, the terminal orientation information 5004, and the distance information 5006 to the selected person 5005 (reception target person) in the captured image 5001 are used. The specific calculation method of the target person position information is the same as the description of FIG. 6C.
  • S416 The message creation unit 1114 receives the user's operation via the operation input unit 120, and creates a message to be transmitted to the reception target person.
  • S417 The message transmission unit 1115 transmits the message created in S416, the shooting time information 5002 read in S412, and the target person position information calculated in S415 to the management server 300 via the LAN communication unit 170. ..
  • FIG. 7D is a flowchart showing the message forwarding process of the management server.
  • the management server 300 links the terminal identification information received from each receiving terminal 200, the terminal position information, and the message reception availability information, and registers them in the terminal management database 4000 of FIG. 4C.
  • the registration time information 4003 and the terminal position information 4004 have accumulated records for the past over a predetermined period. Then, when the transmission terminal 100 receives the message to the reception target person, the shooting time information, and the target person position information, the terminal management database 4000 is referred to, and both the time information and the position information correspond (approximately match). Search the terminal 200 and transfer the message.
  • S5011 The message receiving unit 3112 receives the message transmitted from the transmitting terminal 100, the shooting time information, and the target person position information via the LAN communication unit 370.
  • S502 The message transmission unit 3113 refers to the registration time information 4003 of the receiving terminal 200 registered in the terminal management database 4000, and extracts the management data (record) corresponding to the shooting time information received in S501.
  • the determination as to whether or not the correspondence is made may be determined in consideration of the width of the time interval (for example, 10 sec) for receiving the terminal position information from the receiving terminal 200.
  • S503 The message transmission unit 3113 refers to the terminal position information 4004 of the receiving terminal 200 registered in the management data extracted in S502.
  • S504 It is determined whether or not there is terminal position information 4004 corresponding to (approximately matching) the target person position information received in S501. As a result of the determination, if there is a corresponding (generally matching) terminal position information, the process proceeds to S505. If there is no corresponding (generally matching) terminal position information, the process proceeds to S509.
  • S505 The message transmission unit 3113 acquires the terminal identification information 4001 associated with the terminal position information 4004 determined to correspond (approximately match) in S504.
  • S506 The message transmission unit 3113 acquires the reception availability information 4002 associated with the terminal position information 4004 determined to correspond (approximately match) in S504.
  • the reception availability information 4002 is different for each registration time information 4003, the reception availability information 4002 associated with the latest record may be acquired.
  • the message transmission unit 3113 returns an error message to the transmission terminal 100 via the LAN communication unit 370.
  • the error message if the judgment of S504 is No, it means that the receiving terminal 200 to receive the message cannot be found, and if the judgment of S507 is No, it means that the receiving target person refuses to receive the message. .. Even if the registered time information corresponding to the shooting time information does not exist in the process of S502, an error message indicating that the receiving terminal 200 cannot be found is returned.
  • a message is transmitted to a receiving terminal whose position information matches at a specified past time based on the past terminal position information of the receiving terminal.
  • the message can be transmitted even when the person (reception target person) who wants to send the message moves and does not exist in the current field of view.
  • FIG. 8 is a diagram showing an overall configuration of the message transmission system according to the third embodiment.
  • the surveillance camera 100C and the control device are used as the transmission terminal 100.
  • the other receiving terminal 200, the management server 300, and the network (LAN) 400 have the same configuration as that of the first embodiment (FIG. 1A).
  • the surveillance camera 100C is fixedly installed at a predetermined position in the surveillance area 10 and acquires a surveillance image in the area.
  • the control device of the surveillance camera 100C (which may be the same as the management server 300), which is not shown, displays the surveillance image acquired by the surveillance camera 100C on the display unit (monitor), which is not shown.
  • the user (in this case, the observer) confirms the monitoring image displayed on the display unit (monitor) and gives an instruction to the control device to select the person (reception target person) to whom the message is to be transmitted.
  • the control device of the surveillance camera 100C calculates the target person position information of the selected reception target person and transmits the message to the reception target person to the management server 300.
  • the management server 300 refers to the terminal position information and the terminal identification information of each receiving terminal 200 that has been received / registered in advance, and transfers a message to the corresponding receiving terminal 200.
  • the control device of the surveillance camera 100C calculates the position information of the reception target person
  • the surveillance camera 100C is fixedly installed, so that the terminal position information and the terminal orientation information do not need to be calculated each time.
  • a predetermined value of time may be used.
  • the directivity direction of the surveillance camera 100C is changed by the user operation, the directivity information of the surveillance camera 100C may be modified by the amount of the user operation and given.
  • the configuration of this embodiment is expanded, a plurality of surveillance cameras 100C are installed so as to cover the entire monitoring area 10, and the images captured by each surveillance camera 100C are transmitted to the control device via the network 400.
  • a monitoring system that is centrally managed by a control device is also possible.
  • the user can monitor the images acquired from each surveillance camera 100C collectively displayed on the display unit (monitor) of the control device and send a message to a specific person.
  • the user (monitorer) instructs the control device to select one of the plurality of surveillance cameras 100C and the person to be captured in the acquired image.
  • the surveillance effect can be further improved by saving the past image taken by the surveillance camera 100C and extracting a specific person from the past image.
  • 1,1' Message sending system
  • 100 Transmission terminal
  • 100H Head-mounted display (HMD)
  • 100C Surveillance camera
  • 162 Geomagnetic sensor
  • 1113: Target person position calculation unit 1114: Message Creator
  • 1115 Message transmitter
  • 200 Receiving terminal
  • 200S Smartphone
  • 231 Display section
  • 3111: Terminal management department 3112: Message receiver
  • 3113 Message transmitter
  • 4000 Terminal management database

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephonic Communication Services (AREA)

Abstract

送信端末100は、撮像部にて取得した外部画像内からメッセージを受信する受信対象者を選択し、受信対象者の位置情報12を算出して、作成したメッセージ11とともに管理サーバ300へ送信する。受信端末200は、端末識別情報21を、受信端末の位置情報22とともに管理サーバ300へ送信する。管理サーバ300は、受信端末200から受信した端末識別情報21と受信端末位置情報22を紐付けしてデータベース4000に登録する。管理サーバ300は、送信端末100からメッセージ11と受信対象者位置情報12を受信すると、データベース4000を参照して、受信対象者位置情報12に対応する(概略一致する)受信端末位置情報22に紐付けされた端末識別情報21を抽出し、端末識別情報で識別される受信端末200に対して、送信端末から受信したメッセージを送信する。

Description

メッセージ送信システム及びメッセージ送信方法
 本発明は、送信端末から受信端末へ管理サーバを介してメッセージを送信するメッセージ送信システム及びメッセージ送信方法に関する。
 ユーザが視野内に存在する人物と意思疎通を行うため、直接対話するのではなくその人物の所持する情報端末にメッセージを送信したい場合がある。その際ユーザは、送信相手の人物が知り合いであって情報端末のメールアドレス等を知っていれば良いが、メールアドレスを知らない人物の場合は送信することができない。これに対処する方法として、例えば特許文献1には、「視野画像取得装置が前記ユーザの視野を画像として取得するステップと、前記取得した視野画像を解析し、人物の特定に係る特徴量を抽出するステップと、前記抽出した特徴量から、前記視野画像内の人物を特定するステップと、前記特定した人物に対して、電子メッセージを送信するステップと、を備えるメッセージ送信方法」が開示されている。
特開2014-10502号公報
 特許文献1の方法によれば、抽出した特徴量から人物を特定するための特徴量データベースには、予め各人物の特徴量を登録しておく必要がある。しかし対象とする人物が想定されていればよいが、不特定多数の人物を対象とする場合は、予め各人物の特徴量を登録しておくことは容易ではない。また、視野画像から特徴量を抽出して人物を特定する処理は、処理負荷が大きいだけでなく、顔認識による人物の特定では人物の顔画像が鮮明でないと誤判別の恐れがある。すなわち、相手の顔が見える状態であることが条件となる。
 本発明の目的は、予め人物を特定するための特徴量データベースを用意することなく、視野内に存在する不特定多数の人物を対象にメッセージを送信できるメッセージ送信システム及びメッセージ送信方法を提供することである。
 本発明は、送信端末から受信端末へ管理サーバを介してメッセージを送信するメッセージ送信システムであって、送信端末は、送信端末の現在位置(以下、送信端末位置情報)を算出する端末位置算出部と、送信端末の外部画像を取得する第1撮像部と、送信者の操作を受け、取得した外部画像内からメッセージを受信する受信対象者を選択する受信対象者選択部と、送信端末位置情報を基に、選択された受信対象者の位置情報(以下、受信対象者位置情報)を算出する対象者位置算出部と、受信対象者へのメッセージを作成するメッセージ作成部と、作成されたメッセージを、算出した受信対象者位置情報とともに、管理サーバへ送信するメッセージ送信部と、を備える。受信端末は、受信端末の現在位置(以下、受信端末位置情報)を算出する端末位置算出部と、算出した受信端末位置情報を、受信端末の端末識別情報とともに管理サーバへ送信する端末位置送信部と、管理サーバから送信されたメッセージを受信するメッセージ受信部と、を備える。管理サーバは、受信端末から受信端末位置情報と端末識別情報を受信し、両者を紐付けしてデータベースに登録する端末管理部と、送信端末から送信された受信対象者へのメッセージと受信対象者位置情報を受信するメッセージ受信部と、データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報に紐付けされた端末識別情報を抽出し、抽出した端末識別情報で識別される受信端末に対して、送信端末から受信したメッセージを送信するメッセージ送信部と、を備える。
 本発明は、送信端末から受信端末へ管理サーバを介してメッセージを送信するメッセージ送信方法であって、送信端末は、現在位置(以下、送信端末位置情報)を算出する端末位置算出ステップと、送信端末の外部画像を取得する外部画像取得ステップと、送信者の操作を受け、外部画像内からメッセージを受信する受信対象者を選択する受信対象者選択ステップと、送信端末位置情報を基に、選択された受信対象者の位置情報(以下、受信対象者位置情報)を算出する対象者位置算出ステップと、受信対象者へのメッセージを、算出した受信対象者位置情報とともに、管理サーバへ送信するメッセージ送信ステップと、を備える。受信端末は、現在位置(以下、受信端末位置情報)を算出する端末位置算出ステップと、算出した受信端末位置情報を、受信端末の端末識別情報とともに管理サーバへ送信する端末位置送信ステップと、管理サーバから送信されたメッセージを受信するメッセージ受信ステップと、を備える。管理サーバは、受信端末から受信端末位置情報と端末識別情報を受信し、両者を紐付けしてデータベースに登録する端末情報登録ステップと、送信端末から送信された受信対象者へのメッセージと受信対象者位置情報を受信するメッセージ受信ステップと、データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報に紐付けされた端末識別情報を抽出し、抽出した端末識別情報で識別される受信端末に対して、送信端末から受信したメッセージを送信するメッセージ送信ステップと、を備える。
 本発明によれば、不特定多数の人物を対象とし、相手の顔が見えない場合であってもメッセージの送信が可能となり、使い勝手が向上する。
メッセージ送信システムの全体構成を示す図(実施例1)。 メッセージ送信システムの基本動作を示す図。 送信端末のハードウェア構成を示す図。 送信端末の機能ブロック構成を示す図。 送信端末の外観図(HMDの場合)。 受信端末のハードウェア構成を示す図。 受信端末の機能ブロック構成を示す図。 受信端末の外観図(スマートフォンの場合)。 管理サーバのハードウェア構成を示す図。 管理サーバの機能ブロック構成を示す図。 端末管理データベースのデータ構成を示す図。 送信端末のメッセージ送信処理を示すフローチャート。 受信端末の端末位置送信処理を示すフローチャート。 管理サーバのメッセージ転送処理を示すフローチャート。 ユーザ(送信者)と人物(受信者)の配置の例を示す図。 ユーザによるメッセージ受信対象者の選択処理を示す図。 メッセージ受信対象者の位置情報の算出法を説明する図。 送信端末の撮影画像保存処理を示すフローチャート(実施例2)。 送信端末が保存する撮影画像データの構成を示す図。 送信端末のメッセージ送信処理を示すフローチャート。 管理サーバのメッセージ転送処理を示すフローチャート。 メッセージ送信システムの全体構成を示す図(実施例3)。
 以下、本発明の実施形態を図面を用いて説明する。
 図1Aは、メッセージ送信システムの全体構成を示す図である。また図1Bは、メッセージ送信システムの基本動作を示す図である。
 図1Aに示すように、メッセージ送信システム1は、送信端末100と受信端末200と管理サーバ300とがネットワーク(LAN)400に接続され、送信端末100から受信端末200へ管理サーバを介してメッセージを送信できる構成となっている。領域10(破線で示す)は、本システムにおいて端末間でメッセージの送受信が可能なエリアを示す。管理サーバ300は、所定の領域10の内側/外側の何れに設置しても良い。
 送信端末100と受信端末200は、ネットワーク(LAN)400を介した無線通信により、管理サーバ300との間でメッセージを含めた情報の送信/受信が可能である。また、公知の測位システム等により、自身の端末の位置情報を取得可能である。ここでは、領域10に設置した位置基準信号発生器500からの信号を受信して、各端末(送信端末100及び受信端末200)が自身の位置情報を算出する。
 図1Bを用いて、各端末の動作を説明する。
  送信端末100は、ユーザ(送信者)U1が所持し、他の人物(受信者)U2,U3にメッセージ送信を行う装置である。具体的にはヘッドマウントディスプレイ(以下、HMD)やスマートフォン等が用いられる。ここでは、HMD(100H)の例を示している。送信端末100を所持するユーザU1は、送信端末100の視野画像から、メッセージを送信する相手の人物(受信対象者)(U2またはU3)を選択する。送信端末100がHMDの場合、内部カメラでユーザU1の視線位置を検出することにより、視線位置に対応する人物を受信対象者として選択する。次に送信端末100は、選択された受信対象者(U2またはU3)の位置情報(対象者位置情報12)を算出する。そして、ユーザU1により作成されたメッセージ11とともに対象者位置情報12を管理サーバ300に送信する。
 受信端末200は、領域10内の人物(受信者)U2,U3が所持し、ユーザ(送信者)U1からのメッセージ11を管理サーバ300を介して受信する装置である。具体的には、スマートフォンやスマートウォッチ、リストバンド等が用いられる。ここではスマートフォン(200S)とスマートウォッチ(200W)の例を示している。受信端末200は、自身の端末識別情報21と現在の位置情報(端末位置情報22)とを、随時管理サーバ300に送信している。そして受信対象者として選択された人物(U2またはU3)は、所持する受信端末200にて、ユーザU1の作成したメッセージ11を管理サーバ300を介して受信する。
 管理サーバ300は、各受信端末200から受信した端末識別情報21と端末位置情報22とを紐付けして、端末管理データベース4000に登録する。送信端末100からメッセージ11と対象者位置情報12を受信すると、端末管理データベース4000を参照し、対象者位置情報12に対応する(概略一致する)端末位置情報22に紐付けされた端末識別情報21を取得する。そして、取得した端末識別情報21で識別される受信端末200に対して、送信端末100から受信したメッセージ11を送信(転送)する。
 このように本実施例のメッセージ送信システム1では、メッセージを送信する相手の人物(U2またはU3)の位置情報(対象者位置情報12)と受信端末200の位置情報(端末位置情報22)とを比較し、両者が対応する(概略一致する)受信端末へメッセージ11を送信する構成としている。これにより、相手の人物のメールアドレス等が分からない場合に、予め人物を特定するための特徴量データベース等を用意することなく、視野内に存在する不特定多数の人物を対象にメッセージを送信することが可能となる。
 位置基準信号発生器500は、各端末(送信端末100及び受信端末200)が自身の位置情報を算出するための位置基準信号を出力する。例えば屋内で使用する場合は、ビーコン等の信号発生器を領域10内に複数台設置することで、領域10内の任意の位置において位置情報の算出が可能となる。もちろん、GPS(Global Positioning System)信号が受信できる環境であれば、GPS方式を利用する構成でも良い。
 本実施例のメッセージ送信システム1は、予め設定された所定の領域10内で使用されることを想定している。領域10の具体例としては、展示会場、イベント会場、パーティ会場、発表会や学会等の会場、等が可能であり、会場内を巡回中のスタッフ(送信者)が、任意の来客(受信者)にメッセージを送信する場合等に適用する。よって領域10内では、各端末(送信端末100と受信端末200)は位置情報の算出が可能であり、各端末は管理サーバ300との通信が可能である。なお、各端末間の直接の通信は可能でなくとも良い。
 図2Aは、送信端末100のハードウェア構成を示す図である。ここでは、ヘッドマウントディスプレイ(HMD)を用いた場合の構成を中心に説明し、スマートフォンを用いた場合については説明を付記することにする。送信端末100は、主制御部101、システムバス102、RAM103、ストレージ部110、操作入力部120、画像処理部130、音声処理部140、位置情報取得部151、測距部152、センサ部160、LAN通信部170、拡張インタフェース180、を備えて構成される。
 主制御部101は、所定の動作プログラムに従って送信端末100全体を制御するマイクロプロセッサユニットである。システムバス102は、主制御部101と送信端末100内の各動作ブロックとの間で各種コマンドやデータの送受信を行うためのデータ通信路である。
 RAM(Random Access Memory)103は、基本動作プログラムやその他の動作プログラム実行時のワークエリアとなる。RAM103は、主制御部101と一体構成であっても良い。
 ストレージ部110は、送信端末100の動作プログラムや動作設定値等を記憶する。また、ネットワーク上からダウンロードした動作プログラムや該動作プログラムで作成した各種データ等を記憶可能である。ストレージ部110は、送信端末100に外部から電源が供給されていない状態であっても記憶している情報を保持する必要がある。従って、例えば、フラッシュROMやSSD(Solid State Drive)などの半導体素子メモリ、HDD(Hard Disc Drive)などの磁気ディスクドライブ、等のデバイスが用いられる。
 操作入力部120は、送信端末100に対するユーザの操作入力を受け付けるユーザ操作インタフェースである。具体構成としては、電源キー、音量キー、ホームキー等の操作キー121と、HMDの操作に使用するタッチセンサ(タッチパッド)122と、スマートフォンの操作に使用するタッチパネル123を有する。なお、スマートフォンにおいて、タッチパネル123は表示部131に重ねて一体的に配置され、タッチスクリーンと呼ばれる。
 画像処理部130は、表示部131、画像信号処理部132、第1撮像部133、第2撮像部134で構成される。表示部131は、画像信号処理部132で生成した画像データ(オブジェクト)を表示する。HMDでは透過型と非透過型の表示があり、透過型では、透過して見える視野風景にオブジェクトを重畳して表示することが可能である(いわゆる拡張現実(AR)表示)。一方非透過型では、カメラスルー画像にオブジェクトを重畳して表示することが可能である(いわゆる仮想現実(VR)表示)。スマートフォンでは、非透過型であり、カメラスルー画像にオブジェクトを重畳して表示することが可能である。画像信号処理部132は、入力した画像データに基づいて表示部131を駆動する。
 第1撮像部133及び第2撮像部134は、レンズから入力した光を電気信号に変換し、被写体の画像データを取り込む撮影ユニット(カメラ)である。第1撮像部133は、HMDでは外部カメラ、スマートフォンではアウトカメラ(背面カメラ)である。第2撮像部134は、HMDでは内部カメラ、スマートフォンではインカメラ(前面カメラ)である。第1撮像部133で撮影した外部の画像は、非透過型の表示部131にカメラスルー画像として表示される。また、HMDにおいて第2撮像部134はユーザの視線を検出するために用いられる。
 音声処理部140は、音声出力部141、音声信号処理部142、音声入力部143で構成される。音声出力部141はスピーカであり、音声信号処理部142で処理した音声を出力する。音声入力部143はマイクであり、ユーザの声を入力する。
 位置情報取得部151は、位置基準信号発生器500からの信号を受信して送信端末100の位置情報を取得する。位置基準信号発生器500がGPS信号の場合は位置情報が絶対座標(経度/緯度)であり、屋内に設置したビーコン等の信号の場合は位置情報が相対座標となる。すなわち、測位システムが屋内測位方式かGPS方式かに応じて、座標値が異なる。
 測距部152は、被写体までの距離を測定するデバイスであり、例えばTOF(Time Of Flight)方式が用いられる。なお、被写体までの距離を、第1撮像部133でステレオ撮影することにより測定することもできる。その場合は、第1撮像部133は測距部152を兼ねている。
 センサ部160は、送信端末100の状態を検出するための各種センサ群であり、ジャイロセンサ161、地磁気センサ162、加速度センサ163を有し、送信端末100の傾き、方位(指向方向)、動き、を検出する。なお、方位(指向方向)の検出は、地磁気センサ162とは異なる方位検出部を用いて行っても良い。
 LAN(Local Area Network)通信部170は、アクセスポイント等を介してネットワーク400と接続され、ネットワーク上の管理サーバ300とデータの送受信を行う。
 拡張インタフェース180は、送信端末100の機能を拡張するためのインタフェース群であり、映像/音声インタフェース、USB(Universal Serial Bus)インタフェース、メモリインタフェース等で構成される。
 なお、図2Aに示した送信端末100の構成例は、本実施例の動作に必須ではない構成も多数含んでおり、これらが備えられていない構成であっても本実施例の効果を損なうことはない。
 図2Bは、送信端末100の機能ブロック構成を示す図である。ここでは、図2Aにおけるストレージ部110が記憶し、RAM103で実行する各種プログラムについて説明する。
 ストレージ部110には、OS等の基本動作プログラム1001、送信端末100の各種機能を実行するアプリケーション1002、及び各種動作設定値や各種情報(動画/静止画/音声等)を記憶しておく各種データ記憶領域1009を有する。ストレージ部110に記憶されているプログラムやアプリケーションは、RAM103に展開され、主制御部101が展開されたプログラム/アプリケーションを実行することにより、送信端末100の各種機能部が構成される。なお、各種データ記憶領域1009には、第1撮像部133にて撮影された外部の画像が撮影画像データ5000として記憶される。撮影画像データ5000の使い方については後述の実施例2で説明する。
 RAM103は、以下の機能部を有する。
  基本動作実行部1101は、送信端末100の基本的な動作を実行する。
  端末位置算出部1111は、位置情報取得部151が位置基準信号発生器500から受信した信号に基づいて、送信端末100の現在の位置情報(端末位置情報)を算出する。
 受信対象者選択部1112は、メッセージを送信する相手の人物(すなわち受信対象者)を選択する。具体的に言えば、HMDにおいては、第1撮像部133(外部カメラ)が取得した外部画像の中で、第2撮像部134(内部カメラ)が検出したユーザU1の視線位置に対応する人物を受信対象者として選択する。
  一方、スマートフォンにおいては、第1撮像部133(アウトカメラ)が取得して表示部131(タッチスクリーン)上に表示した外部画像の中で、ユーザU1のタッチ操作に対応する人物を受信対象者として選択する。
 対象者位置算出部1113は、受信対象者選択部1112で選択した受信対象者の位置情報(対象者位置情報)を算出する。そのため、測距部152が測定した受信対象者までの距離情報と、地磁気センサ162で測定した送信端末100が指向する方位情報と、端末位置算出部1111が算出した端末位置情報に基づいて、受信対象者の位置情報を算出する。
 メッセージ作成部1114は、操作入力部120に対するユーザ操作指示に応じて、受信対象者に送信するメッセージの作成を行う。具体的には、音声入力部143から入力したユーザの発声音をメッセージデータとする。表示部131に表示された仮想キーボードに対するジェスチャ入力で、メッセージデータを作成する。あるいは、スマートフォン等の外部情報機器に予め作成済みのメッセージデータを選択することにより行う。
 メッセージ送信部1115は、メッセージ作成部1114で作成したメッセージデータを、対象者位置算出部1113で算出した対象者位置情報とともに、LAN通信部170を介して管理サーバ300に送信する。
  一時記憶領域1199は、アプリケーションにより作成/取得された各種情報の一時的な記憶領域である。
 図2Cは、送信端末100の外観図として、ユーザU1がHMD(100H)を装着した状態を示し、(a)は正面図、(b)は側面図である。ユーザU1は、HMD(100H)を頭部に装着し、透過型(又は非透過型)の表示部131で前方の風景を見ている状態である。
 HMD(100H)のフレームの前面には、左右端に被写体を撮影する第1撮像部(外部カメラ)133L,133Rを、中央に被写体までの距離を測定する測距部152を有する。フレームの側面には、ユーザの操作を受け付けるタッチセンサ122Lと音声出力部(スピーカ)141Lを有する。第1撮像部133とタッチセンサ122は左右いずれか1つのみでも良い。なお、左右の第1撮像部133L/133Rでステレオ撮影することにより、被写体までの距離を測定することもできる。その場合には、測距部152を省略できる。また、第1撮像部133L/133Rと測距部152の機能を備えた1つの画像入力デバイス、すなわち画像情報と距離情報を同時に取得できるカメラで構成しても良い。
 図3Aは、受信端末200のハードウェア構成を示す図である。ここでは、スマートフォンを用いた場合の構成を中心に説明し、スマートウォッチやリストバンドを用いた場合については説明を付記することにする。なお、図2Aの送信端末100と同様の構成部分については、詳細な説明を省略する。
 受信端末200は、主制御部201、システムバス202、RAM203、ストレージ部210、操作入力部220、画像処理部230、音声処理部240、位置情報取得部251、センサ部260、LAN通信部270、拡張インタフェース280、を備えて構成される。
 主制御部201は、受信端末200全体を制御する。システムバス202は、主制御部201と受信端末200内の各動作ブロックとの間のデータ通信路である。
 RAM203は、動作プログラム実行時のワークエリアとなる。ストレージ部210は、受信端末200の動作プログラムや動作設定値等を記憶する。
 操作入力部220は、受信端末200に対するユーザの操作入力を受け付けるユーザ操作インタフェースである。具体構成としては、電源キー、音量キー、ホームキー等の操作キー221と、タッチセンサ(タッチパッド)222と、タッチパネル223を有する。なお、タッチセンサ222はリストバンドの操作で使用されるが、スマートフォンやスマートウォッチにおいては省略できる。また、タッチパネル223は表示部231に重ねて一体的に配置され、タッチスクリーンと呼ばれる。
 画像処理部230は、表示部231、画像信号処理部232、第1撮像部233、第2撮像部234で構成される。表示部231は、画像信号処理部232で生成した画像データ(オブジェクト)を表示する。画像信号処理部232は、入力した画像データに基づいて表示部231を駆動する。なお、リストバンドでは表示部231を省略できる。
 第1撮像部233は、スマートフォンではアウトカメラ(背面カメラ)であり、スマートウォッチやリストバンドでは外部カメラである。第2撮像部234は、スマートフォンではインカメラ(前面カメラ)であり、スマートウォッチやリストバンドでは省略できる。
 音声処理部240は、音声出力部241、音声信号処理部242、音声入力部243で構成される。音声出力部241はスピーカであり、音声信号処理部242で処理した音声を出力する。音声入力部243はマイクであり、ユーザの声を入力する。
 位置情報取得部251は、位置基準信号発生器500からの信号を受信して受信端末200の位置情報を取得する。測位システムは、送信端末100の位置情報取得部151で利用する方式と共通であり、屋内測位方式かGPS方式かに応じて、位置座標が異なる。
 センサ部260は、受信端末200の状態を検出するための各種センサ群であり、ジャイロセンサ261、地磁気センサ262、加速度センサ263を有し、受信端末200の傾き、方位(指向方向)、動き、を検出する。
 LAN通信部270はネットワーク400と接続され、ネットワーク上の管理サーバ300とデータの送受信を行う。拡張インタフェース280は、受信端末200の機能を拡張するためのインタフェース群である。
 図3Bは、受信端末200の機能ブロック構成を示す図である。ここでは、図3Aにおけるストレージ部210が記憶し、RAM203で実行する各種プログラムについて説明する。
 ストレージ部210には、OS等の基本動作プログラム2001、受信端末200の各種機能を実行するアプリケーション2002、及び各種動作設定値や各種情報(動画/静止画/音声等)を記憶しておく各種データ記憶領域2009を有する。各種データ記憶領域2009には、受信端末200の端末識別情報(MACアドレスやIPアドレス)等を記憶している。ストレージ部210に記憶されているプログラムやアプリケーションは、RAM203に展開され、主制御部201が展開されたプログラム/アプリケーションを実行することにより、受信端末200の各種機能部が構成される。
 RAM203は、以下の機能部を有する。
  基本動作実行部2101は、受信端末200の基本的な動作を実行する。
  動作設定部2111は、操作入力部220に対するユーザの操作指示に応じて、受信端末200の動作に関する設定を行い、設定内容を各種データ記憶領域2009に記憶する。具体的には、送信端末100から送信されたメッセージを受信するか否か(許可/拒否)について設定を行う。
 端末位置算出部2112は、位置情報取得部251が位置基準信号発生器500から受信した信号に基づいて、受信端末200の現在の位置情報(端末位置情報)を算出する。
 端末位置送信部2113は、端末位置算出部2112で算出した現在の端末位置情報を、LAN通信部270を介して管理サーバ300に送信する。その際、各種データ記憶領域2009に記憶されている受信端末200の端末識別情報と、受信端末200の動作設定情報(送信端末からのメッセージの受信可否情報)と、を一緒に送信する。
 メッセージ受信部2114は、LAN通信部270を介して管理サーバ300から送信されたメッセージを受信する。受信したメッセージ(画像/音声)は、画像処理部230または音声処理部240にて表示/出力される。
  一時記憶領域2199は、アプリケーションにより作成/取得された各種情報の一時的な記憶領域である。
 図3Cは、受信端末200の外観図として、人物(受信者)U2,U3が所持するスマートフォン(200S)の場合を示し、(a)は前面(正面)図、(b)は背面図である。
 スマートフォン200Sの前面には、表示部231とタッチパネル223とが重ねて構成されたタッチスクリーン290が配置され、受信者は表示部231に表示された画像を視認するとともに、タッチパネル223に対して操作入力することができる。またスマートフォン200Sの前面には、第2撮像部(前面カメラ/インカメラ)234、通話時に使用する音声出力部(モノラルスピーカ)241M、動作状態報知用LED225、が配置されている。
 一方、スマートフォン200Sの背面には、第1撮像部(背面カメラ/アウトカメラ)233、補助光発光部(フラッシュ/ストロボ)235、端末認証用の指紋センサ224、AV再生時に使用する音声出力部(ステレオスピーカ)241S、が配置されている。
 さらにスマートフォン200Sの上端には、操作キーである電源スイッチ221P、下端には、音声入力部(モノラルマイク)243M、充電や他のUSB機器との接続に使用するUSB端子(拡張インタフェース)280U、が配置されている。
 図4Aは、管理サーバ300のハードウェア構成を示す図である。管理サーバ300は、各受信端末200の端末位置情報等をデータベースで管理し、送信端末100から送信されたメッセージと対象者位置情報を受信して、両者の位置情報が対応する(概略一致する)受信端末へメッセージを送信(転送)する装置である。
 管理サーバ300は、主制御部301、システムバス302、RAM303、ストレージ部310、操作入力部320、表示部331、画像信号処理部332、LAN通信部370、を備えて構成される。この中で、ストレージ部310には、領域内に位置する各受信端末を管理する端末管理データベース4000を有している。端末管理データベース4000には、各受信端末200の端末識別情報と端末位置情報を記憶している。またLAN通信部370は、領域内の各端末(送信端末100と受信端末200)との間でメッセージや各種情報を送受信する。
 図4Bは、管理サーバ300の機能ブロック構成を示す図である。ここでは、図4Aにおけるストレージ部310が記憶し、RAM303で実行する各種プログラムについて説明する。
 ストレージ部310には、OS等の基本動作プログラム3001、管理サーバ300の各種機能を実行するアプリケーション3002、及び各受信端末の端末識別情報と端末位置情報とを紐付けして記憶する端末管理データベース4000を有する。ストレージ部310に記憶されているプログラムやアプリケーションは、RAM303に展開され、主制御部301が展開されたプログラム/アプリケーションを実行することにより、管理サーバ300の各種機能部が構成される。
 RAM303は、以下の機能部を有する。
  基本動作実行部3101は、管理サーバ300の基本的な動作を実行する。
  端末管理部3111は、領域内の各受信端末200の管理を行う。各受信端末200から送信された端末識別情報と端末位置情報とメッセージの受信可否情報とを、LAN通信部370を介して受信し、受信した各情報を紐付けして、端末管理データベース4000に登録する。また、新しい情報を受けると端末管理データベース4000のデータを更新する(または新しい情報を追加して履歴を作成する)。
 メッセージ受信部3112は、送信装置100から送信されたメッセージと対象者位置情報を、LAN通信部370を介して受信する。
  メッセージ送信部3113は、端末管理データベース4000に登録されている端末管理情報を参照して、メッセージ受信部3112が受信した対象者位置情報に対応する(概略一致する)端末位置情報に紐付けされた端末識別情報を抽出する。そして、抽出した端末識別情報で識別される受信端末200に対して、メッセージ受信部3112が受信したメッセージを、LAN通信部370を介して送信する。
  一時記憶領域3199は、アプリケーションにより作成/取得された各種情報の一時的な記憶領域である。
 図4Cは、端末管理データベース4000のデータ構成を示す図である。端末管理データベース4000は以下のフィールドで構成される。
 端末識別情報4001は、受信端末200を識別可能な一意の識別番号(MACアドレス/IPアドレス等)である。受信可否情報4002は、受信端末200が送信端末100からのメッセージの受信を許可するか拒否するかの設定情報である。
  登録(更新)時刻情報4003は、受信端末200の端末位置情報を登録(更新)した日時(年/月/日/時/分/秒)に関する情報である。端末位置情報4004は、受信端末200の位置情報である。
 ここで、登録(更新)時刻情報4003と端末位置情報4004は、最新の1つのみの情報(レコード)を登録しても良いし、所定時間内(或いは所定の個数内)の複数のレコードを登録しても良い。なお、後述の実施例2においては、所定期間に渡り過去分のレコードを蓄積している。また、受信可否情報4002において受信=拒否に設定された受信端末に関しては、登録(更新)時刻情報4003と端末位置情報4004は空欄としても良い。
 次に、送信端末100、受信端末200、及び管理サーバ300の行う処理をフローチャートで説明する。
 図5Aは、送信端末のメッセージ送信処理を示すフローチャートである。
  送信端末(HMD)100を装着したユーザ(送信者)U1は、送信端末100を介してメッセージを送りたい受信対象者を選択し、メッセージを作成する。送信端末100は、選択した受信対象者までの距離情報と方位情報から、受信対象者の位置情報を算出し、ユーザが作成したメッセージを対象者位置情報とともに管理サーバ300に送信する。
 S101:操作入力部120がユーザ(送信者)からのメッセージ送信指示を受け付けると、基本動作実行部1101は、以下のメッセージ送信処理を実行する。
  S102:位置情報取得部151が位置基準信号発生器500から受信した位置基準信号に基づいて、端末位置算出部1111は、送信端末100の現在の位置情報(端末位置情報)を算出する。
  S103:地磁気センサ162が取得した地磁気情報に基づいて、送信端末100が指向する方向(端末方位情報)を算出する。この方向は、ユーザの頭部の指向する方向でもある。
 S104:受信対象者選択部1112は、第1撮像部(外部カメラ)133から外部画像(前方の風景)を取得する。このときHMDを装着したユーザは、透過型の表示部131を介して前方の風景を視認しているので、外部画像はユーザの視野画像と同一である。
  S105:受信対象者選択部1112は、第2撮像部(内部カメラ)134から内部画像(ユーザの顔画像)を取得する。
 S106:受信対象者選択部1112は、S105で取得した内部画像を解析して、ユーザの視線位置を検出する。
  S107:受信対象者選択部1112は、S104で取得した外部画像を解析し、外部画像の中で、S106で検出したユーザの視線位置に対応する人物をメッセージの受信対象者として選択する。
 S108:対象者位置算出部1113は、S107で選択した受信対象者までの距離情報を、測距部152を用いて取得する。
  S109:対象者位置算出部1113は、S108で取得した受信対象者までの距離情報と、S102で算出した端末位置情報と、S103で算出した方位情報と、S106で検出した視線位置と、に基づいて、メッセージの受信対象者の位置情報(対象者位置情報)を算出する。なお、対象者位置情報の算出法の詳細については後述する。
 S110:メッセージ作成部1114は、操作入力部120を介してユーザの操作を受け付け、受信対象者に送信するメッセージを作成する。
  S111:メッセージ送信部1115は、S110で作成したメッセージとS109で算出した対象者位置情報とを、LAN通信部170を介して、管理サーバ300に送信する。
 図5Bは、受信端末の端末位置送信処理を示すフローチャートである。
  受信者U2,U3の所持する各受信端末200は、メッセージ受信前の動作として、所定時間(例えば0.5sec)間隔毎に受信端末200の位置情報(端末位置情報)を算出し、自身の端末識別情報とメッセージの受信可否情報とともに管理サーバ300へ送信する。受信端末200の端末識別情報は、ストレージ部210の各種データ記憶領域2009記憶されている。
 S201:動作設定部2111は、操作入力部220からの受信者の操作指示に応じて、メッセージ受信可否の設定情報を各種データ記憶領域2009に記憶(または更新)する。
  S202:位置情報取得部251が位置基準信号発生器500から受信した位置基準信号に基づいて、端末位置算出部2112は、受信端末200の現在の位置情報(端末位置情報)を算出する。また、前記位置情報を算出した際の時刻情報を取得する。
 S203:端末位置送信部2113は、S202で算出した位置情報と、一時記憶領域2199に記憶されている過去の位置情報とを比較し、移動量が所定距離(例えば50cm)以上かどうかを判定する。所定距離以上の移動があった場合は、S204に進む。所定距離以上の移動がなかった場合は、S205に進む。
  S204:S202で算出した位置情報と前記位置情報を算出した際の時刻情報とを一時記憶領域2199に記憶(または更新)し、S207に進む。
 S205:端末位置送信部2113は、S202で位置情報を算出した際の時刻情報と、一時記憶領域2199に記憶されている過去の位置情報を算出した際の時刻情報とを比較し、経過時間が所定時間(例えば10sec)以上かどうかを判定する。所定時間以上の経過があった場合は、S206に進む。所定時間以上の経過がなかった場合は、S201に戻る。
  S206:S202で位置情報を算出した際の時刻情報を一時記憶領域2199に記憶(または更新)する。
 S207:端末位置送信部2113は、各種データ記憶領域2009から受信端末200の端末識別情報を取得する。
  S208:端末位置送信部2113は、各種データ記憶領域2009からメッセージ受信可否情報を取得する。
 S209:端末位置送信部2113は、一時記憶領域2199に記憶されている端末位置情報と、S207で取得した端末識別情報と、S208で取得したメッセージ受信可否情報とを、LAN通信部270を介して管理サーバ300に送信する。更に、一時記憶領域2199に記憶されている時刻情報を送信しても良い。なお、端末識別情報は毎回送信するが、メッセージ受信可否情報は、前回の送信内容から変更があった場合のみ送信するようにしても良い。その後S201に戻り、メッセージ送受信期間中は上記処理を繰り返して行う。
 以上のように各受信端末200は、所定距離以上移動した場合、あるいは所定時間以上経過した場合に、自身の端末位置情報を管理サーバ300に送信する。管理サーバ300では、各受信端末200から端末位置情報、端末識別情報、及び受信可否情報を受信すると、図4Cの端末管理データベース4000に、時刻情報とともに登録(更新)する。前記時刻情報は、管理サーバ300の内部時計の動作に基づくものであっても良いし、各受信端末200から送信されたものであっても良い。
 なお、S208において取得したメッセージ受信可否情報が受信=「拒否」の場合は、S209において、端末位置情報と端末識別情報とを管理サーバ300に送信しないように制御しても良い。すなわち、受信可否情報が受信=「許可」の場合にのみ、端末位置情報と端末識別情報とを送信する。その結果、図4Cの端末管理データベース4000には、受信端末200の現在の位置情報が登録されないことになる。
 図5Cは、管理サーバのメッセージ転送処理を示すフローチャートである。
  管理サーバ300は、各受信端末200から受信した端末識別情報と端末位置情報とメッセージ受信可否情報とを紐付けして、端末管理データベース4000に登録している。送信端末100から、受信対象者へのメッセージと対象者位置情報を受信すると、端末管理データベース4000を参照し、対象者位置情報に対応する(概略一致する)端末位置情報に紐付けされた端末識別情報を読み出す。そして、読み出した端末識別情報を有する受信端末200に対してメッセージを転送する。
 S301:メッセージ受信部3112は、送信端末100から送信されたメッセージと対象者位置情報とを、LAN通信部370を介して受信する。
  S302:メッセージ送信部3113は、端末管理データベース4000に登録されている受信端末200の端末位置情報4004を、現在時刻に基づいて、参照する。
 S303:S301で受信した対象者位置情報に対応する(概略一致する)端末位置情報4004の有無を判定する。ここで、両者の位置の差が所定値以内であれば、「概略一致」と判定する。判定の結果、対応する(概略一致する)端末位置情報がある場合は、S304に進む。対応する(概略一致する)端末位置情報がない場合は、S308に進む。
 S304:メッセージ送信部3113は、端末管理データベース4000から、対応する(概略一致する)と判定された端末位置情報4004に紐付けされた端末識別情報4001を取得する。
  S305:メッセージ送信部3113は、端末管理データベース4000から、対応する(概略一致する)と判定された端末位置情報4004に紐付けされた受信可否情報4002を取得する。
 S306:S305で取得した受信可否情報4002は受信=許可であるかを判定する。受信=許可の場合はS307に進む。受信=拒否の場合は、S308に進む。
  S307:メッセージ送信部3113は、S301で受信したメッセージを、S304で取得した端末識別情報で識別される受信端末200に対して、LAN通信部370を介して転送する。
 S308:メッセージ送信部3113は、エラーメッセージを、LAN通信部370を介して送信端末100に返信する。エラーメッセージでは、S303の判定でNoの場合は、メッセージ受信対象となる受信端末200が見つからない旨を、S306の判定でNoの場合は、受信対象者がメッセージ受信を拒否している旨を伝える。
 このように本実施例では、メッセージの受信対象者の位置情報(対象者位置情報)と受信端末200の位置情報(端末位置情報)とが対応する(概略一致する)受信端末へメッセージを送信するようにしている。これにより、送信相手のメールアドレス等が分からない場合にも送信できるだけでなく、受信対象者が受信を拒否している場合にはメッセージを送信せず、その旨をユーザ(送信者)に返信するようにしたので、使い勝手の良いシステムを提供できる。
 ここで、図5Aにおける送信端末100の行う受信対象者の選択処理(S107)と、受信対象者の位置情報の算出処理(S109)について詳細に説明する。
 図6Aは、ユーザ(送信者)と人物(受信者)の配置の例を示す図である。
  メッセージ送信システムで管理される領域内には、送信端末100を所持(装着)するユーザU1と、受信端末200を所持する人物U2,U3,U4が存在し、それらの位置をXY座標で示している。なお、以下では、説明を簡単にするためにXY平面(水平面)内における位置情報の算出処理のみを説明しているが、鉛直方向に対しても同様の処理を行ってよい。
 ユーザU1の位置情報(送信端末100の位置情報と概略一致)を(X1,Y1)、各人物U2,U3,U4の位置情報(各送信端末200の位置情報と概略一致)を(X2,Y2),(X3,Y3),(X4,Y4)とする。
  送信端末100が指向する方位情報(Y方向を基準)をα1、送信端末100の第1撮像部133の撮影画角をβとする。送信端末100の位置情報(X1,Y1)は位置情報取得部151により、送信端末100の方位情報α1は地磁気センサ162により取得する。
 送信端末100の指向方向(方位α1)を基準とした、各人物U2,U3,U4の相対方位情報をγ2,γ3,γ4とし、送信端末100から各人物U2,U3,U4までの距離情報をL2,L3,L4とする。各人物までの距離情報L2,L3,L4は、測距部152により取得する。
 図6Bは、ユーザによるメッセージ受信対象者の選択処理(S107)を示す図である。
  (a)は、ユーザU1の所持(装着)する送信端末100の第1撮像部(外部カメラ/アウトカメラ)133が取得した外部画像600を示す。送信端末100がHMDの場合は、外部画像600は、ユーザが透過型の表示部131を介して見える視野画像であり、送信端末100がスマートフォンの場合は、外部画像600は表示部131に表示される。外部画像600には、第1撮像部133の撮影画角βに含まれる人物U2,U4が存在し、ユーザU1はこの中からメッセージを送る受信対象者を選択する。
 (b)は、送信端末100がHMDである場合の受信対象者の選択を示す図である。ユーザU1は、外部画像600内の所望の人物に視線を向けることで受信対象者を選択する。受信対象者選択部1112は、第2撮像部(内部カメラ)134が取得した内部画像(ユーザの顔画像)を解析し、ユーザU1の視線位置を検出し、検出した視線位置に十字マーク601を表示する。この例では、十字マーク601は人物U2の位置であり、人物U2が受信対象者として選択されている状態である。ユーザU1はこの状態で、「メッセージ送信」等の音声コマンドを発すると、音声入力部143でこれを検知し、人物U2へのメッセージ送信処理が開始される。
 (c)は、送信端末100がスマートフォンである場合の受信対象者の選択を示す図である。タッチスクリーン190(表示部131とタッチパネル123とを一体化構成)には第1撮像部(アウトカメラ)133が取得した外部画像が表示されており、ユーザU1は、外部画像内の人物にタッチすることで、受信対象者を選択する。例えば、人物U2の位置を指602等でタッチすると、タッチパネル123でこれを検知し、人物U2が受信対象者として選択される。人物U2の位置を長タッチした状態で、ポップアップメニューから「メッセージ送信」等のコマンドを選択すると、メッセージ送信処理が開始される。
 図6Cは、メッセージ受信対象者の位置情報の算出法(S109)を説明する図である。受信対象者の位置情報は、相対方位情報と距離情報等を用いて算出する。ここでは人物U2をメッセージ受信対象者として説明する。
 (a)は、外部画像(撮影画面)600内の受信対象者の位置関係を示す。なお、画面内距離は撮像素子の画素数で表現する。第1撮像部133による撮影画面600の水平距離をW、画面の左端位置をL、中央位置をC、右端位置をR、受信対象者である人物U2の位置(すなわち、送信端末100がHMDの場合はユーザU1の視線位置、送信端末100がスマートフォンの場合は指602等によるタッチ位置)をTとする。撮影画面600内の人物U2が選択されると、中央位置Cから人物U2の位置Tまでの水平距離Mが求められる。
 (b)は、ユーザU1から見た人物U2の相対方位情報γ2の算出法を示す。ユーザU1の位置をOとする。中央位置Cから人物U2の位置Tまでの水平距離Mが分かると、撮影画面600の水平距離W、撮影画角βを用いることで、相対方位情報γ2が算出される。
      tan(β/2)=(長さLC)/(長さOC)
      tan(γ2)=(長さTC)/(長さOC)
      (長さLC):(長さTC)=W/2:M
      γ2=tan-1(M/(W/2)×tan(β/2))
  他の人物U3,U4の相対方位情報γ3,γ4についても同様に算出される。
 (c)は、人物U2の位置情報(X2,Y2)の算出法を示す。人物U2の位置情報(X2,Y2)は、人物U2までの距離情報L2と、人物U2の相対方位情報γ2、ユーザU1の位置情報(X1,Y1)、送信端末100の方位情報α1を用いて、次のように算出される。なお、角度は時計回り方向を正方向とする。
      X2=L2×sin(α1-γ2)+X1
      Y2=L2×cos(α1-γ2)+Y1
  他の人物U3,U4の位置情報(X3,Y3),(X4,Y4)についても同様に算出される。
 実施例1によれば、受信端末の現在の端末位置情報を登録するとともに、メッセージを送信したい人物(受信対象者)の位置情報を算出することで、両者の位置情報が対応する(概略一致する)受信端末へメッセージを送信する構成としている。これにより、不特定多数の人物を対象とし、相手の顔が見えない場合であってもメッセージの送信が可能となる。
 実施例2では、受信端末200の過去の端末位置情報と受信対象者の過去の対象者位置情報を基に、位置情報が一致する受信端末200へメッセージを送信するものである。そのためにユーザ(送信者)は、送信端末100により受信者を含む画像を撮影して撮影時刻情報等とともに保存しておき、過去の撮影画像からメッセージを送信したい受信対象者を選択して、その対象者位置情報を算出する。管理サーバ300は、過去に登録された情報から、指定された撮影時刻における受信端末の端末位置情報を参照して、該当する受信端末にメッセージを転送する。実施例2におけるメッセージ送信システム1の構成は実施例1と同様であるが、送信端末100はスマートフォンの場合に適している。
  以下、送信端末100と管理サーバ300の行う処理をフローチャートで説明する。
 図7Aは、送信端末の撮影画像保存処理を示すフローチャートである。
  送信端末100を所持するユーザU1は、後でメッセージを送る可能性のある人物を含む風景を撮影して保存する。撮影画像の保存は、図2Bの各種データ記憶領域1009に撮影画像データ5000として記憶する。
 S401:操作入力部120がユーザ(送信者)からの撮影指示を受け付けると、基本動作実行部1101は、以下の撮影処理を実行する。
  S402:第1撮像部(アウトカメラ)133により外部の風景を撮影し外部画像を取得する。
 S403:送信端末100内のシステムクロック等を参照して、現在の時刻情報を取得する。
  S404:位置情報取得部151が位置基準信号発生器500から受信した位置基準信号に基づいて、端末位置算出部1111は、送信端末100の現在の位置情報(端末位置情報)を算出する。
  S405:地磁気センサ162が取得した地磁気情報に基づいて、送信端末100が指向する方向(端末方位情報)を算出する。
 S406:受信対象者選択部1112は、S402で取得した外部画像を解析して、画像内に写る人物を検出する。
  S407:対象者位置算出部1113は、S406で検出した人物までの距離情報を、測距部152を用いて取得する。複数の人物が検出された場合は、各人物までの距離情報を取得する。
 S408:S402で取得した外部画像とその関連情報を、各種データ記憶領域1009に保存する。関連情報には、S403で取得した撮影時刻情報と、S404で算出した送信端末100の端末位置情報と、S405で算出した送信端末100の端末方位情報と、S407で取得した外部画像に写る各人物までの距離情報と、を含む。
  以上の工程を繰り返すことで、送信端末100の各種データ記憶領域1009には、ユーザU1が撮影した過去の撮影画像とその関連情報が蓄積される。
 図7Bは、図7Aの処理で送信端末の各種データ記憶領域1009に保存される撮影画像データ5000の構成を示す図である。
 撮影画像5001は、S402で取得した外部画像データである。撮影画像5001に関連する情報として、撮影時刻情報5002、端末位置情報5003、端末方位情報5004を記憶する。さらに、撮影画像5001に写っている人物情報5005と、各人物までの距離情報5006を記憶する。
 図7Cは、送信端末のメッセージ送信処理を示すフローチャートである。
  送信端末100を所持したユーザU1は、図7Bの撮影画像データ5000を参照し、過去の撮影画像からメッセージを送信したい受信対象者を選択する。送信端末100は選択された受信対象者の撮影時の位置情報を算出し、ユーザが作成したメッセージを対象者位置情報とともに管理サーバ300に送信する。
 S411:操作入力部120を介しユーザ(送信者)の操作指示を受け、基本動作実行部1101は、撮影画像データ5000から過去に撮影した撮影画像を選択する。例えば、表示部131に撮影画像5001のサムネイルを表示し、ユーザは送信したい人物が写っている画像を選択する。
  S412:基本動作実行部1101は、撮影画像データ5000から、S411で選択された撮影画像5001とその関連情報を読み出す。関連情報には、撮影時刻情報5002と、端末位置情報5003と、端末方位情報5004と、撮影画像5001に写る各人物5005までの距離情報5006が含まれる。
 S413:S412で読み出した撮影画像5001を、表示部131に表示する。
  S414:受信対象者選択部1112は、撮影画像が表示されたタッチスクリーン190(表示部131とタッチパネル123とを一体化構成)へのユーザのタッチ操作を検出し、タッチ位置に存在する人物をメッセージ受信対象者として選択する。受信対象者の選択は、図6B(c)の説明と同様に行う。
 S415:対象者位置算出部1113は、S414で選択したメッセージ受信対象者の、前記撮影画像を撮影した際の位置情報(対象者位置情報)を算出する。この算出には、S412で読み出した端末位置情報5003と端末方位情報5004、撮影画像5001内の選択した人物5005(受信対象者)までの距離情報5006を用いる。具体的な対象者位置情報の算出法は、図6Cの説明と同様である。
 S416:メッセージ作成部1114は、操作入力部120を介してユーザの操作を受け付け、受信対象者に送信するメッセージを作成する。
  S417:メッセージ送信部1115は、S416で作成したメッセージと、S412で読み出した撮影時刻情報5002と、S415で算出した対象者位置情報とを、LAN通信部170を介して、管理サーバ300に送信する。
 図7Dは、管理サーバのメッセージ転送処理を示すフローチャートである。
  管理サーバ300は、実施例1と同様に各受信端末200から受信した端末識別情報と端末位置情報とメッセージ受信可否情報とを紐付けして、図4Cの端末管理データベース4000に登録している。ただし登録時刻情報4003と端末位置情報4004は、所定期間に渡り過去分のレコードを蓄積している。そして送信端末100から、受信対象者へのメッセージと撮影時刻情報及び対象者位置情報を受信すると、端末管理データベース4000を参照し、時刻情報と位置情報との両方が対応する(概略一致する)受信端末200を検索してメッセージを転送する。
 S501:メッセージ受信部3112は、送信端末100から送信されたメッセージと撮影時刻情報と対象者位置情報とを、LAN通信部370を介して受信する。
  S502:メッセージ送信部3113は、端末管理データベース4000に登録されている受信端末200の登録時刻情報4003を参照して、S501で受信した撮影時刻情報に対応する管理データ(レコード)を抽出する。ここで対応しているか否かの判定は、受信端末200から端末位置情報を受信する時間間隔(例えば10sec)の幅を考慮して決めても良い。
  S503:メッセージ送信部3113は、S502で抽出した管理データに登録されている受信端末200の端末位置情報4004を参照する。
 S504:S501で受信した対象者位置情報に対応する(概略一致する)端末位置情報4004の有無を判定する。判定の結果、対応する(概略一致する)端末位置情報がある場合は、S505に進む。対応する(概略一致する)端末位置情報がない場合は、S509に進む。
 S505:メッセージ送信部3113は、S504で対応する(概略一致する)と判定された端末位置情報4004に紐付けされた端末識別情報4001を取得する。
  S506:メッセージ送信部3113は、S504で対応する(概略一致する)と判定された端末位置情報4004に紐付けされた受信可否情報4002を取得する。受信可否情報4002が登録時刻情報4003毎に異なっている場合、最新のレコードに紐付された受信可否情報4002を取得しても良い。
 S507:S506で取得した受信可否情報4002は受信=「許可」であるかを判定する。受信=「許可」の場合はS508に進む。受信=「拒否」の場合は、S509に進む。
  S508:メッセージ送信部3113は、S501で受信したメッセージを、S505で取得した端末識別情報で識別される受信端末200に対して、LAN通信部370を介して転送する。
 S509:メッセージ送信部3113は、エラーメッセージを、LAN通信部370を介して送信端末100に返信する。エラーメッセージでは、S504の判定でNoの場合は、メッセージ受信対象となる受信端末200が見つからない旨を、S507の判定でNoの場合は、受信対象者がメッセージ受信を拒否している旨を伝える。なお、S502の工程で、撮影時刻情報に対応する登録時刻情報が存在しなかった場合にも、受信端末200が見つからない旨のエラーメッセージを返信する。
 実施例2によれば、受信端末の過去の端末位置情報を基に、指定された過去の時刻において位置情報が一致する受信端末へメッセージを送信する構成としている。これにより、メッセージを送信したい人物(受信対象者)が移動して現在の視野内に存在しない場合でも、メッセージの送信が可能となる。
 実施例3では、メッセージ送信システムを監視システムに適用する構成について説明する。
 図8は、実施例3におけるメッセージ送信システムの全体構成を示す図である。本実施例のメッセージ送信システム1’では、送信端末100として監視カメラ100C及び制御装置を用いる。他の受信端末200と、管理サーバ300、ネットワーク(LAN)400は実施例1(図1A)の構成と同様である。
 監視カメラ100Cは、監視領域10内の所定位置に固定して設置され、領域内の監視用画像を取得する。図示を省略した監視カメラ100Cの制御装置(管理サーバ300と同一であっても良い)は、監視カメラ100Cが取得した監視用画像を図示を省略した表示部(モニタ)に表示する。ユーザ(この場合は監視者)は表示部(モニタ)に表示された監視用画像を確認して、制御装置に指示を与えることにより、メッセージを送信したい人物(受信対象者)を選択する。監視カメラ100Cの制御装置は、選択した受信対象者の対象者位置情報を算出して、受信対象者へのメッセージとともに管理サーバ300へ送信する。管理サーバ300は、予め受信・登録されている各受信端末200の端末位置情報と端末識別情報を参照し、該当する受信端末200にメッセージを転送する。
 本実施例では、監視カメラ100Cの制御装置が受信対象者の位置情報を算出するとき、監視カメラ100Cが固定設置されているので、端末位置情報及び端末方位情報はその都度算出する必要はなく設置時の所定値を用いれば良い。なお、監視カメラ100Cの指向方向がユーザ操作により変更された場合は、監視カメラ100Cの方位情報を、ユーザ操作分だけ修正して与えれば良い。
 また本実施例の構成を拡張し、監視領域10の全体をカバーするよう複数台の監視カメラ100Cを設置し、各監視カメラ100Cで撮影した画像をネットワーク400を介して制御装置に伝送して、制御装置で集中管理する監視システムも可能である。その際ユーザ(監視者)は、制御装置の表示部(モニタ)に一括表示された各監視カメラ100Cからの取得画像を監視して、特定の人物に対してメッセージを送信することができる。この場合、ユーザ(監視者)は、複数の監視カメラ100Cのうちの一台とその取得画像に写る人物の選択を、制御装置に対して指示する。もちろん、実施例2のように、監視カメラ100Cで撮影した過去の画像を保存し、それから特定の人物を抽出することで、監視効果をさらに向上させることができる。
 1,1’:メッセージ送信システム、
 100:送信端末、
 100H:ヘッドマウントディスプレイ(HMD)、
 100C:監視カメラ、
 131:表示部、
 133:第1撮像部(外部カメラ)、
 134:第2撮像部(内部カメラ)、
 151:位置情報取得部、
 152:測距部、
 162:地磁気センサ、
 1111:端末位置算出部、
 1112:受信対象者選択部、
 1113:対象者位置算出部、
 1114:メッセージ作成部、
 1115:メッセージ送信部、
 200:受信端末、
 200S:スマートフォン、
 231:表示部、
 251:位置情報取得部、
 2112:端末位置算出部、
 2113:端末位置送信部、
 2114:メッセージ受信部、
 300:管理サーバ、
 310:ストレージ部、
 3111:端末管理部、
 3112:メッセージ受信部、
 3113:メッセージ送信部、
 400:ネットワーク、
 4000:端末管理データベース、
 500:位置基準信号発生器、
 5000:撮影画像データ。

Claims (10)

  1.  送信端末から受信端末へ管理サーバを介してメッセージを送信するメッセージ送信システムにおいて、
     前記送信端末は、
     前記送信端末の現在位置(以下、送信端末位置情報)を算出する端末位置算出部と、
     前記送信端末の外部画像を取得する第1撮像部と、
     送信者の操作を受け、前記取得した外部画像内からメッセージを受信する受信対象者を選択する受信対象者選択部と、
     送信端末位置情報を基に、前記選択された受信対象者の位置情報(以下、受信対象者位置情報)を算出する対象者位置算出部と、
     受信対象者へのメッセージを作成するメッセージ作成部と、
     前記作成されたメッセージを、前記算出した受信対象者位置情報とともに、前記管理サーバへ送信するメッセージ送信部と、を備え、
     前記受信端末は、
     前記受信端末の現在位置(以下、受信端末位置情報)を算出する端末位置算出部と、
     前記算出した受信端末位置情報を、前記受信端末の端末識別情報とともに前記管理サーバへ送信する端末位置送信部と、
     前記管理サーバから送信されたメッセージを受信するメッセージ受信部と、を備え、
     前記管理サーバは、
     前記受信端末から受信端末位置情報と端末識別情報を受信し、両者を紐付けしてデータベースに登録する端末管理部と、
     前記送信端末から送信された受信対象者へのメッセージと受信対象者位置情報を受信するメッセージ受信部と、
     前記データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報に紐付けされた端末識別情報を抽出し、抽出した端末識別情報で識別される前記受信端末に対して、前記送信端末から受信したメッセージを送信するメッセージ送信部と、を備えることを特徴とするメッセージ送信システム。
  2.  請求項1に記載のメッセージ送信システムにおいて、
     前記送信端末は、
     前記送信端末の指向方向(以下、送信端末方位情報)を検出する方位検出部と、受信対象者までの距離を測定する測距部と、を備え、
     前記対象者位置算出部により、送信端末方位情報を基準とした外部画像内の受信対象者の相対方位情報と、受信対象者までの距離情報と、前記送信端末の送信端末位置情報に基づいて、受信対象者位置情報を算出することを特徴とするメッセージ送信システム。
  3.  請求項1に記載のメッセージ送信システムにおいて、
     前記受信端末は、前記送信端末から送信されたメッセージを受信するか否かについて設定を行う動作設定部を備え、
     前記端末位置送信部により、前記設定したメッセージ受信可否情報を受信端末位置情報と一緒に前記管理サーバへ送信するとともに、
     前記管理サーバは、
     前記端末管理部により、前記受信端末から受信したメッセージ受信可否情報を前記データベースに登録しておき、
     前記メッセージ送信部により、前記データベースを参照して、識別した前記受信端末がメッセージの受信を拒否している場合には、メッセージを送信しないことを特徴とするメッセージ送信システム。
  4.  請求項3に記載のメッセージ送信システムにおいて、
     前記管理サーバは、
     前記メッセージ送信部により、前記データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報が存在しないとき、あるいは識別した前記受信端末がメッセージの受信を拒否している場合には、その旨を示すエラーメッセージを前記送信端末に返信することを特徴とするメッセージ送信システム。
  5.  請求項1に記載のメッセージ送信システムにおいて、
     前記送信端末は、送信者が頭部に装着するヘッドマウントディスプレイであって、送信者の顔画像である内部画像を取得する第2撮像部を備え、
     前記受信対象者選択部により、前記第2撮像部が取得した内部画像を解析して送信者の視線位置を検出し、視線位置に対応する前記第1撮像部で取得した外部画像内の人物を受信対象者として選択することを特徴とするメッセージ送信システム。
  6.  請求項2に記載のメッセージ送信システムにおいて、
     前記送信端末は、
     前記第1撮像部により取得した外部画像を、その関連情報である撮影時刻情報、送信端末位置情報、送信端末方位情報、及び外部画像に写っている各人物までの距離情報、とともに各種データ記憶領域に保存し、
     前記受信対象者選択部により、送信者の操作に基づき、前記各種データ記憶領域に保存された外部画像内の人物から受信対象者を選択し、
     前記対象者位置算出部により、前記各種データ記憶領域に保存された関連情報を用いて、選択された受信対象者の撮影時の受信対象者位置情報を算出し、
     前記メッセージ送信部により、作成されたメッセージを、撮影時刻情報と受信対象者位置情報とともに前記管理サーバに送信し、
     前記管理サーバは、
     前記端末管理部により、前記データベースに、前記受信端末からの受信端末位置情報とともに登録時の登録時刻情報を保存しておき、
     前記メッセージ受信部により、前記送信端末からメッセージとともに撮影時刻情報と受信対象者位置情報を受信すると、
     前記メッセージ送信部により、前記データベースを参照して、受信した撮影時刻情報に対応する登録時刻情報を有するとともに、受信した受信対象者位置情報に対応する受信端末位置情報に紐付けされた端末識別情報を抽出し、抽出した端末識別情報で識別される前記受信端末に対して、前記送信端末から受信したメッセージを送信することを特徴とするメッセージ送信システム。
  7.  請求項1に記載のメッセージ送信システムにおいて、
     前記送信端末は、監視カメラであって、監視領域内の所定位置に固定して設置され、送信端末位置情報が一定であることを特徴とするメッセージ送信システム。
  8.  送信端末から受信端末へ管理サーバを介してメッセージを送信するメッセージ送信方法において、
     前記送信端末は、
     現在位置(以下、送信端末位置情報)を算出する端末位置算出ステップと、
     前記送信端末の外部画像を取得する外部画像取得ステップと、
     送信者の操作を受け、前記外部画像内からメッセージを受信する受信対象者を選択する受信対象者選択ステップと、
     送信端末位置情報を基に、前記選択された受信対象者の位置情報(以下、受信対象者位置情報)を算出する対象者位置算出ステップと、
     受信対象者へのメッセージを、前記算出した受信対象者位置情報とともに、前記管理サーバへ送信するメッセージ送信ステップと、を備え、
     前記受信端末は、
     現在位置(以下、受信端末位置情報)を算出する端末位置算出ステップと、
     前記算出した受信端末位置情報を、前記受信端末の端末識別情報とともに前記管理サーバへ送信する端末位置送信ステップと、
     前記管理サーバから送信されたメッセージを受信するメッセージ受信ステップと、を備え、
     前記管理サーバは、
     前記受信端末から受信端末位置情報と端末識別情報を受信し、両者を紐付けしてデータベースに登録する端末情報登録ステップと、
     前記送信端末から送信された受信対象者へのメッセージと受信対象者位置情報を受信するメッセージ受信ステップと、
     前記データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報に紐付けされた端末識別情報を抽出し、抽出した端末識別情報で識別される前記受信端末に対して、前記送信端末から受信したメッセージを送信するメッセージ送信ステップと、を備えることを特徴とするメッセージ送信方法。
  9.  請求項8に記載のメッセージ送信方法において、
     前記受信端末は、前記送信端末から送信されたメッセージを受信するか否かについて設定を行う受信可否設定ステップを備え、前記端末位置送信ステップにおいて、前記設定したメッセージ受信可否情報を受信端末位置情報と一緒に前記管理サーバへ送信するとともに、
     前記管理サーバは、前記端末情報登録ステップにおいて、前記受信端末から受信したメッセージ受信可否情報を前記データベースに登録しておき、前記メッセージ送信ステップにおいて、前記データベースを参照して、識別した前記受信端末がメッセージの受信を拒否している場合には、メッセージを送信しないことを特徴とするメッセージ送信方法。
  10.  請求項9に記載のメッセージ送信方法において、
     前記管理サーバは、前記メッセージ送信ステップにおいて、前記データベースを参照して、受信した受信対象者位置情報に対応する受信端末位置情報が存在しないとき、あるいは識別した前記受信端末がメッセージの受信を拒否している場合には、その旨を示すエラーメッセージを前記送信端末に返信することを特徴とするメッセージ送信方法。
PCT/JP2019/035007 2019-09-05 2019-09-05 メッセージ送信システム及びメッセージ送信方法 WO2021044588A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/035007 WO2021044588A1 (ja) 2019-09-05 2019-09-05 メッセージ送信システム及びメッセージ送信方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/035007 WO2021044588A1 (ja) 2019-09-05 2019-09-05 メッセージ送信システム及びメッセージ送信方法

Publications (1)

Publication Number Publication Date
WO2021044588A1 true WO2021044588A1 (ja) 2021-03-11

Family

ID=74853309

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/035007 WO2021044588A1 (ja) 2019-09-05 2019-09-05 メッセージ送信システム及びメッセージ送信方法

Country Status (1)

Country Link
WO (1) WO2021044588A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005086502A1 (en) * 2004-02-28 2005-09-15 Charles Martin Hymes Wireless communications with visually-identified targets
JP2009122730A (ja) * 2007-11-12 2009-06-04 Myd:Kk メッセージ受領サーバ、およびメッセージ送受信システム
JP2016106334A (ja) * 2016-03-15 2016-06-16 株式会社オプティム メッセージ送信システム、メッセージ送信方法、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005086502A1 (en) * 2004-02-28 2005-09-15 Charles Martin Hymes Wireless communications with visually-identified targets
JP2009122730A (ja) * 2007-11-12 2009-06-04 Myd:Kk メッセージ受領サーバ、およびメッセージ送受信システム
JP2016106334A (ja) * 2016-03-15 2016-06-16 株式会社オプティム メッセージ送信システム、メッセージ送信方法、プログラム

Similar Documents

Publication Publication Date Title
KR20140089184A (ko) 헤드 마운트 디스플레이 및 그 제어 방법
EP3195239A1 (en) Regulation via geofence boundary segment crossings
US20230284000A1 (en) Mobile information terminal, information presentation system and information presentation method
JP2019057057A (ja) 情報処理装置、情報処理システム及びプログラム
WO2018046375A1 (en) A method of locating a mobile device in a group of mobile devices
WO2018154902A1 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2019245198A1 (ko) 전자 장치 및 그 결제 정보 출력 방법
WO2019085945A1 (zh) 探测装置、探测系统和探测方法
JP5854714B2 (ja) 表示制御装置、表示制御装置の制御方法、プログラム
US12010185B2 (en) Experience sharing system and experience sharing method
CN108476273B (zh) 信息处理装置及其图像数据控制方法
JP6720778B2 (ja) 画像管理システム、画像管理方法、及びプログラム
WO2021044588A1 (ja) メッセージ送信システム及びメッセージ送信方法
CN108012141A (zh) 显示装置、显示系统和显示装置的控制方法
JP2019009562A (ja) 監視映像表示システム、監視映像表示装置、監視情報管理サーバ、および、監視映像表示方法
JP2023121636A (ja) 情報処理システム、通信システム、画像共有方法、プログラム
WO2021140631A1 (ja) 空間認識システム、空間認識方法、および情報端末
US10999495B1 (en) Internet of things-based indoor selfie-supporting camera system
JP6077930B2 (ja) 情報管理装置、情報管理システム、通信端末および情報管理方法
JP2016192096A (ja) 物体認識選択装置、物体認識選択方法及びプログラム
EP4035353A1 (en) Apparatus, image processing system, communication system, method for setting, image processing method, and recording medium
JP2017184025A (ja) 通信端末、画像通信システム、画像送信方法、画像表示方法、及びプログラム
WO2020213170A1 (ja) 情報表示装置および行動予定表示システム
JP6450890B2 (ja) 画像提供システム、画像提供方法、およびプログラム
JP2019164001A (ja) 情報提供システム、サーバ装置、端末用プログラム、及び情報提供方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19944559

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19944559

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP