WO2010089989A1 - 情報表示装置及び情報表示方法 - Google Patents

情報表示装置及び情報表示方法 Download PDF

Info

Publication number
WO2010089989A1
WO2010089989A1 PCT/JP2010/000595 JP2010000595W WO2010089989A1 WO 2010089989 A1 WO2010089989 A1 WO 2010089989A1 JP 2010000595 W JP2010000595 W JP 2010000595W WO 2010089989 A1 WO2010089989 A1 WO 2010089989A1
Authority
WO
WIPO (PCT)
Prior art keywords
user
information
notification information
display
screen
Prior art date
Application number
PCT/JP2010/000595
Other languages
English (en)
French (fr)
Inventor
坂田幸太郎
前田茂則
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to EP10738331.7A priority Critical patent/EP2395420B1/en
Priority to US13/143,861 priority patent/US20110267374A1/en
Priority to JP2010549388A priority patent/JP5286371B2/ja
Publication of WO2010089989A1 publication Critical patent/WO2010089989A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42201Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] biosensors, e.g. heat sensor for presence detection, EEG sensors or any limb activity sensors worn by the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4882Data services, e.g. news ticker for displaying messages, e.g. warnings, reminders

Definitions

  • the present invention relates to an information display device that displays notification information, which is information for notifying a user, on a screen.
  • TVs are not only used for viewing broadcast content, but also open to new uses such as simultaneous use of multiple information and lists of large amounts of information. It's getting on.
  • a TV provided with a wall of a living room as a display.
  • various information closely related to daily life can be presented at an appropriate timing.
  • the user can operate a plurality of devices using one remote controller. Further, the user can also check the video of the network camera on the TV screen. In addition to these devices, if white goods such as washing machines or microwave ovens are connected to the home network, the user can check the status of each device on the TV. That is, a plurality of devices connected to the network cooperate with each other and present notification information from each device to a display device such as a TV, so that the user can acquire information on various devices while staying in front of the TV. .
  • Patent Document 1 As a method for presenting such notification information to the user, a method for controlling the timing of presenting the notification information to the user has been proposed (for example, see Patent Document 1).
  • the notification information is presented to the user in consideration of a policy for determining an appropriate timing for presenting the notification information and the user's situation such as the user's cost for interruption.
  • Patent Document 2 a method of presenting information to the user in consideration of the size of the user's effective visual field has been proposed (see, for example, Patent Document 2).
  • the size of the image is adjusted according to the display position of the image displayed on the screen and the distance to the center of the visual field. As a result, it is possible to prevent the user from recognizing the image between the central portion of the visual field and the peripheral portion of the visual field.
  • an object of the present invention is to solve the above-described conventional problems and to provide an information display device capable of presenting notification information to a user without giving a sudden impression to the user.
  • an information display device is an information display device that displays notification information, which is information for notifying a user, on a screen, and the physical state of the user
  • a user state detection unit that detects a user state
  • a concentration degree estimation unit that estimates a degree of concentration indicating a concentration degree of the user with respect to the screen, based on the user state detected by the user state detection unit
  • An application control unit that determines the initial display position of the notification information based on the concentration degree estimated by the concentration degree estimation unit so that the initial display position is located outside the effective visual field region that is visually recognized by the user;
  • the notification information is displayed at the initial display position determined by the application control unit, and the display position and display mode of the notification information after display are reduced. And a screen displaying part also be changed one.
  • the initial display position of the notification information it is possible to determine the initial display position of the notification information so that the initial display position is located outside the effective visual field area, so that a sudden impression is given to the user when the notification information is initially displayed. Can be suppressed. Furthermore, by changing the display position or display mode of the notification information after display, the notification information can be noticed casually to the user, and the notification information can be presented to the user without giving a sudden impression.
  • the user state detection unit detects the position of the user's gazing point on a plane including the screen as the user state
  • the application control unit has the degree of concentration estimated by the concentration degree estimation unit. It is preferable that the initial display position is determined such that the smaller the value is, the farther from the position determined by the position of the gazing point detected by the user state detection unit.
  • the initial display position can be determined so that the smaller the degree of concentration is, the farther from the position determined by the position of the gazing point, and the initial display position is easily located so that the initial display position is located outside the effective visual field area Can be determined.
  • the application control unit further determines a movement speed so that the movement speed increases as the concentration degree estimated by the concentration degree estimation unit increases, and the screen drawing unit is determined by the application control unit. It is preferable to change the display position of the notification information by moving the display position of the notification information at the moving speed.
  • the moving speed of the display position of the notification information can be determined according to the degree of concentration, so that the notification information can be presented to the user without giving a more abrupt impression.
  • the user state detection unit detects a position of the user's point of interest on a plane including the screen as the user state, and the screen drawing unit is detected within a predetermined period by the user state detection unit. It is preferable to change the display position of the notification information by moving the display position of the notification information toward a position that represents the position of a plurality of gazing points.
  • the display position of the notification information can be moved toward a position representing a plurality of gazing points detected within a predetermined period, so that the notification information is presented to the user without giving a more sudden impression. be able to.
  • the screen drawing unit changes the display position of the notification information by moving the display position of the notification information toward a predetermined position in the display area of the content displayed on the screen.
  • the display position of the notification information can be moved toward the position in the content display area, so that the notification information can be presented to the user without giving a more abrupt impression.
  • the screen drawing unit moves the display position of the notification information toward a position outside the display area of the content displayed on the screen and near the boundary of the display area of the content. It is preferable to change the display position of the notification information.
  • the display position of the notification information can be moved to a position outside the content display area and near the boundary of the content display area, so notification without giving a more sudden impression Information can be presented to the user.
  • the application control unit further determines the size of the display area such that the larger the degree of concentration estimated by the concentration degree estimation unit, the larger the display region, and the screen drawing unit includes the application control unit.
  • the notification information is displayed at the initial display position determined by the above, it is preferable to display the notification information in the display area having the determined size.
  • This configuration allows the notification information to be displayed in a size corresponding to the degree of concentration, so that the notification information can be presented to the user without giving a more abrupt impression.
  • the user status detecting unit further includes a relevance estimation unit that estimates a relevance level indicating a relevance level between the content displayed on the screen and the notification information.
  • the position of the viewpoint is detected as the user state, and the application control unit detects from the position determined by the position of the gazing point detected by the user state detection unit as the degree of association estimated by the degree of association estimation unit is small. It is preferable to determine the initial display position so that the initial display position becomes far.
  • the initial display position of the notification information can be determined based on the degree of association between the notification information and the content, the notification information can be presented to the user without giving a more abrupt impression.
  • the application control unit further determines a moving speed so that the moving speed increases as the relevance estimated by the relevance estimating unit increases, and the screen drawing unit notifies at the determined moving speed. It is preferable to change the display position of the notification information by moving the display position of the information.
  • the moving speed of the notification information can be determined based on the degree of association between the notification information and the content, the notification information can be presented to the user without giving a more abrupt impression.
  • an importance level / emergency level acquisition unit that acquires an importance level indicating the importance level of the notification information or an urgent level indicating the urgency level of the notification information is provided, and the application control unit includes the importance level / emergency level. Determining the initial display position such that the smaller the importance or urgency acquired by the degree acquisition unit is, the farther the initial display position is from the position determined by the position of the gazing point detected by the user state detection unit. Is preferred.
  • the initial display position of the notification information can be determined based on the importance or urgency of the notification information, so that notification information with a high importance or urgency can be presented to the user earlier.
  • the application control unit further determines a moving speed so that the moving speed increases as the importance level or the urgency level acquired by the importance / urgent level acquisition unit increases, and the screen drawing unit determines It is preferable to change the display position of the notification information by moving the display position of the notification information at the moved speed.
  • the moving speed of the notification information can be determined based on the importance or urgency of the notification information, so that notification information with a high importance or urgency can be presented to the user earlier.
  • the user state detection unit detects a position of a user's gazing point on a plane including the screen as the user state, and the concentration degree estimation unit is detected by the user state detection unit within a predetermined period.
  • the degree of concentration is estimated based on a gaze point distribution including a plurality of gaze points.
  • This configuration makes it possible to estimate the user concentration with high accuracy.
  • the user state detection unit detects a position of the user's gazing point on a plane including the screen as the user state
  • the concentration degree estimation unit detects the gazing point detected by the user state detection unit. It is preferable to estimate the degree of concentration based on the amount of movement.
  • This configuration makes it possible to estimate the user concentration with high accuracy.
  • the user state detection unit detects a user's face orientation as the user state
  • the concentration degree estimation unit is a face orientation distribution composed of a plurality of face orientations detected within a predetermined period by the user state detection unit. It is preferable to estimate the degree of concentration based on the above.
  • This configuration makes it possible to estimate the user concentration with high accuracy.
  • the user state detection unit detects a user posture as the user state, and the concentration degree estimation unit estimates the concentration degree based on the posture detected by the user state detection unit. .
  • This configuration makes it possible to estimate the user concentration with high accuracy.
  • the user status database further includes a user information database that stores the degree of concentration and effective visual field area information indicating the size of the effective visual field area in association with each other.
  • the application control unit obtains effective visual field region information corresponding to the degree of concentration estimated by the concentration degree estimation unit by referring to the user information database.
  • the initial display position is determined outside the effective visual field area estimated using the acquired effective visual field area information and the gazing point detected by the user state detection unit.
  • the initial display position of the notification information can be easily set so that the initial display position is located outside the effective visual field area. Can be determined.
  • the application control unit further determines whether a distance between the display position of the notification information and the position of the user's point of interest is less than a threshold value while the display position of the notification information is changed by the screen drawing unit. If it is determined whether or not the distance is less than the threshold value, it is preferable to update the effective visual field area information stored in the user information database using the display position.
  • This configuration can improve the accuracy of the effective visual field area information stored in the user information database.
  • a user identification unit that identifies a user in front of the screen
  • the user information database associates, for each user, a concentration level and effective visual field area information indicating the size of the effective visual field area.
  • the application control unit stores the effective visual field area information corresponding to the user identified by the user identification unit.
  • This configuration makes it possible to determine the initial display position with high accuracy so that the initial display position is located outside the effective visual field region.
  • An information display method is an information display method for displaying notification information, which is information for notifying a user, on a screen, and detects a user state indicating a physical state of the user.
  • a user state detection step a concentration degree estimation step for estimating a concentration degree indicating a user's concentration degree on the screen based on the user state detected in the user state detection step, and an area visually recognized by the user.
  • An application control step for determining an initial display position of the notification information based on the concentration degree estimated in the concentration degree estimation step, and an application control step so that the initial display position is located outside the effective visual field region;
  • the notification information is displayed at the initial display position, and the display position and table of the notification information after display are displayed.
  • the present invention can also be realized as a program for causing a computer to execute such an information display method.
  • a program can be distributed via a computer-readable recording medium such as CD-ROM (Compact Disc Only Memory) or a transmission medium such as the Internet.
  • the initial display position of the notification information is determined so that the initial display position is located outside the effective visual field area of the user. Can do. Therefore, the information display device can suppress giving a sudden impression to the user when the notification information is initially displayed. Furthermore, the information display device can casually notice the notification information by changing the display position or display mode of the notification information after the display, and presents the notification information to the user without giving a sudden impression. can do.
  • FIG. 1 is a diagram showing an external appearance of the information display device according to Embodiment 1 of the present invention.
  • FIG. 2 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 1 of the present invention.
  • FIG. 3 is a flowchart showing the operation of the information display device in Embodiment 1 of the present invention.
  • FIG. 4 is a diagram for explaining the operation of the information display apparatus according to Embodiment 1 of the present invention.
  • FIG. 5 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 2 of the present invention.
  • FIG. 6 is a diagram showing an example of a user information database according to Embodiment 2 of the present invention.
  • FIG. 1 is a diagram showing an external appearance of the information display device according to Embodiment 1 of the present invention.
  • FIG. 2 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 1 of the present invention.
  • FIG. 3 is a flowchar
  • FIG. 7 is a flowchart showing the operation of the information display apparatus in Embodiment 2 of the present invention.
  • FIG. 8 is a diagram for explaining an example of an interface between the appearance of the information display device and related devices in Embodiment 3 of the present invention.
  • FIG. 9 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 3 of the present invention.
  • FIG. 10A is a diagram for describing a user position calculation method by a user state detection unit according to Embodiment 3 of the present invention.
  • FIG. 10B is a diagram for explaining a user position calculation method by the user state detection unit according to Embodiment 3 of the present invention.
  • FIG. 10A is a diagram for describing a user position calculation method by a user state detection unit according to Embodiment 3 of the present invention.
  • FIG. 10B is a diagram for explaining a user position calculation method by the user state detection unit according to Embodiment 3 of the present invention.
  • FIG. 10A is
  • FIG. 11 is a flowchart showing a flow of processing relating to the detection of the line-of-sight direction in the third embodiment of the present invention.
  • FIG. 12 is a diagram for explaining the process of detecting the face orientation of the user in the third embodiment of the present invention.
  • FIG. 13 is a diagram for describing the reference direction reference plane.
  • FIG. 14 is a diagram for explaining the detection of the center of the black eye.
  • FIG. 15 is a diagram for explaining the detection of the center of the black eye.
  • FIG. 16A is a diagram showing an example of a user information database according to Embodiment 3 of the present invention.
  • FIG. 16B is a diagram showing an example of a user information database according to Embodiment 3 of the present invention.
  • FIG. 16C is a diagram showing an example of a user information database according to Embodiment 3 of the present invention.
  • FIG. 17A is a diagram showing an example of notification information in Embodiment 3 of the present invention.
  • FIG. 17B is a diagram showing an example of notification information in Embodiment 3 of the present invention.
  • FIG. 17C is a diagram showing an example of notification information in Embodiment 3 of the present invention.
  • FIG. 18A is a diagram for describing a use scene of the information display device in Embodiment 3 of the present invention.
  • FIG. 18B is a diagram for describing a use scene of the information display device in Embodiment 3 of the present invention.
  • FIG. 18A is a diagram for describing a use scene of the information display device in Embodiment 3 of the present invention.
  • FIG. 18B is a diagram for describing a use scene of the information display device in Embodiment 3 of the present invention.
  • FIG. 18A is a diagram for
  • FIG. 19 is a flowchart showing the flow of processing of the information display device in Embodiment 3 of the present invention.
  • FIG. 20 is a diagram for explaining an operation example of the information display apparatus according to Embodiment 3 of the present invention.
  • FIG. 21 is a diagram for explaining an operation example of the information display apparatus according to Embodiment 3 of the present invention.
  • FIG. 22A is a block diagram showing a functional configuration of the information display device in Modification 1 of Embodiment 3 of the present invention.
  • FIG. 22B is a flowchart showing a processing flow of the information display device in the first modification of the third embodiment of the present invention.
  • FIG. 23A is a diagram for explaining an operation example of the information display device in the first modification of the third embodiment of the present invention.
  • FIG. 20 is a diagram for explaining an operation example of the information display apparatus according to Embodiment 3 of the present invention.
  • FIG. 21 is a diagram for explaining an operation example of the information display apparatus according to Embodiment 3 of
  • FIG. 23B is a diagram for explaining an operation example of the information display device in the first modification of the third embodiment of the present invention.
  • FIG. 24A is a diagram for explaining an overview of a display area control method based on a user position in the second modification of the third embodiment of the present invention.
  • FIG. 24B is a diagram for describing an outline of a display area control method based on the user position in the second modification of the third embodiment of the present invention.
  • FIG. 24C is a diagram for describing an outline of a display area control method based on the user position in the second modification of the third embodiment of the present invention.
  • FIG. 25 is a diagram for explaining an operation example of the information display device in the second modification of the third embodiment of the present invention.
  • FIG. 26A is a diagram for explaining an operation example of the information display device in the third modification of the third embodiment of the present invention.
  • FIG. 26B is a diagram for explaining an operation example of the information display device in the third modification of the third embodiment of the present invention.
  • FIG. 27A is a diagram for explaining an operation example of the information display device in the fourth modification of the third embodiment of the present invention.
  • FIG. 27B is a diagram for explaining an operation example of the information display device in the fourth modification of the third embodiment of the present invention.
  • FIG. 27C is a diagram for describing an operation example of the information display device in the fourth modification of the third embodiment of the present invention.
  • FIG. 28A is a diagram for explaining an operation example of the information display device in the fifth modification of the third embodiment of the present invention.
  • FIG. 28B is a diagram for explaining an operation example of the information display device in the fifth modification of the third embodiment of the present invention.
  • FIG. 29A is a diagram for explaining an operation example of the information display device in the sixth modification of the third embodiment of the present invention.
  • FIG. 29B is a diagram for explaining an operation example of the information display device in the sixth modification of the third embodiment of the present invention.
  • FIG. 30A is a diagram for explaining an operation example of the information display device in the sixth modification of the third embodiment of the present invention.
  • FIG. 30B is a diagram for describing an operation example of the information display device in the sixth modification of the third embodiment of the present invention.
  • FIG. 31A is a diagram for explaining an operation example of the information display device in the seventh modification of the third embodiment of the present invention.
  • FIG. 31B is a diagram for explaining an operation example of the information display device in the seventh modification of the third embodiment of the present invention.
  • FIG. 31C is a diagram for describing an operation example of the information display device in the seventh modification of the third embodiment of the present invention.
  • FIG. 32 is a diagram for explaining an operation example of the information display device in the modification 8 of the third embodiment of the present invention.
  • FIG. 1 is a diagram showing an external appearance of the information display device according to Embodiment 1 of the present invention.
  • FIG. 2 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 1 of the present invention.
  • the information display device 10 in the present embodiment is a device that displays notification information on the screen, and displays the notification information on the screen so that the notification information is initially displayed outside the effective visual field area of the user.
  • the information display device 10 is preferably applied to a large screen display.
  • the information display device 10 includes a user state detection unit 11, a concentration degree estimation unit 12, an application control unit 13, and a screen drawing unit 14.
  • the user state detection unit 11 detects a user state indicating the physical state of the user. Specifically, the user state detection unit 11 detects, for example, the position of the user's point of gaze on a plane including the screen as the user state, and holds the detected user state. A method for detecting the position of the user's point of interest will be described in detail in Embodiment 3.
  • the user state detection unit 11 may detect the user's face orientation or the user's posture as the user state. In this case, the user state detection unit 11 detects the user's face orientation using, for example, an image of the user's face taken by the camera. In addition, for example, the user state detection unit 11 detects the user's posture using an image of the user taken by the camera or a pressure sensor installed on the floor surface in front of the screen.
  • the concentration level estimation unit 12 estimates a concentration level indicating a user's concentration level on the screen based on the detected user state.
  • the concentration level estimation unit 12 estimates the concentration level based on a gaze point distribution including a plurality of gaze points detected by the user state detection unit 11 within a predetermined period. For example, the degree-of-concentration estimation unit 12 estimates that the degree of concentration is smaller the greater the variance of the gaze point distribution.
  • the predetermined period is, for example, a period from the most recent time at which the gazing point is detected to a time that is a certain time back.
  • the concentration level estimation unit 12 may estimate the concentration level based on the movement amount of the gazing point detected by the user state detection unit 11. In this case, for example, the concentration degree estimation unit 12 calculates the movement amount of the gazing point from the positions of the plurality of gazing points detected within the predetermined period by the user state detection unit 11, and the calculated movement amount of the gazing point is large. It is estimated that the degree of concentration is small.
  • the concentration degree estimation unit 12 may estimate the concentration degree based on a face orientation distribution including a plurality of face orientations detected by the user state detection unit 11 within a predetermined period. In this case, for example, the concentration degree estimation unit 12 estimates that the degree of concentration is smaller as the variance of values indicating a plurality of face orientations detected by the user state detection unit 11 within a predetermined period is larger.
  • the concentration degree estimation unit 12 may estimate the concentration degree based on the user posture detected by the user state detection unit 11.
  • the concentration degree estimation unit 12 refers to a database that stores the concentration degree corresponding to the posture (standing position, sitting position, or the like), and thereby the concentration degree corresponding to the detected posture of the user. Is estimated.
  • the application control unit 13 determines the initial display position of the notification information based on the estimated degree of concentration so that the initial display position is located outside the effective visual field area that is an area visually recognized by the user. Specifically, the application control unit 13 determines the initial display position so that the smaller the estimated concentration is, the farther from the position determined by the position of the detected gazing point. Note that the application control unit 13 may determine the initial display position such that the smaller the estimated concentration is, for example, the farther from the center position of the display area of the content displayed on the screen or the center position of the screen. Good.
  • the effective visual field region is a region where the user can recognize the displayed image and the like relatively clearly, and is a region whose size changes according to the degree of concentration of the user.
  • the effective visual field region is a circular or elliptical region centered on the center position of the gazing point distribution, and is estimated to be a region that increases in size as the degree of user concentration decreases. If the notification information is suddenly displayed within this effective visual field region, the user feels awkward and feels bothersome.
  • the position determined by the position of the gazing point is, for example, the position of the gazing point itself, or the center of gravity position or the center position of the gazing point distribution including a plurality of gazing points detected within a predetermined period.
  • the notification information is information for notifying the user.
  • the notification information is, for example, text information or image information indicating a state of a device connected to the information display device 10 via a network, or text information or image information related to display content. More specifically, the notification information is, for example, an icon indicating the appearance of the microwave oven indicating that the heating process by the microwave oven has been completed.
  • the screen drawing unit 14 displays the notification information on a screen such as a plasma display panel (PDP: Plasma Display Panel) or a liquid crystal panel (Liquid Crystal Panel).
  • a plasma display panel PDP: Plasma Display Panel
  • a liquid crystal panel Liquid Crystal Panel
  • the screen drawing unit 14 first displays the notification information at the determined initial display position.
  • the screen drawing unit 14 changes at least one of the display position and display mode of the notification information after display.
  • the screen drawing unit 14 changes the display position of the notification information, for example, by moving an image indicating the notification information to the target position.
  • the target position is, for example, a position representing a plurality of gazing points detected within a predetermined period, and is typically the center position of the gazing point distribution.
  • the target position is a position within the display area of the display content, and may typically be the center position of the display area of the display content. Further, the target position may be a position outside the display area of the display content and a position near the boundary of the display area of the display content.
  • the screen drawing unit 14 changes the display mode of the notification information by changing the color or definition of the image indicating the notification information, the size of the display area of the notification information, or the like. Specifically, the screen drawing unit 14 gradually increases the display area of the notification information. Further, the screen drawing unit 14 may gradually increase the sharpness of the image indicating the notification information. The screen drawing unit 14 may gradually change the color of the image indicating the notification information to a color with high saturation.
  • the screen drawing unit 14 may change both the display position and the display mode of the notification information.
  • FIG. 3 is a flowchart showing the operation of the information display apparatus according to Embodiment 1 of the present invention.
  • the user state detection unit 11 detects a user state indicating the physical state of the user (S102). Subsequently, the concentration level estimation unit 12 estimates the concentration level indicating the concentration level of the user with respect to the screen based on the detected user state (S104).
  • the application control unit 13 determines the initial display position of the notification information based on the estimated concentration so that the initial display position is located outside the effective visual field region (S106).
  • the screen drawing unit 14 displays the notification information at the determined initial display position (S108). Then, the screen drawing unit 14 changes at least one of the display position and display mode of the notification information after display (S110), and ends the process.
  • FIG. 4 is a diagram for explaining the operation of the information display apparatus according to Embodiment 1 of the present invention. Specifically, FIG. 4 is a diagram illustrating a change with time of the notification information displayed on the screen.
  • the peripheral visual field region is a region surrounding the central vision, which is a region where the user can recognize the object with high resolution, and is a region where the user can recognize the movement or change of the object.
  • the outer edge of the peripheral visual field region is a position where the viewing angle of the user is about 180 to 210 degrees.
  • the effective visual field area is an area in which the user can recognize the object relatively clearly in the peripheral visual field area.
  • the size of the effective visual field region varies depending on the psychological factors of the user, and becomes smaller as the user's degree of concentration increases.
  • the outer edge of the effective viewing area is a position where the viewing angle of the user is about 4 to 20 degrees.
  • the information display device 10 first determines the initial display position based on the degree of concentration so that the initial display position is located in the screen area outside the effective visual field area in the peripheral visual field area. Then, the information display device 10 displays the notification information at the determined initial display position. Thereby, the information display apparatus 10 can suppress giving a sudden impression to the user by displaying the notification information.
  • the information display device 10 changes at least one of the display position and the display mode of the notification information displayed on the screen area outside the effective visual field area among the peripheral visual field areas. For example, as illustrated in FIG. 4, the information display device 10 moves the notification information displayed outside the effective visual field region in a direction toward the center position (central view) of the effective visual field region, and also displays the size of the image indicated by the notification information. Increase the size gradually. Thereby, the information display apparatus 10 can make the user notice the notification information displayed in the peripheral visual field region casually.
  • the information display device 10 can determine the initial display position of the notification information so that the initial display position is located outside the effective visual field area of the user. Therefore, the information display device 10 can suppress giving a sudden impression to the user when the notification information is initially displayed. Further, the information display device 10 can casually notice the notification information by changing the display position or display mode of the notification information after display, and can notify the user of the notification information without giving a sudden impression. Can be presented.
  • the information display device 10 can determine the initial display position so that the smaller the degree of concentration, the farther from the position determined by the position of the gazing point, and the initial display position can be easily located outside the effective visual field region. Can be determined.
  • the information display device 10 can estimate the user's concentration degree with high accuracy based on the user state such as the distribution of the gazing point, the moving amount of the gazing point, the user's face orientation, or the user's posture.
  • the information display device 20 in the present embodiment is mainly different from the information display device 10 in the first embodiment in that the initial display position is determined with reference to the user information database 23.
  • FIG. 5 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 2 of the present invention. 5, the same components as those in FIG. 2 are denoted by the same reference numerals, and the description thereof is omitted.
  • the application control unit 21 determines the initial display position of the notification information based on the estimated concentration level so that the initial display position is located outside the effective visual field area that is an area visually recognized by the user.
  • the application control unit 21 refers to the user information database 23 to acquire effective visual field area information corresponding to the estimated concentration level. Then, the application control unit 21 determines an initial display position outside the effective visual field area estimated using the acquired effective visual field area information and the detected gazing point.
  • the application control unit 21 indicates the distance indicated by the effective visual field area information from the detected central position of the gazing point distribution. A position separated by a distance obtained by adding a certain distance to is determined as the initial display position. Further, for example, when the effective viewing area information indicates the viewing angle of the user, the application control unit 21 calculates a straight line connecting the user position and the center position of the gaze point distribution and a straight line connecting the user position and the initial display position. The initial display position is determined so that the formed angle is equal to or greater than the viewing angle.
  • the application control unit 21 determines whether or not the distance between the display position of the notification information and the position of the user's gazing point is less than the threshold while the display position of the notification information is changed by the screen drawing unit 22. Determine.
  • the threshold value is an upper limit value of the distance estimated that the user's attention is directed to the notification information, and is a value given in advance by experience or experiment.
  • the application control unit 21 updates the effective visual field area information stored in the user information database 23 using the display position.
  • the application control unit 21 determines that the distance between the display position of the notification information and the gazing point of the user is less than the threshold value. When the determination is made, the distance between the display position of the notification information and the center position of the gaze point distribution is calculated. Then, the application control unit 21 updates the distance indicated by the effective visual field area information to the calculated distance.
  • the application control unit 21 connects the straight line connecting the display position of the notification information and the position of the user's eyes, the center position of the gazing point distribution, and the position of the user's eyes. Calculate the angle made with the straight line. Then, the application control unit 21 updates the viewing angle indicated by the effective viewing area information to the calculated angle.
  • the screen drawing unit 22 displays the notification information at the determined initial display position. And the screen drawing part 22 changes the display position of the notification information after a display.
  • the user information database 23 stores the degree of concentration and the effective visual field area information in association with each other as shown in FIG.
  • FIG. 6 is a diagram showing an example of a user information database according to Embodiment 2 of the present invention.
  • the effective visual field area information indicates the size of the effective visual field area, and in FIG. 6, the distance from the center position of the gaze point distribution.
  • the degree of concentration is “0.8”
  • a position separated by “0.5” m or more from the center position of the gazing point distribution is located outside the effective visual field region. Indicates.
  • FIG. 7 is a flowchart showing the operation of the information display apparatus according to Embodiment 2 of the present invention. In FIG. 7, the same processes as those in FIG.
  • the application control unit 21 refers to the user information database 23 to acquire effective visual field area information corresponding to the estimated concentration level (S202). Subsequently, the application control unit 21 estimates the effective visual field area using the acquired effective visual field area information and the center position of the gazing point distribution, and determines an initial display position outside the estimated effective visual field area (S204). ).
  • the screen drawing unit 22 displays the notification information at the determined initial display position (S206). Furthermore, the screen drawing unit 22 changes the display position of the notification information after display (S208). Next, the user state detection unit 11 newly detects the user's gaze point (S210).
  • the application control unit 21 determines whether or not the distance between the current notification information display position and the gaze point detected in step S209 is equal to or less than a threshold value (S212).
  • a threshold value (S212)
  • the application control unit 21 uses the current display position to obtain the effective visual field area information stored in the user information database 23. Update (S214) and end the process.
  • the process returns to Step S208.
  • the information display device 20 refers to the user information database 23 and acquires the effective visual field region information corresponding to the degree of concentration so that the initial display position is outside the effective visual field region.
  • the initial display position can be easily determined so as to be positioned.
  • the information display device 20 updates the effective visual field area information using the display position, thereby storing the information in the user information database 23.
  • the accuracy of stored effective visual field area information can be increased.
  • the application control part 21 in this Embodiment updated the user information database 23, it is not necessary to update the user information database 23 necessarily. Even when the application control unit 21 does not update the user information database 23, the information display device 20 refers to the user information database 23 so that the initial display position is located outside the effective visual field region. The display position can be determined.
  • the application control unit 21 determines whether the distance between the display position of the notification information and the user's gaze point is less than the threshold. It may be determined whether or not the state where the distance from the gazing point is less than the threshold value continues for a predetermined time or more. Thereby, the fall of the determination precision by the misdetection of a gaze point etc. can be suppressed.
  • the information display device 30 in the present embodiment is suitable for being applied to a large screen display viewed by one or more users, and performs display control of notification information based on the viewing status of the user with respect to display content.
  • FIG. 8 is a diagram for explaining an example of an interface between the appearance of the information display device and related devices in Embodiment 3 of the present invention.
  • the information display device 30 acquires content and image information from one or a plurality of user detection cameras 102 in addition to the antenna 101 for receiving a broadcast program. Further, the user detection camera 102 may be laid on the wall or ceiling where the screen is installed, instead of being laid on the information display device 30 as shown in FIG. In addition, the user detection camera 102 may be laid on both the information display device 30 and a wall or a ceiling.
  • the information display device 30 includes a notification source 106 such as a mobile phone 103, a network camera 104, and a household appliance group 105 (for example, a refrigerator, a washing machine, a microwave oven, an air conditioner, and a lighting device) and a wireless network or a wired network. Are connected through.
  • the information display device 30 is also connected to the Internet via the router / hub 107.
  • FIG. 9 is a block diagram showing a functional configuration of the information display apparatus according to Embodiment 3 of the present invention.
  • the information display device 30 includes a user identification unit 31, a user state detection unit 32, a concentration degree estimation unit 33, a user information database 34, a relevance degree estimation unit 35, and an application control unit 36. And a screen drawing unit 37 and a screen 38.
  • the user detection camera 102 is a camera including an image sensor such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) installed around the screen 38.
  • an image sensor such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) installed around the screen 38.
  • the user detection camera 102 images a user existing in front of the screen 38.
  • the user identification unit 31 identifies a user by performing face region extraction from an image photographed by the user detection camera 102 and then comparing the face image registered in advance with the extracted face image. And the user identification part 31 outputs the user identification information for identifying the specified user.
  • the user state detection unit 32 detects the position of the user's gaze point on the screen 38.
  • the user state detection unit 32 detects the user position and the line-of-sight direction, and detects the position of the gazing point based on the detection result.
  • detection of the user position, detection of the gaze direction, and detection of the position of the gazing point will be described in order.
  • the user state detection unit 32 extracts an area in which a user is captured (hereinafter simply referred to as “user area”) in each of a plurality of images captured by the user detection camera 102. Thereafter, the user state detection unit 32 calculates the relative position between the user and the screen 38 (hereinafter simply referred to as “user position”) from the correspondence relationship between the user areas in the plurality of images using parallax based on stereo vision.
  • 10A and 10B are diagrams for explaining a user position calculation method by the user state detection unit according to Embodiment 3 of the present invention.
  • two user detection cameras 102 are installed in parallel with respect to the screen 38 as a set, separated from each other by a distance B. Then, the user state detection unit 32 extracts a user area in an image captured by each user detection camera 102. Then, the user state detection unit 32 calculates the distance D from the screen 38 based on the position shift of the corresponding user area between the images.
  • the user state detection unit 32 stores, for example, an image captured by each camera in the absence of a user in advance, and is captured when the user appears in the shooting range (user detectable region).
  • the user area is extracted by obtaining the difference between the image and the stored image.
  • the user state detection unit 32 can also extract a user face area obtained by face image detection and face image matching as a user area.
  • FIG. 10B is a diagram showing the principle of distance measurement by stereo vision used when determining the distance D between the user and the camera installation surface (screen 38) based on the positional relationship between corresponding user areas on two images.
  • the image of the user whose position is to be measured is projected onto the imaging surfaces of the image sensors of the two user detection cameras 102 as shown in FIG. 10B.
  • the user state detection unit 32 uses the focal length f of the camera and the distance B between the optical axes of the camera.
  • a distance D between the screen 38 and the screen 38 can be calculated as shown in Equation (1).
  • the user state detection unit 32 can obtain the user position in the direction parallel to the screen 38 based on the position of the user area in the image and the distance D calculated by the equation (1).
  • the user state detection unit 32 detects and outputs the relative position of the user with respect to the screen 38 in this way.
  • the user state detection unit 32 does not necessarily need to detect the user position based on stereo parallax.
  • the user state detection unit 32 may detect the user position from distance information obtained by the principle of light wave distance measurement (Time of Flight).
  • the user detection camera 102 includes a distance image sensor that outputs distance information using the principle of light wave distance, and at least one of the user detection cameras 102 may be installed.
  • the user state detection unit 32 may detect the user position using a pressure value obtained from a floor pressure sensor installed on the floor surface in front of the screen 38. In this case, it is not necessary to install the user detection camera 102 for detecting the user position.
  • the user state detection unit 32 detects the user's line-of-sight direction as described below.
  • FIG. 11 is a flowchart showing a flow of processing relating to the detection of the line-of-sight direction in the third embodiment of the present invention.
  • the user state detection unit 32 performs a result of the process (S510) for detecting the face orientation of the user and a process (S530) for detecting a relative gaze direction that is a relative gaze direction with respect to the face orientation. Based on the result, the line-of-sight direction is detected (S550).
  • the user state detection unit 32 detects a face area from a user image that is photographed by the user detection camera 102 and exists in front of the screen 38 (S512). Next, the user state detection unit 32 applies the face part feature point area corresponding to each reference face direction to the detected face area, and cuts out an area image of each face part feature point (S514).
  • the user state detection unit 32 calculates the degree of correlation between the clipped region image and the template image stored in advance (S516). Subsequently, the user state detection unit 32 obtains a weighted sum obtained by weighting and adding the angles indicated by the respective reference face orientations according to the calculated degree of correlation, and the user face orientation corresponding to the detected face region (S518).
  • the user state detection unit 32 detects the user's face orientation by executing the processing of steps S512 to S518.
  • the user state detection unit 32 detects the three-dimensional positions of the left and right eyes of the user using the images taken by the user detection camera 102 (S532). Subsequently, the user state detection unit 32 detects the three-dimensional position of the center of the left and right eyes of the user using the image captured by the user detection camera 102 (S534). Then, the user state detection unit 32 detects the relative line-of-sight direction using the line-of-sight direction reference plane obtained from the three-dimensional positions of the left and right eye heads and the three-dimensional position of the center of the left and right eyes (S536).
  • the user state detection unit 32 detects the relative line-of-sight direction by executing the processing of steps S532 to S536.
  • the user state detection unit 32 detects the user's line-of-sight direction using the user's face direction and the relative line-of-sight direction detected as described above.
  • FIG. 12 is a diagram for explaining processing for detecting the face orientation of the user in the third embodiment of the present invention.
  • the user state detection unit 32 obtains a facial part feature point area from a facial part area DB storing a facial part feature point area corresponding to each reference face direction. read out. Subsequently, as shown in FIG. 12B, the user state detection unit 32 applies the face part feature point area to the face area of the photographed image for each reference face direction, and the face part feature point area image. For each reference face orientation.
  • the user state detection unit 32 calculates the correlation between the clipped region image and the template image held in the face part region template DB for each reference face direction.
  • the user state detection unit 32 calculates a weight for each reference face direction according to the high degree of correlation indicated by the calculated degree of correlation. For example, the user state detection unit 32 calculates, as a weight, the ratio of the correlation degree of each reference face direction to the sum of the correlation degrees of the reference face direction.
  • the user state detection unit 32 calculates the sum of values obtained by multiplying the calculated angle by the angle indicated by the reference face direction, and detects the calculation result as the user's face direction. To do.
  • the weight for the reference face orientation +20 degrees is “0.85”
  • the weight for 0 degrees is “0.14”
  • the weight for ⁇ 20 degrees is “0.01”.
  • the user state detection unit 32 calculates the degree of correlation for the area image of the facial part feature points, but it is not always necessary to target the area image of the facial part feature points.
  • the user state detection unit 32 may calculate the degree of correlation for the entire face area image.
  • a method for detecting the face orientation there is a method of detecting facial part feature points such as eyes, nose and mouth from the face image and calculating the facial orientation from the positional relationship of the facial part feature points.
  • a method of calculating the face orientation from the positional relationship of the facial part feature points rotate and enlarge the 3D model of the facial part feature points prepared in advance so as to best match the facial part feature points obtained from one camera.
  • the position of the facial part feature point positions in the left and right cameras is calculated using the principle of stereo vision based on the images taken by the two cameras.
  • the user state detection unit 32 first detects the gaze direction reference plane, then detects the three-dimensional position of the center of the black eye, and finally detects the relative gaze direction.
  • FIG. 13 is a diagram for explaining the reference direction reference plane.
  • the user state detection unit 32 detects the gaze direction reference plane by detecting the three-dimensional positions of the left and right eye heads (end points on the nose side of the left eye and the right eye).
  • the gaze direction reference plane is a plane that serves as a reference when detecting the relative gaze direction, and is the same as the left-right symmetric plane of the face as shown in FIG. It should be noted that the position of the head of the eye is less fluctuated due to facial expressions and less erroneously detected than the position of other facial parts such as the corner of the eye, the corner of the mouth or the eyebrows. Therefore, in the present embodiment, the user state detection unit 32 detects the gaze direction reference plane, which is a left-right symmetric plane of the face, using the three-dimensional position of the eye.
  • the user state detection unit 32 detects the right and left eye regions using a face detection module and a face component detection module in each of two images taken simultaneously by the two user detection cameras 102. To do. Then, the user state detection unit 32 detects a three-dimensional position of each of the right and left eyes using a positional shift (parallax) between the images of the detected eye area. Furthermore, as shown in FIG. 13, the user state detection unit 32 detects a vertical bisector of a line segment with the detected three-dimensional positions of the left and right eyes as end points, as a gaze direction reference plane.
  • 14 and 15 are diagrams for explaining detection of the center of the black eye.
  • the person visually recognizes the object by the light from the object reaching the retina through the pupil, being converted into an electric signal, and the electric signal being transmitted to the brain. Therefore, the line-of-sight direction can be detected using the position of the pupil.
  • the Japanese iris is black or brown, it is difficult to discriminate between the pupil and the iris by image processing.
  • the center of the pupil and the center of the black eye substantially coincide. Therefore, in the present embodiment, the user state detection unit 32 detects the center of the black eye when detecting the relative line-of-sight direction.
  • the user state detection unit 32 first detects the positions of the corners of the eyes and the eyes from the captured image. And the user state detection part 32 detects an area
  • the user state detection unit 32 sets a black eye detection filter composed of a first area and a second area as shown in FIG. 15 at an arbitrary position in the black eye area. Then, the user state detection unit 32 searches for the position of the black eye detection filter that maximizes the inter-region variance between the luminance of the pixels in the first region and the luminance of the pixels in the second region, and the search result indicates The position is detected as the center of the black eye. Similarly to the above, the user state detection unit 32 detects the three-dimensional position of the center of the black eye using the shift of the position of the center of the black eye in the two images taken at the same time.
  • the user state detection unit 32 detects the relative gaze direction using the detected gaze direction reference plane and the three-dimensional position of the center of the black eye. It is known that there is almost no individual difference in the diameter of an eyeball of an adult. For example, in the case of a Japanese, it is about 24 mm. Therefore, if the position of the center of the black eye when the direction of the reference (for example, the front) is known is known, it can be converted and calculated in the line-of-sight direction by obtaining the displacement from there to the current center position of the black eye.
  • the direction of the reference for example, the front
  • this method utilizes the fact that when facing the front, the midpoint of the line segment connecting the centers of the left and right black eyes exists on the center of the face, that is, on the line-of-sight direction reference plane. That is, the user state detection unit 32 detects the relative line-of-sight direction by calculating the distance between the midpoint of the line segment connecting the left and right black eye centers and the line-of-sight direction reference plane.
  • the user state detection unit 32 uses the eyeball radius R and the distance d between the midpoint of the line segment connecting the left and right black eye centers and the gaze direction reference plane as shown in Expression (2).
  • the rotation angle ⁇ in the left-right direction with respect to the face direction is detected as the relative line-of-sight direction.
  • the user state detection unit 32 detects the relative line-of-sight direction using the line-of-sight reference plane and the three-dimensional position of the center of the black eye. And the user state detection part 32 detects a user's gaze direction using the detected face direction and relative gaze direction.
  • the user state detection unit 32 detects the position of the user's gazing point on the plane including the screen, using the user position detected as described above and the user's line-of-sight direction. Specifically, the user state detection unit 32 detects the position of the user's gazing point by calculating the intersection of a straight line extending in the line-of-sight direction from the user position and a plane including the screen.
  • the user state detection unit 32 detects the position of the user's gazing point as the user state, and further detects the user's face direction detected when detecting the position of the gazing point as the user state. Good. Furthermore, the user state detection unit 32 may detect the user's posture as the user state.
  • the concentration level estimation unit 33 uses the user state detected by the user state detection unit 32 to estimate the concentration level for each user who is the viewing target of the display content identified by the user identification unit 31. Specifically, the concentration degree estimation unit 33 may calculate the user's concentration degree based on, for example, the distribution of the user's face orientation every predetermined time. In addition, the concentration degree estimation unit 33 may calculate the user's concentration degree based on the distribution of the user's gaze point for each predetermined time. Further, the concentration degree estimation unit 33 may calculate the user's concentration degree based on the user's posture.
  • the user information database 34 stores various types of information shown in FIGS. 16A to 16C.
  • FIGS. 16A to 16C are diagrams showing an example of a user information database according to Embodiment 3 of the present invention.
  • the user information database 34 stores basic attribute information, body characteristic information, and cognitive characteristic information shown in FIGS. 16A to 16C. Specifically, as shown in FIG. 16A, the user information database 34 stores basic attribute information such as name, sex, age, date of birth, and relationship in association with an ID for identifying the user. ing.
  • the user information database 34 is associated with an ID for identifying a user, and height and eye height in a standing position, height and eye height in a sitting position, dominant hand, It stores body feature information such as body shape and viewing ability according to the user's posture, such as dominant eye, visual acuity, and hearing ability.
  • the user information database 34 stores cognitive characteristic information for each user. Specifically, the user information database 34 stores cognitive characteristic information that associates time, concentration, and effective visual field area information for each user. In the cognitive characteristic information shown in FIG. 16C, a viewing angle is stored as effective viewing area information.
  • the user information database 34 further displays the contents of the display content (terrestrial broadcast 5ch drama, photo browsing application, etc.), and the positional relationship of people around (“HG003 (0.4, 0.6)”, etc. ) May be stored in association with the degree of concentration.
  • “HG003 (0.4, 0.6)” indicates that the user whose ID is HG003 is located at a position separated by 0.4 m in the x coordinate direction and 0.6 m in the y coordinate direction.
  • the notification source 106 outputs the notification information to the information display device 30.
  • Examples of the notification source 106 include a home appliance group 105 connected to a home network such as a refrigerator, a washing machine, and a microwave oven, a network camera 104, and a mobile phone 103 as shown in FIG.
  • FIGS. 17A to 17C are diagrams illustrating an example of notification information according to Embodiment 3 of the present invention.
  • a notification icon as shown in FIG. 17A
  • a notification text as shown in FIG. 17B
  • image information or text information such as a thumbnail image / video as shown in FIG.
  • notification information is not limited to this example.
  • Various types of information can be used as notification information, such as notification of device status or work progress, incoming e-mail, or schedule notification.
  • the relevance level estimation unit 35 calculates a relevance level r indicating the relevance level between the notification information and the display content. A method for calculating the relevance will be described later.
  • the application control unit 36 uses the user identification information output from the user identification unit 31, the user state output from the user state detection unit 32, and the user concentration level output from the concentration level estimation unit 33 as input information. Do. In addition to the input information, the application control unit 36 performs display control using the input information output from the user information database 34, the notification source 106, and the relevance estimation unit 35.
  • the application control unit 36 When updating the drawing content of the screen, the application control unit 36 outputs update information of the drawing content to the screen drawing unit 37.
  • the screen drawing unit 37 presents the drawing content on the screen 38.
  • 18A and 18B are diagrams for explaining a use scene of the information display device according to Embodiment 3 of the present invention.
  • the information display device 30 displays an icon indicating notification information output from the device.
  • the area S is displayed at the initial display position on the screen. This initial display position is a position away from the first target position by a distance d1, and is a position away from the second target position by a distance d2.
  • the gaze point distribution center 41 is the center position of the gaze point distribution composed of a plurality of gaze points detected every predetermined time.
  • the current gazing point 42 is the position of the user's gazing point detected most recently.
  • the information display device 30 gives the user a more sudden impression than necessary by gradually approaching the icon from the initial display position toward the display area of the display content viewed by the user at the speed v. Display notification information so that there is no.
  • the target position to which the icon approaches consists of a first target position and a second target position.
  • the information display device 30 first moves the icon from the initial display position toward the first target position. And even if an icon arrives at a 1st target position, if a user does not point a gaze at the icon continuously for a predetermined time or more, information display device 30 will aim an icon from the 1st target position to the 2nd target position. To approach.
  • the first target position is a position away from the boundary of the main content display area by a predetermined distance ⁇ d. That is, the first target position is a position outside the main content display area and in the vicinity of the boundary of the main content display area.
  • the predetermined distance ⁇ d is preferably half the width of the icon indicating the notification information.
  • the second target position is a predetermined position in the content display area or a position representing a plurality of gazing points detected within a predetermined period. Specifically, the second target position is the center of the display area of the display content as shown in FIG. 18A or the gaze point distribution center 41 of the user as shown in FIG. 18B.
  • the second target position does not necessarily need to be the center of the display area of the display content or the gaze distribution center 41 of the user.
  • the second target position may be the center of the image displayed in a part of the display area of the display content.
  • the second target position may be the center of gravity of the gaze point distribution.
  • FIG. 19 is a flowchart showing the flow of processing of the information display device in Embodiment 3 of the present invention.
  • FIG. 20 is a figure for demonstrating the operation example of the information display apparatus in Embodiment 3 of this invention.
  • FIG. 20 there are a user A and a user B in front of the information display device 30, and a news program is displayed as display content.
  • the viewing user of this display content is the user A, and the user B is the viewing user.
  • FIG. 20A when the user A is watching a news program, as shown in FIG. 20B, an icon indicating notification information from the microwave is displayed at the initial display position. .
  • the icon gradually approaches the first target position.
  • FIG. 20D when the user's line of sight is poured into the icon, for example, detailed information “cooking completed” linked to the icon is displayed.
  • the user identification unit 31 performs user identification by collating with body feature information stored in the user information database 34 registered in advance (S301). Then, the user state detection unit 32 detects the user position for each identified user (S302). Further, the user state detection unit 32 detects the face direction and the line-of-sight direction for each identified user (S303). Furthermore, the user state detection unit 32 detects and holds the current gazing point 42 based on the user position and the line-of-sight direction.
  • the user state detection unit 32 determines the viewing user of the display content (S304). For example, the user state detection unit 32 may determine a user who is within a predetermined distance from the display content as a viewing user. In addition, it is preferable that the user state detection part 32 discriminate
  • the concentration degree estimation unit 33 calculates the center position (gaze point distribution center 41) of the gaze point distribution composed of a plurality of gaze points detected every predetermined time (S305). Then, the concentration degree estimation unit 33 calculates the degree of concentration c according to the following equation (3) using the calculated variance ⁇ of the distance between the gazing point distribution center 41 and the position of each gazing point (S306).
  • the degree of concentration c means that the larger the value is, the more concentrated the user is on the display content.
  • the concentration degree estimation unit 33 sets the allowable notification strength Int according to the following equation (4).
  • the permissible notification strength indicates the strength at which notification information should be noticed by the user.
  • the allowable notification intensity is high, the information display device 30 needs to perform “noticeable information notification”.
  • the allowable notification intensity is low, the information display device 30 performs “subtle information notification” so that the user can notice the notification information without giving a sudden impression to the notification information. There is a need.
  • n is the gain
  • the allowable notification intensity Int is smaller when the degree of concentration c is smaller, that is, when the user is not concentrated on the display content.
  • the relevance estimation unit 35 calculates a relevance r between the notification information and the display content (S308).
  • the relevance r is a numerical value between 0 and 1.
  • the relevance estimation unit 35 calculates the relevance to be high if the notification information is related to the program content, and relates to the relevance if the notification information is not related to the program content.
  • the degree is calculated to be low.
  • the relevance may be set as a binary value such that 0 is low and 1 is high.
  • the relevance level estimation unit 35 weakens the allowable notification strength according to the value of the relevance level r (S310). If the degree of relevance r is equal to or greater than a preset threshold value (No in S309), the degree of relevance estimation unit 35 increases the allowable notification strength according to the value of the degree of relevance r (S311).
  • the application control unit 36 determines the display parameter of the notification information using the allowable notification strength Int (S312).
  • the display parameter here is information indicating the initial display position, the size, and the approach method to the first target position or the second target position of the notification information.
  • the application control unit 36 determines display parameters so that the user does not have a sudden impression of the notification information.
  • the distance di between the initial display position of the notification information and the target position is calculated according to the following equation (5).
  • gd is a gain
  • d0 is a predetermined constant value
  • the moving speed v of the notification information and the display area S of the notification information are calculated according to the following equations (6) and (7).
  • gv and gS are gains, and v0 and S0 are predetermined constant values.
  • the application control unit 36 determines the initial display position so that the smaller the estimated concentration c or relevance r is, the farther from the position determined by the position of the detected gaze point. In addition, the application control unit 36 determines the moving speed v so that the moving speed v increases as the estimated concentration degree c or relevance degree r increases. In addition, the application control unit 36 determines the size of the display area (display area S) such that the larger the estimated concentration c or relevance r is, the larger the display area is.
  • the screen drawing unit 37 displays the notification information on the screen 38 according to the display parameters (S313). Then, as shown in FIG. 20 (d), when attention is directed to the notification information displayed by the user, that is, when the line of sight is continuously directed to the notification information for a predetermined time or longer, the screen drawing unit 37 displays the notification information. Detailed information is displayed on the screen 38. That is, the application control unit 36 determines whether or not the state where the distance between the gazing point and the display position of the notification information is less than the threshold continues for a predetermined time or more. Then, the screen drawing unit 37 changes the content of the notification information when it is determined that the notification is continued. That is, the notification information is initially displayed in the form of an icon, and is displayed in a form in which predetermined information linked to the icon can be confirmed after the user's attention is directed.
  • FIG. 21 is a diagram for explaining an operation example of the information display device according to the third embodiment of the present invention. Specifically, FIG. 21 is a diagram for explaining a method for updating the user information database.
  • the screen drawing unit 37 moves the display position of the notification information toward the gazing point distribution center 41 of the user A.
  • the application control unit 36 determines the distance d between the current gazing point 42 and the gazing point distribution center 41 when the user's current gazing point 42 moves to the display position of the notification information. Is calculated.
  • the application control unit 36 estimates the inside of the circle with the radius d centering on the gazing point distribution center 41 as the effective visual field region, and updates the effective visual field region information stored in the user information database 34.
  • the application control part 36 calculates the viewing angle k according to following Formula (11).
  • the application control unit 36 updates the user information database 34 shown in FIG. 16C.
  • the information display device 30 in the present embodiment can achieve the same effects as the information display device 10 or 20 of the first embodiment or the second embodiment.
  • the information display device 30 can move the display position of the notification information toward the first target position or the second target position, the notification information can be presented to the user without giving a more sudden impression. it can.
  • the information display device 30 can identify the user, the initial display position can be determined with higher accuracy by using the user information database 34 in which information is stored for each user.
  • the information display device 30 further determines the display parameter in consideration of the importance u indicating the importance of the notification information or the urgency u indicating the urgency of the notification information.
  • FIG. 22A is a block diagram showing a functional configuration of the information display device in Modification 1 of Embodiment 3 of the present invention.
  • the information display device 30 in the present modification further includes an importance / emergency level acquisition unit 39 in addition to the components included in the information display device in the third embodiment.
  • the importance / emergency level acquisition unit 39 acquires the importance level indicating the importance level of the notification information or the urgency level indicating the urgency level of the notification information. Specifically, the importance / emergency level acquisition unit 39 acquires the importance level or the urgency level of the notification information from the notification source 106 that outputs the notification information, for example. Further, for example, the importance / emergency level acquisition unit 39 reads the importance level or the urgency level stored in association with the notification source or the type of the notification information that has output the notification information, so that the importance level of the notification information or The urgency level may be acquired.
  • FIG. 22B is a flowchart showing a process flow of the information display apparatus in the first modification of the third embodiment of the present invention.
  • FIG. 22B includes a step of acquiring the importance or urgency of the notification information and adjusting the allowable notification intensity according to the acquired importance in the flowchart of FIG.
  • the information display device 30 can perform notification control based on the importance or urgency of the notification information. That is, when the importance or urgency of the notification information is high, the information display device 30 can increase the permissible notification intensity so that the notification information is noticed in preference to the main content.
  • the application control unit 36 determines the initial display position so that the smaller the acquired importance u or urgency u is, the farther from the position determined by the detected gaze point. Further, the application control unit 36 determines the moving speed v so that the moving speed v increases as the acquired importance u or urgency u increases. In addition, the application control unit 36 determines the size of the display area (display area S) so that the larger the acquired importance u or urgency u is, the larger the display area is.
  • FIG. 23A and FIG. 23B are diagrams for explaining an operation example of the information display device in the first modification of the third embodiment of the present invention.
  • the notification information is a work completion notification from the washing machine
  • the urgency of the notification information is not high, so the information display device 30 weakens the allowable notification strength.
  • the distance between the initial display position of the notification information and the target position is set longer than a predetermined value, and “subtle information notification” becomes possible.
  • the notification information is a notification that informs the customer
  • the urgency of the notification information is high, so the information display device 30 increases the allowable notification strength.
  • the distance between the initial display position of the notification information and the target position is set shorter than a predetermined value, and “noticeable information notification” becomes possible.
  • 24A to 24C are diagrams for explaining an outline of a display area control method based on the user position in the second modification of the third embodiment of the present invention.
  • the application control unit 36 determines the display position on the screen of the main content to be presented to the user based on the user position detected by the user state detection unit 32, for example. As a result, as shown in FIGS. 24A and 24B, the information display device 30 can continue to present the main content at a position that can be easily viewed by the user even when the user moves.
  • the application control unit 36 can display information at a position on the screen close to the position of the user.
  • the application control unit 36 displays the information in a size that is easy for the user to view by reducing or enlarging the display size of the information. Can do.
  • the application control unit 36 changes the information displayed as the main content to more detailed information. It is preferable.
  • the application control unit 36 displays the main content at a height that is easy for each user to see according to the height position of each user's face obtained by referring to the user information database 34. be able to.
  • FIG. 25 is a diagram for explaining an operation example of the information display device in the second modification of the third embodiment of the present invention.
  • FIG. 25 shows an example in which the display position of the main content follows the user position when the user passes in front of the screen.
  • the application control unit 36 moves the target position of the notification information as the user moves. That is, when the display position of the main content moves, the application control unit 36 moves the target position of the notification information following the movement of the display position of the main content.
  • the information display device 30 according to the present modification can make the user aware that the notification information is displayed even when the display position of the main content is changed.
  • Modification 3 of Embodiment 3 Next, Modification 3 of Embodiment 3 will be described. In this modification, a case where a plurality of viewing users are determined will be described.
  • FIG. 26A and FIG. 26B are diagrams for explaining an operation example of the information display device in the third modification of the third embodiment of the present invention.
  • 26A and 26B show a case where a plurality of viewing users are in front of the screen 38.
  • FIG. 26A and 26B show a case where a plurality of viewing users are in front of the screen 38.
  • FIG. 26A is a diagram illustrating a state in which display contents associated with each of the user A and the user B are displayed on the screen.
  • FIG. 26B is a diagram showing a state where display content common to user A and user B is displayed on the screen.
  • the information display device 30 applies the process shown in FIG. 19 or 22B to each of the user A and the user B.
  • the information display device 30 selects a user having a higher degree of concentration among the users A and B, and calculates an allowable notification intensity based on the degree of concentration of the selected user.
  • the information display device 30 may calculate the allowable notification strength based on the average value of the user A concentration level and the user B concentration level.
  • the information display device 30 is configured to display the initial notification information so that the information display device 30 is located outside the effective visual field region according to the degree of concentration of the viewing user even when there are a plurality of viewing users.
  • the display position can be determined.
  • Modification 4 of Embodiment 3 Next, Modification 4 of Embodiment 3 will be described. In the present modification, a description will be given of how the information display device 30 changes the display method of the notification information according to the size of the area where the main content is not displayed.
  • FIGS. 27A to 27C are diagrams for explaining an operation example of the information display device in the fourth modification of the third embodiment of the present invention.
  • FIG. 27A to FIG. 27C the width of the area that can be used for displaying the notification information is represented by w1 and w2, and the distance between the initial display position of the notification information and the first target position located near the boundary of the display area of the main content is shown.
  • d1 the width of the area that can be used for displaying the notification information
  • FIG. 27A shows “width w1 ⁇ distance d1, width w2> distance d1”
  • FIG. 27B shows “width w1 ⁇ distance d1, width w2> distance d1”
  • FIG. 27C shows “width w1, The state of width w2 ⁇ distance d1 ”is shown.
  • the information display device 30 may display the notification information in either or both of the area A and the area B. However, when the relationship of “width w1 ⁇ distance d1, width w2> distance d1” is satisfied as shown in FIG. 27B, the information display device 30 displays the notification information in the region B having a width longer than the distance d1. . Further, as shown in FIG. 27C, when “width w1, width w2 ⁇ distance d1”, the widths of both the area A and the area B are shorter than the distance d1, and therefore the information display device 30 has the longer area B. Display notification information on.
  • the information display device 30 changes the display mode of the notification information after display in accordance with the allowable notification intensity.
  • FIG. 28A and FIG. 28B are diagrams for explaining an operation example of the information display device in the fifth modification of the third embodiment of the present invention.
  • the information display device 30 When the allowable notification intensity is higher than the threshold, the information display device 30 approaches the target position while keeping the size of the image indicated by the notification information constant as shown in FIG. 28A. On the other hand, when the allowable notification intensity is lower than the threshold, the information display device 30 moves the notification information closer to the target position while gradually increasing the notification information, as shown in FIG. 28B.
  • the information display device 30 can change the display mode of the notification information after display based on the degree of user concentration, the degree of association between the notification information and the display content, or the importance or urgency of the notification information. Since it can be changed, a more casual impression can be given to the user.
  • Modification 6 of Embodiment 3 Next, Modification 6 of Embodiment 3 will be described. In this modification, an operation after the notification information display position is moved to the target position will be described.
  • FIG. 29A, FIG. 29B, FIG. 30A and FIG. 30B are diagrams for explaining an operation example of the information display device in the sixth modification of the third embodiment of the present invention.
  • the screen drawing part 37 changes at least one of the display position and display mode of notification information so that a user may become hard to notice notification information.
  • the screen drawing unit 37 is in a state where the display position of the notification information is within a predetermined range from the target position when the importance or urgency of the notification information is not high. If the user's attention does not increase beyond a predetermined level even after a predetermined time elapses, the display size of the notification information is gradually reduced and hidden. Further, for example, as illustrated in FIG. 29B, the screen drawing unit 37 may gradually move the notification information away from the target position so that the notification information moves away from the effective view area.
  • the screen drawing unit 37 keeps the user's eyes on the notification information continuously for a predetermined time or more even after a certain time has elapsed since the notification information reached the target position. If not, the notification information is moved away from the target position by a predetermined distance.
  • the notification information gradually moves away from the effective visual field area of the user and moves to a position where it is difficult to draw attention, so that the user's attention to the display content can be prevented more than necessary.
  • Modification 7 of Embodiment 3 Next, Modification 7 of Embodiment 3 will be described. In this modification, a case will be described in which the information display device 30 presents a plurality of pieces of notification information to the user at the same time.
  • FIG. 31A to FIG. 31C are diagrams for explaining an operation example of the information display device in the modified example 7 of the third embodiment of the present invention.
  • the present invention can be applied to a case where a plurality of pieces of notification information are simultaneously presented to the user as shown in FIGS. 31A to 31C.
  • the information display device 30 causes a plurality of pieces of notification information to approach the target position from one of the left and right sides of the display area of the main content.
  • the information display device 30 causes a plurality of pieces of notification information to approach the target position from both the left and right sides of the display area of the main content.
  • the information display device 30 determines display parameters such as the initial display position and speed of the notification information in accordance with the degree of association between each piece of notification information and display content.
  • Modification 8 of Embodiment 3 Next, Modification 8 of Embodiment 3 will be described. In this modification, a case where main content is displayed in the entire area of the screen will be described.
  • FIG. 32 is a diagram for explaining an operation example of the information display device in the modified example 8 of the third embodiment of the present invention.
  • the main content has been displayed in a partial area of the screen has been described so far, but the main content may be displayed on the entire screen as shown in FIG.
  • the present invention is applicable.
  • FIG. 32A a description will be given by taking as an example main content in which a plurality of objects are displayed on the entire screen.
  • FIG. 32 (a) shows a situation where a fish is swimming on the screen or a wallpaper image is displayed on the entire screen. Therefore, as illustrated in FIG. 32B, the information display device 30 displays the notification information at the initial display position, and causes the displayed notification information to approach the target position. Then, after detecting that the user's attention is directed to the notification information as shown in FIG. 32 (c), the information display device 30 is associated with the notification information in advance as shown in FIG. 32 (d). Display secondary content on the screen.
  • the information display device 30 displays a menu screen that asks the user whether to display the sub-contents associated with the notification information on the screen 38 after detecting that the user's attention is directed to the notification information. Also good. In that case, the information display device displays the sub-contents on the displayed menu screen as shown in FIG. 32 (d) when the user explicitly designates the sub-contents to be displayed by the remote controller or the gesture. 38 may be displayed.
  • the first target position is set to a position separated by a predetermined distance ⁇ d from the boundary of the display area of the main content as shown in FIGS. 18A and 18B.
  • the boundary of the display area of the main content becomes a frame of the screen 38 and is set at a position outside the screen. Therefore, when the main content is displayed on the entire screen, the first target position is a position away from the user's gaze point distribution center 41 or the center of the main content display area (the center of the screen 38) by a predetermined distance. It is preferable to set to.
  • the information display device has been described based on the embodiments and the modifications thereof, but the present invention is not limited to these embodiments or the modifications thereof. Unless it deviates from the gist of the present invention, various modifications conceived by those skilled in the art are applied to the present embodiment or the modified examples thereof, or a form constructed by combining the components in the different embodiments or modified examples thereof. It is included within the scope of the present invention.
  • the information display device includes a screen such as a plasma display panel or a liquid crystal panel, but it is not always necessary to include a screen.
  • the information display device may be a projector that projects content onto a projection surface such as a screen or a wall surface.
  • Each of the above devices is specifically a computer system including a microprocessor, a ROM, a RAM, a hard disk unit, a display unit, a keyboard, a mouse, and the like.
  • a computer program is stored in the RAM or the hard disk unit.
  • Each device achieves its function by the microprocessor operating according to the computer program.
  • the computer program is configured by combining a plurality of instruction codes indicating instructions for the computer in order to achieve a predetermined function.
  • Each device is not limited to a computer system including a microprocessor, a ROM, a RAM, a hard disk unit, a display unit, a keyboard, a mouse, and the like, but may be a computer system including a part of them.
  • a part or all of the constituent elements constituting each of the above devices may be constituted by one system LSI (Large Scale Integration).
  • the system LSI is a super multifunctional LSI manufactured by integrating a plurality of components on one chip, and specifically, a computer system including a microprocessor, a ROM, a RAM, and the like. .
  • a computer program is stored in the RAM.
  • the system LSI achieves its functions by the microprocessor operating according to the computer program.
  • system LSI may be called IC, LSI, super LSI, or ultra LSI depending on the degree of integration.
  • method of circuit integration is not limited to LSI's, and implementation using dedicated circuitry or general purpose processors is also possible.
  • An FPGA Field Programmable Gate Array
  • a reconfigurable processor that can reconfigure the connection and setting of circuit cells inside the LSI may be used.
  • a part or all of the constituent elements constituting each of the above devices may be constituted by an IC card or a single module that can be attached to and detached from each device.
  • the IC card or the module is a computer system including a microprocessor, a ROM, a RAM, and the like.
  • the IC card or the module may include the super multifunctional LSI described above.
  • the IC card or the module achieves its function by the microprocessor operating according to the computer program. This IC card or this module may have tamper resistance.
  • the present invention may be a method in which an operation of a characteristic component included in the information display device described above is used as a step. Further, the present invention may be a computer program that realizes these methods by a computer, or may be a digital signal composed of the computer program.
  • the present invention also provides a computer-readable recording medium such as a flexible disk, hard disk, CD-ROM, MO, DVD, DVD-ROM, DVD-RAM, BD (Blu-ray Disc). (Registered trademark)) or a semiconductor memory. Further, the present invention may be the computer program or the digital signal recorded on these recording media.
  • a computer-readable recording medium such as a flexible disk, hard disk, CD-ROM, MO, DVD, DVD-ROM, DVD-RAM, BD (Blu-ray Disc). (Registered trademark)) or a semiconductor memory.
  • the present invention may be the computer program or the digital signal recorded on these recording media.
  • the computer program or the digital signal may be transmitted via an electric communication line, a wireless or wired communication line, a network represented by the Internet, a data broadcast, or the like.
  • the present invention may also be a computer system including a microprocessor and a memory.
  • the memory may store the computer program, and the microprocessor may operate according to the computer program.
  • the program or the digital signal is recorded on the recording medium and transferred, or the program or the digital signal is transferred via the network or the like, and is executed by another independent computer system. It is good.
  • the information display device initially displays the notification information outside the effective visual field area of the user, the notification information can be noticed without giving a sudden impression to the user.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Neurosurgery (AREA)
  • Biophysics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

 ユーザに唐突な印象を与えずに通知情報をユーザに提示することができる情報表示装置を提供する。ユーザに通知するための情報である通知情報を画面に表示する情報表示装置(10)であって、ユーザの物理的な状態を示すユーザ状態を検出するユーザ状態検出部(11)と、検出されたユーザ状態に基づいて、画面に対するユーザの集中度合いを示す集中度を推定する集中度推定部(12)と、ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、推定された集中度に基づいて通知情報の初期表示位置を決定するアプリケーション制御部(13)と、決定された初期表示位置に通知情報を表示し、かつ、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる画面描画部(14)とを備える。

Description

情報表示装置及び情報表示方法
 本発明は、ユーザに通知するための情報である通知情報を画面に表示する情報表示装置に関する。
 ディスプレイの大画面化・薄型化に伴い、TVは単に放送コンテンツを視聴するために利用されるだけでなく、複数の情報の同時利用、大量の情報の一覧といった新しい利用方法への可能性が広がりつつある。TVの進化の一例として、家庭のリビングルームの壁一面をディスプレイとして備えるTVが提案されている。このようなTVでは、生活に密着したさまざまな情報を適切なタイミングで提示することができる。
 また、家庭内ネットワークが普及したことにより、TV、BDレコーダー、及びネットワークカメラなどを互いに連携させることが実現されている。その結果、ユーザは、一つのリモコンを用いて複数の機器を操作できる。さらに、ユーザは、TVの画面でネットワークカメラの映像を確認することもできる。また、これらの機器に加えて、洗濯機あるいは電子レンジといった白物家電が家庭内ネットワークにつながれば、ユーザは各機器の状態をTVで確認することも可能となる。すなわち、ネットワークに接続された複数の機器が、互いに連携し、TVなどの表示装置に各機器からの通知情報を提示することで、ユーザはTVの前にいながらにして、さまざまな機器の情報を取得できる。
 このような通知情報をユーザに提示する方法として、従来、通知情報をユーザに提示するタイミングを制御する方法が提案されている(例えば、特許文献1を参照)。特許文献1に記載の方法では、通知情報を提示する適切なタイミングを判断するためのポリシーと、割り込みについてのユーザのコストなどユーザの状況とを考慮して、通知情報がユーザに提示される。
 ところで、ユーザの有効視野の大きさを考慮して、情報をユーザに提示する方法も提案されている(例えば、特許文献2を参照)。特許文献2に記載の方法では、画面上に表示される画像の表示位置と視野中心までの距離とに応じて画像の大きさが調整される。これにより、視野中心部と視野周辺部とでユーザによる画像の認知に差がでないようにすることができる。
特開2004-266815号公報 特開2001-318747号公報
 ところで、ユーザがコンテンツを視聴中に当該コンテンツと関係のない通知情報が画面に突然表示されれば、ユーザは、唐突な印象を受けることにより煩わしく感じる。上記従来の方法では、このような課題を解決することはできない。
 そこで、本発明は、上記従来の課題を解決するものであって、ユーザに唐突な印象を与えずに通知情報をユーザに提示することができる情報表示装置を提供することを目的とする。
 上記目的を達成するために、本発明の一態様に係る情報表示装置は、ユーザに通知するための情報である通知情報を画面に表示する情報表示装置であって、前記ユーザの物理的な状態を示すユーザ状態を検出するユーザ状態検出部と、前記ユーザ状態検出部により検出されたユーザ状態に基づいて、前記画面に対する前記ユーザの集中度合いを示す集中度を推定する集中度推定部と、前記ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、前記集中度推定部により推定された集中度に基づいて通知情報の初期表示位置を決定するアプリケーション制御部と、前記アプリケーション制御部により決定された初期表示位置に通知情報を表示し、かつ、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる画面描画部とを備える。
 この構成により、初期表示位置が有効視野領域の外部に位置するように、通知情報の初期表示位置を決定することができるので、通知情報が初期表示された際にユーザに唐突な印象を与えることを抑制することができる。さらに、表示後の通知情報の表示位置又は表示態様を変化させることにより、ユーザにさりげなく通知情報を気付かせることができ、唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記ユーザ状態検出部は、前記画面を含む平面上における前記ユーザの注視点の位置を、前記ユーザ状態として検出し、前記アプリケーション制御部は、前記集中度推定部により推定された集中度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から遠くなるように、前記初期表示位置を決定することが好ましい。
 この構成により、集中度が小さいほど注視点の位置により定まる位置から遠くなるように初期表示位置を決定することができ、初期表示位置が有効視野領域の外部に位置するように初期表示位置を容易に決定することができる。
 また、前記アプリケーション制御部は、さらに、前記集中度推定部により推定された集中度が大きいほど移動速度が大きくなるように移動速度を決定し、前記画面描画部は、前記アプリケーション制御部により決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、集中度に応じて通知情報の表示位置の移動速度を決定することができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、前記画面描画部は、前記ユーザ状態検出部により所定期間内に検出された複数の注視点の位置を代表する位置に向けて通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、所定期間内に検出された複数の注視点を代表する位置に向けて通知情報の表示位置を移動させることができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記画面描画部は、前記画面に表示されたコンテンツの表示領域内の所定位置に向けて通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、コンテンツの表示領域内の位置に向けて通知情報の表示位置を移動させることができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記画面描画部は、前記画面に表示されたコンテンツの表示領域外の位置であって、かつ前記コンテンツの表示領域の境界近傍の位置に向けて、通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、コンテンツの表示領域外の位置であって、かつコンテンツの表示領域の境界近傍の位置に向けて通知情報の表示位置を移動させることができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記アプリケーション制御部は、さらに、前記集中度推定部により推定された集中度が大きいほど表示領域が大きくなるように表示領域の大きさを決定し、前記画面描画部は、前記アプリケーション制御部により決定された初期表示位置に通知情報を表示する際に、決定された大きさの表示領域に通知情報を表示することが好ましい。
 この構成により、集中度に応じた大きさで通知情報を表示することができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、さらに、前記画面に表示されたコンテンツと前記通知情報との関連度合いを示す関連度を推定する関連度推定部を備え、前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、前記アプリケーション制御部は、前記関連度推定部により推定された関連度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から初期表示位置が遠くなるように、前記初期表示位置を決定することが好ましい。
 この構成により、通知情報とコンテンツとの関連度に基づいて通知情報の初期表示位置を決定することができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、前記アプリケーション制御部は、さらに、前記関連度推定部により推定された関連度が大きいほど移動速度が大きくなるように移動速度を決定し、前記画面描画部は、決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、通知情報とコンテンツとの関連度に基づいて通知情報の移動速度を決定することができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、さらに、前記通知情報の重要度合いを示す重要度、又は前記通知情報の緊急度合いを示す緊急度を取得する重要度/緊急度取得部を備え、前記アプリケーション制御部は、前記重要度/緊急度取得部により取得された重要度又は緊急度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から初期表示位置が遠くなるように、前記初期表示位置を決定することが好ましい。
 この構成により、通知情報の重要度又は緊急度に基づいて通知情報の初期表示位置を決定することができるので、重要度又は緊急度が大きい通知情報を、より早くユーザに提示することができる。
 また、前記アプリケーション制御部は、さらに、前記重要度/緊急度取得部により取得された重要度又は緊急度が大きいほど移動速度が大きくなるように移動速度を決定し、前記画面描画部は、決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させることが好ましい。
 この構成により、通知情報の重要度又は緊急度に基づいて通知情報の移動速度を決定することができるので、重要度又は緊急度が大きい通知情報を、より早くユーザに提示することができる。
 また、前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、前記集中度推定部は、前記ユーザ状態検出部により所定期間内に検出された複数の注視点からなる注視点分布に基づいて、前記集中度を推定することが好ましい。
 この構成により、ユーザの集中度を高精度に推定することができる。
 また、前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、前記集中度推定部は、前記ユーザ状態検出部により検出された注視点の移動量に基づいて、前記集中度を推定することが好ましい。
 この構成により、ユーザの集中度を高精度に推定することができる。
 また、前記ユーザ状態検出部は、ユーザの顔向きを前記ユーザ状態として検出し、前記集中度推定部は、前記ユーザ状態検出部により所定期間内に検出された複数の顔向きからなる顔向き分布に基づいて、前記集中度を推定することが好ましい。
 この構成により、ユーザの集中度を高精度に推定することができる。
 また、前記ユーザ状態検出部は、ユーザの姿勢を前記ユーザ状態として検出し、前記集中度推定部は、前記ユーザ状態検出部により検出された姿勢に基づいて、前記集中度を推定することが好ましい。
 この構成により、ユーザの集中度を高精度に推定することができる。
 また、さらに、集中度と有効視野領域の大きさを示す有効視野領域情報とを対応付けて格納しているユーザ情報データベースとを備え、前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、前記アプリケーション制御部は、前記ユーザ情報データベースを参照することにより、前記集中度推定部により推定された集中度に対応する有効視野領域情報を取得し、取得した有効視野領域情報と、前記ユーザ状態検出部により検出された注視点とを用いて推定される有効視野領域の外部に前記初期表示位置を決定することが好ましい。
 この構成により、ユーザ情報データベースを参照して、集中度に対応する有効視野領域情報を取得することにより、初期表示位置が有効視野領域の外部に位置するように、通知情報の初期表示位置を容易に決定することができる。
 また、前記アプリケーション制御部は、さらに、前記画面描画部によって通知情報の表示位置が変化させられている間に、通知情報の表示位置とユーザの注視点の位置との距離が閾値未満であるか否かを判定し、距離が閾値未満であると判定された場合に、当該表示位置を用いて、前記ユーザ情報データベースに格納された有効視野領域情報を更新することが好ましい。
 この構成により、ユーザ情報データベースに格納される有効視野領域情報の精度を高めることができる。
 また、さらに、前記画面の前方にいるユーザを識別するユーザ識別部を備え、前記ユーザ情報データベースは、ユーザごとに、集中度と有効視野領域の大きさを示す有効視野領域情報とを対応付けて格納し、前記アプリケーション制御部は、前記ユーザ識別部により識別されたユーザに対応する有効視野領域情報を取得することが好ましい。
 この構成により、初期表示位置が有効視野領域の外部に位置するように高精度に初期表示位置を決定することができる。
 また、本発明の一態様に係る情報表示方法は、ユーザに通知するための情報である通知情報を画面に表示する情報表示方法であって、ユーザの物理的な状態を示すユーザ状態を検出するユーザ状態検出ステップと、前記ユーザ状態検出ステップにおいて検出されたユーザ状態に基づいて、前記画面に対するユーザの集中度合いを示す集中度を推定する集中度推定ステップと、前記ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、前記集中度推定ステップにおいて推定された集中度に基づいて通知情報の初期表示位置を決定するアプリケーション制御ステップと、前記アプリケーション制御ステップにおいて決定された初期表示位置に通知情報を表示し、かつ、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる画面描画部とを含む。
 これにより、上記情報表示装置と同様の効果を奏することができる。
 なお、本発明は、このような情報表示方法をコンピュータに実行させるためのプログラムとして実現することもできる。そして、そのようなプログラムは、CD-ROM(Compact Disc Read Only Memory)等のコンピュータ読取可能な記録媒体、あるいはインターネット等の伝送媒体を介して配信することができるのは言うまでもない。
 以上の説明から明らかなように、本発明の一態様に係る情報表示装置によれば、初期表示位置がユーザの有効視野領域の外部に位置するように、通知情報の初期表示位置を決定することができる。したがって、情報表示装置は、通知情報が初期表示された際にユーザに唐突な印象を与えることを抑制することができる。さらに、情報表示装置は、表示後の通知情報の表示位置又は表示態様を変化させることにより、ユーザにさりげなく通知情報を気付かせることができ、唐突な印象を与えずに通知情報をユーザに提示することができる。
図1は、本発明の実施の形態1における情報表示装置の外観を示す図である。 図2は、本発明の実施の形態1における情報表示装置の機能構成を示すブロック図である。 図3は、本発明の実施の形態1における情報表示装置の動作を示すフローチャートである。 図4は、本発明の実施の形態1における情報表示装置の動作を説明するための図である。 図5は、本発明の実施の形態2における情報表示装置の機能構成を示すブロック図である。 図6は、本発明の実施の形態2におけるユーザ情報データベースの一例を示す図である。 図7は、本発明の実施の形態2における情報表示装置の動作を示すフローチャートである。 図8は、本発明の実施の形態3における情報表示装置の外観と関連機器とのインタフェースの一例を説明するための図である。 図9は、本発明の実施の形態3における情報表示装置の機能構成を示すブロック図である。 図10Aは、本発明の実施の形態3におけるユーザ状態検出部によるユーザ位置の算出方法を説明するための図である。 図10Bは、本発明の実施の形態3におけるユーザ状態検出部によるユーザ位置の算出方法を説明するための図である。 図11は、本発明の実施の形態3における視線方向の検出に関する処理の流れを示すフローチャートである。 図12は、本発明の実施の形態3におけるユーザの顔向きを検出する処理を説明するための図である。 図13は、視線方向基準面について説明するための図である。 図14は、黒目中心の検出について説明するための図である。 図15は、黒目中心の検出について説明するための図である。 図16Aは、本発明の実施の形態3におけるユーザ情報データベースの一例を示す図である。 図16Bは、本発明の実施の形態3におけるユーザ情報データベースの一例を示す図である。 図16Cは、本発明の実施の形態3におけるユーザ情報データベースの一例を示す図である。 図17Aは、本発明の実施の形態3における通知情報の一例を示す図である。 図17Bは、本発明の実施の形態3における通知情報の一例を示す図である。 図17Cは、本発明の実施の形態3における通知情報の一例を示す図である。 図18Aは、本発明の実施の形態3における情報表示装置のユースシーンを説明するための図である。 図18Bは、本発明の実施の形態3における情報表示装置のユースシーンを説明するための図である。 図19は、本発明の実施の形態3における情報表示装置の処理の流れを示すフローチャートである。 図20は、本発明の実施の形態3における情報表示装置の動作例を説明するための図である。 図21は、本発明の実施の形態3における情報表示装置の動作例を説明するため図である。 図22Aは、本発明の実施の形態3の変形例1における情報表示装置の機能構成を示すブロック図である。 図22Bは、本発明の実施の形態3の変形例1における情報表示装置の処理の流れを示すフローチャートである。 図23Aは、本発明の実施の形態3の変形例1における情報表示装置の動作例を説明する図である。 図23Bは、本発明の実施の形態3の変形例1における情報表示装置の動作例を説明する図である。 図24Aは、本発明の実施の形態3の変形例2におけるユーザ位置に基づく表示領域の制御方法の概略を説明するための図である。 図24Bは、本発明の実施の形態3の変形例2におけるユーザ位置に基づく表示領域の制御方法の概略を説明するための図である。 図24Cは、本発明の実施の形態3の変形例2におけるユーザ位置に基づく表示領域の制御方法の概略を説明するための図である。 図25は、本発明の実施の形態3の変形例2における情報表示装置の動作例を説明するための図である。 図26Aは、本発明の実施の形態3の変形例3における情報表示装置の動作例を説明するための図である。 図26Bは、本発明の実施の形態3の変形例3における情報表示装置の動作例を説明するための図である。 図27Aは、本発明の実施の形態3の変形例4における情報表示装置の動作例を説明するための図である。 図27Bは、本発明の実施の形態3の変形例4における情報表示装置の動作例を説明するための図である。 図27Cは、本発明の実施の形態3の変形例4における情報表示装置の動作例を説明するための図である。 図28Aは、本発明の実施の形態3の変形例5における情報表示装置の動作例を説明するための図である。 図28Bは、本発明の実施の形態3の変形例5における情報表示装置の動作例を説明するための図である。 図29Aは、本発明の実施の形態3の変形例6における情報表示装置の動作例を説明するための図である。 図29Bは、本発明の実施の形態3の変形例6における情報表示装置の動作例を説明するための図である。 図30Aは、本発明の実施の形態3の変形例6における情報表示装置の動作例を説明するための図である。 図30Bは、本発明の実施の形態3の変形例6における情報表示装置の動作例を説明するための図である。 図31Aは、本発明の実施の形態3の変形例7における情報表示装置の動作例を説明するための図である。 図31Bは、本発明の実施の形態3の変形例7における情報表示装置の動作例を説明するための図である。 図31Cは、本発明の実施の形態3の変形例7における情報表示装置の動作例を説明するための図である。 図32は、本発明の実施の形態3の変形例8における情報表示装置の動作例を説明するための図である。
 以下、本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
 図1は、本発明の実施の形態1における情報表示装置の外観を示す図である。また、図2は、本発明の実施の形態1における情報表示装置の機能構成を示すブロック図である。
 本実施の形態における情報表示装置10は、通知情報を画面に表示する装置であって、ユーザの有効視野領域の外部に通知情報が初期表示されるように、通知情報を画面に表示することを特徴とする。図1に示すように、情報表示装置10は、大画面ディスプレイに適用されるのが好適である。
 図2に示すように、情報表示装置10は、ユーザ状態検出部11と、集中度推定部12と、アプリケーション制御部13と、画面描画部14とを備える。
 ユーザ状態検出部11は、ユーザの物理的な状態を示すユーザ状態を検出する。具体的には、ユーザ状態検出部11は、例えば、画面を含む平面上におけるユーザの注視点の位置をユーザ状態として検出し、検出したユーザ状態を保持する。ユーザの注視点の位置を検出する方法については、実施の形態3において詳細に説明する。
 なお、ユーザ状態検出部11は、ユーザの顔向き又はユーザの姿勢などをユーザ状態として検出してもよい。この場合、ユーザ状態検出部11は、例えば、カメラによって撮影されたユーザの顔の像などを利用して、ユーザの顔向きを検出する。また例えば、ユーザ状態検出部11は、カメラによって撮影されたユーザの像、又は画面の前方の床面に設置された圧力センサなどを利用して、ユーザの姿勢を検出する。
 集中度推定部12は、検出されたユーザ状態に基づいて、画面に対するユーザの集中度合いを示す集中度を推定する。
 具体的には、集中度推定部12は、ユーザ状態検出部11によって所定期間内に検出された複数の注視点からなる注視点分布に基づいて集中度を推定する。例えば、集中度推定部12は、注視点分布の分散が大きいほど集中度が小さいと推定する。ここで所定期間は、例えば、注視点が検出された直近の時刻から一定時間遡った時刻までの期間である。
 また、集中度推定部12は、ユーザ状態検出部11によって検出された注視点の移動量に基づいて集中度を推定してもよい。この場合、例えば、集中度推定部12は、ユーザ状態検出部11によって所定期間内に検出された複数の注視点の位置から注視点の移動量を算出し、算出した注視点の移動量が大きいほど集中度が小さいと推定する。
 また、集中度推定部12は、ユーザ状態検出部11によって所定期間内に検出された複数の顔向きからなる顔向き分布に基づいて集中度を推定してもよい。この場合、例えば、集中度推定部12は、ユーザ状態検出部11によって所定期間内に検出された複数の顔向きを示す値の分散が大きいほど集中度が小さいと推定する。
 また、集中度推定部12は、ユーザ状態検出部11によって検出されたユーザの姿勢に基づいて集中度を推定してもよい。この場合、例えば、集中度推定部12は、姿勢(立位、座位又は臥位など)に対応する集中度が格納されたデータベースを参照することにより、検出されたユーザの姿勢に対応する集中度を推定する。
 アプリケーション制御部13は、ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、推定された集中度に基づいて通知情報の初期表示位置を決定する。具体的には、アプリケーション制御部13は、推定された集中度が小さいほど、検出された注視点の位置により定まる位置から遠くなるように、初期表示位置を決定する。なお、アプリケーション制御部13は、推定された集中度が小さいほど、例えば、画面に表示されたコンテンツの表示領域の中心位置又は画面の中心位置から遠くなるように、初期表示位置を決定してもよい。
 ここで、有効視野領域とは、ユーザが表示された画像などを比較的明瞭に認知できる領域であり、ユーザの集中度合いに応じて大きさが変化する領域である。例えば、有効視野領域は、注視点分布の中心位置が中心である円形又は楕円形の領域であって、ユーザの集中度が小さいほどその大きさが大きくなる領域と推定される。この有効視野領域内にいきなり通知情報が表示されれば、ユーザは、唐突な印象を受け煩わしく感じる。
 また、注視点の位置により定まる位置とは、例えば、注視点の位置そのもの、又は所定期間内に検出された複数の注視点からなる注視点分布の重心位置もしくは中心位置などである。
 また、通知情報とは、ユーザに通知するための情報である。具体的には、通知情報は、例えば、情報表示装置10とネットワークを介して接続された機器の状態を示すテキスト情報もしくは画像情報、又は表示コンテンツに関連するテキスト情報もしくは画像情報などである。より具体的には、通知情報は、例えば、電子レンジによる加熱処理が終了したことを示す電子レンジの外観を示すアイコンなどである。
 画面描画部14は、例えばプラズマディスプレイパネル(PDP:Plasma Display Panel)又は液晶パネル(Liquid Crystal Panel)などの画面に通知情報を表示する。
 具体的には、画面描画部14は、まず、決定された初期表示位置に通知情報を表示する。そして、画面描画部14は、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる。
 さらに具体的には、画面描画部14は、例えば、通知情報を示す画像をターゲット位置に移動させることにより、通知情報の表示位置を変化させる。ここでターゲット位置は、例えば、所定期間内に検出された複数の注視点を代表する位置であって、典型的には、注視点分布の中心位置である。また、ターゲット位置は、表示コンテンツの表示領域内の位置であって、典型的には、表示コンテンツの表示領域の中心位置であってもよい。また、ターゲット位置は、表示コンテンツの表示領域外の位置であって、かつ表示コンテンツの表示領域の境界近傍の位置であってもよい。
 また、例えば、画面描画部14は、通知情報を示す画像の色もしくは鮮明度、又は通知情報の表示領域の大きさなどを変化させることにより、通知情報の表示態様を変化させる。具体的には、画面描画部14は、通知情報の表示領域を徐々に大きくする。また、画面描画部14は、通知情報を示す画像の鮮明度を徐々に高くしてもよい。また、画面描画部14は、通知情報を示す画像の色を徐々に彩度が高い色に変化させてもよい。
 なお、画面描画部14は、通知情報の表示位置及び表示態様の両方を変化させてもよい。
 次に、以上のように構成された情報表示装置10における各種動作について説明する。
 図3は、本発明の実施の形態1における情報表示装置の動作を示すフローチャートである。
 まず、ユーザ状態検出部11は、ユーザの物理的な状態を示すユーザ状態を検出する(S102)。続いて、集中度推定部12は、検出されたユーザ状態に基づいて、画面に対するユーザの集中度合いを示す集中度を推定する(S104)。
 そして、アプリケーション制御部13は、初期表示位置が有効視野領域の外部に位置するように、推定された集中度に基づいて通知情報の初期表示位置を決定する(S106)。
 続いて、画面描画部14は、決定された初期表示位置に通知情報を表示する(S108)。そして、画面描画部14は、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させ(S110)、処理を終了する。
 図4は、本発明の実施の形態1における情報表示装置の動作を説明するための図である。具体的には、図4は、画面に表示された通知情報の経時変化を示す図である。
 周辺視野領域は、ユーザが高い解像度で物体を認知できる領域である中心視を取り囲む領域であり、ユーザが物体の動き又は変化などを認知できる領域である。一般的に、周辺視野領域の外縁は、ユーザの視野角が約180~210度となる位置である。
 有効視野領域は、この周辺視野領域のうち、ユーザが物体を比較的明瞭に認知できる領域である。この有効視野領域の大きさは、ユーザの心理的要因によって変化し、ユーザの集中度が大きいほど小さくなる。一般的に、有効視野領域の外縁は、ユーザの視野角が約4~20度となる位置である。
 したがって、画面が大きい場合、又はユーザの位置が画面から近い場合などには、図4に示すように、有効視野領域の外部に画面領域が存在する。そこで、情報表示装置10は、まず、集中度に基づいて、周辺視野領域のうち有効視野領域の外部の画面領域に初期表示位置が位置するように、初期表示位置を決定する。そして、情報表示装置10は、決定した初期表示位置に通知情報を表示する。これにより、情報表示装置10は、通知情報を表示することによってユーザに唐突な印象を与えることを抑制することができる。
 続いて、情報表示装置10は、周辺視野領域のうち有効視野領域の外部の画面領域に表示した通知情報の表示位置及び表示態様の少なくとも一方を変化させる。例えば図4に示すように、情報表示装置10は、有効視野領域の外部に表示した通知情報を有効視野領域の中心位置(中心視)へ向かう方向に移動させるとともに、通知情報が示す画像の大きさを徐々に大きくする。これにより、情報表示装置10は、周辺視野領域に表示される通知情報をユーザにさり気なく気づかせることができる。
 以上のように、本実施の形態における情報表示装置10は、初期表示位置がユーザの有効視野領域の外部に位置するように、通知情報の初期表示位置を決定することができる。したがって、情報表示装置10は、通知情報が初期表示された際にユーザに唐突な印象を与えることを抑制することができる。さらに、情報表示装置10は、表示後の通知情報の表示位置又は表示態様を変化させることにより、ユーザにさりげなく通知情報を気付かせることができ、唐突な印象を与えずに通知情報をユーザに提示することができる。
 また、情報表示装置10は、集中度が小さいほど注視点の位置により定まる位置から遠くなるように初期表示位置を決定することができ、有効視野領域の外部に位置するように容易に初期表示位置を決定することができる。
 また、情報表示装置10は、注視点の分布、注視点の移動量、ユーザの顔向き、又はユーザの姿勢などのユーザ状態に基づいて、高精度にユーザの集中度を推定することができる。
 (実施の形態2)
 次に、本発明の実施の形態2について、実施の形態1と異なる点を中心に図面を参照しながら説明する。本実施の形態における情報表示装置20は、ユーザ情報データベース23を参照して初期表示位置を決定する点が、実施の形態1における情報表示装置10と主として異なる。
 図5は、本発明の実施の形態2における情報表示装置の機能構成を示すブロック図である。図5において、図2と同一の構成要素については同一の符号を付し、説明を省略する。
 アプリケーション制御部21は、ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、推定された集中度に基づいて通知情報の初期表示位置を決定する。
 具体的には、アプリケーション制御部21は、ユーザ情報データベース23を参照することにより、推定された集中度に対応する有効視野領域情報を取得する。そして、アプリケーション制御部21は、取得した有効視野領域情報と、検出された注視点とを用いて推定される有効視野領域の外部に初期表示位置を決定する。
 より具体的には、例えば、有効視野領域情報が注視点分布の中心位置からの距離を示す場合、アプリケーション制御部21は、検出された注視点分布の中心位置から、有効視野領域情報が示す距離に一定距離加算した距離だけ離れた位置を、初期表示位置と決定する。また、例えば、有効視野領域情報がユーザの視野角を示す場合、アプリケーション制御部21は、ユーザ位置と注視点分布の中心位置とを結ぶ直線と、ユーザ位置と初期表示位置とを結ぶ直線とのなす角が視野角以上となるように、初期表示位置を決定する。
 アプリケーション制御部21は、さらに、画面描画部22によって通知情報の表示位置が変化させられている間に、通知情報の表示位置とユーザの注視点の位置との距離が閾値未満であるか否かを判定する。ここで閾値は、ユーザの注意が通知情報に向いていると推定される距離の上限値であり、経験あるいは実験により予め与えられる値である。
 そして、アプリケーション制御部21は、距離が閾値未満であると判定された場合に、当該表示位置を用いて、ユーザ情報データベース23に格納された有効視野領域情報を更新する。
 具体的には、例えば、有効視野領域情報が注視点分布の中心位置からの距離を示す場合、アプリケーション制御部21は、通知情報の表示位置とユーザの注視点との距離が閾値未満であると判定されたとき、通知情報の表示位置と注視点分布の中心位置との距離を算出する。そして、アプリケーション制御部21は、有効視野領域情報が示す距離を算出した距離に更新する。
 また例えば、有効視野領域情報が視野角を示す場合、アプリケーション制御部21は、通知情報の表示位置及びユーザの目の位置を結ぶ直線と、注視点分布の中心位置及びユーザの目の位置を結ぶ直線とのなす角度を算出する。そして、アプリケーション制御部21は、有効視野領域情報が示す視野角を算出した角度に更新する。
 画面描画部22は、決定された初期表示位置に通知情報を表示する。そして、画面描画部22は、表示後の通知情報の表示位置を変化させる。
 ユーザ情報データベース23は、図6に示すように、集中度と有効視野領域情報とを対応付けて格納している。
 図6は、本発明の実施の形態2におけるユーザ情報データベースの一例を示す図である。
 有効視野領域情報は、有効視野領域の大きさを示し、図6では、注視点分布の中心位置からの距離を示す。例えば、図6に示すユーザ情報データベース23は、集中度が「0.8」の場合、注視点分布の中心位置から「0.5」m以上離れた位置が有効視野領域の外部に位置することを示す。
 次に、以上のように構成された情報表示装置20における各種動作について説明する。
 図7は、本発明の実施の形態2における情報表示装置の動作を示すフローチャートである。図7において、図3と同一の処理については同一の符号を付し、説明を省略する。
 アプリケーション制御部21は、ユーザ情報データベース23を参照することにより、推定された集中度に対応する有効視野領域情報を取得する(S202)。続いて、アプリケーション制御部21は、取得した有効視野領域情報と、注視点分布の中心位置とを用いて有効視野領域を推定し、推定した有効視野領域の外部に初期表示位置を決定する(S204)。
 そして、画面描画部22は、決定された初期表示位置に通知情報を表示する(S206)。さらに、画面描画部22は、表示後の通知情報の表示位置を変化させる(S208)。次に、ユーザ状態検出部11は、新たにユーザの注視点を検出する(S210)。
 続いて、アプリケーション制御部21は、現在の通知情報の表示位置と、ステップS209において検出された注視点との距離が閾値以下であるか否かを判定する(S212)。ここで、表示位置と注視点との距離が閾値以下である場合(S212のYes)、アプリケーション制御部21は、現在の表示位置を用いて、ユーザ情報データベース23に格納された有効視野領域情報を更新し(S214)、処理を終了する。一方、表示位置と注視点との距離が閾値より大きい場合(S212のNo)、ステップS208の処理に戻る。
 以上のように、本実施の形態における情報表示装置20は、ユーザ情報データベース23を参照して、集中度に対応する有効視野領域情報を取得することにより、初期表示位置が有効視野領域の外部に位置するように、容易に初期表示位置を決定することができる。
 また、情報表示装置20は、通知情報の表示位置とユーザの注視点との距離が閾値未満である場合に、当該表示位置を用いて有効視野領域情報を更新することにより、ユーザ情報データベース23に格納される有効視野領域情報の精度を高めることができる。
 なお、本実施の形態におけるアプリケーション制御部21は、ユーザ情報データベース23を更新したが、必ずしもユーザ情報データベース23を更新する必要はない。アプリケーション制御部21がユーザ情報データベース23を更新しない場合であっても、情報表示装置20は、ユーザ情報データベース23を参照することにより、初期表示位置が有効視野領域の外部に位置するように、初期表示位置を決定することができる。
 また、本実施の形態において、アプリケーション制御部21は、通知情報の表示位置とユーザの注視点との距離が閾値未満であるか否かを判定していたが、通知情報の表示位置とユーザの注視点との距離が閾値未満である状態が所定時間以上継続しているか否かを判定してもよい。これにより、注視点の誤検知などによる判定精度の低下を抑制することができる。
 (実施の形態3)
 本実施の形態における情報表示装置30は、1以上のユーザにより視聴される大画面ディスプレイに適用されるのに好適であり、表示コンテンツに対するユーザの視聴状況に基づいて通知情報の表示制御を行う。
 図8は、本発明の実施の形態3における情報表示装置の外観と関連機器とのインタフェースの一例を説明するための図である。情報表示装置30は、放送番組を受信するためのアンテナ101のほか、一つまたは複数のユーザ検出カメラ102からコンテンツ及び画像情報を取得する。また、ユーザ検出カメラ102は、図8のように情報表示装置30に敷設されるのではなく、画面が設置されている壁あるいは天井に敷設されてもよい。また、ユーザ検出カメラ102は、情報表示装置30と、壁あるいは天井との両方にそれぞれ敷設されてもよい。
 また、情報表示装置30は、携帯電話103、ネットワークカメラ104、及び家電機器群105(例えば、冷蔵庫、洗濯機、電子レンジ、エアコン、及び照明機器など)などの通知ソース106と無線ネットワーク又は有線ネットワークなどを介して接続されている。また、情報表示装置30は、ルータ/ハブ107を介してインターネットにも接続されている。
 図9は、本発明の実施の形態3における情報表示装置の機能構成を示すブロック図である。
 図9に示すように、情報表示装置30は、ユーザ識別部31と、ユーザ状態検出部32と、集中度推定部33と、ユーザ情報データベース34と、関連度推定部35と、アプリケーション制御部36と、画面描画部37と、画面38とを備える。
 以下、図9の各ブロックについて、他の図面を参照しながら説明する。
 ユーザ検出カメラ102は、画面38の周囲に設置されたCCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを備えるカメラである。
 ユーザ検出カメラ102は画面38の前方に存在するユーザを撮影する。
 ユーザ識別部31は、ユーザ検出カメラ102によって撮影された画像から顔領域の抽出を行った後、あらかじめ登録された顔画像と抽出した顔画像の照合を行うことで、ユーザを特定する。そして、ユーザ識別部31は、特定したユーザを識別するためのユーザ識別情報を出力する。
 ユーザ状態検出部32は、画面38上におけるユーザの注視点の位置を検出する。ユーザ状態検出部32は、ユーザ位置及び視線方向を検出し、検出結果に基づいて注視点の位置を検出する。以下、ユーザ位置の検出、視線方向の検出、及び注視点の位置の検出について、順に説明する。
 まず、ユーザ位置の検出について説明する。
 ユーザ状態検出部32は、ユーザ検出カメラ102により撮影された複数の画像のそれぞれにおいて、ユーザが写っている領域(以下、単に「ユーザ領域」という)の抽出を行う。その後、ユーザ状態検出部32は、ステレオ視による視差を利用して、複数の画像におけるユーザ領域の対応関係からユーザと画面38との相対位置(以下、単に「ユーザ位置」という)を算出する。
 図10A及び図10Bは、本発明の実施の形態3におけるユーザ状態検出部によるユーザ位置の算出方法を説明するための図である。
 図10Aに示すように、ユーザ検出カメラ102は、2台一組にして互いに間隔Bだけ離して、画面38に対して平行に設置される。そして、ユーザ状態検出部32は、それぞれのユーザ検出カメラ102で撮影された画像内のユーザ領域を抽出する。そして、ユーザ状態検出部32は、画像間の対応するユーザ領域の位置のずれに基づいて、画面38との距離Dを算出する。
 具体的には、ユーザ状態検出部32は、例えば、予めユーザのいない状態でそれぞれのカメラで撮影された画像を保存し、ユーザが撮影範囲(ユーザ検出可能領域)に現れたときに撮影された画像と保存した画像との差分を求めることにより、ユーザ領域を抽出する。また、ユーザ状態検出部32は、顔画像検出及び顔画像の照合により得られるユーザの顔領域をユーザ領域として抽出することもできる。
 図10Bは、2つの画像上の対応するユーザ領域の位置関係を基に、ユーザとカメラ設置面(画面38)との距離Dを求める際に用いるステレオ視による測距原理を示した図である。位置測定対象であるユーザの像は、2台のユーザ検出カメラ102それぞれのイメージセンサの撮影面に、図10Bに示すように投影される。このように投影された位置測定対象の像の画像上のずれをZと表したとき、ユーザ状態検出部32は、カメラの焦点距離fとカメラの光軸間の距離Bとを用いて、ユーザと画面38との距離Dを式(1)のように算出することができる。
Figure JPOXMLDOC01-appb-M000001
  
 また、ユーザ状態検出部32は、画面38に平行な方向のユーザ位置については、画像中のユーザ領域の位置と式(1)により算出された距離Dとを基に求めることができる。ユーザ状態検出部32は、このように画面38に対するユーザの相対的な位置を検出し出力する。
 なお、ユーザ状態検出部32は、必ずしもステレオ視差に基づいてユーザ位置を検出する必要はない。例えば、ユーザ状態検出部32は、光波測距(Time of Flight)の原理により得られる距離情報から、ユーザ位置を検出してもよい。この場合、ユーザ検出カメラ102は、光波距離の原理を利用して距離情報を出力する距離画像センサを備え、少なくとも1台設置されればよい。
 また、ユーザ状態検出部32は、画面38の前方の床面に設置された床圧力センサから得られる圧力値を用いて、ユーザ位置を検出してもよい。この場合、ユーザ位置の検出のためにユーザ検出カメラ102を設置する必要はない。
 次に、視線方向の検出について、図11~図15を用いて説明する。
 ユーザ状態検出部32は、以下に説明するように、ユーザの視線方向を検出する。
 図11は、本発明の実施の形態3における視線方向の検出に関する処理の流れを示すフローチャートである。
 図11に示すように、ユーザ状態検出部32は、ユーザの顔向きを検出する処理(S510)の結果と、顔向きに対する相対的な視線方向である相対視線方向を検出する処理(S530)の結果とに基づいて、視線方向を検出する(S550)。
 そこでまず、ユーザの顔向きを検出する処理(S510)について以下に説明する。
 まず、ユーザ状態検出部32は、ユーザ検出カメラ102によって撮影された、画面38の前方に存在するユーザの画像から顔領域の検出を行う(S512)。次に、ユーザ状態検出部32は、検出された顔領域に対し、各基準顔向きに対応した顔部品特徴点の領域を当てはめ、各顔部品特徴点の領域画像を切り出す(S514)。
 そして、ユーザ状態検出部32は、切り出された領域画像と、あらかじめ保持されたテンプレート画像との相関度を計算する(S516)。続いて、ユーザ状態検出部32は、各基準顔向きが示す角度を、計算された相関度に応じて重み付けして加算した重み付け和を求め、これを検出した顔領域に対応するユーザの顔向きとして検出する(S518)。
 以上のように、ユーザ状態検出部32は、ステップS512~ステップS518の処理を実行することにより、ユーザの顔向きを検出する。
 次に、相対視線方向を検出する処理(S530)について説明する。
 まず、ユーザ状態検出部32は、ユーザ検出カメラ102によって撮影された画像を用いて、ユーザの左右の目頭の3次元位置を検出する(S532)。続いて、ユーザ状態検出部32は、ユーザ検出カメラ102によって撮影された画像を用いて、ユーザの左右の黒目中心の3次元位置を検出する(S534)。そして、ユーザ状態検出部32は、左右の目頭の3次元位置から得られる視線方向基準面と左右の黒目中心の3次元位置とを用いて、相対視線方向を検出する(S536)。
 以上のように、ユーザ状態検出部32は、ステップS532~ステップS536の処理を実行することにより、相対視線方向を検出する。
 そして、ユーザ状態検出部32は、上記のように検出された、ユーザの顔向きと相対視線方向とを用いて、ユーザの視線方向を検出する。
 次に、図12~図15を用いて視線方向の検出処理の詳細を説明する。
 図12は、本発明の実施の形態3におけるユーザの顔向きを検出する処理を説明するための図である。
 まず、ユーザ状態検出部32は、図12(a)に示すように、各基準顔向きに対応した顔部品特徴点の領域を記憶している顔部品領域DBから、顔部品特徴点の領域を読み出す。続いて、ユーザ状態検出部32は、図12(b)に示すように、撮影された画像の顔領域に対し顔部品特徴点の領域を基準顔向きごとに当てはめ、顔部品特徴点の領域画像を基準顔向きごとに切り出す。
 そして、ユーザ状態検出部32は、図12(c)に示すように、切り出された領域画像と、顔部品領域テンプレートDBに保持されたテンプレート画像との相関度を基準顔向きごとに計算する。また、ユーザ状態検出部32は、このように計算された相関度が示す相関度合いの高さに応じて、基準顔向きごとの重みを算出する。例えば、ユーザ状態検出部32は、基準顔向きの相関度の総和に対する各基準顔向きの相関度の比を重みとして算出する。
 続いて、ユーザ状態検出部32は、図12(d)に示すように、基準顔向きが示す角度に算出された重みを乗算した値の総和を計算し、計算結果をユーザの顔向きとして検出する。図12(d)の例では、基準顔向き+20度に対する重みが「0.85」、0度に対する重みが「0.14」、-20度に対する重みが「0.01」であるので、ユーザ状態検出部32は、顔向きを16.8度(=20×0.85+0×0.14+(-20)×0.01)と検出する。
 なお、本実施の形態では、ユーザ状態検出部32は、顔部品特徴点の領域画像を対象として相関度を計算したが、必ずしも顔部品特徴点の領域画像を対象とする必要はない。例えば、ユーザ状態検出部32は、顔領域全体の画像を対象として相関度を計算してもよい。
 また、顔向きを検出するその他の方法としては、顔画像から目・鼻・口などの顔部品特徴点を検出し、顔部品特徴点の位置関係から顔向きを計算する方法がある。顔部品特徴点の位置関係から顔向きを計算する方法としては、1つのカメラから得られた顔部品特徴点に最も一致するように、あらかじめ用意した顔部品特徴点の3次元モデルを回転・拡大縮小してマッチングし、得られた3次元モデルの回転量から顔向きを計算する方法がある。また、顔部品特徴点の位置関係から顔向きを計算する他の方法として、2台のカメラにより撮影された画像を基にステレオ視の原理を用いて、左右のカメラにおける顔部品特徴点位置の画像上のずれから各顔部品特徴点の3次元位置を計算し、得られた顔部品特徴点の位置関係から顔向きを計算する方法がある。具体的には例えば、両目及び口の3次元座標点で張られる平面の法線方向を顔向きとして検出する方法などがある。
 次に、相対視線方向を検出する方法について、図13、図14及び図15を用いて説明する。本実施の形態では、ユーザ状態検出部32は、まず視線方向基準面を検出し、次に黒目中心の3次元位置を検出し、最後に相対視線方向を検出する。
 まず、視線方向基準面の検出について説明する。
 図13は、視線方向基準面について説明するための図である。本実施の形態では、ユーザ状態検出部32は、左右の目頭(左目及び右目の鼻側の端点)の3次元位置を検出することにより、視線方向基準面を検出する。
 視線方向基準面は、相対視線方向を検出する際に基準となる面であり、図13に示すように顔の左右対称面と同一である。なお、目頭の位置は、目尻、口角、あるいは眉などの他の顔部品の位置に比べて、表情による変動が少なく、また誤検出が少ない。したがって、本実施の形態では、ユーザ状態検出部32は、顔の左右対称面である視線方向基準面を目頭の3次元位置を用いて検出する。
 具体的には、ユーザ状態検出部32は、2つのユーザ検出カメラ102で同時に撮影された2枚の画像のそれぞれにおいて、顔検出モジュールと顔部品検出モジュールとを用いて、左右の目頭領域を検出する。そして、ユーザ状態検出部32は、検出した目頭領域の画像間の位置のずれ(視差)を利用して、左右の目頭それぞれの3次元位置を検出する。さらに、ユーザ状態検出部32は、図13に示すように、検出した左右の目頭の3次元位置を端点とする線分の垂直二等分面を視線方向基準面として検出する。
 次に、黒目中心の検出に関して説明する。
 図14及び図15は、黒目中心の検出について説明するための図である。
 人は、対象物からの光が瞳孔を通って網膜に届き、電気信号に変換され、その電気信号が脳に伝達されることにより、対象物を視覚的に認識する。したがって、瞳孔の位置を用いれば、視線方向を検出することができる。しかし、日本人の虹彩は、黒又は茶色であるので、画像処理によって瞳孔と虹彩とを判別することが難しい。また、瞳孔の中心と黒目(瞳孔及び虹彩の両方を含む)の中心とは、ほぼ一致する。そこで本実施の形態では、ユーザ状態検出部32は、相対視線方向を検出する際に、黒目中心の検出を行う。
 ユーザ状態検出部32は、まず、撮影された画像から目尻と目頭との位置を検出する。そして、ユーザ状態検出部32は、図14に示すような、目尻と目頭とを含む領域の画像から、輝度が小さい領域を、黒目領域として検出する。具体的には、ユーザ状態検出部32は、例えば、輝度が所定閾値以下なる領域であって、所定の大きさよりも大きい領域を黒目領域として検出する。
 次に、ユーザ状態検出部32は、図15に示すような、第1領域と第2領域とからなる黒目検出フィルタを黒目領域の任意の位置に設定する。そして、ユーザ状態検出部32は、第1領域内の画素の輝度と第2領域内の画素の輝度との領域間分散が最大となるような黒目検出フィルタの位置を探索し、探索結果が示す位置を黒目中心として検出する。ユーザ状態検出部32は、上記と同様に、同時に撮影された2枚の画像における黒目中心の位置のずれを利用して、黒目中心の3次元位置を検出する。
 最後に、相対視線方向の検出について説明する。
 ユーザ状態検出部32は、検出した視線方向基準面と、黒目中心の3次元位置とを用いて、相対視線方向を検出する。成人の眼球直径は、ほとんど個人差がないことが知られており、例えば日本人の場合約24mmである。したがって、基準となる方向(例えば正面)を向いたときの黒目中心の位置が分かっていれば、そこから現在の黒目中心位置までの変位を求めることで視線方向に変換算出することができる。
 従来手法では基準となる方向を向いた時の黒目中心の位置が既知ではないため、キャリブレーションを必要としていた。しかし、本手法では、正面を向いたときは、左右の黒目中心を結んだ線分の中点が、顔の中心、すなわち視線方向基準面上に存在することを利用する。つまり、ユーザ状態検出部32は、左右の黒目中心を結んだ線分の中点と視線方向基準面との距離を算出することにより、相対視線方向を検出する。
 具体的には、ユーザ状態検出部32は、眼球半径Rと左右の黒目中心を結んだ線分の中点と視線方向基準面との距離dとを用いて、式(2)に示すように、顔向きに対する左右方向の回転角θを相対視線方向として検出する。
Figure JPOXMLDOC01-appb-M000002
  
 以上のように、ユーザ状態検出部32は、視線方向基準面と黒目中心の3次元位置とを用いて、相対視線方向を検出する。そして、ユーザ状態検出部32は、検出された顔向きと相対視線方向とを用いて、ユーザの視線方向を検出する。
 最後に、注視点の位置の検出について説明する。
 ユーザ状態検出部32は、上記のように検出されたユーザ位置とユーザの視線方向とを用いて、画面を含む平面上におけるユーザの注視点の位置を検出する。具体的には、ユーザ状態検出部32は、ユーザ位置から視線方向に伸びる直線と画面を含む平面との交点を算出することにより、ユーザの注視点の位置を検出する。
 このように、ユーザ状態検出部32は、ユーザの注視点の位置をユーザ状態として検出するが、さらに、注視点の位置を検出する際に検出したユーザの顔向きをユーザ状態として検出してもよい。またさらに、ユーザ状態検出部32は、ユーザの姿勢をユーザ状態として検出してもよい。
 図9の各ブロックについての説明に戻る。
 集中度推定部33は、ユーザ状態検出部32が検出したユーザ状態を用いて、ユーザ識別部31によって識別された、表示コンテンツの視聴対象であるユーザごとの集中度を推定する。具体的には、集中度推定部33は、例えば、所定時間毎のユーザの顔向きの分布を基にユーザの集中度を算出すればよい。また、集中度推定部33は、所定時間毎のユーザの注視点の分布を基にユーザの集中度を算出してもよい。さらに、集中度推定部33は、ユーザの姿勢を基にユーザの集中度を算出してもよい。
 集中度の算出方法の具体的な方法については、後述する。
 ユーザ情報データベース34は、図16A~図16Cに示す各種情報を格納している。
 図16A~図16Cは、本発明の実施の形態3におけるユーザ情報データベースの一例を示す図である。
 ユーザ情報データベース34は、図16A~図16Cに示す、基本属性情報と身体特徴情報と認知特性情報とを格納している。具体的には、ユーザ情報データベース34は、図16Aに示すように、ユーザを識別するためのIDに対応付けて、例えば氏名、性別、年齢、誕生日、及び続柄などの基本属性情報を格納している。
 さらに、ユーザ情報データベース34は、図16Bに示すように、ユーザを識別するためのIDに対応付けて、立位での身長と目の高さ、座位での身長と目の高さ、利き手、利き目、視力、及び聴力など、ユーザの姿勢別の身体形状及び視聴能力などの身体特徴情報を格納している。
 またさらに、ユーザ情報データベース34は、図16Cに示すように、認知特性情報をユーザごとに格納している。具体的には、ユーザ情報データベース34は、時刻と集中度と有効視野領域情報とを関連付けた認知特性情報をユーザごとに格納している。なお、図16Cに示す認知特性情報では、有効視野領域情報として視野角が格納されている。
 また、ユーザ情報データベース34は、さらに表示コンテンツの内容(地上波放送の5chのドラマ、写真閲覧アプリケーションなど)、及び周囲にいる人の位置関係(「HG003(0.4、0.6)」など)を、集中度と関連付けて格納してもよい。ここで、「HG003(0.4、0.6)」とは、x座標方向に0.4m、y座標方向に0.6m離れた位置に、IDがHG003のユーザが位置することを示す。
 通知ソース106は、通知情報を情報表示装置30に出力する。通知ソース106としては、図8に示すように、冷蔵庫、洗濯機、及び電子レンジといった家庭内ネットワークに接続された家電機器群105、ネットワークカメラ104、並びに携帯電話103などが例として挙げられる。
 図17A~図17Cは、本発明の実施の形態3における通知情報の一例を示す図である。
 通知情報としては、図17Aに示すような通知アイコン、図17Bに示すような通知テキスト、又は図17Cに示すようなサムネイル画像/映像などの画像情報又はテキスト情報が挙げられる。
 以下では、「電子レンジからの調理完了の通知」を通知情報の一例として説明するが、もちろん通知情報はこの例に限られるものではない。機器の状態もしくは作業の進捗状況の通知、電子メールなどの着信、又はスケジュールの通知など、さまざまな情報が通知情報となりえる。
 関連度推定部35は、通知情報と表示コンテンツとの関連度合いを示す関連度rを算出する。関連度の算出方法については、後述する。
 アプリケーション制御部36は、ユーザ識別部31が出力するユーザ識別情報、ユーザ状態検出部32が出力するユーザ状態、集中度推定部33が出力するユーザの集中度を入力情報として用いて、表示制御を行なう。また、アプリケーション制御部36は、これらの入力情報に加えて、ユーザ情報データベース34、通知ソース106、及び関連度推定部35から出力された入力情報を用いて、表示制御を行う。
 画面の描画内容の更新を行う場合は、アプリケーション制御部36は、その描画内容の更新情報を画面描画部37に出力する。画面描画部37は、描画内容を画面38へ提示する。
 図18A及び図18Bは、本発明の実施の形態3における情報表示装置のユースシーンを説明するための図である。
 図18A及び図18Bでは、ユーザが画面38の一部を表示領域とする表示コンテンツ(主コンテンツ)を視聴しているときに、情報表示装置30は、機器から出力された通知情報を示すアイコンを画面上の初期表示位置に面積Sの大きさで表示する。この初期表示位置は、第1ターゲット位置から距離d1だけ離れた位置であり、第2ターゲット位置から距離d2だけ離れた位置である。
 なお、注視点分布中心41は、所定時間毎に検出された複数の注視点からなる注視点分布の中心位置である。また、現在注視点42は、直近に検出されたユーザの注視点の位置である。
 そして、情報表示装置30は、アイコンを、初期表示位置からユーザが視聴する表示コンテンツの表示領域に向かって、速度vで徐々に接近させることで、ユーザに対して必要以上に唐突な印象を与えないように通知情報を表示する。ここで、アイコンが接近するターゲット位置は、第1ターゲット位置と第2ターゲット位置とからなる。
 情報表示装置30は、アイコンを、初期表示位置から、まず第1ターゲット位置に向けて接近させる。そして、アイコンが第1ターゲット位置に到達してもユーザが所定の時間以上継続して当該アイコンに視線を向けなければ、情報表示装置30は、アイコンを第1ターゲット位置から第2ターゲット位置に向けて接近させる。
 第1ターゲット位置は、図18A及び図18Bに示すように、主コンテンツの表示領域の境界から所定の距離Δdだけ離れた位置である。つまり、第1ターゲット位置は、主コンテンツの表示領域外の位置であって、かつ主コンテンツの表示領域の境界近傍の位置である。ここで、所定の距離Δdは、通知情報を示すアイコンの大きさの横幅の半分であることが好ましい。これにより、アイコンが第1ターゲット位置に表示された際に、アイコンが主コンテンツの表示領域内に入ることを防ぐことができる。
 また、第2ターゲット位置は、コンテンツの表示領域内の所定位置、あるいは所定期間内に検出された複数の注視点を代表する位置である。具体的には、第2ターゲット位置は、図18Aに示すように表示コンテンツの表示領域の中心、あるいは、図18Bに示すようにユーザの注視点分布中心41である。
 なお、第2ターゲット位置は、必ずしも表示コンテンツの表示領域の中心、あるいはユーザの注視点分布中心41である必要はない。例えば、第2ターゲット位置は、表示コンテンツの表示領域の一部に表示されている画像の中心であってもよい。また例えば、第2ターゲット位置は、注視点分布の重心であってもよい。
 次に、以上のように構成された情報表示装置30における各種動作について説明する。
 図19は、本発明の実施の形態3における情報表示装置の処理の流れを示すフローチャートである。また、図20は、本発明の実施の形態3における情報表示装置の動作例を説明するための図である。
 図20には、情報表示装置30の前方に、ユーザAとユーザBがおり、表示コンテンツとして、ニュース番組が表示されており、この表示コンテンツの視聴ユーザはユーザAであり、ユーザBは視聴ユーザでない状況を示している。図20(a)に示す状況で、ユーザAがニュース番組を視聴しているときに、図20(b)に示すように、電子レンジからの通知情報を示すアイコンが初期表示位置に表示される。そして、図20(c)に示すように、アイコンが徐々に第1ターゲット位置に接近する。そして、図20(d)に示すように、アイコンにユーザの視線が注がれたときに、例えば、アイコンにリンクされた詳細情報「調理完了しました」が表示される。
 以下、図20に示されるシーンを例に、図19のフローチャートに沿って情報表示装置30の動作を説明する。
 まず、ユーザ識別部31は、ユーザ検出カメラによってユーザの顔が撮影された場合、あらかじめ登録されたユーザ情報データベース34に格納されている身体特徴情報との照合により、ユーザ識別を行う(S301)。そして、ユーザ状態検出部32は、識別された各ユーザに対して、ユーザ位置を検出する(S302)。また、ユーザ状態検出部32は、識別された各ユーザに対して、顔向きと視線方向とを検出する(S303)。さらに、ユーザ状態検出部32は、ユーザ位置と視線方向とに基づいて、現在注視点42を検出し、保持する。
 次に、ユーザ状態検出部32は、表示コンテンツの視聴ユーザを判別する(S304)。例えば、ユーザ状態検出部32は、表示コンテンツから所定の距離内にいるユーザを視聴ユーザとして判別すればよい。なお、ユーザ状態検出部32は、所定の時間継続して画面に視線が向いていないユーザを視聴ユーザではないと判別することが好ましい。図20のシーンでは、ユーザBは画面に視線を向けず遊んでいるので、ユーザBは視聴ユーザではないと判別される。したがって、以後の処理は、視聴ユーザであるユーザAに対して行われる。
 次に、集中度推定部33は、所定時間毎に検出された複数の注視点からなる注視点分布の中心位置(注視点分布中心41)を算出する(S305)。そして、集中度推定部33は、算出した注視点分布中心41と各注視点の位置との距離の分散σを用いて、次式(3)に従って集中度cを算出する(S306)。
Figure JPOXMLDOC01-appb-M000003
  
 なお、集中度cは、その値が大きいほど、ユーザが表示コンテンツに対して集中していることを意味する。
 ここで、集中度推定部33は、許容通知強度Intを次式(4)に従って設定する。許容通知強度とは、通知情報をユーザにどれだけの強度で気づかせるべき状況にあるかを示すものである。許容通知強度が高い場合には、情報表示装置30は、「気づかせる情報通知」を行う必要がある。一方、許容通知強度が低い場合には、情報表示装置30は、「さりげない情報通知」を行うことで、通知情報に対してユーザが唐突な印象をもたずに通知情報に気づくようにする必要がある。
Figure JPOXMLDOC01-appb-M000004
  
 ここで、nは、ゲインである。
 集中度cが大きい、すなわち、ユーザが表示コンテンツに対して集中している場合より、集中度cが小さい、すなわち、ユーザが表示コンテンツに対して集中していない場合の方が、ユーザは、表示コンテンツ以外の情報に気づきやすい状況にある。したがって、集中度cが小さい、すなわち、ユーザが表示コンテンツに対して集中していない場合の方が許容通知強度Intは小さくなる。
 次に、関連度推定部35は、通知情報と表示コンテンツとの関連度rを算出する(S308)。関連度rは0以上1以下の数値とする。主コンテンツがテレビ番組の場合、関連度推定部35は、通知情報が番組内容に関するものであれば、関連度は高くなるように算出し、通知情報が番組内容に関係ないものであれば、関連度は低くなるように算出する。例えば、関連度は、低い場合は0、高い場合は1というように2値で設定されてもよい。
 そして、関連度rがあらかじめ設定された閾値未満であれば(S309のYes)、関連度推定部35は、関連度rの値に応じて許容通知強度を弱める(S310)。また、関連度rがあらかじめ設定された閾値以上であれば(S309のNo)、関連度推定部35は、関連度rの値に応じて許容通知強度を強める(S311)。
 そして、アプリケーション制御部36は、許容通知強度Intを用いて、通知情報の表示パラメータを決定する(S312)。ここでいう表示パラメータとは、通知情報の初期表示位置と、サイズと、第1ターゲット位置又は第2ターゲット位置への接近方法とを示す情報である。アプリケーション制御部36は、関連度が低い場合には、ユーザが通知情報に対して唐突な印象を持たないように、表示パラメータを決定する。
 したがって、通知情報の初期表示位置とターゲット位置との距離diは、次式(5)に従って算出される。
Figure JPOXMLDOC01-appb-M000005
  
 ここで、gdはゲインであり、d0は予め定められた一定値である。
 また、通知情報の移動速度vと通知情報の表示面積Sとは、次式(6)及び(7)に従って算出される。
Figure JPOXMLDOC01-appb-M000006
  
Figure JPOXMLDOC01-appb-M000007
 
 ここで、gv及びgSはゲインであり、v0及びS0は予め定められた一定値である。
 なお、ここでは以下の式(8)~(10)の関係が成り立つ。
Figure JPOXMLDOC01-appb-M000008
Figure JPOXMLDOC01-appb-M000009
  
Figure JPOXMLDOC01-appb-M000010
  
 すなわち、アプリケーション制御部36は、推定された集中度c又は関連度rが小さいほど、検出された注視点の位置により定まる位置から遠くなるように、初期表示位置を決定する。また、アプリケーション制御部36は、推定された集中度c又は関連度rが大きいほど、移動速度vが大きくなるように移動速度vを決定する。また、アプリケーション制御部36は、推定された集中度c又は関連度rが大きいほど、表示領域が大きくなるように表示領域の大きさ(表示面積S)を決定する。
 そして、画面描画部37は、表示パラメータに従って、画面38に通知情報を表示する(S313)。そして、図20(d)に示すように、ユーザが表示した通知情報に注意を向ける、すなわち、所定の時間以上継続して通知情報に視線を向けた場合、画面描画部37は、通知情報の詳細情報を画面38に表示する。つまり、アプリケーション制御部36は、注視点と通知情報の表示位置との距離が閾値未満である状態が所定時間以上継続しているか否かを判定する。そして、画面描画部37は、継続していると判定された場合に通知情報の内容を変更する。すなわち、通知情報は、はじめはアイコンの形態で表示されており、ユーザの注意が向いた後に、アイコンにリンクされた所定の情報を確認可能な形態で表示される。
 図21は、本発明の実施の形態3における情報表示装置の動作例を説明するため図である。具体的には、図21は、ユーザ情報データベースの更新方法を説明するための図である。
 図21(a)に示すように、画面描画部37は、通知情報の表示位置を、ユーザAの注視点分布中心41に向けて移動させる。そして、図21(b)に示すように、アプリケーション制御部36は、通知情報の表示位置にユーザの現在注視点42が移動した時点で、現在注視点42と注視点分布中心41との距離dを算出する。そして、アプリケーション制御部36は、注視点分布中心41を中心とする半径dの円の内部を有効視野領域と推定し、ユーザ情報データベース34に格納された有効視野領域情報を更新する。なお、図21(c)に示すように、ユーザと画面との距離をhと表した場合、アプリケーション制御部36は、視野角kを次式(11)に従って算出する。
Figure JPOXMLDOC01-appb-M000011
  
 そして、アプリケーション制御部36は、図16Cに示すユーザ情報データベース34を更新する。
 以上のように、本実施の形態における情報表示装置30は、実施の形態1又は実施の形態2の情報表示装置10又は20と同様の効果を奏することができる。
 さらに、情報表示装置30は、第1ターゲット位置又は第2ターゲット位置に向けて通知情報の表示位置を移動させることができるので、より唐突な印象を与えずに通知情報をユーザに提示することができる。
 またさらに、情報表示装置30は、ユーザを識別することができるので、ユーザごとに情報が格納されたユーザ情報データベース34を利用して、より高精度に初期表示位置を決定することができる。
 (実施の形態3の変形例1)
 次に、実施の形態3の変形例1について説明する。本変形例において、情報表示装置30は、さらに、通知情報の重要度合いを示す重要度u、又は通知情報の緊急度合いを示す緊急度uを考慮して、表示パラメータを決定する。
 図22Aは、本発明の実施の形態3の変形例1における情報表示装置の機能構成を示すブロック図である。
 図22Aに示すように、本変形例における情報表示装置30は、実施の形態3における情報表示装置が備える構成要素に加えて、さらに、重要度/緊急度取得部39を備える。
 重要度/緊急度取得部39は、通知情報の重要度合いを示す重要度、又は前記通知情報の緊急度合いを示す緊急度を取得する。具体的には、重要度/緊急度取得部39は、例えば、通知情報を出力する通知ソース106から、当該通知情報の重要度又は緊急度を取得する。また例えば、重要度/緊急度取得部39は、通知情報を出力した通知ソース又は通知情報の種別などに対応付けて保持された重要度又は緊急度を読みだすことにより、通知情報の重要度又は緊急度を取得してもよい。
 図22Bは、本発明の実施の形態3の変形例1における情報表示装置の処理の流れを示すフローチャートである。
 図22Bは、図19のフローチャートに、通知情報の重要度あるいは緊急度を取得し、取得した重要度の大きさに応じて、許容通知強度を調整するステップが加わっている。このステップ(図22BのステップS401~S404)を経ることにより、情報表示装置30は、通知情報の重要度あるいは緊急度をふまえた通知制御が可能となる。すなわち、情報表示装置30は、通知情報の重要度あるいは緊急度が高い場合には、許容通知強度を高めることで、主コンテンツに優先して通知情報に気づかせるようにできる。
 なお、通知情報の重要度又は緊急度をuと表現した場合、以下の関係が成り立つ。
Figure JPOXMLDOC01-appb-M000012
  
Figure JPOXMLDOC01-appb-M000013
  
 すなわち、アプリケーション制御部36は、取得された重要度u又は緊急度uが小さいほど、検出された注視点により定まる位置から遠くなるように、初期表示位置を決定する。また、アプリケーション制御部36は、取得された重要度u又は緊急度uが大きいほど、移動速度vが大きくなるように移動速度vを決定する。また、アプリケーション制御部36は、取得された重要度u又は緊急度uが大きいほど、表示領域が大きくなるように表示領域の大きさ(表示面積S)を決定する。
 図23A及び図23Bは、本発明の実施の形態3の変形例1における情報表示装置の動作例を説明する図である。
 図23Aに示すように、通知情報が洗濯機からの作業完了通知である場合、通知情報の緊急度が高くないため、情報表示装置30は、許容通知強度を弱める。そうすることで、通知情報の初期表示位置とターゲット位置との距離が所定の値より長く設定され、「さりげない情報通知」が可能となる。
 一方、図23Bに示すように、通知情報が来客を知らせる通知である場合、通知情報の緊急度が高いため、情報表示装置30は、許容通知強度を強める。そうすることで、通知情報の初期表示位置とターゲット位置との距離が所定の値より短く設定され、「気づかせる情報通知」が可能となる。
 (実施の形態3の変形例2)
 次に、実施の形態3の変形例2について説明する。本変形例では、主コンテンツの表示位置あるいは大きさなどがユーザの動きに応じて変更される場合について説明する。
 図24A~図24Cは、本発明の実施の形態3の変形例2におけるユーザ位置に基づく表示領域の制御方法の概略を説明するための図である。
 アプリケーション制御部36は、ユーザ状態検出部32が検出するユーザ位置に基づいて、例えば当該ユーザに提示すべき主コンテンツの画面上の表示位置を決定する。これにより、図24Aと図24Bに示すように、情報表示装置30は、ユーザが動いても常にユーザから見やすい位置に主コンテンツを提示し続けることが可能となる。
 例えば、図24Aに示すように、アプリケーション制御部36は、ユーザが画面38の前方で移動すれば、ユーザの位置に近い画面上の位置に情報を表示させることができる。また、図24Bに示すように、ユーザが画面38に対して近づく、または遠ざかる場合は、アプリケーション制御部36は、情報の表示サイズを縮小または拡大することにより、ユーザにとって見やすい大きさで表示させることができる。特に、ユーザが画面38に対して近づき、表示されている情報に興味を抱いていると判断されうる場合には、アプリケーション制御部36は、主コンテンツとして表示する情報をより詳細な情報に変更することが好ましい。さらに、図24Cに示すように、アプリケーション制御部36は、ユーザ情報データベース34を参照することにより得られる各ユーザの顔の高さ位置に応じて、各ユーザが見やすい高さに主コンテンツを表示させることができる。
 図25は、本発明の実施の形態3の変形例2における情報表示装置の動作例を説明するための図である。
 この図25では、ユーザが画面の前を通過する際に、主コンテンツの表示位置がユーザ位置に追従する例が示されている。この場合、アプリケーション制御部36は、ユーザが移動するにつれて、通知情報のターゲット位置も移動させる。つまり、アプリケーション制御部36は、主コンテンツの表示位置が移動する場合には、主コンテンツの表示位置の移動に追従して、通知情報のターゲット位置も移動させる。
 以上により、本変形例における情報表示装置30は、主コンテンツの表示位置が変更される場合であっても、ユーザに通知情報が表示されていることを気付かせることができる。
 (実施の形態3の変形例3)
 次に、実施の形態3の変形例3について説明する。本変形例では、複数の視聴ユーザが判別された場合について説明する。
 図26A及び図26Bは、本発明の実施の形態3の変形例3における情報表示装置の動作例を説明するための図である。図26A及び図26Bでは、複数の視聴ユーザが画面38の前方にいる場合が示されている。
 具体的には、図26Aは、ユーザAとユーザBとの各々に対応付けられた表示コンテンツが画面上に表示されている状態を示す図である。また、図26Bは、ユーザAとユーザBとの共通の表示コンテンツが画面上に表示されている状態を示す図である。
 図26Aに示す状態の場合は、情報表示装置30は、ユーザAとユーザBとの各々に対して、図19又は図22Bに示した処理を適用する。
 図26Bに示す状態の場合は、情報表示装置30は、ユーザAとユーザBのうち、集中度の高い方のユーザを選択し、選択したユーザの集中度を基に許容通知強度を算出する。または、情報表示装置30は、ユーザAの集中度とユーザBの集中度との平均値を基に許容通知強度を算出してもよい。
 以上により、本変形例における情報表示装置30は、複数の視聴ユーザが存在する場合であっても、視聴ユーザの集中度に応じて、有効視野領域の外部に位置するように、通知情報の初期表示位置を決定することなどができる。
 (実施の形態3の変形例4)
 次に、実施の形態3の変形例4について説明する。本変形例では、情報表示装置30が、主コンテンツが表示されていない領域の大きさに応じて、通知情報の表示方法を変更することについて説明する。
 図27A~図27Cは、本発明の実施の形態3の変形例4における情報表示装置の動作例を説明するための図である。
 図27A~図27Cにおいて、通知情報の表示に利用できる領域の幅をw1、w2と表し、通知情報の初期表示位置と主コンテンツの表示領域の境界近傍に位置する第1ターゲット位置との距離をd1と表した場合、図27Aは、「幅w1<距離d1、幅w2>距離d1」、図27Bは、「幅w1<距離d1、幅w2>距離d1」、図27Cは、「幅w1、幅w2<距離d1」の状態を示している。
 図27Aのように「幅w1、幅w2>距離d1」の関係が成り立つ場合には、情報表示装置30は、領域Aと領域Bとのどちらに又は両方に通知情報を表示してもよい。しかし、図27Bのように「幅w1<距離d1、幅w2>距離d1」の関係が成り立つ場合には、情報表示装置30は、距離d1よりも長い幅をもつ領域Bで通知情報を表示する。また、図27Cのように、「幅w1、幅w2<距離d1」の場合には、領域A及び領域Bともに幅が距離d1よりも短いため、情報表示装置30は、より幅の長い領域Bに通知情報を表示する。
 (実施の形態3の変形例5)
 次に、実施の形態3の変形例5について説明する。本変形例では、情報表示装置30は、許容通知強度の高さに応じて、表示後の通知情報の表示態様を変化させる。
 図28A及び図28Bは、本発明の実施の形態3の変形例5における情報表示装置の動作例を説明するための図である。
 情報表示装置30は、許容通知強度が閾値より高い場合、図28Aに示すように、通知情報が示す画像の大きさを一定に保ちながらターゲット位置に近づける。一方、情報表示装置30は、許容通知強度が閾値より低い場合、図28Bに示すように、通知情報を徐々に大きくしながらターゲット位置に近づける。
 以上により、本変形例における情報表示装置30は、ユーザの集中度、通知情報と表示コンテンツとの関連度、又は通知情報の重要度もしくは緊急度に基づいて、表示後の通知情報の表示態様を変化させることができるので、よりさりげない印象をユーザに与えることができる。
 (実施の形態3の変形例6)
 次に、実施の形態3の変形例6について説明する。本変形例では、通知情報の表示位置をターゲット位置に移動させた後の動作について説明する。
 図29A、図29B、図30A及び図30Bは、本発明の実施の形態3の変形例6における情報表示装置の動作例を説明するための図である。
 本変形例におけるアプリケーション制御部36は、通知情報がターゲット位置の近傍に表示されている間に、ユーザの注視点と当該ターゲット位置との距離が閾値未満である状態が所定期間以上続いているか否かを判定する。そして、当該状態が所定時間以上続いていないと判定された場合、画面描画部37は、ユーザが通知情報に気付きにくくなるように、通知情報の表示位置及び表示態様の少なくとも一方を変化させる。
 具体的には、例えば、図29Aに示すように、画面描画部37は、通知情報の重要度又は緊急度が高くない場合に、通知情報の表示位置がターゲット位置から所定の範囲内にある状態で所定の時間が経過してもユーザの注意が所定の度合い以上に高まらなければ、通知情報の表示サイズを徐々に小さくしながら非表示にする。また例えば、図29Bに示すように、画面描画部37は、通知情報が有効視界領域から遠ざかるように、通知情報をターゲット位置から徐々に遠ざけてもよい。
 また例えば、図30A及び図30Bに示すように、画面描画部37は、通知情報がターゲット位置に到達してから一定時間を経過しても、ユーザが所定時間以上継続して通知情報に視線を向けなければ、通知情報をターゲット位置から所定の遠ざかる方向に移動させる。
 このように、通知情報が、徐々にユーザの有効視野領域から離れて、注意を引きにくい位置に移動することで、ユーザの表示コンテンツに対する注意を必要以上に妨げないことができる。
 (実施の形態3の変形例7)
 次に、実施の形態3の変形例7について説明する。本変形例では、情報表示装置30が同時に複数の通知情報をユーザに提示する場合について説明する。
 図31A~図31Cは、本発明の実施の形態3の変形例7における情報表示装置の動作例を説明するための図である。
 図31A~図31Cに示すように同時に複数の通知情報をユーザに提示する場合にも、勿論本発明は適用できる。具体的には、例えば、図31A又は図31Bに示すように、情報表示装置30は、複数の通知情報を主コンテンツの表示領域の左右の一方からターゲット位置に接近させる。また例えば、図31Cに示すように、情報表示装置30は、複数の通知情報を主コンテンツの表示領域の左右の両側からターゲット位置に接近させる。
 なお、本変形例においても、情報表示装置30は、各通知情報と表示コンテンツとの関連度に応じて、通知情報の初期表示位置及び速度などの表示パラメータを決定する。
 (実施の形態3の変形例8)
 次に、実施の形態3の変形例8について説明する。本変形例では、主コンテンツが画面の全領域に表示されている場合について説明する。
 図32は、本発明の実施の形態3の変形例8における情報表示装置の動作例を説明するための図である。
 上記実施の形態3では、これまで、主コンテンツが画面の一部領域に表示されている場合について説明したが、図32に示すように主コンテンツが画面全体に表示されている場合にも、勿論本発明は適用できる。本変形例では、図32(a)に示すように、画面全体に複数のオブジェクトが表示されているような主コンテンツを例として説明する。
 図32(a)は、魚が画面上を遊泳している、あるいは壁紙画像が画面全体に表示されているような状況を示す。そこで、図32(b)に示すように、情報表示装置30は、通知情報を初期表示位置に表示し、表示した通知情報をターゲット位置に接近させる。そして、情報表示装置30は、図32(c)に示すようにユーザの注意が通知情報に向いたことを検知した後に、図32(d)に示すように、当該通知情報に予め関連付けられた副コンテンツを画面に表示する。
 なお、情報表示装置30は、ユーザの注意が通知情報に向いたことを検知した後に、通知情報に関連付けられた副コンテンツを画面38に表示するか否かをユーザに問うメニュー画面を表示してもよい。その場合、情報表示装置は、表示したメニュー画面において、リモコンあるいはジェスチャにより、副コンテンツを表示することをユーザに明示的に指定されたときに、図32(d)に示すように副コンテンツを画面38に表示すればよい。
 なお、上記実施の形態3において、第1ターゲット位置は、図18A及び図18Bに示すように、主コンテンツの表示領域の境界から所定の距離Δdだけ離れた位置に設定されていたが、本変形例では、図32に示すように、主コンテンツの表示領域の境界は画面38の枠となり、画面外の位置に設定されてしまう。したがって、主コンテンツが画面全体に表示される場合には、第1ターゲット位置は、ユーザの注視点分布中心41又は主コンテンツの表示領域の中心(画面38の中心)から所定の距離だけ離れた位置に設定されることが好ましい。
 以上、本発明の一態様に係る情報表示装置について、実施の形態及びその変形例に基づいて説明したが、本発明は、これらの実施の形態又はその変形例に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態又はその変形例に施したもの、あるいは異なる実施の形態又はその変形例における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
 例えば、上記実施の形態において、情報表示装置は、プラズマディスプレイパネル又は液晶パネルなどの画面を備えていたが、必ずしも画面を備える必要はない。例えば、情報表示装置は、スクリーン又は壁面などの投影面にコンテンツを投影するプロジェクタなどであってもよい。
 さらに、本発明は、以下のように変形することもできる。
 (1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAM又は前記ハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、各装置は、その機能を達成する。ここで、コンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。なお、各装置は、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどの全てを含むコンピュータシステムに限らず、これらの一部から構成されているコンピュータシステムであってもよい。
 (2)上記の各装置を構成する構成要素の一部又は全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
 なお、ここでは、システムLSIとしたが、集積度の違いにより、IC、LSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
 さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
 (3)上記の各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なICカード又は単体のモジュールから構成されているとしてもよい。前記ICカード又は前記モジュールは、マイクロプロセッサ、ROM、RAM、などから構成されるコンピュータシステムである。前記ICカード又は前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、前記ICカード又は前記モジュールは、その機能を達成する。このICカード又はこのモジュールは、耐タンパ性を有するとしてもよい。
 (4)本発明は、上記に示す情報表示装置が備える特徴的な構成部の動作をステップとする方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
 また、本発明は、前記コンピュータプログラム又は前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD―ROM、MO、DVD、DVD-ROM、DVD-RAM、BD(Blu-ray Disc(登録商標))、半導体メモリなど、に記録したものとしてもよい。また、これらの記録媒体に記録されている前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。
 また、本発明は、前記コンピュータプログラム又は前記デジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
 また、本発明は、マイクロプロセッサとメモリとを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムに従って動作するとしてもよい。
 また、前記プログラム又は前記デジタル信号を前記記録媒体に記録して移送することにより、又は前記プログラム又は前記デジタル信号を前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
 (5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
 本発明の一態様に係る情報表示装置は、ユーザの有効視野領域の外部に通知情報を初期表示することにより、ユーザに唐突な印象を与えずに通知情報に気づかせることができるので、通知情報を表示する情報表示装置、例えば1人以上のユーザに視聴される大画面ディスプレイとして利用することができる。
  10、20、30  情報表示装置
  11、32  ユーザ状態検出部
  12、33  集中度推定部
  13、21、36  アプリケーション制御部
  14、22、37  画面描画部
  23、34  ユーザ情報データベース
  31  ユーザ識別部
  35  関連度推定部
  38  画面
  39  重要度/緊急度取得部
  41  注視点分布中心
  42  現在注視点
 101  アンテナ
 102  ユーザ検出カメラ
 103  携帯電話
 104  ネットワークカメラ
 105  家電機器群
 106  通知ソース
 107  ルータ/ハブ

Claims (20)

  1.  ユーザに通知するための情報である通知情報を画面に表示する情報表示装置であって、
     前記ユーザの物理的な状態を示すユーザ状態を検出するユーザ状態検出部と、
     前記ユーザ状態検出部により検出されたユーザ状態に基づいて、前記画面に対する前記ユーザの集中度合いを示す集中度を推定する集中度推定部と、
     前記ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、前記集中度推定部により推定された集中度に基づいて通知情報の初期表示位置を決定するアプリケーション制御部と、
     前記アプリケーション制御部により決定された初期表示位置に通知情報を表示し、かつ、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる画面描画部とを備える
     情報表示装置。
  2.  前記ユーザ状態検出部は、前記画面を含む平面上における前記ユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記アプリケーション制御部は、前記集中度推定部により推定された集中度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から遠くなるように、前記初期表示位置を決定する
     請求項1に記載の情報表示装置。
  3.  前記アプリケーション制御部は、さらに、前記集中度推定部により推定された集中度が大きいほど移動速度が大きくなるように移動速度を決定し、
     前記画面描画部は、前記アプリケーション制御部により決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項1に記載の情報表示装置。
  4.  前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記画面描画部は、前記ユーザ状態検出部により所定期間内に検出された複数の注視点の位置を代表する位置に向けて通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項1に記載の情報表示装置。
  5.  前記画面描画部は、前記画面に表示されたコンテンツの表示領域内の所定位置に向けて通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項1に記載の情報表示装置。
  6.  前記画面描画部は、前記画面に表示されたコンテンツの表示領域外の位置であって、かつ前記コンテンツの表示領域の境界近傍の位置に向けて、通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項1に記載の情報表示装置。
  7.  前記アプリケーション制御部は、さらに、前記集中度推定部により推定された集中度が大きいほど表示領域が大きくなるように表示領域の大きさを決定し、
     前記画面描画部は、前記アプリケーション制御部により決定された初期表示位置に通知情報を表示する際に、決定された大きさの表示領域に通知情報を表示する
     請求項1に記載の情報表示装置。
  8.  さらに、
     前記画面に表示されたコンテンツと前記通知情報との関連度合いを示す関連度を推定する関連度推定部を備え、
     前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記アプリケーション制御部は、前記関連度推定部により推定された関連度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から初期表示位置が遠くなるように、前記初期表示位置を決定する
     請求項1に記載の情報表示装置。
  9.  前記アプリケーション制御部は、さらに、前記関連度推定部により推定された関連度が大きいほど移動速度が大きくなるように移動速度を決定し、
     前記画面描画部は、決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項8に記載の情報表示装置。
  10.  さらに、
     前記通知情報の重要度合いを示す重要度、又は前記通知情報の緊急度合いを示す緊急度を取得する重要度/緊急度取得部を備え、
     前記アプリケーション制御部は、前記重要度/緊急度取得部により取得された重要度又は緊急度が小さいほど、前記ユーザ状態検出部により検出された注視点の位置により定まる位置から初期表示位置が遠くなるように、前記初期表示位置を決定する
     請求項1に記載の情報表示装置。
  11.  前記アプリケーション制御部は、さらに、前記重要度/緊急度取得部により取得された重要度又は緊急度が大きいほど移動速度が大きくなるように移動速度を決定し、
     前記画面描画部は、決定された移動速度で通知情報の表示位置を移動させることにより、通知情報の表示位置を変化させる
     請求項10に記載の情報表示装置。
  12.  前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記集中度推定部は、前記ユーザ状態検出部により所定期間内に検出された複数の注視点からなる注視点分布に基づいて、前記集中度を推定する
     請求項1に記載の情報表示装置。
  13.  前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記集中度推定部は、前記ユーザ状態検出部により検出された注視点の移動量に基づいて、前記集中度を推定する
     請求項1に記載の情報表示装置。
  14.  前記ユーザ状態検出部は、ユーザの顔向きを前記ユーザ状態として検出し、
     前記集中度推定部は、前記ユーザ状態検出部により所定期間内に検出された複数の顔向きからなる顔向き分布に基づいて、前記集中度を推定する
     請求項1に記載の情報表示装置。
  15.  前記ユーザ状態検出部は、ユーザの姿勢を前記ユーザ状態として検出し、
     前記集中度推定部は、前記ユーザ状態検出部により検出された姿勢に基づいて、前記集中度を推定する
     請求項1に記載の情報表示装置。
  16.  さらに、
     集中度と有効視野領域の大きさを示す有効視野領域情報とを対応付けて格納しているユーザ情報データベースとを備え、
     前記ユーザ状態検出部は、前記画面を含む平面上におけるユーザの注視点の位置を、前記ユーザ状態として検出し、
     前記アプリケーション制御部は、前記ユーザ情報データベースを参照することにより、前記集中度推定部により推定された集中度に対応する有効視野領域情報を取得し、取得した有効視野領域情報と、前記ユーザ状態検出部により検出された注視点とを用いて推定される有効視野領域の外部に前記初期表示位置を決定する
     請求項1に記載の情報表示装置。
  17.  前記アプリケーション制御部は、さらに、前記画面描画部によって通知情報の表示位置が変化させられている間に、通知情報の表示位置とユーザの注視点の位置との距離が閾値未満であるか否かを判定し、距離が閾値未満であると判定された場合に、当該表示位置を用いて、前記ユーザ情報データベースに格納された有効視野領域情報を更新する
     請求項16に記載の情報表示装置。
  18.  さらに、
     前記画面の前方にいるユーザを識別するユーザ識別部を備え、
     前記ユーザ情報データベースは、ユーザごとに、集中度と有効視野領域の大きさを示す有効視野領域情報とを対応付けて格納し、
     前記アプリケーション制御部は、前記ユーザ識別部により識別されたユーザに対応する有効視野領域情報を取得する
     請求項17に記載の情報表示装置。
  19.  ユーザに通知するための情報である通知情報を画面に表示する情報表示方法であって、
     ユーザの物理的な状態を示すユーザ状態を検出するユーザ状態検出ステップと、
     前記ユーザ状態検出ステップにおいて検出されたユーザ状態に基づいて、前記画面に対するユーザの集中度合いを示す集中度を推定する集中度推定ステップと、
     前記ユーザによって視認される領域である有効視野領域の外部に初期表示位置が位置するように、前記集中度推定ステップにおいて推定された集中度に基づいて通知情報の初期表示位置を決定するアプリケーション制御ステップと、
     前記アプリケーション制御ステップにおいて決定された初期表示位置に通知情報を表示し、かつ、表示後の通知情報の表示位置及び表示態様の少なくとも一方を変化させる画面描画部とを含む
     情報表示方法。
  20.  請求項19に記載の情報表示方法をコンピュータに実行させるためのプログラム。
PCT/JP2010/000595 2009-02-05 2010-02-02 情報表示装置及び情報表示方法 WO2010089989A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP10738331.7A EP2395420B1 (en) 2009-02-05 2010-02-02 Information display device and information display method
US13/143,861 US20110267374A1 (en) 2009-02-05 2010-02-02 Information display apparatus and information display method
JP2010549388A JP5286371B2 (ja) 2009-02-05 2010-02-02 情報表示装置及び情報表示方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009-024662 2009-02-05
JP2009024662 2009-02-05

Publications (1)

Publication Number Publication Date
WO2010089989A1 true WO2010089989A1 (ja) 2010-08-12

Family

ID=42541900

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/000595 WO2010089989A1 (ja) 2009-02-05 2010-02-02 情報表示装置及び情報表示方法

Country Status (4)

Country Link
US (1) US20110267374A1 (ja)
EP (1) EP2395420B1 (ja)
JP (1) JP5286371B2 (ja)
WO (1) WO2010089989A1 (ja)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012114557A (ja) * 2010-11-22 2012-06-14 Nec Saitama Ltd 表示装置、表示制御方法、プログラム及び電子機器
JP2013073529A (ja) * 2011-09-28 2013-04-22 Kyocera Corp 装置、方法、及びプログラム
WO2013057878A1 (ja) * 2011-10-19 2013-04-25 パナソニック株式会社 表示制御装置、集積回路、表示制御方法およびプログラム
WO2015029554A1 (ja) * 2013-09-02 2015-03-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP5686169B1 (ja) * 2013-09-30 2015-03-18 沖電気工業株式会社 表示制御装置、表示制御方法およびプログラム
JP2015514254A (ja) * 2012-04-27 2015-05-18 ヒューレット−パッカード デベロップメント カンパニー エル.ピー.Hewlett‐Packard Development Company, L.P. ユーザからのオーディオ入力
JP2015109104A (ja) * 2015-01-23 2015-06-11 沖電気工業株式会社 表示制御装置、表示制御方法およびプログラム
JP2015132786A (ja) * 2014-01-16 2015-07-23 コニカミノルタ株式会社 眼鏡型表示装置
JP2015228214A (ja) * 2014-05-30 2015-12-17 イマージョン コーポレーションImmersion Corporation 触覚通知マネージャ
JP2016012377A (ja) * 2015-10-22 2016-01-21 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2016091263A (ja) * 2014-11-04 2016-05-23 三菱電機インフォメーションシステムズ株式会社 制御装置及び制御プログラム
CN106125921A (zh) * 2011-02-09 2016-11-16 苹果公司 3d映射环境中的凝视检测
JP2016212174A (ja) * 2015-05-01 2016-12-15 パラマウントベッド株式会社 画像表示制御装置、画像表示システム及びプログラム
JP2017054201A (ja) * 2015-09-07 2017-03-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
US10152953B2 (en) 2011-06-03 2018-12-11 Sony Corporation Information processing apparatus and information processing method
WO2019235135A1 (ja) * 2018-06-07 2019-12-12 ソニー株式会社 タスク対応情報の表示位置を変更する情報処理装置
JP2020149336A (ja) * 2019-03-13 2020-09-17 株式会社リコー 情報処理装置、表示制御方法、及びプログラム
JPWO2020189030A1 (ja) * 2019-03-20 2020-09-24
JP2021026204A (ja) * 2019-08-07 2021-02-22 伊藤組土建株式会社 個人宛情報表示装置、個人宛情報表示システムおよび個人宛情報表示プログラム
US11960647B2 (en) 2020-04-24 2024-04-16 Sharp Nec Display Solutions, Ltd. Content display device, content display method, and storage medium using gazing point identification based on line-of-sight direction detection
JP7519253B2 (ja) 2020-10-02 2024-07-19 東芝ライフスタイル株式会社 家電システム

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6055421B2 (ja) 2011-12-28 2016-12-27 サターン ライセンシング エルエルシーSaturn Licensing LLC 表示装置、表示制御方法、携帯端末装置、およびプログラム
WO2013099632A1 (ja) 2011-12-28 2013-07-04 ソニー株式会社 表示装置、表示制御方法、およびプログラム
JP6225029B2 (ja) * 2011-12-28 2017-11-01 サターン ライセンシング エルエルシーSaturn Licensing LLC 表示装置、表示制御方法、およびプログラム
US20130205314A1 (en) * 2012-02-07 2013-08-08 Arun Ramaswamy Methods and apparatus to select media based on engagement levels
KR101922589B1 (ko) 2012-02-15 2018-11-27 삼성전자주식회사 디스플레이장치 및 그 시선추적방법
CN104246682B (zh) 2012-03-26 2017-08-25 苹果公司 增强的虚拟触摸板和触摸屏
JP2013219556A (ja) * 2012-04-09 2013-10-24 Olympus Imaging Corp 撮像装置
KR20130134785A (ko) * 2012-05-31 2013-12-10 엘지전자 주식회사 유저 입력 리스폰스 출력 방법 및 이를 위한 홈 디바이스
US9310611B2 (en) * 2012-09-18 2016-04-12 Qualcomm Incorporated Methods and systems for making the use of head-mounted displays less obvious to non-users
US9400551B2 (en) * 2012-09-28 2016-07-26 Nokia Technologies Oy Presentation of a notification based on a user's susceptibility and desired intrusiveness
KR102111457B1 (ko) * 2013-05-15 2020-05-15 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP6318470B2 (ja) * 2013-05-15 2018-05-09 ソニー株式会社 表示制御装置、表示制御方法および記録媒体
US9661230B2 (en) * 2013-07-05 2017-05-23 Lg Electronics Inc. Image display apparatus and method of operating the image display apparatus
JP2015087824A (ja) * 2013-10-28 2015-05-07 オムロン株式会社 画面操作装置および画面操作方法
KR102163850B1 (ko) * 2014-01-29 2020-10-12 삼성전자 주식회사 디스플레이장치 및 그 제어방법
DE102014005759A1 (de) * 2014-04-17 2015-10-22 Audi Ag Displaysteuerung, Anzeigevorrichtung, Fahrzeug und Anzeigeverfahren zum Darstellen von Bildinformation
US20150348513A1 (en) * 2014-05-27 2015-12-03 Lenovo (Singapore) Pte. Ltd. Gaze based notification placement
JP6990962B2 (ja) * 2014-06-09 2022-01-12 雅人 桑原 情報処理装置
US20160034121A1 (en) * 2014-07-30 2016-02-04 Wal-Mart Stores, Inc. Method and Apparatus for Automatically Displaying Multiple Presentations for Multiple Users
US9922403B2 (en) * 2015-01-09 2018-03-20 Panasonic Intellectual Property Management Co., Ltd. Display control apparatus, projection apparatus, display control method, and non-transitory computer readable medium
US20160342327A1 (en) * 2015-05-22 2016-11-24 Lg Electronics Inc. Watch-type mobile terminal and method of controlling therefor
KR101697286B1 (ko) * 2015-11-09 2017-01-18 경북대학교 산학협력단 사용자 스타일링을 위한 증강현실 제공 장치 및 방법
JP6841241B2 (ja) * 2016-02-08 2021-03-10 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US10515121B1 (en) * 2016-04-12 2019-12-24 Tableau Software, Inc. Systems and methods of using natural language processing for visual analysis of a data set
GB2564610A (en) 2016-04-15 2019-01-16 Walmart Apollo Llc Systems and methods for providing content-based product recommendations
CA3020974A1 (en) 2016-04-15 2017-10-19 Walmart Apollo, Llc Partiality vector refinement systems and methods through sample probing
EP3451135A4 (en) * 2016-04-26 2019-04-24 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM
KR20190020779A (ko) * 2016-06-23 2019-03-04 가부시키가이샤 가이아 시스템 솔루션 인게이지먼트값 처리 시스템 및 인게이지먼트값 처리 장치
US10373464B2 (en) 2016-07-07 2019-08-06 Walmart Apollo, Llc Apparatus and method for updating partiality vectors based on monitoring of person and his or her home
JP6851745B2 (ja) * 2016-08-04 2021-03-31 富士通株式会社 画像制御方法、装置、及びプログラム
CN106650661A (zh) * 2016-12-21 2017-05-10 奇酷互联网络科技(深圳)有限公司 一种终端使用状态的检测方法和装置
US11082383B2 (en) 2018-03-13 2021-08-03 ROVl GUIDES, INC. Systems and methods for displaying a notification at an area on a display screen that is within a line of sight of a subset of audience members to whom the notification pertains
GB2576904B (en) * 2018-09-06 2021-10-20 Sony Interactive Entertainment Inc Content modification system and method
GB2576910B (en) * 2018-09-06 2021-10-20 Sony Interactive Entertainment Inc User profile generating system and method
WO2020076300A1 (en) 2018-10-09 2020-04-16 Hewlett-Packard Development Company, L.P. Selecting a display with machine learning
GB2596541B (en) * 2020-06-30 2023-09-13 Sony Interactive Entertainment Inc Video processing
CN112506345B (zh) * 2020-12-10 2024-04-16 北京达佳互联信息技术有限公司 一种页面显示方法、装置、电子设备及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000250677A (ja) * 1999-03-02 2000-09-14 Toshiba Corp マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法
JP2002229918A (ja) * 2000-12-22 2002-08-16 Xerox Corp 電子掲示板システム
JP2004220179A (ja) * 2003-01-10 2004-08-05 Toshiba Corp 画像生成装置、画像生成方法、及び画像生成プログラム
JP2005157134A (ja) * 2003-11-27 2005-06-16 Nippon Telegr & Teleph Corp <Ntt> 情報出力方法及び装置及びプログラム及び情報出力プログラムを格納したコンピュータ読み取り可能な記憶媒体
JP2005227522A (ja) * 2004-02-13 2005-08-25 Hitachi Ltd 情報表示装置
JP2006178842A (ja) * 2004-12-24 2006-07-06 Matsushita Electric Ind Co Ltd 情報提示装置
JP2007133305A (ja) * 2005-11-14 2007-05-31 Nippon Telegr & Teleph Corp <Ntt> 情報表示制御装置および情報表示制御方法
WO2008012716A2 (en) * 2006-07-28 2008-01-31 Koninklijke Philips Electronics N. V. Private screens self distributing along the shop window

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3058004B2 (ja) * 1994-03-23 2000-07-04 キヤノン株式会社 目視制御画像表示装置
JPH09293147A (ja) * 1996-04-24 1997-11-11 Canon Inc 視線検出を用いた画像処理装置
US7743340B2 (en) * 2000-03-16 2010-06-22 Microsoft Corporation Positioning and rendering notification heralds based on user's focus of attention and activity
US20020044152A1 (en) * 2000-10-16 2002-04-18 Abbott Kenneth H. Dynamic integration of computer generated and real world images
US20020113872A1 (en) * 2001-02-16 2002-08-22 Naoto Kinjo Information transmitting system
US8292433B2 (en) * 2003-03-21 2012-10-23 Queen's University At Kingston Method and apparatus for communication between humans and devices
JP2005315802A (ja) * 2004-04-30 2005-11-10 Olympus Corp ユーザ支援装置
US8232962B2 (en) * 2004-06-21 2012-07-31 Trading Technologies International, Inc. System and method for display management based on user attention inputs
US9710961B2 (en) * 2009-09-17 2017-07-18 Nokia Technologies Oy Method and apparatus for providing contextual rendering of a map

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000250677A (ja) * 1999-03-02 2000-09-14 Toshiba Corp マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法
JP2002229918A (ja) * 2000-12-22 2002-08-16 Xerox Corp 電子掲示板システム
JP2004220179A (ja) * 2003-01-10 2004-08-05 Toshiba Corp 画像生成装置、画像生成方法、及び画像生成プログラム
JP2005157134A (ja) * 2003-11-27 2005-06-16 Nippon Telegr & Teleph Corp <Ntt> 情報出力方法及び装置及びプログラム及び情報出力プログラムを格納したコンピュータ読み取り可能な記憶媒体
JP2005227522A (ja) * 2004-02-13 2005-08-25 Hitachi Ltd 情報表示装置
JP2006178842A (ja) * 2004-12-24 2006-07-06 Matsushita Electric Ind Co Ltd 情報提示装置
JP2007133305A (ja) * 2005-11-14 2007-05-31 Nippon Telegr & Teleph Corp <Ntt> 情報表示制御装置および情報表示制御方法
WO2008012716A2 (en) * 2006-07-28 2008-01-31 Koninklijke Philips Electronics N. V. Private screens self distributing along the shop window

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012114557A (ja) * 2010-11-22 2012-06-14 Nec Saitama Ltd 表示装置、表示制御方法、プログラム及び電子機器
CN106125921B (zh) * 2011-02-09 2019-01-15 苹果公司 3d映射环境中的凝视检测
EP2672880A4 (en) * 2011-02-09 2017-09-13 Apple Inc. Gaze detection in a 3d mapping environment
CN106125921A (zh) * 2011-02-09 2016-11-16 苹果公司 3d映射环境中的凝视检测
US10152953B2 (en) 2011-06-03 2018-12-11 Sony Corporation Information processing apparatus and information processing method
US10176787B2 (en) 2011-06-03 2019-01-08 Sony Corporation Information processing apparatus and information processing method for occlusion avoidance in tabletop displays
JP2013073529A (ja) * 2011-09-28 2013-04-22 Kyocera Corp 装置、方法、及びプログラム
WO2013057878A1 (ja) * 2011-10-19 2013-04-25 パナソニック株式会社 表示制御装置、集積回路、表示制御方法およびプログラム
JPWO2013057878A1 (ja) * 2011-10-19 2015-04-02 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 表示制御装置、集積回路、表示制御方法およびプログラム
JP2015514254A (ja) * 2012-04-27 2015-05-18 ヒューレット−パッカード デベロップメント カンパニー エル.ピー.Hewlett‐Packard Development Company, L.P. ユーザからのオーディオ入力
US9626150B2 (en) 2012-04-27 2017-04-18 Hewlett-Packard Development Company, L.P. Audio input from user
US10379610B2 (en) 2013-09-02 2019-08-13 Sony Corporation Information processing device and information processing method
WO2015029554A1 (ja) * 2013-09-02 2015-03-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JPWO2015029554A1 (ja) * 2013-09-02 2017-03-02 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP5686169B1 (ja) * 2013-09-30 2015-03-18 沖電気工業株式会社 表示制御装置、表示制御方法およびプログラム
JP2015132786A (ja) * 2014-01-16 2015-07-23 コニカミノルタ株式会社 眼鏡型表示装置
US10365878B2 (en) 2014-05-30 2019-07-30 Immersion Corporation Haptic notification manager
JP2015228214A (ja) * 2014-05-30 2015-12-17 イマージョン コーポレーションImmersion Corporation 触覚通知マネージャ
JP2016091263A (ja) * 2014-11-04 2016-05-23 三菱電機インフォメーションシステムズ株式会社 制御装置及び制御プログラム
JP2015109104A (ja) * 2015-01-23 2015-06-11 沖電気工業株式会社 表示制御装置、表示制御方法およびプログラム
JP2016212174A (ja) * 2015-05-01 2016-12-15 パラマウントベッド株式会社 画像表示制御装置、画像表示システム及びプログラム
US10627628B2 (en) 2015-09-07 2020-04-21 Sony Interactive Entertainment Inc. Information processing apparatus and image generating method
JP2017054201A (ja) * 2015-09-07 2017-03-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
JP2016012377A (ja) * 2015-10-22 2016-01-21 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
WO2019235135A1 (ja) * 2018-06-07 2019-12-12 ソニー株式会社 タスク対応情報の表示位置を変更する情報処理装置
JP2020149336A (ja) * 2019-03-13 2020-09-17 株式会社リコー 情報処理装置、表示制御方法、及びプログラム
JP7215254B2 (ja) 2019-03-13 2023-01-31 株式会社リコー 情報処理装置、表示制御方法、及びプログラム
JP2023033559A (ja) * 2019-03-13 2023-03-10 株式会社リコー 情報処理装置、表示制御方法、及びプログラム
JPWO2020189030A1 (ja) * 2019-03-20 2020-09-24
WO2020189030A1 (ja) * 2019-03-20 2020-09-24 株式会社Nttドコモ 情報生成装置、及び制御システム
JP7291779B2 (ja) 2019-03-20 2023-06-15 株式会社Nttドコモ 情報生成装置、及び制御システム
JP2021026204A (ja) * 2019-08-07 2021-02-22 伊藤組土建株式会社 個人宛情報表示装置、個人宛情報表示システムおよび個人宛情報表示プログラム
US11960647B2 (en) 2020-04-24 2024-04-16 Sharp Nec Display Solutions, Ltd. Content display device, content display method, and storage medium using gazing point identification based on line-of-sight direction detection
JP7519253B2 (ja) 2020-10-02 2024-07-19 東芝ライフスタイル株式会社 家電システム

Also Published As

Publication number Publication date
JPWO2010089989A1 (ja) 2012-08-09
EP2395420A1 (en) 2011-12-14
US20110267374A1 (en) 2011-11-03
JP5286371B2 (ja) 2013-09-11
EP2395420A4 (en) 2014-12-03
EP2395420B1 (en) 2018-07-11

Similar Documents

Publication Publication Date Title
JP5286371B2 (ja) 情報表示装置及び情報表示方法
JP5602155B2 (ja) ユーザインタフェース装置および入力方法
JP5869558B2 (ja) 表示制御装置、集積回路、表示制御方法およびプログラム
JP5518713B2 (ja) 情報表示装置及び情報表示方法
CN111886564B (zh) 信息处理装置、信息处理方法和程序
JP6886117B2 (ja) 1つの表示装置に表示された画像の画質の制御方法
JP5260643B2 (ja) ユーザインターフェース装置、ユーザインターフェース方法、及び記録媒体
WO2013018267A1 (ja) 提示制御装置、及び提示制御方法
WO2017113668A1 (zh) 一种根据眼部动作对终端进行控制的方法及装置
US20120133754A1 (en) Gaze tracking system and method for controlling internet protocol tv at a distance
JP2007220004A (ja) テレビおよび認証装置
JP2009087026A (ja) 映像表示装置
JPWO2018025458A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2011166305A (ja) 画像処理装置および撮像装置
JP6241107B2 (ja) 視線方向検出装置および視線方向検出方法
CN107430841B (zh) 信息处理设备、信息处理方法、程序以及图像显示系统
CN114740966A (zh) 多模态图像显示控制方法、系统及计算机设备
KR101889463B1 (ko) 사용자 단말의 화면 표시 제어 방법 및 이를 이용한 사용자 단말
JP2016192096A (ja) 物体認識選択装置、物体認識選択方法及びプログラム
JP2018181339A (ja) システム、情報処理方法及びプログラム
JP2013061988A (ja) 表示制御装置、表示制御方法および表示制御プログラム
US20230308613A1 (en) Display device and method for controlling display device
WO2022091589A1 (ja) 情報処理装置、情報処理方法、およびプログラム
CN118764596A (zh) 投影方法、装置、设备及其存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10738331

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2010549388

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 13143861

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2010738331

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE