WO2021006366A1 - 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법 - Google Patents

디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법 Download PDF

Info

Publication number
WO2021006366A1
WO2021006366A1 PCT/KR2019/008317 KR2019008317W WO2021006366A1 WO 2021006366 A1 WO2021006366 A1 WO 2021006366A1 KR 2019008317 W KR2019008317 W KR 2019008317W WO 2021006366 A1 WO2021006366 A1 WO 2021006366A1
Authority
WO
WIPO (PCT)
Prior art keywords
display panel
image
color
processor
artificial intelligence
Prior art date
Application number
PCT/KR2019/008317
Other languages
English (en)
French (fr)
Inventor
맹지찬
김범오
김태현
신원호
채종훈
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US16/493,692 priority Critical patent/US11227412B2/en
Priority to PCT/KR2019/008317 priority patent/WO2021006366A1/ko
Priority to KR1020190099920A priority patent/KR20190102152A/ko
Publication of WO2021006366A1 publication Critical patent/WO2021006366A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2003—Display of colours
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/90—Determination of colour characteristics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1446—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display display composed of modules, e.g. video walls
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2300/00—Aspects of the constitution of display devices
    • G09G2300/02—Composition of display devices
    • G09G2300/026—Video wall, i.e. juxtaposition of a plurality of screens to create a display screen of bigger dimensions
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/02—Improving the quality of display appearance
    • G09G2320/0242—Compensation of deficiencies in the appearance of colours
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/06—Adjustment of display parameters
    • G09G2320/0686—Adjustment of display parameters with two or more screen areas displaying information with different brightness or colours
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/06—Adjustment of display parameters
    • G09G2320/0693—Calibration of display systems
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/03—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes specially adapted for displays having non-planar surfaces, e.g. curved displays
    • G09G3/035—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes specially adapted for displays having non-planar surfaces, e.g. curved displays for flexible display surfaces

Definitions

  • the present invention relates to an artificial intelligence device and method for adjusting the color of a display panel. Specifically, the present invention captures an image output from a display panel and adjusts the color of a display panel in order to eliminate color distortion between a plurality of display panels or between display elements inside a single display, and It's about how.
  • display devices are implemented with various devices such as digital signage or outdoor signage, as well as TVs and monitors, and the range of use is explosively increasing.
  • a situation in which one large display is formed by connecting a plurality of display panels is also increasing.
  • An object of the present invention is to provide an artificial intelligence device and method for adjusting the color of a display panel so that color distortion does not occur in an image output from a display panel observed by a user.
  • the present invention provides an artificial intelligence apparatus and method for adjusting the color of a display panel such that color distortion between a plurality of display panels or color distortion between display elements of a single display panel does not occur.
  • An embodiment of the present invention outputs a color adjustment image to a display panel, receives a photographed image for the display panel through a camera, and calculates a color offset for the display panel for each preset unit based on the reference image and the photographed image.
  • the present invention provides an artificial intelligence apparatus and method for adjusting the color of the display panel by determining an output color adjustment value for the display panel using the color offset and transmitting the output color adjustment value to the display panel.
  • an embodiment of the present invention is an artificial image that converts a captured image into a standardized image corresponding to standard context information by using context information corresponding to the shooting time of the captured image, and calculates a color offset using the standardized image.
  • an intelligent device and method thereof is an intelligent device and method thereof.
  • a user may observe an image output from a display panel without color distortion.
  • the display panel can be automatically adjusted without a user's intervention, the cost and effort of maintenance for display devices are reduced.
  • FIG 2 shows an AI server 200 according to an embodiment of the present invention.
  • FIG 3 shows an AI system 1 according to an embodiment of the present invention.
  • FIG 4 shows an AI device 100 according to an embodiment of the present invention.
  • FIG. 5 is a diagram showing an AI system 1 according to an embodiment of the present invention.
  • FIG. 6 is a flowchart illustrating a method of adjusting a color of a display panel according to an exemplary embodiment of the present invention.
  • FIG. 7 is an operation flowchart showing an example of the step (S603) of acquiring the captured image shown in FIG. 6.
  • FIG. 8 is a diagram illustrating an image conversion model according to an embodiment of the present invention.
  • FIG. 9 is a flowchart illustrating an example of a step (S605) of converting a region corresponding to a display panel into a rectangular shape in the captured image shown in FIG. 6.
  • FIG. 11 is a diagram illustrating a method of correcting a color of a display panel according to an embodiment of the present invention.
  • FIG. 12 is a diagram illustrating a method of determining an area where color distortion occurs according to an embodiment of the present invention.
  • FIG. 13 is a flowchart illustrating a method of adjusting an output position of a display panel according to an embodiment of the present invention.
  • FIG. 14 is a diagram illustrating distortion of an output position for a display panel according to an exemplary embodiment of the present invention.
  • 15 is a diagram illustrating a method of removing distortion of an output position of a display panel according to an embodiment of the present invention.
  • 16 is a diagram illustrating a method of determining an area where output position distortion occurs according to an embodiment of the present invention.
  • Machine learning refers to the field of researching methodologies to define and solve various problems dealt with in the field of artificial intelligence. do.
  • Machine learning is also defined as an algorithm that improves the performance of a task through continuous experience.
  • An artificial neural network is a model used in machine learning, and may refer to an overall model with problem-solving capabilities, composed of artificial neurons (nodes) that form a network by combining synapses.
  • the artificial neural network may be defined by a connection pattern between neurons of different layers, a learning process for updating model parameters, and an activation function for generating an output value.
  • the artificial neural network may include an input layer, an output layer, and optionally one or more hidden layers. Each layer includes one or more neurons, and the artificial neural network may include neurons and synapses connecting neurons. In an artificial neural network, each neuron can output a function of an activation function for input signals, weights, and biases input through synapses.
  • Model parameters refer to parameters determined through learning, and include weights of synaptic connections and biases of neurons.
  • hyperparameters refer to parameters that must be set before learning in a machine learning algorithm, and include a learning rate, iteration count, mini-batch size, and initialization function.
  • the purpose of learning artificial neural networks can be seen as determining model parameters that minimize the loss function.
  • the loss function can be used as an index to determine an optimal model parameter in the learning process of the artificial neural network.
  • Machine learning can be classified into supervised learning, unsupervised learning, and reinforcement learning according to the learning method.
  • machine learning implemented as a deep neural network (DNN) including a plurality of hidden layers is sometimes referred to as deep learning (deep learning), and deep learning is a part of machine learning.
  • DNN deep neural network
  • machine learning is used in the sense including deep learning.
  • Robots can be classified into industrial, medical, household, military, etc. depending on the purpose or field of use.
  • the robot may be provided with a driving unit including an actuator or a motor to perform various physical operations such as moving a robot joint.
  • a driving unit including an actuator or a motor to perform various physical operations such as moving a robot joint.
  • the movable robot includes a wheel, a brake, a propeller, etc. in a driving unit, and can travel on the ground or fly in the air through the driving unit.
  • a technology that maintains a driving lane a technology that automatically adjusts the speed such as adaptive cruise control, a technology that automatically drives along a specified route, and a technology that automatically sets a route when a destination is set, etc. All of these can be included.
  • the vehicle includes all of a vehicle having only an internal combustion engine, a hybrid vehicle including an internal combustion engine and an electric motor, and an electric vehicle including only an electric motor, and may include not only automobiles, but also trains and motorcycles.
  • the autonomous vehicle can be viewed as a robot having an autonomous driving function.
  • the extended reality collectively refers to Virtual Reality (VR), Augmented Reality (AR), and Mixed Reality (MR).
  • VR technology provides only CG images of real world objects or backgrounds
  • AR technology provides virtually created CG images on top of real object images
  • MR technology is a computer that mixes and combines virtual objects in the real world. It is a graphic technology.
  • XR technology can be applied to HMD (Head-Mount Display), HUD (Head-Up Display), mobile phones, tablet PCs, laptops, desktops, TVs, digital signage, etc., and devices applied with XR technology are XR devices. It can be called as.
  • HMD Head-Mount Display
  • HUD Head-Up Display
  • mobile phones tablet PCs, laptops, desktops, TVs, digital signage, etc.
  • devices applied with XR technology are XR devices. It can be called as.
  • FIG 1 shows an AI device 100 according to an embodiment of the present invention.
  • the AI device 100 includes a TV, projector, mobile phone, smartphone, desktop computer, notebook, digital broadcasting terminal, personal digital assistants (PDA), portable multimedia player (PMP), navigation, tablet PC, wearable device, set-top box (STB). ), a DMB receiver, a radio, a washing machine, a refrigerator, a desktop computer, a digital signage, a robot, a vehicle, and the like.
  • PDA personal digital assistants
  • PMP portable multimedia player
  • STB set-top box
  • DMB receiver a radio, a washing machine, a refrigerator, a desktop computer, a digital signage, a robot, a vehicle, and the like.
  • the terminal 100 includes a communication unit 110, an input unit 120, a running processor 130, a sensing unit 140, an output unit 150, a memory 170, and a processor 180.
  • the communication unit 110 may transmit and receive data with external devices such as other AI devices 100a to 100e or the AI server 200 using wired/wireless communication technology.
  • the communication unit 110 may transmit and receive sensor information, a user input, a learning model, and a control signal with external devices.
  • the input unit 120 may include a camera for inputting an image signal, a microphone for receiving an audio signal, a user input unit for receiving information from a user, and the like.
  • a camera or microphone for treating a camera or microphone as a sensor, a signal obtained from the camera or microphone may be referred to as sensing data or sensor information.
  • the learning processor 130 may include a memory integrated or implemented in the AI device 100.
  • the learning processor 130 may be implemented using the memory 170, an external memory directly coupled to the AI device 100, or a memory maintained in an external device.
  • the sensing unit 140 may acquire at least one of internal information of the AI device 100, information about the surrounding environment of the AI device 100, and user information by using various sensors.
  • the output unit 150 may generate output related to visual, auditory or tactile sense.
  • the memory 170 may store data supporting various functions of the AI device 100.
  • the memory 170 may store input data, training data, a learning model, and a learning history acquired from the input unit 120.
  • the processor 180 may determine at least one executable operation of the AI device 100 based on information determined or generated using a data analysis algorithm or a machine learning algorithm. Further, the processor 180 may perform the determined operation by controlling the components of the AI device 100.
  • the processor 180 may generate a control signal for controlling the corresponding external device and transmit the generated control signal to the corresponding external device.
  • the processor 180 may obtain intention information for a user input, and determine a user's requirement based on the obtained intention information.
  • the processor 180 uses at least one of a Speech To Text (STT) engine for converting a speech input into a character string or a Natural Language Processing (NLP) engine for obtaining intention information of a natural language. Intention information corresponding to the input can be obtained.
  • STT Speech To Text
  • NLP Natural Language Processing
  • the processor 180 may control at least some of the components of the AI device 100 to drive an application program stored in the memory 170. Furthermore, the processor 180 may operate by combining two or more of the components included in the AI device 100 to drive the application program.
  • FIG 2 shows an AI server 200 according to an embodiment of the present invention.
  • the AI server 200 may refer to a device that trains an artificial neural network using a machine learning algorithm or uses the learned artificial neural network.
  • the AI server 200 may be composed of a plurality of servers to perform distributed processing, or may be defined as a 5G network.
  • the AI server 200 may be included as a part of the AI device 100 to perform at least part of AI processing together.
  • the AI server 200 may include a communication unit 210, a memory 230, a learning processor 240, and a processor 260.
  • the communication unit 210 may transmit and receive data with an external device such as the AI device 100.
  • the memory 230 may include a model storage unit 231.
  • the model storage unit 231 may store a model (or artificial neural network, 231a) being trained or trained through the learning processor 240.
  • the learning processor 240 may train the artificial neural network 231a using the training data.
  • the learning model may be used while being mounted on the AI server 200 of the artificial neural network, or may be mounted on an external device such as the AI device 100 and used.
  • the learning model can be implemented in hardware, software, or a combination of hardware and software. When part or all of the learning model is implemented in software, one or more instructions constituting the learning model may be stored in the memory 230.
  • the processor 260 may infer a result value for new input data using the learning model, and generate a response or a control command based on the inferred result value.
  • FIG 3 shows an AI system 1 according to an embodiment of the present invention.
  • the AI system 1 includes at least one of an AI server 200, a robot 100a, an autonomous vehicle 100b, an XR device 100c, a smartphone 100d, or a home appliance 100e. It is connected to the cloud network 10.
  • the robot 100a to which the AI technology is applied, the autonomous vehicle 100b, the XR device 100c, the smartphone 100d, or the home appliance 100e may be referred to as the AI devices 100a to 100e.
  • the cloud network 10 may constitute a part of the cloud computing infrastructure or may mean a network that exists in the cloud computing infrastructure.
  • the cloud network 10 may be configured using a 3G network, a 4G or Long Term Evolution (LTE) network, or a 5G network.
  • LTE Long Term Evolution
  • the devices 100a to 100e and 200 constituting the AI system 1 may be connected to each other through the cloud network 10.
  • the devices 100a to 100e and 200 may communicate with each other through a base station, but may communicate with each other directly without through a base station.
  • the AI server 200 may include a server that performs AI processing and a server that performs an operation on big data.
  • the AI server 200 includes at least one of a robot 100a, an autonomous vehicle 100b, an XR device 100c, a smartphone 100d, or a home appliance 100e, which are AI devices constituting the AI system 1 It is connected through the cloud network 10 and may help at least part of the AI processing of the connected AI devices 100a to 100e.
  • the AI server 200 may train an artificial neural network according to a machine learning algorithm in place of the AI devices 100a to 100e, and may directly store the learning model or transmit it to the AI devices 100a to 100e.
  • the AI server 200 receives input data from the AI devices 100a to 100e, infers a result value for the received input data using a learning model, and generates a response or control command based on the inferred result value. It can be generated and transmitted to the AI devices 100a to 100e.
  • the AI devices 100a to 100e may infer a result value of input data using a direct learning model, and generate a response or a control command based on the inferred result value.
  • the AI devices 100a to 100e to which the above-described technology is applied will be described.
  • the AI devices 100a to 100e illustrated in FIG. 3 may be viewed as a specific example of the AI device 100 illustrated in FIG. 1.
  • the robot 100a is applied with AI technology and may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, and the like.
  • the robot 100a may include a robot control module for controlling an operation, and the robot control module may refer to a software module or a chip implementing the same as hardware.
  • the robot 100a acquires status information of the robot 100a by using sensor information acquired from various types of sensors, detects (recognizes) the surrounding environment and objects, generates map data, or moves paths and travels. It can decide a plan, decide a response to user interaction, or decide an action.
  • the robot 100a may use sensor information obtained from at least one sensor from among a lidar, a radar, and a camera in order to determine a moving route and a driving plan.
  • the robot 100a may perform the above operations using a learning model composed of at least one artificial neural network.
  • the robot 100a may recognize a surrounding environment and an object using a learning model, and may determine an operation using the recognized surrounding environment information or object information.
  • the learning model may be directly learned by the robot 100a or learned by an external device such as the AI server 200.
  • the robot 100a may perform an operation by generating a result using a direct learning model, but it transmits sensor information to an external device such as the AI server 200 and performs the operation by receiving the result generated accordingly. You may.
  • the map data may include object identification information on various objects arranged in a space in which the robot 100a moves.
  • the map data may include object identification information on fixed objects such as walls and doors and movable objects such as flower pots and desks.
  • the object identification information may include a name, type, distance, and location.
  • the robot 100a may perform an operation or run by controlling a driving unit based on a user's control/interaction.
  • the robot 100a may acquire interaction intention information according to a user's motion or voice speech, and determine a response based on the obtained intention information to perform an operation.
  • the autonomous vehicle 100b may be implemented as a mobile robot, vehicle, or unmanned aerial vehicle by applying AI technology.
  • the autonomous driving vehicle 100b may include an autonomous driving control module for controlling an autonomous driving function, and the autonomous driving control module may refer to a software module or a chip implementing the same as hardware.
  • the autonomous driving control module may be included inside as a configuration of the autonomous driving vehicle 100b, but may be configured as separate hardware and connected to the exterior of the autonomous driving vehicle 100b.
  • the autonomous driving vehicle 100b acquires state information of the autonomous driving vehicle 100b using sensor information obtained from various types of sensors, detects (recognizes) surrounding environments and objects, or generates map data, It is possible to determine a travel route and a driving plan, or to determine an action.
  • the autonomous vehicle 100b may recognize an environment or object in an area where the view is obscured or an area greater than a certain distance by receiving sensor information from external devices, or directly recognized information from external devices. .
  • the autonomous vehicle 100b may perform the above operations using a learning model composed of at least one artificial neural network.
  • the autonomous vehicle 100b may recognize a surrounding environment and an object using a learning model, and may determine a driving movement using the recognized surrounding environment information or object information.
  • the learning model may be directly learned by the autonomous vehicle 100b or learned by an external device such as the AI server 200.
  • the autonomous vehicle 100b may perform an operation by generating a result using a direct learning model, but it operates by transmitting sensor information to an external device such as the AI server 200 and receiving the result generated accordingly. You can also do
  • the map data may include object identification information on various objects arranged in a space (eg, a road) in which the autonomous vehicle 100b travels.
  • the map data may include object identification information on fixed objects such as street lights, rocks, and buildings, and movable objects such as vehicles and pedestrians.
  • the object identification information may include a name, type, distance, and location.
  • the autonomous vehicle 100b may perform an operation or drive by controlling a driving unit based on a user's control/interaction.
  • the autonomous vehicle 100b may acquire interaction intention information according to a user's motion or voice speech, and determine a response based on the obtained intention information to perform the operation.
  • the XR device 100c is applied with AI technology, such as HMD (Head-Mount Display), HUD (Head-Up Display) provided in the vehicle, TV, mobile phone, smart phone, computer, wearable device, home appliance, digital signage. , A vehicle, a fixed robot, or a mobile robot.
  • HMD Head-Mount Display
  • HUD Head-Up Display
  • the XR apparatus 100c may perform the above operations using a learning model composed of at least one artificial neural network.
  • the XR device 100c may recognize a real object from 3D point cloud data or image data using a learning model, and may provide information corresponding to the recognized real object.
  • the learning model may be directly learned by the XR device 100c or learned by an external device such as the AI server 200.
  • the XR device 100c may directly generate a result using a learning model to perform an operation, but transmits sensor information to an external device such as the AI server 200 and receives the result generated accordingly to perform the operation. You can also do it.
  • the robot 100a may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, etc. by applying AI technology and autonomous driving technology.
  • the robot 100a having an autonomous driving function may collectively refer to devices that move by themselves according to a given movement line without the user's control or by determining the movement line by themselves.
  • the robot 100a having an autonomous driving function and the autonomous driving vehicle 100b may use a common sensing method to determine one or more of a moving route or a driving plan.
  • the robot 100a having an autonomous driving function and the autonomous driving vehicle 100b may determine one or more of a movement route or a driving plan using information sensed through a lidar, a radar, and a camera.
  • the robot 100a interacting with the autonomous driving vehicle 100b acquires sensor information on behalf of the autonomous driving vehicle 100b and provides it to the autonomous driving vehicle 100b, or acquires sensor information and information about the surrounding environment or By generating object information and providing it to the autonomous vehicle 100b, it is possible to control or assist the autonomous driving function of the autonomous driving vehicle 100b.
  • the robot 100a interacting with the autonomous vehicle 100b may monitor a user in the autonomous vehicle 100b or control the function of the autonomous vehicle 100b through interaction with the user. .
  • the robot 100a may activate an autonomous driving function of the autonomous driving vehicle 100b or assist the control of a driving unit of the autonomous driving vehicle 100b.
  • the functions of the autonomous vehicle 100b controlled by the robot 100a may include not only an autonomous driving function, but also functions provided by a navigation system or an audio system provided inside the autonomous driving vehicle 100b.
  • the robot 100a interacting with the autonomous driving vehicle 100b may provide information or assist a function to the autonomous driving vehicle 100b from outside of the autonomous driving vehicle 100b.
  • the robot 100a may provide traffic information including signal information to the autonomous vehicle 100b, such as a smart traffic light, or interact with the autonomous driving vehicle 100b, such as an automatic electric charger for an electric vehicle. You can also automatically connect an electric charger to the charging port.
  • the robot 100a may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, a drone, etc., by applying AI technology and XR technology.
  • the robot 100a to which the XR technology is applied may refer to a robot that is an object of control/interaction in an XR image.
  • the robot 100a is distinguished from the XR device 100c and may be interlocked with each other.
  • the robot 100a which is the object of control/interaction in the XR image, acquires sensor information from sensors including a camera
  • the robot 100a or the XR device 100c generates an XR image based on the sensor information.
  • the XR device 100c may output the generated XR image.
  • the robot 100a may operate based on a control signal input through the XR device 100c or a user's interaction.
  • the user can check the XR image corresponding to the viewpoint of the robot 100a linked remotely through an external device such as the XR device 100c, and adjust the autonomous driving path of the robot 100a through the interaction.
  • You can control motion or driving, or check information on surrounding objects.
  • the autonomous vehicle 100b may be implemented as a mobile robot, a vehicle, or an unmanned aerial vehicle by applying AI technology and XR technology.
  • the autonomous vehicle 100b provided with a means for providing an XR image may acquire sensor information from sensors including a camera, and may output an XR image generated based on the acquired sensor information.
  • the autonomous vehicle 100b may provide an XR object corresponding to a real object or an object in a screen to the occupant by outputting an XR image with a HUD.
  • the XR object when the XR object is output to the HUD, at least a part of the XR object may be output to overlap the actual object facing the occupant's gaze.
  • the XR object when the XR object is output on a display provided inside the autonomous vehicle 100b, at least a part of the XR object may be output to overlap an object in the screen.
  • the autonomous vehicle 100b may output XR objects corresponding to objects such as lanes, other vehicles, traffic lights, traffic signs, motorcycles, pedestrians, and buildings.
  • the autonomous driving vehicle 100b which is the object of control/interaction in the XR image, acquires sensor information from sensors including a camera
  • the autonomous driving vehicle 100b or the XR device 100c is based on the sensor information.
  • An XR image is generated, and the XR device 100c may output the generated XR image.
  • the autonomous vehicle 100b may operate based on a control signal input through an external device such as the XR device 100c or a user's interaction.
  • the input unit 120 includes a camera 121 for inputting an image signal, a microphone 122 for receiving an audio signal, and a user input unit for receiving information from a user. 123).
  • the input unit 120 is for inputting image information (or signal), audio information (or signal), data, or information input from a user.
  • image information or signal
  • audio information or signal
  • data or information input from a user.
  • the AI device 100 Cameras 121 may be provided.
  • the display unit 151 displays (outputs) information processed by the AI device 100.
  • the display unit 151 may display execution screen information of an application program driven by the AI device 100, or UI (User Interface) and GUI (Graphic User Interface) information according to the execution screen information.
  • UI User Interface
  • GUI Graphic User Interface
  • the display unit 151 may implement a touch screen by forming a layer structure or integrally with the touch sensor.
  • a touch screen may function as a user input unit 123 that provides an input interface between the AI device 100 and a user, and may provide an output interface between the terminal 100 and the user.
  • the sound output unit 152 may output audio data received from the communication unit 110 or stored in the memory 170 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the sound output unit 152 may include at least one of a receiver, a speaker, and a buzzer.
  • the light output unit 154 outputs a signal for notifying the occurrence of an event using light from a light source of the AI device 100.
  • Examples of events occurring in the AI device 100 may be message reception, call signal reception, missed call, alarm, schedule notification, email reception, and information reception through an application.
  • FIG. 5 is a diagram showing an AI system 1 according to an embodiment of the present invention.
  • the AI system 1 may include an AI device 100, an AI server 200, and a display device 300.
  • the devices 100, 200, and 300 may communicate with each other through a base station, a router, or the like, but may directly communicate with each other using a short-range communication technology or the like.
  • each device 100, 200, and 300 may communicate with each other directly or through or a base station using a communication 5G (5 th generation).
  • the AI device 100 determines whether distortion occurs with respect to the display panel of the display device 300, determines setting values for adjusting the distortion, and transmits it to the display device 300 to display the display of the display device 300. Panel distortion can be corrected.
  • the color distortion of the display panel may mean color distortion between each display panel when a plurality of display panels are connected to form one display panel, but occurs between each display element within a single display panel. It may also include color distortion.
  • the distortion of the position of the display panel may mean a distortion of arrangement or alignment between each display panel when a plurality of display panels are connected to form one display panel group.
  • the display panel includes a display panel group unless otherwise specified.
  • the AI device 100 determines color distortion or positional distortion existing on the display panel by using a photographed image of the display panel of the display device 300, determines an adjustment value for correcting the distortion, and determines the display device ( 300). In addition, the AI device 100 may perform readjustment of the display panel again by using the photographed image of the display panel of the display device 300.
  • the AI device 100 may be a fixed device, but may be a movable robot such as a robot cleaner or a guide robot.
  • the AI server 200 may receive data to be used to adjust the display panel of the display device 300 from the AI device 100 and determine setting values for adjusting the display panel based on the received data.
  • the display device 300 includes a display panel, a processor (or a display controller), and a communication unit, and may output an image through the display panel.
  • the display device 300 includes a rollable display, a flexible display, a micro LED display, an LCD, and the like.
  • the AI device 100 and the display device 300 are shown as being separated from each other, but the present invention is not limited thereto. That is, in another embodiment, the AI device 100 refers to a display device having an AI function, and the AI device 100 and the display device 300 of FIG. 5 may be configured as one. In this case, the processor 180 of the AI device 100 may adjust its own display panel or display unit 151.
  • FIG. 6 is a flowchart illustrating a method of adjusting a color of a display panel according to an exemplary embodiment of the present invention.
  • the processor 180 of the artificial intelligence device 100 transmits a signal for outputting a color-adjusted image to the display panel (S601).
  • Display panels include various panels such as LCD panels and LED panels.
  • the processor 180 may directly transmit a signal for outputting a color-adjusted image to the display unit 151.
  • the processor 180 may transmit a signal for outputting a color-adjusted image to the display apparatus 300 through the communication unit 110.
  • the color adjustment image is an image used to adjust the color of the display panel, and may refer to an image made of a single color so that color adjustment of the display panel can be easily performed.
  • the color-adjusted image is not limited to a single color image.
  • the color-adjusted image may be an image in which all areas have the same color and the color changes continuously as time changes. It may be an image you have.
  • the processor 180 of the artificial intelligence device 100 tries to adjust the color of the display panel while controlling to output a color adjustment image to the display panel, it has information on the output color adjustment image.
  • image data output to the display panel may be obtained.
  • the image output from the display panel may be used as a reference image used to adjust the color of the display panel, and hereinafter may be referred to as a first reference image or a color reference image.
  • data corresponding to the first reference image may be referred to as first reference image data or color reference image data.
  • the processor 180 of the artificial intelligence device 100 acquires a photographed image for the display panel through the camera 121 (S603).
  • the camera 121 is an RGB camera, and the captured image may be an RGB image.
  • data corresponding to the photographed image may be referred to as photographed image data.
  • the camera 121 may be installed at a fixed position facing the display panel to be color adjusted to have a fixed viewpoint, but is installed on the body of the artificial intelligence device 100 and the artificial intelligence device 100 moves.
  • the viewpoint may change accordingly.
  • the processor 180 of the artificial intelligence device 100 converts a region corresponding to the display panel in the captured image into a rectangular shape (S605).
  • the display panel included in the photographed image may have a rectangular shape, but if the viewpoint of the camera 121 does not look at the display panel from the front center
  • the display panel included in the captured image may not have a rectangular shape such as a rhombus.
  • the processor 180 may convert the captured image so that the area of the display panel becomes a rectangular shape.
  • the processor 180 may leave only an area corresponding to the display panel in the acquired captured image and convert it into a rectangular shape.
  • the processor 180 may convert the acquired captured image so that the display panel included in the acquired captured image has a rectangular shape, and may remove an area other than the area corresponding to the display panel from the converted captured image.
  • a predetermined unit for the display panel may include pixels constituting the display panel.
  • the above-described display panel means a display panel group.
  • a unit display panel constituting the display panel group may be included as a preset unit for the display panel (display panel group).
  • color distortion of the display panel may occur between unit pixels constituting a single display panel, and may also occur between unit display panels constituting a single display panel group.
  • the first offset may mean a difference in color or brightness between the captured image and the first reference image, and may be calculated for each preset unit.
  • the first offset may include a difference between a preset location for each unit and a color or brightness at the location.
  • the processor 180 may determine a first offset corresponding to each unit pixel of the display panel.
  • the processor 180 may determine a first offset corresponding to each unit display panel of the display panel group.
  • the first offset may mean a color offset.
  • the color of the captured image and the color of the first reference image may be expressed using an HSV model, an RGB model, a YCbCr model, or the like.
  • the processor 180 may map the first reference image and the photographed image, and determine a first offset using the mapping information.
  • the mapping information may include a setting value corresponding to the first reference image and a measurement value corresponding to the captured image.
  • the processor 180 determines a first adjustment value for the display panel by using the first offset (S609).
  • the first adjustment value refers to a correction/adjustment value additionally calculated to an input color value or brightness value when the display panel outputs an image, and may be calculated for each preset unit.
  • the first adjustment value may include a preset position for each unit and an adjustment value of color or brightness at the corresponding position.
  • the processor 180 may determine a first adjustment value corresponding to each unit pixel of the display panel.
  • the processor 180 may determine a first adjustment value corresponding to each unit display panel of the display panel group.
  • the first adjustment value may be added to the color value or the brightness value input from the display panel, but may be multiplied, and a combination thereof may be possible.
  • the processor 180 may calculate the first adjustment values based on zero. This may refer to a situation in which the display panel is adjusted to accurately output the color and brightness of the reference image.
  • the processor 180 subtracts each offset value from 0, thereby subtracting the first adjustment value (0, -1, 2, -5) can be determined.
  • the processor 180 may determine first adjustment values based on the average value of the first offset. This may refer to a situation in which the display panel is adjusted to be outputted without local distortion in all areas with the minimum adjustment value. However, in this case, the display panel may not accurately output the color and brightness of the reference image, and may output different colors or brightness with a certain bias.
  • the processor 180 calculates the average value 1 of the four offset values, and the calculated average is The first adjustment value (1, 0, 3, -4) may be determined by subtracting each of the offset values.
  • the processor 180 of the artificial intelligence device 100 transmits the determined first adjustment value to the display panel (S611).
  • the adjustment value or the first adjustment value means an output color adjustment value of the display panel.
  • the processor 180 may transmit the first adjustment value to the display panel and adjust the output value of the display panel to remove color distortion. Alternatively, the processor 180 may transmit the first adjustment value to a controller that controls the display panel.
  • the display panel or the controller of the display panel may reflect the received first adjustment value to the already existing adjustment value.
  • the processor 180 determines a new first adjustment value by reflecting the previously determined first adjustment value and the currently determined first adjustment value together, and then determines a new first adjustment value. 1
  • the adjustment value can be transmitted to the display panel.
  • the display panel may perform adjustment to remove color distortion simply by directly applying the adjustment value transmitted from the processor 180 without taking into account previous adjustment values.
  • the steps (S601 to S611) of adjusting the color of the display panel may be repeatedly performed, and if the first offset is smaller than a preset reference value, the repetition may be stopped.
  • FIG. 7 is an operation flowchart showing an example of the step (S603) of acquiring the captured image shown in FIG. 6.
  • the processor 180 of the artificial intelligence device 100 acquires a captured image by using a preset camera setting value through the camera 121 (S701 ).
  • the camera 121 may always acquire a photographed image by using the same camera setting value.
  • the camera setting values include shutter speed, aperture, ISO, and white balance.
  • the processor 180 of the artificial intelligence device 100 acquires context information at a time point at which the captured image is acquired (S703).
  • the processor 180 may receive weather information from the artificial intelligence server 200 or another external server (not shown) through the communication unit 110.
  • the processor 180 may obtain illumination information through the sensor unit 140.
  • the processor 180 of the artificial intelligence device 100 converts the captured image into a standardized image using the acquired context information (S705).
  • the standardized image may mean a photographed image acquired in a situation corresponding to standard context information.
  • converting a captured image into a standardized image may mean an act of adjusting the brightness/saturation/color of the captured image or removing noise.
  • the processor 180 may generate a standardized image from a captured image using an image transformation model learned using a machine learning algorithm or a deep learning algorithm.
  • the processor 180 may use the image conversion model learned by the learning processor 130 of the artificial intelligence device 100 or the image conversion model learned by the learning processor 240 of the artificial intelligence server 200. May be.
  • the image conversion model may be stored in the memory 170 of the artificial intelligence device 100 and used, or may be stored in the memory 230 of the artificial intelligence server 200 and used.
  • the image conversion model is composed of an artificial neural network, and when context information and a first reference image are input, an image obtained by converting the first reference image may be output.
  • the cost function may be a function representing a difference between an image captured in an environment corresponding to the standard context information and a converted image of the first reference image.
  • the image conversion model may be trained to convert arbitrary context information to be most similar to an image captured in an environment corresponding to standard context information.
  • FIG. 8 is a diagram illustrating an image conversion model according to an embodiment of the present invention.
  • the image transformation model 805 may be configured with an artificial neural network.
  • the image conversion model 805 may output a standardized image 806 when a photographed image 801 photographing a display panel and context information 802, 803, and 804 of a photographing point are input.
  • the image conversion model 805 may be trained using the first reference image.
  • the image conversion model 805 may be trained to convert an image photographed of the first reference image in various situations to be as similar as possible to the image photographed of the first reference image in a situation corresponding to the standard context information.
  • the cost function of the artificial neural network may be a function representing a difference between a converted image and an image captured in a situation corresponding to standard context information.
  • the processor 180 of the artificial intelligence device 100 extracts a region corresponding to the display panel from the acquired photographed image (S901).
  • the processor 180 may extract a region corresponding to the display panel by recognizing the first reference image from the acquired captured image and determining the range.
  • a region corresponding to the display panel may be extracted based on whether or not it has a degree of similarity equal to or higher than a certain level.
  • the object recognition model may include a convolutional neural network (CNN).
  • CNN convolutional neural network
  • the processor 180 of the artificial intelligence device 100 determines the location of the camera 121 and the photographing direction based on the extracted area (S903).
  • the position of the camera 121 may mean a position relative to the display panel.
  • the processor 180 may determine that the camera 121 is positioned in front of the center of the display panel and faces the display panel in front.
  • the processor 180 is positioned on the central horizontal axis or the central vertical axis with respect to the display panel, and the camera 121 is positioned on the central horizontal axis or the It can be determined that you are looking at the display panel in the direction of the central vertical axis.
  • the processor 180 of the artificial intelligence device 100 converts the size of the captured image in consideration of the location of the camera and the shooting direction (S905).
  • the size of a captured image does not mean the size of the file size, but rather means the size of the length, such as the horizontal length or the vertical length.
  • the processor 180 may change the size of the captured image so that the area corresponding to the display panel included in the captured image has a rectangular shape in consideration of the location of the camera 121 and the shooting direction. This can be viewed as a process of generating a photographed image in a situation where the camera 121 faces the display panel from the front center of the display panel.
  • the processor 180 of the artificial intelligence device 100 adjusts the color and brightness of the captured image in consideration of the location of the camera and the shooting direction (S907).
  • an enlarged area or a reduced area may occur. Since an area whose size changes, such as an enlarged area or a reduced area, causes distortion in color or brightness, correction to correct this is required.
  • the viewpoint of the camera 121 is moved to the center of the front of the display panel, since the distance from the camera 121 to each point (eg, pixels) of the display panel is changed, the display panel included in the captured image It is necessary to correct the brightness for each pixel in the area corresponding to.
  • the processor 180 determines a relative position between the camera 121 and the display panel based on the shape of an area corresponding to the display panel included in the acquired captured image, and converts the captured image based on the determined relative position. When doing so, you can correct the color and brightness of each pixel.
  • the step of converting the size of the captured image (S905) and the step of adjusting the color and brightness of the captured image (S907) may be performed in parallel.
  • FIG. 10 is a diagram illustrating a display device according to an embodiment of the present invention.
  • the display device 910 may include one display panel group including a plurality of display panels 1011, 1012, 1013 and 1014.
  • the display device 1010 is illustrated as digital signage, but the present invention is not limited thereto.
  • the display device 1010 is illustrated so that a plurality of display panels constitute one display panel group, but the present invention is not limited thereto.
  • FIG. 11 is a diagram illustrating a method of removing color distortion for a display panel according to an exemplary embodiment of the present invention.
  • the camera 1110 of the artificial intelligence device 100 captures an image of the display device 1120, which may be referred to as the above-described captured image.
  • a plurality of display panels 1121, 1122, 1123, and 1124 constitute one display panel group.
  • the artificial intelligence device 100 may transmit a control signal to the display device 1120 to output a first reference image 1140 for color adjustment, and may output a first reference image 1140.
  • the first reference image may be a monochrome image having Hue 20, Value 30, and Saturation 50 in all areas 1141, 1142, 1143, and 1144.
  • the regions may mean image regions corresponding to the respective unit display panels 1121, 1122, 1123 and 1124.
  • the captured image 1130 acquired by the camera 1110 of the artificial intelligence device 100 may be different from the first reference image 1140.
  • the first area 1131, the second area 1132, and the third area 1133 correspond to the first reference image 1140.
  • the same color values (H: 20, V: 30, S: 50) as the first to third regions 1141, 1142, and 1143 are measured, but in the fourth region 1134, the correspondence of the first reference image 1140 Color values (H: 30, V: 30, S: 50) different from the fourth region 1144 to be measured may be measured.
  • the processor 180 of the artificial intelligence device 100 determines that the Hue value in the fourth area 1134 of the captured image 1130 is 10 higher than the Hue value in the fourth area 1144 of the reference image 1140. Since it can be recognized that it has a value of 30, the first offset can be calculated.
  • the processor 180 of the artificial intelligence device 100 applies the first offset to H (Hue), V (Value) and S (Saturation) between the captured image 1130 and the first reference image 1140. ) Can be expressed as an ordered pair of difference values.
  • the processor 180 of the artificial intelligence device 100 may calculate an offset value corresponding to the regions 1131, 1132, 1133, and 1134 of the captured image 1130 as the first offset.
  • the processor 180 of the artificial intelligence device 100 sets the first offset ((0, 0, 0), (0, 0, 0), (0, 0, 0), (10, 0, 0) It can be calculated as ⁇ .
  • the processor 180 of the artificial intelligence device 100 may determine the first adjustment value 1150 in consideration of the calculated first offset.
  • the first adjustment value 1150 is an adjustment value for correcting the color of the display panels 1121, 1122, 1123 and 1124 of the display device 1120.
  • each of the display panels 1121, 1122, 1123 and 1124) can be expressed as (dH, dS, dV) which are adjustment values of (H, S, V).
  • the processor 180 of the artificial intelligence device 100 sets the calculated first offset to ((0, 0, 0), (0, 0, 0), (0, 0, 0), (10, 0, Considering 0) ⁇ , determine the first adjustment value (1150) as ⁇ (0, 0, 0), (0, 0, 0), (0, 0, 0), (-10, 0, 0) ⁇ I can.
  • the processor 180 of the artificial intelligence device 100 transmits the determined first adjustment value 1150 to the display device 1120 to output an image from each of the display panels 1121, 1122, 1123, and 1124.
  • (H, V, S) can be adjusted/corrected by the first adjustment value 1150.
  • the display device 1120 adds the first adjustment value 1150 to the output (H, V, S) values, but the present invention is not limited thereto.
  • a multiplied value may be added to the first adjustment value 1150, or may be configured only with a multiplied value.
  • the processor 180 of the artificial intelligence device 100 sets the first adjustment value to ⁇ (1, 1, 1), (1). , 1, 1), (1, 1, 1), (2/3, 1, 1) ⁇ , which may mean multiplying the output (H, V, S) by the adjusted value.
  • FIG. 12 is a diagram illustrating a method of determining an area where color distortion occurs according to an embodiment of the present invention.
  • a photographed image 1210 photographed by the camera 121 of the artificial intelligence device 100 of the display device 300 includes a plurality of display panels forming one display panel group, and a plurality of areas (1211, 1212, 1213 and 1214).
  • the processor 180 of the artificial intelligence device 100 observes the border areas 1221, 1222, 1223, and 1224 of each area in the captured image 1210, and the border areas 1223 where a color difference occurs. And 1224, it may be determined that color distortion occurs in the fourth region 1214 compared to the first to third regions 1211, 1212, and 1213.
  • FIG. 10 to 12 illustrate an example of a display device 1010 or 1120 in which a plurality of display panels constitute one display panel group.
  • the processor 180 of the artificial intelligence device 100 includes the display device 1010 or Information on the configuration and arrangement of display panels may be received from 1120 and used.
  • FIGS. 10 to 12 illustrate an example of a display apparatus 1010 or 1120 in which a plurality of display panels constitute one display panel group.
  • the present invention is not limited thereto, and a single display A display device including a panel may also be adjusted to remove color distortion for a preset unit such as a pixel unit.
  • FIG. 13 is a flowchart illustrating a method of adjusting an output position of a display panel according to an embodiment of the present invention.
  • the processor 180 of the artificial intelligence device 100 transmits a signal for outputting a position adjustment image to the display panel (S1301).
  • the display panel may refer to the display unit 151 included in the artificial intelligence device 100 or may refer to a display panel of the external display device 300.
  • the processor 180 may directly transmit a signal for outputting a position adjustment image to the display unit 151.
  • the processor 180 may transmit a signal for outputting a position adjustment image to the display apparatus 300 through the communication unit 110.
  • the position adjustment image is an image used to adjust the output position of the display panel, and may refer to an image including a monochrome background and other monochromatic grid lines so that adjustment of the output position of the display panel can be easily performed.
  • the output position can be adjusted without outputting a position adjustment image.
  • the present invention includes a method of adjusting the output position of the display panel without outputting a separate position adjustment image.
  • the processor 180 of the artificial intelligence device 100 controls the display panel to output the position adjustment image while adjusting the output position of the display panel, it has information on the output position adjustment image.
  • image data output to the display panel may be obtained.
  • the image output from the display panel may be used as a reference image used to adjust the output position of the display panel, and hereinafter may be referred to as a second reference image or a position reference image.
  • data corresponding to the second reference image may be referred to as second reference image data or position reference image data.
  • the processor 180 of the artificial intelligence device 100 acquires a photographed image of the display panel through the camera 121 (S1303).
  • the camera 121 is an RGB camera, and the captured image may be an RGB image.
  • data corresponding to the photographed image may be referred to as photographed image data.
  • the camera 121 may be installed at a fixed position facing the display panel to be output position adjustment and have a fixed viewpoint, but it is installed on the body of the artificial intelligence device 100 and the artificial intelligence device 100 moves.
  • the viewpoint may change accordingly.
  • This step (S1303) is the same as the step (S603) of obtaining the captured image shown in FIG. Accordingly, the description of FIG. 7 may also be applied to this step S1303.
  • the processor 180 of the artificial intelligence device 100 converts an area corresponding to the display panel in the captured image into a rectangular shape (S1305).
  • the display panel included in the photographed image may have a rectangular shape, but if the viewpoint of the camera 121 does not look at the display panel from the front center
  • the display panel included in the captured image may not have a rectangular shape such as a rhombus.
  • the processor 180 may convert the captured image so that the area of the display panel becomes a rectangular shape.
  • the processor 180 may leave only an area corresponding to the display panel in the acquired captured image and convert it into a rectangular shape.
  • the processor 180 may convert the acquired captured image so that the display panel included in the acquired captured image has a rectangular shape, and may remove an area other than the area corresponding to the display panel from the converted captured image.
  • This step (S1305) is the same as the step (S605) of obtaining the captured image shown in FIG. Accordingly, the description of FIG. 9 may also be applied to this step S1305.
  • the processor 180 of the artificial intelligence device 100 calculates a second offset for the display panel for each preset unit by using the captured image and the second reference image (S1307).
  • a predetermined unit for the display panel may include pixels constituting the display panel.
  • the above-described display panel means a display panel group.
  • a unit display panel constituting the display panel group may be included as a preset unit for the display panel (display panel group).
  • the positional distortion of the display panel may occur between unit pixels constituting a single display panel, and may also occur between unit display panels constituting a single display panel group.
  • the processor 180 may determine a second offset corresponding to each unit pixel of the display panel.
  • the processor 180 may determine a second offset corresponding to each unit display panel of the display panel group.
  • the second offset may be expressed as an ordered pair of x coordinates and y coordinates.
  • the processor 180 may map the second reference image and the photographed image, and determine a second offset using the mapping information.
  • the mapping information may include a setting value corresponding to the second reference image and a measurement value corresponding to the captured image.
  • the processor 180 determines a second adjustment value for the display panel by using the second offset (S1309).
  • the second adjustment value refers to a correction/adjustment value additionally calculated to an input output position value when the display panel outputs an image, and may be calculated for each preset unit.
  • the second adjustment value may include a preset unit-specific position and an output position adjustment value at the corresponding position.
  • the processor 180 may determine a second adjustment value corresponding to each unit pixel of the display panel.
  • the processor 180 may determine a second adjustment value corresponding to each unit display panel of the display panel group.
  • the second adjustment value may be added to the output position value input from the display panel, but may also be multiplied, and a combination thereof may be possible.
  • the processor 180 For example, if the offset values ⁇ (0, 0), (1, -2), (-2, 1), (5, 1) ⁇ for 4 units are included in the second offset, the processor 180
  • the second adjustment value ⁇ (0, 0), (-1, 2), (2, -1), (-5, -1) ⁇ can be determined by subtracting each offset value from 0.
  • the processor 180 may determine second adjustment values based on the average value of the second offset. This may refer to a situation in which the display panel is adjusted to be outputted without local distortion in all areas with the minimum adjustment value. However, in this case, the display panel may not accurately output the reference image in the center, and may output the reference image in a skewed position with a certain deflection.
  • the processor 180 of the artificial intelligence device 100 transmits the determined second adjustment value to the display panel (S1311).
  • the adjustment value or the second adjustment value means an output position adjustment value of the display panel.
  • the processor 180 may remove distortion of the output position by transmitting the second adjustment value to the display panel to adjust the output position of the display panel. Alternatively, the processor 180 may transmit the second adjustment value to a controller that controls the display panel.
  • the display panel or the controller of the display panel may reflect the received second adjustment value to the already existing adjustment value.
  • the processor 180 determines a new second adjustment value by reflecting the previously determined second adjustment value and the currently determined second adjustment value together, and 2
  • the adjustment value can be transmitted to the display panel.
  • the display panel may perform adjustment to remove distortion of the output position simply by directly applying the adjustment value transmitted from the processor 180 without taking into account the previous adjustment values.
  • the steps (S1301 to S1311) of adjusting the output position of the display panel may be repeatedly performed, and if the second offset is smaller than a preset reference value, the repetition may be stopped.
  • FIG. 14 is a diagram illustrating distortion of an output position for a display panel according to an exemplary embodiment of the present invention.
  • the display panel may be configured as one display panel group by connecting a plurality of (eg, 9) unit display panels.
  • each unit display panel is arranged in a state that is not physically aligned, or even if each unit display panel is connected in a physically aligned state, the distortion of the output position in the image 1410 output according to an error of devices or software settings ( 1420) may occur.
  • 15 is a diagram illustrating a method of removing distortion of an output position of a display panel according to an embodiment of the present invention.
  • the camera 1510 of the artificial intelligence device 100 captures an image of the display device 1520, which may be referred to as the above-described captured image.
  • a plurality of display panels 1521, 1522, 1523, and 1524 constitute one display panel group.
  • the artificial intelligence device 100 may transmit a control signal to the display device 1520 to output a second reference image 1540 for adjusting an output position, and may output a second reference image 1540.
  • the second reference image may be an image having the same grid pattern in all regions 1541, 1542, 1543, and 1544.
  • the regions may mean image regions corresponding to the respective unit display panels 1521, 1522, 1523 and 1524.
  • the captured image 1530 acquired by the camera 1510 of the artificial intelligence device 100 may differ from the second reference image 1540.
  • a grid pattern is connected without distortion between the first region 1531, the second region 1532 and the third region 1533 among the total four regions 1531, 1532, 1533, and 1534.
  • a grid pattern may be distorted and connected between the second region 1532 and the third region 1533.
  • the processor 180 of the artificial intelligence device 100 determines that the output position value in the fourth region 1534 of the captured image 1530 is higher than the output position value in the fourth region 1544 of the reference image 1540. Since it can be recognized that it has a value changed by (3, -10), a second offset can be calculated.
  • the processor 180 of the artificial intelligence device 100 may express the second offset as an ordered pair of difference values of output positions between the captured image 1530 and the second reference image 1540.
  • the processor 180 of the artificial intelligence device 100 may calculate an offset value corresponding to the regions 1531, 1532, 1533, and 1534 of the captured image 1530 as the second offset.
  • the processor 180 of the artificial intelligence device 100 may calculate the second offset as ⁇ (0, 0), (0, 0), (0, 0), (3, -10) ⁇ . .
  • the processor 180 of the artificial intelligence device 100 may determine the second adjustment value 1550 in consideration of the calculated second offset.
  • the second adjustment value 1550 is an adjustment value for correcting the output positions of the display panels 1521, 1522, 1523 and 1524 of the display device 1520.
  • each of the display panels 1521 and 1522 , 1523 and 1524) may be expressed as (dx, dy) which are adjustment values of the output positions (x, y).
  • the processor 180 of the artificial intelligence device 100 determines the calculated second offset in consideration of ⁇ (0, 0), (0, 0), (0, 0), (3, -10) ⁇ .
  • the adjustment value 1550 may be determined as ⁇ (0, 0), (0, 0), (0, 0), (-3, 10) ⁇ .
  • the processor 180 of the artificial intelligence device 100 transmits the determined second adjustment value 1550 to the display device 1520 to output an image from each of the display panels 1521, 1522, 1523, and 1524.
  • the position (x, y) at the time may be adjusted/corrected by the second adjustment value 1550.
  • the display device 1520 adds the second adjustment value 1550 to the output position values (x, y), but the present invention is not limited thereto.
  • not only a value to be added to (x, y) but also a value to be multiplied may be added to the second adjustment value 1550 or may be configured only with a multiplied value.
  • 16 is a diagram illustrating a method of determining an area where output position distortion occurs according to an embodiment of the present invention.
  • a photographed image 1610 photographed by the camera 121 of the artificial intelligence device 100 of the display device 300 includes a plurality of display panels constituting one display panel group, and a plurality of areas (1611, 1612, 1613 and 1614).
  • the processor 180 of the artificial intelligence device 100 observes the boundary areas 1621, 1622, 1623 and 1624 of each area in the captured image 1610, and the border areas 1623 where the grid pattern is not connected. And 1624, it may be determined that output position distortion occurs in the fourth region 1614 compared to the first to third regions 1611, 1612, and 1613.
  • FIG. 15 and 16 illustrate an example of a display device 1510 in which a plurality of display panels constitute one display panel group.
  • the processor 180 of the artificial intelligence device 100 displays the display from the display device 1510. It is possible to receive and use information on the configuration and arrangement of panels.
  • FIGS. 15 and 16 illustrate an example of a display device 1510 in which a plurality of display panels constitute one display panel group. As described above, the present invention is not limited thereto, and a single display panel is provided. The included display device may also be adjusted to remove output position distortion for a preset unit such as a pixel unit.
  • the above-described present invention can be implemented as a computer-readable code on a medium on which a program is recorded.
  • the computer-readable medium includes all types of recording devices that store data that can be read by a computer system. Examples of computer-readable media include HDD (Hard Disk Drive), SSD (Solid State Disk), SDD (Silicon Disk Drive), ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc. There is this.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 실시 예는 디스플레이 패널의 색상을 조정하는 인공 지능 장치에 있어서, 디스플레이 패널에서 출력되는 이미지를 촬영하는 카메라; 및 상기 디스플레이 패널에 색상 레퍼런스 이미지를 출력하는 신호를 전송하고, 상기 카메라를 통해 상기 디스플레이 패널에 대한 촬영 이미지를 수신하고, 상기 색상 레퍼런스 이미지와 상기 촬영 이미지에 기초하여 미리 설정된 단위별로 상기 디스플레이 패널에 대한 색상 오프셋을 산출하고, 상기 산출된 색상 오프셋을 이용하여 상기 디스플레이 패널에 대한 출력 색상 조정 값을 결정하고, 상기 결정된 출력 색상 조정 값을 상기 디스플레이 패널에 전송하는 프로세서를 포함하는, 인공 지능 장치를 제공한다.

Description

디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법
본 발명은 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법에 관한 것이다. 구체적으로, 본 발명은 디스플레이 패널에서 출력되는 이미지를 촬영하여 복수의 디스플레이 패널들 사이의 색상 왜곡이나 단일 디스플레이 내부의 디스플레이 소자들 사이의 색상 왜곡을 없애기 위하여 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법에 관한 것이다.
최근 디스플레이 장치는 TV나 모니터뿐만 아니라, 디지털 사이니지나 옥외 간판 등의 다양한 장치들로 구현되며, 사용 범위가 폭발적으로 증가하고 있다. 특히, 복수의 디스플레이 패널들을 연결하여 하나의 대형 디스플레이를 구성하는 상황도 늘어나고 있다.
그러나, 복수의 디스플레이 패널들이 하나의 대형 디스플레이를 구성하는 경우에는 각 디스플레이 패널들 사이에 색상이나 위치가 부정합하여 출력되는 이미지에 왜곡이 발생할 수 있다. 또한, 단일한 디스플레이 패널로 구성된 디스플레이라 하더라도, 각 출력 소자들 사이에 출력하는 색상이 부정합하여 출력되는 이미지에 왜곡이 발생할 수 있다. 또한, 플렉서블 디스플레이는 디스플레이의 굴곡에 의하여 실제 출력되는 이미지에 왜곡이 없더라도 사용자에게 관찰되는 이미지에는 왜곡이 발생할 수 있다.
따라서, 실제 사용자에게 관찰되는 이미지에 왜곡이 발생하지 않도록 디스플레이 패널을 조정/보정하는 기술의 필요성이 증대된다.
본 발명은 사용자가 관찰하는 디스플레이 패널에서 출력된 이미지에 색상의 왜곡이 발생하지 않도록 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법을 제공하고자 한다.
또한, 본 발명은 복수의 디스플레이 패널들 사이의 색상 왜곡 또는 단일한 디스플레이 패널의 디스플레이 소자들 사이의 색상 왜곡이 발생하지 않도록 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법을 제공한다.
본 발명의 일 실시 예는 디스플레이 패널에 색상 조정 이미지를 출력시키고, 카메라를 통해 디스플레이 패널에 대한 촬영 이미지를 수신하고, 레퍼런스 이미지와 촬영 이미지에 기초하여 미리 설정된 단위별로 디스플레이 패널에 대한 색상 오프셋을 산출하고, 색상 오프셋을 이용하여 디스플레이 패널에 대한 출력 색상 조정 값을 결정하고, 출력 색상 조정 값을 디스플레이 패널에 전송함으로써 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법을 제공한다.
또한, 본 발명의 일 실시 예는 촬영 이미지의 촬영 시점에 상응하는 컨텍스트 정보를 이용하여 촬영 이미지를 표준 컨텍스트 정보에 상응하는 표준화된 이미지로 변환하고, 표준화된 이미지를 이용하여 색상 오프셋을 산출하는 인공 지능 장치 및 그 방법을 제공한다.
본 발명의 다양한 실시 예에 따르면, 사용자는 디스플레이 패널에서 출력되는 이미지를 색상의 왜곡 없이 관찰할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 디스플레이 패널을 촬영할 때의 환경이 변화하더라도 이를 자동으로 감안하여 왜곡을 판단하므로, 왜곡 판단의 정확도를 높일 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 사용자의 개입 없이도 자동으로 디스플레이 패널을 조정할 수 있으므로, 디스플레이 장치들에 대한 유지보수의 비용과 노력이 절감된다.
도 1은 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.
도 2는 본 발명의 일 실시 예에 따른 AI 서버(200)를 나타낸다.
도 3은 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸다.
도 4는 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.
도 5는 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸 도면이다.
도 6은 본 발명의 일 실시 예에 따른 디스플레이 패널의 색상을 조정하는 방법을 나타낸 동작 흐름도이다.
도 7은 도 6에 도시된 촬영 이미지를 획득하는 단계(S603)의 일 예를 나타낸 동작 흐름도이다.
도 8은 본 발명의 일 실시 예에 따른 이미지 변환 모델을 나타낸 도면이다.
도 9는 도 6에 도시된 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 직사각형 모양으로 변환하는 단계(S605)의 일 예를 나타낸 동작 흐름도이다.
도 10은 본 발명의 일 실시 예에 따른 디스플레이 장치를 나타낸 도면이다.
도 11은 본 발명의 일 실시 예에 따른 디스플레이 패널의 색상을 보정하는 방법을 나타낸 도면이다.
도 12는 본 발명의 일 실시 예에 따른 색상 왜곡이 발생하는 영역을 판단하는 방법을 나타낸 도면이다.
도 13은 본 발명의 일 실시 예에 따른 디스플레이 패널의 출력 위치를 조정하는 방법을 나타낸 동작 흐름도이다.
도 14는 본 발명의 일 실시 예에 따른 디스플레이 패널에 대한 출력 위치의 왜곡을 나타내는 도면이다.
도 15는 본 발명의 일 실시 예에 따른 디스플레이 패널에 대한 출력 위치의 왜곡을 제거하는 방법을 나타낸 도면이다.
도 16은 본 발명의 일 실시 예에 따른 출력 위치 왜곡이 발생하는 영역을 판단하는 방법을 나타낸 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 '모듈' 및 '부'는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 '연결되어' 있다거나 '접속되어' 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 '직접 연결되어' 있다거나 '직접 접속되어' 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
<인공 지능(AI: Artificial Intelligence)>
인공 지능은 인공적인 지능 또는 이를 만들 수 있는 방법론을 연구하는 분야를 의미하며, 머신 러닝(기계 학습, Machine Learning)은 인공 지능 분야에서 다루는 다양한 문제를 정의하고 그것을 해결하는 방법론을 연구하는 분야를 의미한다. 머신 러닝은 어떠한 작업에 대하여 꾸준한 경험을 통해 그 작업에 대한 성능을 높이는 알고리즘으로 정의하기도 한다.
인공 신경망(ANN: Artificial Neural Network)은 머신 러닝에서 사용되는 모델로써, 시냅스의 결합으로 네트워크를 형성한 인공 뉴런(노드)들로 구성되는, 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다. 인공 신경망은 다른 레이어의 뉴런들 사이의 연결 패턴, 모델 파라미터를 갱신하는 학습 과정, 출력값을 생성하는 활성화 함수(Activation Function)에 의해 정의될 수 있다.
인공 신경망은 입력층(Input Layer), 출력층(Output Layer), 그리고 선택적으로 하나 이상의 은닉층(Hidden Layer)를 포함할 수 있다. 각 층은 하나 이상의 뉴런을 포함하고, 인공 신경망은 뉴런과 뉴런을 연결하는 시냅스를 포함할 수 있다. 인공 신경망에서 각 뉴런은 시냅스를 통해 입력되는 입력 신호들, 가중치, 편향에 대한 활성 함수의 함숫값을 출력할 수 있다.
모델 파라미터는 학습을 통해 결정되는 파라미터를 의미하며, 시냅스 연결의 가중치와 뉴런의 편향 등이 포함된다. 그리고, 하이퍼파라미터는 머신 러닝 알고리즘에서 학습 전에 설정되어야 하는 파라미터를 의미하며, 학습률(Learning Rate), 반복 횟수, 미니 배치 크기, 초기화 함수 등이 포함된다.
인공 신경망의 학습의 목적은 손실 함수를 최소화하는 모델 파라미터를 결정하는 것으로 볼 수 있다. 손실 함수는 인공 신경망의 학습 과정에서 최적의 모델 파라미터를 결정하기 위한 지표로 이용될 수 있다.
머신 러닝은 학습 방식에 따라 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning), 강화 학습(Reinforcement Learning)으로 분류할 수 있다.
지도 학습은 학습 데이터에 대한 레이블(label)이 주어진 상태에서 인공 신경망을 학습시키는 방법을 의미하며, 레이블이란 학습 데이터가 인공 신경망에 입력되는 경우 인공 신경망이 추론해 내야 하는 정답(또는 결과 값)을 의미할 수 있다. 비지도 학습은 학습 데이터에 대한 레이블이 주어지지 않는 상태에서 인공 신경망을 학습시키는 방법을 의미할 수 있다. 강화 학습은 어떤 환경 안에서 정의된 에이전트가 각 상태에서 누적 보상을 최대화하는 행동 혹은 행동 순서를 선택하도록 학습시키는 학습 방법을 의미할 수 있다.
인공 신경망 중에서 복수의 은닉층을 포함하는 심층 신경망(DNN: Deep Neural Network)으로 구현되는 머신 러닝을 딥 러닝(심층 학습, Deep Learning)이라 부르기도 하며, 딥 러닝은 머신 러닝의 일부이다. 이하에서, 머신 러닝은 딥 러닝을 포함하는 의미로 사용된다.
<로봇(Robot)>
로봇은 스스로 보유한 능력에 의해 주어진 일을 자동으로 처리하거나 작동하는 기계를 의미할 수 있다. 특히, 환경을 인식하고 스스로 판단하여 동작을 수행하는 기능을 갖는 로봇을 지능형 로봇이라 칭할 수 있다.
로봇은 사용 목적이나 분야에 따라 산업용, 의료용, 가정용, 군사용 등으로 분류할 수 있다.
로봇은 액츄에이터 또는 모터를 포함하는 구동부를 구비하여 로봇 관절을 움직이는 등의 다양한 물리적 동작을 수행할 수 있다. 또한, 이동 가능한 로봇은 구동부에 휠, 브레이크, 프로펠러 등이 포함되어, 구동부를 통해 지상에서 주행하거나 공중에서 비행할 수 있다.
<자율 주행(Self-Driving)>
자율 주행은 스스로 주행하는 기술을 의미하며, 자율 주행 차량은 사용자의 조작 없이 또는 사용자의 최소한의 조작으로 주행하는 차량(Vehicle)을 의미한다.
예컨대, 자율 주행에는 주행중인 차선을 유지하는 기술, 어댑티브 크루즈 컨트롤과 같이 속도를 자동으로 조절하는 기술, 정해진 경로를 따라 자동으로 주행하는 기술, 목적지가 설정되면 자동으로 경로를 설정하여 주행하는 기술 등이 모두 포함될 수 있다.
차량은 내연 기관만을 구비하는 차량, 내연 기관과 전기 모터를 함께 구비하는 하이브리드 차량, 그리고 전기 모터만을 구비하는 전기 차량을 모두 포괄하며, 자동차뿐만 아니라 기차, 오토바이 등을 포함할 수 있다.
이때, 자율 주행 차량은 자율 주행 기능을 가진 로봇으로 볼 수 있다.
<확장 현실(XR: eXtended Reality)>
확장 현실은 가상 현실(VR: Virtual Reality), 증강 현실(AR: Augmented Reality), 혼합 현실(MR: Mixed Reality)을 총칭한다. VR 기술은 현실 세계의 객체나 배경 등을 CG 영상으로만 제공하고, AR 기술은 실제 사물 영상 위에 가상으로 만들어진 CG 영상을 함께 제공하며, MR 기술은 현실 세계에 가상 객체들을 섞고 결합시켜서 제공하는 컴퓨터 그래픽 기술이다.
MR 기술은 현실 객체와 가상 객체를 함께 보여준다는 점에서 AR 기술과 유사하다. 그러나, AR 기술에서는 가상 객체가 현실 객체를 보완하는 형태로 사용되는 반면, MR 기술에서는 가상 객체와 현실 객체가 동등한 성격으로 사용된다는 점에서 차이점이 있다.
XR 기술은 HMD(Head-Mount Display), HUD(Head-Up Display), 휴대폰, 태블릿 PC, 랩탑, 데스크탑, TV, 디지털 사이니지 등에 적용될 수 있고, XR 기술이 적용된 장치를 XR 장치(XR Device)라 칭할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.
AI 장치(100)는 TV, 프로젝터, 휴대폰, 스마트폰, 데스크탑 컴퓨터, 노트북, 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 태블릿 PC, 웨어러블 장치, 셋톱박스(STB), DMB 수신기, 라디오, 세탁기, 냉장고, 데스크탑 컴퓨터, 디지털 사이니지, 로봇, 차량 등과 같은, 고정형 기기 또는 이동 가능한 기기 등으로 구현될 수 있다.
도 1을 참조하면, 단말기(100)는 통신부(110), 입력부(120), 러닝 프로세서(130), 센싱부(140), 출력부(150), 메모리(170) 및 프로세서(180) 등을 포함할 수 있다.
통신부(110)는 유무선 통신 기술을 이용하여 다른 AI 장치(100a 내지 100e)나 AI 서버(200) 등의 외부 장치들과 데이터를 송수신할 수 있다. 예컨대, 통신부(110)는 외부 장치들과 센서 정보, 사용자 입력, 학습 모델, 제어 신호 등을 송수신할 수 있다.
이때, 통신부(110)가 이용하는 통신 기술에는 GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), LTE(Long Term Evolution), 5G, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), 블루투스(Bluetooth쪠), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), ZigBee, NFC(Near Field Communication) 등이 있다.
입력부(120)는 다양한 종류의 데이터를 획득할 수 있다.
이때, 입력부(120)는 영상 신호 입력을 위한 카메라, 오디오 신호를 수신하기 위한 마이크로폰, 사용자로부터 정보를 입력 받기 위한 사용자 입력부 등을 포함할 수 있다. 여기서, 카메라나 마이크로폰을 센서로 취급하여, 카메라나 마이크로폰으로부터 획득한 신호를 센싱 데이터 또는 센서 정보라고 할 수도 있다.
입력부(120)는 모델 학습을 위한 학습 데이터 및 학습 모델을 이용하여 출력을 획득할 때 사용될 입력 데이터 등을 획득할 수 있다. 입력부(120)는 가공되지 않은 입력 데이터를 획득할 수도 있으며, 이 경우 프로세서(180) 또는 러닝 프로세서(130)는 입력 데이터에 대하여 전처리로써 입력 특징점(input feature)을 추출할 수 있다.
러닝 프로세서(130)는 학습 데이터를 이용하여 인공 신경망으로 구성된 모델을 학습시킬 수 있다. 여기서, 학습된 인공 신경망을 학습 모델이라 칭할 수 있다. 학습 모델은 학습 데이터가 아닌 새로운 입력 데이터에 대하여 결과 값을 추론해 내는데 사용될 수 있고, 추론된 값은 어떠한 동작을 수행하기 위한 판단의 기초로 이용될 수 있다.
이때, 러닝 프로세서(130)는 AI 서버(200)의 러닝 프로세서(240)과 함께 AI 프로세싱을 수행할 수 있다.
이때, 러닝 프로세서(130)는 AI 장치(100)에 통합되거나 구현된 메모리를 포함할 수 있다. 또는, 러닝 프로세서(130)는 메모리(170), AI 장치(100)에 직접 결합된 외부 메모리 또는 외부 장치에서 유지되는 메모리를 사용하여 구현될 수도 있다.
센싱부(140)는 다양한 센서들을 이용하여 AI 장치(100) 내부 정보, AI 장치(100)의 주변 환경 정보 및 사용자 정보 중 적어도 하나를 획득할 수 있다.
이때, 센싱부(140)에 포함되는 센서에는 근접 센서, 조도 센서, 가속도 센서, 자기 센서, 자이로 센서, 관성 센서, RGB 센서, IR 센서, 지문 인식 센서, 초음파 센서, 광 센서, 마이크로폰, 라이다, 레이더 등이 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시킬 수 있다.
이때, 출력부(150)에는 시각 정보를 출력하는 디스플레이부, 청각 정보를 출력하는 스피커, 촉각 정보를 출력하는 햅틱 모듈 등이 포함될 수 있다.
메모리(170)는 AI 장치(100)의 다양한 기능을 지원하는 데이터를 저장할 수 있다. 예컨대, 메모리(170)는 입력부(120)에서 획득한 입력 데이터, 학습 데이터, 학습 모델, 학습 히스토리 등을 저장할 수 있다.
프로세서(180)는 데이터 분석 알고리즘 또는 머신 러닝 알고리즘을 사용하여 결정되거나 생성된 정보에 기초하여, AI 장치(100)의 적어도 하나의 실행 가능한 동작을 결정할 수 있다. 그리고, 프로세서(180)는 AI 장치(100)의 구성 요소들을 제어하여 결정된 동작을 수행할 수 있다.
이를 위해, 프로세서(180)는 러닝 프로세서(130) 또는 메모리(170)의 데이터를 요청, 검색, 수신 또는 활용할 수 있고, 상기 적어도 하나의 실행 가능한 동작 중 예측되는 동작이나, 바람직한 것으로 판단되는 동작을 실행하도록 AI 장치(100)의 구성 요소들을 제어할 수 있다.
이때, 프로세서(180)는 결정된 동작을 수행하기 위하여 외부 장치의 연계가 필요한 경우, 해당 외부 장치를 제어하기 위한 제어 신호를 생성하고, 생성한 제어 신호를 해당 외부 장치에 전송할 수 있다.
프로세서(180)는 사용자 입력에 대하여 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 사용자의 요구 사항을 결정할 수 있다.
이때, 프로세서(180)는 음성 입력을 문자열로 변환하기 위한 STT(Speech To Text) 엔진 또는 자연어의 의도 정보를 획득하기 위한 자연어 처리(NLP: Natural Language Processing) 엔진 중에서 적어도 하나 이상을 이용하여, 사용자 입력에 상응하는 의도 정보를 획득할 수 있다.
이때, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 적어도 일부가 머신 러닝 알고리즘에 따라 학습된 인공 신경망으로 구성될 수 있다. 그리고, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 러닝 프로세서(130)에 의해 학습된 것이나, AI 서버(200)의 러닝 프로세서(240)에 의해 학습된 것이거나, 또는 이들의 분산 처리에 의해 학습된 것일 수 있다.
프로세서(180)는 AI 장치(100)의 동작 내용이나 동작에 대한 사용자의 피드백 등을 포함하는 이력 정보를 수집하여 메모리(170) 또는 러닝 프로세서(130)에 저장하거나, AI 서버(200) 등의 외부 장치에 전송할 수 있다. 수집된 이력 정보는 학습 모델을 갱신하는데 이용될 수 있다.
프로세서(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, AI 장치(100)의 구성 요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(180)는 상기 응용 프로그램의 구동을 위하여, AI 장치(100)에 포함된 구성 요소들 중 둘 이상을 서로 조합하여 동작시킬 수 있다.
도 2는 본 발명의 일 실시 예에 따른 AI 서버(200)를 나타낸다.
도 2를 참조하면, AI 서버(200)는 머신 러닝 알고리즘을 이용하여 인공 신경망을 학습시키거나 학습된 인공 신경망을 이용하는 장치를 의미할 수 있다. 여기서, AI 서버(200)는 복수의 서버들로 구성되어 분산 처리를 수행할 수도 있고, 5G 네트워크로 정의될 수 있다. 이때, AI 서버(200)는 AI 장치(100)의 일부의 구성으로 포함되어, AI 프로세싱 중 적어도 일부를 함께 수행할 수도 있다.
AI 서버(200)는 통신부(210), 메모리(230), 러닝 프로세서(240) 및 프로세서(260) 등을 포함할 수 있다.
통신부(210)는 AI 장치(100) 등의 외부 장치와 데이터를 송수신할 수 있다.
메모리(230)는 모델 저장부(231)를 포함할 수 있다. 모델 저장부(231)는 러닝 프로세서(240)을 통하여 학습 중인 또는 학습된 모델(또는 인공 신경망, 231a)을 저장할 수 있다.
러닝 프로세서(240)는 학습 데이터를 이용하여 인공 신경망(231a)을 학습시킬 수 있다. 학습 모델은 인공 신경망의 AI 서버(200)에 탑재된 상태에서 이용되거나, AI 장치(100) 등의 외부 장치에 탑재되어 이용될 수도 있다.
학습 모델은 하드웨어, 소프트웨어 또는 하드웨어와 소프트웨어의 조합으로 구현될 수 있다. 학습 모델의 일부 또는 전부가 소프트웨어로 구현되는 경우 학습 모델을 구성하는 하나 이상의 명령어(instruction)는 메모리(230)에 저장될 수 있다.
프로세서(260)는 학습 모델을 이용하여 새로운 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수 있다.
도 3은 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸다.
도 3을 참조하면, AI 시스템(1)은 AI 서버(200), 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 등을 AI 장치(100a 내지 100e)라 칭할 수 있다.
클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.
즉, AI 시스템(1)을 구성하는 각 장치들(100a 내지 100e, 200)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(100a 내지 100e, 200)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.
AI 서버(200)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.
AI 서버(200)는 AI 시스템(1)을 구성하는 AI 장치들인 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(100a 내지 100e)의 AI 프로세싱을 적어도 일부를 도울 수 있다.
이때, AI 서버(200)는 AI 장치(100a 내지 100e)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(100a 내지 100e)에 전송할 수 있다.
이때, AI 서버(200)는 AI 장치(100a 내지 100e)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(100a 내지 100e)로 전송할 수 있다.
또는, AI 장치(100a 내지 100e)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.
이하에서는, 상술한 기술이 적용되는 AI 장치(100a 내지 100e)의 다양한 실시 예들을 설명한다. 여기서, 도 3에 도시된 AI 장치(100a 내지 100e)는 도 1에 도시된 AI 장치(100)의 구체적인 실시 예로 볼 수 있다.
<AI+로봇>
로봇(100a)은 AI 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
로봇(100a)은 동작을 제어하기 위한 로봇 제어 모듈을 포함할 수 있고, 로봇 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다.
로봇(100a)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 로봇(100a)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 사용자 상호작용에 대한 응답을 결정하거나, 동작을 결정할 수 있다.
여기서, 로봇(100a)은 이동 경로 및 주행 계획을 결정하기 위하여, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
로봇(100a)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 로봇(100a)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 동작을 결정할 수 있다. 여기서, 학습 모델은 로봇(100a)에서 직접 학습되거나, AI 서버(200) 등의 외부 장치에서 학습된 것일 수 있다.
이때, 로봇(100a)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(200) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
로봇(100a)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 로봇(100a)을 주행시킬 수 있다.
맵 데이터에는 로봇(100a)이 이동하는 공간에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 벽, 문 등의 고정 객체들과 화분, 책상 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 로봇(100a)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이때, 로봇(100a)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+자율주행>
자율 주행 차량(100b)은 AI 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
자율 주행 차량(100b)은 자율 주행 기능을 제어하기 위한 자율 주행 제어 모듈을 포함할 수 있고, 자율 주행 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다. 자율 주행 제어 모듈은 자율 주행 차량(100b)의 구성으로써 내부에 포함될 수도 있지만, 자율 주행 차량(100b)의 외부에 별도의 하드웨어로 구성되어 연결될 수도 있다.
자율 주행 차량(100b)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 자율 주행 차량(100b)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 동작을 결정할 수 있다.
여기서, 자율 주행 차량(100b)은 이동 경로 및 주행 계획을 결정하기 위하여, 로봇(100a)과 마찬가지로, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
특히, 자율 주행 차량(100b)은 시야가 가려지는 영역이나 일정 거리 이상의 영역에 대한 환경이나 객체는 외부 장치들로부터 센서 정보를 수신하여 인식하거나, 외부 장치들로부터 직접 인식된 정보를 수신할 수 있다.
자율 주행 차량(100b)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 자율 주행 차량(100b)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 주행 동선을 결정할 수 있다. 여기서, 학습 모델은 자율 주행 차량(100b)에서 직접 학습되거나, AI 서버(200) 등의 외부 장치에서 학습된 것일 수 있다.
이때, 자율 주행 차량(100b)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(200) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
자율 주행 차량(100b)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 자율 주행 차량(100b)을 주행시킬 수 있다.
맵 데이터에는 자율 주행 차량(100b)이 주행하는 공간(예컨대, 도로)에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 가로등, 바위, 건물 등의 고정 객체들과 차량, 보행자 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 자율 주행 차량(100b)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이때, 자율 주행 차량(100b)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+XR>
XR 장치(100c)는 AI 기술이 적용되어, HMD(Head-Mount Display), 차량에 구비된 HUD(Head-Up Display), 텔레비전, 휴대폰, 스마트 폰, 컴퓨터, 웨어러블 디바이스, 가전 기기, 디지털 사이니지, 차량, 고정형 로봇이나 이동형 로봇 등으로 구현될 수 있다.
XR 장치(100c)는 다양한 센서들을 통해 또는 외부 장치로부터 획득한 3차원 포인트 클라우드 데이터 또는 이미지 데이터를 분석하여 3차원 포인트들에 대한 위치 데이터 및 속성 데이터를 생성함으로써 주변 공간 또는 현실 객체에 대한 정보를 획득하고, 출력할 XR 객체를 렌더링하여 출력할 수 있다. 예컨대, XR 장치(100c)는 인식된 물체에 대한 추가 정보를 포함하는 XR 객체를 해당 인식된 물체에 대응시켜 출력할 수 있다.
XR 장치(100c)는 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, XR 장치(100c)는 학습 모델을 이용하여 3차원 포인트 클라우드 데이터 또는 이미지 데이터에서 현실 객체를 인식할 수 있고, 인식한 현실 객체에 상응하는 정보를 제공할 수 있다. 여기서, 학습 모델은 XR 장치(100c)에서 직접 학습되거나, AI 서버(200) 등의 외부 장치에서 학습된 것일 수 있다.
이때, XR 장치(100c)는 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(200) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
<AI+로봇+자율주행>
로봇(100a)은 AI 기술 및 자율 주행 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
AI 기술과 자율 주행 기술이 적용된 로봇(100a)은 자율 주행 기능을 가진 로봇 자체나, 자율 주행 차량(100b)과 상호작용하는 로봇(100a) 등을 의미할 수 있다.
자율 주행 기능을 가진 로봇(100a)은 사용자의 제어 없이도 주어진 동선에 따라 스스로 움직이거나, 동선을 스스로 결정하여 움직이는 장치들을 통칭할 수 있다.
자율 주행 기능을 가진 로봇(100a) 및 자율 주행 차량(100b)은 이동 경로 또는 주행 계획 중 하나 이상을 결정하기 위해 공통적인 센싱 방법을 사용할 수 있다. 예컨대, 자율 주행 기능을 가진 로봇(100a) 및 자율 주행 차량(100b)은 라이다, 레이더, 카메라를 통해 센싱된 정보를 이용하여, 이동 경로 또는 주행 계획 중 하나 이상을 결정할 수 있다.
자율 주행 차량(100b)과 상호작용하는 로봇(100a)은 자율 주행 차량(100b)과 별개로 존재하면서, 자율 주행 차량(100b)의 내부에서 자율 주행 기능에 연계되거나, 자율 주행 차량(100b)에 탑승한 사용자와 연계된 동작을 수행할 수 있다.
이때, 자율 주행 차량(100b)과 상호작용하는 로봇(100a)은 자율 주행 차량(100b)을 대신하여 센서 정보를 획득하여 자율 주행 차량(100b)에 제공하거나, 센서 정보를 획득하고 주변 환경 정보 또는 객체 정보를 생성하여 자율 주행 차량(100b)에 제공함으로써, 자율 주행 차량(100b)의 자율 주행 기능을 제어하거나 보조할 수 있다.
또는, 자율 주행 차량(100b)과 상호작용하는 로봇(100a)은 자율 주행 차량(100b)에 탑승한 사용자를 모니터링하거나 사용자와의 상호작용을 통해 자율 주행 차량(100b)의 기능을 제어할 수 있다. 예컨대, 로봇(100a)은 운전자가 졸음 상태인 경우로 판단되는 경우, 자율 주행 차량(100b)의 자율 주행 기능을 활성화하거나 자율 주행 차량(100b)의 구동부의 제어를 보조할 수 있다. 여기서, 로봇(100a)이 제어하는 자율 주행 차량(100b)의 기능에는 단순히 자율 주행 기능뿐만 아니라, 자율 주행 차량(100b)의 내부에 구비된 네비게이션 시스템이나 오디오 시스템에서 제공하는 기능도 포함될 수 있다.
또는, 자율 주행 차량(100b)과 상호작용하는 로봇(100a)은 자율 주행 차량(100b)의 외부에서 자율 주행 차량(100b)에 정보를 제공하거나 기능을 보조할 수 있다. 예컨대, 로봇(100a)은 스마트 신호등과 같이 자율 주행 차량(100b)에 신호 정보 등을 포함하는 교통 정보를 제공할 수도 있고, 전기 차량의 자동 전기 충전기와 같이 자율 주행 차량(100b)과 상호작용하여 충전구에 전기 충전기를 자동으로 연결할 수도 있다.
<AI+로봇+XR>
로봇(100a)은 AI 기술 및 XR 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇, 드론 등으로 구현될 수 있다.
XR 기술이 적용된 로봇(100a)은 XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇을 의미할 수 있다. 이 경우, 로봇(100a)은 XR 장치(100c)와 구분되며 서로 연동될 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇(100a)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 로봇(100a) 또는 XR 장치(100c)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(100c)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 로봇(100a)은 XR 장치(100c)를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
예컨대, 사용자는 XR 장치(100c) 등의 외부 장치를 통해 원격으로 연동된 로봇(100a)의 시점에 상응하는 XR 영상을 확인할 수 있고, 상호작용을 통하여 로봇(100a)의 자율 주행 경로를 조정하거나, 동작 또는 주행을 제어하거나, 주변 객체의 정보를 확인할 수 있다.
<AI+자율주행+XR>
자율 주행 차량(100b)은 AI 기술 및 XR 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
XR 기술이 적용된 자율 주행 차량(100b)은 XR 영상을 제공하는 수단을 구비한 자율 주행 차량이나, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율 주행 차량 등을 의미할 수 있다. 특히, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율 주행 차량(100b)은 XR 장치(100c)와 구분되며 서로 연동될 수 있다.
XR 영상을 제공하는 수단을 구비한 자율 주행 차량(100b)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하고, 획득한 센서 정보에 기초하여 생성된 XR 영상을 출력할 수 있다. 예컨대, 자율 주행 차량(100b)은 HUD를 구비하여 XR 영상을 출력함으로써, 탑승자에게 현실 객체 또는 화면 속의 객체에 대응되는 XR 객체를 제공할 수 있다.
이때, XR 객체가 HUD에 출력되는 경우에는 XR 객체의 적어도 일부가 탑승자의 시선이 향하는 실제 객체에 오버랩되도록 출력될 수 있다. 반면, XR 객체가 자율 주행 차량(100b)의 내부에 구비되는 디스플레이에 출력되는 경우에는 XR 객체의 적어도 일부가 화면 속의 객체에 오버랩되도록 출력될 수 있다. 예컨대, 자율 주행 차량(100b)은 차로, 타 차량, 신호등, 교통 표지판, 이륜차, 보행자, 건물 등과 같은 객체와 대응되는 XR 객체들을 출력할 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 자율 주행 차량(100b)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 자율 주행 차량(100b) 또는 XR 장치(100c)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(100c)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 자율 주행 차량(100b)은 XR 장치(100c) 등의 외부 장치를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
도 4는 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.
도 1과 중복되는 설명은 생략한다.
도 4를 참조하면, 입력부(120)는 영상 신호 입력을 위한 카메라(Camera, 121), 오디오 신호를 수신하기 위한 마이크로폰(Microphone, 122), 사용자로부터 정보를 입력 받기 위한 사용자 입력부(User Input Unit, 123)를 포함할 수 있다.
입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어 명령으로 처리될 수 있다.
입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, AI 장치(100)는 하나 또는 복수의 카메라(121)들을 구비할 수 있다.
카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(Display Unit, 151)에 표시되거나 메모리(170)에 저장될 수 있다.
마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 AI 장치(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 적용될 수 있다.
사용자 입력부(123)는 사용자로부터 정보를 입력 받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 프로세서(180)는 입력된 정보에 대응되도록 AI 장치(100)의 동작을 제어할 수 있다.
사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예컨대, 단말기(100)의 전/후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다.
출력부(150)는 디스플레이부(Display Unit, 151), 음향 출력부(Sound Output Unit, 152), 햅틱 모듈(Haptic Module, 153), 광 출력부(Optical Output Unit, 154) 중 적어도 하나를 포함할 수 있다.
디스플레이부(151)는 AI 장치(100)에서 처리되는 정보를 표시(출력)한다. 예컨대, 디스플레이부(151)는 AI 장치(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, AI 장치(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다.
음향 출력부(152)는 리시버(receiver), 스피커(speaker), 버저(buzzer) 중 적어도 하나 이상을 포함할 수 있다.
햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다.
광출력부(154)는 AI 장치(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. AI 장치(100)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
도 5는 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸 도면이다.
도 5를 참조하면, 본 발명의 일 실시 예에 따른 AI 시스템(1)은 AI 장치(100), AI 서버(200) 및 디스플레이 장치(300)를 포함할 수 있다.
AI 장치(100), AI 서버(200) 또는 디스플레이 장치(300) 중에서 적어도 하나 이상은 서로 유무선 통신 기술을 이용하여 서로 통신할 수 있다.
이때, 각 장치들(100, 200, 300)은 기지국, 라우터 등을 통하여 서로 통신할 수도 있지만, 근거리 통신 기술 등을 이용하여 직접 서로 통신할 수도 있다.
예컨대, 각 장치들(100, 200, 300)은 5G(5th generation) 통신을 이용하여 기지국을 통하거나 또는 직접 서로 통신할 수 있다.
AI 장치(100)는 디스플레이 장치(300)의 디스플레이 패널에 대하여 왜곡이 발생하는지 여부를 판단하고, 왜곡을 조정하는 설정 값들을 결정하여 디스플레이 장치(300)에 전송함으로써, 디스플레이 장치(300)의 디스플레이 패널의 왜곡을 바로잡을 수 있다.
여기서, 디스플레이 패널의 왜곡은 디스플레이 패널의 색상의 왜곡 또는 위치의 왜곡 등을 포함한다.
디스플레이 패널의 색상의 왜곡은 복수의 디스플레이 패널들이 연결되어 하나의 디스플레이 패널을 구성하는 경우에, 각 디스플레이 패널 사이의 색상의 왜곡을 의미할 수도 있지만, 하나의 디스플레이 패널 내에서 각 디스플레이 소자 사이에 발생하는 색상의 왜곡을 포함할 수도 있다.
특히, 플렉서블 디스플레이 패널에서는 각 디스플레이 소자에 색상의 왜곡이 없다고 하더라도, 디스플레이 패널의 굴곡으로 인하여 관측자에게는 색상의 왜곡이 있는 것으로 관찰될 수 있으므로, 이 또한 색상의 왜곡이라 볼 수 있다.
디스플레이 패널의 색상의 왜곡에는 색 온도의 왜곡이나 휘도의 왜곡 등이 포함될 수 있다.
마찬가지로, 디스플레이 패널의 위치의 왜곡은 복수의 디스플레이 패널들이 연결되어 하나의 디스플레이 패널 그룹을 구성하는 경우에, 각 디스플레이 패널 사이의 배치 또는 정렬의 왜곡을 의미할 수 있다. 이하에서, 디스플레이 패널은 특별한 구분이 없는 한 디스플레이 패널 그룹을 포함한다.
AI 장치(100)는 디스플레이 장치(300)의 디스플레이 패널에 대한 촬영 이미지를 이용하여 디스플레이 패널에 존재하는 색상의 왜곡이나 위치의 왜곡을 판단하고, 왜곡을 바로잡기 위한 조정 값을 결정하여 디스플레이 장치(300)에 전송할 수 있다. 그리고, AI 장치(100)는 다시 디스플레이 장치(300)의 디스플레이 패널에 대한 촬영 이미지를 이용하여 디스플레이 패널에 대한 재조정을 수행할 수 있다.
이때, AI 장치(100)는 고정된 장치일 수도 있지만, 로봇 청소기나 안내 로봇 등과 같이 이동 가능한 로봇일 수도 있다.
AI 서버(200)는 AI 장치(100)로부터 디스플레이 장치(300)의 디스플레이 패널을 조정하는데 이용할 데이터를 수신하고, 수신한 데이터를 기초로 디스플레이 패널의 조정을 위한 설정 값들을 결정할 수 있다.
디스플레이 장치(300)는 디스플레이 패널, 프로세서 (또는 디스플레이 컨트롤러), 통신부를 포함하고, 디스플레이 패널을 통해 이미지를 출력할 수 있다.
디스플레이 장치(300)는 롤러블 디스플레이, 플렉서블 디스플레이, 마이크로 LED 디스플레이, LCD 등을 포함한다.
도 5에서는 AI 장치(100)와 디스플레이 장치(300)가 서로 구분되는 구성으로 도시되어 있지만, 본 발명이 이에 한정되지는 않는다. 즉, 다른 실시 예에서는 AI 장치(100)가 AI 기능을 구비한 디스플레이 장치를 의미하며, 도 5의 AI 장치(100)와 디스플레이 장치(300)가 하나로 구성될 수 있다. 이 경우, AI 장치(100)의 프로세서(180)는 자신의 디스플레이 패널 또는 디스플레이부(151)를 조정할 수 있다.
도 6은 본 발명의 일 실시 예에 따른 디스플레이 패널의 색상을 조정하는 방법을 나타낸 동작 흐름도이다.
도 6을 참조하면, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 패널에 색상 조정 이미지를 출력하는 신호를 전송한다(S601).
디스플레이 패널은 인공 지능 장치(100)에 포함된 디스플레이부(151)를 의미할 수도 있고, 외부의 디스플레이 장치(300)의 디스플레이 패널을 의미할 수도 있다.
디스플레이 패널은 LCD 패널, LED 패널 등의 다양한 패널을 포함한다.
디스플레이 패널이 인공 지능 장치(100)에 포함된 디스플레이부(151)를 의미하는 경우, 프로세서(180)는 직접 디스플레이부(151)에 색상 조정 이미지를 출력하는 신호를 전송할 수 있다.
디스플레이 패널이 외부 디스플레이 장치(300)에 포함된 디스플레이부를 의미하는 경우, 프로세서(180)는 통신부(110)를 통해 디스플레이 장치(300)에 색상 조정 이미지를 출력하는 신호를 전송할 수 있다.
색상 조정 이미지는 디스플레이 패널의 색상을 조정할 때 이용하는 이미지로, 디스플레이 패널의 색상 조정을 용이하게 수행할 수 있도록 단색으로 이루어진 이미지를 의미할 수 있다.
디스플레이 패널의 색상을 조정함에 있어서 색상 조정 이미지를 출력하는 것은 필수는 아니지만, 디스플레이 패널의 모든 영역에서 동일한 색상을 출력하게 되는 경우 보다 높은 정확도로 색상을 조정할 수 있다.
즉, 본 발명은 색상 조정 이미지를 출력하지 않으면서도 색상을 조정할 수 있으며, 따라서 본 발명은 별도의 색상 조정 이미지를 출력하지 않으면서도 디스플레이 패널의 색상을 조정하는 방법까지 포괄한다.
또한, 본 발명에서 색상 조정 이미지는 단색으로 이루어진 이미지만으로 한정되지 않는다. 구체적으로, 다양한 색상에 대한 색상 왜곡을 판단하기 위하여, 색상 조정 이미지가 모든 영역이 동일한 색상을 가지면서 그 색상이 시간이 변함에 따라 지속적으로 변하는 이미지일 수도 있으며, 모든 영역이 동일하지 않은 색상을 갖는 이미지일 수도 있다.
만약, 인공 지능 장치(100)의 프로세서(180)가 디스플레이 패널에 색상 조정 이미지를 출력하도록 제어하면서 디스플레이 패널의 색상을 조정하고자 하는 경우라면, 출력되는 색상 조정 이미지에 대한 정보를 갖고 있다.
만약, 인공 지능 장치(100)의 프로세서(180)가 디스플레이 패널에 색상 조정 이미지를 출력하지 않은 상태로 디스플레이 패널의 색상을 조정하고자 하는 경우라면, 디스플레이 패널에 출력되는 이미지 데이터를 획득할 수 있다.
그리고, 색상 조정 이미지를 포함하는, 디스플레이 패널에서 출력되는 이미지는 디스플레이 패널의 색상을 조정하는데 이용하는 레퍼런스 이미지로 사용될 수 있고, 이하에서 제1 레퍼런스 이미지 또는 색상 레퍼런스 이미지라 칭할 수 있다. 그리고, 제1 레퍼런스 이미지에 상응하는 데이터를 제1 레퍼런스 이미지 데이터 또는 색상 레퍼런스 이미지 데이터라 칭할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 카메라(121)를 통해 디스플레이 패널에 대한 촬영 이미지를 획득한다(S603).
카메라(121)는 RGB 카메라이고, 촬영 이미지는 RGB 이미지일 수 있다. 이하에서, 촬영 이미지에 상응하는 데이터를 촬영 이미지 데이터라 칭할 수 있다.
카메라(121)는 색상 조정의 대상이 되는 디스플레이 패널을 바라보는 고정된 위치에 설치되어 고정된 시점을 가질 수도 있지만, 인공 지능 장치(100)의 몸체에 설치되고 인공 지능 장치(100)가 이동함에 따라 시점이 변동될 수도 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 직사각형 모양으로 변환한다(S605).
카메라(121)의 시점이 디스플레이 패널의 중심 높이에서 중심을 바라보는 경우라면 촬영 이미지에 포함된 디스플레이 패널은 직사각형 모양일 수 있으나, 카메라(121)의 시점이 디스플레이 패널을 정면 중앙에서 바라보는 것이 아니라면 촬영 이미지에 포함된 디스플레이 패널은 마름모와 같이 직사각형 모양이 아닐 수 있다.
프로세서(180)는 촬영 이미지에서 디스플레이 패널의 영역이 직사각형이 아닌 경우, 디스플레이 패널의 영역이 직사각형 모양이 되도록 촬영 이미지를 변환할 수 있다.
이때, 프로세서(180)는 획득한 촬영 이미지에서 디스플레이 패널에 상응하는 영역만을 남기고, 이를 직사각형 모양으로 변환할 수 있다.
또는, 프로세서(180)는 획득한 촬영 이미지에 포함된 디스플레이 패널이 직사각형 모양이 되도록 획득한 촬영 이미지를 변환하고, 변환된 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 제외한 영역을 제거할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지와 제1 레퍼런스 이미지를 이용하여 미리 설정된 단위별로 디스플레이 패널에 대한 제1 오프셋을 산출한다(S607).
디스플레이 패널에 대한 미리 설정된 단위에는 디스플레이 패널을 구성하는 픽셀이 포함될 수 있다.
만약, 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 경우, 상기한 디스플레이 패널은 디스플레이 패널 그룹을 의미한다. 이 경우, 디스플레이 패널(디스플레이 패널 그룹)에 대한 미리 설정된 단위에는 디스플레이 패널 그룹을 구성하는 단위 디스플레이 패널이 포함될 수 있다.
즉, 디스플레이 패널의 색상 왜곡은 단일한 디스플레이 패널을 구성하는 단위 픽셀들 사이에도 발생할 수 있으며, 단일한 디스플레이 패널 그룹을 구성하는 단위 디스플레이 패널들 사이에서도 발생할 수 있다.
제1 오프셋은 촬영 이미지와 제1 레퍼런스 이미지 사이의 색상 또는 밝기 차이를 의미할 수 있으며, 미리 설정된 단위별로 계산될 수 있다. 그리고, 제1 오프셋은 미리 설정된 단위별 위치와 해당 위치에서의 색상 또는 밝기의 차이를 포함할 수 있다.
예컨대, 프로세서(180)는 디스플레이 패널의 각 단위 픽셀에 상응하는 제1 오프셋을 결정할 수 있다. 또는, 프로세서(180)는 디스플레이 패널 그룹의 각 단위 디스플레이 패널에 상응하는 제1 오프셋을 결정할 수 있다.
제1 오프셋은 색상 오프셋을 의미할 수 있다.
여기서, 촬영 이미지의 색상과 제1 레퍼런스 이미지의 색상은 HSV 모델, RGB 모델, YCbCr 모델 등을 이용하여 표현될 수 있다.
이때, 프로세서(180)는 제1 레퍼런스 이미지와 촬영 이미지를 맵핑(mapping)하고, 맵핑 정보를 이용하여 제1 오프셋을 결정할 수 있다.
맵핑 정보에는 제1 레퍼런스 이미지에 상응하는 설정 값과 촬영 이미지에 상응하는 측정 값이 포함될 수 있다.
그리고, 프로세서(180)는 제1 오프셋을 이용하여 디스플레이 패널에 대한 제1 조정 값을 결정한다(S609).
제1 조정 값은 디스플레이 패널이 이미지를 출력할 때, 입력된 색상 값 또는 밝기 값에 추가적으로 연산되는 보정/조정 값을 의미하며, 미리 설정된 단위별로 계산될 수 있다. 그리고, 제1 조정 값은 미리 설정된 단위별 위치와 해당 위치에서의 색상 또는 밝기의 조정 값을 포함할 수 있다.
예컨대, 프로세서(180)는 디스플레이 패널의 각 단위 픽셀에 상응하는 제1 조정 값을 결정할 수 있다. 또는, 프로세서(180)는 디스플레이 패널 그룹의 각 단위 디스플레이 패널에 상응하는 제1 조정 값을 결정할 수 있다.
이때, 제1 조정 값은 디스플레이 패널에서 입력된 색상 값 또는 밝기 값에 더해질 수도 있지만, 곱해질 수도 있으며, 그 조합도 가능하다.
일 실시 예에서, 프로세서(180)는 0을 기준으로 제1 조정 값들을 계산할 수 있다. 이는, 디스플레이 패널이 레퍼런스 이미지의 색상과 밝기를 최대한 정확히 출력하도록 조정하는 상황을 가리킬 수 있다.
예컨대, 제1 오프셋 내에 4개 단위에 대한 오프셋 값들 (0, 1, -2, 5)이 포함된 경우라면, 프로세서(180)는 0에 대하여 각 오프셋 값들을 뺌으로써 제1 조정 값 (0, -1, 2, -5)을 결정할 수 있다.
일 실시 예에서, 프로세서(180)는 제1 오프셋의 평균값을 기준으로 제1 조정 값들을 결정할 수 있다. 이는, 디스플레이 패널이 최소의 조정 값으로 모든 영역에서 국부 왜곡 없이 출력되도록 조정하는 상황을 가리킬 수 있다. 다만, 이 경우에는 디스플레이 패널이 레퍼런스 이미지의 색상과 밝기를 정확히 출력하지 못하고, 일정한 편향을 갖고 색상이나 밝기를 다르게 출력할 수 있다.
예컨대, 제1 오프셋 내에 4개 단위에 대한 오프셋 값들 (0, 1, -2, 5)이 포함된 경우라면, 프로세서(180)는 4개의 오프셋 값들의 평균 값 1을 계산하고, 계산된 평균에 대하여 각 오프셋 값들을 뺌으로써 제1 조정 값 (1, 0, 3, -4)을 결정할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 패널에 결정된 제1 조정 값을 전송한다(S611).
여기서, 조정 값 또는 제1 조정 값은 디스플레이 패널의 출력 색상 조정 값을 의미한다.
프로세서(180)는 디스플레이 패널에 제1 조정 값을 전송하여 디스플레이 패널의 출력 값을 조정함으로써 색상의 왜곡을 제거할 수 있다. 또는, 프로세서(180)는 디스플레이 패널을 제어하는 컨트롤러에 제1 조정 값을 전송할 수 있다.
만약, 이미 디스플레이 패널에 왜곡 제거를 위한 조정 값이 존재하는 경우라면, 디스플레이 패널 또는 디스플레이 패널의 컨트롤러는 이미 존재하던 조정 값에 수신한 제1 조정 값을 반영할 수 있다.
또는, 프로세서(180)는 이전에 제1 조정 값을 결정한 이력이 있다면, 이전에 결정되었던 제1 조정 값과 현재 결정된 제1 조정 값을 함께 반영하여 새로운 제1 조정 값을 결정하고, 새로 결정된 제1 조정 값을 디스플레이 패널에 전송할 수 있다. 이 경우, 디스플레이 패널은 이전의 조정 값들을 고려할 필요 없이, 프로세서(180)가 전송해주는 조정 값을 바로 적용하는 것만으로도 색상 왜곡을 제거하는 조정을 수행 수 있다.
도 6은 디스플레이 패널의 색상을 조정하는 단계들(S601 내지 S611)을 1사이클만 수행하는 것으로 나타내었지만, 상기 디스플레이 패널의 색상을 조정하는 단계들(S601 내지 S611)은 복수의 사이클이 수행될 수 있다.
보다 구체적으로, 디스플레이 패널의 색상을 조정하는 단계들(S601 내지 S611)은 반복적으로 수행될 수 있으며, 제1 오프셋이 미리 설정된 기준 값보다 작은 경우에는 상기 반복을 중단할 수 있다.
도 7은 도 6에 도시된 촬영 이미지를 획득하는 단계(S603)의 일 예를 나타낸 동작 흐름도이다.
도 7을 참조하면, 인공 지능 장치(100)의 프로세서(180)는 카메라(121)를 통해 미리 지정된 카메라 설정 값을 이용하여 촬영 이미지를 획득한다(S701).
이때, 카메라(121)는 항상 동일한 카메라 설정 값을 이용하여 촬영 이미지를 획득할 수 있다. 여기서, 카메라 설정 값에는 셔터 속도, 조리개, ISO, 화이트밸런스 등이 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지 획득 시점의 컨텍스트 정보를 획득한다(S703).
여기서, 컨텍스트 정보에는 날씨 정보, 날짜와 시각을 포함하는 촬영 시점 정보, 조도 정보 등이 포함될 수 있다.
프로세서(180)는 통신부(110)를 통해 인공 지능 서버(200) 또는 다른 외부 서버(미도시)로부터 날씨 정보를 수신할 수 있다.
프로세서(180)는 통신부(110)를 통해 인공 지능 서버(200) 또는 다른 외부 서버(미도시)로부터 촬영 시점 정보를 수신할 수도 있고, 프로세서(180)에 내장된 시계를 이용하여 촬영 시점 정보를 획득할 수도 있다.
프로세서(180)는 센서부(140)를 통해 조도 정보를 획득할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 획득한 컨텍스트 정보를 이용하여 촬영 이미지를 표준화된 이미지로 변환한다(S705).
표준화된 이미지는 표준 컨텍스트 정보에 상응하는 상황에서 획득한 촬영 이미지를 의미할 수 있다.
예컨대, 표준화된 이미지는 맑은 날씨의 미리 설정된 조도를 갖는 미리 설정된 시점에 획득한 촬영 이미지를 의미할 수 있다. 이 경우, 표준 컨텍스트 정보에는 맑은 날씨, 미리 설정된 시점, 미리 설정된 조도 등으로 구성될 수 있다.
즉, 촬영 이미지를 표준화된 이미지로 변환한다는 것은 촬영 이미지의 명도/채도/색상을 조정하거나, 노이즈를 제거하는 행위를 의미할 수 있다.
프로세서(180)는 머신 러닝 알고리즘 또는 딥 러닝 알고리즘을 이용하여 학습된 이미지 변환 모델을 이용하여 촬영 이미지로부터 표준화된 이미지를 생성할 수 있다.
이때, 이미지 변환 모델은 촬영 이미지와 컨텍스트 정보가 입력되면 표준화된 이미지를 출력하는 모델일 수 있다. 또는, 이미지 변환 모델은 컨텍스트 정보가 입력되면 촬영 이미지로부터 표준화된 이미지로 변환하기 위한 변환 파라미터들을 출력하는 모델일 수 있다.
이때, 프로세서(180)는 인공 지능 장치(100)의 러닝 프로세서(130)에서 학습된 이미지 변환 모델을 이용할 수도 있고, 인공 지능 서버(200)의 러닝 프로세서(240)에서 학습된 이미지 변환 모델을 이용할 수도 있다.
이미지 변환 모델은 인공 지능 장치(100)의 메모리(170)에 저장되어 이용될 수도 있고, 인공 지능 서버(200)의 메모리(230)에 저장되어 이용될 수도 있다.
이미지 변환 모델은 제1 레퍼런스 이미지를 이용하여 학습될 수 있다.
예컨대, 이미지 변환 모델은 인공 신경망으로 구성되고, 컨텍스트 정보와 제1 레퍼런스 이미지가 입력되면 제1 레퍼런스 이미지를 변환한 이미지를 출력할 수 있다. 그리고, 비용 함수는 제1 레퍼런스 이미지를 표준 컨텍스트 정보에 상응하는 환경에서 촬영한 이미지와 변환한 이미지의 차이를 나타내는 함수일 수 있다. 이 경우, 이미지 변환 모델은 임의의 컨텍스트 정보에 대하여도 표준 컨텍스트 정보에 상응하는 환경에서 촬영된 이미지와 가장 유사하도록 변환하도록 학습될 수 있다.
도 8은 본 발명의 일 실시 예에 따른 이미지 변환 모델을 나타낸 도면이다.
도 8을 참조하면, 이미지 변환 모델(805)은 인공 신경망으로 구성될 수 있다.
이미지 변환 모델(805)은 디스플레이 패널을 촬영한 촬영 이미지(801)와 촬영 시점의 컨텍스트 정보(802, 803 및 804)가 입력되면, 표준화된 이미지(806)가 출력할 수 있다.
컨텍스트 정보에는 시각 정보(802), 날씨 정보(803), 조도 정보(804) 등이 포함될 수 있다.
상술한 바와 같이, 이미지 변환 모델(805)은 제1 레퍼런스 이미지를 이용하여 학습될 수 있다.
구체적으로, 이미지 변환 모델(805)은 여러 상황에서 제1 레퍼런스 이미지를 촬영한 이미지를 상기 표준 컨텍스트 정보에 상응하는 상황에서 제1 레퍼런스 이미지를 촬영한 이미지와 최대한 유사하게 변환하도록 학습될 수 있다. 이 경우, 인공 신경망의 비용 함수는 변환된 이미지와 표준 컨텍스트 정보에 상응하는 상황에서 촬영된 이미지 사이의 차이를 나타내는 함수일 수 있다.
도 9는 도 6에 도시된 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 직사각형 모양으로 변환하는 단계(S605)의 일 예를 나타낸 동작 흐름도이다.
도 9를 참조하면, 인공 지능 장치(100)의 프로세서(180)는 획득한 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 추출한다(S901).
이때, 프로세서(180)는 획득한 촬영 이미지에서 제1 레퍼런스 이미지를 인식하고, 그 범위를 판단함으로써 디스플레이 패널에 상응하는 영역을 추출할 수 있다.
다만, 획득한 촬영 이미지에는 제1 레퍼런스 이미지가 왜곡된 상태로 포함되므로, 일정 수준 이상의 유사도를 갖는지 여부를 기초로 디스플레이 패널에 상응하는 영역을 추출할 수 있다.
이때, 프로세서(180)는 머신 러닝 알고리즘 또는 딥 러닝 알고리즘을 이용하여 학습된 인공 신경망으로 구성된 객체 인식 모델을 이용하여, 획득한 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 추출할 수도 있다.
예컨대, 객체 인식 모델은 합성곱 신경망(CNN)을 포함하여 구성될 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 추출된 영역에 기초하여 카메라(121)의 위치와 촬영 방향을 결정한다(S903).
카메라(121)의 위치는 디스플레이 패널과의 상대적인 위치를 의미할 수 있다.
예컨대, 추출된 디스플레이 패널에 상응하는 영역이 직사각형이라면, 프로세서(180)는 카메라(121)가 디스플레이 패널의 중앙 정면에 위치하며, 디스플레이 패널을 정면으로 바라보고 있다고 결정할 수 있다.
예컨대, 추출된 디스플레이 패널의 영역이 마름모라면, 프로세서(180)는 카메라(121)가 디스플레이 패널을 기준으로 중앙 가로축 또는 중앙 세로축에 위치하며, 카메라(121)가 자신이 위치하는 상기 중앙 가로축 또는 상기 중앙 세로축 방향으로 디스플레이 패널을 바라보고 있다고 결정할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 카메라의 위치와 촬영 방향을 고려하여 촬영 이미지의 크기를 변환한다(S905).
촬영 이미지의 크기라 함은 파일의 용량의 크기를 의미하는 것이 아니라, 가로 길이나 세로 길이와 같이 길이를 크기를 의미한다.
프로세서(180)는 카메라(121)의 위치와 촬영 방향을 고려하여 촬영 이미지에 포함된 디스플레이 패널에 상응하는 영역이 직사각형 모양을 갖도록 촬영 이미지의 크기를 변환할 수 있다. 이는, 카메라(121)가 디스플레이 패널의 정면 중앙에서 디스플레이 패널을 정면으로 바라보는 상황에서의 촬영 이미지를 생성하는 과정으로 볼 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 카메라의 위치와 촬영 방향을 고려하여 촬영 이미지의 색상과 밝기를 조절한다(S907).
상기 단계(S905)에 따라 촬영 이미지의 크기를 변환시키게 되는 경우, 확대되는 영역이나 축소되는 영역이 발생할 수 있다. 확대되는 영역이나 축소되는 영역과 같이 크기가 변하는 영역은 색상이나 밝기에 왜곡이 발생하므로, 이를 바로잡는 보정이 필요하다.
또한, 카메라(121)의 시점을 디스플레이 패널의 정면 중앙으로 이동시키는 경우, 카메라(121)에서 디스플레이 패널의 각 지점들(예컨대, 픽셀들)까지의 거리가 변동되므로, 촬영 이미지에 포함된 디스플레이 패널에 상응하는 영역의 각 픽셀들에 대한 밝기의 보정이 필요하다.
따라서, 프로세서(180)는 획득한 촬영 이미지에 포함된 디스플레이 패널에 상응하는 영역의 모양에 기초하여 카메라(121)과 디스플레이 패널 사이의 상대적 위치를 결정하고, 결정한 상대적 위치에 기초하여 촬영 이미지를 변환할 때 각 픽셀의 색상과 밝기를 보정할 수 있다.
일 실시 예에서, 상기 촬영 이미지의 크기를 변환하는 단계(S905)와 상기 촬영 이미지의 색상과 밝기를 조절하는 단계(S907)는 병렬적으로 수행될 수 있다.
일 실시 예에서, 상기 촬영 이미지의 색상과 밝기를 조절하는 단계(S907)가 먼저 수행되고, 상기 촬영 이미지의 크기를 변환하는 단계(S905)가 수행될 수 있다.
도 10은 본 발명의 일 실시 예에 따른 디스플레이 장치를 나타낸 도면이다.
도 10을 참조하면, 디스플레이 장치(910)는 복수의 디스플레이 패널들(1011, 1012, 1013 및 1014)로 구성된 하나의 디스플레이 패널 그룹을 포함할 수 있다.
도 10에서는 디스플레이 장치(1010)가 디지털 사이니지로 도시되어 있으나, 본 발명은 이에 한정되지는 않는다.
또한, 도 10에서는 디스플레이 장치(1010)가 복수의 디스플레이 패널이 하나의 디스플레이 패널 그룹을 구성하도록 도시되어 있으나, 본 발명은 이에 한정되지 않는다.
도 11은 본 발명의 일 실시 예에 따른 디스플레이 패널에 대한 색상의 왜곡을 제거하는 방법을 나타낸 도면이다.
도 11을 참조하면, 인공 지능 장치(100)의 카메라(1110)가 디스플레이 장치(1120)에 대한 이미지를 촬영하며, 이는 상술한 촬영 이미지라 칭할 수 있다.
디스플레이 장치(1120)는 복수의 디스플레이 패널들(1121, 1122, 1123 및 1124)가 하나의 디스플레이 패널 그룹을 구성하고 있다.
인공 지능 장치(100)는 디스플레이 장치(1120)에 대하여 색상의 조정을 위한 제1 레퍼런스 이미지(1140)을 출력하도록 제어 신호를 전송하고, 제1 레퍼런스 이미지(1140)를 출력할 수 있다. 여기서, 제1 레퍼런스 이미지는 모든 영역(1141, 1142, 1143, 1144)에서 Hue 20, Value 30, Saturation 50을 갖는 단색의 이미지일 수 있다. 여기서, 영역들이란 각 단위 디스플레이 패널들(1121, 1122, 1123 및 1124)에 상응하는 이미지 영역들을 의미할 수 있다.
그러나, 인공 지능 장치(100)의 카메라(1110)가 획득한 촬영 이미지(1130)는 제1 레퍼런스 이미지(1140)와는 차이가 발생할 수 있다.
구체적으로, 총 4개의 영역들(1131, 1132, 1133 및 1134) 중에서 제1 영역(1131), 제2 영역(1132) 및 제3 영역(1133)에서는 제1 레퍼런스 이미지(1140)의 대응되는 제1 내지 제3 영역들(1141, 1142 및 1143)과 동일한 색상 값(H: 20, V: 30, S: 50)이 측정되나, 제4 영역(1134)에서는 제1 레퍼런스 이미지(1140)의 대응되는 제4 영역(1144)과 상이한 색상 값(H: 30, V: 30, S: 50)이 측정될 수 있다.
즉, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지(1130)의 제4 영역(1134)에서의 Hue 값이 레퍼런스 이미지(1140)의 제4 영역(1144)에서의 Hue 값보다 10 높은 30의 값을 가짐을 파악할 수 있으므로, 제1 오프셋을 산출할 수 있다.
도 11의 예시에서, 인공 지능 장치(100)의 프로세서(180)는 제1 오프셋을 촬영 이미지(1130)과 제1 레퍼런스 이미지(1140) 사이의 H (Hue), V (Value) 및 S (Saturation)의 차이 값의 순서쌍으로 표현할 수 있다.
이때, 인공 지능 장치(100)의 프로세서(180)는 제1 오프셋으로써 촬영 이미지(1130)의 각 영역들(1131, 1132, 1133, 1134)에 상응하는 오프셋 값을 산출할 수 있다.
예컨대, 인공 지능 장치(100)의 프로세서(180)는 제1 오프셋을 {(0, 0, 0), (0, 0, 0), (0, 0, 0), (10, 0, 0)}과 같이 산출할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 산출된 제1 오프셋을 고려하여 제1 조정 값(1150)을 결정할 수 있다.
제1 조정 값(1150)은 디스플레이 장치(1120)의 디스플레이 패널들(1121, 1122, 1123 및 1124)의 색상을 보정하기 위한 조정 값으로, 도 11의 예시에서는 각 디스플레이 패널들(1121, 1122, 1123 및 1124)에 대한 (H, S, V)의 조정 값들인 (dH, dS, dV)로 표현될 수 있다.
예컨대, 인공 지능 장치(100)의 프로세서(180)는 산출된 제1 오프셋을 {(0, 0, 0), (0, 0, 0), (0, 0, 0), (10, 0, 0)}을 고려하여 제1 조정 값(1150)을 {(0, 0, 0), (0, 0, 0), (0, 0, 0), (-10, 0, 0)}으로 결정할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 결정된 제1 조정 값(1150)을 디스플레이 장치(1120)으로 전송하여, 각 디스플레이 패널들(1121, 1122, 1123 및 1124)에서 이미지를 출력할 때의 (H, V, S)를 제1 조정 값(1150)만큼 조정/보정하게 할 수 있다.
도 11의 예시에서는 디스플레이 장치(1120)가 제1 조정 값(1150)만큼 출력되는 (H, V, S) 값에 더해주었지만, 본 발명이 이에 한정되지 않는다.
즉, 다른 실시 예에서는, 제1 조정 값(1150)에 (H, V, S)에 합해지는 값뿐만 아니라 곱해지는 값이 추가되거나, 곱해지는 값만으로 구성될 수도 있다.
예컨대, 도 11의 촬영 이미지(1130)와 제1 레퍼런스 이미지(1140)의 예시에서, 인공 지능 장치(100)의 프로세서(180)는 제1 조정 값을 {(1, 1, 1), (1, 1, 1), (1, 1, 1), (2/3, 1, 1)}으로 결정할 수도 있고, 이는 출력하는 (H, V, S)를 조정 값만큼 곱하는 것을 의미할 수 있다.
도 12는 본 발명의 일 실시 예에 따른 색상 왜곡이 발생하는 영역을 판단하는 방법을 나타낸 도면이다.
도 12를 참조하면, 인공 지능 장치(100)의 카메라(121)에서 디스플레이 장치(300)를 촬영한 촬영 이미지(1210)는 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하여, 복수의 영역들(1211, 1212, 1213 및 1214)로 구성된다.
이때, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지(1210)에서 각 영역의 경계선 영역들(1221, 1222, 1223 및 1224)를 관찰하고, 색상의 차이가 발생하는 경계선 영역들(1223 및 1224)에 기초하여 제4 영역(1214)가 제1 내지 제3 영역들(1211, 1212 및 1213)과 비교하여 색상 왜곡이 발생함을 판단할 수 있다.
도 10 내지 도 12에서는 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 디스플레이 장치(1010 또는 1120)에 대한 예시를 도시하였는데, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 장치(1010 또는 1120)로부터 디스플레이 패널들의 구성과 배치에 대한 정보를 수신하여 이용할 수 있다.
또한, 도 10 내지 도 12는 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 디스플레이 장치(1010 또는 1120)에 대한 예시를 도시하였는데, 상술한 바와 같이 본 발명은 이에 한정되지 않고, 단일한 디스플레이 패널을 포함하는 디스플레이 장치에 대하여도 픽셀 단위 등의 미리 설정된 단위에 대한 색상 왜곡을 제거하는 조정을 수행할 수 있다.
도 13은 본 발명의 일 실시 예에 따른 디스플레이 패널의 출력 위치를 조정하는 방법을 나타낸 동작 흐름도이다.
도 13을 참조하면, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 패널에 위치 조정 이미지를 출력하는 신호를 전송한다(S1301).
디스플레이 패널은 인공 지능 장치(100)에 포함된 디스플레이부(151)를 의미할 수도 있고, 외부의 디스플레이 장치(300)의 디스플레이 패널을 의미할 수도 있다.
디스플레이 패널은 LCD 패널, LED 패널 등의 다양한 패널을 포함한다.
디스플레이 패널이 인공 지능 장치(100)에 포함된 디스플레이부(151)를 의미하는 경우, 프로세서(180)는 직접 디스플레이부(151)에 위치 조정 이미지를 출력하는 신호를 전송할 수 있다.
디스플레이 패널이 외부 디스플레이 장치(300)에 포함된 디스플레이부를 의미하는 경우, 프로세서(180)는 통신부(110)를 통해 디스플레이 장치(300)에 위치 조정 이미지를 출력하는 신호를 전송할 수 있다.
위치 조정 이미지는 디스플레이 패널의 출력 위치를 조정할 때 이용하는 이미지로, 디스플레이 패널의 출력 위치의 조정을 용이하게 수행할 수 있도록 단색의 배경과 다른 단색의 격자 선들을 포함하는 이미지를 의미할 수 있다.
디스플레이 패널의 출력 위치를 조정함에 있어서 위치 조정 이미지를 출력하는 것은 필수는 아니지만, 디스플레이 패널에 격자 선들을 출력하게 되는 경우 보다 높은 정확도로 출력 위치를 조정할 수 있다.
즉, 본 발명은 위치 조정 이미지를 출력하지 않으면서도 출력 위치 조정할 수 있으며, 따라서 본 발명은 별도의 위치 조정 이미지를 출력하지 않으면서도 디스플레이 패널의 출력 위치를 조정하는 방법까지 포괄한다.
만약, 인공 지능 장치(100)의 프로세서(180)가 디스플레이 패널에 위치 조정 이미지를 출력하도록 제어하면서 디스플레이 패널의 출력 위치를 조정하고자 하는 경우라면, 출력되는 위치 조정 이미지에 대한 정보를 갖고 있다.
만약, 인공 지능 장치(100)의 프로세서(180)가 디스플레이 패널에 위치 조정 이미지를 출력하지 않은 상태로 디스플레이 패널의 출력 위치를 조정하고자 하는 경우라면, 디스플레이 패널에 출력되는 이미지 데이터를 획득할 수 있다.
그리고, 위치 조정 이미지를 포함하는, 디스플레이 패널에서 출력되는 이미지는 디스플레이 패널의 출력 위치를 조정하는데 이용하는 레퍼런스 이미지로 사용될 수 있고, 이하에서 제2 레퍼런스 이미지 또는 위치 레퍼런스 이미지라 칭할 수 있다. 그리고, 제2 레퍼런스 이미지에 상응하는 데이터를 제2 레퍼런스 이미지 데이터 또는 위치 레퍼런스 이미지 데이터라 칭할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 카메라(121)를 통해 디스플레이 패널에 대한 촬영 이미지를 획득한다(S1303).
카메라(121)는 RGB 카메라이고, 촬영 이미지는 RGB 이미지일 수 있다. 이하에서, 촬영 이미지에 상응하는 데이터를 촬영 이미지 데이터라 칭할 수 있다.
카메라(121)는 출력 위치 조정의 대상이 되는 디스플레이 패널을 바라보는 고정된 위치에 설치되어 고정된 시점을 가질 수도 있지만, 인공 지능 장치(100)의 몸체에 설치되고 인공 지능 장치(100)가 이동함에 따라 시점이 변동될 수도 있다.
본 단계(S1303)는 도 6에 도시된 촬영 이미지를 획득하는 단계(S603)과 동일하다. 따라서, 도 7에 대한 설명이 본 단계(S1303)에도 적용될 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 직사각형 모양으로 변환한다(S1305).
카메라(121)의 시점이 디스플레이 패널의 중심 높이에서 중심을 바라보는 경우라면 촬영 이미지에 포함된 디스플레이 패널은 직사각형 모양일 수 있으나, 카메라(121)의 시점이 디스플레이 패널을 정면 중앙에서 바라보는 것이 아니라면 촬영 이미지에 포함된 디스플레이 패널은 마름모와 같이 직사각형 모양이 아닐 수 있다.
프로세서(180)는 촬영 이미지에서 디스플레이 패널의 영역이 직사각형이 아닌 경우, 디스플레이 패널의 영역이 직사각형 모양이 되도록 촬영 이미지를 변환할 수 있다.
이때, 프로세서(180)는 획득한 촬영 이미지에서 디스플레이 패널에 상응하는 영역만을 남기고, 이를 직사각형 모양으로 변환할 수 있다.
또는, 프로세서(180)는 획득한 촬영 이미지에 포함된 디스플레이 패널이 직사각형 모양이 되도록 획득한 촬영 이미지를 변환하고, 변환된 촬영 이미지에서 디스플레이 패널에 상응하는 영역을 제외한 영역을 제거할 수 있다.
본 단계(S1305)는 도 6에 도시된 촬영 이미지를 획득하는 단계(S605)과 동일하다. 따라서, 도 9에 대한 설명이 본 단계(S1305)에도 적용될 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지와 제2 레퍼런스 이미지를 이용하여 미리 설정된 단위별로 디스플레이 패널에 대한 제2 오프셋을 산출한다(S1307).
디스플레이 패널에 대한 미리 설정된 단위에는 디스플레이 패널을 구성하는 픽셀이 포함될 수 있다.
만약, 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 경우, 상기한 디스플레이 패널은 디스플레이 패널 그룹을 의미한다. 이 경우, 디스플레이 패널(디스플레이 패널 그룹)에 대한 미리 설정된 단위에는 디스플레이 패널 그룹을 구성하는 단위 디스플레이 패널이 포함될 수 있다.
즉, 디스플레이 패널의 위치 왜곡은 단일한 디스플레이 패널을 구성하는 단위 픽셀들 사이에도 발생할 수 있으며, 단일한 디스플레이 패널 그룹을 구성하는 단위 디스플레이 패널들 사이에서도 발생할 수 있다.
제2 오프셋은 촬영 이미지와 제2 레퍼런스 이미지 사이의 출력 위치의 차이를 의미할 수 있으며, 미리 설정된 단위별로 계산될 수 있다. 그리고, 제2 오프셋은 미리 설정된 단위별 위치와 해당 위치에서의 출력 위치의 차이를 포함할 수 있다.
예컨대, 프로세서(180)는 디스플레이 패널의 각 단위 픽셀에 상응하는 제2 오프셋을 결정할 수 있다. 또는, 프로세서(180)는 디스플레이 패널 그룹의 각 단위 디스플레이 패널에 상응하는 제2 오프셋을 결정할 수 있다.
제2 오프셋은 출력 위치 오프셋을 의미할 수 있다.
그리고, 제2 오프셋은 x 좌표와 y 좌표의 순서쌍으로 표현될 수 있다.
이때, 프로세서(180)는 제2 레퍼런스 이미지와 촬영 이미지를 맵핑(mapping)하고, 맵핑 정보를 이용하여 제2 오프셋을 결정할 수 있다.
맵핑 정보에는 제2 레퍼런스 이미지에 상응하는 설정 값과 촬영 이미지에 상응하는 측정 값이 포함될 수 있다.
그리고, 프로세서(180)는 제2 오프셋을 이용하여 디스플레이 패널에 대한 제2 조정 값을 결정한다(S1309).
제2 조정 값은 디스플레이 패널이 이미지를 출력할 때, 입력된 출력 위치 값에 추가적으로 연산되는 보정/조정 값을 의미하며, 미리 설정된 단위별로 계산될 수 있다. 그리고, 제2 조정 값은 미리 설정된 단위별 위치와 해당 위치에서의 출력 위치 조정 값을 포함할 수 있다.
예컨대, 프로세서(180)는 디스플레이 패널의 각 단위 픽셀에 상응하는 제2 조정 값을 결정할 수 있다. 또는, 프로세서(180)는 디스플레이 패널 그룹의 각 단위 디스플레이 패널에 상응하는 제2 조정 값을 결정할 수 있다.
이때, 제2 조정 값은 디스플레이 패널에서 입력된 출력 위치 값에 더해질 수도 있지만, 곱해질 수도 있으며, 그 조합도 가능하다.
일 실시 예에서, 프로세서(180)는 0을 기준으로 제2 조정 값들을 계산할 수 있다. 이는, 디스플레이 패널이 레퍼런스 이미지의 출력 위치를 최대한 정확히 출력하도록 조정하는 상황을 가리킬 수 있다.
예컨대, 제2 오프셋 내에 4개 단위에 대한 오프셋 값들 {(0, 0), (1, -2), (-2, 1), (5, 1)}이 포함된 경우라면, 프로세서(180)는 0에 대하여 각 오프셋 값들을 뺌으로써 제2 조정 값 {(0, 0), (-1, 2), (2, -1), (-5, -1)}을 결정할 수 있다.
일 실시 예에서, 프로세서(180)는 제2 오프셋의 평균값을 기준으로 제2 조정 값들을 결정할 수 있다. 이는, 디스플레이 패널이 최소의 조정 값으로 모든 영역에서 국부 왜곡 없이 출력되도록 조정하는 상황을 가리킬 수 있다. 다만, 이 경우에는 디스플레이 패널이 레퍼런스 이미지를 정중앙에 정확히 출력하지 못하고, 일정한 편향을 갖고 치우친 위치에 출력할 수 있다.
예컨대, 제2 오프셋 내에 4개 단위에 대한 오프셋 값들 {(0, 0), (1, -2), (-2, 1), (5, 1)}이 포함된 경우라면, 프로세서(180)는 4개의 오프셋 값들의 평균 값 (1, 0)을 계산하고, 계산된 평균에 대하여 각 오프셋 값들을 뺌으로써 제2 조정 값 {(1, 0), (0, 2), (3, -1), (-4, -1)}을 결정할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 패널에 결정된 제2 조정 값을 전송한다(S1311).
여기서, 조정 값 또는 제2 조정 값은 디스플레이 패널의 출력 위치 조정 값을 의미한다.
프로세서(180)는 디스플레이 패널에 제2 조정 값을 전송하여 디스플레이 패널의 출력 위치를 조정함으로써 출력 위치의 왜곡을 제거할 수 있다. 또는, 프로세서(180)는 디스플레이 패널을 제어하는 컨트롤러에 제2 조정 값을 전송할 수 있다.
만약, 이미 디스플레이 패널에 왜곡 제거를 위한 조정 값이 존재하는 경우라면, 디스플레이 패널 또는 디스플레이 패널의 컨트롤러는 이미 존재하던 조정 값에 수신한 제2 조정 값을 반영할 수 있다.
또는, 프로세서(180)는 이전에 제2 조정 값을 결정한 이력이 있다면, 이전에 결정되었던 제2 조정 값과 현재 결정된 제2 조정 값을 함께 반영하여 새로운 제2 조정 값을 결정하고, 새로 결정된 제2 조정 값을 디스플레이 패널에 전송할 수 있다. 이 경우, 디스플레이 패널은 이전의 조정 값들을 고려할 필요 없이, 프로세서(180)가 전송해주는 조정 값을 바로 적용하는 것만으로도 출력 위치의 왜곡을 제거하는 조정을 수행 수 있다.
도 13은 디스플레이 패널의 출력 위치를 조정하는 단계들(S1301 내지 S1311)을 1사이클만 수행하는 것으로 나타내었지만, 상기 디스플레이 패널의 출력 위치를 조정하는 단계들(S1301 내지 S1311)은 복수의 사이클이 수행될 수 있다.
보다 구체적으로, 디스플레이 패널의 출력 위치를 조정하는 단계들(S1301 내지 S1311)은 반복적으로 수행될 수 있으며, 제2 오프셋이 미리 설정된 기준 값보다 작은 경우에는 상기 반복을 중단할 수 있다.
도 14는 본 발명의 일 실시 예에 따른 디스플레이 패널에 대한 출력 위치의 왜곡을 나타내는 도면이다.
도 14를 참조하면, 디스플레이 패널은 복수의 (예컨대, 9개) 단위 디스플레이 패널들이 연결되어 하나의 디스플레이 패널 그룹으로 구성될 수 있다.
각 단위 디스플레이 패널들이 물리적으로 정렬되지 않은 상태로 배치되거나, 각 단위 디스플레이 패널들이 물리적으로 정렬된 상태로 연결되어 있다고 하더라도 소자들의 오류나 소프트웨어의 설정에 따라 출력되는 이미지(1410)에 출력 위치의 왜곡(1420)이 발생할 수 있다.
도 14는 복수의 단위 디스플레이 패널들이 서로 연결되어 하나의 디스플레이 패널 그룹을 구성하는 상황에서 발생하는 출력 위치의 왜곡을 나타내었지만, 단일한 단위 디스플레이 패널 내에서도 단위 디스플레이 소자들 사이에서 출력 위치의 왜곡이 발생할 수 있다.
도 15는 본 발명의 일 실시 예에 따른 디스플레이 패널에 대한 출력 위치의 왜곡을 제거하는 방법을 나타낸 도면이다.
도 15를 참조하면, 인공 지능 장치(100)의 카메라(1510)가 디스플레이 장치(1520)에 대한 이미지를 촬영하며, 이는 상술한 촬영 이미지라 칭할 수 있다.
디스플레이 장치(1520)는 복수의 디스플레이 패널들(1521, 1522, 1523 및 1524)가 하나의 디스플레이 패널 그룹을 구성하고 있다.
인공 지능 장치(100)는 디스플레이 장치(1520)에 대하여 출력 위치의 조정을 위한 제2 레퍼런스 이미지(1540)을 출력하도록 제어 신호를 전송하고, 제2 레퍼런스 이미지(1540)를 출력할 수 있다. 여기서, 제2 레퍼런스 이미지는 모든 영역(1541, 1542, 1543, 1544)에서 동일한 격자 무늬를 갖는 이미지일 수 있다. 여기서, 영역들이란 각 단위 디스플레이 패널들(1521, 1522, 1523 및 1524)에 상응하는 이미지 영역들을 의미할 수 있다.
그러나, 인공 지능 장치(100)의 카메라(1510)가 획득한 촬영 이미지(1530)는 제2 레퍼런스 이미지(1540)와는 차이가 발생할 수 있다.
구체적으로, 총 4개의 영역들(1531, 1532, 1533 및 1534) 중에서 제1 영역(1531), 제2 영역(1532) 및 제3 영역(1533) 사이에는 격자 무늬가 왜곡됨 없이 연결되는 반면, 제4 영역(1534)에서는 제2 영역(1532) 및 제3 영역(1533) 사이에는 격자 무늬가 왜곡되어 연결될 수 있다.
즉, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지(1530)의 제4 영역(1534)에서의 출력 위치 값이 레퍼런스 이미지(1540)의 제4 영역(1544)에서의 출력 위치 값보다 (3, -10)만큼 변화된 값을 가짐을 파악할 수 있으므로, 제2 오프셋을 산출할 수 있다.
도 15의 예시에서, 인공 지능 장치(100)의 프로세서(180)는 제2 오프셋을 촬영 이미지(1530)과 제2 레퍼런스 이미지(1540) 사이의 출력 위치의 차이 값의 순서쌍으로 표현할 수 있다.
이때, 인공 지능 장치(100)의 프로세서(180)는 제2 오프셋으로써 촬영 이미지(1530)의 각 영역들(1531, 1532, 1533, 1534)에 상응하는 오프셋 값을 산출할 수 있다.
예컨대, 인공 지능 장치(100)의 프로세서(180)는 제2 오프셋을 {(0, 0), (0, 0), (0, 0), (3, -10)}과 같이 산출할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 산출된 제2 오프셋을 고려하여 제2 조정 값(1550)을 결정할 수 있다.
제2 조정 값(1550)은 디스플레이 장치(1520)의 디스플레이 패널들(1521, 1522, 1523 및 1524)의 출력 위치를 보정하기 위한 조정 값으로, 도 15의 예시에서는 각 디스플레이 패널들(1521, 1522, 1523 및 1524)에 대한 출력 위치 (x, y) 의 조정 값들인 (dx, dy)로 표현될 수 있다.
예컨대, 인공 지능 장치(100)의 프로세서(180)는 산출된 제2 오프셋을 {(0, 0), (0, 0), (0, 0), (3, -10)}을 고려하여 제2 조정 값(1550)을 {(0, 0), (0, 0), (0, 0), (-3, 10)}으로 결정할 수 있다.
그리고, 인공 지능 장치(100)의 프로세서(180)는 결정된 제2 조정 값(1550)을 디스플레이 장치(1520)으로 전송하여, 각 디스플레이 패널들(1521, 1522, 1523 및 1524)에서 이미지를 출력할 때의 위치 (x, y)를 제2 조정 값(1550)만큼 조정/보정하게 할 수 있다.
도 15의 예시에서는 디스플레이 장치(1520)가 제2 조정 값(1550)만큼 출력되는 위치 값 (x, y)에 더해주었지만, 본 발명이 이에 한정되지 않는다.
즉, 다른 실시 예에서는, 제2 조정 값(1550)에 (x, y)에 합해지는 값뿐만 아니라 곱해지는 값이 추가되거나, 곱해지는 값만으로 구성될 수도 있다.
도 16은 본 발명의 일 실시 예에 따른 출력 위치 왜곡이 발생하는 영역을 판단하는 방법을 나타낸 도면이다.
도 16을 참조하면, 인공 지능 장치(100)의 카메라(121)에서 디스플레이 장치(300)를 촬영한 촬영 이미지(1610)는 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하여, 복수의 영역들(1611, 1612, 1613 및 1614)로 구성된다.
이때, 인공 지능 장치(100)의 프로세서(180)는 촬영 이미지(1610)에서 각 영역의 경계선 영역들(1621, 1622, 1623 및 1624)를 관찰하고, 격자 무늬가 연결되지 않는 경계선 영역들(1623 및 1624)에 기초하여 제4 영역(1614)가 제1 내지 제3 영역들(1611, 1612 및 1613)과 비교하여 출력 위치 왜곡이 발생함을 판단할 수 있다.
도 15 및 도 16에서는 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 디스플레이 장치(1510)에 대한 예시를 도시하였는데, 인공 지능 장치(100)의 프로세서(180)는 디스플레이 장치(1510)로부터 디스플레이 패널들의 구성과 배치에 대한 정보를 수신하여 이용할 수 있다.
또한, 도 15 및 도 16은 복수의 디스플레이 패널들이 하나의 디스플레이 패널 그룹을 구성하는 디스플레이 장치(1510)에 대한 예시를 도시하였는데, 상술한 바와 같이 본 발명은 이에 한정되지 않고, 단일한 디스플레이 패널을 포함하는 디스플레이 장치에 대하여도 픽셀 단위 등의 미리 설정된 단위에 대한 출력 위치 왜곡을 제거하는 조정을 수행할 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다.

Claims (15)

  1. 디스플레이 패널의 색상을 조정하는 인공 지능 장치에 있어서,
    디스플레이 패널에서 출력되는 이미지를 촬영하는 카메라; 및
    상기 디스플레이 패널에 색상 레퍼런스 이미지를 출력하는 신호를 전송하고, 상기 카메라를 통해 상기 디스플레이 패널에 대한 촬영 이미지를 수신하고, 상기 색상 레퍼런스 이미지와 상기 촬영 이미지에 기초하여 미리 설정된 단위별로 상기 디스플레이 패널에 대한 색상 오프셋을 산출하고, 상기 산출된 색상 오프셋을 이용하여 상기 디스플레이 패널에 대한 출력 색상 조정 값을 결정하고, 상기 결정된 출력 색상 조정 값을 상기 디스플레이 패널에 전송하는 프로세서
    를 포함하는, 인공 지능 장치.
  2. 청구항 1에 있어서,
    외부 장치와 데이터를 송수신하는 통신부
    를 더 포함하고,
    상기 프로세서는
    상기 통신부를 통해 상기 촬영 이미지의 촬영 시점에 상응하는 컨텍스트 정보를 수신하고, 상기 수신한 컨텍스트 정보에 기초하여 상기 촬영 이미지를 미리 설정된 표준 컨텍스트 정보에 상응하는 표준화된 이미지로 변환하고, 상기 표준화된 이미지를 이용하여 상기 색상 오프셋을 산출하고,
    상기 컨텍스트 정보와 상기 표준 컨텍스트 정보 각각은
    시각 정보, 날씨 정보 또는 조도 정보 중에서 적어도 하나 이상을 포함하는, 인공 지능 장치.
  3. 청구항 2에 있어서,
    상기 프로세서는
    이미지 변환 모델을 이용하여 상기 촬영 이미지를 상기 표준화된 이미지로 변환하고,
    상기 이미지 변환 모델은
    머신 러닝 알고리즘 또는 딥 러닝 알고리즘을 이용하여 학습되는 모델인, 인공 지능 장치.
  4. 청구항 3에 있어서,
    상기 이미지 변환 모델은
    인공 신경망으로 구성되고, 상기 촬영 이미지와 상기 컨텍스트 정보가 입력되면, 상기 표준 컨텍스트 정보에 상응하는 상기 표준화된 이미지를 출력하는 모델인, 인공 지능 장치.
  5. 청구항 1에 있어서,
    상기 프로세서는
    상기 미리 설정된 단위별로 상기 색상 레퍼런스 이미지의 색상 값에서 상기 촬영 이미지의 색상 값을 차감하여 상기 색상 오프셋을 산출하는, 인공 지능 장치.
  6. 청구항 5에 있어서,
    상기 프로세서는
    상기 전체 색상 오프셋의 평균에서 상기 각 색상 오프셋을 차감하여 상기 출력 색상 조정 값을 결정하는, 인공 지능 장치.
  7. 청구항 5에 있어서,
    상기 프로세서는
    0에서 상기 각 색상 오프셋을 차감하여 상기 출력 색상 조정 값을 결정하는, 인공 지능 장치.
  8. 청구항 1에 있어서,
    상기 프로세서는
    상기 디스플레이 패널에 대한 색상을 조정하는 과정을 반복적으로 수행하는, 인공 지능 장치.
  9. 청구항 1에 있어서,
    상기 색상 레퍼런스 이미지는
    모든 영역에서 동일한 색상 값을 갖는 이미지인, 인공 지능 장치.
  10. 청구항 9에 있어서,
    상기 색상 레퍼런스 이미지는
    시간이 지남에 따라 상기 색상 값이 변하는 이미지인, 인공 지능 장치.
  11. 청구항 1에 있어서,
    상기 디스플레이 패널은
    단일한 단위 디스플레이 패널만으로 구성되거나 또는 복수의 단위 디스플레이 패널들이 연결되어 구성되는 패널인, 인공 지능 장치.
  12. 청구항 11에 있어서,
    상기 미리 설정된 단위는
    상기 단위 디스플레이 패널 또는 상기 디스플레이 패널에 포함된 단위 디스플레이 소자인, 인공 지능 장치.
  13. 청구항 12에 있어서,
    상기 디스플레이 패널은
    플렉서블 디스플레이 패널이고,
    상기 미리 설정된 단위는
    상기 플렉서블 디스플레이 패널의 단위 디스플레이 소자인, 인공 지능 장치.
  14. 디스플레이 패널의 색상을 조정하는 방법에 있어서,
    디스플레이 패널에 색상 레퍼런스 이미지를 출력하는 신호를 전송하는 단계;
    상기 디스플레이 패널에 대한 촬영 이미지를 수신하는 단계;
    상기 색상 레퍼런스 이미지와 상기 촬영 이미지에 기초하여 미리 설정된 단위별로 상기 디스플레이 패널에 대한 색상 오프셋을 산출하는 단계;
    상기 산출된 색상 오프셋을 이용하여 상기 디스플레이 패널에 대한 출력 색상 조정 값을 결정하는 단계; 및
    상기 결정된 출력 색상 조정 값을 상기 디스플레이 패널에 전송하는 단계
    를 포함하는, 방법.
  15. 디스플레이 패널의 색상을 조정하는 방법을 수행하기 위한 프로그램이 기록된 기록 매체에 있어서,
    상기 디스플레이 패널의 색상을 조정하는 방법은
    디스플레이 패널에 색상 레퍼런스 이미지를 출력하는 신호를 전송하는 단계;
    상기 디스플레이 패널에 대한 촬영 이미지를 수신하는 단계;
    상기 색상 레퍼런스 이미지와 상기 촬영 이미지에 기초하여 미리 설정된 단위별로 상기 디스플레이 패널에 대한 색상 오프셋을 산출하는 단계;
    상기 산출된 색상 오프셋을 이용하여 상기 디스플레이 패널에 대한 출력 색상 조정 값을 결정하는 단계; 및
    상기 결정된 출력 색상 조정 값을 상기 디스플레이 패널에 전송하는 단계
    를 포함하는, 기록 매체.
PCT/KR2019/008317 2019-07-05 2019-07-05 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법 WO2021006366A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US16/493,692 US11227412B2 (en) 2019-07-05 2019-07-05 Artificial intelligence apparatus for calibrating color of display panel of user and method for the same
PCT/KR2019/008317 WO2021006366A1 (ko) 2019-07-05 2019-07-05 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법
KR1020190099920A KR20190102152A (ko) 2019-07-05 2019-08-14 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2019/008317 WO2021006366A1 (ko) 2019-07-05 2019-07-05 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법

Publications (1)

Publication Number Publication Date
WO2021006366A1 true WO2021006366A1 (ko) 2021-01-14

Family

ID=67951886

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/008317 WO2021006366A1 (ko) 2019-07-05 2019-07-05 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법

Country Status (3)

Country Link
US (1) US11227412B2 (ko)
KR (1) KR20190102152A (ko)
WO (1) WO2021006366A1 (ko)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102608147B1 (ko) * 2018-12-05 2023-12-01 삼성전자주식회사 디스플레이 장치 및 그 구동 방법
CN112530370A (zh) * 2019-09-17 2021-03-19 华为终端有限公司 偏色补偿装置、显示设备及电路系统
US11829128B2 (en) 2019-10-23 2023-11-28 GM Global Technology Operations LLC Perception system diagnosis using predicted sensor data and perception results
CN111598944A (zh) * 2020-04-28 2020-08-28 维沃移动通信有限公司 显示屏校准方法、电子设备及存储介质
US20210385303A1 (en) * 2020-06-09 2021-12-09 Qualcomm Incorporated Attribute residual coding in g-pcc
WO2022045769A1 (ko) * 2020-08-26 2022-03-03 삼성전자 주식회사 디스플레이 장치의 화질을 조정하는 전자 장치 및 이의 동작 방법
CN114449244B (zh) * 2020-10-31 2023-07-18 华为技术有限公司 一种画质调整方法及装置
KR20220061607A (ko) * 2020-11-06 2022-05-13 삼성전자주식회사 Led 패널 계측 장치, 시스템 및 제어 방법
CN113516132B (zh) * 2021-03-25 2024-05-03 杭州博联智能科技股份有限公司 基于机器学习的颜色校准方法、装置、设备及介质
GB2609432B (en) * 2021-07-30 2024-01-31 Sony Interactive Entertainment Inc Display modification system and method
US20230039667A1 (en) * 2021-08-03 2023-02-09 Samsung Electronics Co., Ltd. Content creative intention preservation under various ambient color temperatures

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7457458B1 (en) * 1999-11-26 2008-11-25 Inb Vision Ag. Method and apparatus for defining and correcting image data
US20090096804A1 (en) * 2007-10-10 2009-04-16 Peter Gerets Reducing visibility of display errors
JP2017135554A (ja) * 2016-01-27 2017-08-03 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR20180042030A (ko) * 2016-10-17 2018-04-25 삼성전자주식회사 외부 디스플레이 장치의 화면 보정 장치 및 방법
WO2018211350A1 (en) * 2017-05-19 2018-11-22 Semiconductor Energy Laboratory Co., Ltd. Machine learning method, machine learning system, and display system

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7728845B2 (en) * 1996-02-26 2010-06-01 Rah Color Technologies Llc Color calibration of color image rendering devices
KR101789625B1 (ko) * 2011-06-23 2017-10-25 엘지전자 주식회사 플렉서블 디스플레이를 구비하는 영상 표시 장치 및 그 제어방법
JP5922160B2 (ja) * 2014-01-30 2016-05-24 シャープ株式会社 表示較正システム、プログラム、記録媒体
KR102282369B1 (ko) * 2014-11-28 2021-07-27 삼성전자주식회사 비디오 월 제어 장치 및 비디오 월 제어 방법
EP3035656B1 (en) * 2014-12-18 2021-08-04 Samsung Electronics Co., Ltd. Method and apparatus for controlling an electronic device
KR102618590B1 (ko) * 2016-05-12 2023-12-28 삼성전자주식회사 이미지의 광원을 판단하는 방법 및 이를 수행하는 전자 장치
US10140553B1 (en) * 2018-03-08 2018-11-27 Capital One Services, Llc Machine learning artificial intelligence system for identifying vehicles
US10824915B2 (en) * 2018-12-04 2020-11-03 Capital One Services, Llc Artificial intelligence system for inspecting image reliability
KR102608147B1 (ko) * 2018-12-05 2023-12-01 삼성전자주식회사 디스플레이 장치 및 그 구동 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7457458B1 (en) * 1999-11-26 2008-11-25 Inb Vision Ag. Method and apparatus for defining and correcting image data
US20090096804A1 (en) * 2007-10-10 2009-04-16 Peter Gerets Reducing visibility of display errors
JP2017135554A (ja) * 2016-01-27 2017-08-03 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR20180042030A (ko) * 2016-10-17 2018-04-25 삼성전자주식회사 외부 디스플레이 장치의 화면 보정 장치 및 방법
WO2018211350A1 (en) * 2017-05-19 2018-11-22 Semiconductor Energy Laboratory Co., Ltd. Machine learning method, machine learning system, and display system

Also Published As

Publication number Publication date
US11227412B2 (en) 2022-01-18
KR20190102152A (ko) 2019-09-03
US20200035195A1 (en) 2020-01-30

Similar Documents

Publication Publication Date Title
WO2021006366A1 (ko) 디스플레이 패널의 색상을 조정하는 인공 지능 장치 및 그 방법
WO2019132518A1 (en) Image acquisition device and method of controlling the same
WO2019107945A1 (en) Method of providing service based on location of sound source and speech recognition device therefor
WO2021029457A1 (ko) 사용자에게 정보를 제공하는 인공 지능 서버 및 그 방법
WO2021125453A1 (ko) 인공 지능 냉장고
WO2019135621A1 (ko) 영상 재생 장치 및 그의 제어 방법
WO2016104952A1 (en) Display apparatus and display method
WO2021006404A1 (ko) 인공지능 서버
WO2020246647A1 (ko) 인공 지능 시스템의 동작을 관리하는 인공 지능 장치 및 그 방법
WO2016175424A1 (ko) 이동 단말기 및 그 제어 방법
WO2020246640A1 (ko) 사용자의 위치를 결정하는 인공 지능 장치 및 그 방법
WO2022010122A1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
WO2017090833A1 (en) Photographing device and method of controlling the same
WO2022154387A1 (ko) 전자 장치 및 그의 동작 방법
WO2020085873A1 (ko) 카메라, 및 이를 구비하는 단말기
WO2021215547A1 (ko) 스마트 홈 장치 및 방법
WO2020256169A1 (ko) 인공 지능을 이용하여, 안내 서비스를 제공하는 로봇 및 그의 동작 방법
WO2020251096A1 (ko) 인공 지능 로봇 및 그의 동작 방법
WO2020251101A1 (ko) 사용자의 동선을 결정하는 인공 지능 장치 및 그 방법
WO2020262721A1 (ko) 인공 지능을 이용하여, 복수의 로봇들을 제어하는 관제 시스템
WO2022080517A1 (ko) 학습 데이터를 생성하는 인공 지능 장치 및 방법
WO2021006406A1 (ko) 인공지능 기반의 공기조화기
WO2021006367A1 (ko) 디스플레이 패널의 출력 위치를 조정하는 인공 지능 장치 및 그 방법
WO2020251102A1 (ko) 사용자의 동선에 기초한 서비스를 제공하는 인공 지능 장치 및 그 방법
WO2023204470A1 (ko) 인공 지능 장치 및 그의 화자 자동 인식 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19936789

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 19936789

Country of ref document: EP

Kind code of ref document: A1