WO2024043503A1 - 조리 기기 및 조리 기기의 제어 방법 - Google Patents

조리 기기 및 조리 기기의 제어 방법 Download PDF

Info

Publication number
WO2024043503A1
WO2024043503A1 PCT/KR2023/009419 KR2023009419W WO2024043503A1 WO 2024043503 A1 WO2024043503 A1 WO 2024043503A1 KR 2023009419 W KR2023009419 W KR 2023009419W WO 2024043503 A1 WO2024043503 A1 WO 2024043503A1
Authority
WO
WIPO (PCT)
Prior art keywords
item
recommended
items
reliability
control unit
Prior art date
Application number
PCT/KR2023/009419
Other languages
English (en)
French (fr)
Inventor
가기환
한성주
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020230004340A external-priority patent/KR20240028271A/ko
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of WO2024043503A1 publication Critical patent/WO2024043503A1/ko

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47J—KITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J36/00—Parts, details or accessories of cooking-vessels
    • A47J36/32—Time-controlled igniting mechanisms or alarm devices
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24—HEATING; RANGES; VENTILATING
    • F24C—DOMESTIC STOVES OR RANGES ; DETAILS OF DOMESTIC STOVES OR RANGES, OF GENERAL APPLICATION
    • F24C15/00—Details
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24—HEATING; RANGES; VENTILATING
    • F24C—DOMESTIC STOVES OR RANGES ; DETAILS OF DOMESTIC STOVES OR RANGES, OF GENERAL APPLICATION
    • F24C15/00—Details
    • F24C15/32—Arrangements of ducts for hot gases, e.g. in or around baking ovens
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24—HEATING; RANGES; VENTILATING
    • F24C—DOMESTIC STOVES OR RANGES ; DETAILS OF DOMESTIC STOVES OR RANGES, OF GENERAL APPLICATION
    • F24C7/00—Stoves or ranges heated by electric energy
    • F24C7/08—Arrangement or mounting of control or safety devices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/68—Food, e.g. fruit or vegetables
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices

Definitions

  • the disclosed invention relates to a cooking appliance and a method of controlling the cooking appliance.
  • a cooking device is a device for heating and cooking a cooking object, such as food, and refers to a device that can provide various functions related to cooking, such as heating, defrosting, drying, and sterilizing the cooking object.
  • a cooking device may mean an oven such as a gas oven or an electric oven, a microwave heating device (hereinafter referred to as a microwave oven), a gas range, an electric range, a gas grill, or an electric grill.
  • ovens cook food by transferring heat directly to food using a heater that generates heat or by heating the inside of the cooking chamber.
  • Microwave ovens use high-frequency waves as a heat source to cook food through frictional heat between molecules generated by disturbing the molecular arrangement of food.
  • the disclosed invention provides a cooking appliance and a method of controlling the cooking appliance that can identify food in a chamber and provide recommended items for automatic cooking of food to a user.
  • a cooking appliance 1 includes a display 41; A camera 60 that acquires images inside the chamber 50; a memory 220 that stores a learning model used for identification of food; and a control unit 200 electrically connected to the display, the camera, and the memory, wherein the control unit acquires a plurality of candidate items related to the food identified from the acquired image using the learning model. And, based on the confidence value of each of the plurality of candidate items, at least two recommended items are determined among the plurality of candidate items, and the display is controlled to display the at least two recommended items.
  • a method of controlling a cooking appliance includes acquiring an image of the inside of the chamber 50 using a camera 60; Identifying food inside the chamber from the acquired image by the control unit 200 using a learning model obtained from the memory 220 or the server 3; Obtain, by the control unit, a plurality of candidate items related to the food using the learning model; determining, by the control unit, at least two recommended items among the plurality of candidate items based on confidence values of each of the plurality of candidate items; It includes: displaying the at least two recommended items through a display.
  • the disclosed cooking appliance and method for controlling the cooking appliance can identify food in a chamber and provide recommended items for automatic cooking of food to the user.
  • the disclosed cooking appliance and method for controlling the cooking appliance can provide more accurate cooking information to the user by extracting a plurality of candidate items presumed to be food and determining recommended items according to the reliability of each of the plurality of candidate items. there is.
  • FIG. 1 shows a network system implemented by various electronic devices.
  • Figure 2 is a perspective view of a cooking appliance according to one embodiment.
  • Figure 3 is a cross-sectional view of a cooking appliance according to one embodiment.
  • FIG. 4 shows control configurations of a cooking appliance according to one embodiment.
  • FIG. 5 illustrates the structure of the control unit described in FIG. 4.
  • Figure 6 is a flowchart explaining a method of controlling a cooking appliance according to an embodiment.
  • Figure 7 is an example of a screen displayed on the display of a cooking appliance according to an embodiment.
  • FIGS. 8 and 9 are flowcharts illustrating in more detail the method of controlling the cooking appliance described in FIG. 6 .
  • Figure 10 shows an item list containing replacement items related to a candidate item.
  • FIG. 11 is a flowchart explaining a method of updating the item list of FIG. 10.
  • FIG. 12 is a flow chart illustrating an example of interaction between a cooking appliance and a server.
  • FIG. 13 is a flowchart illustrating an example of interaction between a cooking appliance, a server, and a user device expanded from FIG. 12 .
  • FIG. 14 is a flowchart explaining another example of interaction between a cooking appliance and a server.
  • FIG. 15 is a flowchart illustrating another example of interaction between a cooking appliance, a server, and a user device expanded from FIG. 14 .
  • a or B “at least one of A and B”, “at least one of A or B”, “A, B or C”, “at least one of A, B and C”, and “A Each of phrases such as “at least one of , B, or C” may include any one of the items listed together in the corresponding phrase, or any possible combination thereof.
  • One (e.g. first) component is said to be “coupled” or “connected” to another (e.g. second) component, with or without the terms “functionally” or “communicatively”.
  • one component can be connected to another component directly (e.g. wired), wirelessly, or through a third component.
  • FIG. 1 shows a network system implemented by various electronic devices.
  • the home appliance 10 includes a communication module capable of communicating with other home appliances, the user device 2 or the server 3, a user interface that receives user input or outputs information to the user, and a home appliance. It may include at least one processor for controlling the operation of the home appliance 10 and at least one memory storing a program for controlling the operation of the home appliance 10.
  • the home appliance 10 may be at least one of various types of home appliances.
  • the home appliance 10 includes a refrigerator 11, a dishwasher 12, an electric range 13, an electric oven 14, an air conditioner 15, a clothes care machine 16, It may include at least one of a washing machine 17, a dryer 18, and a microwave oven 19, but is not limited thereto, and may include, for example, various types of cleaning robots, vacuum cleaners, and televisions not shown in the drawing. May include home appliances.
  • the previously mentioned home appliances are only examples, and in addition to the previously mentioned home appliances, other home appliances, devices that are connected to the user device (2) or server (3) and can perform the operations described later are one implementation. It may be included in the home appliance 10 according to the example.
  • the server (3) has a communication module capable of communicating with other servers, home appliances (10) or user devices (2), and can process data received from other servers, home appliances (10) or user devices (2). It may include at least one processor and at least one memory capable of storing a program for processing data or processed data.
  • This server 3 may be implemented with various computing devices such as a workstation, cloud, data drive, and data station.
  • the server 3 may be implemented as one or more servers physically or logically divided based on functions, detailed configuration of functions, or data, and can transmit and receive data and process the transmitted and received data through communication between each server. .
  • the server 3 may perform functions such as managing the user account, registering the home appliance 10 by linking it to the user account, and managing or controlling the registered home appliance 10. For example, a user can access the server 3 through the user device 2 and create a user account. A user account can be identified by an ID and password set by the user.
  • the server 3 may register the home appliance 10 to the user account according to a set procedure. For example, the server 3 connects the identification information (e.g., serial number or MAC address, etc.) of the home appliance 10 to the user account to register, manage, and control the home appliance 10. You can.
  • identification information e.g., serial number or MAC address, etc.
  • the user device 2 includes a communication module capable of communicating with the home appliance 10 or the server 3, a user interface that receives user input or outputs information to the user, and at least one that controls the operation of the user device 2. It may include a processor and at least one memory storing a program for controlling the operation of the user device 2.
  • the user device 2 may be carried by the user or placed in the user's home or office.
  • the user device 2 may include a personal computer, terminal, portable telephone, smart phone, handheld device, wearable device, etc. , but is not limited to this.
  • a program for controlling the home appliance 10, that is, an application, may be stored in the memory of the user device 2.
  • the application may be sold installed on the user device 2, or may be downloaded and installed from an external server.
  • the user runs the application installed on the user device (2), connects to the server (3), creates a user account, and registers the home appliance (10) by communicating with the server (3) based on the logged in user account. You can.
  • the home appliance 10 is operated so that the home appliance 10 can be connected to the server 3 according to the procedure guided by the application installed on the user device 2, the corresponding user account is stored in the server 3.
  • the identification information e.g., serial number or MAC address
  • the home appliance 10 can be registered in the user account.
  • the user can control the home appliance 10 using an application installed on the user device 2. For example, when a user logs in to a user account with an application installed on the user device (2), the home appliance (10) registered in the user account appears, and when a control command for the home appliance (10) is entered, the server (3) A control command can be transmitted to the home appliance 10 through.
  • the network may include both wired and wireless networks.
  • a wired network includes a cable network or a telephone network, and a wireless network may include any network that transmits and receives signals through radio waves. Wired networks and wireless networks can be connected to each other.
  • the network is a wide area network (WAN) such as the Internet, a local area network (LAN) formed around an access point (AP), and/or a short-range wireless network that does not go through an access point (AP). It can be included.
  • Short-range wireless networks include, for example, Bluetooth (Bluetooth, IEEE 802.15.1), Zigbee (IEEE 802.15.4), Wi-Fi Direct, NFC (Near Field Communication), and Z-Wave. Z-Wave), etc., but is not limited to the examples.
  • the access repeater (AP) can connect the home appliance 10 or the user device 2 to a wide area network (WAN) to which the server 3 is connected.
  • the home appliance 10 or the user device 2 may be connected to the server 3 through a wide area network (WAN).
  • WAN wide area network
  • the access repeater (AP) connects the home appliance (10) or It is possible to communicate with the user device 2 and connect to a wide area network (WAN) using wired communication, but is not limited to this.
  • the home appliance 10 may be directly connected to the user device 2 or the server 3 without going through an access relay (AP).
  • AP access relay
  • the home appliance 10 may be connected to the user device 2 or the server 3 through a long-distance wireless network or a short-range wireless network.
  • the home appliance 10 may be connected to the user device 2 through a short-range wireless network (eg, Wi-Fi Direct).
  • a short-range wireless network eg, Wi-Fi Direct.
  • the home appliance 10 may be connected to the user device 2 or the server 3 through a wide area network (WAN) using a long-distance wireless network (eg, a cellular communication module).
  • WAN wide area network
  • a long-distance wireless network eg, a cellular communication module
  • the home appliance 10 may be connected to a wide area network (WAN) using wired communication and connected to the user device 2 or the server 3 through the wide area network (WAN).
  • WAN wide area network
  • the home appliance 10 can connect to a wide area network (WAN) using wired communication, it may operate as a connection repeater. Accordingly, the home appliance 10 can connect other home appliances to the wide area network (WAN) to which the server 3 is connected. Additionally, other home appliances may connect the home appliance 10 to a wide area network (WAN) to which the server 3 is connected.
  • WAN wide area network
  • the home appliance 10 may transmit information about its operation or status to another home appliance, the user device 2, or the server 3 through a network. For example, when a request is received from the home appliance 10, the home appliance 10 sends information about its operation or status to other home appliances, when a specific event occurs in the home appliance 10, or periodically or in real time. It can be transmitted to the user device (2) or the server (3).
  • the server 3 receives information about the operation or status from the home appliance 10, it updates the stored information about the operation or state of the home appliance 10 and sends the home appliance to the user device 2 through the network.
  • Updated information regarding the operation and status of the device may be transmitted.
  • updating information may include various operations that change existing information, such as adding new information to existing information or replacing existing information with new information.
  • the home appliance 10 may obtain various information from other home appliances, the user device 2, or the server 3, and provide the obtained information to the user.
  • the home appliance 10 receives information related to the function of the home appliance 10 (e.g., recipe, washing method, etc.), various environmental information (e.g., weather, temperature, humidity, etc.) from the server 3. ) information can be obtained, and the obtained information can be output through the user interface.
  • information related to the function of the home appliance 10 e.g., recipe, washing method, etc.
  • various environmental information e.g., weather, temperature, humidity, etc.
  • Home appliance 10 may operate according to control commands received from other home appliances, user devices 2, or servers 3. For example, if the home appliance 10 obtains prior approval from the user so that it can operate according to the control command of the server 3 even without user input, the home appliance 10 receives the control received from the server 3. It can operate according to commands.
  • the control command received from the server 3 may include, but is not limited to, a control command input by the user through the user device 2 or a control command based on preset conditions.
  • the user device 2 may transmit information about the user to the home appliance 10 or the server 3 through a communication module.
  • the user device 2 may transmit information about the user's location, the user's health status, the user's taste, the user's schedule, etc. to the server 3.
  • the user device 2 may transmit information about the user to the server 3 according to the user's prior approval.
  • the home appliance 10, user device 2, or server 3 may determine control commands using technology such as artificial intelligence.
  • the server 3 receives information about the operation or status of the home appliance 10 or receives information about the user of the user device 2, processes it using technology such as artificial intelligence, and provides the processing results. Based on this, a processing result or control command can be transmitted to the home appliance 10 or the user device 2.
  • the cooking appliance 1 described below corresponds to the home appliance 10 described above.
  • Figure 2 is a perspective view of a cooking appliance according to one embodiment.
  • Figure 3 is a cross-sectional view of a cooking appliance according to one embodiment.
  • the cooking appliance 1 may include a housing 1h forming an exterior, and a door 20 provided to open and close an opening of the housing 1h.
  • a window 30 may be provided on the door 20.
  • the window 30 may be formed of a transparent material. The user can observe the inside of the chamber 50 through the window 30 when the door 20 is closed.
  • the window 30 may be formed as a translucent member, an opaque member, or a transparent display.
  • the housing 1h of the cooking appliance 1 may be provided with a user interface 40 for displaying information related to the operation of the cooking appliance 1 and obtaining user input.
  • the user interface 40 may include a display 41 that displays information related to the operation of the cooking appliance 1 and an input unit 42 that obtains a user's input.
  • the display 41 and the input unit 42 may be provided at various positions in the housing 1h. For example, the display 41 and the input unit 42 may be located on the upper front of the housing 1h.
  • the display 41 may be provided as various types of display panels.
  • the display 41 may include a liquid crystal display panel (LCD Panel), a light emitting diode panel (LED Panel), an organic light emitting diode panel (OLED Panel), Alternatively, it may include a micro LED panel.
  • Display 41 may also be used as an input device, including a touch screen.
  • the display 41 can display information input by the user or information provided to the user on various screens.
  • the display 41 may display information related to the operation of the cooking appliance 1 as at least one of an image or text.
  • the display 41 may display a graphic user interface (GUI) that enables control of the cooking appliance 1. That is, the display 41 can display a UI element (User Interface Element) such as an icon.
  • GUI graphic user interface
  • the input unit 42 may transmit an electrical signal (voltage or current) corresponding to the user input to the control unit 200.
  • the input unit 42 may include various buttons and/or dials.
  • the input unit 42 includes a power button to turn on or off the power of the cooking device 1, a start/stop button to start or stop the cooking operation, a temperature button to set the cooking temperature, and a cooking time. It may include at least one of the time buttons for setting.
  • Various buttons may be provided as physical buttons or touch buttons.
  • the dial included in the input unit 42 may be rotatable. By rotating the dial, one of a plurality of recommended items related to the food may be selected. As the dial rotates, UI elements displayed on the display 41 may move sequentially. The cooking appliance 1 may perform cooking according to a cooking course corresponding to the selected recommended item. Additionally, when the user selects a new item other than the recommended item, the cooking appliance 1 may perform cooking according to a cooking course corresponding to the new item.
  • the cooking appliance 1 is provided inside the housing 1h and may include a chamber 50 in which food can be placed.
  • An opening may be provided in the front of the housing 1h. The user can place food in the chamber 50 through the opening of the housing 1h.
  • the chamber 50 may be provided in a rectangular parallelepiped shape.
  • a plurality of rails 51 and 52 for mounting trays may be provided on the left and right inner surfaces of the chamber 50. Rails may also be referred to as 'supports'. As an example, the plurality of rails 51 and 52 may be formed to protrude from the left inner wall and the right inner wall of the chamber 50. As another example, the plurality of rails 51 and 52 may be provided as separate structures to be mounted on the left inner wall and the right inner wall of the chamber 50.
  • Each of the plurality of rails 51 and 52 has a predetermined length in the front-back direction.
  • a plurality of rails 51 and 52 may be provided at positions spaced apart from each other in the vertical direction.
  • the plurality of rails 51 and 52 may include a first rail 51 and a second rail 52 formed at a higher position than the first rail 51.
  • the first rail 51 may be located at a first height from the bottom of the chamber 50
  • the second rail 52 may be located at a second height higher than the first height from the bottom of the chamber 50.
  • the first rail 51 may refer to a pair of rails located at the first height of the left and right inner surfaces of the chamber 50, respectively.
  • the second rail 52 may refer to a pair of rails located at the second height of the left and right inner surfaces of the chamber 50, respectively.
  • the tray can be mounted at various heights within the chamber 50 by a plurality of rails 51 and 52. Food may be placed on the upper surface of the tray. The tray may be located on the bottom of the chamber 50.
  • the cooking appliance 1 may include a camera 60, a light 70, a fan 90, and various circuits.
  • the camera 60 may acquire images inside the chamber 50.
  • the camera 60 may transmit data of the acquired image to the control unit 200.
  • a portion of the upper surface of the chamber 50 adjacent to the position of the camera 60 may be formed of a transparent material (eg, transparent heat-resistant glass).
  • Illumination 70 may emit light into the chamber 50.
  • the interior of the chamber 50 may be brightened by the light emitted from the lighting 70. Accordingly, the brightness, contrast, and/or sharpness of the image acquired by the camera 60 may increase, and the identification of the food may be improved.
  • a diffusion material may be provided on another part of the upper surface of the chamber 50 adjacent to the position of the lighting 70 to transmit and diffuse the light of the lighting 70 into the interior of the chamber 50.
  • a heater 80 may be located at the top of the chamber 50.
  • the heater 80 may supply heat into the chamber 50.
  • Food may be cooked by the heat generated by the heater 80.
  • One or more heaters 80 may be provided.
  • the heating level and heating time of the heater 80 may be adjusted by the control unit 200.
  • the output and heating time of the heater 80 may be adjusted differently depending on the type, number, and/or size of the food. That is, the operation of the heater 80 may be controlled differently depending on the cooking course.
  • the fan 90 may circulate the air inside the chamber 50.
  • the fan 90 may include a motor and blades.
  • One or more fans 90 may be provided. As the fan 90 operates, air heated by the heater 80 may circulate inside the chamber 50. Accordingly, the heat generated by the heater 80 can be evenly transmitted from the top to the bottom of the chamber 50.
  • the rotation speed and rotation time of the fan 90 may be adjusted by the control unit 200.
  • the output and rotation time of the fan 90 may be adjusted differently depending on the type, number, and/or size of the food. That is, the operation of the fan 90 may be controlled differently depending on the cooking course.
  • FIG. 4 shows control configurations of a cooking appliance according to one embodiment.
  • the cooking appliance 1 includes a user interface 40, a camera 60, a light 70, a heater 80, a fan 90, a communication circuit 100, a temperature sensor 110, It may include a timer 120 and a control unit 200.
  • the control unit 200 is electrically connected to the components of the cooking appliance 1 and can control the components of the cooking appliance 1.
  • the user interface 40 may include a display 41 and an input unit 42.
  • the display 41 may display information related to the operation of the cooking appliance 1.
  • the display 41 can display information input by the user or information provided to the user on various screens.
  • the input unit 42 can obtain user input.
  • User input may include various commands.
  • the input unit 42 may include a command to select an item, a command to select a cooking course, a command to adjust the heating level of the heater 80, a command to adjust the cooking time, a command to adjust the cooking temperature, and a command to adjust the cooking temperature.
  • At least one of a start command or a cooking stop command may be obtained.
  • User input may be obtained from the user device 2.
  • the control unit 200 may control the operation of the cooking appliance 1 by processing commands received through at least one of the input unit 42 or the user device 2.
  • the cooking appliance 1 may automatically perform cooking based on cooking course information obtained from the memory 220, the user device 2, or the server 3.
  • the camera 60 may acquire images inside the chamber 50.
  • the control unit 200 may control the camera 60 to acquire an image inside the chamber 50 when the door 20 is closed after the cooking appliance 1 is turned on.
  • the controller 200 may control the camera 60 to acquire images inside the chamber 50 at predetermined time intervals from the start of cooking until the cooking is completed.
  • the control unit 200 may determine the cooking state of the food using a plurality of images acquired while the cooking operation is performed.
  • the control unit 200 may identify the food included in the image acquired by the camera 60.
  • the control unit 200 may identify a food item from an image using a learning model obtained from the memory 220 or the server 3 and obtain a plurality of candidate items related to the identified food product.
  • the control unit 200 may determine at least two recommended items among the plurality of candidate items based on the confidence value of each of the plurality of candidate items. Additionally, the controller 200 may control the display 41 to display at least two recommended items. Recommended items may also be displayed through the user device 2.
  • Illumination 70 may emit light into the chamber 50.
  • the control unit 200 may control the lighting 70 to emit light when the cooking appliance 1 is turned on.
  • the controller 200 may control the lighting 70 to emit light until cooking is completed or the cooking appliance 1 is turned off.
  • the heater 80 may supply heat into the chamber 50.
  • the control unit 200 can control the output of the heater 80.
  • the control unit 200 can adjust the heating level and heating time of the heater 80.
  • the control unit 200 may adjust the heating level and heating time of the heater 80 according to the type, number, size, and/or cooking course of the food.
  • the fan 90 may circulate the air inside the chamber 50.
  • the control unit 200 can control the output of the fan 90.
  • the control unit 200 can adjust the rotation speed and rotation time of the fan 90.
  • the control unit 200 may adjust the rotation speed and rotation time of the fan 90 according to the type, number, size, and/or cooking course of the food.
  • the communication circuit 100 may connect to at least one of the user device 2 or the server 3 through a network.
  • communication circuit 100 may receive a remote control signal from user device 2.
  • the control unit 200 may control the communication circuit 100 to transmit display information for displaying at least two recommended items to the external user device 2 to at least one of the user device 2 and the server 3. there is.
  • the control unit 200 may obtain various information and/or data from the server 3 through the communication circuit 100.
  • the control unit 200 may obtain a learning model from the server 3 through the communication circuit 100. Additionally, the control unit 200 may obtain from the server 3 an item list including a plurality of candidate items related to food and substitute items related to each of the plurality of candidate items.
  • Communication circuit 100 may include various communication modules. Communication circuit 100 may include a wireless communication module and/or a wired communication module. As wireless communication technology, wireless local area network (wireless local area network), home radio frequency (RF), infrared communication, ultra-wide band (UWB) communication, Wi-Fi, Bluetooth, Zigbee, etc. may be applied.
  • wireless local area network wireless local area network
  • RF home radio frequency
  • UWB ultra-wide band
  • the temperature sensor 110 can detect the temperature inside the chamber 50.
  • the temperature sensor 110 may be installed at various locations inside the chamber 50.
  • the temperature sensor 110 may transmit an electrical signal corresponding to the detected temperature to the control unit 200.
  • the control unit 200 may control at least one of the heater 80 and the fan 90 so that the temperature inside the chamber 50 is maintained at a cooking temperature determined according to the type, number, size, and/or cooking course of the food. there is.
  • the cooking appliance 1 may include various sensors.
  • the cooking appliance 1 may include a current sensor and a voltage sensor.
  • the current sensor can measure the current applied to the electronic components of the cooking appliance 1.
  • the voltage sensor can measure the voltage applied to the electronic components of the cooking appliance 1.
  • the control unit 200 may include a processor 210 and a memory 220.
  • the processor 210 is hardware and may include a logic circuit and an operation circuit.
  • the processor 210 may control electrically connected components of the cooking appliance 1 using programs, instructions, and/or data stored in the memory 220 to operate the cooking appliance 1.
  • the control unit 200 may be implemented as a control circuit including circuit elements such as condensers, inductors, and resistance elements.
  • the processor 210 and memory 220 may be implemented as separate chips or as a single chip. Additionally, the control unit 200 may include a plurality of processors and a plurality of memories.
  • the memory 220 may store programs, applications, and/or data for operating the cooking appliance 1, and may store data generated by the processor 210.
  • the memory 220 may include non-volatile memory such as ROM (Read Only Memory) or flash memory for long-term storage of data.
  • the memory 220 may include volatile memory such as Static Random Access Memory (S-RAM) or Dynamic Random Access Memory (D-RAM) for temporarily storing data.
  • S-RAM Static Random Access Memory
  • D-RAM Dynamic Random Access Memory
  • the components of the cooking appliance 1 are not limited to those described above.
  • the cooking appliance 1 may further include various components in addition to the components described above, and it is possible for some of the components described above to be omitted.
  • FIG. 5 illustrates the structure of the control unit described in FIG. 4.
  • control unit 200 may include a sub-controller 200a and a main control unit 200b.
  • the sub-control unit 200a and the main control unit 200b are electrically connected to each other, and each may include a separate processor and memory.
  • the main control unit 200b is electrically connected to the heater 80 and the fan 90 and can control the operation of the heater 80 and the fan 90.
  • the sub-controller 200a may control the operations of the user interface 40, camera 60, lighting 70, communication circuit 100, and temperature sensor 110.
  • the sub-controller 200a may process an electrical signal corresponding to a user input input through the user interface 40 and may control the user interface 40 to display information about the operation of the cooking appliance 1. there is.
  • the sub-controller 200a may obtain a reference image and a learning model for identification of food from the server 3.
  • the sub-controller 200a may identify the food from the image acquired by the camera 60 using a reference image and a learning model.
  • the sub-controller 200a may preprocess the image, identify the food using a learning model, and estimate the type, number, and/or size of the food.
  • the sub-controller 200a may include a special processor capable of performing multiple input-multiple output operations (i.e., matrix operations) to process artificial intelligence algorithms.
  • a special processor included in the sub-controller 200a may be called a Neural Process Unit (NPU).
  • NPU Neural Process Unit
  • Figure 6 is a flowchart explaining a method of controlling a cooking appliance according to an embodiment.
  • Figure 7 is an example of a screen displayed on the display of a cooking appliance according to an embodiment.
  • control unit 200 of the cooking appliance 1 may control the camera 60 to obtain an image inside the chamber 50 (501).
  • the control unit 200 may identify the food included in the image using a learning model.
  • the learning model may output the type of food included in the image, the number of food, and/or the size of the food.
  • Learning model refers to an artificial intelligence model. Learning models may be created through machine learning and/or deep learning. The learning model may be created by the server 3 and stored in the memory 220 of the cooking appliance 1. Learning algorithms may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, and are limited to examples. It doesn't work.
  • the learning model may include multiple artificial neural network layers.
  • Artificial neural networks include deep neural network (DNN), convolutional neural network (CNN), recurrent neural network (RNN), restricted boltzmann machine (RBM), belief deep network (DBN), bidirectional recurrent deep neural network (BRDNN), and/or deep Q-networks, but are not limited to those illustrated.
  • DNN deep neural network
  • CNN convolutional neural network
  • RNN recurrent neural network
  • RBM restricted boltzmann machine
  • BNN belief deep network
  • BNN bidirectional recurrent deep neural network
  • BTDNN bidirectional recurrent deep neural network
  • deep Q-networks but are not limited to those illustrated.
  • artificial intelligence models may additionally or alternatively include software structures.
  • control unit 200 may obtain a plurality of candidate items related to the identified food using a learning model (502).
  • a plurality of candidate items refers to items that are estimated to be the same as or similar to the identified type of food.
  • the memory 220 may store an item list including a plurality of candidate items related to food.
  • the control unit 200 may determine a plurality of candidate items by referring to the item list.
  • the item list may be obtained from the server 3.
  • the item list may include a cooking course corresponding to each of a plurality of candidate items.
  • the cooking course may include cooking parameters such as cooking temperature, cooking time, output of the heater 80, and output of the fan 90. Cooking courses may be determined differently for each candidate item.
  • the control unit 200 may determine at least two recommended items among a plurality of candidate items (503). Each of the plurality of candidate items may be assigned a confidence value. Reliability can be expressed as a probabilistic number indicating the similarity between the identified food and the candidate item. The control unit 200 may determine at least two recommended items among the plurality of candidate items based on the confidence value of each of the plurality of candidate items (503).
  • the controller 200 may control the display 41 to display at least two recommended items (504). At least two recommended items may also be displayed through the user device 2.
  • the control unit 200 may control the communication circuit 100 to transmit display information for displaying at least two recommended items to the external user device 2 to at least one of the user device 2 and the server 3. there is.
  • At least two recommended items may be displayed through the display 41 of the cooking appliance 1.
  • at least two recommended items may be displayed sequentially or simultaneously.
  • 7 illustrates that a first graphic element (E1) representing a first recommended item and a second graphic element (E2) representing a second recommended item are displayed simultaneously.
  • the user can scroll through a plurality of recommended items by manipulating the display 41, the input unit 42, or the user device 2. For example, in response to a touch scroll input of the display 41, a rotation input of a dial included in the input unit 42, or a scroll input transmitted from the user device 2, the control unit 200 selects the first recommended item, the second recommended item, and the second recommended item. 2
  • the display 41 can be controlled to display recommended items other than the recommended items.
  • the user can select one recommended item by manipulating the display 41, the input unit 42, or the user device 2.
  • the display 41 may highlight the selected recommended item.
  • the control unit 200 may automatically perform cooking according to a cooking course corresponding to the selected recommended item (505).
  • the control unit 200 can start cooking according to the cooking course of the first recommended item.
  • the start of cooking for the selected first recommended item may be triggered by a separate button or a cooking start command input through the user device 2.
  • the display 41 may display another screen instead of the screen including the recommended item.
  • the control unit 200 may control the display 41 to display a screen including other items not selected as recommended items or a menu screen related to basic functions of the cooking appliance 1.
  • FIGS. 8 and 9 are flowcharts illustrating in more detail the method of controlling the cooking appliance described in FIG. 6 .
  • the control unit 200 of the cooking appliance 1 may obtain the reliability of each of a plurality of candidate items related to food using a learning model (701). Reliability can be expressed as a probabilistic value indicating the similarity between each of a plurality of candidate items and the food.
  • the control unit 200 may input the image acquired by the camera 60 into a learning model and obtain a plurality of candidate items related to the food as output of the learning model.
  • the learning model may assign a confidence value to each of a plurality of candidate items. Accordingly, the control unit 200 can obtain the reliability of each of the plurality of candidate items. The higher the reliability of the candidate item, the higher the similarity to the cooked product can be judged to be.
  • the control unit 200 may determine at least two recommended items including a first recommendation item with a first reliability and a second recommendation item with a second reliability lower than the first reliability in descending order of reliability (702). That is, the control unit 200 may determine the candidate item with the highest reliability as the first recommendation item, and determine the candidate item with the second highest reliability as the second recommendation item. Likewise, the candidate item with the third highest reliability may be determined as the third recommended item.
  • the control unit 200 may select at least two recommendation items from a plurality of candidate items such that the sum of the reliability of the at least two recommendation items is greater than or equal to a predetermined threshold and less than or equal to a predetermined maximum value.
  • the threshold may be 95% and the maximum may be 100%.
  • the first reliability of the first recommended item may be 55%, and the second reliability of the second recommended item may be 40%.
  • the control unit 200 may control the display 41 to display the first recommended item of first priority and the second recommended item of second priority according to descending order of reliability.
  • the control unit 200 makes the first recommendation.
  • the display 41 can be controlled to display the item, the second recommended item, and the third recommended item.
  • the threshold and maximum values for the sum of reliability may be determined differently depending on the product design or may be determined differently by the user.
  • the number of recommended items may be determined differently depending on the threshold and maximum value of the sum of reliability.
  • the control unit 200 can select recommended items within the maximum number set by the user input. .
  • the control unit 200 can select recommended items within the maximum number set by the user input.
  • the control unit 200 may determine a replacement item for the first recommended item as a second recommended item or a third recommended item based on the first reliability of the first recommended item.
  • the memory 220 may store an item list including at least one replacement item related to each of the plurality of candidate items. The item list can be obtained from the server 3.
  • the control unit 200 may determine whether the first reliability of the first recommended item is greater than or equal to a first predetermined reference value (703). Referring to FIG. 9, when the first reliability of the first recommended item is greater than or equal to a predetermined first reference value, the control unit 200 adds the first recommended item to the item list obtained from the memory 220 or the server 3. You can search to see if there is an alternative item that can replace (801).
  • the control unit 200 may determine the replacement item for the first recommended item as the second recommended item (802). If there are multiple replacement items for the first recommended item, the control unit 200 may select one of the multiple replacement items. For example, within the maximum value of the reliability sum, the reliability of the first and second recommended items selected from a plurality of candidate items may be 90% and 10%, respectively. The first reference value may be 90%. However, displaying a second recommended item with 10% reliability may be meaningless to the user and may result in providing incorrect information. To solve this problem, the control unit 200 may extract a replacement item that can replace the first recommended item from the item list, and determine the extracted replacement item as the second recommended item.
  • the controller 200 may control the display 41 to display only the first recommended item (803). Since the reliability of the first recommendation item is very high and there are no other alternative items, it is desirable to provide only the first recommendation item as a result of identification of the food.
  • control unit 200 can calculate the reliability of the replacement item.
  • the control unit 200 may determine the reliability of the replacement item by multiplying the first reliability of the first recommended item by a predetermined coefficient. Since the replacement item replaces a second-ranked candidate item that has low similarity to the food, the control unit 200 may not add the reliability of the replacement items when calculating the reliability sum to determine the number of recommended items. Accordingly, two recommended items that have relatively high similarity to the cooked food may be displayed through the display 41.
  • the control unit 200 determines whether the first reliability of the first recommended item is less than a predetermined first reference value and the first reliability is greater than or equal to a predetermined second reference value that is lower than the first reference value.
  • a replacement item for the first recommended item may be selected from the item list, and the selected replacement item may be determined as the third recommended item (704, 705).
  • the reliability of the first and second recommended items selected from a plurality of candidate items may be 60% and 35%, respectively.
  • the first reference value may be 90%
  • the second reference value may be 50%.
  • the control unit 200 may extract a replacement item that can replace the first recommended item from the item list, and determine the extracted replacement item as the third recommended item.
  • the similarity between the first recommended item and the cooked food is higher than the similarity between the second recommended item and the cooked food, when considering reliability, there is a possibility that both the first recommended item and the second recommended item are somewhat different from the cooked food. If the first recommended item and the second recommended item are different from the food, inaccurate information may be provided.
  • the disclosed cooking appliance 1 may additionally provide another item that can replace the first recommendation item with a medium level of reliability as a third recommendation item.
  • a third recommendation item By additionally providing a third recommended item, the range of choices provided to the user can be expanded, and the accuracy of the information provided to the user can also be improved to some extent.
  • the control unit 200 may determine that the recommended item cannot be selected from the plurality of items. In this case, the control unit 200 may re-identify the food and obtain a plurality of candidate items again. Additionally, the control unit 200 may control the display 41 to display a notification regarding failure to select a recommended item and/or a message requesting the user to directly select a cooking course for the food.
  • the control unit 200 may determine the reliability of a third recommendation item selected as a replacement item for the first recommendation item by multiplying the first reliability of the first recommendation item by a predetermined coefficient. Since the third recommended item is provided to expand the range of selection, the control unit 200 may not add the reliability of the third recommended item when calculating the reliability sum to determine the number of recommended items. Accordingly, three recommended items that have relatively high similarity to the cooked food may be displayed through the display 41.
  • the control unit 200 may determine the display order of recommended items according to their reliability (706). For example, the control unit 200 compares the first reliability of the first recommendation item, the second reliability of the second recommendation item, and the third reliability of the third recommendation item to determine the first recommendation item, the second recommendation item, and the third recommendation item. You can determine the display order of recommended items. If the reliability of the first recommended item is 60%, the reliability of the second recommended item is 35%, and the reliability of the third recommended item is 47%, the display order is the first recommended item, the third recommended item, and the second recommended item. It can be determined as The controller 200 may control the display 41 to sequentially display the first recommended item, the third recommended item, and the second recommended item.
  • Figure 10 shows a list of replacement items related to a candidate item.
  • the item list TL may be stored in the memory 220 as table data.
  • the item list (TL) may include at least one replacement item related to each of the plurality of candidate items.
  • the item list (TL) may be created at the product design stage and stored in the memory 220 or downloaded from the server 3 to the memory 220.
  • the item list TL may include an item number in the first column, a candidate item in the second column, and a replacement item in the third column. That is, the second column of the item list TL may include candidate items that are estimated to be the same as or similar to the food identified in the image acquired by the camera 60.
  • the third column of the item list (TL) may include a replacement item that can replace the candidate item.
  • a replacement item for the candidate item ‘cauliflower steak’ could be ‘whole cauliflower’.
  • the alternative item for the candidate item 'whole cauliflower' may be 'cauliflower steak'.
  • a replacement item for the candidate item ‘cheese stick’ may be ‘churros’.
  • a replacement item for the candidate item ‘Cheesecake’ may be ‘Pavlova’.
  • the alternative item for the candidate item ‘chicken breast’ may be ‘chicken leg’.
  • the candidate item and the replacement item are matched one to one, but are not limited to this. Multiple alternative items may be matched to one candidate item. Additionally, candidate items and replacement items included in the item list (TL) are selected experimentally and are not limited to those illustrated.
  • FIG. 11 is a flowchart explaining a method of updating the item list of FIG. 10.
  • a candidate item different from the at least two recommended items may be selected through the input unit 42 (901).
  • a screen containing other items may be displayed.
  • Other items may be other candidate items that were not selected as recommended items.
  • the user may select another candidate item by manipulating the user interface 40 or the user device 2.
  • a candidate item related to a food different from the identified food may be selected according to the user input.
  • the control unit 200 of the cooking appliance 1 selects the other selected candidate items as a new replacement item for the first recommended item in the item list ( TL) can be added (902).
  • the control unit 200 can select a recommended item by considering new replacement items added to the item list TL.
  • FIG. 12 is a flow chart illustrating an example of interaction between a cooking appliance and a server.
  • FIG. 13 is a flowchart illustrating an example of interaction between a cooking appliance, a server, and a user device expanded from FIG. 12 .
  • the cooking appliance 1 may obtain a learning model from the server 3 that is used to identify the food and determine candidate items related to the food. Additionally, the cooking appliance 1 may obtain an item list including candidate items and replacement items related to cooking items from the server 3 (1001). The learning model and item list transmitted from the server 3 may be stored in the memory 220 of the cooking appliance 1.
  • the cooking appliance 1 may acquire an image inside the chamber 50 using the camera 60 (1002) and identify the food in the image using a learning model (1003). Additionally, the cooking appliance 1 may obtain a plurality of candidate items related to food using a learning model (1004) and determine recommended items from the plurality of candidate items (1005). The cooking appliance 1 may display recommended items on the display 41 (1006).
  • the cooking appliance 1 may obtain a user input for selecting one of the recommended items or a candidate item different from the recommended items (1007).
  • the cooking appliance 1 may generate selection information including the selected recommended item or other candidate items and transmit the selection information to the server 3 (1008).
  • the cooking appliance 1 may automatically perform cooking according to a cooking course corresponding to the selected recommended item or another selected candidate item (1009).
  • the server 3 can update the learning model and item list using the received selection information (1010).
  • the cooking appliance 1 may transmit display information including recommended items to the user device 2 (1011).
  • the display information may be transmitted to the user device 2 through the server 3.
  • the user device 2 may display recommended items as it receives display information (1012).
  • the user device 2 may obtain a user input for selecting one of the recommended items or a candidate item different from the recommended items (1013).
  • the user device 2 may generate selection information including the selected recommended item or other candidate items, and transmit the selection information to the server 3 and the cooking appliance 1 (1014, 1015).
  • the cooking appliance 1 may automatically perform cooking according to a cooking course corresponding to the selected recommended item or another selected candidate item (1016).
  • the server 3 can update the learning model and item list using the received selection information (1017).
  • FIG. 14 is a flowchart explaining another example of interaction between a cooking appliance and a server.
  • FIG. 15 is a flowchart illustrating another example of interaction between a cooking appliance, a server, and a user device expanded from FIG. 14 .
  • the cooking appliance 1 may acquire an image of the inside of the chamber 50 using the camera 60 (1101) and transmit the image to the server 3 (1102).
  • the server 3 can identify the food in the image using the learning model (1103). Additionally, the server 3 may obtain a plurality of candidate items related to food using a learning model (1104) and determine recommended items from the plurality of candidate items (1105).
  • the server 3 may transmit display information including recommended items to the cooking appliance 1 (1106).
  • the cooking appliance 1 may display recommended items on the display 41 as it receives display information (1107).
  • the cooking appliance 1 may obtain a user input for selecting one of the recommended items or a candidate item different from the recommended items (1108).
  • the cooking appliance 1 may generate selection information including the selected recommended item or other candidate items and transmit the selection information to the server 3 (1109).
  • the cooking appliance 1 may automatically perform cooking according to a cooking course corresponding to the selected recommended item or another selected candidate item (1110).
  • the server 3 can update the learning model and item list using the received selection information (1111).
  • the server 3 may also transmit display information including recommended items to the user device 2 (1112).
  • the user device 2 may also display recommended items as it receives display information (1113).
  • the user device 2 may obtain user input for selecting one of the recommended items or a candidate item different from the recommended items (1114).
  • the user device 2 may generate selection information including the selected recommended item or other candidate items, and transmit the selection information to the server 3 and the cooking appliance 1 (1115, 1116).
  • the cooking appliance 1 may automatically perform cooking according to a cooking course corresponding to the selected recommended item or another selected candidate item (1117).
  • the server 3 can update the learning model and item list using the received selection information (1118).
  • a cooking appliance 1 includes a display 41; A camera 60 that acquires images inside the chamber 50; a memory 220 that stores a learning model used for identification of food; and a control unit 200 electrically connected to the display, the camera, and the memory.
  • the control unit obtains a plurality of candidate items related to the food identified from the acquired image using the learning model, and selects among the plurality of candidate items based on the confidence value of each of the plurality of candidate items. At least two recommended items may be determined, and the display may be controlled to display the at least two recommended items.
  • the control unit uses the learning model to obtain reliability of each of the plurality of candidate items with a probabilistic value indicating similarity between each of the plurality of candidate items and the food, and obtains a reliability of each of the plurality of candidate items in descending order of the reliability.
  • the at least two recommended items including one recommended item and a second recommended item having a second reliability lower than the first reliability may be determined.
  • the control unit may determine the at least two recommended items such that the sum of the reliability of the at least two recommended items is greater than or equal to a predetermined threshold and less than or equal to a predetermined maximum value.
  • the memory further stores an item list including at least one replacement item related to each of the plurality of candidate items, and the control unit replaces the first recommendation item based on the first reliability of the first recommendation item.
  • the item may be determined as the second recommended item or the third recommended item.
  • the control unit selects a replacement item for the first recommendation item from the item list based on the fact that the first reliability of the first recommendation item is greater than or equal to a predetermined first reference value, and replaces the selected replacement item with the first recommendation item. 2 You can decide on recommended items.
  • the control unit selects the item from the list of items based on whether the first reliability of the first recommended item is less than a predetermined first reference value and the first reliability is greater than or equal to a predetermined second reference value that is lower than the first reference value.
  • a replacement item for the first recommended item may be selected, and the selected replacement item may be determined as the third recommended item.
  • the control unit determines a third reliability of the third recommendation item by multiplying the first reliability of the first recommendation item by a predetermined coefficient, and compares the first reliability, the second reliability, and the third reliability to determine the third reliability of the third recommendation item.
  • the display order of the first recommended item, the second recommended item, and the third recommended item may be determined.
  • the memory stores an item list including at least one replacement item related to each of the plurality of candidate items, and the control unit selects the at least two recommended items and a different candidate item through an input unit to select the other candidate item.
  • An item may be added to the item list as a new replacement item for the first recommended item.
  • the control unit may set the maximum number of the at least two recommended items based on user input obtained through the input unit.
  • the cooking appliance further includes a communication circuit that communicates with a server, wherein the control unit obtains the learning model from the server through the communication circuit and displays the at least two recommended items on an external user device.
  • the communication circuit can be controlled to transmit display information for the purpose to the server.
  • a method of controlling a cooking appliance includes acquiring an image of the inside of the chamber 50 using a camera 60; Identifying food inside the chamber from the acquired image by the control unit 200 using a learning model obtained from the memory 220 or the server 3; Obtain, by the control unit, a plurality of candidate items related to the food using the learning model; determining, by the control unit, at least two recommended items among the plurality of candidate items based on confidence values of each of the plurality of candidate items; It includes: displaying the at least two recommended items through a display.
  • the at least two recommended items may be determined such that the sum of the reliability of the at least two recommended items is greater than or equal to a predetermined threshold and less than or equal to a predetermined maximum value.
  • the method of controlling the cooking appliance may further include obtaining an item list including at least one replacement item related to each of the plurality of candidate items from the memory or the server. Determining the at least two recommended items includes determining a replacement item for the first recommended item as the second recommended item or a third recommended item based on the first reliability of the first recommended item. It can be included.
  • Determining the at least two recommended items includes selecting a replacement item for the first recommended item from the item list based on the first reliability of the first recommended item being greater than or equal to a first predetermined reference value; , determining the selected replacement item as the second recommended item.
  • Determining the at least two recommended items includes: the first reliability of the first recommended item is less than a predetermined first reference value, and the first reliability is greater than or equal to a second predetermined reference value that is less than the first reference value. Based on this, select a replacement item for the first recommended item from the item list. It may include determining the selected replacement item as the third recommended item.
  • Determining the at least two recommended items may include multiplying the first reliability of the first recommended item by a predetermined coefficient to determine a third reliability of the third recommended item; The method may further include comparing the first reliability, the second reliability, and the third reliability to determine a display order of the first recommendation item, the second recommendation item, and the third recommendation item.
  • the method of controlling the cooking appliance includes: obtaining an item list including at least one replacement item related to each of the plurality of candidate items from the memory or the server; The method may further include adding the other candidate item to the item list as a new replacement item for the first recommendation item based on the selection of the at least two recommended items and a different candidate item through an input unit.
  • the method of controlling the cooking appliance may further include setting a maximum number of the at least two recommended items based on user input obtained through an input unit.
  • the method of controlling the cooking appliance may further include transmitting display information for displaying the at least two recommended items on an external user device to the server.
  • the disclosed cooking appliance and method of controlling the cooking appliance can identify the food in the chamber and provide recommended items for automatic cooking of the food to the user.
  • the disclosed cooking appliance and method for controlling the cooking appliance can provide more accurate cooking information to the user by extracting a plurality of candidate items presumed to be food and determining recommended items according to the reliability of each of the plurality of candidate items. there is.
  • the disclosed embodiments may be implemented in the form of a storage medium that stores instructions executable by a computer. Instructions may be stored in the form of program code, and when executed by a processor, may create program modules to perform operations of the disclosed embodiments.
  • a storage medium that can be read by a device may be provided in the form of a non-transitory storage medium.
  • 'non-transitory storage medium' simply means that it is a tangible device and does not contain signals (e.g. electromagnetic waves). This term is used to refer to cases where data is semi-permanently stored in a storage medium and temporary storage media. It does not distinguish between cases where it is stored as .
  • a 'non-transitory storage medium' may include a buffer where data is temporarily stored.
  • Computer program products are commodities and can be traded between sellers and buyers.
  • the computer program product may be distributed in the form of a machine-readable storage medium (e.g. compact disc read only memory (CD-ROM)) or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (e.g. downloaded or uploaded) directly between smartphones) or online.
  • a machine-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (e.g. downloaded or uploaded) directly between smartphones) or online.
  • at least a portion of the computer program product e.g., a downloadable app
  • a machine-readable storage medium such as the memory of a manufacturer's server, an application store's server, or a relay server. It can be temporarily stored or created temporarily.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Combustion & Propulsion (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Tourism & Hospitality (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Food Science & Technology (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

개시된 조리 기기는, 디스플레이; 챔버 내부의 이미지를 획득하는 카메라; 조리물의 식별에 사용되는 학습 모델을 저장하는 메모리; 및 상기 디스플레이, 상기 카메라 및 상기 메모리와 전기적으로 연결되는 제어부;를 포함하고, 상기 제어부는 상기 학습 모델을 이용하여 상기 획득된 이미지로부터 식별되는 상기 조리물과 관련된 복수의 후보 아이템을 획득하고, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고, 상기 적어도 2개의 추천 아이템을 표시하도록 상기 디스플레이를 제어한다.

Description

조리 기기 및 조리 기기의 제어 방법
개시된 발명은 조리 기기 및 조리 기기의 제어 방법에 관한 것이다.
조리 기기는, 음식물과 같은 조리 대상을 가열하여 조리하기 위한 기기로, 조리 대상의 가열, 해동, 건조 및 살균 등 조리와 관련된 여러 기능을 제공할 수 있는 장치를 의미한다. 예를 들면, 조리 기기는, 가스 오븐이나 전기 오븐과 같은 오븐(oven), 마이크로파 가열 장치(이하 전자 레인지, microwave), 가스 레인지, 전기 레인지, 가스 그릴 또는 전기 그릴을 의미할 수 있다.
일반적으로 오븐은 열을 발생시키는 히터를 이용하여 음식물에 직접 열을 전달하거나 조리실 내부를 가열하여 음식물을 조리한다. 전자 레인지는 고주파를 열원으로 하여 음식물의 분자 배열을 교란시킴에 따라 발생되는 분자간 마찰열에 의해 음식물을 조리한다.
최근에는 인공 지능 기술을 이용하여 조리 기기 내부에 배치된 식품을 인식하고, 인식된 식품에 따라 조리 기기의 동작을 제어하는 기술들이 개발되고 있다.
개시된 발명은, 챔버 내의 조리물을 식별하고 조리물의 자동 조리를 위한 추천 아이템들을 사용자에게 제공할 수 있는 조리 기기 및 조리 기기의 제어 방법을 제공한다.
일 실시예에 따른 조리 기기(1)는, 디스플레이(41); 챔버(50) 내부의 이미지를 획득하는 카메라(60); 조리물의 식별에 사용되는 학습 모델을 저장하는 메모리(220); 및 상기 디스플레이, 상기 카메라 및 상기 메모리와 전기적으로 연결되는 제어부(200);를 포함하고, 상기 제어부는 상기 학습 모델을 이용하여 상기 획득된 이미지로부터 식별되는 상기 조리물과 관련된 복수의 후보 아이템을 획득하고, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고, 상기 적어도 2개의 추천 아이템을 표시하도록 상기 디스플레이를 제어한다.
일 실시예에 따른 조리 기기의 제어 방법은, 카메라(60)에 의해 챔버(50) 내부의 이미지를 획득하고; 제어부(200)에 의해, 메모리(220) 또는 서버(3)로부터 획득되는 학습 모델을 이용하여 상기 획득된 이미지로부터 상기 챔버 내부의 조리물을 식별하고; 상기 제어부에 의해, 상기 학습 모델을 이용하여 상기 조리물에 관련된 복수의 후보 아이템을 획득하고; 상기 제어부에 의해, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고; 디스플레이를 통해 상기 적어도 2개의 추천 아이템을 표시하는 것;을 포함한다.
개시된 조리 기기 및 조리 기기의 제어 방법은, 챔버 내의 조리물을 식별하여 조리물의 자동 조리를 위한 추천 아이템들을 사용자에게 제공할 수 있다.
또한, 개시된 조리 기기 및 조리 기기의 제어 방법은, 조리물로 추정되는 복수의 후보 아이템을 추출하고, 복수의 후보 아이템 각각의 신뢰도에 따라 추천 아이템들을 결정함으로써 사용자에게 보다 정확한 조리 정보를 제공할 수 있다.
본 문서에서 달성하고자 하는 기술적 과제 및 효과는 전술된 것으로 제한되지 않으며, 언급된 것들 이외의 다른 기술적 과제 및 효과도 아래의 설명으로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 다양한 전자 장치들에 의해 구현되는 네트워크 시스템을 도시한다.
도 2는 일 실시예에 따른 조리 기기의 사시도이다.
도 3은 일 실시예에 따른 조리 기기의 단면도이다.
도 4는 일 실시예에 따른 조리 기기의 제어 구성들을 도시한다.
도 5는 도 4에서 설명된 제어부의 구조를 예시한다.
도 6은 일 실시예에 따른 조리 기기의 제어 방법을 설명하는 순서도이다.
도 7은 일 실시예에 따른 조리 기기의 디스플레이에 표시되는 화면의 일 예이다.
도 8 및 도 9는 도 6에서 설명된 조리 기기의 제어 방법을 더 상세히 설명하는 순서도이다.
도 10은 후보 아이템에 관련된 대체 아이템을 포함하는 아이템 목록을 도시한다.
도 11은 도 10의 아이템 목록을 업데이트 하는 방법을 설명하는 순서도이다.
도 12는 조리 기기와 서버 간 상호 작용의 일 예를 설명하는 순서도이다.
도 13은 도 12로부터 확장되는 조리 기기, 서버 및 사용자 기기 간 상호 작용의 일 예를 설명하는 순서도이다.
도 14는 조리 기기와 서버 간 상호 작용의 다른 예를 설명하는 순서도이다.
도 15는 도 14로부터 확장되는 조리 기기, 서버 및 사용자 기기 간 상호 작용의 다른 예를 설명하는 순서도이다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다.
도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 아이템 한 개 또는 복수 개를 포함할 수 있다.
본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다.
"제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다.
어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 어떤 구성요소가 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
“포함하다” 또는 "가지다"등의 용어는 본 문서에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는다.
어떤 구성요소가 다른 구성요소와 "연결", "결합", "지지" 또는 "접촉"되어 있다고 할 때, 이는 구성요소들이 직접적으로 연결, 결합, 지지 또는 접촉되는 경우뿐 아니라, 제3 구성요소를 통하여 간접적으로 연결, 결합, 지지 또는 접촉되는 경우를 포함한다.
어떤 구성요소가 다른 구성요소 "상에" 위치하고 있다고 할 때, 이는 어떤 구성요소가 다른 구성요소에 접해 있는 경우뿐 아니라 두 구성요소 사이에 또 다른 구성요소가 존재하는 경우도 포함한다.
“및/또는"이라는 용어는 복수의 관련된 기재된 구성요소들의 조합 또는 복수의 관련된 기재된 구성요소들 중의 어느 구성요소를 포함한다.
이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시예에 대해 설명한다.
도 1은 다양한 전자 장치들에 의해 구현되는 네트워크 시스템을 도시한다.
도 1을 참조하면, 가전 기기(10)는 다른 가전 기기, 사용자 기기(2) 또는 서버(3)와 통신할 수 있는 통신 모듈, 사용자 입력을 수신하거나 사용자에게 정보를 출력하는 사용자 인터페이스, 가전 기기(10)의 동작을 제어하는 적어도 하나의 프로세서 및 가전 기기(10)의 동작을 제어하기 위한 프로그램이 저장된 적어도 하나의 메모리를 포함할 수 있다.
가전 기기(10)는 다양한 종류의 가전 제품들 중 적어도 하나일 수 있다. 예를 들어, 가전 기기(10)는 도시된 바와 같이 냉장고(11), 식기세척기(12), 전기레인지(13), 전기오븐(14), 공기조화기(15), 의류 관리기(16), 세탁기(17), 건조기(18), 마이크로파 오븐(19) 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니며, 예를 들어, 도면에 도시되지 않은 청소 로봇, 진공 청소기, 텔레비전 등의 다양한 타입의 가전 제품을 포함할 수 있다. 또한, 앞서 언급된 가전 제품들은 예시에 불과하며, 앞서 언급된 가전 제품들 외에도, 다른 가전 기기, 사용자 기기(2) 또는 서버(3)와 연결되어 후술하는 동작을 수행할 수 있는 기기는 일 실시예에 따른 가전 기기(10)에 포함될 수 있다.
서버(3)는 다른 서버, 가전 기기(10) 또는 사용자 기기(2)와 통신할 수 있는 통신 모듈, 다른 서버, 가전 기기(10) 또는 사용자 기기(2)로부터 수신된 데이터를 처리할 수 있는 적어도 하나의 프로세서 및 데이터를 처리하기 위한 프로그램 또는 처리된 데이터를 저장할 수 있는 적어도 하나의 메모리를 포함할 수 있다. 이러한 서버(3)는 워크스테이션(workstation), 클라우드(cloud), 데이터 드라이브(data drive), 데이터 스테이션(data station) 등 다양한 컴퓨팅 디바이스로 구현될 수 있다. 서버(3)는 기능, 기능의 세부 구성 또는 데이터 등을 기준으로 물리적 또는 논리적으로 구분된 하나 이상의 서버로 구현될 수 있으며, 각 서버 간의 통신을 통해 데이터를 송수신하고 송수신된 데이터를 처리할 수 있다.
서버(3)는 사용자 계정을 관리하고, 사용자 계정에 결부시켜 가전 기기(10)를 등록하고, 등록된 가전 기기(10)를 관리하거나 제어하는 등의 기능을 수행할 수 있다. 예를 들어, 사용자는 사용자 기기(2)를 통해 서버(3)에 접속하여, 사용자 계정을 생성할 수 있다. 사용자 계정은 사용자에 의해 설정된 아이디와 비밀번호에 의해 식별될 수 있다. 서버(3)는 정해진 절차에 따라 가전 기기(10)를 사용자 계정에 등록할 수 있다. 예를 들어, 서버(3)는 가전 기기(10)의 식별 정보(예: 시리얼 넘버 또는 맥 주소(MAC address) 등)를 사용자 계정에 연결하여, 가전 기기(10)를 등록, 관리, 제어할 수 있다. 사용자 기기(2)는 가전 기기(10) 또는 서버(3)와 통신할 수 있는 통신 모듈, 사용자 입력을 수신하거나 사용자에게 정보를 출력하는 사용자 인터페이스, 사용자 기기(2)의 동작을 제어하는 적어도 하나의 프로세서 및 사용자 기기(2)의 동작을 제어하기 위한 프로그램이 저장된 적어도 하나의 메모리를 포함할 수 있다.
사용자 기기(2)는 사용자가 휴대하거나, 사용자의 가정 또는 사무실 등에 배치될 수 있다. 사용자 기기(2)는 퍼스널 컴퓨터(personal computer), 단말기(terminal), 휴대폰(portable telephone), 스마트 폰(smart phone), 휴대 장치(handheld device), 착용 장치(wearable device) 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
사용자 기기(2)의 메모리에는 가전 기기(10)를 제어하기 위한 프로그램, 즉 어플리케이션이 저장될 수 있다. 어플리케이션은 사용자 기기(2)에 설치된 상태로 판매되거나, 외부 서버로부터 다운로드 받아 설치될 수 있다.
사용자가 사용자 기기(2)에 설치된 어플리케이션을 실행함으로써 서버(3)에 접속하여 사용자 계정을 생성하고, 로그인 된 사용자 계정을 기반으로 서버(3)와 통신을 수행하여 가전 기기(10)를 등록할 수 있다.
예를 들어, 사용자 기기(2)에 설치된 어플리케이션에서 안내하는 절차에 따라 가전 기기(10)가 서버(3)에 접속될 수 있도록 가전 기기(10)를 조작하면, 서버(3)에서 해당 사용자 계정에 가전 기기(10)의 식별 정보(예: 시리얼 넘버 또는 맥 주소(MAC address) 등)를 등재함으로써, 사용자 계정에 가전 기기(10)를 등록할 수 있다.
사용자는 사용자 기기(2)에 설치된 어플리케이션을 이용하여 가전 기기(10)를 제어할 수 있다. 예를 들어, 사용자가 사용자 기기(2)에 설치된 어플리케이션으로 사용자 계정에 로그인 하면, 사용자 계정에 등록된 가전 기기(10)가 나타나고, 가전 기기(10)에 대한 제어 명령을 입력하면 서버(3)를 통해 가전 기기(10)에 제어 명령을 전달할 수 있다.
네트워크는 유선 네트워크와 무선 네트워크를 모두 포함할 수 있다. 유선 네트워크는 케이블 네트워크 또는 전화 네트워크 등을 포함하며, 무선 네트워크는 전파를 통하여 신호를 송수신하는 모든 네트워크를 포함할 수 있다. 유선 네트워크와 무선 네트워크는 서로 연결될 수 있다.
네트워크는 인터넷 같은 광역 네트워크(wide area network, WAN), 접속 중계기(Access Point, AP)를 중심으로 형성된 지역 네트워크(local area network, LAN) 및/또는 접속 중계기(AP)를 통하지 않는 근거리 무선 네트워크를 포함할 수 있다. 근거리 무선 네트워크는, 예를 들면, 블루투스(Bluetooth쪠, IEEE 802.15.1), 지그비(Zigbee, IEEE 802.15.4), 와이파이 다이렉트(Wi-Fi Direct), NFC(Near Field Communication), 지-웨이브(Z-Wave) 등을 포함할 수 있으나, 예시된 것들로 한정되지 않는다.
접속 중계기(AP)는 가전 기기(10) 또는 사용자 기기(2)를 서버(3)가 연결된 광역 네트워크(WAN)에 연결시킬 수 있다. 가전 기기(10) 또는 사용자 기기(2)는 광역 네트워크(WAN)를 통해 서버(3)에 연결될 수 있다.
접속 중계기(AP)는 와이파이(Wi-Fi쪠, IEEE 802.11), 블루투스(Bluetooth쪠, IEEE 802.15.1), 지그비(Zigbee, IEEE 802.15.4) 등의 무선 통신을 이용하여 가전 기기(10) 또는 사용자 기기(2)와 통신하고 유선 통신을 이용하여 광역 네트워크(WAN)에 접속할 수 있으나, 이에 한정되는 것은 아니다.
다양한 실시예에 따라, 가전 기기(10)는 접속 중계기(AP)를 통하지 않고 사용자 기기(2) 또는 서버(3)와 직접 연결될 수도 있다.
가전 기기(10)는 원거리 무선 네트워크 또는 근거리 무선 네트워크를 통해 사용자 기기(2) 또는 서버(3)와 연결될 수 있다.
예를 들어, 가전 기기(10)는 근거리 무선 네트워크(예: 와이파이 다이렉트)를 통해 사용자 기기(2)와 연결될 수 있다.
또 다른 예로, 가전 기기(10)는 원거리 무선 네트워크(예: 셀룰러 통신 모듈)를 이용하여 광역 네트워크(WAN)를 통해 사용자 기기(2) 또는 서버(3)와 연결될 수 있다.
또 다른 예로, 가전 기기(10)는 유선 통신을 이용하여 광역 네트워크(WAN)에 접속하고, 광역 네트워크(WAN)를 통해 사용자 기기(2) 또는 서버(3)와 연결될 수 있다.
가전 기기(10)가 유선 통신을 이용하여 광역 네트워크(WAN)에 접속할 수 있는 경우, 접속 중계기로서 동작할 수도 있다. 이에 따라, 가전 기기(10)는 다른 가전 기기를 서버(3)가 연결된 광역 네트워크(WAN)에 연결시킬 수 있다. 또한, 다른 가전 기기는 가전 기기(10)를 서버(3)가 연결된 광역 네트워크(WAN)에 연결시킬 수 있다.
가전 기기(10)는 네트워크를 통하여 동작 또는 상태에 관한 정보를 다른 가전 기기, 사용자 기기(2) 또는 서버(3)에 전송할 수 있다. 예를 들어, 가전 기기(10)는 서버(3)로부터 요청이 수신되는 경우, 가전 기기(10)에서 특정 이벤트가 발생한 경우, 또는 주기적으로 또는 실시간으로 동작 또는 상태에 관한 정보를 다른 가전 기기, 사용자 기기(2) 또는 서버(3)로 전송할 수 있다. 서버(3)는 가전 기기(10)로부터 동작 또는 상태에 관한 정보가 수신되면 저장되어 있던 가전 기기(10)의 동작 또는 상태에 관한 정보를 업데이트하고, 네트워크를 통하여 사용자 기기(2)에 가전 기기(10)의 동작 및 상태에 관한 업데이트된 정보를 전송할 수 있다. 여기서, 정보의 업데이트란 기존 정보에 새로운 정보를 추가하는 동작, 기존 정보를 새로운 정보로 대체하는 동작 등 기존 정보가 변경되는 다양한 동작을 포함할 수 있다.
가전 기기(10)는 다른 가전 기기, 사용자 기기(2) 또는 서버(3)로부터 다양한 정보를 획득하고, 획득된 정보를 사용자에게 제공할 수 있다. 예를 들어, 가전 기기(10)는 서버(3)로부터 가전 기기(10)의 기능과 관련된 정보(예를 들어, 조리법, 세탁법 등), 다양한 환경 정보(예를 들어, 날씨, 온도, 습도 등)의 정보를 획득하고, 사용자 인터페이스를 통해 획득된 정보를 출력할 수 있다.
가전 기기(10)는 다른 가전 기기, 사용자 기기(2) 또는 서버(3)로부터 수신되는 제어 명령에 따라 동작할 수 있다. 예를 들어, 가전 기기(10)는 사용자 입력이 없더라도 서버(3)의 제어 명령에 따라 동작할 수 있도록 사용자의 사전 승인을 획득한 경우, 가전 기기(10)는 서버(3)로부터 수신되는 제어 명령에 따라 동작할 수 있다. 여기서, 서버(3)로부터 수신되는 제어 명령은 사용자가 사용자 기기(2)를 통해 입력한 제어 명령 또는 기 설정된 조건에 기초한 제어 명령 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
사용자 기기(2)는 통신 모듈을 통해 사용자에 관한 정보를 가전 기기(10) 또는 서버(3)에 전송할 수 있다. 예를 들어, 사용자 기기(2)는 사용자의 위치, 사용자의 건강 상태, 사용자의 취향, 사용자의 일정 등에 관한 정보를 서버(3)에 전송할 수 있다. 사용자 기기(2)는 사용자의 사전 승인에 따라 사용자에 관한 정보를 서버(3)에 전송할 수 있다.
가전 기기(10), 사용자 기기(2) 또는 서버(3)는 인공 지능 등의 기술을 이용하여 제어 명령을 결정할 수 있다. 예를 들어, 서버(3)는 가전 기기(10)의 동작 또는 상태에 관한 정보를 수신하거나 사용자 기기(2)의 사용자에 관한 정보를 수신하여 인공 지능 등의 기술을 이용하여 처리하고, 처리 결과에 기초하여 가전 기기(10) 또는 사용자 기기(2)에 처리 결과 또는 제어 명령을 전송할 수 있다.
이하에서 설명되는 조리 기기(1)는 전술된 가전 기기(10)에 해당한다.
도 2는 일 실시예에 따른 조리 기기의 사시도이다. 도 3은 일 실시예에 따른 조리 기기의 단면도이다.
도 2 및 도 3을 참조하면, 조리 기기(1)는, 외관을 형성하는 하우징(1h)과, 하우징(1h)의 개구를 개폐하도록 마련되는 도어(20)를 포함할 수 있다. 도어(20)에는 윈도우(30)가 마련될 수 있다. 윈도우(30)는 투명 재질로 형성될 수 있다. 사용자는 도어(20)가 닫혀 있을 때 윈도우(30)를 통해 챔버(50) 내부를 관찰할 수 있다. 윈도우(30)는 반투명 부재, 불투명 부재 또는 투명 디스플레이로 형성될 수도 있다.
조리 기기(1)의 하우징(1h)에는 조리 기기(1)의 동작과 관련된 정보를 표시하고 사용자 입력을 획득하기 위한 사용자 인터페이스(40)가 마련될 수 있다. 사용자 인터페이스(40)는 조리 기기(1)의 동작과 관련된 정보를 표시하는 디스플레이(41)와 사용자의 입력을 획득하는 입력부(42)를 포함할 수 있다. 디스플레이(41)와 입력부(42)는 하우징(1h)의 다양한 위치에 마련될 수 있다. 예를 들면, 디스플레이(41)와 입력부(42)는 하우징(1h)의 상측 전면에 위치할 수 있다.
디스플레이(41)는 다양한 종류의 디스플레이 패널로 제공될 수 있다. 예를 들어, 디스플레이(41)는 액정 디스플레이 패널(Liquid Crystal Display Panel, LCD Panel), 발광 다이오드 패널(Light Emitting Diode Panel, LED Panel), 유기 발광 다이오드 패널(Organic Light Emitting Diode Panel, OLED Panel), 또는 마이크로 LED 패널을 포함할 수 있다. 디스플레이(41)는 터치 스크린을 포함하여 입력 장치로도 사용될 수 있다.
디스플레이(41)는 사용자가 입력한 정보 또는 사용자에게 제공되는 정보를 다양한 화면으로 표시할 수 있다. 디스플레이(41)는 조리 기기(1)의 동작과 관련된 정보를 이미지 또는 텍스트 중 적어도 하나로 표시할 수 있다. 또한, 디스플레이(41)는 조리 기기(1)의 제어를 가능하게 하는 그래픽 사용자 인터페이스(GUI, Graphic User Interface)를 표시할 수 있다. 즉, 디스플레이(41)는 아이콘(Icon)과 같은 UI 엘리먼트(User Interface Element)를 표시할 수 있다.
입력부(42)는 사용자 입력에 대응하는 전기적 신호(전압 또는 전류)를 제어부(200)로 전송할 수 있다. 입력부(42)는 다양한 버튼들 및/또는 다이얼을 포함할 수 있다. 예를 들면, 입력부(42)는 조리 기기(1)의 전원을 온 또는 오프 하기 위한 전원 버튼, 조리 동작을 시작 또는 정지하기 위한 시작/정지 버튼, 조리 온도를 설정하기 위한 온도 버튼 및 조리 시간을 설정하기 위한 시간 버튼 중 적어도 하나를 포함할 수 있다. 다양한 버튼들은 물리 버튼 또는 터치 버튼으로 마련될 수 있다.
입력부(42)에 포함되는 다이얼은 회전 가능하게 마련될 수 있다. 다이얼의 회전에 의해 조리물과 관련된 복수의 추천 아이템 중 하나가 선택될 수 있다. 다이얼의 회전에 따라 디스플레이(41)에 표시되는 UI 엘리먼트들이 순차적으로 이동할 수 있다. 조리 기기(1)는 선택된 추천 아이템에 대응하는 조리 코스에 따라 조리를 수행할 수 있다. 또한, 사용자가 추천 아이템 이외의 다른 새로운 아이템을 선택하는 경우, 조리 기기(1)는 새로운 아이템에 대응하는 조리 코스에 따라 조리를 수행할 수 있다.
조리 기기(1)는 하우징(1h) 내부에 마련되고 조리물이 위치할 수 있는 챔버(50)를 포함할 수 있다. 하우징(1h)의 전방에는 개구가 마련될 수 있다. 사용자는 하우징(1h)의 개구를 통해 조리물을 챔버(50) 내에 위치시킬 수 있다. 챔버(50)는 직육면체 형상으로 마련될 수 있다.
챔버(50)의 좌측 내면과 우측 내면에는 트레이의 거치를 위한 복수의 레일(51, 52)이 마련될 수 있다. 레일은 '지지대'로 호칭될 수도 있다. 일 예로, 복수의 레일(51, 52)은 챔버(50)의 좌측 내벽과 우측 내벽으로부터 돌출되도록 형성될 수 있다. 다른 예로, 복수의 레일(51, 52)은 별도의 구조물로서 챔버(50)의 좌측 내벽과 우측 내벽에 장착 가능하도록 마련될 수 있다.
복수의 레일(51, 52) 각각은 전후 방향으로 미리 정해진 길이를 갖는다. 복수의 레일(51, 52)은 상하 방향으로 서로 떨어진 위치에 마련될 수 있다. 예를 들면, 복수의 레일(51, 52)은 제1 레일(51)과, 제1 레일(51)의 위치보다 높은 위치에 형성되는 제2 레일(52)을 포함할 수 있다. 제1 레일(51)은 챔버(50)의 바닥으로부터 제1 높이에 위치하고, 제2 레일(52)은 챔버(50)의 바닥으로부터 제1 높이보다 높은 제2 높이에 위치할 수 있다.
제1 레일(51)은 챔버(50)의 좌측 내면과 우측 내면 각각의 제1 높이에 위치하는 한 쌍의 레일을 의미할 수 있다. 제2 레일(52)은 챔버(50)의 좌측 내면과 우측 내면 각각의 제2 높이에 위치하는 한 쌍의 레일을 의미할 수 있다. 복수의 레일(51, 52)에 의해 트레이가 챔버(50) 내에서 다양한 높이에 거치될 수 있다. 트레이의 상면에는 조리물이 위치할 수 있다. 트레이는 챔버(50)의 바닥면에 위치할 수도 있다.
2개의 레일(51, 52)이 마련되는 것으로 예시되었으나, 이에 제한되지 않는다. 설계에 따라 다양한 개수의 레일이 마련될 수 있다.
챔버(50)와 하우징(1h) 사이에는 조리 기기(1)의 동작에 필요한 다양한 부품들이 배치될 수 있다. 예를 들면, 조리 기기(1)는 카메라(60), 조명(70), 팬(90) 및 다양한 회로를 포함할 수 있다.
카메라(60)는 챔버(50) 내부의 이미지를 획득할 수 있다. 카메라(60)는 획득한 이미지의 데이터를 제어부(200)로 전송할 수 있다. 카메라(60)의 화각(FOV)을 확보하기 위해, 카메라(60)의 위치와 인접한 챔버(50)의 상면의 일부는 투명 소재(예를 들면, 투명 내열 유리)로 형성될 수 있다.
조명(70)은 챔버(50) 내부로 광을 방출할 수 있다. 조명(70)에서 방출되는 광에 의해 챔버(50) 내부가 밝아질 수 있다. 그에 따라 카메라(60)에 의해 획득된 이미지의 밝기, 대비 및/또는 선명도가 증가할 수 있고, 조리물의 식별력이 향상될 수 있다. 조명(70)의 위치와 인접한 챔버(50)의 상면의 다른 일부에는 조명(70)의 광을 챔버(50) 내부로 투과시키고 확산시키기 위한 확산 소재가 마련될 수 있다.
챔버(50)의 상부에는 히터(80)가 위치할 수 있다. 히터(80)는 챔버(50) 내부로 열을 공급할 수 있다. 히터(80)가 생성하는 열에 의해 조리물이 조리될 수 있다. 히터(80)는 하나 이상으로 마련될 수 있다. 제어부(200)에 의해 히터(80)의 가열 레벨과 가열 시간이 조절될 수 있다. 조리물의 종류, 개수 및/또는 크기에 따라 히터(80)의 출력과 가열 시간이 다르게 조절될 수 있다. 즉, 조리 코스에 따라 히터(80)의 동작이 다르게 제어될 수 있다.
팬(90)은 챔버(50) 내부의 공기를 순환시킬 수 있다. 팬(90)은 모터와 블레이드를 포함할 수 있다. 팬(90)은 하나 이상으로 마련될 수 있다. 팬(90)이 동작함에 따라 히터(80)에 의해 가열된 공기가 챔버(50) 내부를 순환할 수 있다. 따라서 히터(80)에 의해 생성된 열이 챔버(50)의 상부로부터 하부까지 골고루 전달될 수 있다. 제어부(200)에 의해 팬(90)의 회전 속도와 회전 시간이 조절될 수 있다. 조리물의 종류, 개수 및/또는 크기에 따라 팬(90)의 출력과 회전 시간이 다르게 조절될 수 있다. 즉, 조리 코스에 따라 팬(90)의 동작이 다르게 제어될 수 있다.
도 4는 일 실시예에 따른 조리 기기의 제어 구성들을 도시한다.
도 4를 참조하면, 조리 기기(1)는 사용자 인터페이스(40), 카메라(60), 조명(70), 히터(80), 팬(90), 통신 회로(100), 온도 센서(110), 타이머(120) 및 제어부(200)를 포함할 수 있다. 제어부(200)는 조리 기기(1)의 구성요소들과 전기적으로 연결되고, 조리 기기(1)의 구성요소들을 제어할 수 있다.
사용자 인터페이스(40)를 디스플레이(41)와 입력부(42)를 포함할 수 있다. 디스플레이(41)는 조리 기기(1)의 동작과 관련된 정보를 표시할 수 있다. 디스플레이(41)는 사용자가 입력한 정보 또는 사용자에게 제공되는 정보를 다양한 화면으로 표시할 수 있다.
입력부(42)는 사용자 입력을 획득할 수 있다. 사용자 입력은 다양한 명령을 포함할 수 있다. 예를 들면, 입력부(42)는, 아이템을 선택하는 명령, 조리 코스를 선택하는 명령, 히터(80)의 가열 레벨을 조절하는 명령, 조리 시간을 조절하는 명령, 조리 온도를 조절하는 명령, 조리 시작 명령 또는 조리 중지 명령 중 적어도 하나를 획득할 수 있다. 사용자 입력은 사용자 기기(2)로부터 획득될 수도 있다.
제어부(200)는 입력부(42) 또는 사용자 기기(2) 중 적어도 하나를 통해 수신되는 명령을 처리하여 조리 기기(1)의 작동을 제어할 수 있다. 조리 기기(1)는 메모리(220), 사용자 기기(2) 또는 서버(3)로부터 획득한 조리 코스 정보에 기초하여 조리를 자동으로 수행할 수 있다.
카메라(60)는 챔버(50) 내부의 이미지를 획득할 수 있다. 제어부(200)는 조리 기기(1)의 전원이 켜진 후 도어(20)가 닫히면 챔버(50) 내부의 이미지를 획득하도록 카메라(60)를 제어할 수 있다. 제어부(200)는 조리가 시작된 후 조리가 완료될 때까지 미리 정해진 시간 간격마다 챔버(50) 내부의 이미지를 획득하도록 카메라(60)를 제어할 수도 있다. 제어부(200)는 조리 동작이 수행되는 동안 획득되는 복수의 이미지를 이용하여 조리물의 조리 상태를 판단할 수도 있다.
제어부(200)는 카메라(60)에 의해 획득된 이미지에 포함된 조리물을 식별할 수 있다. 제어부(200)는 메모리(220) 또는 서버(3)로부터 획득되는 학습 모델을 이용하여 이미지로부터 조리물을 식별할 수 있고, 식별된 조리물과 관련된 복수의 후보 아이템을 획득할 수 있다. 제어부(200)는 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정할 수 있다. 또한, 제어부(200)는 적어도 2개의 추천 아이템을 표시하도록 디스플레이(41)를 제어할 수 있다. 추천 아이템은 사용자 기기(2)를 통해서도 표시될 수 있다.
조명(70)은 챔버(50) 내부로 광을 방출할 수 있다. 제어부(200)는 조리 기기(1)의 전원이 켜지면 광을 방출하도록 조명(70)을 제어할 수 있다. 제어부(200)는 조리가 완료될 때까지 또는 조리 기기(1)의 전원이 꺼질 때까지 광을 방출하도록 조명(70)을 제어할 수 있다.
히터(80)는 챔버(50) 내부로 열을 공급할 수 있다. 제어부(200)는 히터(80)의 출력을 조절할 수 있다. 예를 들면, 제어부(200)는 히터(80)의 가열 레벨과 가열 시간을 조절할 수 있다. 제어부(200)는 조리물의 종류, 개수, 크기 및/또는 조리 코스에 따라 히터(80)의 가열 레벨과 가열 시간을 조절할 수 있다.
팬(90)은 챔버(50) 내부의 공기를 순환시킬 수 있다. 제어부(200)는 팬(90)의 출력을 조절할 수 있다. 예를 들면, 제어부(200)는 팬(90)의 회전 속도와 회전 시간을 조절할 수 있다. 제어부(200)는 조리물의 종류, 개수, 크기 및/또는 조리 코스에 따라 팬(90)의 회전 속도와 회전 시간을 조절할 수 있다.
통신 회로(100)는 네트워크를 통해 사용자 기기(2) 또는 서버(3) 중 적어도 하나와 연결을 수행할 수 있다. 예를 들면, 통신 회로(100)는 사용자 기기(2)로부터 원격 제어 신호를 수신할 수 있다. 제어부(200)는 적어도 2개의 추천 아이템을 외부의 사용자 기기(2)에 표시하기 위한 표시 정보를 사용자 기기(2) 및 서버(3) 중 적어도 하나에 전송하도록 통신 회로(100)를 제어할 수 있다.
제어부(200)는 통신 회로(100)를 통해 서버(3)로부터 다양한 정보 및/또는 데이터를 획득할 수 있다. 제어부(200)는 통신 회로(100)를 통해 서버(3)로부터 학습 모델을 획득할 수 있다. 또한, 제어부(200)는 서버(3)로부터 조리물과 관련된 복수의 후보 아이템과 복수의 후보 아이템 각각에 관련된 대체 아이템을 포함하는 아이템 목록을 획득할 수 있다.
통신 회로(100)는 다양한 통신 모듈을 포함할 수 있다. 통신 회로(100)는 무선 통신 모듈 및/또는 유선 통신 모듈을 포함할 수 있다. 무선 통신 기술로서, 무선 랜(wireless local area network), 홈 RF(Home Radio Frequency), 적외선 통신, UWB(Ultra-wide band) 통신, 와이파이, 블루투스, 지그비(Zigbee) 등이 적용될 수 있다.
온도 센서(110)는 챔버(50) 내부의 온도를 검출할 수 있다. 온도 센서(110)는 챔버(50) 내부의 다양한 위치에 설치될 수 있다. 온도 센서(110)는 검출된 온도에 대응하는 전기적 신호를 제어부(200)에 전송할 수 있다. 제어부(200)는 챔버(50) 내부의 온도가 조리물의 종류, 개수, 크기 및/또는 조리 코스에 따라 정해지는 조리 온도로 유지되도록 히터(80)와 팬(90) 중 적어도 하나를 제어할 수 있다.
이외에도, 조리 기기(1)는 다양한 센서를 포함할 수 있다. 예를 들면, 조리 기기(1)는 전류 센서와 전압 센서를 포함할 수 있다. 전류 센서는 조리 기기(1)의 전자 부품들에 인가되는 전류를 측정할 수 있다. 전압 센서는 조리 기기(1)의 전자 부품들에 인가되는 전압을 측정할 수 있다.
제어부(200)는 프로세서(210)와 메모리(220)를 포함할 수 있다. 프로세서(210)는 하드웨어로서, 논리 회로와 연산 회로를 포함할 수 있다. 프로세서(210)는 조리 기기(1)의 동작을 위해 메모리(220)에 저장된 프로그램, 인스트럭션 및/또는 데이터를 이용하여 전기적으로 연결된 조리 기기(1)의 구성요소들을 제어할 수 있다. 제어부(200)는 콘덴서, 인덕터 및 저항 소자와 같은 회로 소자를 포함하는 제어 회로로 구현될 수 있다. 프로세서(210)와 메모리(220)는 별도의 칩으로 구현되거나, 단일의 칩으로 구현될 수 있다. 또한, 제어부(200)는 복수의 프로세서와 복수의 메모리를 포함할 수 있다.
메모리(220)는 조리 기기(1)의 동작을 위한 프로그램, 어플리케이션 및/또는 데이터를 저장할 수 있고, 프로세서(210)에 의해 생성되는 데이터를 저장할 수 있다. 메모리(220)는 데이터를 장기간 저장하기 위한 롬(Read Only Memory), 플래시 메모리와 같은 비휘발성 메모리를 포함할 수 있다. 메모리(220)는 데이터를 일시적으로 기억하기 위한 S-램(Static Random Access Memory, S-RAM), D-램(Dynamic Random Access Memory)과 같은 휘발성 메모리를 포함할 수 있다.
조리 기기(1)의 구성요소는 전술된 것으로 제한되지 않는다. 조리 기기(1)는 전술된 구성요소들 외에도 다양한 구성요소들을 더 포함할 수 있으며, 전술된 구성요소들 중 일부가 생략되는 것도 가능하다.
도 5는 도 4에서 설명된 제어부의 구조를 예시한다.
도 5를 참조하면, 제어부(200)는 서브 제어부(200a)와 메인 제어부(200b)를 포함할 수 있다. 서브 제어부(200a)와 메인 제어부(200b)는 서로 전기적으로 연결되고, 각각 별도의 프로세서와 메모리를 포함할 수 있다. 메인 제어부(200b)는 히터(80) 및 팬(90)과 전기적으로 연결되고 히터(80)의 동작과 팬(90)의 동작을 제어할 수 있다.
서브 제어부(200a)는 사용자 인터페이스(40), 카메라(60), 조명(70), 통신 회로(100) 및 온도 센서(110)의 동작을 제어할 수 있다. 서브 제어부(200a)는 사용자 인터페이스(40)를 통해 입력되는 사용자 입력에 대응하는 전기적 신호를 처리할 수 있고, 조리 기기(1)의 동작에 관한 정보를 표시하도록 사용자 인터페이스(40)를 제어할 수 있다.
또한, 서브 제어부(200a)는 서버(3)로부터 조리물의 식별을 위한 레퍼런스 이미지(Reference Image)와 학습 모델을 획득할 수 있다. 서브 제어부(200a)는 레퍼런스 이미지와 학습 모델을 이용하여 카메라(60)에 의해 획득된 이미지로부터 조리물의 식별을 수행할 수 있다. 서브 제어부(200a)는 이미지를 전처리 하고, 학습 모델을 이용하여 조리물을 식별하며, 조리물의 종류, 개수 및/또는 크기를 추정할 수 있다.
서브 제어부(200a)는 인공 지능 알고리즘을 처리하기 위해, 다중 입력- 다중 출력 연산(즉, 매트릭스(Matrix) 연산)을 수행할 수 있는 특수한 프로세서를 포함할 수 있다. 서브 제어부(200a)에 포함되는 특수한 프로세서는 NPU(Neural Process Unit)로 호칭될 수 있다.
도 6은 일 실시예에 따른 조리 기기의 제어 방법을 설명하는 순서도이다. 도 7은 일 실시예에 따른 조리 기기의 디스플레이에 표시되는 화면의 일 예이다.
도 6을 참조하면, 조리 기기(1)의 제어부(200)는 카메라(60)를 제어하여 챔버(50) 내부의 이미지를 획득할 수 있다(501). 제어부(200)는 학습 모델을 이용하여 이미지에 포함된 조리물을 식별할 수 있다. 카메라(60)에 의해 획득된 이미지가 학습 모델에 입력되면, 학습 모델은 이미지에 포함된 조리물의 종류, 조리물의 개수 및/또는 조리물의 크기를 출력할 수 있다.
학습 모델은 인공지능 모델을 의미한다. 학습 모델은 머신 러닝 및/또는 딥 러닝을 통해 생성될 수 있다. 학습 모델은 서버(3)에 의해 생성될 수 있으며, 조리 기기(1)의 메모리(220)에 저장될 수 있다. 학습 알고리즘은, 예를 들면, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으며, 예시된 것으로 한정되지 않는다.
학습 모델은 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 및/또는 심층 Q-네트워크(deep Q-networks)를 포함할 수 있으며, 예시된 것으로 제한되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
또한, 제어부(200)는 학습 모델을 이용하여 식별된 조리물에 관련된 복수의 후보 아이템을 획득할 수 있다(502). 복수의 후보 아이템은 식별된 조리물의 종류와 동일하거나 유사한 것으로 추정되는 아이템을 의미한다. 메모리(220)에는 조리물과 관련된 복수의 후보 아이템을 포함하는 아이템 목록이 저장될 수 있다. 제어부(200)는 아이템 목록을 참조하여 복수의 후보 아이템을 결정할 수 있다. 아이템 목록은 서버(3)로부터 획득될 수도 있다.
아이템 목록은 복수의 후보 아이템 각각에 대응하는 조리 코스를 포함할 수 있다. 조리 코스는 조리 온도, 조리 시간, 히터(80)의 출력 및 팬(90)의 출력과 같은 조리 파라미터를 포함할 수 있다. 조리 코스는 후보 아이템마다 다르게 정해질 수 있다.
제어부(200)는 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정할 수 있다(503). 복수의 후보 아이템 각각에는 신뢰도(confidence value)가 부여될 수 있다. 신뢰도는 식별된 조리물과 후보 아이템 간의 유사성을 나타내는 확률적 수치로 나타날 수 있다. 제어부(200)는 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정할 수 있다(503).
제어부(200)는 적어도 2개의 추천 아이템을 표시하도록 디스플레이(41)를 제어할 수 있다(504). 적어도 2개의 추천 아이템은 사용자 기기(2)를 통해서도 표시될 수 있다. 제어부(200)는 적어도 2개의 추천 아이템을 외부의 사용자 기기(2)에 표시하기 위한 표시 정보를 사용자 기기(2) 및 서버(3) 중 적어도 하나에 전송하도록 통신 회로(100)를 제어할 수 있다.
도 7을 참조하면, 적어도 2개의 추천 아이템이 조리 기기(1)의 디스플레이(41)를 통해 표시될 수 있다. 예를 들면, 적어도 2개의 추천 아이템은 순차적으로 또는 동시에 표시될 수 있다. 도 7에는 제1 추천 아이템을 나타내는 제1 그래픽 엘리먼트(E1)와 제2 추천 아이템을 나타내는 제2 그래픽 엘리먼트(E2)가 동시에 표시되는 것으로 예시된다.
사용자는 디스플레이(41), 입력부(42) 또는 사용자 기기(2)를 조작하여 복수의 추천 아이템을 스크롤 할 수 있다. 예를 들면, 디스플레이(41)의 터치 스크롤 입력, 입력부(42)에 포함되는 다이얼의 회전 입력 또는 사용자 기기(2)로부터 전송되는 스크롤 입력에 응답하여, 제어부(200)는 제1 추천 아이템, 제2 추천 아이템 이외의 다른 추천 아이템이 표시되도록 디스플레이(41)를 제어할 수 있다.
사용자는 디스플레이(41), 입력부(42) 또는 사용자 기기(2)를 조작하여 하나의 추천 아이템을 선택할 수 있다. 디스플레이(41)는 선택된 추천 아이템을 강조 표시할 수 있다. 제어부(200)는 표시된 적어도 2개의 추천 아이템 중 하나가 선택되면, 선택된 추천 아이템에 대응하는 조리 코스에 따라 조리를 자동으로 수행할 수 있다(505).
예를 들어, 제1 추천 아이템을 나타내는 제1 그래픽 엘리먼트(E1)가 선택되면, 제1 그래픽 엘리먼트(E1)가 강조 표시될 수 있다. 이어서 사용자가 '확인'으로 표시되는 제3 그래픽 엘리먼트(E3)를 누르면, 제어부(200)는 제1 추천 아이템의 조리 코스에 따라 조리를 시작할 수 있다. 선택된 제1 추천 아이템에 관한 조리 시작은 별도의 버튼 또는 사용자 기기(2)를 통해 입력되는 조리 시작 명령에 의해 촉발(trigger)될 수도 있다.
사용자가 '취소'로 표시되는 제4 그래픽 엘리먼트(E4)를 누르는 경우, 디스플레이(41)는 추천 아이템을 포함하는 화면 대신에 다른 화면을 표시할 수 있다. 예를 들면, 제어부(200)는 추천 아이템으로 선정되지 않은 다른 아이템들을 포함하는 화면 또는 조리 기기(1)의 기본 기능들에 관련된 메뉴 화면이 표시되도록 디스플레이(41)를 제어할 수 있다.
도 8 및 도 9는 도 6에서 설명된 조리 기기의 제어 방법을 더 상세히 설명하는 순서도이다.
도 8을 참조하면, 조리 기기(1)의 제어부(200)는 학습 모델을 이용하여 조리물에 관련된 복수의 후보 아이템 각각의 신뢰도를 획득할 수 있다(701). 신뢰도는 복수의 후보 아이템 각각과 조리물의 유사성을 나타내는 확률적 수치로 나타날 수 있다. 전술된 바와 같이, 제어부(200)는 카메라(60)에 의해 획득된 이미지를 학습 모델에 입력하고, 학습 모델의 출력으로 조리물과 관련된 복수의 후보 아이템을 획득할 수 있다. 학습 모델은 복수의 후보 아이템 각각에 신뢰도(confidence value)를 부여할 수 있다. 따라서 제어부(200)는 복수의 후보 아이템 각각의 신뢰도를 획득할 수 있다. 후보 아이템의 신뢰도가 높을수록 조리물과 유사성이 높은 것으로 판단될 수 있다.
제어부(200)는 신뢰도의 내림차순에 따라 제1 신뢰도를 갖는 제1 추천 아이템과 제1 신뢰도보다 낮은 제2 신뢰도를 갖는 제2 추천 아이템을 포함하는 적어도 2개의 추천 아이템을 결정할 수 있다(702). 즉, 제어부(200)는 가장 높은 신뢰도를 갖는 후보 아이템을 제1 추천 아이템으로 결정하고, 두 번째로 높은 신뢰도를 갖는 후보 아이템을 제2 추천 아이템으로 결정할 수 있다. 마찬가지로, 세 번째로 높은 신뢰도를 갖는 후보 아이템이 제3 추천 아이템으로 결정될 수 있다.
제어부(200)는 적어도 2개의 추천 아이템의 신뢰도의 합이 미리 정해진 임계값보다 크거나 같고, 미리 정해진 최대값보다 작거나 같도록, 복수의 후보 아이템들 중에서 적어도 2개의 추천 아이템을 선택할 수 있다. 예를 들면, 임계값은 95%이고, 최대값은 100%일 수 있다. 제1 추천 아이템의 제1 신뢰도가 55%이고, 제2 추천 아이템의 제2 신뢰도가 40%일 수 있다. 제어부(200)는 신뢰도의 내림차순에 따라 1순위의 제1 추천 아이템과 2순위의 제2 추천 아이템이 표시되도록 디스플레이(41)를 제어할 수 있다.
다른 예로, 제1 추천 아이템의 제1 신뢰도가 40%이고, 제2 추천 아이템의 제2 신뢰도가 30%이며, 제3 추천 아이템의 제3 신뢰도가 25%이면, 제어부(200)는 제1 추천 아이템, 제2 추천 아이템 및 제3 추천 아이템이 표시되도록 디스플레이(41)를 제어할 수 있다.
신뢰도의 합에 관한 임계값과 최대값은 제품 설계에 따라 다르게 정해지거나 사용자에 의해 다르게 정해질 수 있다. 신뢰도의 합에 관한 임계값과 최대값에 따라 추천 아이템의 개수가 다르게 결정될 수 있다.
또한, 사용자 인터페이스(40) 또는 사용자 기기(2)를 통해 추천 아이템의 최대 개수를 설정하는 사용자 입력이 획득되는 경우, 제어부(200)는 사용자 입력에 의해 설정된 최대 개수 내에서 추천 아이템을 선택할 수 있다. 추천 아이템의 최대 개수를 사용자가 조절할 수 있게 함으로써 조리 기기(1)의 사용에 관한 사용자의 편의성이 향상될 수 있다.
제어부(200)는 제1 추천 아이템의 제1 신뢰도에 기초하여, 제1 추천 아이템의 대체 아이템을 제2 추천 아이템 또는 제3 추천 아이템으로 결정할 수 있다. 메모리(220)에는 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록이 저장될 수 있다. 아이템 목록은 서버(3)로부터 획득될 수 있다.
제어부(200)는 제1 추천 아이템의 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은지 판단할 수 있다(703). 도 9를 참조하면, 제1 추천 아이템의 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은 경우, 제어부(200)는 메모리(220) 또는 서버(3)로부터 획득되는 아이템 목록에 제1 추천 아이템을 대체할 수 있는 대체 아이템이 있는지 검색할 수 있다(801).
아이템 목록에 제1 추천 아이템의 대체 아이템이 존재하면, 제어부(200)는 제1 추천 아이템의 대체 아이템을 제2 추천 아이템으로 결정할 수 있다(802). 제1 추천 아이템의 대체 아이템이 복수 개인 경우, 제어부(200)는 복수의 대체 아이템 중 하나를 선택할 수 있다. 예를 들면, 신뢰도 합의 최대값 내에서 복수의 후보 아이템으로부터 선택된 제1 추천 아이템과 제2 추천 아이템 각각의 신뢰도가 90%, 10%일 수 있다. 제1 기준값은 90%일 수 있다. 그러나 10% 신뢰도를 갖는 제2 추천 아이템을 표시하는 것은 사용자에게 무의미할 수 있으며, 오히려 잘못된 정보를 제공하게 되는 결과를 초래할 수 있다. 이러한 문제를 해결하기 위해, 제어부(200)는 아이템 목록으로부터 제1 추천 아이템을 대체할 수 있는 대체 아이템을 추출하고, 추출된 대체 아이템을 제2 추천 아이템으로 결정할 수 있다.
그러나 아이템 목록에 제1 추천 아이템의 대체 아이템이 없는 경우, 제어부(200)는 제1 추천 아이템만 표시하도록 디스플레이(41)를 제어할 수 있다(803). 제1 추천 아이템의 신뢰도가 매우 높고, 다른 대체 아이템이 없으므로, 조리물의 식별 결과로서 제1 추천 아이템만 제공하는 것이 바람직하다.
또한, 제어부(200)는 대체 아이템의 신뢰도를 산출할 수 있다. 제어부(200)는 제1 추천 아이템의 제1 신뢰도에 미리 정해진 계수를 곱하여 대체 아이템의 신뢰도를 결정할 수 있다. 대체 아이템은 조리물과 유사성이 낮은 2순위 후보 아이템을 대체하는 것이므로, 제어부(200)는 추천 아이템의 개수를 정하기 위해 신뢰도 합을 산출할 때 대체 아이템의 신뢰도를 합산하지 않을 수 있다. 따라서 조리물과 유사성이 상대적으로 높은 2개의 추천 아이템이 디스플레이(41)를 통해 표시될 수 있다.
다시 도 8을 참조하면, 제어부(200)는 제1 추천 아이템의 제1 신뢰도가 미리 정해진 제1 기준값보다 작고, 제1 신뢰도가 제1 기준값보다 낮은 미리 정해진 제2 기준값보다 크거나 같은 것에 기초하여, 아이템 목록에서 제1 추천 아이템의 대체 아이템을 선택하고, 선택된 대체 아이템을 제3 추천 아이템으로 결정할 수 있다(704, 705).
예를 들면, 복수의 후보 아이템 중에서 선택된 제1 추천 아이템과 제2 추천 아이템 각각의 신뢰도가 60%, 35%일 수 있다. 제1 기준값은 90%이고, 제2 기준값은 50%일 수 있다. 이 경우, 제어부(200)는 아이템 목록으로부터 제1 추천 아이템을 대체할 수 있는 대체 아이템을 추출하고, 추출된 대체 아이템을 제3 추천 아이템으로 결정할 수 있다. 제1 추천 아이템과 조리물의 유사성이 제2 추천 아이템과 조리물의 유사성보다는 높지만, 신뢰도를 고려할 때 제1 추천 아이템과 제2 추천 아이템이 모두 조리물과 다소 다른 것일 가능성도 존재한다. 제1 추천 아이템과 제2 추천 아이템이 조리물과 다르다면, 부정확한 정보의 제공이 될 수 있다. 이를 방지하기 위해, 개시된 조리 기기(1)는 중간 레벨의 신뢰도를 갖는 제1 추천 아이템을 대체할 수 있는 다른 아이템을 제3 추천 아이템으로 추가적으로 제공할 수 있다. 제3 추천 아이템으로 추가적으로 제공함으로써 사용자에게 제공되는 선택의 폭을 넓힐 수 있고, 사용자에게 제공되는 정보의 정확도도 어느 정도 더 높일 수 있다.
한편, 제1 추천 아이템의 제1 신뢰도가 제2 기준값보다 작은 경우, 제어부(200)는 복수의 아이템 중에서 추천 아이템을 선정할 수 없는 것으로 판단할 수 있다. 이 경우 제어부(200)는 조리물의 식별을 다시 수행하여 복수의 후보 아이템을 다시 획득할 수 있다. 또한, 제어부(200)는 추천 아이템의 선정 실패에 관한 알림 및/또는 조리물에 관한 조리 코스의 직접 선택을 사용자에게 요구하는 메시지를 표시하도록 디스플레이(41)를 제어할 수도 있다.
제어부(200)는 제1 추천 아이템의 제1 신뢰도에 미리 정해진 계수를 곱하여 제1 추천 아이템의 대체 아이템으로 선정된 제3 추천 아이템의 신뢰도를 결정할 수 있다. 제3 추천 아이템은 선택의 폭을 넓히기 위해 제공되는 것이므로, 제어부(200)는 추천 아이템의 개수를 정하기 위해 신뢰도 합을 산출할 때 제3 추천 아이템의 신뢰도를 합산하지 않을 수 있다. 따라서 조리물과 유사성이 상대적으로 높은 3개의 추천 아이템이 디스플레이(41)를 통해 표시될 수 있다.
제어부(200)는 추천 아이템들의 신뢰도에 따라 추천 아이템들의 표시 순서를 결정할 수 있다(706). 예를 들면, 제어부(200)는 제1 추천 아이템의 제1 신뢰도, 제2 추천 아이템의 제2 신뢰도 및 제3 추천 아이템의 제3 신뢰도를 비교하여 제1 추천 아이템, 제2 추천 아이템 및 제3 추천 아이템의 표시 순서를 결정할 수 있다. 제1 추천 아이템의 신뢰도가 60%, 제2 추천 아이템의 신뢰도가 35%, 제3 추천 아이템의 신뢰도가 47%인 경우, 표시 순서는 제1 추천 아이템, 제3 추천 아이템, 제2 추천 아이템 순으로 정해질 수 있다. 제어부(200)는 제1 추천 아이템, 제3 추천 아이템, 제2 추천 아이템이 순차적으로 표시되도록 디스플레이(41)를 제어할 수 있다.
도 10은 후보 아이템에 관련된 대체 아이템들의 목록을 도시한다.
도 10을 참조하면, 아이템 목록(TL)은 테이블 데이터로 메모리(220)에 저장될 수 있다. 아이템 목록(TL)은 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함할 수 있다. 아이템 목록(TL)은 제품 설계 단계에서 생성되어 메모리(220)에 저장되거나 서버(3)로부터 메모리(220)에 다운로드 될 수 있다.
예를 들면, 아이템 목록(TL)의 제1 열(column)에는 아이템 넘버, 제2 열에는 후보 아이템, 제3 열에는 대체 아이템이 포함될 수 있다. 즉, 아이템 목록(TL)의 제2 열(column)은 카메라(60)에 의해 획득된 이미지에서 식별된 조리물과 동일하거나 유사한 것으로 추정되는 후보 아이템을 포함할 수 있다. 아이템 목록(TL)의 제3 열(column)은 후보 아이템을 대체할 수 있는 대체 아이템을 포함할 수 있다.
후보 아이템인 '콜리플라워 스테이크'의 대체 아이템은 '콜리플라워 전체'일 수 있다. 반대로, 후보 아이템인 '콜리플라워 전체'의 대체 아이템은 '콜리플라워 스테이크'일 수 있다. 후보 아이템인 '치즈스틱'의 대체 아이템은 '츄로스'일 수 있다. 후보 아이템인 '치즈케이크'의 대체 아이템은 '파블로바(Pavlova)'일 수 있다. 또한, 후보 아이템인 '닭가슴살'의 대체 아이템은 '닭다리'일 수 있다.
아이템 목록(TL)에서 후보 아이템과 대체 아이템이 1대1로 매칭되어 있으나, 이에 제한되지 않는다. 하나의 후보 아이템에 복수의 대체 아이템이 매칭될 수도 있다. 또한, 아이템 목록(TL)에 포함되는 후보 아이템과 대체 아이템은 실험적으로 선정되는 것이므로, 예시된 것으로 제한되지 않는다.
도 11은 도 10의 아이템 목록을 업데이트 하는 방법을 설명하는 순서도이다.
도 11을 참조하면, 디스플레이(41)를 통해 적어도 2개의 추천 아이템이 표시된 후(504), 입력부(42)를 통해 적어도 2개의 추천 아이템과 다른 후보 아이템이 선택될 수 있다(901).
예를 들면, 도 7에서 설명된 바와 같이, 디스플레이(41)에 추천 아이템이 표시되어 있는 상태에서 사용자가 취소 버튼을 누르면, 다른 아이템들을 포함하는 화면이 표시될 수 있다. 다른 아이템은 추천 아이템으로 선택되지 않은 다른 후보 아이템일 수 있다. 사용자는 사용자 인터페이스(40) 또는 사용자 기기(2)를 조작하여 다른 후보 아이템을 선택할 수 있다. 또한, 사용자 입력에 따라 식별된 조리물과 다른 조리물에 관련된 후보 아이템이 선택될 수도 있다.
조리 기기(1)의 제어부(200)는 사용자 인터페이스(40)를 통해 적어도 2개의 추천 아이템과 다른 후보 아이템이 선택됨에 기초하여, 선택된 다른 후보 아이템을 제1 추천 아이템의 새로운 대체 아이템으로 아이템 목록(TL)에 추가할 수 있다(902). 추후 동일 종류의 조리물이 다시 챔버(50) 내에 투입되면 제어부(200)는 아이템 목록(TL)에 추가된 새로운 대체 아이템까지 고려하여 추천 아이템을 선정할 수 있다. 이와 같이 아이템 목록(TL)을 업데이트 함으로써 사용자에게 부정확한 정보가 제공되는 것을 방지할 수 있다.
도 12는 조리 기기와 서버 간 상호 작용의 일 예를 설명하는 순서도이다. 도 13은 도 12로부터 확장되는 조리 기기, 서버 및 사용자 기기 간 상호 작용의 일 예를 설명하는 순서도이다.
도 12를 참조하면, 조리 기기(1)는 서버(3)로부터 조리물의 식별과 조리물에 관련된 후보 아이템을 결정하기 위해 사용되는 학습 모델을 획득할 수 있다. 또한, 조리 기기(1)는 조리물에 관련된 후보 아이템과 대체 아이템을 포함하는 아이템 목록을 서버(3)로부터 획득할 수 있다(1001). 서버(3)로부터 전송된 학습 모델과 아이템 목록은 조리 기기(1)의 메모리(220)에 저장될 수 있다.
조리 기기(1)는 카메라(60)를 이용하여 챔버(50) 내부의 이미지를 획득하고(1002), 학습 모델을 이용하여 이미지에서 조리물을 식별할 수 있다(1003). 또한, 조리 기기(1)는 학습 모델을 이용하여 조리물과 관련된 복수의 후보 아이템을 획득하고(1004), 복수의 후보 아이템에서 추천 아이템들을 결정할 수 있다(1005). 조리 기기(1)는 디스플레이(41) 상에 추천 아이템들을 표시할 수 있다(1006).
조리 기기(1)는 추천 아이템들 중 하나 또는 추천 아이템들과 다른 후보 아이템을 선택하는 사용자 입력을 획득할 수 있다(1007). 조리 기기(1)는 선택된 추천 아이템 또는 다른 후보 아이템을 포함하는 선택 정보를 생성하고, 선택 정보를 서버(3)에 전송할 수 있다(1008). 조리 기기(1)는 선택된 추천 아이템 또는 선택된 다른 후보 아이템에 대응하는 조리 코스에 따라 조리를 자동으로 수행할 수 있다(1009). 서버(3)는 수신한 선택 정보를 이용하여 학습 모델과 아이템 목록을 업데이트 할 수 있다(1010).
도 13을 참조하면, 조리 기기(1)는 추천 아이템들을 포함하는 표시 정보를 사용자 기기(2)에 전송할 수 있다(1011). 표시 정보는 서버(3)를 통해 사용자 기기(2)로 전달될 수 있다. 사용자 기기(2)는 표시 정보를 수신함에 따라 추천 아이템을 표시할 수 있다(1012).
사용자 기기(2)는 추천 아이템들 중 하나 또는 추천 아이템들과 다른 후보 아이템을 선택하는 사용자 입력을 획득할 수 있다(1013). 사용자 기기(2)는 선택된 추천 아이템 또는 다른 후보 아이템을 포함하는 선택 정보를 생성하고, 선택 정보를 서버(3)와 조리 기기(1)에 전송할 수 있다(1014, 1015). 조리 기기(1)는 선택 정보를 수신하면, 선택된 추천 아이템 또는 선택된 다른 후보 아이템에 대응하는 조리 코스에 따라 조리를 자동으로 수행할 수 있다(1016). 서버(3)는 수신한 선택 정보를 이용하여 학습 모델과 아이템 목록을 업데이트 할 수 있다(1017).
도 14는 조리 기기와 서버 간 상호 작용의 다른 예를 설명하는 순서도이다. 도 15는 도 14로부터 확장되는 조리 기기, 서버 및 사용자 기기 간 상호 작용의 다른 예를 설명하는 순서도이다.
도 14를 참조하면, 조리 기기(1)는 카메라(60)를 이용하여 챔버(50) 내부의 이미지를 획득하고(1101), 이미지를 서버(3)에 전송할 수 있다(1102). 서버(3)는 학습 모델을 이용하여 이미지에서 조리물을 식별할 수 있다(1103). 또한, 서버(3)는 학습 모델을 이용하여 조리물과 관련된 복수의 후보 아이템을 획득하고(1104), 복수의 후보 아이템에서 추천 아이템들을 결정할 수 있다(1105).
서버(3)는 추천 아이템들을 포함하는 표시 정보를 조리 기기(1)에 전송할 수 있다(1106). 조리 기기(1)는 표시 정보를 수신함에 따라 디스플레이(41) 상에 추천 아이템들을 표시할 수 있다(1107). 조리 기기(1)는 추천 아이템들 중 하나 또는 추천 아이템들과 다른 후보 아이템을 선택하는 사용자 입력을 획득할 수 있다(1108). 조리 기기(1)는 선택된 추천 아이템 또는 다른 후보 아이템을 포함하는 선택 정보를 생성하고, 선택 정보를 서버(3)에 전송할 수 있다(1109). 조리 기기(1)는 선택된 추천 아이템 또는 선택된 다른 후보 아이템에 대응하는 조리 코스에 따라 조리를 자동으로 수행할 수 있다(1110). 서버(3)는 수신한 선택 정보를 이용하여 학습 모델과 아이템 목록을 업데이트 할 수 있다(1111).
도 15를 참조하면, 서버(3)는 추천 아이템들을 포함하는 표시 정보를 사용자 기기(2)에도 전송할 수 있다(1112). 사용자 기기(2)도 표시 정보를 수신함에 따라 추천 아이템을 표시할 수 있다(1113).
사용자 기기(2)는 추천 아이템들 중 하나 또는 추천 아이템들과 다른 후보 아이템을 선택하는 사용자 입력을 획득할 수 있다(1114). 사용자 기기(2)는 선택된 추천 아이템 또는 다른 후보 아이템을 포함하는 선택 정보를 생성하고, 선택 정보를 서버(3)와 조리 기기(1)에 전송할 수 있다(1115, 1116). 조리 기기(1)는 선택 정보를 수신하면, 선택된 추천 아이템 또는 선택된 다른 후보 아이템에 대응하는 조리 코스에 따라 조리를 자동으로 수행할 수 있다(1117). 서버(3)는 수신한 선택 정보를 이용하여 학습 모델과 아이템 목록을 업데이트 할 수 있다(1118).
일 실시예에 따른 조리 기기(1)는, 디스플레이(41); 챔버(50) 내부의 이미지를 획득하는 카메라(60); 조리물의 식별에 사용되는 학습 모델을 저장하는 메모리(220); 및 상기 디스플레이, 상기 카메라 및 상기 메모리와 전기적으로 연결되는 제어부(200);를 포함한다. 상기 제어부는 상기 학습 모델을 이용하여 상기 획득된 이미지로부터 식별되는 상기 조리물과 관련된 복수의 후보 아이템을 획득하고, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고, 상기 적어도 2개의 추천 아이템을 표시하도록 상기 디스플레이를 제어할 수 있다.
상기 제어부는 상기 학습 모델을 이용하여 상기 복수의 후보 아이템 각각과 상기 조리물의 유사성을 나타내는 확률적 수치로 상기 복수의 후보 아이템 각각의 신뢰도를 획득하고, 상기 신뢰도의 내림차순에 따라 제1 신뢰도를 갖는 제1 추천 아이템과 상기 제1 신뢰도보다 낮은 제2 신뢰도를 갖는 제2 추천 아이템을 포함하는 상기 적어도 2개의 추천 아이템을 결정할 수 있다.
상기 제어부는 상기 적어도 2개의 추천 아이템의 신뢰도의 합이 미리 정해진 임계값보다 크거나 같고, 미리 정해진 최대값보다 작거나 같도록, 상기 적어도 2개의 추천 아이템을 결정할 수 있다.
상기 메모리는 상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 더 저장하고, 상기 제어부는 상기 제1 추천 아이템의 상기 제1 신뢰도에 기초하여, 상기 제1 추천 아이템의 대체 아이템을 상기 제2 추천 아이템 또는 제3 추천 아이템으로 결정할 수 있다.
상기 제어부는 상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제2 추천 아이템으로 결정할 수 있다.
상기 제어부는 상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 작고, 상기 제1 신뢰도가 상기 제1 기준값보다 낮은 미리 정해진 제2 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제3 추천 아이템으로 결정할 수 있다.
상기 제어부는 상기 제1 추천 아이템의 상기 제1 신뢰도에 미리 정해진 계수를 곱하여 상기 제3 추천 아이템의 제3 신뢰도를 결정하고, 상기 제1 신뢰도, 상기 제2 신뢰도 및 상기 제3 신뢰도를 비교하여 상기 제1 추천 아이템, 상기 제2 추천 아이템 및 상기 제3 추천 아이템의 표시 순서를 결정할 수 있다.
상기 메모리는 상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 저장하고, 상기 제어부는 입력부를 통해 상기 적어도 2개의 추천 아이템과 다른 후보 아이템이 선택됨에 기초하여, 상기 다른 후보 아이템을 상기 제1 추천 아이템의 새로운 대체 아이템으로 상기 아이템 목록에 추가할 수 있다.
상기 제어부는 입력부를 통해 획득되는 사용자 입력에 기초하여 상기 적어도 2개의 추천 아이템의 최대 개수를 설정할 수 있다.
상기 조리 기기는 서버와 통신을 수행하는 통신 회로;를 더 포함하고, 상기 제어부는 상기 통신 회로를 통해 상기 서버로부터 상기 학습 모델을 획득하고, 상기 적어도 2개의 추천 아이템을 외부의 사용자 기기에 표시하기 위한 표시 정보를 상기 서버에 전송하도록 상기 통신 회로를 제어할 수 있다.
일 실시예에 따른 조리 기기의 제어 방법은, 카메라(60)에 의해 챔버(50) 내부의 이미지를 획득하고; 제어부(200)에 의해, 메모리(220) 또는 서버(3)로부터 획득되는 학습 모델을 이용하여 상기 획득된 이미지로부터 상기 챔버 내부의 조리물을 식별하고; 상기 제어부에 의해, 상기 학습 모델을 이용하여 상기 조리물에 관련된 복수의 후보 아이템을 획득하고; 상기 제어부에 의해, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고; 디스플레이를 통해 상기 적어도 2개의 추천 아이템을 표시하는 것;을 포함한다.
상기 복수의 후보 아이템을 획득하는 것은, 상기 학습 모델을 이용하여 상기 복수의 후보 아이템 각각과 상기 조리물의 유사성을 나타내는 확률적 수치로 상기 복수의 후보 아이템 각각의 신뢰도를 획득하는 것;을 포함할 수 있다. 상기 적어도 2개의 추천 아이템을 결정하는 것은, 상기 신뢰도의 내림차순에 따라 제1 신뢰도를 갖는 제1 추천 아이템과 상기 제1 신뢰도보다 낮은 제2 신뢰도를 갖는 제2 추천 아이템을 결정하는 것;을 포함할 수 있다.
상기 적어도 2개의 추천 아이템은, 상기 적어도 2개의 추천 아이템의 신뢰도의 합이 미리 정해진 임계값보다 크거나 같고, 미리 정해진 최대값보다 작거나 같도록 결정될 수 있다.
상기 조리 기기의 제어 방법은, 상기 메모리 또는 상기 서버로부터 상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 획득하는 것;을 더 포함할 수 있다. 상기 적어도 2개의 추천 아이템을 결정하는 것은, 상기 제1 추천 아이템의 상기 제1 신뢰도에 기초하여, 상기 제1 추천 아이템의 대체 아이템을 상기 제2 추천 아이템 또는 제3 추천 아이템으로 결정하는 것;을 포함할 수 있다.
상기 적어도 2개의 추천 아이템을 결정하는 것은, 상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제2 추천 아이템으로 결정하는 것;을 포함할 수 있다.
상기 적어도 2개의 추천 아이템을 결정하는 것은, 상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 작고, 상기 제1 신뢰도가 상기 제1 기준값보다 작은 미리 정해진 제2 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고. 상기 선택된 대체 아이템을 상기 제3 추천 아이템으로 결정하는 것;을 포함할 수 있다.
상기 적어도 2개의 추천 아이템을 결정하는 것은, 상기 제1 추천 아이템의 상기 제1 신뢰도에 미리 정해진 계수를 곱하여 상기 제3 추천 아이템의 제3 신뢰도를 결정하고; 상기 제1 신뢰도, 상기 제2 신뢰도 및 상기 제3 신뢰도를 비교하여 상기 제1 추천 아이템, 상기 제2 추천 아이템 및 상기 제3 추천 아이템의 표시 순서를 결정하는 것;을 더 포함할 수 있다.
상기 조리 기기의 제어 방법은, 상기 메모리 또는 상기 서버로부터 상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 획득하고; 입력부를 통해 상기 적어도 2개의 추천 아이템과 다른 후보 아이템이 선택됨에 기초하여, 상기 다른 후보 아이템을 상기 제1 추천 아이템의 새로운 대체 아이템으로 상기 아이템 목록에 추가하는 것;을 더 포함할 수 있다.
상기 조리 기기의 제어 방법은, 입력부를 통해 획득되는 사용자 입력에 기초하여 상기 적어도 2개의 추천 아이템의 최대 개수를 설정하는 것;을 더 포함할 수 있다.
상기 조리 기기의 제어 방법은, 상기 적어도 2개의 추천 아이템을 외부의 사용자 기기에 표시하기 위한 표시 정보를 상기 서버에 전송하는 것;을 더 포함할 수 있다.
전술된 바와 같이, 개시된 조리 기기 및 조리 기기의 제어 방법은, 챔버 내의 조리물을 식별하여 조리물의 자동 조리를 위한 추천 아이템들을 사용자에게 제공할 수 있다.
또한, 개시된 조리 기기 및 조리 기기의 제어 방법은, 조리물로 추정되는 복수의 후보 아이템을 추출하고, 복수의 후보 아이템 각각의 신뢰도에 따라 추천 아이템들을 결정함으로써 사용자에게 보다 정확한 조리 정보를 제공할 수 있다.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 저장매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다.
기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.

Claims (15)

  1. 디스플레이;
    챔버 내부의 이미지를 획득하는 카메라;
    조리물의 식별에 사용되는 학습 모델을 저장하는 메모리; 및
    상기 디스플레이, 상기 카메라 및 상기 메모리와 전기적으로 연결되는 제어부;를 포함하고,
    상기 제어부는
    상기 학습 모델을 이용하여 상기 획득된 이미지로부터 식별되는 상기 조리물과 관련된 복수의 후보 아이템을 획득하고,
    상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고,
    상기 적어도 2개의 추천 아이템을 표시하도록 상기 디스플레이를 제어하는 조리 기기.
  2. 제1항에 있어서,
    상기 제어부는
    상기 학습 모델을 이용하여 상기 복수의 후보 아이템 각각과 상기 조리물의 유사성을 나타내는 확률적 수치로 상기 복수의 후보 아이템 각각의 신뢰도를 획득하고,
    상기 신뢰도의 내림차순에 따라 제1 신뢰도를 갖는 제1 추천 아이템과 상기 제1 신뢰도보다 낮은 제2 신뢰도를 갖는 제2 추천 아이템을 포함하는 상기 적어도 2개의 추천 아이템을 결정하는 조리 기기.
  3. 제2항에 있어서,
    상기 제어부는
    상기 적어도 2개의 추천 아이템의 신뢰도의 합이 미리 정해진 임계값보다 크거나 같고, 미리 정해진 최대값보다 작거나 같도록, 상기 적어도 2개의 추천 아이템을 결정하는 조리 기기.
  4. 제2항에 있어서,
    상기 메모리는
    상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 더 저장하고,
    상기 제어부는
    상기 제1 추천 아이템의 상기 제1 신뢰도에 기초하여, 상기 제1 추천 아이템의 대체 아이템을 상기 제2 추천 아이템 또는 제3 추천 아이템으로 결정하는 조리 기기.
  5. 제4항에 있어서,
    상기 제어부는
    상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제2 추천 아이템으로 결정하는 조리 기기.
  6. 제4항에 있어서,
    상기 제어부는
    상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 작고, 상기 제1 신뢰도가 상기 제1 기준값보다 낮은 미리 정해진 제2 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제3 추천 아이템으로 결정하는 조리 기기.
  7. 제6항에 있어서,
    상기 제어부는
    상기 제1 추천 아이템의 상기 제1 신뢰도에 미리 정해진 계수를 곱하여 상기 제3 추천 아이템의 제3 신뢰도를 결정하고,
    상기 제1 신뢰도, 상기 제2 신뢰도 및 상기 제3 신뢰도를 비교하여 상기 제1 추천 아이템, 상기 제2 추천 아이템 및 상기 제3 추천 아이템의 표시 순서를 결정하는 조리 기기.
  8. 제2항에 있어서,
    상기 메모리는
    상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 저장하고,
    상기 제어부는
    입력부를 통해 상기 적어도 2개의 추천 아이템과 다른 후보 아이템이 선택됨에 기초하여, 상기 다른 후보 아이템을 상기 제1 추천 아이템의 새로운 대체 아이템으로 상기 아이템 목록에 추가하는 조리 기기.
  9. 제1항에 있어서,
    상기 제어부는
    입력부를 통해 획득되는 사용자 입력에 기초하여 상기 적어도 2개의 추천 아이템의 최대 개수를 설정하는 조리 기기.
  10. 제1항에 있어서,
    서버와 통신을 수행하는 통신 회로;를 더 포함하고,
    상기 제어부는
    상기 통신 회로를 통해 상기 서버로부터 상기 학습 모델을 획득하고,
    상기 적어도 2개의 추천 아이템을 외부의 사용자 기기에 표시하기 위한 표시 정보를 상기 서버에 전송하도록 상기 통신 회로를 제어하는 조리 기기.
  11. 카메라(60)에 의해 챔버(50) 내부의 이미지를 획득하고;
    제어부(200)에 의해, 메모리(220) 또는 서버(3)로부터 획득되는 학습 모델을 이용하여 상기 획득된 이미지로부터 상기 챔버 내부의 조리물을 식별하고;
    상기 제어부에 의해, 상기 학습 모델을 이용하여 상기 조리물에 관련된 복수의 후보 아이템을 획득하고;
    상기 제어부에 의해, 상기 복수의 후보 아이템 각각의 신뢰도(confidence value)에 기초하여 상기 복수의 후보 아이템 중에서 적어도 2개의 추천 아이템을 결정하고;
    디스플레이를 통해 상기 적어도 2개의 추천 아이템을 표시하는 것;을 포함하는 조리 기기의 제어 방법.
  12. 제11항에 있어서,
    상기 복수의 후보 아이템을 획득하는 것은,
    상기 학습 모델을 이용하여 상기 복수의 후보 아이템 각각과 상기 조리물의 유사성을 나타내는 확률적 수치로 상기 복수의 후보 아이템 각각의 신뢰도를 획득하는 것;을 포함하고,
    상기 적어도 2개의 추천 아이템을 결정하는 것은,
    상기 신뢰도의 내림차순에 따라 제1 신뢰도를 갖는 제1 추천 아이템과 상기 제1 신뢰도보다 낮은 제2 신뢰도를 갖는 제2 추천 아이템을 결정하는 것;을 포함하는 조리 기기의 제어 방법.
  13. 제12항에 있어서,
    상기 적어도 2개의 추천 아이템은,
    상기 적어도 2개의 추천 아이템의 신뢰도의 합이 미리 정해진 임계값보다 크거나 같고, 미리 정해진 최대값보다 작거나 같도록 결정되는 조리 기기의 제어 방법.
  14. 제12항에 있어서,
    상기 메모리 또는 상기 서버로부터 상기 복수의 후보 아이템 각각에 관련된 적어도 하나의 대체 아이템을 포함하는 아이템 목록을 획득하는 것;을 더 포함하고,
    상기 적어도 2개의 추천 아이템을 결정하는 것은,
    상기 제1 추천 아이템의 상기 제1 신뢰도에 기초하여, 상기 제1 추천 아이템의 대체 아이템을 상기 제2 추천 아이템 또는 제3 추천 아이템으로 결정하는 것;을 포함하는 조리 기기의 제어 방법.
  15. 제14항에 있어서,
    상기 적어도 2개의 추천 아이템을 결정하는 것은,
    상기 제1 추천 아이템의 상기 제1 신뢰도가 미리 정해진 제1 기준값보다 크거나 같은 것에 기초하여, 상기 아이템 목록에서 상기 제1 추천 아이템의 대체 아이템을 선택하고, 상기 선택된 대체 아이템을 상기 제2 추천 아이템으로 결정하는 것;을 포함하는 조리 기기의 제어 방법.
PCT/KR2023/009419 2022-08-24 2023-07-04 조리 기기 및 조리 기기의 제어 방법 WO2024043503A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20220106449 2022-08-24
KR10-2022-0106449 2022-08-24
KR10-2023-0004340 2023-01-11
KR1020230004340A KR20240028271A (ko) 2022-08-24 2023-01-11 조리 기기 및 조리 기기의 제어 방법

Publications (1)

Publication Number Publication Date
WO2024043503A1 true WO2024043503A1 (ko) 2024-02-29

Family

ID=90013557

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2023/009419 WO2024043503A1 (ko) 2022-08-24 2023-07-04 조리 기기 및 조리 기기의 제어 방법

Country Status (1)

Country Link
WO (1) WO2024043503A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007334605A (ja) * 2006-06-14 2007-12-27 Sharp Corp 料理情報処理装置、料理情報処理方法、料理情報処理プログラム、および記録媒体
KR20210074648A (ko) * 2019-12-12 2021-06-22 엘지전자 주식회사 조리장치 및 조리장치 제어방법
KR102313279B1 (ko) * 2021-01-18 2021-10-14 김현환 식재료 기반 최적 레시피 제공 장치
KR20220005239A (ko) * 2020-07-06 2022-01-13 삼성전자주식회사 전자 장치 및 이의 제어 방법
KR20220049437A (ko) * 2019-08-30 2022-04-21 엘지전자 주식회사 카메라를 구비한 조리기기

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007334605A (ja) * 2006-06-14 2007-12-27 Sharp Corp 料理情報処理装置、料理情報処理方法、料理情報処理プログラム、および記録媒体
KR20220049437A (ko) * 2019-08-30 2022-04-21 엘지전자 주식회사 카메라를 구비한 조리기기
KR20210074648A (ko) * 2019-12-12 2021-06-22 엘지전자 주식회사 조리장치 및 조리장치 제어방법
KR20220005239A (ko) * 2020-07-06 2022-01-13 삼성전자주식회사 전자 장치 및 이의 제어 방법
KR102313279B1 (ko) * 2021-01-18 2021-10-14 김현환 식재료 기반 최적 레시피 제공 장치

Similar Documents

Publication Publication Date Title
WO2014092503A1 (en) Method and apparatus for controlling devices in home network system
WO2020013413A1 (en) Method of controlling electronic apparatus and computer-readable recording medium
WO2014204286A1 (en) User terminal and driving method thereof, control device and driving method thereof, and control system of controlled device
WO2013151375A1 (en) System and method of providing control information to device regarding product
WO2012093903A2 (ko) 냉장고 및 원격 제어기
WO2021230577A1 (ko) 조리 기기, 조리 기기의 제어 방법 및 조리 시스템
WO2013048154A2 (en) Group-wise device management system and method
WO2016200237A1 (en) Method and apparatus for controlling indoor device
WO2016190557A1 (ko) 주변 기기 제어 방법 및 장치
WO2019078515A1 (ko) 데이터 학습 서버, 이의 학습 모델 생성 및 이용 방법
WO2020130582A1 (en) Electronic device and method for controlling electronic device
TWI641248B (zh) 控制裝置、及控制方法
WO2019198865A1 (ko) 냉장고 및 냉장고의 사용자 인터페이스 표시 방법, 사용자 단말 및 사용자 단말의 기능 수행 방법
WO2018117620A1 (en) Air conditioning apparatus, central control apparatus of the air conditioning apparatus, remote control apparatus of the air conditioning apparatus, indoor apparatus of the air conditioning apparatus and method of controlling thereof
EP4248619A1 (en) Methods and systems for controlling operations of devices in an internet of things (iot) environment
WO2024043503A1 (ko) 조리 기기 및 조리 기기의 제어 방법
WO2021149932A1 (en) Cooking apparatus and method for controlling thereof
JP6719080B2 (ja) 制御装置、及び、制御方法
WO2024043436A1 (ko) 조리 기기 및 조리 기기의 제어 방법
WO2024043493A1 (ko) 조리 기기 및 조리 기기의 제어 방법
WO2024043444A1 (ko) 조리 기기 및 조리 기기의 제어 방법
WO2024090715A1 (ko) 조리 기기 및 그 제어 방법
WO2022149922A1 (ko) 조리 기기 및 조리 기기의 제어 방법
WO2020171334A1 (ko) 중앙 제어기 및 이를 포함하는 공기조화 시스템
KR20240028271A (ko) 조리 기기 및 조리 기기의 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23857541

Country of ref document: EP

Kind code of ref document: A1