WO2012128419A1 - Search system and search method for providing integrated multimedia contents - Google Patents

Search system and search method for providing integrated multimedia contents Download PDF

Info

Publication number
WO2012128419A1
WO2012128419A1 PCT/KR2011/003315 KR2011003315W WO2012128419A1 WO 2012128419 A1 WO2012128419 A1 WO 2012128419A1 KR 2011003315 W KR2011003315 W KR 2011003315W WO 2012128419 A1 WO2012128419 A1 WO 2012128419A1
Authority
WO
WIPO (PCT)
Prior art keywords
search
text
information
image
voice
Prior art date
Application number
PCT/KR2011/003315
Other languages
French (fr)
Korean (ko)
Inventor
지윤성
문선홍
이홍근
Original Assignee
주식회사 코난테크놀로지
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 코난테크놀로지 filed Critical 주식회사 코난테크놀로지
Publication of WO2012128419A1 publication Critical patent/WO2012128419A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/16Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/438Presentation of query results

Definitions

  • the present invention relates to a search system and a search method, and more particularly, to a search system and a search method for providing a search result of integrated multimedia data contents by generating and synchronizing multimedia data from a search result of a user's search word.
  • the processing capability of multimedia content is further enhanced. This is because the information usage pattern of the user interprets the information more quickly through the multimedia data and delivers the information as the multimedia data faster. In addition, the user wants to quickly understand the information through the multimedia information rather than text information, and to process such as transmission and reception.
  • a smart phone which is a kind of Internet terminal
  • processing capability of multimedia data is required in almost all functions such as video call, touch input, generation, storage and reception of multimedia data.
  • the smart phone is made compact for portability and mobility, but takes time when a user inputs or reads text data. Therefore, users of smart phones prefer multimedia data that can easily understand information and reduce data processing time.
  • IP TV Internet
  • various multimedia data processing capabilities such as online shopping and information retrieval are required.
  • the IP TV has transmitted the TV broadcast to the user as visual and audio information.
  • the user is accustomed to viewing multimedia information, but it is very inconvenient and time-consuming to read and input text information in the process of using the Internet of the newly added IP TV.
  • simple remote control operation of a general TV may be complicated to use for text input on an IP TV. Therefore, users of IP TVs prefer multimedia data rather than text information when using the Internet.
  • the Internet search results in which text-based documents are listed in a list form are not suitable for Internet terminals such as smart phones or IP TVs with a limited UI. Accordingly, there is a need for converting or generating content results of various formats obtained through Internet inquiry or search into multimedia contents and providing them.
  • the present invention has been created under the above-described prior art, and an object of the present invention is to provide a search system and a search method for analyzing a content searched on the Internet, generating new multimedia content integrating text, voice, and image and providing the same to a user. do.
  • Another object of the present invention is to provide a search system and a search method for providing a search result screen in which a product of multimedia content is arranged in a user interface (UI) space dynamically divided in a limited search result screen.
  • UI user interface
  • a search system for providing integrated multimedia contents may receive a user's search word on a wired or wireless Internet, perform a multimedia search with the search word, and convert corresponding text to the searched individual result. At least one of processing, voice conversion processing, and image retrieval processing, synchronizing the outputs of the processed voice, text, and image to generate multimedia contents of individual results, and placing the generated multimedia contents in a divided area of the screen.
  • a search server that provides the user with search results; And a user terminal connected to the search server to input a search word in a text, voice, or image format to request a search, and receiving and displaying a search result having a UI (User Interface) in which multimedia contents are divided and displayed on a screen.
  • UI User Interface
  • the search server comprises: an interface module for receiving a user profile and a search word requested to be searched from a user terminal and providing a search result of multimedia content; A middleware module for classifying a text, voice, or image format with respect to a search word; A search module for performing a multimedia search for each text, voice, and image by a format separated search word; A conversion processing module which performs text conversion processing, voice conversion processing, and image retrieval processing to secure contents of another format type corresponding to the format of the retrieved individual result; And generating a single integrated multimedia content by synchronizing the output of the text, voice, and image contents obtained through the conversion process with the individual searched results, and arranging the generated multimedia contents based on the user profile information to generate a search result. And a synchronization batch module.
  • the search module may include: a format analysis module configured to analyze metadata about a format-specific search word received from a middleware module, and to extract the morphological analysis and syntax analysis of the text search word and the image feature of the search word; And a semantic search module that analyzes and retrieves data received from the format analysis module with a semantic search engine.
  • a format analysis module configured to analyze metadata about a format-specific search word received from a middleware module, and to extract the morphological analysis and syntax analysis of the text search word and the image feature of the search word
  • a semantic search module that analyzes and retrieves data received from the format analysis module with a semantic search engine.
  • the synchronization arrangement module extracts user terminal information and screen display information from user profile information, and configures a screen UI according to the extracted information and the number of multimedia contents to be arranged.
  • the search server generates voice information on the searched text result by text to speech (tts) and secures the image information by image search to synchronize the text result, the voice information, and the image information.
  • a process of generating multimedia content A process of generating text information with respect to the searched speech result, by generating a text to speech (stt: speech to text), and securing image information through an image search process to generate multimedia contents synchronized with the speech result, text information and image information;
  • the search server provides a search result of a screen UI in which a frame or layout is dynamically configured in consideration of the image size of the multimedia content.
  • the search result is displayed on the user terminal, the other content is deactivated when playing a specific multimedia content, when the mouse is located in the deactivated content is activated and played when clicked.
  • the search server may include: a markup language module configured to change an audio volume of a content, a rank adjustment of a content, and a screen UI configuration by using an extended markup language (XML) tag according to a command of an administrator; And a result module for performing a cache function of the completed search result and mediating user provisioning.
  • a markup language module configured to change an audio volume of a content, a rank adjustment of a content, and a screen UI configuration by using an extended markup language (XML) tag according to a command of an administrator
  • XML extended markup language
  • a search server receives a search word from a user terminal as a search word on a wired or wireless Internet, performs a search, and provides a search result. Classifying the format of the requested search term; (b) performing a multimedia search of text, voice, and image for each format of the search word; (c) performing at least one of a text conversion process, a voice conversion process, and an image search process on the individual results in order to secure contents of another format type corresponding to the format of the retrieved individual results; (d) synchronizing the output of the text, voice, and image contents obtained through the conversion process with the individual results retrieved to produce a single integrated multimedia content; (d) dividing at least one multimedia content on an area of a screen user interface (UI) to generate a search result; And (e) providing a search result in response to the search request of the user terminal.
  • UI screen user interface
  • a user is provided with a result of dynamically arranging multimedia content as a search result to quickly and easily acquire information by playing multimedia content.
  • the convenience of the user is increased by generating a search result screen excluding text display as much as possible in smart phones and IP TVs where multimedia data is frequently used.
  • FIG. 1 is a schematic structural diagram of a search system according to an embodiment of the present invention.
  • FIG. 2 is a schematic internal structural diagram of a search server according to an embodiment of the present invention.
  • FIG 3 is an exemplary view of a search server composed of a plurality of servers in an embodiment of the present invention.
  • FIG. 4 is a screen diagram of a conventional Internet search result.
  • FIG. 5 is a screen diagram of an Internet search result according to an embodiment of the present invention.
  • FIG. 6 is a schematic flowchart of a search method according to an embodiment of the present invention.
  • FIG. 7 is a flowchart of a process of generating text, voice, and image content from retrieved source content according to an embodiment of the present invention.
  • FIG. 1 is a schematic structural diagram of a search system 1 according to an embodiment of the present invention.
  • the search system 1 includes a search server 2 that receives a search word through wired and wireless networks, generates searched individual contents as integrated multimedia contents, and provides the search results to a user as a search result. It includes a user terminal (3) for receiving a search result of the multimedia content after transmitting a search request to the search server (2).
  • the wired / wireless network in the present invention typically includes all communication networks capable of internet data communication using various protocols such as mobile communication networks, wired and wireless public networks or dedicated networks such as the Internet.
  • the search server 2 has a home page and provides a search service to the user terminal 3 accessing the home page. For example, the search server 2 provides a search page including a search box to the user terminal 3 and receives a search word from the user terminal 3 through the search page. Thereafter, the search server 2 performs a search using the search word, and provides the search result page including the search result to the user terminal 3.
  • the search server 2 analyzes each searched content (hereinafter referred to as "raw content”) to produce a single integrated multimedia content in which text, voice, and images (eg, a video and a still image) are combined.
  • raw content e.g., a single integrated multimedia content in which text, voice, and images (eg, a video and a still image) are combined.
  • the search server 2 does not arrange individual raw contents in the form of a list on the search result page as it is, but visualizes and auditifies the multimedia contents generated from the individual raw contents and dynamically places them on the search result page.
  • the search server 2 converts the text content of the document content into voice information, and collects an image inserted into the document content or an image retrieved from the document. .
  • the search server 2 synchronizes the output of text information, voice information, and image information to produce one integrated multimedia content.
  • the original content is voice or image
  • corresponding text information, voice information, and image information are produced or collected.
  • the generation of the multimedia contents may be omitted.
  • the search server 2 When the multimedia content corresponding to each content is produced, the search server 2 generates a search result (eg, a search result page and search result screen information) having a UI in which the multimedia content is dynamically arranged. Provided by (3).
  • a search result eg, a search result page and search result screen information
  • the user terminal 3 corresponds to a computer terminal capable of accessing the Internet through a wired or wireless network, a mobile communication terminal (including a smart phone), a personal portable terminal, an IP TV (including a smart TV), and the like.
  • the user terminal 3 accesses the search server 2 to input a search word and requests a search.
  • the user terminal 3 receives the search result from the search server 2 and displays the search result on the screen.
  • the search result is displayed on the screen, the user selects individual multimedia contents represented by an image or an icon to check the multimedia contents to be played back.
  • each image corresponding to the retrieved raw contents is displayed on the screen of the user terminal 3, and when a user makes a reproduction request (for example, clicking) on an image of the content in which the raw contents were a document, a voice file Is reproduced, and the text information of the document synchronized with the voice is rolled up in the reproduction process. Accordingly, the user obtains multimedia information in which images, voices, and texts are combined by playing multimedia contents.
  • the information of the image and the voice in the reproduction process of the multimedia content is more transferable than the text information and is preferred by the user.
  • FIG. 2 shows a schematic internal structure of a search server 2 according to an embodiment of the present invention.
  • the search server 2 includes an interface module 21 for receiving a user's search word and responding with a search result, and a middleware module 22 for classifying a data format of the search word; Respective format analysis modules 231 to 233 for analyzing a search word in different formats of text, voice, and image formats, and a semantic search module 24 for performing a multimedia search for each format; A conversion processing module 25 for performing a conversion process and a retrieval process to the contents of other formats of the retrieved raw content; Synchronization batch module 26 for synchronizing text, voice and image contents to create a single integrated multimedia content, and dynamic placement to generate search results, and a result module for caching completed search results and mediating user provisioning. And a markup language module 28 for registering the attribute of the search result with the setting of the administrator.
  • the interface module 21 receives a search word requested to be searched from the user terminal 3. In response to the search request, the search result of the multimedia content is transmitted to the user terminal 3.
  • the interface module 21 may receive a search word in a text, voice, or image format input by the user in the user terminal 3.
  • the interface module 21 also receives a user profile from a web browser of the user terminal 3.
  • the user profile includes information of the user terminal 3 (eg, desktop, smartphone or IP TV), screen display information (eg, monitor size, screen resolution, etc.).
  • the middleware module 22 distinguishes a text, voice, or image format from the received search word.
  • the format analysis module 231 to 233 analyzes metadata for each search word according to the search word format.
  • the text analysis module 231 stems and parses the text search word and transmits the analyzed result to the semantic search module 24.
  • the voice analysis module 232 converts the voice search word into a text search word, and then, stems and parses the converted text and transmits the analyzed result to the semantic search module 24.
  • the image analysis module 233 analyzes the searched image, extracts a feature, compares the stored metadata with the stored metadata, and delivers the analyzed result to the semantic search module 24.
  • the format analysis module 231 to 233 may generate a search word of another format from the search word format.
  • a voice search word or an image search word is generated for a text search word requested by a user.
  • the semantic search module 24 applies advanced text mining techniques to each analysis result analyzed by the format analysis modules 231 to 233 of text, voice, and image to analyze unstructured information as well as structured information. Retrieve information closest to the user's intent. Accordingly, the user is to search for a variety of information that is intended by the user, which is related to the meaning and substantiveness, instead of simply searching for a search result matching a search word.
  • the semantic searched text, voice and image contents are raw contents (or child contents) for synthesizing multimedia contents.
  • the semantic search module 24 collects raw content from a data DB built on the search server 2 and a search engine and data DB of another search site. Furthermore, other search methods may be applied in addition to the semantic search described above.
  • the conversion processing module 25 performs text conversion processing, voice conversion processing, and image retrieval processing as necessary to generate contents in a different format for each format of the retrieved raw content.
  • the conversion processing module 25 generates the voice content with respect to the retrieved text content by text to speech (tts), and retrieves the image content by the image retrieval processing.
  • the conversion processing module 25 generates the text content with respect to the retrieved speech content by text conversion processing (stt: speech to text), and retrieves the image information by the image search processing.
  • the conversion processing module 25 generates the text content with respect to the retrieved image content by text retrieval processing, and selectively generates voice content by voice conversion processing.
  • the search can be searched from the insertion information and the meta information of the raw content, and the Internet search can be performed through the search engine.
  • the synchronizing arrangement module 26 synchronizes the output of the retrieved raw content and other formats of contents secured using the raw content to produce a single integrated multimedia content. Therefore, when the multimedia content is played, the output of each text, voice, and image is semantically synchronized and output. In addition, the synchronization arrangement module 26 generates a search result that the multimedia content is dynamically arranged to form the screen UI.
  • the synchronization arrangement module 26 extracts user terminal information and screen display information from the received user profile information, and configures the screen UI according to the extracted information and the number of multimedia contents to be arranged. That is, the arrangement size and position of the content may vary according to the user terminal and the number of contents. In addition, even if the same search word is input, the UI of the search result may vary according to a user terminal of an IP TV or a smart phone.
  • the synchronization arrangement module 26 enlarges or reduces the size of the image in the screen UI configured with the frame or layout according to the number.
  • one image corresponds to one search result content.
  • the arrangement of the multimedia contents may be arranged according to the known sorting order of the known inquiry order and the latest order. For example, in the case of bulletin board search, multimedia content corresponding to a post is arranged based on a predetermined sorting criterion.
  • the search server 2 may further include a markup language module 28.
  • the markup language module 28 changes the voice volume of the content, the ranking of the content, and the screen UI configuration by using an extended markup language (XML) tag according to an administrator's command. That is, the markup language module 28 stores the screen UI according to the type of the user terminal and the number of contents to be arranged according to the setting of the administrator, and provides a corresponding screen UI according to a condition when generating a search result.
  • the screen UI may include a control function such as placement of the advertisement content, top exposure, etc. as the administrator setting.
  • FIG. 3 shows a distributed server environment of the search server 2 in which the configuration module of FIG. 2 is constructed as each server.
  • the interface server 210 receives the search word requested by the user and transmits the search word to the middleware server 220.
  • the middleware server 220 divides the format of the search word and transmits it to the analysis server 230.
  • the analysis server 230 performs text analysis (morphological analysis and syntax analysis), voice analysis (stt transformation and text analysis) and image analysis (image feature extraction) corresponding to the format of the search, and analyzes the analyzed text, voice and The analysis result of the image is transmitted to the semantic search server 24.
  • the semantic search server 240 searches for semantic related content by format using the semantic search engine. In this process, the semantic search server 240 transmits the raw content retrieved from the DB stored in the data DB server 241 to the voice processing server 250 as needed. Here, it is assumed that the retrieved raw content is document content.
  • the voice processing server 250 extracts text information from the raw content to generate the voice content through the TTS engine, and transfers the raw content and the generated voice content to the synchronization and markup language server 26.
  • the STT server video, voice-> text
  • the image server voice, text-> image
  • the voice processing server 250 may be further included.
  • the synchronization and markup language server 260 checks basic UI information by referring to a user profile, and dynamically configures a screen UI optimized for the user terminal according to the number of contents to be retrieved (distributed). When the contents of the text, voice, and image are generated as one multimedia content through the synchronization, and the search result is generated by the screen UI arrangement, the generated search result is transmitted to the result server 270.
  • the result server 270 temporarily stores the search results and delivers the search results to the interface server 210, and the interface server 210 provides the search results in response to the search request of the user terminal 3.
  • FIG. 4 is a conventional search result page and FIG. 5 is a search result page according to an embodiment of the present invention.
  • the search term is entered as "Poland".
  • the contents searched in Poland in the conventional search result page are arranged in a UI defined as sections and columns in a box area or a list form.
  • the UI screen is determined according to the type of the user terminal and the number of multimedia content to be arranged.
  • the search server 2 reads a profile that is user device information (display information, resolution) to confirm user UI size information (screen display size).
  • the search server 2 divides the screen according to the user device UI and arranges the contents.
  • screen division and content arrangement may display content of a search result over a plurality of pages through page processing.
  • individual pages may have the same or different UI.
  • the search result in which the multimedia content generated by the search server 2 is arranged is transmitted to the user terminal 3 and displayed on the screen.
  • the default content may be played.
  • specific multimedia content the remaining contents are deactivated.
  • the touch input or mouse input is activated and played upon touch or click.
  • the search method according to an embodiment of the present invention can be preferably realized through the construction of the search system 1 described above.
  • FIG. 6 is a schematic flowchart of a search method according to an embodiment of the present invention.
  • the interface module 21 of the search server 2 receives search request information including a search word from the user terminal (S21).
  • the interface module 21 further receives information of the user profile including the terminal information and the screen display information from the user terminal 3.
  • the received user profile information is analyzed for multimedia content placement.
  • the middleware module 22 distinguishes which format the received search word is from text, voice, or image (S22).
  • the analysis modules 231 to 233 perform analysis processing such as extraction of meta information corresponding to each search word format, semantic analysis, morpheme and syntax analysis, and image feature extraction (S23).
  • the semantic search module 24 When a keyword by text, voice, or image is analyzed by the keyword analysis, the semantic search module 24 performs a semantic search on search result contents corresponding to the keyword by format (S24).
  • the conversion processing module 25 converts or retrieves contents of a format different from the raw content required for generating the multimedia content (S25). This process involves a TTS / STT conversion process and a search process.
  • the synchronizing arrangement module 26 When the text, voice, and image contents for constituting the multimedia contents are secured, the synchronizing arrangement module 26 generates one integrated multimedia contents by synchronizing the respective contents and disposing each contents in the screen UI (S26).
  • the synchronization match module 26 determines the corresponding screen UI according to the user profile information and the number of content to be arranged, and generates a search result by placing individual content in an image frame of the screen UI.
  • the result module 27 transmits the search result to the interface module 21, and the interface module 21 transmits the search result as a response to the search request to the user terminal 3 (S27). ).
  • the administrator may be provided with a UI setting page from the markup language module 28, and may use the Extended Markup Language (XML) tag according to the user profile information and the number of the content to be deployed, The ranking of content and the screen UI configuration may be registered in advance.
  • XML Extended Markup Language
  • FIG. 7 is a flowchart of a process of generating text, voice, and image content from retrieved source content according to an embodiment of the present invention.
  • the conversion processing module 25 converts the text information into tts to generate voice content (S251).
  • image contents corresponding to text and voice information are searched for.
  • the image content may be extracted from an image embedded in the text or searched through an external site.
  • the conversion processing module 25 converts the voice information to stt to generate text content (S253).
  • the image content corresponding to the voice and text information is searched for (S252).
  • the conversion processing module 25 searches for text corresponding to the image (S254), and converts the searched text into tts to generate voice content (S251). If the image is a video, step S251 may be omitted.
  • module may be a plurality of modules may be integrated into one module, or one module may be divided into a plurality of modules.
  • the module may mean a hardware module, but may also mean a module of software. Therefore, it should be understood that the present invention is not particularly limited by the term module.

Abstract

The present invention relates to a search system and a search method for providing a search result of multimedia content, where text, sound, and images are integrated, by generating the multimedia content from searched contents. The search system according to the present invention includes: a search server for receiving a search word of a user and performing a multimedia search, performing at least one of text conversion processing, sound conversion processing, and image search processing corresponding to each searched result, generating multimedia content of each result in synchronization with the processed results of sound, text, and image, and displaying the generated multimedia content on a divided area of a screen in order to provide the multimedia content to a user as a search result; and a user terminal for requesting a search by inputting a search word while accessing a search server and receiving a search result having a User Interface (UI) where multimedia contents are divided and disposed. According to the present invention, a user may obtain search information through multimedia content easily and quickly.

Description

통합 멀티미디어 컨텐츠를 제공하는 검색 시스템 및 검색 방법Retrieval system and method for providing integrated multimedia contents
본 발명은 검색 시스템 및 검색 방법에 관한 것으로서, 보다 상세하게는 사용자의 검색어로 검색된 결과물로부터 멀티미디어 데이터를 생성하고 동기화하여 통합된 멀티미디어 데이터 컨텐츠의 검색 결과를 제공하는 검색 시스템 및 검색 방법에 관한 것이다.The present invention relates to a search system and a search method, and more particularly, to a search system and a search method for providing a search result of integrated multimedia data contents by generating and synchronizing multimedia data from a search result of a user's search word.
본 출원은 2011년 3월 21일에 출원된 한국특허출원 제10-2011-0024862호에 기초한 우선권을 주장하며, 해당 출원의 명세서 및 도면에 개시된 모든 내용은 본 출원에 원용된다.This application claims priority based on Korean Patent Application No. 10-2011-0024862, filed March 21, 2011, and all the contents disclosed in the specification and drawings of the application are incorporated in this application.
현재까지의 인터넷 검색 결과는 단순한 텍스트 정보를 리스트 형태로 나열한다. 검색된 정보들의 대부분이 과거의 텍스트 기반 문서로 존재하기 때문이다. 텍스트 정보는 멀티미디어 정보보다 사용자가 해석하는데 시간이 걸리고 직관적 이해도가 낮다.To date, Internet search results list simple text information in the form of a list. This is because most of the retrieved information exists as text-based documents of the past. Text information takes longer for users to interpret than multimedia information and is less intuitive to understand.
인터넷 단말들의 하드웨어 사양에 있어서 멀티미디어 컨텐츠의 처리 능력이 더욱 강화되고 있다. 그 이유는 사용자의 정보 이용 패턴이 멀티미디어 데이터를 통하여 더욱 빠르게 정보를 해석하고, 멀티미디어 데이터로 정보를 빠르게 전달하기 때문이다. 또한, 사용자는 텍스트 정보보다는 멀티미디어 정보를 통하여 빠르게 정보를 이해하고 송수신 등의 처리를 하고자 한다.In the hardware specification of the Internet terminals, the processing capability of multimedia content is further enhanced. This is because the information usage pattern of the user interprets the information more quickly through the multimedia data and delivers the information as the multimedia data faster. In addition, the user wants to quickly understand the information through the multimedia information rather than text information, and to process such as transmission and reception.
일 예로, 인터넷 단말의 일종인 스마트 폰의 경우, 화상 통화, 터치 입력, 멀티미디어 데이터의 생성, 저장 및 수발신 등 거의 모든 기능에서 멀티미디어 데이터의 처리 능력이 요구된다. 여기서, 스마트 폰은 휴대성 및 이동성을 위하여 소형 제작되는데 사용자가 텍스트 데이터를 입력하거나 또는 읽는 경우 시간이 소요된다. 때문에 스마트 폰의 사용자들은 정보를 쉽게 이해하고 데이터 처리 시간을 단축할 수 있는 멀티미디어 데이터를 선호한다.For example, in the case of a smart phone, which is a kind of Internet terminal, processing capability of multimedia data is required in almost all functions such as video call, touch input, generation, storage and reception of multimedia data. Here, the smart phone is made compact for portability and mobility, but takes time when a user inputs or reads text data. Therefore, users of smart phones prefer multimedia data that can easily understand information and reduce data processing time.
다른 예로서, IP TV(또는 스마트 TV)의 경우, 인터넷 접속이 가능하기 때문에 온라인상의 쇼핑, 정보 검색 등 다양한 멀티미디어 데이터 처리 능력이 요구된다. 여기서, IP TV는 TV라는 특성상 지금까지 시각적, 청각적 정보로 TV 방송을 사용자에게 전달하였다. 이처럼 사용자는 멀티미디어 정보의 시청에 익숙한데 새롭게 부가된 IP TV의 인터넷 이용 과정에서 텍스트 정보를 읽고 입력하는 것은 매우 불편하고 시간이 오래 걸린다. 또한, 일반 TV의 간단한 리모콘 조작도 IP TV에서는 텍스트 입력을 위해 사용법이 복잡해질 수 있다. 때문에, IP TV의 사용자들은 인터넷 이용시 텍스트 정보가 아닌 멀티미디어 데이터를 보다 선호하고 있다.As another example, in the case of an IP TV (or smart TV), since the Internet can be connected, various multimedia data processing capabilities such as online shopping and information retrieval are required. Here, the IP TV has transmitted the TV broadcast to the user as visual and audio information. As such, the user is accustomed to viewing multimedia information, but it is very inconvenient and time-consuming to read and input text information in the process of using the Internet of the newly added IP TV. In addition, simple remote control operation of a general TV may be complicated to use for text input on an IP TV. Therefore, users of IP TVs prefer multimedia data rather than text information when using the Internet.
이에 텍스트 기반의 문서가 리스트 형태로 나열되는 인터넷 검색 결과는 한정된 UI를 가진 스마트 폰 또는 IP TV와 같은 인터넷 단말에는 맞지 않는다. 따라서, 인터넷 조회 또는 검색을 통하여 얻어지는 각종 포맷의 컨텐츠 결과물을 멀티미디어 컨텐츠로 변환 또는 생성하여 제공하는 것이 요구된다.The Internet search results in which text-based documents are listed in a list form are not suitable for Internet terminals such as smart phones or IP TVs with a limited UI. Accordingly, there is a need for converting or generating content results of various formats obtained through Internet inquiry or search into multimedia contents and providing them.
본 발명은 상기와 같은 종래 기술의 인식 하에 창출된 것으로서, 인터넷 검색된 컨텐츠를 분석하여 텍스트, 음성, 이미지가 통합된 새로운 멀티미디어 컨텐츠로 생성하여 사용자에게 제공하는 검색 시스템 및 검색 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION The present invention has been created under the above-described prior art, and an object of the present invention is to provide a search system and a search method for analyzing a content searched on the Internet, generating new multimedia content integrating text, voice, and image and providing the same to a user. do.
본 발명의 다른 목적은 멀티미디어 컨텐츠의 생성물을 한정된 검색 결과 화면에서 동적 분할된 UI(User Interface) 공간에 배치한 검색 결과 화면을 제공하는 검색 시스템 및 검색 방법을 제공하는 것을 목적으로 한다.Another object of the present invention is to provide a search system and a search method for providing a search result screen in which a product of multimedia content is arranged in a user interface (UI) space dynamically divided in a limited search result screen.
상기 기술적 과제를 달성하기 위한 본 발명에 따른 통합 멀티미디어 컨텐츠를 제공하는 검색 시스템은, 유선 또는 무선 인터넷 상에서 사용자의 검색어를 수신하여 상기 검색어로 멀티미디어 검색을 수행하고, 검색된 개별 결과물에 대하여 대응하는 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리 중에서 적어도 하나를 수행하고, 처리된 각각의 음성, 텍스트 및 이미지의 결과물들을 동기화하여 개별 결과물의 멀티미디어 컨텐츠를 생성하고, 생성된 멀티미디어 컨텐츠를 화면의 분할 영역에 배치하여 사용자에게 검색 결과로 제공하는 검색 서버; 및 상기 검색 서버로 접속하여 텍스트, 음성 또는 이미지 포맷의 검색어를 입력하여 검색을 요청하고, 멀티미디어 컨텐츠가 분할 배치된 UI(User Interface)를 갖는 검색 결과물을 수신하여 화면에 표시하는 사용자 단말을 포함한다.In order to achieve the above technical problem, a search system for providing integrated multimedia contents according to an embodiment of the present invention may receive a user's search word on a wired or wireless Internet, perform a multimedia search with the search word, and convert corresponding text to the searched individual result. At least one of processing, voice conversion processing, and image retrieval processing, synchronizing the outputs of the processed voice, text, and image to generate multimedia contents of individual results, and placing the generated multimedia contents in a divided area of the screen. A search server that provides the user with search results; And a user terminal connected to the search server to input a search word in a text, voice, or image format to request a search, and receiving and displaying a search result having a UI (User Interface) in which multimedia contents are divided and displayed on a screen. .
본 발명에 따르면, 상기 검색 서버는, 사용자 단말로부터 사용자 프로파일과 검색 요청되는 검색어를 전송받고, 멀티미디어 컨텐츠의 검색 결과물을 제공하는 인터페이스 모듈; 검색어에 대하여 텍스트, 음성 또는 이미지 포맷을 구분하는 미들웨어 모듈; 포맷 구분된 검색어로 텍스트, 음성 및 이미지별로 각각의 멀티미디어 검색을 수행하는 검색 모듈; 검색된 개별 결과물의 포맷에 대응하는 다른 포맷 형태의 컨텐츠들을 확보하고자 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리를 수행하는 변환 처리 모듈; 및 검색된 개별 결과물과 변환 처리를 통하여 확보된 텍스트, 음성 및 이미지 컨텐츠의 출력을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성하고, 상기 사용자 프로파일 정보를 기반으로 생성된 멀티미디어 컨텐츠를 배치하여 검색 결과물을 생성하는 동기화 배치 모듈을 포함한다.According to the present invention, the search server comprises: an interface module for receiving a user profile and a search word requested to be searched from a user terminal and providing a search result of multimedia content; A middleware module for classifying a text, voice, or image format with respect to a search word; A search module for performing a multimedia search for each text, voice, and image by a format separated search word; A conversion processing module which performs text conversion processing, voice conversion processing, and image retrieval processing to secure contents of another format type corresponding to the format of the retrieved individual result; And generating a single integrated multimedia content by synchronizing the output of the text, voice, and image contents obtained through the conversion process with the individual searched results, and arranging the generated multimedia contents based on the user profile information to generate a search result. And a synchronization batch module.
여기서, 상기 검색 모듈은, 미들웨어 모듈로부터 수신된 포맷별 검색어에 대하여 메타 데이터를 분석하고, 텍스트 검색어의 형태소 분석과 구문 분석 및 검색어의 이미지 특징을 추출하는 하는 포맷 분석 모듈; 및 포맷 분석 모듈로부터 수신된 데이터를 시맨틱(Semantic) 검색 엔진으로 분석 및 검색하는 시맨틱 검색 모듈을 포함한다.The search module may include: a format analysis module configured to analyze metadata about a format-specific search word received from a middleware module, and to extract the morphological analysis and syntax analysis of the text search word and the image feature of the search word; And a semantic search module that analyzes and retrieves data received from the format analysis module with a semantic search engine.
본 발명의 일 측면에 따르면, 상기 동기화 배치 모듈은, 사용자 프로파일 정보로부터 사용자 단말 정보 및 화면 표시 정보를 추출하고, 추출된 정보, 배치될 멀티미디어 컨텐츠의 개수에 따라 화면 UI를 구성한다.According to an aspect of the present invention, the synchronization arrangement module extracts user terminal information and screen display information from user profile information, and configures a screen UI according to the extracted information and the number of multimedia contents to be arranged.
또한, 상기 검색 서버는, 검색된 텍스트 결과물에 대하여, 음성 변환 처리(tts : text to speech)로 음성 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하여 텍스트 결과물, 음성 정보 및 이미지 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리; 검색된 음성 결과물에 대하여, 텍스트 변환 처리(stt : speech to text)로 텍스트 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하여 음성 결과물, 텍스트 정보 및 이미지 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리; 및 검색된 이미지 결과물에 대하여, 텍스트 검색 처리로 텍스트 정보를 생성하고, 선택적으로 음성 변환 처리로 음성 정보를 생성하여 이미지 결과물, 텍스트 정보 및 음성 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리를 수행한다.In addition, the search server generates voice information on the searched text result by text to speech (tts) and secures the image information by image search to synchronize the text result, the voice information, and the image information. A process of generating multimedia content; A process of generating text information with respect to the searched speech result, by generating a text to speech (stt: speech to text), and securing image information through an image search process to generate multimedia contents synchronized with the speech result, text information and image information; And a process of generating text information on the retrieved image result by text search processing, and optionally generating voice information by voice conversion processing to generate multimedia content synchronized with the image result, text information and voice information.
나아가, 상기 검색 서버는, 멀티미디어 컨텐츠의 이미지 크기를 고려하여 동적으로 프레임 또는 레이아웃이 구성된 화면 UI의 검색 결과물을 제공한다.Furthermore, the search server provides a search result of a screen UI in which a frame or layout is dynamically configured in consideration of the image size of the multimedia content.
여기서, 상기 검색 결과물은, 사용자 단말에 화면 표시된 후, 특정 멀티미디어 컨텐츠의 재생시 타 컨텐츠가 비활성화되고, 마우스가 비활성화된 컨텐츠에 위치하면 활성화되어 클릭시 재생된다.Here, the search result is displayed on the user terminal, the other content is deactivated when playing a specific multimedia content, when the mouse is located in the deactivated content is activated and played when clicked.
대안적으로, 상기 검색 서버는, 관리자의 명령에 따라서 XML(Extended Markup Language) 태그를 이용하여 컨텐츠에 대한 음성 볼륨, 컨텐츠의 순위 조정 및 화면 UI 구성을 변경하는 마크업 언어 모듈; 및 완성된 검색 결과물의 캐시 기능을 수행하고 사용자 제공을 중개하는 결과 모듈을 더 포함한다.Alternatively, the search server may include: a markup language module configured to change an audio volume of a content, a rank adjustment of a content, and a screen UI configuration by using an extended markup language (XML) tag according to a command of an administrator; And a result module for performing a cache function of the completed search result and mediating user provisioning.
본 발명의 통합 멀티미디어 컨텐츠를 제공하는 검색 방법에 따르면, 검색 서버가 유, 무선 인터넷상에서 사용자 단말로부터 검색어로 수신하여 검색을 수행하고 검색 결과물을 제공하는 검색 방법에 있어서, (a)사용자 단말로부터 검색 요청된 검색어의 포맷을 구분하는 단계; (b)검색어의 포맷별로 텍스트, 음성 및 이미지의 멀티미디어 검색을 수행하는 단계; (c)검색된 개별 결과물의 포맷에 대응하는 다른 포맷 형태의 컨텐츠들을 확보하고자 개별 결과물을 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리 중에서 적어도 하나를 수행하는 단계; (d)검색된 개별 결과물과 변환 처리를 통하여 확보된 텍스트, 음성 및 이미지 컨텐츠의 출력을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성하는 단계; (d)적어도 하나의 상기 멀티미디어 컨텐츠를 화면 UI(User Interface)의 영역상에 분할 배치하여 검색 결과물을 생성하는 단계; 및 (e)사용자 단말의 검색 요청에 대한 응답으로 검색 결과물을 제공하는 단계를 포함한다.According to a search method for providing integrated multimedia contents of the present invention, a search server receives a search word from a user terminal as a search word on a wired or wireless Internet, performs a search, and provides a search result. Classifying the format of the requested search term; (b) performing a multimedia search of text, voice, and image for each format of the search word; (c) performing at least one of a text conversion process, a voice conversion process, and an image search process on the individual results in order to secure contents of another format type corresponding to the format of the retrieved individual results; (d) synchronizing the output of the text, voice, and image contents obtained through the conversion process with the individual results retrieved to produce a single integrated multimedia content; (d) dividing at least one multimedia content on an area of a screen user interface (UI) to generate a search result; And (e) providing a search result in response to the search request of the user terminal.
본 발명의 일 측면에 따르면, 사용자는 검색 결과로서 멀티미디어 컨텐츠가 동적 배치된 결과물을 제공받아 멀티미디어 컨텐츠 재생에 의하여 정보를 더 빠르고 쉽게 습득한다.According to an aspect of the present invention, a user is provided with a result of dynamically arranging multimedia content as a search result to quickly and easily acquire information by playing multimedia content.
본 발명의 또 다른 측면에 따르면, 멀티미디어 데이터의 이용이 빈번한 스마트 폰 및 IP TV에서 텍스트 표시를 최대한 배제되는 검색 결과 화면을 생성하여 사용자의 편의성이 증대된다.According to another aspect of the present invention, the convenience of the user is increased by generating a search result screen excluding text display as much as possible in smart phones and IP TVs where multimedia data is frequently used.
본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 실시예를 예시하는 것이며, 후술한 발명의 상세한 설명과 함께 본 발명의 기술사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석되지 않아야 한다.The following drawings attached to this specification are illustrative of preferred embodiments of the present invention, and together with the detailed description of the invention to serve to further understand the technical spirit of the present invention, the present invention is a matter described in such drawings It should not be construed as limited to.
도 1은 본 발명의 일 실시예에 따른 검색 시스템의 개략적 구성도이다.1 is a schematic structural diagram of a search system according to an embodiment of the present invention.
도 2는 본 발명의 일 실시예에 따른 검색 서버의 개략적 내부 구조도이다.2 is a schematic internal structural diagram of a search server according to an embodiment of the present invention.
도 3은 본 발명의 일 실시예에 복수개 서버로 구성된 검색 서버의 예시도이다.3 is an exemplary view of a search server composed of a plurality of servers in an embodiment of the present invention.
도 4는 종래 인터넷 검색 결과의 화면도이다.4 is a screen diagram of a conventional Internet search result.
도 5는 본 발명의 일 실시예에 따른 인터넷 검색 결과의 화면도이다.5 is a screen diagram of an Internet search result according to an embodiment of the present invention.
도 6은 본 발명의 일 실시예에 따른 검색 방법의 개략적 순서도이다.6 is a schematic flowchart of a search method according to an embodiment of the present invention.
도 7은 본 발명의 일 실시예에 따른 검색된 원시 컨텐츠로부터 텍스트, 음성 및 이미지 컨텐츠를 생성하는 과정의 순서도이다.7 is a flowchart of a process of generating text, voice, and image content from retrieved source content according to an embodiment of the present invention.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하기로 한다. 이에 앞서, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. Prior to this, terms or words used in the specification and claims should not be construed as having a conventional or dictionary meaning, and the inventors should properly explain the concept of terms in order to best explain their own invention. Based on the principle that can be defined, it should be interpreted as meaning and concept corresponding to the technical idea of the present invention.
따라서, 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상에 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.Therefore, the embodiments described in the specification and the drawings shown in the drawings are only the most preferred embodiments of the present invention and do not represent all of the technical spirit of the present invention, various modifications that can be replaced at the time of the present application It should be understood that there may be equivalents and variations.
<1. 시스템 구성><1. System Configuration>
도 1은 본 발명의 일 실시예에 따른 검색 시스템(1)의 개략적 구성도이다.1 is a schematic structural diagram of a search system 1 according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 검색 시스템(1)은 유, 무선 네트워크를 통하여 검색어를 전송받고, 검색된 개별 컨텐츠를 통합된 멀티미디어 컨텐츠로 생성한 후 사용자에게 검색 결과로 제공하는 검색 서버(2) 및 검색 서버(2)로 검색어를 전송하여 검색 요청한 후 멀티미디어 컨텐츠의 검색 결과물을 수신하는 사용자 단말(3)을 포함하여 구성된다.The search system 1 according to an embodiment of the present invention includes a search server 2 that receives a search word through wired and wireless networks, generates searched individual contents as integrated multimedia contents, and provides the search results to a user as a search result. It includes a user terminal (3) for receiving a search result of the multimedia content after transmitting a search request to the search server (2).
본 발명에서의 상기 유, 무선 네트워크는 대표적으로 이동통신망, 인터넷과 같은 유, 무선 공중망이나 전용망 등과 같이 다양한 프로토콜을 이용하여 인터넷 데이터 통신이 가능한 모든 통신망을 포괄한다.The wired / wireless network in the present invention typically includes all communication networks capable of internet data communication using various protocols such as mobile communication networks, wired and wireless public networks or dedicated networks such as the Internet.
상기 검색 서버(2)는 홈 페이지를 보유하며 홈 페이지에 접속한 사용자 단말(3)로 검색 서비스를 제공한다. 예를 들면, 검색 서버(2)는 사용자 단말(3)로 검색창이 포함된 검색 페이지를 제공하고, 사용자 단말(3)로부터 검색 페이지를 통하여 검색어를 수신한다. 이후, 검색 서버(2)는 당해 검색어로 검색을 수행하고, 검색 결과가 포함된 검색 결과 페이지를 사용자 단말(3)로 제공한다.The search server 2 has a home page and provides a search service to the user terminal 3 accessing the home page. For example, the search server 2 provides a search page including a search box to the user terminal 3 and receives a search word from the user terminal 3 through the search page. Thereafter, the search server 2 performs a search using the search word, and provides the search result page including the search result to the user terminal 3.
여기서, 검색 서버(2)는 검색된 각각의 컨텐츠(이하, "원시 컨텐츠"로 표기함)를 분석하여 텍스트, 음성 및 이미지(예 : 동영상, 정지 영상)가 복합된 단일의 통합 멀티미디어 컨텐츠를 제작하여 사용자 단말(3)로 제공한다. 즉, 검색 서버(2)는 개별 원시 컨텐츠들을 그대로 검색 결과 페이지에 리스트 형태로 배치하는 것이 아니라 개별 원시 컨텐츠로부터 생성된 상기 멀티미디어 컨텐츠로 시각화, 청각화하여 검색 결과 페이지에 동적 배치한다.Here, the search server 2 analyzes each searched content (hereinafter referred to as "raw content") to produce a single integrated multimedia content in which text, voice, and images (eg, a video and a still image) are combined. Provided to the user terminal (3). That is, the search server 2 does not arrange individual raw contents in the form of a list on the search result page as it is, but visualizes and auditifies the multimedia contents generated from the individual raw contents and dynamically places them on the search result page.
예를 들어, 원시 컨텐츠가 문서일 경우라 가정하면, 검색 서버(2)는 문서 컨텐츠의 텍스트 내용을 음성 변환하여 음성 정보를 제작하고, 문서 컨텐츠에 삽입된 이미지 또는 문서로부터 검색되는 이미지를 수집한다. 그리고 검색 서버(2)는 텍스트 정보, 음성 정보 및 이미지 정보의 출력을 동기화하여 하나의 통합 멀티미디어 컨텐츠로 제작하는 것이다. 물론, 원시 컨텐츠가 음성 또는 이미지일 경우에도 대응하는 텍스트 정보, 음성 정보 및 이미지 정보가 제작되거나 수집된다. 경우에 따라서, 일부 동영상의 경우 이미 완성된 멀티미디어 컨텐츠라 판단되면, 멀티미디어 컨텐츠의 생성이 생략되어도 무방하다.For example, assuming that the raw content is a document, the search server 2 converts the text content of the document content into voice information, and collects an image inserted into the document content or an image retrieved from the document. . The search server 2 synchronizes the output of text information, voice information, and image information to produce one integrated multimedia content. Of course, even when the original content is voice or image, corresponding text information, voice information, and image information are produced or collected. In some cases, in the case of some moving images, if it is determined that the multimedia contents are already completed, the generation of the multimedia contents may be omitted.
그리고 개별 컨텐츠마다 대응하는 상기의 멀티미디어 컨텐츠가 제작되면, 검색 서버(2)는 당해 멀티미디어 컨텐츠가 동적으로 배치되는 UI를 가진 검색 결과물(예 : 검색 결과 페이지, 검색 결과 화면 정보)을 생성하여 사용자 단말(3)로 제공한다.When the multimedia content corresponding to each content is produced, the search server 2 generates a search result (eg, a search result page and search result screen information) having a UI in which the multimedia content is dynamically arranged. Provided by (3).
상기 사용자 단말(3)은 유, 무선 네트워크를 통하여 인터넷 접속이 가능한 컴퓨터 단말, 이동통신단말(스마트 폰 포함), 개인 휴대 단말, IP TV(스마트 TV 포함) 등이 해당된다.The user terminal 3 corresponds to a computer terminal capable of accessing the Internet through a wired or wireless network, a mobile communication terminal (including a smart phone), a personal portable terminal, an IP TV (including a smart TV), and the like.
여기서, 사용자 단말(3)은 검색 서버(2)에 접속하여 검색어를 입력하고 검색을 요청한다. 그리고 사용자 단말(3)은 검색 서버(2)로부터 검색 결과물을 제공받아 화면에 표시한다. 검색 결과물이 화면에 표시되면, 사용자는 이미지 또는 아이콘으로 표시되는 개별 멀티미디어 컨텐츠를 선택하여 재생되는 멀티미디어 내용을 확인한다. Here, the user terminal 3 accesses the search server 2 to input a search word and requests a search. The user terminal 3 receives the search result from the search server 2 and displays the search result on the screen. When the search result is displayed on the screen, the user selects individual multimedia contents represented by an image or an icon to check the multimedia contents to be played back.
예를 들면, 검색된 원시 컨텐츠들에 대응하는 각각의 이미지가 사용자 단말(3)의 화면에 표시되고, 사용자가 원시 컨텐츠가 문서였던 컨텐츠의 이미지에 대해 재생 요청(예 : 클릭)을 하면, 음성 파일이 재생되고, 재생 과정에서 음성과 동기된 당해 문서의 텍스트 정보가 롤업(roll up)된다. 따라서, 사용자는 멀티미디어 컨텐츠의 재생에 의하여 이미지, 음성, 텍스트가 복합적으로 통합된 멀티미디어 정보를 얻는다. 여기서, 멀티미디어 컨텐츠의 재생 과정에서 이미지, 음성의 정보가 텍스트 정보보다 더 전달력이 있고 사용자가 선호하는 정보 포맷이라는 것은 당업자에게 자명하다.For example, each image corresponding to the retrieved raw contents is displayed on the screen of the user terminal 3, and when a user makes a reproduction request (for example, clicking) on an image of the content in which the raw contents were a document, a voice file Is reproduced, and the text information of the document synchronized with the voice is rolled up in the reproduction process. Accordingly, the user obtains multimedia information in which images, voices, and texts are combined by playing multimedia contents. Here, it is apparent to those skilled in the art that the information of the image and the voice in the reproduction process of the multimedia content is more transferable than the text information and is preferred by the user.
도 2는 본 발명의 일 실시예에 따른 검색 서버(2)의 개략적 내부 구조를 도시한다.2 shows a schematic internal structure of a search server 2 according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 검색 서버(2)는 사용자의 검색어를 수신한 후 검색 결과물로 응답하는 인터페이스 모듈(21), 검색어의 데이터 포맷을 구분하는 미들웨어 모듈(22); 검색어를 다른 포맷인 텍스트, 음성 및 이미지 포맷으로 분석하는 각각의 포맷 분석 모듈(231 ~ 233), 포맷별로 각각의 멀티미디어 검색을 수행하는 시맨틱 검색 모듈(24); 검색된 원시 컨텐츠의 다른 포맷 형태의 컨텐츠들로 변환 처리 및 검색 처리를 수행하는 변환 처리 모듈(25); 텍스트, 음성 및 이미지 컨텐츠들을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성하고 동적 배치하여 검색 결과물을 생성하는 동기화 배치 모듈(26), 완성된 검색 결과물의 캐시 기능을 수행하고 사용자 제공을 중개하는 결과 모듈(27) 및 관리자의 설정으로 검색 결과물의 속성을 등록하는 마크업 언어 모듈(28)을 포함하여 구성된다.The search server 2 according to an embodiment of the present invention includes an interface module 21 for receiving a user's search word and responding with a search result, and a middleware module 22 for classifying a data format of the search word; Respective format analysis modules 231 to 233 for analyzing a search word in different formats of text, voice, and image formats, and a semantic search module 24 for performing a multimedia search for each format; A conversion processing module 25 for performing a conversion process and a retrieval process to the contents of other formats of the retrieved raw content; Synchronization batch module 26 for synchronizing text, voice and image contents to create a single integrated multimedia content, and dynamic placement to generate search results, and a result module for caching completed search results and mediating user provisioning. And a markup language module 28 for registering the attribute of the search result with the setting of the administrator.
상기 인터페이스 모듈(21)은 사용자 단말(3)로부터 검색 요청되는 검색어를 전송받는다. 그리고 검색 요청에 대한 응답으로써 멀티미디어 컨텐츠의 검색 결과물을 사용자 단말(3)로 전송한다.The interface module 21 receives a search word requested to be searched from the user terminal 3. In response to the search request, the search result of the multimedia content is transmitted to the user terminal 3.
여기서, 인터페이스 모듈(21)은 사용자 단말(3)에서 사용자가 입력한 텍스트, 음성 또는 이미지 포맷의 검색어를 수신할 수 있다. Here, the interface module 21 may receive a search word in a text, voice, or image format input by the user in the user terminal 3.
또한, 인터페이스 모듈(21)은 사용자 단말(3)의 웹 브라우저로부터 사용자 프로파일을 수신한다. 사용자 프로파일에는 사용자 단말(3)의 정보(예 : 데스크탑, 스마트폰 또는 IP TV 등), 화면 표시 정보(예 : 모니터 크기, 화면 해상도 등) 등이 포함된다. The interface module 21 also receives a user profile from a web browser of the user terminal 3. The user profile includes information of the user terminal 3 (eg, desktop, smartphone or IP TV), screen display information (eg, monitor size, screen resolution, etc.).
상기 미들웨어 모듈(22)은 수신된 검색어에 대하여 텍스트, 음성 또는 이미지 포맷을 구분한다.The middleware module 22 distinguishes a text, voice, or image format from the received search word.
상기 포맷 분석 모듈(231 ~ 233)은 검색어 포맷에 따른 각각의 검색어에 대한 메타 데이터를 분석한다. 텍스트 분석 모듈(231)은 텍스트 검색어를 형태소 분석 및 구문 분석하여 분석된 결과를 시맨틱 검색 모듈(24)로 전달한다. 음성 분석 모듈(232)은 음성 검색어를 텍스트 검색어로 stt 변환한 후 변환된 텍스트의 형태소 분석 및 구문 분석하여 분석된 결과를 시맨틱 검색 모듈(24)로 전달한다. 그리고 이미지 분석 모듈(233)은 검색 요청된 이미지를 분석하여 특징을 추출하여 저장된 메타 데이터와 비교하여 분석된 결과를 시맨틱 검색 모듈(24)로 전달한다. The format analysis module 231 to 233 analyzes metadata for each search word according to the search word format. The text analysis module 231 stems and parses the text search word and transmits the analyzed result to the semantic search module 24. The voice analysis module 232 converts the voice search word into a text search word, and then, stems and parses the converted text and transmits the analyzed result to the semantic search module 24. The image analysis module 233 analyzes the searched image, extracts a feature, compares the stored metadata with the stored metadata, and delivers the analyzed result to the semantic search module 24.
여기서, 포맷 분석 모듈(231 ~ 233)은 당해 검색어 포맷으로부터 다른 포맷의 검색어를 생성하는 것도 가능하다. 예를 들면, 사용자가 검색 요청한 텍스트 검색어에 대하여 음성 검색어 또는 이미지 검색어를 생성하는 것이다. 물론, 음성 검색어 또는 이미지 검색어로부터 다른 포맷의 검색어 생성도 가능하다.Here, the format analysis module 231 to 233 may generate a search word of another format from the search word format. For example, a voice search word or an image search word is generated for a text search word requested by a user. Of course, it is also possible to generate a search word in another format from the voice search word or the image search word.
상기 시맨틱 검색 모듈(24)은 텍스트, 음성 및 이미지의 포맷 분석 모듈(231 ~ 233)로부터 분석된 각각의 분석 결과에 대하여 고도의 텍스트 마이닝 기술을 적용하여 구조화된 정보외에 비구조화된 정보까지 분석하여 사용자의 의도에 가장 가까운 정보를 검색한다. 따라서, 단순히 검색어로 매칭되는 검색 결과를 검색하는 기존 검색에서 탈피하여 의미적 및 실질적으로 연관되어 사용자가 의도하는 다양한 정보를 검색하는 것이다. 여기서, 시맨틱 검색된 텍스트, 음성 및 이미지 컨텐츠들은 멀티미디어 컨텐츠를 합성하기 위한 원시 컨텐츠(또는 자식 컨텐츠)이다. The semantic search module 24 applies advanced text mining techniques to each analysis result analyzed by the format analysis modules 231 to 233 of text, voice, and image to analyze unstructured information as well as structured information. Retrieve information closest to the user's intent. Accordingly, the user is to search for a variety of information that is intended by the user, which is related to the meaning and substantiveness, instead of simply searching for a search result matching a search word. Here, the semantic searched text, voice and image contents are raw contents (or child contents) for synthesizing multimedia contents.
여기서, 시맨틱 검색 모듈(24)은 검색 서버(2)에 구축된 데이터 DB 및 타 검색 사이트의 검색 엔진 및 데이터 DB로부터 원시 컨텐츠들을 수집한다. 나아가, 전술한 시맨틱 검색 이외에 다른 검색 방식이 적용될 수 있음은 물론이다.Here, the semantic search module 24 collects raw content from a data DB built on the search server 2 and a search engine and data DB of another search site. Furthermore, other search methods may be applied in addition to the semantic search described above.
상기 변환 처리 모듈(25)은 검색된 원시 컨텐츠의 포맷별로 다른 포맷 형태의 컨텐츠들을 생성하고자 필요에 따라 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리를 수행한다.The conversion processing module 25 performs text conversion processing, voice conversion processing, and image retrieval processing as necessary to generate contents in a different format for each format of the retrieved raw content.
예를 들어, 변환 처리 모듈(25)은 검색된 텍스트 컨텐츠에 대하여, 음성 변환 처리(tts : text to speech)로 음성 컨텐츠를 생성하고, 이미지 검색 처리로 이미지 컨텐츠를 검색한다. 변환 처리 모듈(25)은 검색된 음성 컨텐츠에 대하여, 텍스트 변환 처리(stt : speech to text)로 텍스트 컨텐츠를 생성하고, 이미지 검색 처리로 이미지 정보를 검색한다. 또한, 변환 처리 모듈(25)은 검색된 이미지 컨텐츠에 대하여, 텍스트 검색 처리로 텍스트 컨텐츠를 생성하고, 선택적으로 음성 변환 처리로 음성 컨텐츠를 생성한다. 여기서, 검색은 원시 컨텐츠의 삽입 정보, 메타 정보로부터 검색할 수 있고, 검색 엔진을 통하여 인터넷 검색을 수행하는 것이 가능하다.For example, the conversion processing module 25 generates the voice content with respect to the retrieved text content by text to speech (tts), and retrieves the image content by the image retrieval processing. The conversion processing module 25 generates the text content with respect to the retrieved speech content by text conversion processing (stt: speech to text), and retrieves the image information by the image search processing. In addition, the conversion processing module 25 generates the text content with respect to the retrieved image content by text retrieval processing, and selectively generates voice content by voice conversion processing. Here, the search can be searched from the insertion information and the meta information of the raw content, and the Internet search can be performed through the search engine.
동기화 배치 모듈(26)은 검색된 원시 컨텐츠 및 원시 컨텐츠를 이용하여 확보된 다른 포맷의 컨텐츠들의 출력을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성한다. 따라서, 멀티미디어 컨텐츠가 재생되면 각각의 텍스트, 음성, 이미지의 출력은 의미적으로 동기화되어 출력된다. 그리고 동기화 배치 모듈(26)은 멀티미디어 컨텐츠가 동적 배치되어 화면 UI를 구성하는 검색 결과물을 생성한다.The synchronizing arrangement module 26 synchronizes the output of the retrieved raw content and other formats of contents secured using the raw content to produce a single integrated multimedia content. Therefore, when the multimedia content is played, the output of each text, voice, and image is semantically synchronized and output. In addition, the synchronization arrangement module 26 generates a search result that the multimedia content is dynamically arranged to form the screen UI.
여기서, 동기화 배치 모듈(26)은 수신된 상기의 사용자 프로파일 정보로부터 사용자 단말 정보 및 화면 표시 정보를 추출하고, 추출된 정보, 배치될 멀티미디어 컨텐츠의 개수에 따라 화면 UI를 구성한다. 즉, 사용자 단말, 컨텐츠 수에 따라서 컨텐츠의 배치 크기 및 위치가 달라질 수 있다. 또한, 동일한 검색어를 입력해도 IP TV 또는 스마트 폰의 사용자 단말에 따라 검색 결과물의 UI는 달라질 수 있다.Here, the synchronization arrangement module 26 extracts user terminal information and screen display information from the received user profile information, and configures the screen UI according to the extracted information and the number of multimedia contents to be arranged. That is, the arrangement size and position of the content may vary according to the user terminal and the number of contents. In addition, even if the same search word is input, the UI of the search result may vary according to a user terminal of an IP TV or a smart phone.
동기화 배치 모듈(26)은 컨텐츠의 배치 개수가 결정되면, 그 개수에 맞추어 프레임 또는 레이아웃이 구성된 화면 UI에서 이미지 크기를 확대 또는 축소하여 배치한다. 물론, 1개의 이미지는 1개의 검색 결과 컨텐츠에 대응한다. 또한, 멀티미디어 컨텐츠의 배치는 공지된 조회순, 최신순의 공지된 정렬 기준에 따라서 배치될 수 있음은 자명하다. 예를 들어, 게시판 검색의 경우, 게시글에 대응하는 멀티미디어 컨텐츠가 소정의 정렬 기준으로 배치되는 것이다. When the number of arrangement of the contents is determined, the synchronization arrangement module 26 enlarges or reduces the size of the image in the screen UI configured with the frame or layout according to the number. Of course, one image corresponds to one search result content. In addition, it is apparent that the arrangement of the multimedia contents may be arranged according to the known sorting order of the known inquiry order and the latest order. For example, in the case of bulletin board search, multimedia content corresponding to a post is arranged based on a predetermined sorting criterion.
여기서, 상기 검색 서버(2)는 마크업 언어 모듈(28)을 더 포함하여 구성될 수 있다. 상기 마크업 언어 모듈(28)은 관리자의 명령에 따라서 XML(Extended Markup Language) 태그를 이용하여 컨텐츠에 대한 음성 볼륨, 컨텐츠의 순위 조정 및 화면 UI 구성을 변경한다. 즉, 마크업 언어 모듈(28)은 관리자의 설정에 의하여 사용자 단말의 종류, 배치될 컨텐츠 수에 따라서 화면 UI를 저장하고, 검색 결과물 생성시 조건에 따라서 대응하는 화면 UI를 제공한다. 또한, 화면 UI는 관리자 설정으로 광고 컨텐츠에 대한 배치, 상단 노출 등의 컨트롤 기능이 포함될 수 있다.The search server 2 may further include a markup language module 28. The markup language module 28 changes the voice volume of the content, the ranking of the content, and the screen UI configuration by using an extended markup language (XML) tag according to an administrator's command. That is, the markup language module 28 stores the screen UI according to the type of the user terminal and the number of contents to be arranged according to the setting of the administrator, and provides a corresponding screen UI according to a condition when generating a search result. In addition, the screen UI may include a control function such as placement of the advertisement content, top exposure, etc. as the administrator setting.
도 3은 도 2의 구성 모듈을 각각의 서버로 구축한 검색 서버(2)의 분산 서버 환경을 도시한다.FIG. 3 shows a distributed server environment of the search server 2 in which the configuration module of FIG. 2 is constructed as each server.
인터페이스 서버(210)는 사용자가 검색 요청한 검색어를 수신하여 미들웨어 서버(220)로 전달한다. 미들웨어 서버(220)는 검색어의 포맷을 구분하여 분석 서버(230)로 전달한다. The interface server 210 receives the search word requested by the user and transmits the search word to the middleware server 220. The middleware server 220 divides the format of the search word and transmits it to the analysis server 230.
분석 서버(230)는 당해 검색의 포맷에 대응하는 텍스트 분석(형태소 분석 및 구문 분석), 음성 분석(stt 변환 및 텍스트 분석) 및 이미지 분석(이미지 특징 추출)을 수행하고, 분석된 텍스트, 음성 및 이미지의 분석 결과를 시맨틱 검색 서버(24)로 전달한다. 시맨틱 검색 서버(240)는 시맨틱 검색 엔진을 이용하여 의미적 연관되는 컨텐츠를 포맷별로 검색한다. 이 과정에서 시맨틱 검색 서버(240)는 데이터 DB 서버(241)에 저장된 DB로부터 검색된 원시 컨텐츠가 텍스트를 포함할 경우 필요에 따라서 음성 처리 서버(250)로 전달한다. 여기서, 검색된 원시 컨텐츠는 문서 컨텐츠라 가정한다The analysis server 230 performs text analysis (morphological analysis and syntax analysis), voice analysis (stt transformation and text analysis) and image analysis (image feature extraction) corresponding to the format of the search, and analyzes the analyzed text, voice and The analysis result of the image is transmitted to the semantic search server 24. The semantic search server 240 searches for semantic related content by format using the semantic search engine. In this process, the semantic search server 240 transmits the raw content retrieved from the DB stored in the data DB server 241 to the voice processing server 250 as needed. Here, it is assumed that the retrieved raw content is document content.
음성 처리 서버(250)는 원시 컨텐츠로부터 텍스트 정보를 추출하여 TTS 엔진을 통하여 음성 컨텐츠를 생성하고, 원시 콘텐츠와 생성된 음성 컨텐츠를 동기화 및 마크업 언어 서버(26)로 전달한다. 여기서, 음성 처리 서버(250) 이외에 STT 서버(동영상, 음성 -> 텍스트) 및 이미지 서버(음성, 텍스트 -> 이미지)가 더 포함될 수 있음은 물론이다.The voice processing server 250 extracts text information from the raw content to generate the voice content through the TTS engine, and transfers the raw content and the generated voice content to the synchronization and markup language server 26. Here, the STT server (video, voice-> text) and the image server (voice, text-> image) in addition to the voice processing server 250 may be further included.
동기화 및 마크업 언어 서버(260)는 사용자 프로파일을 참조하여 기본 UI 정보를 확인한 후, 검색된(배치될) 컨텐츠 수에 따라 사용자 단말에 최적화된 화면 UI를 동적 구성한다. 동기화를 통하여 텍스트, 음성, 이미지의 컨텐츠들이 하나의 멀티미디어 컨텐츠로 생성되고 화면 UI 배치로 검색 결과물이 생성되면, 당해 생성된 검색 결과물을 결과 서버(270)로 전달한다.The synchronization and markup language server 260 checks basic UI information by referring to a user profile, and dynamically configures a screen UI optimized for the user terminal according to the number of contents to be retrieved (distributed). When the contents of the text, voice, and image are generated as one multimedia content through the synchronization, and the search result is generated by the screen UI arrangement, the generated search result is transmitted to the result server 270.
결과 서버(270)는 검색 결과물을 임시 저장했다가 인터페이스 서버(210)로 전달하고 인터페이스 서버(210)는 검색 결과물을 사용자 단말(3)의 검색 요청에 대한 응답으로 제공한다.The result server 270 temporarily stores the search results and delivers the search results to the interface server 210, and the interface server 210 provides the search results in response to the search request of the user terminal 3.
도 4는 종래 검색 결과 페이지이고 도 5는 본 발명의 일 실시예에 따른 검색 결과 페이지이다.4 is a conventional search result page and FIG. 5 is a search result page according to an embodiment of the present invention.
비교의 편의를 위하여, 검색어는 "폴란드"로 입력하였다. 도 4의 경우, 종래 검색 결과 페이지에서 폴란드로 검색된 컨텐츠들이 박스 영역 또는 리스트 형태의 섹션 및 컬럼으로 정의된 UI에 배치됨을 알 수 있다. For convenience of comparison, the search term is entered as "Poland". In the case of FIG. 4, it can be seen that the contents searched in Poland in the conventional search result page are arranged in a UI defined as sections and columns in a box area or a list form.
반면에, 도 5의 경우, 사용자 단말의 종류 및 배치될 멀티미디어 컨텐츠 개수에 따라서 UI 화면이 결정된다. 예를 들면, 검색 서버(2)가 사용자 디바이스 정보(디스플레이 정보, 해상도)인 프로파일을 읽어 사용자 UI 크기 정보(화면 표시 크기)를 확인한다. 다음으로, 검색 서버(2)는 검색 결과의 컨텐츠 수를 확인한 후 사용자 디바이스 UI에 맞게 화면을 분할하여 컨텐츠를 배치한다. 여기서, 화면 분할 및 컨텐츠 배치는 페이지 처리를 통하여 복수의 페이지에 걸쳐서 검색 결과의 컨텐츠들이 표시될 수 있다. 또한, 개별 페이지는 동일 또는 서로 다른 UI를 가질 수 있음은 물론이다. 그리고 검색 서버(2)가 생성한 멀티미디어 컨텐츠가 배치된 검색 결과물이 사용자 단말(3)로 전송되어 화면에 표시된다.On the other hand, in the case of Figure 5, the UI screen is determined according to the type of the user terminal and the number of multimedia content to be arranged. For example, the search server 2 reads a profile that is user device information (display information, resolution) to confirm user UI size information (screen display size). Next, after checking the number of contents of the search result, the search server 2 divides the screen according to the user device UI and arranges the contents. Here, screen division and content arrangement may display content of a search result over a plurality of pages through page processing. In addition, individual pages may have the same or different UI. The search result in which the multimedia content generated by the search server 2 is arranged is transmitted to the user terminal 3 and displayed on the screen.
여기서, 사용자 단말(3)의 화면에 검색 결과물이 화면에 표시되면, 디폴트 컨텐츠가 재생될 수 있다. 특정 멀티미디어 컨텐츠가 재생되면, 나머지 컨텐츠들은 비활성화된다. 이 상태에서 터치 입력 또는 마우스 입력의 포인터가 특정의 비활성화된 컨텐츠에 위치하면 활성화되고 터치 또는 클릭시 재생된다. Here, when the search result is displayed on the screen of the user terminal 3, the default content may be played. When specific multimedia content is played, the remaining contents are deactivated. In this state, when a pointer of a touch input or a mouse input is positioned at a specific inactivated content, the touch input or mouse input is activated and played upon touch or click.
<2. 방법 구성><2. How to Configure>
본 발명의 일 실시예에 따른 검색 방법은 전술한 검색 시스템(1)의 구축을 통하여 바람직하게 실현될 수 있다. The search method according to an embodiment of the present invention can be preferably realized through the construction of the search system 1 described above.
도 6은 본 발명의 일 실시예에 따른 검색 방법의 개략적 순서도이다.6 is a schematic flowchart of a search method according to an embodiment of the present invention.
검색 서버(2)의 인터페이스 모듈(21)은 사용자 단말로부터 검색어를 포함하는 검색 요청 정보를 수신한다(S21). The interface module 21 of the search server 2 receives search request information including a search word from the user terminal (S21).
여기서, 상기 인터페이스 모듈(21)은 사용자 단말(3)로부터 단말 정보와 화면 표시 정보를 포함하는 사용자 프로파일의 정보를 더 수신한다. 수신된 사용자 프로파일 정보는 멀티미디어 컨텐츠 배치를 위하여 분석된다.Here, the interface module 21 further receives information of the user profile including the terminal information and the screen display information from the user terminal 3. The received user profile information is analyzed for multimedia content placement.
사용자 단말(3)로부터 검색어가 수신되면, 미들웨어 모듈(22)은 당해 수신된 검색어가 텍스트, 음성 또는 이미지 중에서 어떤 포맷인지를 구분한다(S22).When the search word is received from the user terminal 3, the middleware module 22 distinguishes which format the received search word is from text, voice, or image (S22).
검색어 포맷이 구분되면, 분석 모듈(231 ~ 233)은 당해 검색어의 포맷별로 대응하는 메타 정보의 추출, 의미 분석, 형태소 및 구문 분석, 및 이미지 특징 추출 등의 분석 처리를 수행한다(S23).When the search word formats are divided, the analysis modules 231 to 233 perform analysis processing such as extraction of meta information corresponding to each search word format, semantic analysis, morpheme and syntax analysis, and image feature extraction (S23).
검색어 분석에 의하여 텍스트, 음성, 이미지별 검색어가 분석되면, 시맨틱 검색 모듈(24)은 포맷별 검색어에 대응하는 검색 결과 컨텐츠들을 시맨틱 검색한다(S24).When a keyword by text, voice, or image is analyzed by the keyword analysis, the semantic search module 24 performs a semantic search on search result contents corresponding to the keyword by format (S24).
검색 결과로 원시 컨텐츠가 검색되면, 변환 처리 모듈(25)은 멀티미디어 컨텐츠 생성을 위해 요구되는 원시 컨텐츠와 다른 포맷의 컨텐츠들을 변환하거나 검색한다(S25). 이 과정에서 TTS/STT 변환 처리 및 검색 프로세스가 수반된다.If the raw content is found as a result of the search, the conversion processing module 25 converts or retrieves contents of a format different from the raw content required for generating the multimedia content (S25). This process involves a TTS / STT conversion process and a search process.
멀티미디어 컨텐츠를 구성할 텍스트, 음성 및 이미지 컨텐츠가 확보되면, 동기화 배치 모듈(26)은 각각의 컨텐츠를 동기화하여 하나의 통합된 멀티미디어 컨텐츠를 생성하고 화면 UI에 각각의 컨텐츠를 배치한다(S26).When the text, voice, and image contents for constituting the multimedia contents are secured, the synchronizing arrangement module 26 generates one integrated multimedia contents by synchronizing the respective contents and disposing each contents in the screen UI (S26).
여기서, 동기화 매치 모듈(26)은 사용자 프로파일 정보 및 배치될 컨텐츠의 수에 따라 대응하는 화면 UI를 결정하고, 화면 UI의 이미지 프레임에 개별 컨텐츠를 배치하여 검색 결과물을 생성한다.Here, the synchronization match module 26 determines the corresponding screen UI according to the user profile information and the number of content to be arranged, and generates a search result by placing individual content in an image frame of the screen UI.
검색 결과물이 생성되면, 결과 모듈(27)은 인터페이스 모듈(21)로 검색 결과물을 전달하고, 인터페이스 모듈(21)은 사용자 단말(3)로 당해 검색 요청에 대한 응답으로써 검색 결과물을 전송한다(S27).When the search result is generated, the result module 27 transmits the search result to the interface module 21, and the interface module 21 transmits the search result as a response to the search request to the user terminal 3 (S27). ).
한편, 대안적으로, 관리자는 마크업 언어 모듈(28)로부터 UI 설정 페이지를 제공받고, 사용자 프로파일 정보 및 배치될 컨텐츠의 수에 따라서 XML(Extended Markup Language) 태그를 이용하여 컨텐츠에 대한 음성 볼륨, 컨텐츠의 순위 조정 및 화면 UI 구성을 미리 등록할 수 있다.Alternatively, the administrator may be provided with a UI setting page from the markup language module 28, and may use the Extended Markup Language (XML) tag according to the user profile information and the number of the content to be deployed, The ranking of content and the screen UI configuration may be registered in advance.
도 7은 본 발명의 일 실시예에 따른 검색된 원시 컨텐츠로부터 텍스트, 음성 및 이미지 컨텐츠를 생성하는 과정의 순서도이다.7 is a flowchart of a process of generating text, voice, and image content from retrieved source content according to an embodiment of the present invention.
전술한 도 7의 단계(S25)에서 원시 컨텐츠가 텍스트일 경우, 변환 처리 모듈(25)은 텍스트 정보를 tts 변환하여 음성 컨텐츠를 생성한다(S251). 그리고 텍스트, 음성 정보에 대응하는 이미지 컨텐츠를 검색한다(S252). 이미지 컨텐츠는 텍스트 내에 삽입된 이미지를 추출하거나 또는 외부 사이트를 통하여 검색될 수 있다.When the original content is text in step S25 of FIG. 7 described above, the conversion processing module 25 converts the text information into tts to generate voice content (S251). In operation S252, image contents corresponding to text and voice information are searched for. The image content may be extracted from an image embedded in the text or searched through an external site.
원시 컨텐츠가 음성일 경우, 변환 처리 모듈(25)은 음성 정보를 stt 변환하여 텍스트 컨텐츠를 생성한다(S253). 그리고 음성 및 텍스트 정보에 대응하는 이미지 컨텐츠를 검색한다(S252).If the original content is voice, the conversion processing module 25 converts the voice information to stt to generate text content (S253). The image content corresponding to the voice and text information is searched for (S252).
그리고 원시 컨텐츠가 이미지일 경우, 변환 처리 모듈(25)은 이미지에 대응하는 텍스트를 검색하고(S254), 검색된 텍스트를 tts 변환하여 음성 컨텐츠를 생성한다(S251). 이미지가 동영상일 경우 상기 단계(S251)은 생략되어도 무방하다. If the original content is an image, the conversion processing module 25 searches for text corresponding to the image (S254), and converts the searched text into tts to generate voice content (S251). If the image is a video, step S251 may be omitted.
상술한 실시예에서, "모듈"이라는 용어는 복수의 모듈이 하나의 모듈로 통합될 수도 있고, 하나의 모듈이 복수의 모듈로 분할될 수도 있다. 또한, 모듈은 하드웨어 모듈을 의미할 수도 있지만, 소프트웨어의 모듈을 의미할 수도 있다. 따라서 본 발명은 모듈이라는 용어에 의해 특별히 한정되지 않음을 이해하여야 할 것이다.In the above-described embodiment, the term "module" may be a plurality of modules may be integrated into one module, or one module may be divided into a plurality of modules. In addition, the module may mean a hardware module, but may also mean a module of software. Therefore, it should be understood that the present invention is not particularly limited by the term module.
본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 이것에 의해 한정되지 않으며 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술사상과 아래에 기재될 특허청구범위의 균등범위 내에서 다양한 수정 및 변형이 가능함은 물론이다.Although the present invention has been described by way of limited embodiments and drawings, the present invention is not limited thereto, and the technical idea of the present invention and claims to be described below by those skilled in the art to which the present invention pertains. Of course, various modifications and variations are possible within the scope of equivalents.

Claims (17)

  1. 유선 또는 무선 인터넷 상에서 사용자의 검색어를 수신하여 상기 검색어로 멀티미디어 검색을 수행하고, 검색된 개별 결과물에 대하여 대응하는 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리 중에서 적어도 하나를 수행하고, 처리된 각각의 음성, 텍스트 및 이미지의 결과물들을 동기화하여 개별 결과물의 멀티미디어 컨텐츠를 생성하고, 생성된 멀티미디어 컨텐츠를 화면의 분할 영역에 배치하여 사용자에게 검색 결과로 제공하는 검색 서버; 및Receives a user's search word on a wired or wireless Internet, performs a multimedia search with the search word, and performs at least one of a corresponding text conversion process, a voice conversion process, and an image search process on the searched individual results, and processes each voice. A search server for synchronizing the results of text and images to generate multimedia contents of individual results, and placing the generated multimedia contents on a divided area of a screen and providing the search results to a user as a search result; And
    상기 검색 서버로 접속하여 텍스트, 음성 또는 이미지 포맷의 검색어를 입력하여 검색을 요청하고, 멀티미디어 컨텐츠가 분할 배치된 UI(User Interface)를 갖는 검색 결과물을 수신하여 화면에 표시하는 사용자 단말A user terminal that accesses the search server and inputs a search word in a text, voice, or image format to request a search, and receives and displays a search result having a UI (User Interface) in which multimedia contents are divided and displayed on a screen.
    을 포함하는 것을 특징으로 하는 검색 시스템.Search system comprising a.
  2. 제 1항에 있어서,The method of claim 1,
    상기 검색 서버는,The search server,
    사용자 단말로부터 사용자 프로파일과 검색 요청되는 검색어를 전송받고, 멀티미디어 컨텐츠의 검색 결과물을 제공하는 인터페이스 모듈;An interface module for receiving a user profile and a search word requested to be searched from the user terminal and providing a search result of the multimedia content;
    검색어에 대하여 텍스트, 음성 또는 이미지 포맷을 구분하는 미들웨어 모듈;A middleware module for classifying a text, voice, or image format with respect to a search word;
    포맷 구분된 검색어로 텍스트, 음성 및 이미지별로 각각의 멀티미디어 검색을 수행하는 검색 모듈;A search module for performing a multimedia search for each text, voice, and image by a format separated search word;
    검색된 개별 결과물의 포맷에 대응하는 다른 포맷 형태의 컨텐츠들을 확보하고자 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리를 수행하는 변환 처리 모듈; 및A conversion processing module which performs text conversion processing, voice conversion processing, and image retrieval processing to secure contents of another format type corresponding to the format of the retrieved individual result; And
    검색된 개별 결과물과 변환 처리를 통하여 확보된 텍스트, 음성 및 이미지 컨텐츠의 출력을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성하고, 상기 사용자 프로파일 정보를 기반으로 생성된 멀티미디어 컨텐츠를 배치하여 검색 결과물을 생성하는 동기화 배치 모듈Synchronize the output of text, voice and image contents obtained through the individual search results and the conversion process to generate a single integrated multimedia content, and generate a search result by placing the generated multimedia content based on the user profile information Synchronization batch module
    을 포함하는 것을 특징으로 하는 검색 시스템.Search system comprising a.
  3. 제 2항에 있어서,The method of claim 2,
    상기 검색 모듈은,The search module,
    미들웨어 모듈로부터 수신된 포맷별 검색어에 대하여 메타 데이터를 분석하고, 텍스트 검색어의 형태소 분석과 구문 분석 및 검색어의 이미지 특징을 추출하는 하는 포맷 분석 모듈; 및A format analysis module configured to analyze metadata for a format-specific search term received from the middleware module, and to extract the morphological analysis and parsing of the text search term and the image feature of the search term; And
    포맷 분석 모듈로부터 수신된 데이터를 시맨틱(Semantic) 검색 엔진으로 분석 및 검색하는 시맨틱 검색 모듈Semantic search module that analyzes and retrieves data received from the format analysis module with a semantic search engine
    을 포함하는 것을 특징으로 하는 검색 시스템.Search system comprising a.
  4. 제 2항에 있어서,The method of claim 2,
    상기 동기화 배치 모듈은,The synchronization batch module,
    사용자 프로파일 정보로부터 사용자 단말 정보 및 화면 표시 정보를 추출하고, 추출된 정보, 배치될 멀티미디어 컨텐츠의 개수에 따라 화면 UI를 동적 구성하는 것을 특징으로 하는 검색 시스템.And extracting user terminal information and screen display information from the user profile information, and dynamically configuring the screen UI according to the extracted information and the number of multimedia contents to be arranged.
  5. 제 1항 또는 제 2항에 있어서,The method according to claim 1 or 2,
    상기 검색 서버는,The search server,
    검색된 텍스트 결과물에 대하여, 음성 변환 처리(tts : text to speech)로 음성 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하여 텍스트 결과물, 음성 정보 및 이미지 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리;A process of generating speech information on the retrieved text result by text-to-speech (tts), and obtaining image information by image retrieval processing to generate multimedia content in which the text result, speech information and image information are synchronized;
    검색된 음성 결과물에 대하여, 텍스트 변환 처리(stt : speech to text)로 텍스트 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하여 음성 결과물, 텍스트 정보 및 이미지 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리; 및A process of generating text information with respect to the searched speech result, by generating a text to speech (stt: speech to text), and securing image information through an image search process to generate multimedia contents synchronized with the speech result, text information and image information; And
    검색된 이미지 결과물에 대하여, 텍스트 검색 처리로 텍스트 정보를 생성하고, 선택적으로 음성 변환 처리로 음성 정보를 생성하여 이미지 결과물, 텍스트 정보 및 음성 정보가 동기된 멀티미디어 컨텐츠를 생성하는 처리A process of generating text information for the retrieved image result by generating text information by text search processing, and optionally generating voice information by voice conversion processing to generate multimedia contents synchronized with the image result, text information and voice information.
    를 수행하는 것을 특징으로 하는 검색 시스템.Search system characterized in that for performing.
  6. 제 1항 또는 제 2항에 있어서,The method according to claim 1 or 2,
    상기 검색 서버는,The search server,
    멀티미디어 컨텐츠의 이미지 크기를 고려하여 동적으로 프레임 또는 레이아웃이 구성된 화면 UI의 검색 결과물을 제공하는 것을 특징으로 하는 검색 시스템.And a search result of a screen UI in which a frame or a layout is dynamically configured in consideration of the image size of the multimedia content.
  7. 제 6항에 있어서,The method of claim 6,
    상기 검색 결과물은, The search results,
    사용자 단말에 화면 표시된 후, 특정 멀티미디어 컨텐츠의 재생시 타 컨텐츠가 비활성화되고, 마우스가 비활성화된 컨텐츠에 위치하면 활성화되어 클릭시 재생되는 것을 특징으로 하는 검색 시스템.And after the screen is displayed on the user terminal, other contents are deactivated when the specific multimedia contents are played, and when the mouse is positioned on the deactivated contents, the contents are activated and played when clicked.
  8. 제 1항 또는 제 2항에 있어서,The method according to claim 1 or 2,
    상기 검색 서버는,The search server,
    관리자의 명령에 따라서 XML(Extended Markup Language) 태그를 이용하여 컨텐츠에 대한 음성 볼륨, 컨텐츠의 순위 조정 및 화면 UI 구성을 변경하는 마크업 언어 모듈; 및A markup language module for changing a voice volume, a ranking of content, and a screen UI configuration of the content by using an extended markup language (XML) tag according to a command of an administrator; And
    완성된 검색 결과물의 캐시 기능을 수행하고 사용자 제공을 중개하는 결과 모듈 Results module that performs the caching of completed search results and mediates user contributions
    을 더 포함하는 것을 특징으로 하는 검색 시스템.Search system characterized in that it further comprises.
  9. 검색 서버가 유, 무선 인터넷상에서 사용자 단말로부터 검색어로 수신하여 검색을 수행하고 검색 결과물을 제공하는 검색 방법에 있어서,A search method for a search server, which receives a search word from a user terminal on a wired or wireless Internet, performs a search, and provides a search result.
    (a)사용자 단말로부터 검색 요청된 검색어의 포맷을 구분하는 단계;(a) classifying a format of a search term requested for search from a user terminal;
    (b)검색어의 포맷별로 텍스트, 음성 및 이미지의 멀티미디어 검색을 수행하는 단계;(b) performing a multimedia search of text, voice, and image for each format of the search word;
    (c)검색된 개별 결과물의 포맷에 대응하는 다른 포맷 형태의 컨텐츠들을 확보하고자 개별 결과물을 텍스트 변환 처리, 음성 변환 처리 및 이미지 검색 처리 중에서 적어도 하나를 수행하는 단계;(c) performing at least one of a text conversion process, a voice conversion process, and an image search process on the individual results in order to secure contents of another format type corresponding to the format of the retrieved individual results;
    (d)검색된 개별 결과물과 변환 처리를 통하여 확보된 텍스트, 음성 및 이미지 컨텐츠의 출력을 동기화하여 통합된 단일의 멀티미디어 컨텐츠로 생성하는 단계;(d) synchronizing the output of the text, voice, and image contents obtained through the conversion process with the individual results retrieved to produce a single integrated multimedia content;
    (d)적어도 하나의 상기 멀티미디어 컨텐츠를 화면 UI(User Interface)의 영역상에 분할 배치하여 검색 결과물을 생성하는 단계; 및(d) dividing at least one multimedia content on an area of a screen user interface (UI) to generate a search result; And
    (e)사용자 단말의 검색 요청에 대한 응답으로 검색 결과물을 제공하는 단계(e) providing search results in response to a search request from the user terminal;
    를 포함하는 것을 특징으로 하는 검색 방법.Search method comprising a.
  10. 제 9항에 있어서,The method of claim 9,
    상기 단계(a)는,Step (a) is,
    사용자 단말로부터 단말 정보와 화면 표시 정보를 포함하는 사용자 프로파일의 정보를 수신하는 단계를 더 포함하는 것을 특징으로 하는 검색 방법.And receiving information of a user profile including terminal information and screen display information from the user terminal.
  11. 제 9항에 있어서,The method of claim 9,
    상기 단계(b)는,Step (b) is,
    포맷별 검색어에 대하여 메타 데이터를 분석하고, 텍스트 검색어의 형태소 분석과 구문 분석 및 검색어의 이미지 특징을 추출하는 한 후, 분석된 데이터를 시맨틱(Semantic) 검색 엔진으로 검색하는 단계인 것을 특징으로 하는 검색 방법.A step of analyzing the meta data for the search word for each format, morphological analysis, parsing of the text search word, and extracting image features of the search word, and then searching the analyzed data with a semantic search engine. Way.
  12. 제 9항에 있어서,The method of claim 9,
    상기 단계(c)는,Step (c) is,
    검색된 텍스트 결과물에 대하여, 음성 변환 처리(tts : text to speech)로 음성 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하는 처리;A process of generating speech information with respect to the retrieved text result by text to speech (tts), and securing image information with an image search process;
    검색된 음성 결과물에 대하여, 텍스트 변환 처리(stt : speech to text)로 텍스트 정보를 생성하고, 이미지 검색 처리로 이미지 정보를 확보하는 처리; 및A process of generating text information on the retrieved speech result by text conversion processing (stt: speech to text), and securing image information by image search processing; And
    검색된 이미지 결과물에 대하여, 텍스트 검색 처리로 텍스트 정보를 생성하고, 선택적으로 음성 변환 처리하여 음성 정보를 생성하는 처리A process of generating text information by text search processing on the retrieved image result, and selectively generating voice information by performing voice conversion processing.
    를 수행하는 단계인 것을 특징으로 하는 검색 방법.The search method characterized in that the step of performing.
  13. 제 9항에 있어서,The method of claim 9,
    상기 단계(d)는,Step (d) is,
    사용자 프로파일 정보로부터 사용자 단말 정보 및 화면 표시 정보를 추출하고, 추출된 정보, 배치될 멀티미디어 컨텐츠의 개수에 따라 화면 UI를 동적 구성하는 단계인 것을 특징으로 하는 검색 방법.And extracting the user terminal information and the screen display information from the user profile information and dynamically configuring the screen UI according to the extracted information and the number of multimedia contents to be arranged.
  14. 제 9항 또는 제 13항에 있어서,The method according to claim 9 or 13,
    상기 단계(d)는,Step (d) is,
    멀티미디어 컨텐츠의 이미지 크기를 고려하여 동적으로 프레임 또는 레이아웃이 구성된 화면 UI를 생성하는 단계인 것을 특징으로 하는 검색 방법.And generating a screen UI having a frame or a layout dynamically considering the image size of the multimedia content.
  15. 제 9항에 있어서,The method of claim 9,
    상기 사용자 단말은,The user terminal,
    검색 결과물을 수신하여 화면에 표시하는 단계;Receiving and displaying a search result on a screen;
    디폴트 설정 또는 사용자 요청에 의하여 특정 멀티미디어 컨텐츠를 재생하는 단계;Playing specific multimedia content by default setting or user request;
    현재 재생되는 컨텐츠를 제외한 타 컨텐츠를 비활성화시키는 단계;Deactivating other contents except contents currently being played;
    마우스가 비활성화된 컨텐츠에 위치하면 활성화시키는 단계; 및Activating when the mouse is located on the deactivated content; And
    활성화된 컨텐츠의 클릭시 클릭된 컨텐츠를 재생하는 단계Playing the clicked content on clicking of the activated content
    를 포함하는 것을 특징으로 하는 검색 방법.Search method comprising a.
  16. 제 9항에 있어서,The method of claim 9,
    상기 검색 서버는,The search server,
    관리자의 명령에 따라서 XML(Extended Markup Language) 태그를 이용하여 컨텐츠에 대한 음성 볼륨, 컨텐츠의 순위 조정 및 화면 UI 구성을 변경하는 마크업 랭귀지 단계를 포함하는 것을 특징으로 하는 검색 방법.And a markup language step of changing the voice volume of the content, the ranking of the content, and the screen UI configuration by using an extended markup language (XML) tag according to an administrator's command.
  17. 제 9항에 있어서,The method of claim 9,
    상기 검색 서버는,The search server,
    적어도 하나의 독립된 분산 서버로 구축될 수 있는 것을 특징으로 하는 검색 방법.At least one independent distributed server.
PCT/KR2011/003315 2011-03-21 2011-05-03 Search system and search method for providing integrated multimedia contents WO2012128419A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020110024862A KR101245665B1 (en) 2011-03-21 2011-03-21 Search system for providing integrated multimedia contents and method thereof
KR10-2011-0024862 2011-03-21

Publications (1)

Publication Number Publication Date
WO2012128419A1 true WO2012128419A1 (en) 2012-09-27

Family

ID=46879541

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2011/003315 WO2012128419A1 (en) 2011-03-21 2011-05-03 Search system and search method for providing integrated multimedia contents

Country Status (2)

Country Link
KR (1) KR101245665B1 (en)
WO (1) WO2012128419A1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104281252A (en) * 2013-07-12 2015-01-14 联想(北京)有限公司 Information processing method and electronic equipment
CN103729445B (en) * 2013-12-30 2017-04-05 北京百度网讯科技有限公司 The acquisition methods and device of vocabulary translation
WO2022068496A1 (en) * 2020-09-29 2022-04-07 北京字跳网络技术有限公司 Target content search method and apparatus, electronic device and storage medium

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101457101B1 (en) * 2013-01-07 2014-11-04 (주)카카오 Method and server for providing poll contents, and method and device for displaying the poll contents
KR101506897B1 (en) * 2013-10-07 2015-03-30 홍익대학교 산학협력단 Information searching device based on image taken by user and method thereof
CN106126616B (en) * 2016-06-21 2020-01-10 东软集团股份有限公司 Method and device for gathering network materials
KR101964116B1 (en) * 2017-06-12 2019-04-01 (주)오렌지디지트코리아 System for posting of social media contents, and operating method thereof
KR102005829B1 (en) * 2018-12-11 2019-07-31 이수민 Digital live book production system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0146555B1 (en) * 1995-05-12 1998-09-15 양승택 Multi-media dictionary system
KR20060074185A (en) * 2004-12-27 2006-07-03 브이케이 주식회사 Method for searching a subjective word related all information display by providing multi-media interface in portable terminal
KR20070120314A (en) * 2006-06-19 2007-12-24 삼성전자주식회사 Method for generating a automatic multimedia story and apparatus thereof
KR20080070977A (en) * 2007-01-29 2008-08-01 삼성전자주식회사 Method for searching multimedia text automatically and apparatus thereof

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100117837A (en) * 2009-04-27 2010-11-04 주식회사 시맨틱스 System for and method of displaying virtual images of results in search system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0146555B1 (en) * 1995-05-12 1998-09-15 양승택 Multi-media dictionary system
KR20060074185A (en) * 2004-12-27 2006-07-03 브이케이 주식회사 Method for searching a subjective word related all information display by providing multi-media interface in portable terminal
KR20070120314A (en) * 2006-06-19 2007-12-24 삼성전자주식회사 Method for generating a automatic multimedia story and apparatus thereof
KR20080070977A (en) * 2007-01-29 2008-08-01 삼성전자주식회사 Method for searching multimedia text automatically and apparatus thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104281252A (en) * 2013-07-12 2015-01-14 联想(北京)有限公司 Information processing method and electronic equipment
CN104281252B (en) * 2013-07-12 2017-12-26 联想(北京)有限公司 A kind of information processing method and electronic equipment
CN103729445B (en) * 2013-12-30 2017-04-05 北京百度网讯科技有限公司 The acquisition methods and device of vocabulary translation
WO2022068496A1 (en) * 2020-09-29 2022-04-07 北京字跳网络技术有限公司 Target content search method and apparatus, electronic device and storage medium

Also Published As

Publication number Publication date
KR20120107273A (en) 2012-10-02
KR101245665B1 (en) 2013-03-20

Similar Documents

Publication Publication Date Title
WO2012128419A1 (en) Search system and search method for providing integrated multimedia contents
WO2011053010A2 (en) Apparatus and method for synchronizing e-book content with video content and system thereof
US20130158994A1 (en) Retrieval and presentation of network service results for mobile device using a multimodal browser
WO2014119975A1 (en) Method and system for sharing part of web page
WO2012161359A1 (en) Method and device for user interface
JP2023539820A (en) Interactive information processing methods, devices, equipment, and media
WO2013055161A1 (en) System and method for providing information regarding content
WO2012122946A1 (en) Network searching method of mobile terminal and mobile terminal
WO2012093839A2 (en) Method and apparatus for collecting content
US20140324858A1 (en) Information processing apparatus, keyword registration method, and program
US7996412B2 (en) Schedule information management method and system using digital living network alliance network
WO2016035970A1 (en) Advertisement system using search advertisement
JP2008226202A (en) Information processor, information processing method and program
WO2014142615A2 (en) Selectively activating a/v web page contents in electronic device
US11500604B2 (en) Presenting a document on a computer
KR20200024541A (en) Providing Method of video contents searching and service device thereof
WO2014046382A1 (en) System and method for providing markup language-based contextual recognition user interface
WO2023143071A2 (en) Content display method and apparatus, electronic device and storage medium
WO2015102279A1 (en) User security authentication system in internet environment and method therefor
WO2017213454A1 (en) File control system and method using user server
WO2014054906A1 (en) Display system with content presentation mechanism and method of operation thereof
KR101247133B1 (en) Media contents streaming method and system
JP2023536992A (en) SEARCH METHOD, APPARATUS, ELECTRONIC DEVICE, AND STORAGE MEDIUM FOR TARGET CONTENT
WO2009126012A2 (en) Search system and method for same
WO2015020414A1 (en) Content providing system and method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11861754

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11861754

Country of ref document: EP

Kind code of ref document: A1