WO2002033589A1 - Appareil de gestion d'informations de recherche de contenu d'image dynamique - Google Patents

Appareil de gestion d'informations de recherche de contenu d'image dynamique Download PDF

Info

Publication number
WO2002033589A1
WO2002033589A1 PCT/JP2001/009161 JP0109161W WO0233589A1 WO 2002033589 A1 WO2002033589 A1 WO 2002033589A1 JP 0109161 W JP0109161 W JP 0109161W WO 0233589 A1 WO0233589 A1 WO 0233589A1
Authority
WO
WIPO (PCT)
Prior art keywords
search information
information
search
unit
tree structure
Prior art date
Application number
PCT/JP2001/009161
Other languages
English (en)
French (fr)
Inventor
Shuichi Watanabe
Yasuaki Tokumo
Hiroyuki Okada
Original Assignee
Sharp Kabushiki Kaisha
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Kabushiki Kaisha filed Critical Sharp Kabushiki Kaisha
Priority to KR10-2003-7005481A priority Critical patent/KR100532558B1/ko
Priority to EP01976747A priority patent/EP1335302A4/en
Priority to JP2002536907A priority patent/JP4309127B2/ja
Priority to US10/399,735 priority patent/US8131773B2/en
Publication of WO2002033589A1 publication Critical patent/WO2002033589A1/ja

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/785Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using colour or luminescence

Definitions

  • the present invention relates to an apparatus and method for managing information having a tree structure for searching for moving image content (hereinafter, search information), and a search apparatus for executing search processing.
  • search information a tree structure for searching for moving image content
  • the present invention relates to a search information management device and method that enables efficient storage or transmission, and a search device that executes search processing using search information.
  • any temporal or spatial (screen) location in video content can be searched. For this reason, in order to perform a precise search, it is necessary to play back the entire video content and check the details.
  • retrieval methods are not nearly efficient, and are not realistic when the number of moving image contents to be retrieved increases.
  • search information added corresponding to the moving image content is a method for the user to quickly and efficiently search for the desired moving image content or a desired portion in the moving image content.
  • Search information is also called search metadata
  • various methods have been proposed to execute a search based on the search information to obtain a desired moving image content or a desired paste station in moving image content. It has been.
  • FIG. 10 schematically shows the structure of general moving image content. Such a structure is also disclosed in Japanese Patent Application Laid-Open No. 10-08071 / Japanese Patent Application Laid-Open No. 10-257436 and is widely known.
  • an entire moving image is temporally divided into several scenes.
  • the scene here is a timely delimitation mainly composed of semantic units.
  • small breaks such as the first and second parts of a movie
  • very small breaks such as a scene where "A and B fight".
  • the actual division of the entire moving image into scenes is not limited to one-stage division as shown in FIG. 10, but is gradually subdivided over a plurality of layers.
  • a scene is further divided into several shots (or even more detailed scenes) in time.
  • a shot is a temporal segment composed of a plurality of continuous frame images taken in one operation, and is sandwiched between two editing points (cut points) in a moving image. Refers to the separator.
  • a shot is a kind of scene, and it is possible to divide the shot into smaller shots (sub shots). Although not shown, the shot can be finally divided into individual frame images.
  • the moving image content has a hierarchical structure that is subdivided from the whole into fine parts and further fine parts. Then, search information corresponding to each layer is added.
  • FIG. 11 shows search information for the moving image content of FIG.
  • the search information of the moving image content is represented by a tree structure as shown in FIG.
  • the search information of the moving image content includes structural search information, semantic search information, and signal search information.
  • the structural search information is information for representing the hierarchical structure of the moving image content shown in FIG.
  • the structural search information includes a tree structure, that is, structured information for representing the relationship between each scene or shot in the entire moving image, and structural attribute information for representing the attribute of each divided scene or shot. Is included.
  • the root R represents the whole moving image
  • each node ND represents each scene or each shot obtained by the division.
  • the node ID attached to the root R of the tree or each node ND and the information of each layer correspond to the structured information, and the start time and end time information attached to each scene or shot are structural attribute information. Hit.
  • Semantic search information is search information defined based on the semantic features of moving image content.
  • the semantic search information includes the title of the entire moving image content, information of a creator, and information of scene description for a scene.
  • Signal search information is search information defined based on physical characteristics of moving image content on a signal. For example, signal frequency search information and motion intensity information for each shot (or its representative frame image) correspond to signal search information.
  • the semantic search information and signal search information are given as leaf RF connected to the corresponding section ND.
  • FIG. 12 shows a recording format when the search information having the tree structure shown in FIG. 11 is recorded.
  • the search information consisting of the tree structure in Fig. 11 includes the tree root R and the node ND from the shallower to the deeper of the hierarchy (in the direction from the root R to the node ND), and From left to right (from front to back in time), in depth priority order (moving to the node ND next to the right when the node ND that is further below the node ND is gone), the root Search information, which is leaf RF attached to R or section ND, is recorded in order.
  • the top layer (tree root R) is defined as one whole moving image content. However, this is not limited to one moving image content, but it can be considered as a set of multiple moving image contents. Is possible.
  • the top layer is the entire video program that is broadcast on a single channel each day. The entire video program that is broadcast on a single channel each day is divided into individual programs in the next layer, that is, into individual moving image contents.
  • Each moving image content is divided into a plurality of scenes, and each of the plurality of scenes is divided into a plurality of shots.
  • the temporal structure of the corresponding moving image content can be provided to the user in a form understood and associated with various search information.
  • the search information is very suitable for operations such as editing the corresponding moving image content while visually recognizing the user based on the search information, or editing the search information itself.
  • the size of the moving image content increases, the size of the tree representing the corresponding search information also becomes enormous.
  • An execution model is assumed in which moving image content and search information are stored in a server device, and a user accesses the server device from a client terminal, obtains search information, and executes a search at a client terminal.
  • the search information having the tree structure is divided into a plurality of appropriate pieces of search information and transmitted to the client terminal.
  • the client terminal receives the search information of the small unit, the user can also receive the search information. It is desirable that a certain degree of search can be performed.
  • search information 11 to 14 in small units is configured as shown in Fig. 13A to Fig. 13D. It is possible.
  • the search information in small units 11 to 14 includes a set of nodes ND and its leaves RF starting from each of the nodes ND at the lowest end of the tree, or nodes ND as shown in Fig. 14. It is obtained by dividing the set consisting of the upper node ND and its leaf RF as a unit.
  • the search information in small units obtained by segmentation according to the temporal separation retains the information of the temporal structure of the corresponding moving image content as it is, it is transmitted in synchronization with the moving image content and online video It is suitable for use in filtering image contents based on search information.
  • search information having a tree structure is divided into a tree structure and a table of ancillary information indicating attribute information of each node ND in the tree structure.
  • the form of storing as well is well known.
  • the tree structure and the auxiliary information table there are two units that can be divided: the tree structure and the auxiliary information table, but the auxiliary information table cannot be handled independently, and is divided according to the temporal division as described above. It is not possible.
  • the above-described small-unit search information obtained by division is referred to as “unit search information”.
  • node ID information for uniquely specifying the clause ND in the structural search information is called the “search information element” of the structural search information (or called the structural search information element).
  • Behavioral descriptive information is called “search information element” of semantic search information (or called semantic search information element), and color frequency information and motion intensity information in signal search information are each used as signal search information. We call it the "search information element” (or the signal search information element).
  • the search information of a small unit obtained by dividing the conventional search information having a tree structure is unit search information corresponding to a temporal break, that is, a structure unit of a moving image content such as a scene / shot.
  • unit search information search information elements for structural search information, semantic search information, and signal search information are intricate. For example, there is a request to know only the structural search information of a moving image (to know how a moving image is divided into scenes and shots).
  • there is a demand that only the color frequency information of each shot is required to perform a search based on the color frequency information of each shot, or that only the motion intensity information is required to perform a search based on the motion intensity information of each shot.
  • search information elements for each of structural search information, semantic search information, and signal search information are complicated, and unit search information is obtained. We had to deal with these requests.
  • the same kind of search information element (color frequency) added to each shot or each scene for multiple shots or multiple scenes that are components of a moving image It is more efficient to collectively collect information such as information and motion intensity information, and compare and collate them to perform a search.
  • a shot search is performed by detecting a color frequency information added to each shot as desired.
  • Japanese Patent Application Laid-Open No. Hei 8-111209 suggests one part of treating only the tree structure separately from search information, but treating other auxiliary information independently. There is no suggestion to perform division and management based on the detailed types of search information as described above.
  • search information element of each of the structural search information and the signal search information is generally provided in a fixed format.
  • search information elements of semantic search information often include free-text data of indefinite length, such as behavioral description data.
  • search information including a plurality of search information elements
  • the structural search information and the signal search information may be extracted.
  • the search information is obtained by collecting only signal search information elements, the search information can be easily removed by skipping data of a fixed length.
  • search information that includes complex search information including structural search information, semantic search information, and signal search information in a format that conforms to the temporal structure
  • structural search information and grasp the structure of the video.
  • the conventional search information division method was not suitable for the latter search mode.
  • the search information obtained by dividing the conventional search information having a tree structure retains the information of the temporal structure of the corresponding moving image content as it is, the search information can be processed in parallel with the moving image content. It is suitable for search forms such as transmission of information and filtering by online search. However, when a large amount of moving image content is searched by offline search, a desired shot is searched using only specific search information such as color frequency information added to the entire moving image content, for example. Even in this case, all the search information had to be read and analyzed to extract only the necessary specific search information, resulting in a lot of unnecessary processing.
  • the server device extracts only the color frequency information added to each of a plurality of shots from the color frequency information of the signal search information element and transmits the extracted color frequency information to the client terminal.
  • the user Upon receiving the information, the user detects a desired shot based on the received color frequency information, and requests only the data of the corresponding shot from the server device.
  • the division form of the search information should be switched according to the form of the search, but this has not been considered in the past.
  • a search information management device includes a separation unit, a structure information extraction unit, and a unit search for dividing search information having a tree structure corresponding to moving image content into small units of search information and managing the search information.
  • An information forming unit is provided.
  • the separation unit converts the search information into structural search information representing the structure of the moving image content, semantic search information representing a feature in the semantic content of the moving image content, and physical characteristics on the signal of the moving image content.
  • the signal information is separated and output.
  • the structural information extraction unit decomposes the structural search information output from the separation unit, and uses information corresponding to at least one of semantic search information and signal search information from the decomposed structural search information as structural information. Extract.
  • the unit search information formation unit adds the corresponding structure information extracted by the structure information extraction unit to at least one of the semantic search information and the signal search information output from the separation unit, and searches the small unit of search information.
  • a small unit of search information in which at least one of the semantic search information and signal search information separated from the search information and the corresponding structure information extracted by the structure information extraction unit is added to the moving image Since it can be used as content search information, the amount of search information can be reduced. Therefore, when forming the small unit search information required by the searcher at the time of searching for the moving image content and transmitting it to the request source, the amount of search information to be transmitted can be reduced.
  • a search information management device includes a separation unit, a structure information extraction unit, and a management unit that divides search information having a tree structure corresponding to moving image content into pieces of search information and manages the search information.
  • a unit search information forming unit is provided.
  • the separating unit is the same kind of element included in the search information, and is composed of one or more leaves in a tree structure or a node in the tree structure and an arbitrary set of leaves or nodes connected below the node.
  • One or more search information elements given by a plurality of subtrees are separated and extracted from the search information.
  • the structure information extraction unit extracts, from the search information, structure information corresponding to one or a plurality of search information elements extracted by the separation unit.
  • Unit The search information formation unit forms search information in small units by arranging one or more search information elements extracted by the separation unit and the corresponding structural information extracted by the structure information extraction unit according to a predetermined format. .
  • the small unit search information is formed by arranging one or more search information elements extracted from the original search information and the corresponding structural information according to a predetermined format, so that the search information included in the small unit search information is included. Elements can be easily specified, and the use of the small unit search information when executing a moving image content search can be facilitated.
  • one or more search information elements extracted by the separation unit may correspond to signal search information representing a physical feature on a signal of moving image content.
  • signal search information representing physical characteristics of a moving image content signal can be used as small unit search information. For example, when a search is performed using only color frequency information, the corresponding color is used. Only frequency information can be transmitted or used for search, and efficient search using only signal search information can be realized.
  • the one or more search information elements extracted by the separation unit may correspond to semantic search information representing a feature in the semantic content of the moving image content.
  • the semantic search information indicating the feature in the semantic content of the moving image content can be used as the small unit search information, for example, when the search is performed using only the characters of each scene, the corresponding characters are used. Only information can be transmitted or used for search, and efficient search using only semantic search information can be realized.
  • the predetermined format is that one or a plurality of search information elements extracted by the separation unit and the corresponding structural information extracted by the structure information extraction unit are stored in the tree structure.
  • one or more search information elements of the small unit search information and the corresponding structure information are arranged according to the order of appearance in the tree structure of each search information element, so that it is necessary to indicate the context of the search information element.
  • the information can be omitted, and the signal amount of the small unit search information can be reduced.
  • the small unit search information is further formed as follows. You may.
  • the structure information extraction unit extracts the structure information from the common structure information including the information indicating the type common to one or more search information elements extracted by the separation unit or the position information in the common tree structure. Separate from non-common structure information other than structure information.
  • the small unit search information is formed by arranging the corresponding common structure information and the corresponding non-common structure information in addition to the array of one or more search information elements extracted by the separation unit. It may be done.
  • type information such as whether the search information element is color frequency information or character information, or at what hierarchy in the tree structure the search information element is connected
  • the information including the indicated position information is added to an array of one or more search information elements and arranged. Therefore, for the search information element included in the small unit search information, the type or the corresponding hierarchy of the tree structure can be easily known.
  • a search information management device includes a recording position information extraction unit, which forms and manages search information in small units from search information having a tree structure corresponding to video content.
  • a structure information extracting unit and a unit search information forming unit are provided.
  • the recording position information extraction unit is an element of the same kind included in the search information, which is obtained from one or a plurality of leaves in the tree structure or a node in the tree structure and an arbitrary set of leaves or nodes connected below the node. For each of one or a plurality of search information elements given by one or a plurality of subtrees, record position information indicating a position where the search information element is recorded is extracted.
  • the structure information extracting unit extracts structure information corresponding to one or more search information elements from the search information.
  • the unit search information formation unit arranges the recording position information extracted by the recording position information extraction unit and the structure information extracted by the structure information extraction unit corresponding to each of one or a plurality of search information elements according to a predetermined format. To form search information in small units.
  • one or more search information elements indicated by the small unit search information can be specified by the self-recording position information arranged in the small unit search information. Can be easily used.
  • the request source can be transmitted without transmitting the search information element itself.
  • the desired search information element can be specified by the recording position information of the received small unit search information, and efficient search can be performed by transmitting only the desired search information element to the request source each time. It is.
  • one or more search information elements may correspond to signal search information representing a physical feature on a signal of a moving image content.
  • signal search information representing a physical feature of a moving image content on a signal as a search information element corresponding to the recording position information. Therefore, for example, when a search is performed using only the color frequency information, it is necessary to use the small unit search information including the position information of the color frequency information to transmit or use only the corresponding color frequency information for the search. It is possible to realize an efficient search using only signal search information.
  • one or more search information elements may correspond to semantic search information representing a feature in the semantic content of the moving image content. Therefore, semantic search information representing a feature in the semantic content of moving image content can be used as a search information element corresponding to the recording position information. Therefore, for example, when a search is performed using only the characters of each scene, only the corresponding character information is used for transmission or search using the small unit search information including the position information of the character information. And efficient search using only semantic search information can be realized.
  • the predetermined format may indicate that the recording position information is arranged in accordance with the appearance order of the corresponding one or a plurality of search information elements in the tree structure.
  • the small unit search information information for indicating the context of each of the corresponding one or more search information elements can be omitted, and the information amount of the small unit search information can be further reduced.
  • the structure information extraction unit further separates the structure information into common structure information and non-common structure information other than the common structure information.
  • the common structure information includes information indicating a type common to one or a plurality of search information elements or position information in a common tree structure.
  • the small unit search information is formed by arranging the corresponding common structure information and the corresponding non-common structure information in addition to an array of recording position information corresponding to one or more search information elements. Is also good.
  • type information such as whether the search information element is color frequency information or character information, or at what hierarchy in the tree structure the search information element is connected
  • the information including the indicated position information is added to the array of the recorded position information and arranged. Therefore, for the search information element indicated by the recording position information included in the small unit search information, the type or the corresponding hierarchy of the tree structure can be easily known.
  • a search information management device includes a first search and a second search for dividing search information having a tree structure corresponding to moving image content into pieces of search information and managing them.
  • An information division unit and a division selection unit are provided.
  • the first search information dividing unit divides the search information into structural search information representing a structure of the moving image content, semantic search information representing a feature in the semantic content of the moving image content, and It is divided into signal search information that represents physical characteristics, and information corresponding to semantic search information and signal search information is extracted as structural information from the structural search information obtained by the division, and extracted.
  • the obtained structural information is added to each of the semantic search information and the signal search information obtained by the division to form search information in small units.
  • the second search information dividing unit divides the search information according to a temporal delimiter based on a tree structure, and forms search information in small units from each of the divided search information.
  • the division selection unit selects which of the first search information division unit and the second search information division unit divides the search information according to a desired search mode.
  • the small-unit search information in one format or another format may be used according to a desired search mode.
  • One format focuses on the type of search information. Specifically, the search information is divided into structural search information, semantic search information, and signal search information, and the divided structural search information is converted into semantic search information and signal search information, respectively.
  • Corresponding structural information In this format information is extracted and the extracted structural information is added to each of the semantic search information and the signal search information.
  • the other format is a format that divides the search information at temporal boundaries and consists of each of the divided search information. Since it is possible to select whether to form the small unit search information in one format or another format, the optimal small unit search information can be selected depending on the form of search such as online search or offline search. Because you can choose, you can achieve efficient search.
  • a search information management device includes: a first and second forming unit for dividing search information having a tree structure corresponding to moving image content into pieces of search information and managing the divided search information; And a selection unit.
  • the first forming part is the same kind of element included in the search information, and is one or more leaves in the tree structure or a node in the tree structure and an arbitrary set of leaves or nodes connected to the node or less.
  • One or more search information elements given by one or more subtrees are separated and extracted from the search information, and structural information corresponding to the extracted one or more search information elements is extracted from the search information.
  • one or a plurality of extracted search information elements and the extracted corresponding structure information are arranged in a predetermined format to form search information in small units.
  • the second forming unit divides the search information according to a temporal delimiter based on a tree structure, and forms search information in small units from each of the divided search information.
  • the selection unit selects which of the first forming unit and the second forming unit forms the small unit of search information according to a desired search mode.
  • the search information is formed in one format or another format according to a desired search mode.
  • One format is a format that focuses on the type of search information. More specifically, it is the same type of element included in the search information, and includes one or more leaves in the tree structure or nodes in the tree structure and the nodes in the tree structure. Extract one or more search information elements given by one or more subtrees consisting of ⁇ or an arbitrary set of clauses connected below the clause, corresponding to the extracted one or more search information elements It indicates that structural information is extracted and one or more search information elements and corresponding structural information are arranged in a predetermined format.
  • Another form is to search information according to a temporal break based on a tree structure. Indicates that the search information is divided and formed from each of the divided search information. Since it is possible to select whether to form the small unit search information in one format or another format, it is necessary to select the optimal small unit search information according to the search form such as online search, offline search, etc. And efficient search can be performed.
  • a search information management method includes a separation step, a structure information extraction step, and a method for managing search information having a tree structure corresponding to moving image content by dividing the search information into small units of search information.
  • the search information includes structural search information representing a structure of the moving image content, semantic search information representing a feature in the semantic content of the moving image content, and a signal of the moving image content. It is output separately from the above signal search information representing physical characteristics.
  • the structural search information output from the separation step is decomposed, and information corresponding to at least one of semantic search information and signal search information is obtained from the decomposed structural search information. It is extracted as information.
  • the corresponding structure information extracted in the structure information extraction step is added to at least one of the semantic search information and the signal search information output from the separation step, and the search information in small units is added. Is formed.
  • At least one of the semantic search information and the signal search information separated from the search information is provided with a small unit of search information obtained by adding the corresponding structure information extracted by the structure information extraction unit. Since the information can be used as search information for moving image content, the amount of search information can be reduced. Therefore, when forming the small unit search information required by the searcher at the time of searching for the moving image content and transmitting it to the request source, the amount of search information to be transmitted can be reduced.
  • a search information management method comprising:
  • a separation step, a structure information extraction step, and a unit search information formation step are provided to divide and manage search information having a corresponding tree structure into small unit search information.
  • the same type of search information included in the search information is included.
  • An element, given by one or more subtrees consisting of one or more leaves in the tree or nodes in the tree and any set of leaves or nodes connected below the nodes One or more searches
  • the information elements are separated and extracted from the search information.
  • the structure information corresponding to one or more search information elements extracted in the structure information extraction separation step is extracted from the search information.
  • the unit search information formation step one or more search information elements extracted in the separation step and the corresponding structure information extracted in the structure information extraction step are arranged according to a predetermined format, so that search information in small units is obtained. Is formed.
  • the small unit search information is formed by arranging one or more search information elements extracted from the original search information and corresponding structural information in accordance with a predetermined format, and thus is included in the small unit search information. It is easy to identify search information elements, and it is easy to use small unit search information when performing a moving image search c
  • a search information management method includes a recording position information extraction step for forming and managing search information in small units from search information having a tree structure corresponding to a moving image con; It has a structure information extraction step and a unit search information formation step.
  • the recording position information extracting step one or more leaves in a tree structure or a node in the tree structure and any set of leaves or nodes connected to or below the node are the same kind of elements included in the search information.
  • structure information corresponding to one or more search information elements is extracted from the search information.
  • the recording position information extracted in the recording position information extraction step corresponding to each of one or a plurality of search information elements and the structure information extracted in the structure information extraction step follow a predetermined format. ! /, Search information is formed in small units by being arranged.
  • one or more search information elements indicated by the small unit search information can be specified by the recording position information allocated to the small unit search information, the use of the search information element at the time of executing the search of the moving image content is performed. Can be facilitated.
  • the request source can be transmitted without transmitting the search information element itself.
  • the desired search information element can be specified by the recording position information of the received small unit search information, and efficient search can be performed by transmitting only the desired search information element to the request source each time. It is.
  • a search information management method includes a first and a second search method for managing search information having a tree structure corresponding to moving image content by dividing the search information into small units of search information. It comprises an information division step and a division selection step.
  • the search information includes structural search information representing the structure of the moving image content, semantic search information representing a feature in the semantic content of the moving image content, and a signal on the signal of the moving image content. It is divided into signal search information representing physical characteristics, and information corresponding to semantic search information and signal search information is extracted as structural information from the structural search information obtained by the division. Then, the extracted structural information is added to each of the semantic search information and the signal search information obtained by the division to form search information in small units.
  • the search information is divided according to a temporal division based on a tree structure, and search information in small units is formed from each of the divided search information.
  • the division selecting step whether to divide the search information in the first search information division step or the second search information division step is selected according to a desired search mode.
  • the small-unit search information in one format or another format may be used according to a desired search mode.
  • One format focuses on the type of search information. Specifically, the search information is divided into structural search information, semantic search information, and signal search information, and the divided structural search information is converted into semantic search information and signal search information, respectively.
  • the corresponding structural information is extracted, and the extracted structural information is added to each of the semantic search information and the signal search information.
  • the other format is a format that divides the search information at temporal boundaries and consists of each of the divided search information. It is possible to select whether to create small unit search information in one format or another format, so online search, off Since the optimal small unit search information can be selected depending on the type of search such as line search, efficient search can be realized.
  • a search information management method includes a first and a second forming step for managing search information having a tree structure corresponding to moving image content by dividing the search information into small units of search information. And a selecting step.
  • the first formation step one or more search information elements provided by one or more subtrees are separated and extracted from the search information, and structural information corresponding to the extracted one or more search information elements Is extracted from the search information, and one or a plurality of extracted search information elements and the extracted corresponding structure information are arranged in a predetermined format to form search information in small units.
  • the subtree is an element of the same kind included in the search information, and is composed of an arbitrary set of leaves in the tree structure or nodes in the tree structure and leaves or nodes connected below the node.
  • the search information is divided according to a temporal delimiter based on a tree structure, and search information in small units is formed from each of the divided search information.
  • the selection step it is selected which of the first forming step and the second forming step forms the small unit of search information according to a desired search mode. Therefore, when the search information having a tree structure corresponding to the moving image content is managed by being divided into small unit search information, the search information is formed in one format or another format according to a desired search mode.
  • One format focuses on the type of search information.Specifically, one or a plurality of search information elements given by one or more subtrees as described above are extracted and extracted. This indicates that structural information corresponding to one or more search information elements is extracted, and one or more search information elements and corresponding structure information are arranged in a predetermined format.
  • the other format indicates that the search information is divided according to the temporal delimiter based on the tree structure, and is formed from each of the divided search information. Since it is possible to select whether to form the small unit search information in one format or another format, it is possible to select the optimal small unit search information depending on the search form such as online search, offline search, etc. You can perform a good search.
  • a search device is based on search information in small units obtained by dividing search information having a tree structure corresponding to moving image content.
  • a storage unit for holding search information in small units and a search execution unit for searching for moving image content using the search information in small units are provided.
  • the search information in small units is formed from semantic search information representing features in the semantic content of video content and signal search information representing physical features on signals of video content. It is at least one of the search information in small units and includes structural information obtained from the structural search information representing the structure of the moving image content.
  • the small-unit search information includes at least one of semantic search information indicating a feature in the semantic content of the moving image content and signal search information indicating a physical feature on a signal of the moving image content; It is formed including structural information. Therefore, efficient search can be performed by using the small unit search information corresponding to the desired information of the semantic search information or the signal search information at the time of moving image content search.
  • a search device that performs a search based on small-unit search information obtained by dividing search information having a tree structure corresponding to moving image content.
  • the storage unit includes a holding unit that holds the information and a search execution unit that executes a search for the moving image content using the small unit of search information.
  • the search information of the small unit is the same kind of element included in the search information separated and extracted from the search information, and includes one or more leaves in the tree structure or a node in the tree structure and a node below the node.
  • Structural information corresponding to one or more search information elements and one or more search information elements extracted from search information, given by one or more subtrees consisting of an arbitrary set of connected leaves or nodes Are arranged in a predetermined format.
  • the search information consists of one or more leaves in the tree structure or a node in the tree structure and an arbitrary set of leaves or nodes connected below the node: L Or one or more search information elements given by a plurality of subtrees, and extract structural information corresponding to the extracted one or more search information elements, and extract one or more search information elements and Since the search is performed using the small unit search information formed by arranging the corresponding structural information in a predetermined format, it is easy to specify the search information elements included in the small unit search information and perform the search efficiently be able to.
  • a search device configured to perform a search in small units in order to execute a search based on search information in small units formed from search information having a tree structure corresponding to moving image content.
  • the first holding unit for holding information
  • the second holding unit for holding one or more search information elements obtained using the small unit of search information
  • the small unit of search information and one or more search information elements are provided for executing a search for moving image content.
  • the search information in the small unit is the same kind of element included in the search information, and is one or more leaves in the tree structure or a node in the tree structure and any of the leaves or nodes connected below the node.
  • a search information management device includes a position calculation unit and a restoration unit.
  • the position calculation unit performs a small-scale search in order to restore a part of the tree-structured search information from the small-unit search information obtained by dividing the tree-structured search information corresponding to the moving image content.
  • the position in the tree structure corresponding to the semantic search information or the signal search information included in the small unit search information is obtained from the structure information included in the unit search information.
  • the restoring unit restores a part of the search information having the tree structure from the semantic search information or the signal search information included in the small unit search information and the obtained position in the tree structure.
  • This small unit of search information represents the feature in the semantic content of the moving image content. It is at least one of small-unit search information formed from the semantic search information and the signal-based search information representing the physical characteristics of the video content signal. Includes structural information obtained from the represented structural search information. Therefore, the small-unit search information includes at least one of semantic search information indicating a feature in the semantic content of the moving image content and signal search information indicating a physical feature on a signal of the moving image content; It is formed including structural information. Therefore, by using a small unit of search information corresponding to the desired semantic search information or signal search information and restoring a part of the search information having a tree structure, only a small amount of search information is converted to a tree. Can be managed in the form of a structure.
  • a search information management device includes a position calculation unit and a restoration unit.
  • a small unit is used to restore a part of the search information having the tree structure from the search information of the small unit obtained by dividing the search information having the tree structure corresponding to the moving image content.
  • the position in the tree structure corresponding to one or a plurality of search information elements included in the search information of the small unit is obtained from the structure information included in the search information.
  • the restoring unit restores a part of the search information having the tree structure from one or more search information elements included in the search information of the small unit and the obtained position in the tree structure.
  • the search information in the small unit includes, in a predetermined format, one or more search information elements provided by one or more subtrees and structural information corresponding to the one or more search information elements extracted from the search information. It is formed by arranging.
  • the subtree is the same kind of element included in the search information extracted and separated from the search information, and is a leaf in a tree structure or a node in the tree structure and a leaf or It consists of an arbitrary set of clauses.
  • the small unit search information is the same kind of element included in the search information, and specifies one or a plurality of search information elements given by one or more subtrees as described above and the corresponding structural information. It is formed by arranging in a format.
  • a search information management device includes a position calculation unit, a search information element acquisition unit, and a restoration unit.
  • the position calculation unit uses a small-unit search unit to restore a part of the tree-structured search information based on the small-unit search information formed from the tree-structured search information corresponding to the moving image content. From the structure information included in the search information, the position in the tree structure corresponding to one or more search information elements indicated by the recording position information included in the small-unit search information is obtained.
  • the search information element acquisition unit acquires one or more corresponding search information elements based on the recording position information included in the small unit of search information.
  • the restoration unit restores a part of the search information having a tree structure from the obtained one or more search information elements and the obtained position in the tree structure.
  • the search information in small units is given by one or a plurality of subtrees. For each of one or more search information elements, recording position information indicating a position where the search information element is recorded is extracted from the search information. It is formed by arranging the corresponding structural information in a predetermined format.
  • the subtree is the same kind of element included in the search information, and is made up of a leaf in the tree structure or a node in the tree structure and an arbitrary set of leaves or nodes connected below the node.
  • the small unit search information is obtained by converting the recording location information of each of one or more search information elements and the corresponding structural information given by one or more subtrees included in the search information into a predetermined format. Since it is formed by arranging, a small amount of search can be performed by restoring a part of the search information having a tree structure using search information in small units consisting of recording position information corresponding to the desired search information element. Only information can be managed in the form of a tree structure.
  • FIG. 1 is a schematic configuration diagram of a search information management device according to the first and second embodiments of the present invention.
  • FIG. 2 is a diagram showing search information having a tree structure used in the first embodiment of the present invention.
  • FIG. 3 is a diagram illustrating an internal configuration of the semantic unit search information forming unit and the signal unit search information forming unit in the search information management device according to the first embodiment of the present invention.
  • 4A to 4C are diagrams showing unit search information of the meaningful search information obtained by division in the first embodiment of the present invention.
  • FIGS. 5A to 5C are diagrams showing unit search information of signal search information obtained by division in the first embodiment of the present invention.
  • FIG. 6 is a flowchart showing a search information management method according to the first embodiment of the present invention.
  • FIG. 7 is a schematic configuration diagram of a search device according to the first and second embodiments of the present invention.
  • FIGS. 8A to 8D are diagrams showing the unit search information of the semantic search information and the signal search information formed in the second embodiment of the present invention.
  • FIG. 9 is a schematic configuration diagram of a search information management device according to the third embodiment of the present invention.
  • FIG. 10 is a diagram illustrating a general structure of moving image content.
  • FIG. 11 is a diagram showing search information added to the moving image content of FIG. 10 in a tree structure.
  • FIG. 12 is a diagram illustrating a recording method of the search information of the moving image content in FIG. 10.
  • FIG. 13A to FIG. 13D are diagrams showing division of search information having a conventional tree structure.
  • FIG. 14 is a diagram illustrating a conventional method of managing search information having a tree structure.
  • FIG. 1 shows a functional configuration of a search information management device 1 according to the present embodiment.
  • a search information management device 1 includes a search information analysis unit 101, a structural search information decomposition unit 102, a semantic unit search information formation unit 103, and a signal unit search information formation unit 104. And a unit search information control unit 105.
  • the search information analysis unit 101 Enter search information 15 having a tree structure corresponding to, and input the search information 15 into one or more search information elements 1 5 2 of structural search information, one or more search information elements of semantic search information It is separated into 1 5 3 and one or more search information elements 1 5 4 of signal search information.
  • the structural search information decomposition unit 102 receives one or more structural search information elements 152 output from the search information analysis unit 101, and the necessary minimum from the received search information elements 152.
  • the structural information 50 is extracted and output to the semantic unit search information forming unit 103 and the signal unit search information forming unit 104. More specifically, the structural search information decomposing unit 102 inputs and decomposes one or more given structural search information elements, and performs semantics based on the contents of the decomposed one or more structural search information elements.
  • the information corresponding to at least one of the basic search information and the signal search information is extracted as the minimum structural information 50.
  • FIG. 2 shows search information having a tree structure used in the present embodiment.
  • the structural search information element 15 2 consists only of node ID information and time information of each scene and shot
  • the semantic search information element 15 3 consists only of scene depiction information of each scene, character information and behavior depiction information of each shot
  • the signal search information element 15 4 represents representative color information of each scene, color frequency information of each shot, and It is assumed that only the motion intensity information is used.
  • the actual search information 15 has various other search information elements, the present invention can be similarly applied to each of the various search information elements.
  • the structural search information decomposition unit 102 selects one of the structured information (such as node ID) 5 OA and the structural attribute information (such as time information) 50 B as the minimum necessary structural information 50. Select, or both and extract. Which information is selected as the structural information 50 depends on the form of search performed using each unit search information obtained thereafter.
  • the search can be executed with emphasis on the hierarchical structure of the moving image content, the relationship between each scene and the shots in the entire moving image, and the like.
  • a search can be executed such as immediately extracting and displaying a portion in the moving image content corresponding to the search result.
  • the structured information 50 A will be described in more detail.
  • the structured information 50 A is information for shaping the tree structure of the search information, and is information that makes it possible to restore the original tree structure.
  • the node ID information which is the structured information 50 A shown in the present embodiment is based on the connection relationship between the nodes ND (“# 1-11” and “# 1-2” are connected to “# 1”). ND), and this information can be used to restore the original tree structure. Therefore, in a search that requires restoring the original tree structure, the structured information 5OA is selected as the structural information.
  • the leaf R F corresponding to each search information element may be given a force S to which no ID information is added, and the leaf R F may be provided with ID information.
  • Structured information 5 As OA, besides this, harm the cord to each “branch” (root R, knot ND, rod that connects leaf RF) in the tree structure.
  • a branch code leading to a certain node ND or leaf RF can also give positional information on that node ND or leaf RF.
  • the structural information 50 extracted from the structural search information element 152 redundant information may be deleted and the information may be compressed as necessary in order to minimize the necessary information.
  • node ID information that is structured information 50 A is used as the structural information 50
  • “# 1-2” that follows “# 1-1” is the node ID of the upper node ND Since “# 1” is common, it is possible to omit “# 1 J and give the information“ 2 ”as the structural information 50.
  • difference information corresponding to “1 increase” may be generated and given as the structural information 50 .
  • the method of extracting the minimum necessary structure information 50 is not limited to these.
  • the semantic unit search information forming unit 103 includes the semantic search information element 1503 given from the search information analysis unit 101 and the minimum necessary value given from the structural search information decomposition unit 102. Is input, and the input information is arranged to form the unit search information 15 53 A of the semantic search information.
  • FIG. 3 shows an internal configuration of the semantic unit search information forming unit 103 of FIG.
  • the semantic unit search information forming unit 103 has an element type determining unit 201, a search information arranging unit 202, and a common information extracting unit 203.
  • the same type of search information element 15 connected to the same node ND (or root R) in the tree structure of search information 15 3 (leaf RF) are arranged for each type of search information element 15 3 while maintaining the appearance order relation in the tree structure to form unit search information 15 3 A.
  • the element type determination unit 201 when the element type determination unit 201 receives the search information element 153 of the semantic search information given from the search information analysis unit 101, the element type determination unit 201 divides each of the received search information elements 153 into its type ( The type indicates different types of information such as character information and behavioral depiction information), and is output to the search information array unit 202 and the common information extraction unit 203 together with the determination result.
  • the search information array section 202 has the minimum necessary corresponding structural information extracted by the structural search information decomposition section 102 for each type based on the information provided from the element type determination section 201.
  • the search information elements 15 3 are arranged together with 50 to form unit search information 15 3 A.
  • the search information array unit 202 stores the unit search information
  • the common information 15 3 B given from the common information extraction unit 203 is arranged.
  • the common information 15 3 B information indicating the format data length of the semantic search information element 15 3 can also be used.
  • information used as the common information 15 3 B can be used. There are no restrictions.
  • the position of the common information 15 3 B is not limited to the beginning of the unit search information 15 3 A, but may be located at the end of the unit search information 15 3 A. It may be located in 153 A, or the common information 15 3 B is recorded in another recording location together with information indicating the correspondence between the unit search information 15 3 A and the common information 15 3 B. It may be.
  • the processing by the common information 15 3 B and the common information extracting unit 203 may be omitted.
  • FIGS. 4A to 4C illustrate the extracted semantic search information elements 15 3, scene description information, character information, and action description information from the search information 15 having the tree structure in FIG. 2. It is a figure which shows the unit search information 15 A formed by arranging the semantic search information element 15 3 and the corresponding structural information 50 together with the common information 15 3 B.
  • 4A to 4C shows an example in which the semantic search information element 15 3 and the corresponding structural information 50 are alternately arranged in pairs.
  • the format of the array of the structural information 50 corresponding to the meaningful search information element 153 is not limited to this. For example, if only the structural information 50 is arranged first and then the corresponding semantic search information elements 153 are arranged successively, the format may be changed, and vice versa. Good. There is no restriction on the format of the array except for the order of the array in the tree structure.
  • the unit search information 15 3 A can be formed by the following procedure. For example, “# 1-1” The information “# 1” corresponding to the node ID of the common upper node ND is used as the common information 15 5 B for the node ND having the node ID of Extracted and added only one unit search information 1 5 3 A, difference information of node ID “1” and “2” of common information “# 1 J is subtracted” and semantic search information element 15 3 Structural information 50 corresponding to each of them may be arranged.
  • the layer information of the section ND is added as common information, and information indicating a difference from the layer (information indicating the layer one level higher or the layer lower than the current level) ) May be added for each semantic search information element 15 3.
  • the additional information relating to the hierarchical information may be omitted in the semantic search information element 153 having no difference.
  • a flag indicating whether or not there is a semantic search information element 153 corresponding to the scene or the shot may be added as information for each semantic search information element 153.
  • the information may indicate the degree of importance when using the semantic search information element 153, and the information added for each semantic search information element 153 is not particularly limited.
  • the signal unit search information formation unit 104 receives one or more search information elements 154 of the signal search information from the search information analysis unit 101 and provides it from the structural search information decomposition unit 102. Receiving the minimum necessary structural information 50, and arranging the received search information element 1 54 and structural information 50 to form and output one or more unit search information 1 54 A of signal search information I do.
  • the internal configuration of signal unit search information forming section 104 is the same as the configuration in FIG.
  • the same signal search information element 15 4 (leaf RF) connected to the same node ND (or root R) in the tree structure of the search information 15 is replaced with the signal search information element 15 4
  • the element type determination unit 201 in FIG. 4 receives the signal search information element 154, the type of the received signal search information element 154 (such as color frequency information or motion intensity information) is received. (A type of different information), and outputs the determination result and the signal search information element 154 to the search information array unit 202 and the common information extraction unit 203.
  • the search information array section 202 sorts the signal search information element 154 for each type based on the given information, and the corresponding minimum necessary structural information 5 given from the structural search information decomposition section 102. Arrayed with 0 to form and output one or more unit search information 15 54 A.
  • the common information extracting unit 203 selects the signal-based search information element included in each of the unit search information 154 A formed by the search information array unit 202.
  • Information common to 15 4 (for example, information indicating the type of signal search information element 15 4) 1 54 B is extracted from signal search information element 15 4 and given to search information array section 202.
  • the search information array unit 202 arranges the common information 1504B given from the common information extraction unit 203 at the head of the unit search information 154A.
  • Common information 1 5 4 B In addition, the data format of the signal search information element 154, the number of samples of the color frequency information and the data length can be used, and there is no particular limitation on the information used as the common information 154B.
  • Common information such as, for example, can be extracted by the common information extraction unit 203 and placed as an attached common information 154 B at the beginning of the signal unit search information 154 A.
  • the signal search information having the same element type but different hierarchical levels of the clause ND attached to each other is different.
  • Elements 154 are distinguished from each other, and unit search information 154 A consisting of only signal search information element 154 assigned to the same layer can be separately formed.
  • the common information 154 B may be arranged at the end of the unit search information 154A, or may be arranged in the unit search information 154A.
  • the common information 154B may be recorded in another recording location together with information indicating the correspondence between the common information 154B and the unit search information 154A.
  • the processing by the common information 154 B and the common information extracting unit 203 is omitted.
  • the unit search information 154 A in FIGS. 5A to 5C is signal-like from the search information 15 having a tree structure in FIG.
  • the representative color information, color frequency information, and motion intensity information, which are the search information elements 154, are extracted, respectively, and the extracted signal search information elements 154 and the corresponding structural information 50 are shared information 1 It is formed by arraying with 54B.
  • 5A to 5C show an example in which signal search information elements 154 and corresponding structural information 50 are alternately arranged in pairs.
  • the format of the array of the structural information 50 corresponding to the signal search information element 154 is not limited to this. For example, if only the structural information 50 is arranged first and then the corresponding signal search information elements 154 are successively arranged, the format may be changed, and vice versa. Good. In addition to arranging the order of appearance in the tree structure, There are no restrictions.
  • the structural information 50 extracted by the structural search information decomposer 102 or the common information 15 54 B for the signal search information element 154 is extracted from the structural search information element 155 Alternatively, as the structural information 50 corresponding to each of the signal search information elements 154, difference information (information that cannot be shared) indicating a difference from the common information 154B may be used.
  • the unit search information 15 54 A can be formed by the following procedure. For example, "# 1-1" The information “# 1” corresponding to the node ID of the common upper-level section ND is shared with the node ND having the node ID of “1” and the node ND having the node ID of “# 1-2”. Extracted as B and added only one to the unit search information 1 5 4 A, and subtracted the common information “# 1” from the node ID difference information “1” and “2”, respectively. 5 4 Arranged as structural information 50 corresponding to each.
  • the layer information of the section ND is added to the unit search information 154A as common information 154B, and information indicating a difference from the layer (the next higher layer) Or information indicating the next lower layer) may be added for each signal search information element 154. At this time, the addition of the difference information may be omitted in the signal search information element 154 with no difference.
  • a flag indicating whether or not there is a signal search information element 154 corresponding to the scene or shot as additional information for each signal search information element 154 may be used. It may be information indicating the importance when using the signal search information element 154, and the additional information for each signal search information element 154 is not particularly limited.
  • Unit search information of semantic search information and signal search information including structural information 50 generated by semantic unit search information formation unit 103 and signal unit search information formation unit 104 53 A And 154 A are provided to the unit search information control unit 105.
  • the unit search information control unit 105 is connected to the processing unit 16 outside the search information management device 1.
  • the processing unit 16 corresponds to a transmission unit for transmitting information, a storage unit for recording and storing information on some medium, and a unit for executing information search processing. If the processing unit 16 is a transmission unit, the search information management device 1 sends a request from the transmission unit.
  • One or more unit search information according to the above is selected from the unit search information 153A and 154A, and is provided to the processing unit 16 (transmission unit).
  • Step Sl the search information analysis unit 101 is specified.
  • Step Sl the search information analysis unit 101 is specified.
  • step S is simply referred to as S
  • step S the search information analysis unit 101 is specified.
  • step S is simply referred to as S
  • the sequentially obtained search information elements are equivalent to structural search information and correspond to semantic search information. It is determined whether the search information element corresponds to the signal search information or not. Based on the determination result, the search information element is divided into the structural search information decomposition unit 102, the semantic unit search information formation unit 103, and the signal unit search information formation. Part 104 It is (S 3).
  • search information element is structural search information
  • structural information 50 necessary to form the unit search information 1 53 A and 154 A of semantic search information and signal search information is derived from the structural search information element 152. Extraction (S4), separation and retrieval of search information elements are continued again (S2).
  • search information element is semantic search information
  • type is further determined (S5), and the semantic search information element 153 of the semantic search information element 153 that has been arranged so far is of the same type. It is placed at the end of the sequence together with the structural information 50 already extracted (S6).
  • the search information element is the signal search information
  • the type is further determined (S7), and the signal search information element 154 is arranged in the signal search information element 154 of the same type up to then.
  • the map is arranged with the structural information 50 already extracted (S8).
  • the processing for forming the unit search information 153A and 154A in steps S4 to S8 it is determined whether or not the search information 15 has ended (S9).
  • the formed unit search information 153A and 154A are provided to the unit search information control unit 105 and held here. (S10) If not the end, separation and reading of the search information element are continued again. (S2).
  • FIG. 7 shows a schematic configuration of search device 2 according to the present embodiment.
  • the search device 2 operated by the searcher 18 includes a search execution unit 701, a semantic unit search information holding unit 702, and a communication unit for executing a search for moving image content.
  • the search execution unit 70 1 executes the semantic unit search information 15 3 A stored in the semantic unit search information storage unit 70 2 (recorded) and the signal Unit search information holding unit 703 Select any combination of one or more of the signal unit search information 154 A stored (recorded) in unit 3 3, and perform unit search using the selected combination Acquire the information and execute a search using the acquired unit search information. If the unit search information to be selected is not held in any of the corresponding unit search information holding sections 70 2 and 70 3, the search execution section 70 1 to the search information control section 7 0 4 An acquisition request for unit search information corresponding to is output.
  • the search information control section 704 is connected to the transmission section or storage section 19.
  • the transmission unit or storage unit 19 has a transmission unit for transmitting a plurality of types of unit search information or a storage unit for recording and storing a plurality of types of unit search information in a predetermined medium in advance.
  • the search information control unit 704 Upon receiving a request to acquire unit search information from the search execution unit 701, the search information control unit 704 sends unit search information corresponding to the acquisition request from the transmission unit or the storage unit 19 in response to the acquisition request. It is acquired by transmission or reading, and the acquired unit search information is stored in a corresponding one of the unit search information holding units 720 and 703.
  • the search execution unit 700 executes a search using the unit search information acquired in this manner.
  • the searcher 18 requests color frequency information.
  • the searcher 18 simply inputs a rough request such as “I want information on color”, and the search execution section 70 1 determines the request, and issues an appropriate “color frequency information acquisition request”. Out. " In response to this request, color frequency information and minimal structural information 50
  • the generated unit search information 15 54 A is acquired from the transmission unit or the storage unit 19.
  • the search execution unit 701 executes a search based on the unit search information 154A formed from the structural information and the color frequency information thus obtained. By doing so, the amount of search information transmitted at the time of searching can be reduced as compared with the conventional case.
  • the search procedure shown here is an example, and is not limited to this.
  • the period during which the acquired unit search information is held There is no particular limitation on the period during which the acquired unit search information is held. For example, if the client terminal that executes the search has a small storage capacity such as a portable information terminal, the obtained unit search information may be discarded each time the search is executed. If there is not enough storage capacity, it may be kept continuously throughout the search execution period. Alternatively, the management may be such that the unit search information is retained for a certain period of time, and if there is no access within this certain period, the unit search information is discarded.
  • search device described in the present embodiment has been described as performing a search based on the formed unit search information
  • a search of the original tree structure from the obtained unit search information may be performed depending on the search mode.
  • information (a part of it) is restored, and a search is performed based on the restored search information of the tree structure.
  • each of the unit search information formed by the search information management device described in the present embodiment includes structural information
  • the original tree structure is restored using the structural information (structured information). It is possible. That is, position information in the tree structure is obtained from the structure information included in the unit search information, and the corresponding search information element in the unit search information is connected as a leaf RF to the position in the tree structure indicated by the obtained position information. This restores the wooden structure. Restoration of this unit search information into a tree structure is used for search, and when the search information is transmitted to others over a network with a narrow transmission path, the tree is broken down finely and each decomposed is sent to the destination. This is used when the receiving party restores the tree and manages it as search information.
  • the unit search information (153A, 154A) shown in Fig. 4A to Fig. 4C and Fig. 5A to Fig. 5C is arranged in order of search information elements (153, 154).
  • Each of the search information elements may be combined, or each of the search information elements may be held in an independent format. In the latter case, it is the number required on demand Search information elements (153, 154) can be output as partial unit search information (153A, 154A).
  • the unit is obtained by using all the search information elements (153, 154) of the same type included in the search information 15 in FIG.
  • search information (153A, 154A) is formed
  • unit search information may be formed using only some search information elements.
  • a part includes a subset of search information elements arranged in time series (a subset as a whole), a set of subsamples picked up at regular intervals, and the like.
  • Each of the search information 15 and the search information elements (152, 153, 154) described in the present embodiment is merely an example, and the search information and the search information element are limited by these. is not.
  • the tree structure of the search information 15 may have more layers, or may have two layers (only the root R and one or more nodes ND in the first layer). . Any shape of wooden structure may be used. This embodiment can be applied to any type of search information element.
  • the search information elements combined as unit search information are individual information corresponding to each “leaf” in the tree structure, such as color frequency information.
  • color frequency information such as color frequency information
  • ⁇ color information '' which collects information related to multiple ⁇ colors '' such as color frequency information and representative color information, can be considered as one element, and this can be treated as a search information element to form unit search information .
  • each of the color frequency information and each of the representative color information corresponds to “leaf R FJ” in the tree structure
  • color information corresponds to “node ND” having the leaf R F at a lower level.
  • each of the search information elements forming the unit search information is not limited to individual fine search information corresponding to “leaf RF” in the tree structure, but is a set. “Section ND” which can be regarded as an arbitrary set of detailed search information below.
  • any set of leaf RF or node ND connected below a certain node ND (each node ND is further connected to the lower leaf RF or node ND), considers the first node ND as the root R. It forms a tree, which is called a "subtree" with respect to the original tree.
  • the search corresponding to the above “subtree” in the tree structure representing the search information The present embodiment can be applied by regarding the search information as a search information element.
  • all the search information elements (153, 154) included in the search information 15 having a tree structure are similarly extracted, All of the unit search information (153A, 154A) corresponding to each extracted search information element is formed in parallel, and all the formed unit search information is transmitted.
  • the search information management device 1 shown in FIG. 1 the search information analysis unit 101, the structural search information decomposition unit 102, the signal unit search information formation unit 104, and the unit search Since only the information control unit 105 functions, the semantic unit search information forming unit 103 may be omitted.
  • search information element 15 3 or the signal search information element 15 5 in the search information 15 is extracted, and the extracted search information element (15 3 or 1 When the corresponding unit search information (153A or 154A) is formed using 54), these search information elements (153 or 154) are extracted from the remaining search information. 15 may be used while retaining the tree structure.
  • the tree representing the original search information 15 becomes one or more unit search information consisting of a partial tree consisting of a part of the original tree and a plurality of semantic search information elements 15 3. It is decomposed into one or a plurality of unit search information 15 54 A consisting of 15 3 A or a plurality of signal search information elements 15 4.
  • the detection extracted The original search information 15 having a tree structure can be decomposed into various forms depending on what is selected for the search information element.
  • the structure information in the search information that is, the position information in the tree structure of the node ND or the leaf F and the type information of the search information element, that is, the behavioral depiction information (semantic search information element 15 3) and color frequency information (signal search information element 154) are described as independent information.
  • the position in the tree structure of each search information element is specified.
  • the type of the search information element can be represented only by the information. That is, the structure information and the type information are equivalent. In this case, for example, the process of adding the type information as the common information 15 3 B and 15 4 B corresponding to the search information elements 15 3 and 15 4 described in this embodiment is performed by the corresponding common structural information. It can be done even if is added.
  • various search information elements are extracted from search information 15 having a tree structure, that is, structural search information element 15 2, semantic search information element 15 3, and signal point search information element 1. 5 4 is separated and extracted, and the extracted structural information 50 is extracted from the extracted structural search information element 15 2, and the same type of semantic search information element 1 5 3 as the extracted structural information 50
  • the semantic unit search information 1553A or the signal unit search information 1554A was formed by arranging the signal search information elements 1554 themselves or the same kind in order.
  • search information management device 1A according to the present embodiment and search information management device 1A
  • the rope device 2A will be described focusing on the differences from those of the first embodiment. Therefore, the detailed description of the present embodiment is omitted here, but for them, the detailed description of the search information management device 1 and the method and the search device 2 shown in the first embodiment can be similarly applied. .
  • FIG. 1 The schematic configuration of the search information management device 1A according to the present embodiment is shown using FIG. 1 as in the first embodiment.
  • the function of the search information management device 1A is slightly different from that of the first embodiment, as described below.
  • the search information management device 1A includes a search information analysis unit 101A, a structural search information decomposition unit 102, a semantic unit search information formation unit 103A, and a signal unit search information type. It includes a component 104 A and a unit search information control unit 105 A.
  • the search information analysis unit 101 A searches the search information 15 having a tree structure corresponding to the moving image content, and the structural search information element 15 2 included in the search information 15 is a structural search information decomposition unit.
  • Output to 102 specify semantic search information element 15 3 and signal search information element 15 4 respectively, and record position information 1 for specified search information elements 15 3 and 15 4 Extract each of 53D and 154D.
  • Each of the recording position information 1553D and 1554D indicates the recording position where the corresponding semantic retrieval information element 1553 and signal retrieval information element 1554 are recorded. Then, along with the information necessary to form the unit search information 15 3 E and 15 4 E, together with information such as the type of search information element and hierarchical information in the tree structure, the semantic search information element 1 5 3 and signal search information element 1 5 4 recording position information 15 3 D and 15 4 D are converted into semantic unit search information formation unit 10 3 A and signal unit search information formation unit 10 4 A Output to each.
  • the recording position information 15 3 D and 15 4 D store physical position information such as the sector position on the recording medium where the search information 15 is recorded in advance ⁇ the bit position in the bit code string, and data. It contains logical location information such as the file name, channel and packet used for data transmission, and is not particularly limited.
  • the semantic search information element 15 3 and the signal search information element 15 4 indicated by the recording position information 15 3 D and 15 4 D are individually read out and used as needed when searching for moving image content. Is done. Therefore, the semantic search information elements 1 5 3 and It is more convenient for each of the signal-like search information elements 154 to be separately recorded in advance and individually recorded. In many practical devices, each of the structural search information element 15 2, the semantic search information element 15 3, and the signal search information element 15 4 of the search information 15 having a tree structure has some form. The recording position of each of the semantic search information element 15 3 and the signal search information element 15 4 which are separated is recorded as the recording position information 15 3 D and 15 4 D It can be used as is.
  • search information 15 having a tree structure is recorded as it is and is not separated into the search information elements 15 2, 15 3 and 15 4 in advance, the search is performed by the search information analysis unit 101 A.
  • the information elements 15 2 15 3 and 15 4 are separated to record the search information elements 15 3 and 15 4, and the recorded position information 15 3 D and 15 4 D are generated.
  • the structural unit search information element 15 2 is input from the search information analysis unit 101 A, and the minimum necessary structural information 5 is input from the input search information element 15 2. 0 is extracted and given to the semantic unit search information forming unit 103A and the signal unit search information forming unit 104A, respectively.
  • the minimum necessary structural information 50 from the structural search information decomposition unit 102 and the same kind of semantic search information element from the search information analysis unit 101A 1 5 3 Enter the recording location information 1 5 3 D, and input the information.
  • the corresponding semantic search information element 1 5 3 Appearance order in the tree structure
  • the unit search information 15 3 E of the semantic search information composed of the recording position information 15 3 D of the semantic search information element 15 3 is formed.
  • the minimum necessary structural information 50 from the structural search information decomposition unit 102 and the same kind of signal search information element from the search information analysis unit 101 A are provided.
  • 15 54 Input the recording position information 15 54 D of each, and input the input information into the signal search information element 15 4 for each type of the signal search information element 15 4
  • the unit search information 1 54 E of signal search information consisting of the recording position information 1 54 D of the signal search information element 1 54 D is formed.
  • 8A to 8D exemplify semantic unit search information 1553E and signal unit search information 154E according to the present embodiment.
  • 8A and 8B the scene description information of each scene and the character information of each shot are illustrated as semantic search information elements 15 3, and the signal search information is shown in FIGS. 8C and 8D.
  • Elements 154 illustrate representative color information of each scene and motion intensity information of each shot. As is clear from comparison of FIGS. 8A to 8D with FIGS. 4A to 4C and FIGS.
  • the elements constituting the unit search information are the search information elements (153, 15 4)
  • the unit search information (15 3 E and 15 5 E) formed in this embodiment is replaced with the recording position information (15 3 D, 15 4 D), except that 4E) and the unit search information (153A and 154A) formed in the first embodiment are the same.
  • the unit search information control unit 105A is connected to the processing unit 16 and, for example, when the processing unit 16 is a transmission unit, transmits the corresponding unit search information in response to a request from the transmission destination.
  • the recording position information 15 3 D of the semantic or signal search information element 15 3 or 15 4 included in the already transmitted unit search information is Or a request based on 154D is received, and the recording position information corresponding to the request is received.
  • Semantic or signal search indicated by 153D or 154D Information element 153 or 154 Is extracted and transmitted to the request source.
  • the various types of structural information 50 extracted and used from the structural search information elements 152 are not the data of the structural information 50 itself, but the semantic search described above.
  • Information indicating the recording position is extracted in the same manner as the information element 15 3 and the signal search information element 15 4, and the unit search information is formed using the extracted recording position information.In this case, the structure information 50 is recorded.
  • the semantic unit search information is formed from the positional information and the semantic search information element 15 3 3 recording position information 15 3 D, and the structural information 50
  • the signal unit search information is formed from the recording position information of the first and the signal position information of the signal search information element.
  • FIG. 7 A schematic configuration of the search device 2A according to the present embodiment is shown using FIG. 7, similarly to the first embodiment. However, the function of the search device 2A is slightly different from that of the first embodiment as described below.
  • the search device 2A includes a search execution unit 70 1 ⁇ , a semantic unit search information holding unit 70 2 ⁇ , a signal unit search information holding unit 70 3 ⁇ , and a search information control unit 7 0 4 A is provided.
  • the semantic unit search information holding unit 70 2 A and the signal unit search information holding unit 70 3 A respectively hold the unit search information 15 3 E and 15 4 E,
  • the search information elements 15 3 and 15 3 obtained based on the recorded position information 15 3 D and 15 4 D included in the unit search information 15 3 E and 15 It has a function to temporarily hold each of 154 each time one search is executed, or to continuously hold it during the execution period of the search.
  • the search execution unit 70 1 A is stored in the semantic unit search information storage unit 70 2 A and the signal unit search information storage unit 70 3 A in accordance with the search request input from the searcher 18 One or more arbitrary combinations of various search information elements are selected, search information elements according to the selected combination are obtained, and a search for moving image content is performed using the obtained one or more search information elements. .
  • the search execution section 7 0 1 A initiates a search for unit search information holding units 720 A and 703 A in response to a request for unit search information, as shown below, instead of a request for a search information element.
  • a search started by requesting semantic unit search information 15 5 E will be described as an example. This is true even if the semantic unit search information 15 3 E and the signal unit search information 15 4 E are requested.
  • the search execution unit 7 0 1 A becomes the semantic unit search information holding unit 7 0 2 A Request the corresponding unit search information 15 3 E. If the requested unit search information 1553E can be obtained from the corresponding semantic unit search information holding unit 7102A, the search execution unit 7101A The unit search information 15 3 E obtained along with the search information element acquisition request is given.
  • the search information control unit 704A transmits the corresponding semantic search information from the transmission unit or the storage unit 19 based on the recording position information 153D included in the given unit search information 153E.
  • the element 153 is obtained, and the obtained semantic search information element 153 is stored in the corresponding semantic unit search information storage unit 702A.
  • the search execution unit 701 A executes a search using the semantic search information element 153 obtained in this manner.
  • the search execution unit 70 1 A first searches. A request to acquire the unit search information 153 E is sent to the information control unit 704 A. When the search information control unit 704 A inputs this acquisition request, the unit retrieval information 15 3 E is obtained from the transmission unit or the storage unit 19 in response to the input acquisition request, and the acquired unit search information is acquired. 15 3 E is stored in the corresponding semantic unit search information holding unit 70 2 A. Next, the search execution unit 701A gives the search information control unit 704A the unit search information 153E obtained together with the request to obtain the search information element.
  • the search information control unit 704 A transmits the corresponding semantic search information element 1 from the transmission unit or the storage unit 19 based on the recording position information 15 3 D included in the given unit search information 15 3 E. 5 3 is obtained, and the obtained semantic search information element 1 5 3 is stored in the corresponding unit search information holding unit 70 2 A.
  • the search execution unit 701 A uses the semantic search information element 153 obtained in this way to generate video content (data of the video content prepared by the transmission unit or the storage unit 19). Perform a search for.
  • the comparison between the search device 2A of the present embodiment and the search device 2 of the first embodiment is different in terms of the search information acquisition from the unit search information to the search information.
  • the point is that two- stage acquisition is performed, such as acquiring the recording position information of the element and acquiring the corresponding search information element from the acquired recording position information.
  • Other processes are the same for both. Therefore, the same effect as obtained in the first embodiment can be obtained in this embodiment.
  • the signal amount to be recorded can be small. Therefore, when a searcher performs a search using a client terminal such as a portable information terminal having a small storage capacity, only the unit search information according to the present embodiment is continuously stored in the client terminal, and the search is performed.
  • the search method is effective when only the necessary search information elements are acquired from the server device (corresponding to the transmission unit or the storage unit 19 in FIG. 7) using unit search information at the time of execution.
  • the server device the data of the moving image content and the data of the search information 15 previously separated into the search information elements are recorded. According to an external request, the data of the moving image content or the search information 15 are recorded. Has the function of reading out the data and outputting it to the request source.
  • search information is present on the server can be easily known from the unit search information, and the transmission efficiency of the search is improved by transmitting only the necessary search information.
  • the timing at which the unit search information is obtained via the transmission unit or the storage unit 19 is at the request of the searcher 18.
  • the present invention is not limited to this.
  • the client terminal may automatically acquire only various unit search information. There is no restriction on the timing of acquisition or destruction of unit search information.
  • the retention period of the search information element obtained based on the single search information and the recording position information in the unit search information is discarded for each execution of the search.
  • the search is continuous over the execution period of the search, the present invention is not limited to this.
  • the management may be performed such that the data is retained for a certain period of time and discarded if there is no access within a certain period. There is no restriction on the retention period of search information elements.
  • the search device described in the present embodiment has been described as performing a search based on the formed unit search information
  • a search of the original tree structure from the obtained unit search information may be performed depending on the search mode.
  • information (a part of it) is restored, and a search is performed based on the restored search information of the tree structure.
  • Each of the unit search information formed by the search information management device shown in the present embodiment includes structural information, and restores the original tree structure using structural information (structured information). It is possible to You That is, position information in the tree structure is obtained from the structure information included in the unit search information, and the position indicated in the tree structure indicated by the position information is indicated by the corresponding recording position information in the unit search information.
  • the tree structure is restored by acquiring information elements and connecting them as leaf RF. Restoring the tree structure from this unit search information is not only used for search, but also when the search information is transmitted to others over a network with a narrow transmission path, the tree is broken down into small parts and each of them is transmitted to the destination. This is used when the tree is sent to (others) and the receiving side (others) restores the tree and manages it as search information.
  • FIG. 9 shows a schematic configuration of a search information management device 1B according to the present embodiment.
  • the search information management device 1B includes a division selection unit 901, a first search information division unit 902, a second search information division unit 903, and a unit search information control unit 904.
  • a search execution mode such as whether the search execution mode desired for the moving image content is an online search or an offline search is specified.
  • the division method of the search information 15, that is, the format of the unit search information obtained by the division is selected according to the specified search execution mode.
  • the search information 15 is, for example, search information 15 having a tree structure illustrated in FIG.
  • the division selection unit 901 When off-line search is specified and unit search information focusing on the type of the search information element is selected as the search information 15 division method, the division selection unit 901, the first search information division unit 902 To instruct search information 15 to be divided.
  • the division selection unit 901 searches the second search information division unit 9 ⁇ 3. Information 15 Instructs to perform a split of 5.
  • the division selection unit 901 sets the first and second search information division units 902 and 903 to search information 15 To perform the division (formation of unit search information).
  • the first search information division unit 902 inputs the search information 15 and executes the division of the search information 15 focusing on the type of the search information element described in the above embodiment.
  • Unit search information 15 3 A (15 3 E) and 15 4 A (15 A) focusing on the types of search information shown in FIGS. 4 C, 5 A to 5 C, and 8 A to 8 D. 1 5 4 E) Output.
  • the search information 15 is input, and division is performed in units of temporal division shown in FIG. 13A to FIG. 13D or FIG. It forms and outputs unit search information according to a typical division.
  • the unit search information control unit 904 is connected to the processing unit 16, and the unit search information and the second search information division focusing on the type of the search information element formed by the first search information division unit 902. Either one or both of the unit search information of the time division unit formed by the unit 903 are selected according to the request of the processing unit 16 and the selected information is output to the request source.
  • Provision of the division selection unit 9101 enables appropriate control of search information (formation of unit search information) according to the execution mode of the moving image content search.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

明細書 動画像コ 検索するための検索情報を管理する装置および方法、 ならび に検索情報を用いた検索装置 技術分野
この発明は、 動画像コンテンツを検索するための木構造を有した情報 (以下、 検索情報) を管理するための装置および方法、 ならびに検索処理を実行する検索 装置に関し、 特に、 検索情報の効率的な記憶または伝送を可能とする検索情報管 理装置および方法ならびに検索情報を用いて検索処理を実行する検索装置に関す る。 背景技術
動画像コンテンツは、 動画像コンテンツ内のあらゆる時間的あるいは空間 (画 面) 的な箇所が検索の対象となり得る。 このため、 厳密に検索を実行するために は、 動画像コンテンツ全体を再生して細部まで確認する必要がある。 しかしなが ら、 そのような検索方法はおよそ効率的ではなく、 検索対象となる動画像コンテ ンッの数が増えるとさらに現実的でない。
このような場合に、 ユーザが所望の動画像コンテンツを、 あるいは動画像コン テンッ内の所望の箇所を素早く、 かつ効率的に探し出すための方法として、 動画 像コンテンツに対応して付加される検索情報 (検索情報は検索用メタデ タとも 呼ばれる) を用意し、 検索情報に基づいて検索を実行して、 所望の動画像コンテ ンッを、 あるいは動画像コンテンツ内の所望の餡所を得る方法が種々提案されて いる。
図 1 0には一般的な動画像コンテンツの構造が模式ィ匕して示される。 このよう な構造は、 特開平 1 0— 1 0 8 0 7 1号公報ゃ特開平 1 0— 2 5 7 4 3 6号公報 などでも開示されており、 広く知られたものである。
'図 1 0に示すように、 1つの動画像全体は、 時間的にいくつかのシーンに分割 される。 ここでいうシーンとは、 主に意味的なまとまりからなる時問的な区切り を指し、 映画の第 1部、 第 2部のような大きい区切りから、 「Aと Bが喧嘩をす る」 シーンといったごく小さな区切りまでを含む。 このため、 実際の動画像全体 からシーンへの分割は、 図 1 0に示したような 1段階の分割に限るものではなく、 複数の階層にわたって次第に細分化されるものである。
1つのシーンはさらに、 時間的にいくつかのショッ ト (あるいはさらに細かい シーン) に分割される。 ここでいうショットとは、 1回の動作で撮影された連続 する複数のフレーム画像から構成される時間的な一区切りであり、 動画像中にお いては 2つの編集点 (カット点) で挟まれた区切りを指す。
ショットは一種のシーンでありショットをさらに細かいシヨット (サブショッ ト) に分割することも可能である。 図示されないが、 ショットは最終的に 1つ 1 つのフレーム画像にまで分割することが可能である。
このように、 動画像コンテンツは、 全体から細かい部分、 さらに細かい部分へ と細分化されていく階層的な構造を有する。 そして、 各階層ごとに対応した検索 情報が付加される。
図 1 1には図 1 0の動画像コンテンツに対する検索情報が示される。 動画像コ ンテンッの検索情報は、 図 1 1に示すような木構造で表わされる。 ここで、 動画 像コンテンツの検索情報は、 構造的検索情報、 意味的検索情報および信号的検索 情報を含む。
構造的検索情報とは、 図 1 0で示した動画像コンテンツの階層構造を表わすた めの情報である。 構造的検索情報には木構造、 すなわち動画像全体における各シ ーンあるいはショット相互の関係を表わすための構造化情報と、 分割して得られ たシーンあるいはショットそれぞれの属性を表わす構造属性情報とが含まれる。 図 1 1の木では、 根 Rが動画像全体を表わし、 各節 N Dが分割により得られた 各シーンあるいは各ショットをあらわす。 木の根 Rあるいは各節 N Dに付される ノード I Dや各階層の情報などが構造化情報に当り、 シ^ "ンあるいはショットそ れぞれに付される開始時刻、 終了時刻情報などが構造属性情報に当る。
意味的検索情報とは、 動画像コンテンツの意味内容上における特徴に基づいて 規定される検索情報である。 たとえば、 動画像コンテンツ全体に対するタイ トル、 製作者の情報、 シーンに対する情景描写の情報などが意味的検索情報に当る。 信号的検索情報とは、 動画像コンテンツの信号上の物理的な特徴に基づいて規 定される検索情報である。 たとえば、 各ショット (あるいはその代表フレーム画 像) に対する色頻度情報、 動き強度情報などが信号的検索情報に当る。 意味的検 索情報ならびに信号的検索情報は対応する各節 N Dに連結された葉 R Fとして与 えられる。
図 1 2には図 1 1に示された木構造からなる検索情報を記録する際の記録形式 が示される。 図 1 2に示されるように、 図 1 1の木構造からなる検索情報は、 木 の根 Rおよび節 NDを、 階層の浅い方から深い方へ (根 Rから節 NDの方向へ) 、 また左から右へ (時間的に前から後へ) 向かって、 深さ優先順 (節 NDのさらに 下位に迪る節 NDがなくなった時点で右隣の節 NDへ移動) に迪つていき、 根 R あるいは節 N Dに付されている葉 R Fである検索情報が順番に記録される。
図 1 0〜図 1 2では、 最上位層 (木の根 R) を 1つの動画像コンテンツ全体と しているが、 これは 1つの動画像コンテンツに限らず、 複数の動画像コンテンツ の集合として考えることが可能である。 たとえば、 最上位層を 1つのチャンネル で 1日に放送される映像番組全体とする。 1つのチャンネルで 1日に放送される 映像番組全体は、 次の階層で 1つ 1つの番組に、 すなわち 1つ 1つの動画像コン テンッに分割される。 動画像コンテンツそれぞれは複数のシーンに分割され、 複 数シ ンのそれぞれは複数のショットへと分割される。 - 木構造を有する検索情報によれば対応の動画像コンテンツの持つ時間的な構造 は、 各種の検索情報と結び付けてユーザに理解しゃす 、形式で提供することがで きる。 このようなことから、 検索情報は、 該検索情報に基づいてュ ザが視認を 行ないながら対応の動画像コンテンツを編集する、 あるいは検索情報そのものを 編集するなどの作業に非常に適している。 ただし、 動画像コンテンツのサイズが 大きくなると対応の検索情報を表わす木のサイズも膨大なものとなる。
動画像コンテンツおよび検索情報がサーバ装置に蓄積され、 ユーザがクライア ント端末からサーバ装置にアクセスし検索情報を取得してクライアント端末にお いて検索を実行するといつた実行モデルを想定する。 この場合に、 クライアント 端末においてサ^ "バ装置から膨大な検索情報をすベて取得してからでなければュ 一ザはクライアント端末を操作して検索を実行することができないといった状況 は好ましくない。 すなわち、 木構造を有する検索情報は、 適当な複数の小単位の 検索情報に分割されて、 クライアント端末に送信されると、 クライアント端末に おいては受信された小単位の検索情報によってもユーザがある程度の検索が実行 可能であることが望まれる。
従来の木構造を有する検索情報を、 シーンあるいはショットといった時間的区 切りに従い分割することで、 図 1 3 A〜図 1 3 Dに示すように小単位の検索情報 1 1〜1 4を構成することが可能である。 小単位の検索情報 1 1〜1 4は、 検索 情報を図 1 4に示されるように木の最下端の節 N Dそれぞれを起点とした節 N D とその葉 R Fの集合、 または節 NDを含めた上位の節 NDとその葉 R Fからなる 集合を単位として分割することにより得られる。
時間的な区切りに従う分割により得られる小単位の検索情報は、 対応の動画像 コンテンツの時間的な構造の情報をそのまま保持しているため、 動画像コンテン ッと同期させて伝送し、 オンラインで動画像コンテンツを検索情報に基づいてフ ィルタリングするような利用に適している。
特開平 8— 1 1 0 9 1 2号公報に開示のように、 木構造を有する検索情報を、 木構造と、 木構造中の節 N Dそれぞれの属性情報を表わした付属情報のテーブル とに分割して蓄積する形態もよく知られている。 この場合に、 分割可能な単位は 木構造と付属情報テ ブルの 2つであるが、 付属情報テ ブルは独立して扱うこ とはできず、 また上述のような時間的な区切りに従い分割することはできない。 本明細書では、 分割により得られた上述のような小単位の検索情報を 「単位検 索情報」 と呼ぶ。 また、 構造的検索情報における節 N Dを一意に特定するための ノード I D情報などを構造的検索情報の 「検索情報要素」 と呼び (または、 構造 的検索情報要素と呼び) 、 意味的検索情報における行動描写情報などを意味的検 索情報の 「検索情報要素」 と呼び (または、 意味的検索情報要素と呼び) 、 信号 的検索情報における色頻度情報および動き強度情報などのそれぞれを信号的検索 情報の 「検索情報要素」 と呼ぶ (または、 信号的検索情報要素と呼ぶ) 。
従来の木構造を有する検索情報を分割して得られる小単位の検索情報は時間的 な区切りに対応した、 すなわちシーンゃショットといった動画像コンテンツの構 造単位に対応した単位検索情報である。 し力 しながら、 このような単位検索情報内では、 構造的検索情報、 意味的検索 情報および信号的検索情報それぞれについての検索情報要素が入り組んで 、る。 たとえば動画像の構造的検索情報だけを知りたい (動画像がどのようにシーン、 ショットに分割されるかを知りたい) という要求がある。 また、 ショットごとの 色頻度情報に基づく検索を行なうために各ショッ卜の色頻度情報だけが欲しい、 あるいはショットごとの動き強度情報に基づく検索を行なうために動き強度情報 だけが欲しいといった要求がある。 従来は、 構造的検索情報、 意味的検索情報お よび信号的検索情報それぞれについての検索情報要素が入り組んでレ、る単位検索 情報を得て、 これを検索者が分解して利用することで、 これらの要求を処理する しかなかった。
検索を実行する側から見た場合、 動画像の構成要素である複数のショットある いは複数のシーンに対して、 ショットのそれぞれにあるいはシーンのそれぞれに 付加された同種の検索情報要素 (色頻度情報という種類や動き強度情報という種 類など) をまとめて入手し、 それらを比較、 照合することによって検索を実行す るのが効率的である。 たとえば、 信号的検索情報要素のうちの色頻度情報につい て、 ショットそれぞれに付加された色頻度情報の中から所望に合致するものを検 出することでショット検索は行なわれる。
特開平 8— 1 1 0 9 1 2号公報には、 検索情報から木構造のみを分離して扱う ことの一端が示唆されているけれども、 他の付属情報を独立して扱うこと、 およ び上述したような検索情報の細かな種別に基づく分割、 管理を行なうことは示唆 されていない。
構造的検索情報および信号的検索情報それぞれの検索情報要素は、 一般に固定 の形式で与えられるものである。 これに対して、 意味的検索情報の検索情報要素 は、 行動描写のデータなどのように長さが不定のフリーテキストデータなどを含 むことが多い。
このため複数の検索情報要素が入り組んだ検索情報では、 長さ固定の構造的検 索情報および信号的検索情報それぞれの検索情報要素を抜き出す場合であっても、 構造的検索情報、 信号的検索情報および意味的検索情報のそれぞれを解析する必 要があり、 検索者の負担が大きかった。 これに対して、 たとえば信号的検索情報要素のみを集めて得られた検索情報で あれば、 固定長さ分のデータ読み飛ばしなどによって容易に検索情報を抜うこと が可能である。
時間的構造に従う形式で構造的検索情報、 意味的検索情報および信号的検索情 報が入り組んだ検索情報が得られる検索の形態よりも、 構造的検索情報を得て動 画像の構造を把握しつつ、 必要に応じて信号的検索情報あるいは意味的検索情報 を追加しながら検索を進めていく検索の形態は非常に自然である。 後者の検索形 態に対して従来の検索情報の分割方式では適当でなかった。
従来の木構造を有する検索情報を分割して得られた単位検索情報は、 対応の動 画像コンテンツの時間的な構造の情報をそのまま保持しているので、 動画像コン テンッと並行して検索情報を伝送し、 オンライン検索でフィルタリングするなど の検索形態に適している。 しかしながら、 オフライン検索で大量データの動画像 コンテンツを検索するような場合では、 たとえば動画像コンテンツ全体に付加さ れている色頻度情報などの特定の検索情報のみを用いて所望のショットを検索す る場合であっても、 すべての検索情報を読込み、 解析して必要な特定の検索情報 のみを抜き出す必要があり、 無駄な処理が多かった。
オフライン検索に対しては、 複数のショットなどのように複数の動画像構成要 素に付加されている同種の検索情報だけを入手し、 それらを比較、 照合すること によって検索を実行するのが自然である。 たとえば、 サーバ装置は信号的検索情 報要素のうちの色頻度情報について、 複数のショットそれぞれに付加された色頻 度情報のみを抜き出してクライアント端末に送信し、 クライアント端未では、 こ の色頻度情報を受信して、 ユーザは受信した色頻度情報に基づいて所望するショ ットを検出して、 対応するショットのデ ^"タのみをサーバ装置に要求する。 以上のとおり、 動画像コンテンツの検索情報の分割形式は、 検索の形態に応じ て切換えるべきであるが、 従来はこのようなことが考慮されていなかった。 発明の開示
本発明の目的は、 動画像コンテンッに付きれた木構造を有する検索情報の効率 的な利用を可能ならしめる検索情報の管理装置および検索情報の管理方法、 なら びに効率的な検索処理を実行できる検索装置を提供することである。
この発明のある局面に係る検索情報管理装置は動画像コンテンツに対応する木 構造を有した検索情報を小単位の検索情報に分割して管理するために、 分離部、 構造情報抽出部および単位検索情報形成部を備える。
分離部は、 検索情報を、 動画像コンテンツの構造を表わす構造的検索情報と、 動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 動画像コ ンテンッの信号上の物理的な特徴を表わす信号的検索情報とに分離して出力する。 構造情報抽出部は、 分離部から出力された構造的検索情報を分解し、 分解後の構 造的検索情報から意味的検索情報および信号的検索情報の少なくとも 1つに対応 した情報を構造情報として抽出する。 単位検索情報形成部は、 分離部から出力さ れた意味的検索情報および信号的検索情報の少なくとも 1つに、 構造情報抽出部 により抽出された対応の構造情報を付加して小単位の検索情報を形成する。
したがつて検索情報から分離された意味的検索情報および信号的検索情報の少 なくとも 1つに、 構造情報抽出部により抽出された対応の構造情報を付加した小 単位の検索情報を、 動画像コンテンツの検索情報とすることができるから、 検索 情報の量を少なくできる。 それゆえに、 動画像コンテンツの検索時に検索者が要 求する小単位検索情報を形成して要求元に伝送する場合には、 伝送すべき検索情 報量を少なくできる。
この発明の他の局面に係る検索情報管理装置は、 動画像コンテンツに対応する 木構造を有した検索情報を小単位の検索情報に分割して管理するために、 分離部、 構造情報抽出部および単位検索情報形成部を備える。
分離部は、 検索情報に含まれる同種の要素であって、 木構造中の 1または複数 の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合 からなる 1または複数の部分木により与えられる、 1または複数の検索情報要素 を分離して検索情報から抜き出す。 構造情報抽出部は分離部により抜き出された 1または複数の検索情報要素に対応する構造情報を検索情報から抽出する。 単位 検索情報形成部は分離部により抜き出された 1または複数の検索情報要素と構造 情報抽出部により抽出された対応する構造情報を所定の形式に従い配列すること で小単位の検索情報を形成する。 したがって小単位検索情報は、 元の検索情報より抜き出された 1または複数の 検索情報要素と対応する構造情報を所定の形式に従い配列されて形成されるので、 小単位検索情報に含まれる検索情報要素同士を特定しやすく、 動画像コンテンツ 検索実行時での小単位検索情報の利用を容易とすることができる。
上述の検索情報管理装置では、 分離部により抜き出された 1または複数の検索 情報要素は、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報 に対応してもよレ、。
したがって、 小単位検索情報として動画像コンテンツの信号上の物理的な特徴 を表わす信号的検索情報を用いることができるから、 たとえば色頻度情報のみに よる検索を行なうような場合には、 対応する色頻度情報のみを伝送するまたは検 索に使用することができて、 信号的検索情報のみを用いた効率的な検索を実現で きる。
上述の検索情報管理装置では、 分離部により抜き出された 1または複数の検索 情報要素は、 動画像コンテンツの意味内容における特徴を表わす意味的検索情報 に対応してもよい。
したがって、 小単位検索情報として動画像コンテンツの意味内容における特徴 を表わす意味的検索情報を用いることができるので、 たとえば各シーンの登場人 物のみによる検索を行なうような場合には、 対応する登場人物情報のみを伝送す るまたは検索に使用することができて意味的検索情報のみを用いた効率的な検索 を実現できる。
上述の検索情報管理装置では、 所定の形式は、 分離部により抜き出された 1ま たは複数の検索情報要素および構造情報抽出部により抽出された対応する構造情 報を、 木構造中の 1または複数の検索情報要素それぞれの出現順序に従って配列 することを示してもよい。
したがって、 小単位検索情報の 1または複数の検索情報要素および対応の構造 情報は検索情報要素それぞれの木構造中の出現順序に従つて配置されているから、 検索情報要素の前後関係を示すための情報を省略することができて、 小単位検索 情報の信号量をより少なくできる。
上述の検索情報管理装置では、 小単位検索情報は、 さらに次のように形成され てもよい。 つまり、 構造情報抽出部では、 構造情報を、 分離部により抜き出され た 1または複数の検索情報要素に共通する種別を示す情報または共通する木構造 中の位置情報を含む共通構造情報と、 共通構造情報以外の非共通構造情報とに分 離する。 小単位検索情報は、 分離部により抜き出された 1または複数の検索情報 要素の配列に加えて、 対応する共通構造情報と、 対応する非共通構造情報のそれ ぞれとを配することで形成されるとしてもよい。
したがって、 同種の検索情報要素に共通する情報として、 たとえば検索情報要 素が色頻度情報なのか、 登場人物情報なのかといった種別情報、 または検索情報 要素が木構造のどの階層に接続されていたかを示す位置情報を含む情報が、 1ま たは複数の検索情報要素の配列に付加されて配される。 それゆえに、 小単位検索 情報に含まれる検索情報要素について、 その種類、 または木構造の対応する階層 を簡単に知ることができる。
この発明の他の局面にかかる検索情報管理装置は、 動画像コンテンツに対応す る木構造を有した検索情報から小単位の検索情報を形成して管理するために、 記 録位置情報抽出部、 構造情報抽出部および単位検索情報形成部を備える。
記録位置情報抽出部は、 検索情報に含まれる同種の要素であって、 木構造中の 1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節 の任意の集合からなる 1または複数の部分木により与えられる、 1または複数の 検索情報要素のそれぞれについて、 該検索情報要素が記録されている位置を示し た記録位置情報を抽出する。 構造情報抽出部は、 検索情報から、 1または複数の 検索情報要素に対応する構造情報を抽出する。 単位検索情報形成部は、 1または 複数の検索情報要素のそれぞれに対応する記録位置情報抽出部により抽出された 記録位置情報および構造情報抽出部により抽出された構造情報を所定の形式に従 い配列することで小単位の検索情報を形成する。
したがって、 小単位検索情報が示す 1または複数の検索情報要素を小単位検索 情報に配された言己録位置情報により特定することができるから、 動画像コンテン ッの検索実行時での検索情報要素の利用を容易とすることが可能である。 動画像 コンテンツを検索するために小単位検索情報が要求されたときに、 要求元に小単 位検索情報が伝送される場合には、 検索情報要素自体を伝送しなくても要求元は 受信した小単位検索情報の記録位置情報により所望の検索情報要素を特定するこ とができ、 また所望の検索情報要素のみをその都度要求元に伝送することによつ て効率的な検索が可能である。
上述の検索情報管理装置では 1または複数の検索情報要素は、 動画像コンテン ッの信号上の物理的な特徴を表わす信号的検索情報に対応してもよい。
したがって、 記録位置情報に対応する検索情報要素として動画像コンテンツの 信号上の物理的な特徴を表わす信号的検索情報を用いることができる。 それゆえ に、 たとえば色頻度情報のみによる検索を行なうような場合に、 色頻度情報の位 置情報からなる小単位検索情報を用いて対応する色頻度情報のみを伝送または検 索に使用することを可能とし、 信号的検索情報のみを用いた効率的な検索を実現 できる。
上述の検索情報管理装置では、 1または複数の検索情報要素は、 動画像コンテ ンッの意味内容における特徴を表わす意味的検索情報に対応してもよい。 したが つて、 記録位置情報に対応する検索情報要素として動画像コンテンツの意味内容 における特徴を表わす意味的検索情報を用いることができる。 それゆえに、 たと えば各シ"ンの登場人物のみによる検索を行なうような場合に、 登場人物情報の 位置情報からなる小単位検索情報を用いて対応する登場人物情報のみを伝送また は検索に使用することを可能とし、 意味的検索情報のみを用いた効率的な検索を 実現できる。
上述の検索情報管理装置では、 所定の形式は、 記録位置情報のそれぞれを、 対 応する 1または複数の検索情報要素それぞれの木構造中の出現順序に従って配列 することを示してもよい。
したがって、 小単位検索情報では対応する 1または複数の検索情報要素それぞ れの前後関係を示すための情報を省略することができ、 小単位検索情報の情報量 をより少なくできる。
上述の検索情報管理装置では、 構造情報抽出部は、 さらに構造情報を、 共通構 造情報と、 共通構造情報以外の非共通構造情報とに分離する。 共通構造情報は、 1または複数の検索情報要素に共通する種別を示す情報または共通する木構造中 の位置情報を含む。 小単位検索情報は、 1または複数の検索情報要素と対応した記録位置情報の配 列に加えて、 対応する共通構造情報と、 対応する非共通構造情報のそれぞれを配 することで形成されるとしてもよい。
したがって、 同種の検索情報要素に共通する情報として、 たとえば検索情報要 素が色頻度情報なのか、 登場人物情報なのかといった種別情報、 または検索情報 要素が木構造のどの階層に接続されていたかを示す位置情報を含む情報が記録位 置情報の配列に付加されて配される。 それゆえに、 小単位検索情報に含まれる記 録位置情報により示される検索情報要素について、 その種類、 または木構造の対 応する階層を簡単に知ることができる。
この発明のさらなる他の局面に係る検索情報管理装置は、 動画像コンテンツに 対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、 第 1および第 2の検索情報分割部と、 分割選択部とを備える。
第 1の検索情報分割部は、 検索情報を、 動画像コンテンツの構造を表わす構造 的検索情報と、 動画像コンテンツの意味内容における特徴を表わす意味的検索情 報と、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分 割し、 分割により得られた構造的検索情報から意味的検索情報および信号的検索 情報のそれぞれに対応した情報を構造情報として抽出して、 抽出された構造情報 を分割により得られた意味的検索情報および信号的検索情報のそれぞれに付加し て小単位の検索情報を形成する。
第 2の検索情報分割部は、 検索情報を、 木構造に基づく時間的な区切りに従つ て分割し、 分割後の検索情報のそれぞれから小単位の検索情報を形成する。
分割選択部は、 所望される検索の形態に従って、 検索情報を、 第 1の検索情報 分割部および第 2の検索情報分割部のいずれで分割するかを選択する。
したがって、 動画像コンテンツに対応する木構造を有した検索情報を、 小単位 検索情報に分割して管理する際には、 所望される検索の形態に従って一の形式の 小単位検索情報または他の形式の小単位検索情報を形成できる。 一の形式は、 検 索情報の種別に注目した形式である。 具体的には検索情報を構造的検索情報、 意 味的検索情報および信号的検索情報それぞれに分割し、 分割して得られた構造的 検索情報から意味的検索情報および信号的検索情報のそれぞれに対応した構造情 報を抽出し、 意味的検索情報および信号的検索情報のそれぞれに抽出された構造 情報を付加する形式である。 他の形式は検索情報を時間的な区切りで分割し、 分 割後の検索情報のそれぞれからなる形式である。 小単位検索情報を一の形式およ び他の形式のいずれで形成するかを選択可能としたので、 オンライン検索、 オフ ラィン検索などのような検索の形態によつて最適な小単位検索情報を選ぶことが できるから、 効率の良い検索を実現できる。
この発明のさらなる他の局面に従う検索情報管理装置は、 動画像コンテンツに 対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、 第 1および第 2の形成部と選択部とを備える。
第 1の形成部は、 検索情報に含まれる同種の要素であって、 木構造中の 1また は複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意 の集合からなる 1または複数の部分木により与えられる、 1または複数の検索情 報要素を分離して検索情報から抜き出し、 抜き出された 1または複数の検索情報 要素に対応する構造情報を検索情報から抽出して、 抜き出された 1または複数の 検索情報要素と抽出された対応の構造情報を所定の形式に配列することで小単位 の検索情報を形成する。
第 2の形成部は、 検索情報を木構造に基づく時間的な区切りに従って分割し、 分割後の検索情報のそれぞれから小単位の検索情報を形成する。
選択部は、 所望する検索の形態に従って、 小単位の検索情報を、 第 1の形成部 および第 2の形成部のいずれで形成するかを選択する。
したがって、 動画像コンテンツに対応する木構造を有した検索情報を小単位検 索情報に分割して管理する際、 所望される検索の形態に従って、 一の形式または 他の形式で形成される。 一の形式は、 検索情報の種別に注目した形式であって、 詳細には、 検索情報に含まれる同種の要素であって、 木構造中の 1または複数の 葉あるいは木構造中の節および該節以下に連結された蕖または節の任意の集合か らなる 1または複数の部分木により与えられる、 1または複数の検索情報要素を 抜き出し、 抜き出された 1または複数の検索情報要素に対応する構造情報を抽出 して、 1または複数の検索情報要素および対応する構造情報を所定の形式に配列 することを示す。 他の形成は検索情報を木構造に基づく時間的な区切りに従って 分割し、 分割後の検索情報のそれぞれから形成することを示す。 小単位検索情報 を一の形式および他の形式のいずれで形成するかを選択可能としたので、 オンラ ィン検索、 オフライン検索などの検索の形態によつて最適な小単位検索情報を選 ぶことが可能となり、 効率の良い検索を実行できる。
この発明のさらなる他の局面に係る検索情報管理方法は、 動画像コンテンツに 対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために 分離ステップ、 構造情報抽出ステップおよび単位検索情報形成ステップを有する, 分離ステップでは、 検索情報は、 動画像コンテンツの構造を表わす構造的検索 情報と、 動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離して 出力される。
構造情報抽出ステップでは、 分離ステツプから出力された構造的検索情報は分 解され、 分解後の構造的検索情報から意味的検索情報および信号的検索情報の少 なくとも 1つに対応した情報が構造情報として抽出される。
単位検索情報形成ステップでは、 分離ステップから出力された意味的検索情報 および信号的検索情報の少なくとも 1つに、 構造情報抽出ステップにより抽出さ れた対応の構造情報を付加して小単位の検索情報が形成される。
したがつて検索情報から分離された意味的検索情報および信号的検索情報の少 なくとも 1つに、 構造情報抽出部により抽出された対応の構造情報を付カ卩した小 単位の検索情報を、 動画像コンテンツの検索情報とすることができるから、 検索 情報の量を少なくできる。 それゆえに、 動画像コンテンツの検索時に検索者が要 求する小単位検索情報を形成して要求元に伝送する場合には、 伝送すべき検索情 報量を少なくできる。
この発明のさらなる他の局面に係る検索情報管理方法は、 動画像コ
対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために 分離ステップ、 構造情報抽出ステップおよび単位検索情報形成ステップを備える, 分離ステップでは、 検索情報に含まれる同種の要素であって、 木構造中の 1ま たは複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任 意の集合からなる 1または複数の部分木により与えられる、 1または複数の検索 情報要素は分離されて検索情報から抜き出される。 構造情報抽出二 離ステップにより抜き出された 1または複数の検索情報要素に対応する構造情報 は検索情報から抽出される。 単位検索情報形成ステップでは分離ステップにより 抜き出された 1または複数の検索情報要素と構造情報抽出ステップにより抽出さ れた対応する構造情報とが所定の形式に従い配列されることで小単位の検索情報 が形成される。
したがつて小単位検索情報は、 元の検索情報より抜き出された 1または複数の 検索情報要素と対応する構造情報を所定の形式に従い配列されて形成されるので、 小単位検索情報に含まれる検索情報要素同士を特定しやすく、 動画像コン 検索実行時での小単位検索情報の利用を容易とすることができる c
この発明のさらなる他の局面にかかる検索情報管理方法は、 動画像コン に対応する木構造を有した検索情報から小単位の検索情報を形成して管理するた めに、 記録位置情報抽出ステップ、 構造情報抽出ステップおよび単位検索情報形 成ステップを備える。
記録位置情報抽出ステップでは、 検索情報に含まれる同種の要素であって、 木 構造中の 1または複数の葉あるいは木構造中の節および該節以下に連結された葉 または節の任意の集合からなる 1または複数の部分木により与えられる、 1また は複数の検索情報要素のそれぞれについて、 該検索情報要素が記録されている位 置を示した記録位置情報が抽出される。 構造情報抽出ステップでは、 検索情報か ら、 1または複数の検索情報要素に対応する構造情報が抽出される。 単位検索情 報形成ステップでは、 1または複数の検索情報要素のそれぞれに対応する記録位 置情報抽出ステップにより抽出された記録位置情報および構造情報抽出ステップ により抽出された構造情報が所定の形式に従!/、配列されることで小単位の検索情 報が形成される。
したがって、 小単位検索情報が示す 1または複数の検索情報要素を小単位検索 情報に配された記録位置情報により特定することができるから、 動画像コンテン ッの検索実行時での検索情報要素の利用を容易とすることが可能である。 動画像 コンテンツを検索するために小単位検索情報が要求されたときに、 要求元に小単 位検索情報が伝送きれる場合には、 検索情報要素自体を伝送しなくても要求元は 受信した小単位検索情報の記録位置情報により所望の検索情報要素を特定するこ とができ、 また所望の検索情報要素のみをその都度要求元に伝送することによつ て効率的な検索が可能である。
この発明のさらなる他の局面に係る検索情報管理方法は、 動画像コンテンツに 対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、 第 1および第 2の検索情報分割ステップと分割選択ステツプとを備える。
第 1の検索情報分割ステップでは、 検索情報は、 動画像コンテンツの構造を表 わす構造的検索情報と、 動画像コンテンツの意味内容における特徴を表わす意味 的検索情報と、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情 報とに分割されて、 分割により得られた構造的検索情報から意味的検索情報およ び信号的検索情報のそれぞれに対応した情報は構造情報として抽出されて、 抽出 された構造情報を分割により得られた意味的検索情報および信号的検索情報のそ れぞれに付加して小単位の検索情報が形成される。
第 2の検索情報分割ステップでは、 検索情報は、 木構造に基づく時間的な区切 りに従って分割されて、 分割後の検索情報のそれぞれから小単位の検索情報が形 成される。
分割選択ステップでは、 所望される検索の形態に従って、 検索情報を、 第 1の 検索情報分割ステップおよび第 2の検索情報分割ステップのいずれで分割するか が選択される。
したがって、 動画像コンテンツに対応する木構造を有した検索情報を、 小単位 検索情報に分割して管理する際には、 所望される検索の形態に従って一の形式の 小単位検索情報または他の形式の小単位検索情報を形成できる。 一の形式は、 検 索情報の種別に注目した形式である。 具体的には検索情報を構造的検索情報、 意 味的検索情報および信号的検索情報それぞれに分割し、 分割して得られた構造的 検索情報から意味的検索情報および信号的検索情報のそれぞれに対応した構造情 報を抽出し、 意味的検索情報および信号的検索情報のそれぞれに抽出された構造 情報を付加する形式である。 他の形式は検索情報を時間的な区切りで分割し、 分 割後の検索情報のそれぞれからなる形式である。 小単位検索情報を一の形式およ び他の形式のいずれで形成するかを選択可能としたので、 オンライン検索、 オフ ライン検索などのような検索の形態によって最適な小単位検索情報を選ぶことが できるから、 効率の良い検索を実現できる。
この発明のさらなる他の局面に従う検索情報管理方法は、 動画像コンテンツに 対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために 第 1および第 2の形成ステップと選択ステップとを備える。 第 1の形成ステップ では、 1または複数の部分木により与えられる、 1または複数の検索情報要素を 検索情報から分離して抜き出し、 抜き出された 1または複数の検索情報要素に対 応する構造情報を検索情報から抽出して、 抜き出された 1または複数の検索情報 要素と抽出された対応の構造情報を所定の形式に配列することで小単位の検索情 報を形成する。 ここで、 部分木は、 検索情報に含まれる同種の要素であって、 木 構造中の葉あるいは木構造中の節および該節以下に連結された葉または節の任意 の集合からなる。
第 2の形成ステップでは、 検索情報を木構造に基づく時間的な区切りに従って 分割し、 分割後の検索情報のそれぞれから小単位の検索情報を形成する。
選択ステップでは、 所望する検索の形態に従って、 小単位の検索情報を、 第 1 の形成ステップぉよび第 2の形成ステップのいずれで形成するかを選択する。 したがって、 動画像コンテンツに対応する木構造を有した検索情報を小単位検 索情報に分割して管理する際、 所望される検索の形態に従って、 一の形式または 他の形式で形成される。 一の形式は、 検索情報の種別に注目した形式であって、 詳細には、 1または複数の上述したような部分木により与えられる、 1または複 数の検索情報要素を抜き出し、 抜き出された 1または複数の検索情報要素に対応 する構造情報を抽出して、 1または複数の検索情報要素および対応する構造情報 を所定の形式に配列することを示す。 他の形式は検索情報を木構造に基づく時間. 的な区切りに従って分割し、 分割後の検索情報のそれぞれから形成することを示 す。 小単位検索情報を一の形式および他の形式のいずれで形成するかを選択可能 としたので、 オンライン検索、 オフライン検索などの検索の形態によって最適な 小単位検索情報を選ぶことが可能となり、 効率のよい検索を実行できる。
この発明のさらなる他の局面に係る検索装置は、 動画像コンテンツに対応する 木構造を有した検索情報を分割することにより得られた小単位の検索情報に基づ いて検索を実行するために、 小単位の検索情報を保持する保持部と、 小単位の検 索情報を用いて動画像コンテンッの検索を実行する検索実行部とを備える。 小単 位の検索情報は、 動画像コンテンツの意味内容における特徴を表わす意味的検索 情報と、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報のそ れぞれから形成される小単位の検索情報の少なくとも 1つであり、 かつ動画像コ ンテンッの構造を表わす構造的検索情報から得られる構造情報を含む。
したがって、 小単位検索情報は、 動画像コンテンツの意味内容における特徴を 表わす意味的検索情報と動画像コンテンツの信号上の物理的な特徴を表わす信号 的検索情報との少なくとも一方と、 動画像コンテンツの構造情報とを含んで形成 される。 それゆえに、 動画像コンテンツ検索時に意味的検索情報または信号的検 索情報の所望する情報に対応する小単位検索情報を利用することで、 効率よく検 索できる。
この発明のさらなる他の局面に係る検索装置は、 動画像コンテンツに対応する 木構造を有した検索情報を分割した小単位の検索情報に基づいて検索を実行する ために、 小単位の検索情報を保持する保持部および小単位の検索情報を用いて動 画像コンテンツの検索を実行する検索実行部とを備える。 この小単位の検索情報 は、 検索情報から分離して抜き出された検索情報に含まれる同種の要素であって、 木構造中の 1または複数の葉あるいは木構造中の節および該節以下に連結された 葉または節の任意の集合からなる 1または複数の部分木により与えられる、 1ま たは複数の検索情報要素および検索情報から抽出された 1または複数の検索情報 要素に対応した構造情報を所定形式に配列することで形成される。
したがって、 検索情報に含まれる同種の要素であって、 木構造中の 1または複 数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集 合からなる: Lまたは複数の部分木により与えられる、 1または複数の検索情報要 素を抜き出し、 また、 抜き出された 1または複数の検索情報要素に対応する構造 情報を抽出し、 1または複数の検索情報要素および対応する構造情報を所定の形 式に配列することで形成された小単位検索情報を用いて検索が行われるから、 小 単位検索情報に含まれる検索情報要素を特定しやすく、 効率よく検索を行なうこ とができる。 この発明のきらなる他の局面に係る検索装置は、 動画像コンテンツに対応する 木構造を有した検索情報から形成した小単位の検索情報に基づいて検索を実行す るために、 小単位の検索情報を保持する第 1の保持部、 小単位の検索情報を用い て得られる 1または複数の検索情報要素を保持する第 2の保持部および小単位の 検索情報および 1または複数の検索情報要素を用レ、て動画像コンテンツの検索を 実行する検索実行部を備える。 この小単位の検索情報は、 検索情報に含まれる同 種の要素であって、 木構造中の 1または複数の葉あるいは木構造中の節および該 節以下に連結された葉または節の任意の集合からなる 1または複数の部分木によ り与えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情報要 素が記録されている位置を示した記録位置情報と、 検索情報から抽出された対応 の構造情報とを所定の形式に配列することで形成される。
したがって、 検索情報に含まれる同種の要素であって、 木構造中の 1または複 数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集 合からなる 1または複数の部分木により与えられる、 1または複数の検索情報要 素のそれぞれの記録位置情報と構造情報が所定の形式に配列されて形成された小 単位検索情報を用いて検索が実行されるから、 小単位検索情報中の記録位置情報 で指し示される検索情報要素を特定しやすく、 また状況に応じて必要最小限の検 索情報要素のみをその都度取得することで、 効率的な検索を行なうことができる。 この発明のさらなる他の局面に係る検索情報管理装置は、 位置算出部と復元部 とを備える。
位置算出部では、 動画像コンテンツに対応する木構造を有した検索情報を分割 することにより得られた小単位の検索情報から、 木構造を有した検索情報の一部 を復元するために、 小単位の検索情報に含まれる構造情報から小単位の検索情報 に含まれる意味的検索情報あるいは信号的検索情報に対応する木構造中の位置を 求める。
復元部では、 小単位の検索情報に含まれる意味的検索情報あるいは信号的検索 情報と求められた木構造中の位置とから木構造を有した検索情報の一部を復元す る。
この小単位の検索情報は、 動画像コンテンッの意味内容における特徴を表わす 意味的検索情報と、 動画像コンテンツの信号上の物理的な特徴を表わす信号的検 索情報のそれぞれから形成される小単位の検索情報の少なくとも 1つであり、 か つ動画像コンテンツの構造を表わす構造的検索情報から得られる構造情報を含む。 したがって、 小単位検索情報は、 動画像コンテンツの意味内容における特徴を 表わす意味的検索情報と動画像コンテンツの信号上の物理的な特徴を表わす信号 的検索情報との少なくとも一方と、 動画像コンテンツの構造情報とを含んで形成 される。 それゆえに、 所望する意味的検索情報または信号的検索情報に対応する 小単位の検索情報を利用して、 木構造を有した検索情報の一部を復元することで、 少量の検索情報のみを木構造の形で管理することができる。
この発明のさらなる他の局面に係る検索情報管理装置は、 位置算出部と復元部 とを備える。
位置算出部では、 動画像コンテンツに対応する木構造を有した検索情報を分割 することにより得られた小単位の検索情報から木構造を有した検索情報の一部を 復元するために、 小単位の検索情報に含まれる構造情報から小単位の検索情報に 含まれる 1または複数の検索情報要素に対応する木構造中の位置を求める。
復元部は小単位の検索情報に含まれる 1または複数の検索情報要素と求められ た木構造中の位置とから木構造を有した検索情報の一部を復元する。
この小単位の検索情報は、 1または複数の部分木により与えられる、 1または 複数の検索情報要素および、 検索情報から抽出された 1または複数の検索情報要 素に対応した構造情報を所定形式に配列することで形成される。 ここで部分木は、 検索情報から分離して抜き出された、 検索情報に含まれる同種の要素であって、 木構造中の葉あるいは木構造中の節および該節以下に連結された葉または節の任 意の集合からなる。
したがって、 小単位検索情報は、 検索情報に含まれる同種の要素であって、 1 または複数の上述したような部分木により与えられる、 1または複数の検索情報 要素と、 対応する構造情報とを所定形式に配列することで形成される。
それゆえに、 所望する検索情報要素に対応する小単位の検索情報を利用して木 構造を有した検索情報の一部を復元することで、 少量の検索情報のみを木構造の 形で管理することができる。 この発明のさらなる他の局面に係る検索情報管理装置は、 位置算出部と、 検索 情報要素取得部と、 復元部とを備える。
位置算出部では、 動画像コンテンツに対応する木構造を有した検索情報から形 成した小単位の検索情報に基づいて、 木構造を有した検索情報の一部を復元する ために、 小単位の検索情報に含まれる構造情報から小単位の検索情報に含まれる 記録位置情報で示される 1または複数の検索情報要素に対応する木構造中の位置 を求める。
検索情報要素取得部では、 小単位の検索情報に含まれる記録位置情報に基づい て対応する 1または複数の検索情報要素を取得する。 復元部では、 取得された 1 または複数の検索情報要素と求められた木構造中の位置とから木構造を有した検 索情報の一部を復元する。
小単位の検索情報は、 1または複数の部分木により与えられる、 1または複数 の検索情報要素のそれぞれについて、 該検索情報要素が記録されている位置を示 した記録位置情報と、 検索情報から抽出された対応の構造情報とを所定形式に配 列することで形成される。 ここで部分木は、 検索情報に含まれる同種の要素であ つて、 木構造中の葉あるいは木構造中の節および該節以下に連結された葉または 節の任意の集合からなる。
したがって、 小単位検索情報は、 検索情報に含まれる 1または複数の上述した ような部分木により与えられる、 1または複数の検索情報要素それぞれの記録位 置情報と対応する構造情報とを所定形式に配列することで形成されるから、 所望 する検索情報要素に対応する記録位置情報からなる小単位の検索情報を利用して 木構造を有した検索情報の一部を復元することで、 少量の検索情報のみを木構造 の形で管理することができる。 図面の簡単な説明
図 1は、 本発明の第 1および第 2の実施の形態に係る検索情報管理装置の概略 構成図である。
図 2は、 本発明の第 1の実施の形態において用いる木構造を有する検索情報を 示す図である。 図 3は、 本発明の第 1の実施の形態に係る検索情報管理装置における意味的単 位検索情報形成部および信号的単位検索情報形成部の内部構成を示す図である。 図 4 A〜図 4 Cは、 本発明の第 1の実施の形態において分割により得られた意 眛的検索情報の単位検索情報を示す図である。
図 5 A〜図 5 Cは、 本発明の第 1の実施の形態において分割により得られた信 号的検索情報の単位検索情報を示す図である。
図 6は、 本発明の第 1の実施の形態に係る検索情報管理方法を示すフローチヤ -トである。
図 7は、 本発明の第 1および第 2の実施の形態に係る検索装置の概略構成図で ある。
図 8 A〜図 8 Dは、 本発明の第 2の実施の形態において形成された意味的検索 情報および信号的検索情報それぞれの単位検索情報を示す図である。
図 9は、 本発明の第 3の実施の形態に係る検索情報管理装置の概略構成図であ る。
図 1 0は、 動画像コンテンツの一般的な構造を説明する図である。
図 1 1は、 図 1 0の動画像コンテンツに付加される検索情報を木構造で示した 図である。
図 1 2は、 図 1 0の動画像コンテンツの検索情報の記録方式を説明する図であ る。
図 1 3 A〜図 1 3 Dは、 従来の木構造を有する検索情報の分割を示す図である。 図 1 4は、 従来の木構造を有する検索情報の管理方法を示す図である。 発明を実施するための最良の形態
この発明の各実施の形態を図面を参照し説明する。
(第 1の実施の形態)
図 1には、 本実施の形態の検索情報管理装置 1の機能構成が示される。 図 1に おいて検索情報管理装置 1は検索情報解析部 1 0 1、 構造的検索情報分解部 1 0 2、 意味的単位検索情報形成部 1 0 3、 信号的単位検索情報形成部 1 0 4および 単位検索情報制御部 1 0 5を含む。 検索情報解析部 1 0 1は、 動画像コ に対応した木構造を有する検索情報 1 5を入力し、 入力した検索情報 1 5を構造 的検索情報の 1つ以上の検索情報要素 1 5 2、 意味的検索情報の 1つ以上の検索 情報要素 1 5 3および信号的検索情報の 1つ以上の検索情報要素 1 5 4に分離し 選別して出力する。
構造的検索情報分解部 1 0 2は、 検索情報解析部 1 0 1から出力された 1っ以 上の構造的検索情報要素 1 5 2を受取り、 受取った検索情報要素 1 5 2から必要 最小限の構造情報 5 0を抜き出して、 意味的単位検索情報形成部 1 0 3と信号的 単位検索情報形成部 1 0 4に出力する。 より詳細には、 構造的検索情報分解部 1 0 2は、 与えられる 1つ以上の構造的検索情報要素を入力して分解し、 分解後の 1つ以上の構造的検索情報要素の内容から意味的検索情報および信号的検索情報 の少なくとも 1つに対応した情報を最小限の構造情報 5 0として抽出する。
図 2には本実施の形態で用いる木構造を有する検索情報が示される。 説明の簡 便のために、 この検索情報 1 5では、 構造的検索情報要素 1 5 2はシーンそれぞ れぉよびシヨットそれぞれのノード I D情報および時刻情報のみからなり、 意味 的検索情報要素 1 5 3はシーンそれぞれの情景描写情報、 ならびにショットそれ ぞれの登場人物情報および行動描写情報のみからなり、 信号的検索情報要素 1 5 4はシ ンそれぞれの代表色情報ならびにショットそれぞれの色頻度情報および 動き強度情報のみからなるものとしている。 なお、 実際の検索情報 1 5は、 この 他にも多種の検索情報要素を有するが、 本発明はそれらの多種の検索情報要素そ れぞれにも同様に適用できる。
構造的検索情報分解部 1 0 2は必要最小限の構造情報 5 0として、 構造化情報 (ノード I Dなど) 5 O Aおよび構造属性情報 (時刻情報など) 5 0 Bのいずれ か一方を選択して、 または両方を選択して抜き出す。 構造情報 5 0としてどの情 報を選択するかは、 その後に得られる各単位検索情報を用いて実行される検索の 形態に依存する。
構造化情報 5 O Aが選択された場合には、 動画像コンテンツの有する階層構造 や、 動画像全体における各シーン、 ショット相互の関係などに重きをおいた検索 を実行できる。 構造属性情報 5 0 Bが選択された場合には、 検索結果に対応した 動画像コンテンツ内の箇所を即座に抜き出して表示するなどの検索が実行できる。 構造化情報 5 0 Aについてさらに詳しく述べる。 構造化情報 5 0 Aとは検索情 報の木構造を形作るための情報であり、 元の木構造を復元することを可能ならし める情報である。 本実施の形態で示した構造化情報 5 0 Aであるノ一ド I D情報 は、 節 ND間の連結関係 ( 「# 1一 1」 、 「# 1— 2」 は 「# 1」 に連結される 子節 NDであるなど) を示しており、 この情報を用いて元の木構造を復元するこ とができる。 したがって、 元の木構造を復元することが必要となる検索では、 構 造化情報 5 O Aが構造情報として選択される。
また図 2では、 各検索情報要素に当る葉 R Fには I D情報が付加されていない 力 S、 各葉 R Fに I D情報を与えてもよい。 構造化情報 5 O Aとしてはこの他に、 木構造中の各 「枝」 (根 R、 節 N D、 葉 R Fを相互に繋いでいる棒の部分) にコ 一ドを害 U振り、 根 Rからある節 N Dあるいは葉 R Fに至るまでに通る枝のコ ド で、 その節 NDあるいは葉 R Fの位置情報を与えることもできる。
また、 構造的検索情報要素 1 5 2から抽出される構造情報 5 0は、 必要最小限 の情報とするために、 必要に応じて冗長な情報を削除し情報の圧縮を行なっても よい。 たとえば、 構造情報 5 0として構造化情報 5 0 Aであるノ一ド I D情報を 用いた場合に、 「# 1— 1」 の次に来る 「# 1— 2」 は上位の節 N Dのノード I Dである 「# 1」 が共通であるため、 「# 1 J を省略し 「2」 という情報 ©みを 構造情報 5 0として与える、 といったことが可能である。 また、 「1」 の次に必 ず 「2」 が来る (必ず 1増加する) ことがわかっていれば、 「1増加」 に当る差 分情報を生成して構造情報 5 0として与えてもよい。 必要最小限の構造情報 5 0 を抽出する方法はこれらに限らない。
意味的単位検索情報形成部 1 0 3は、 検索情報解析部 1 0 1から与えられた意 味的検索情報要素 1 5 3と、 構造的検索情報分解部 1 0 2から与えられる必要最 小限の構造情報 5 0とを入力し、 入力したそれら情報を配列して意味的検索情報 の単位検索情報 1 5 3 Aを形成する。
図 3には、 図 1の意味的単位検索情報形成部 1 0 3の内部構成が示される。 図 3において意味的単位検索情報形成部 1 0 3は要素種別判定部 2 0 1、 検索情報 配列部 2 0 2および共通情報抽出部 2 0 3を有する。 ここでは、 検索情報 1 5の 木構造中の同種の節 N D (あるいは根 R ) に接続された同種の検索情報要素 1 5 3 (葉 R F ) を、 検索情報要素 1 5 3の種別ごとに、 それらの木構造における出 現順序関係を保持しながら配列して単位検索情報 1 5 3 Aを形成する。 すなわち、 要素種別判定部 2 0 1は検索情報解析部 1 0 1から与えられる意味的検索情報の 検索情報要素 1 5 3を受理すると、 受理した検索情報要素 1 5 3それぞれを、 そ の種別 (種別は登場人物情報、 行動描写情報などのような異なる情報の種類を示 す) を判定しながら検索情報配列部 2 0 2および共通情報抽出部 2 0 3に判定結 果とともに出力する。 検索情報配列部 2 0 2は要素種別判定部 2 0 1から与えら れる情報に基づいて種別ごとに、 構造的検索情報分解部 1 0 2で抜き出された対 応する必要最小限の構造情報 5 0とともに検索情報要素 1 5 3を配列して単位検 索情報 1 5 3 Aを形成する。 このとき、 検索情報配列部 2 0 2により形成された 種別ごとの単位検索情報 1 5 3 Aそれぞれに含まれる検索情報要素 1 5 3に共通 する情報 (たとえば検索情報要素 1 5 3の種別を示す情報など) 1 5 3 Bは共通 情報抽出部 2 0 3で抽出されて、 検索情報配列部 2 0 2に与えられるので、 検索 情報配列部 2 0 2は形成した単位検索情報 1 5 3 Aの先頭に共通情報抽出部 2 0 3から与えられた共通情報 1 5 3 Bを配置する。 共通情報 1 5 3 Bとしてこの他 に、 意味的検索情報要素 1 5 3のフォーマツトゃデ^"タ長を示す情報なども使用 することができ、 共通情報 1 5 3 Bとして用いられる情報について特に制限はな レ、。
構造的検索情報分解部 1 0 2で抜き出された構造情報 5 0あるいは元の構造的 検索情報要素 1 5 2から、 各検索情報要素が同じ階層の節に接続されていた場合 の階層情報などのような共通化可能な情報を共通情報抽出部 2 0 3において抽出 し、 付属の共通情報 1 5 3 Bとして単位検索情報の先頭に配置することもできる。 また、 この構造情報 5 0あるいは構造的検索情報要素 1 5 2から得られる節 N Dの階層情報に基づけば、 要素種別としては同一であるが付される節 N Dの階層 が互いに異なる意味的検索情報要素 1 5 3同士を区別し、 それぞれ同じ階層に付 された意味的検索情報要素 1 5 3のみからなる単位検索情報 1 5 3 Aを別々に形 成することができる。
共通情報 1 5 3 Bを配置する位置についても、 単位検索情報 1 5 3 Aの先頭に 限定されず、 単位検索情報 1 5 3 Aの最後尾に配置されてもよく、 単位検索情報 1 5 3 A内に配置されてもよく、 あるいは共通情報 1 5 3 Bは別の記録場所に単 位検索情報 1 5 3 Aと該共通情報 1 5 3 Bの対応関係を示す情報とともに記録さ れるとしてもよい。 共通情報 1 5 3 Bおよび共通情報抽出部 2 0 3による処理は 省略されてもよい。
図 4 A〜図 4 Cは図 2の木構造を有する検索情報 1 5から意味的検索情報要素 1 5 3である情景描写情報、 登場人物情報および行動描写情報を抜き出して、 抜 き出したこれら意味的検索情報要素 1 5 3と対応の構造情報 5 0とを共通情報 1 5 3 Bとともに配列して形成された単位検索情報 1 5 3 Aを示す図である。
なお、 図 4 A〜図 4 Cの単位検索情報 1 5 3 Aでは、 意味的検索情報要素 1 5 3と対応する構造情報 5 0とを、 対になる形で交互に配列した例を示したが、 意 味的検索情報要素 1 5 3と対応する構造情報 5 0の配列の形式はこれに限らない。 たとえば、 先に構造情報 5 0のみをまとめて配列し、 その後に対応する意味的検 索情報要素 1 5 3を連続して配列するといつた形式を取ってもよく、 またその逆 であってもよい。 木構造中の出現順序関係を保って配列する以外に、 配列の形式 に関する制限はない。
構造的検索情報分解部 1 0 2で抜き出された構造情報 5 0あるいは構造的検索 情報要素 1 5 2から意味的検索情報要素 1 5 3に対する共通情報 1 5 3 Bが抽出 される場合には、 意味的検索情報要素 1 5 3のそれぞれに対応する構造情報 5 0 として、 共通情報 1 5 3 Bからの差分を示した差分情報 (共通化不可能な情報) を用いることもできる。
構造情報 5 0として構造化情報 5 O Aのノ^"ド I D情報を用いた場合、 次のよ うな手順で単位検索情報 1 5 3 Aを形成することができる。 たとえば、 「# 1— 1」 のノード I Dを持つ節 N Dと 「# 1— 2」 のノ ド I Dを持つ節 NDに対し て、 共通する上位節 N Dのノード I Dに相当する情報 「# 1」 を共通情報 1 5 3 Bとして抜き出して、 単位検索情報 1 5 3 A中に 1つだけ付加し、 共通情報 「# 1 J を差引いたノード I Dの差分情報 「1」 および 「2」 のそれぞれを意味的検 索情報要素 1 5 3それぞれに対応する構造情報 5 0として配列すればよい。
あるいは 1つの階層に注目してその節 N Dの階層情報を共通情報として付加し、 その階層からの差分を示す情報 ( 1つ上の階層または 1つ下の階層を示す情報な ど) を意味的検索情報要素 1 5 3ごとに付加するとしてもよい。 その際には差分 のない意味的検索情報要素 1 5 3では階層情報に関する付加情報を省略すること としてもよい。 この他にも意味的検索情報要素 1 5 3ごとに付加する情報として、 そのシーンあるいはそのショットに該当する意味的検索情報要素 1 5 3があるか ないかを示したフラグであってもよいし、 あるいは意味的検索情報要素 1 5 3を 使用する際の重要度などを示す情報であってもよく、 意味的検索情報要素 1 5 3 ごとに付加される情報に特に制限はない。
信号的単位検索情報形成部 1 0 4は、 検索情報解析部 1 0 1から信号的検索情 報の 1つ以上の検索情報要素 1 5 4を受取り、 構造的検索情報分解部 1 0 2から 与えられる必要最小限の構造情報 5 0を受取り、 受取った検索情報要素 1 5 4と 構造情報 5 0を配列して信号的検索情報の 1つ以上の単位検索情報 1 5 4 Aを形 成し出力する。 信号的単位検索情報形成部 1 0 4の内部構成も図 3の構成と同様 である。 ここでは、 検索情報 1 5の木構造中の同種の節 ND (あるいは根 R ) に 接続された同種の信号的検索情報要素 1 5 4 (葉 R F ) を、 信号的検索情報要素 1 5 4の種別ごとに、 それらの木構造における出現順序関係を保持しながら配列 することで 1つ以上の単位検索情報 1 5 4 Aを形成して出力する。 すなわち、 図 4の要素種別判定部 2 0 1は信号的検索情報要素 1 5 4を受理すると受理した信 号的検索情報要素 1 5 4それぞれの種別 (色頻度情報や動き強度情報などのよう な異なる情報の種別) を判定して、 判定結果と信号的検索情報要素 1 5 4を検索 情報配列部 2 0 2および共通情報抽出部 2 0 3に出力する。 検索情報配列部 2 0 2は与えられた情報に基づいて種別ごとに信号的検索情報要素 1 5 4を、 構造的 検索情報分解部 1 0 2から与えられた対応する必要最小限の構造情報 5 0ととも に配列して 1つ以上の単位検索情報 1 5 4 Aを形成して出力する。 このとき、 共 通情報抽出部 2 0 3は、 与えられた情報に基づいて、 検索情報配列部 2 0 2によ り形成された単位検索情報 1 5 4 Aそれぞれに含まれる信号的検索情報要素 1 5 4に共通する情報 (たとえば信号的検索情報要素 1 5 4の種別を示す情報など) 1 5 4 Bを信号的検索情報要素 1 5 4から抽出し検索情報配列部 2 0 2に与える ので、 検索情報配列部 2 0 2は共通情報抽出部 2 0 3から与えられた共通情報 1 5 4 Bを単位検索情報 1 5 4 Aの先頭に配置する。 共通情報 1 5 4 Bとしてこの 他、 信号的検索情報要素 1 5 4のデータフォーマツト、 色頻度情報のサンプル数 やデータ長なども使用することができ、 共通情報 1 5 4 Bとして用いられる情報 に特に制限はない。
構造的検索情報分解部 1 0 2で抜き出された構造情報 5 0あるいは元の構造的 検索情報要素 1 5 2力 ら、 各検索情報要素が同じ階層の節に接続されていた場合 の階層情報などのような共通可能な情報を共通情報抽出部 2 0 3で抽出し、 付属 の共通情報 1 5 4 Bとして信号的単位検索情報 1 5 4 Aの先頭に配置することも できる。
また、 この構造情報 5 0あるいは構造的検索情報要素 1 5 2から得られる節 N Dの階層情報に基づけば、 要素種別としては同一であるが付される節 N Dの階層 が互いに異なる信号的検索情報要素 1 5 4同士を区別し、 それぞれ同じ階層に付 された信号的検索情報要素 1 5 4のみからなる単位検索情報 1 5 4 Aを別々に形 成することができる。
共通情報 1 5 4 Bを配置する位置についても特に制限はない。 たとえば、 共通 情報 1 5 4 Bは単位検索情報 1 5 4 Aの最後尾に配置されてもよく、 単位検索情 報 1 5 4 A内に配置されてもよい。 共通情報 1 5 4 Bを別の記録場所に該共通情 報 1 5 4 Bと単位検索情報 1 5 4 Aとの対応関係を示す情報とともに記録すると してもよい。 共通情報 1 5 4 Bおよび共通情報抽出部 2 0 3による処理は省略さ 図 5 A〜図 5 Cの単位検索情報 1 5 4 Aは、 図 2の木構造を有する検索情報 1 5から信号的検索情報要素 1 5 4である代表色情報、 色頻度情報および動き強度 情報をそれぞれ抜き出して、 抜き出されたこれら信号的検索情報要素 1 5 4と対 応の構造情報 5 0とを共通情報 1 5 4 Bとともに配列して形成されたものである。 なお、 図 5 A〜図 5 Cの単位検索情報 1 5 4 Aでは、 信号的検索情報要素 1 5 4と対応する構造情報 5 0とを、 対になる形で交互に配列した例を示したが、 信 号的検索情報要素 1 5 4と対応する構造情報 5 0の配列の形式はこれに限らない。 たとえば、 先に構造情報 5 0のみをまとめて配列し、 その後に対応する信号的検 索情報要素 1 5 4を連続して配列するといつた形式を取ってもよく、 またその逆 であってもよい。 木構造中の出現順序関係を保って配列する以外に、 配列の形式 に関する制限はない。
構造的検索情報分解部 1 0 2で抜き出された構造情報 5 0あるいは構造的検索 情報要素 1 5 2から信号的検索情報要素 1 5 4に対する共通情報 1 5 4 Bが抽出 される場合には、 信号的検索情報要素 1 5 4のそれぞれに対応する構造情報 5 0 として、 共通情報 1 5 4 Bからの差分を示した差分情報 (共通化不可能な情報) を用いることもできる。 構造情報 5 0として構造化情報 5 O Aのノ^"ド I D情報 を用いた場合、 次のような手順で単位検索情報 1 5 4 Aを形成することができる。 たとえば、 「# 1— 1」 のノード I Dを持つ節 N Dおよび 「# 1— 2」 のノ」ド I Dを持つ節 N Dに対して、 共通する上位節 N Dのノ ド I Dに相当する情報 「# 1」 を共通情報 1 5 4 Bとして抜き出して、 単位検索情報 1 5 4 A中に 1つ だけ付加し、 共通情報 「# 1」 を差引いたノード I Dの差分情報 「1」 および 「2」 のそれぞれを信号的検索情報要素 1 5 4それぞれに対応する構造情報 5 0 として配列する。
あるいは、 1つの階層に注目してその節 N Dの階層情報は共通情報 1 5 4 Bと して単位検索情報 1 5 4 Aに付加し、 その階層からの差分を示す情報 (1つ上の 階層または 1つ下の階層を示す情報など) を信号的検索情報要素 1 5 4ごとに付 加するとしてもよい。 その際に差分なしの信号的検索情報要素 1 5 4では差分情 報の付加を省略してもよい。
この他にも、 信号的検索情報要素 1 5 4ごとの付加情報として、 そのシーンあ るいはショットに該当する信号的検索情報要素 1 5 4があるか否かを示したフラ グであってもよいし、 信号的検索情報要素 1 5 4を使用する際の重要度を示す情 報であってもよく、 信号的検索情報要素 1 5 4ごとの付加情報に特に制限はない。 意味的単位検索情報形成部 1 0 3および信号的単位検索情報形成部 1 0 4で生 成された構造情報 5 0を含む意味的検索情報および信号的検索情報の単位検索情 報 1 5 3 Aおよび 1 5 4 Aは、 単位検索情報制御部 1 0 5に与えられる。
単位検索情報制御部 1 0 5は、 検索情報管理装置 1外の処理部 1 6に接続され る。 処理部 1 6は情報を伝送するための伝送部や情報を何らかのメディアに記録 して蓄積するための蓄積部や情報の検索処理を実行するための部分などに相当す る。 処理部 1 6が伝送部であった場合、 検索情報管理装置 1は伝送部からの要求 などに応じた 1つ以上の単位検索情報を単位検索情報 1 53 Aおよび 1 54Aの 中から選択し、 処理部 16 (伝送部) に与える。
図 6のフロ^"チャートを参照して、 本実施の形態に係る検索情報の管理方法を 説明する。 まず、 分割すべき検索情報 15が指定されるので、 検索情報解析部 1 01は指定された検索情報 15を入力し (ステップ S l。 以下、 ステップ Sは単 に Sという) 、 入力した検索情報 15を検索情報要素ごとに分離し、 分離して得 られた構造的検索情報要素 1 52、 意味的検索情報要素 153および信号的検索 情報要素 154のそれぞれを順次出力する (S 2) 。 順次得られた検索情報要素 は構造的検索情報に相当するの力、 意味的検索情報に相当するのか、 あるいは信 号的検索情報に相当するのかが判定されて、 判定結果に基づいて該検索情報要素 は構造的検索情報分解部 102、 意味的単位検索情報形成部 103および信号的 単位検索情報形成部 104のいずれかに与えられる (S 3) 。
検索情報要素が構造的検索情報であれば、 その構造的検索情報要素 152から 意味的検索情報および信号的検索情報の単位検索情報 1 53 Aおよび 154 Aを 形成するのに必要な構造情報 50を抽出し (S 4) 、 再び検索情報要素の分離、 読込を続ける (S 2) 。
検索情報要素が意味的検索情報であれば、 さらにその種別を判定し (S 5) 、 その意味的検索情報要素 1 53を、 それと同一の種別のそれまでに配列した意味 的検索情報要素 153の配列の最後尾に、 既に抽出されている構造情報 50とと もに配置する (S 6) 。
検索情報要素が信号的検索情報であれば、 さらにその種別を判定し (S 7) 、 その信号的検索情報要素 154を、 それと同一の種別のそれまでに配列した信号 的検索情報要素 154の配列の最後尾に、 既に抽出されている構造情報 50とと もに配匱する (S 8) 。
ステップ S 4~S 8の単位検索情報 153 Aおよび 154Aを形成するための 処理それぞれを終えた時点で、 検索情報 15の終わりか否かを判定し (S 9) 、 判定結果終わりであれば、 形成された単位検索情報 153 Aおよび 154 Aは単 位検索情報制御部 105に与えられ、 ここで保持される (S 10) t 終わりで なければ、 再び検索情報要素の分離、 読込が継続される (S 2) 。 以上のような構成およびフローチャートに従う処理を行なうことによって、 動 画像コンテンツの検索時に必要とする最小限の検索情報を転送可能あるいは利用 可能とし、 効率的な検索を実行することができる。
図 7には本実施の形態に係る検索装置 2の概略構成が示される。 図 7に示され るように検索者 1 8により操作される検索装置 2は動画像コンテンツについての 検索を実行するための検索実行部 7 0 1、 意味的単位検索情報保持部 7 0 2、 信 号的単^ Ϊ検索情報保持部 7 0 3および検索情報制御部 7 0 4を有する。 検索実行 部 7 0 1は、 検索者 1 8から入力される検索要求に従って、 意味的単位検索情報 保持部 7 0 2に保持 (記録) されている意味的単位検索情報 1 5 3 Aおよび信号 的単位検索情報保持部 7 0 3に保持 (記録) されている信号的単位検索情報 1 5 4 Aのうちの 1つ以上からなる任意の組合せを選択して、 選択された組合せによ る単位検索情報を取得して、 取得した単位検索情報を用いて検索を実行する。 選 択すべき単位検索情報が対応する単位検索情報保持部 7 0 2および 7 0 3のいず れかに保持されていない場合には、 検索実行部 7 0 1から検索情報制御部 7 0 4 に該当する単位検索情報の取得要求が出力される。
検索情報制御部 7 0 4は伝送部または蓄積部 1 9に接続される。 伝送部または 蓄積部 1 9は、 複数種類の単位検索情報を伝送するための伝送部、 または複数種 類の単位検索情報を予め所定メディアに記録して蓄積している蓄積部を有する。 検索情報制御部 7 0 4は、 検索実行部 7 0 1から単位検索情報の取得要求を入力 すると、 この取得要求に応じて伝送部または蓄積部 1 9から取得要求に対応の単 位検索情報を伝送または読出しにより取得し、 取得した単位検索情報を単位検索 情報保持部 7 0 2および 7 0 3のうちのいずれか対応するものに格納する。 検索 実行部 7 0 1は、 このようにして取得された単位検索情報を用いて検索を実行す る。
たとえば、 動画像コンテンツの色特徴に基づいた検索手法が最も望ましいと考 えられた場合に、 検索者 1 8は色頻度情報を要求する。 あるいは、 検索者 1 8は 単に 「色に関する情報がほしい」 というような大まかな要求を入力し、 この要求 に対して検索実行部 7 0 1が判断し、 適切な 「色頻度情報の取得要求を出す」 と してもよい。 この要求に対して、 色頻度情報および最小限の構造情報 5 0から形 成された単位検索情報 1 5 4 Aを伝送部または蓄積部 1 9から取得する。
こうして得られた構造情報および色頻度情報から形成された単位検索情報 1 5 4 Aに基づいて検索実行部 7 0 1は検索を実行する。 このようにすることで、 検 索時に伝送する検索情報の量を、 従来に比べ少なくすることができる。 ここで示 した検索の手順は一例であって、 これに限定されない。
取得された単位検索情報が保持される期間に関して特に制限はない。 たとえば 検索を実行するクライアント端末が携帯型情報端末のような記憶容量の小さいも のであつた場合、 取得される単位検索情報は 1回の検索実行ごとに破棄されると してもよいし、 十分な記憶容量を持つ端未の場合には、 検索の実行期間にわたつ て継続的に保持されとしてもよい。 あるいは、 ある一定期間、 単位検索情報を保 持するものとし、 この一定期間内にアクセスがなければその単位検索情報を破棄 するといつた管理であってもよい。
また、 本実施の形態で示した検索装置では、 形成された単位検索情報に基づい て検索を行なうことを示したが、 検索の形態によっては、 得られた単位検索情報 から元の木構造の検索情報 (その一部分) を復元し、 その復元された木構造の検 索情報に基づいて検索を行なう場合もある。
本実施の形態で示した検索情報管理装置によって形成される単位検索情報のそ れぞれは、 構造情報を含むことから、 構造情報 (構造化情報) を利用して元の木 構造を復元することが可能である。 すなわち、 単位検索情報に含まれる構造情報 から木構造中の位置情報を求め、 求められた位置情報で示される木構造中の位置 に単位検索情報中の対応する検索情報要素を葉 R Fとして接続することで、 木構 造が復元される。 この単位検索情報から木構造への復元は検索に利用する他、 伝 送路が狭いネットワークなどで検索情報を他者に伝送する際に木を細かく分解し て、 分解したそれぞれを伝送先に送り、 受取った側で木を復元して検索情報とし て管理するといつた場合に用いられる。
図 4 A〜図 4 Cおよび図 5 A〜図 5 Cで示される単位検索情報 (1 5 3 A、 1 5 4 A) は、 検索情報要素 (1 5 3、 1 5 4 ) それぞれを順に配列したものであ つて、 検索情報要素のそれぞれは結合されてもよいし、 検索情報要素のそれぞれ が独立した形式で保持されていてもよい。 後者の場合、 要求に応じて必要な数だ けの検索情報要素 (1 5 3、 1 5 4 ) を部分的な単位検索情報 (1 5 3 A、 1 5 4 A) として出力することができる。
図 4 A〜図 4 Cおよび図 5 A〜図 5 Cでは、 図 2の検索情報 1 5に含まれる同 種の検索情報要素 (1 5 3、 1 5 4 ) のすベてを用いて単位検索情報 (1 5 3 A、 1 5 4 A) を形成しているが、 一部の検索情報要素のみを用いて単位検索情報を 形成するものであってもよい。 一部とは、 時間的に連続して並んだ検索情報要素 の部分集合 (全体からみた部分集合) 、 一定間隔で拾い上げたサブサンプル集合 などを含む。
本実施の形態で示した検索情報 1 5および検索情報要素 (1 5 2、 1 5 3、 1 5 4 ) のそれぞれはあくまで例であり、 検索情報および検索情報要素はこれらに よって限定されるものではない。 検索情報 1 5の木構造はさらに多数の階層を有 するものであっても、 逆に 2階層 (根 Rと 1階層目の 1つ以上の節 NDのみ) か らなるものであってもよい。 どのような形の木構造であってもよい。 検索情報要 素はどのような種類のものであっても、 本実施の形態を適用できる。
本実施の形態では、 単位検索情報としてまとめられる検索情報要素を、 色頻度 情報などのように木構造中の 1つ 1つの 「葉」 に相当する個々の情報であるとし ているが、 これに限定されない。 たとえば、 色頻度情報および代表色情報などの 複数の 「色」 に関連する情報をまとめる 「色情報」 を 1つの要素とし、 これを検 索情報要素と捉えて単位検索情報を形成することもできる。
この場合、 色頻度情報のそれぞれや代表色情報のそれぞれは木構造中の 「葉 R F J に相当し、 「色情報」 はそれらの葉 R Fを下位に持った 「節 ND」 に相当す る。 すなわち、 本実施の形態において、 単位検索情報を形成する検索情報要素そ れぞれは、 木構造中の 「葉 R F」 に相当する個々の細かな検索情報に限られるも のではなく、 あるまとまりとみなすことが可能な 「節 ND」 以下の細かな検索情 報による任意の集合であってもよい。
このとき、 ある節 N D以下に連結された葉 R Fあるいは節 NDの任意の集合 (各節 NDはさらに下位の葉 R Fあるいは節 NDに連結される) は、 初めの節 N Dを根 Rと捉えると木を形成しており、 この木は元の木に対して 「部分木」 と呼 ばれる。 つまり、 検索情報を表わす木構造中の上述した 「部分木」 に対応する検 索情報の部分を検索情報要素と捉えて本実施の形態を適用することも可能である。 本実施の形態に係る検索情報管理装置 1ならびに検索情報管理方法では、 木構 造を有する検索情報 1 5に含まれるすべての検索情報要素 (1 5 3、 1 5 4 ) を 同様に抜き出して、 抜き出された検索情報要素それぞれに対応する単位検索情報 ( 1 5 3 A、 1 5 4 A) のすベてを並行して形成し、 形成されたすベての単位検 索情報を伝送するために、 または蓄積するために、 または検索処理に供給するた めに管理するとしているが、 特定種類の検索情報要素のみを抜き出して抜き出さ れた特定種類の検索情報要素に対応する単位検索情報のみを形成するとしてもよ い。
たとえば、 検索情報要素のうち色頻度情報のみを抜き出し、 抜き出された色頻 度情報に対応の単位検索情報のみを形成して、 単位検索情報制御部 1◦ 5で管理 する。 この場合には、 図 1に示された検索情報管理装置 1において検索情報解析 部 1 0 1、 構造的検索情報分解部 1 0 2、 信号的単位検索情報形成部 1 0 4およ び単位検索情報制御部 1 0 5のみが機能するから意味的単位検索情報形成部 1 0 3は省略されてもよい。
これは、 本実施の形態に係る検索装置 2でも同様である。 信号的検索情報のう ち特に色頻度情報のみに基づき検索が実行されるとし、 かつ意味的検索情報が不 要であるとされた場合には、 図 7の検索装置 2の検索実行部 7 0 1、 信号的単位 検索情報保持部 7 0 3および検索情報制御部 7 0 4のみが機能するから、 意味的 単位検索情報保持部 7 0 2は省略できる。
またこのように、 検索情報 1 5中の一部の意味的検索情報要素 1 5 3または信 号的検索情報要素 1 5 4を抜き出して、 抜き出された検索情報要素 (1 5 3また は 1 5 4 ) を用いて対応する単位検索情報 (1 5 3 Aまたは 1 5 4 A) を形成す る場合、 これら検索情報要素 (1 5 3または 1 5 4 ) が抜き出された残りの検索 情報 1 5は、 木構造を保持したままで利用されるとしてもよい。
すなわちこの場合、 元の検索情報 1 5を表わしていた木は、 元の木の一部から なる部分的な木と複数の意味的検索情報要素 1 5 3からなる 1つあるいは複数の 単位検索情報 1 5 3 Aまたは複数の信号的検索情報要素 1 5 4からなる 1つある いは複数の単位検索情報 1 5 4 Aとに分解される。 本発明では、 抜き出される検 索情報要素に何を選ぶかによつて、 木構造を有する元の検索情報 1 5をさまざま な形に分解できる。
なお、 本実施の形態では、 検索情報中の構造情報、 すなわち節 N Dあるいは葉 Fの木構造中の位置情報などと検索情報要素の種別情報、 すなわち行動描写情 報 (意味的検索情報要素 1 5 3 ) や色頻度情報 (信号的検索情報要素 1 5 4 ) な どであることを示す情報とを、 それぞれ独立した情報として説明した。 一方、 検 索情報を構成する検索情報要素が予め決められており、 木の構造が固定であるよ うな検索情報の場合では、 検索情報要素それぞれの木構造中の位置が特定される ため、 構造情報のみによって検索情報要素の種別を表わすことができる。 すなわ ち、 構造情報と種別情報は等価となる。 この場合、 たとえば本実施の形態で説明 した検索情報要素 1 5 3および 1 5 4に対応の共通情報 1 5 3 Bおよび 1 5 4 B として種別情報を付加する処理は、 対応する共通の構造情報を付加しても行なう ことができる。
(第 2の実施の形態) '
第 1の実施の形態では、 木構造を有した検索情報 1 5から各種の検索情報要素 を、 すなわち構造的検索情報要素 1 5 2、 意味的検索情報要素 1 5 3および信号 点検索情報要素 1 5 4のそれぞれを分離して抜き出し、 抜き出された構造的検索 情報要素 1 5 2からは構造情報 5 0を抽出し、 抽出された構造情報 5 0と同種の 意味的検索情報要素 1 5 3自体または同種の信号的検索情報要素 1 5 4自体とを 順に配列することによって、 意味的単位検索情報 1 5 3 Aまたは信号的単位検索 情報 1 5 4 Aを形成していた。
これに対し、 本実施の形態においては、 意味的検索情報要素 1 5 3および信号 的検索情報要素 1 5 4それぞれが予め検索情報 1 5から分離されて個別に記録さ れている場合に、 意味的検索情報要素 1 5 3および信号的検索情報要素 1 5 4そ れぞれについてそれ自体ではなくその記録位置を示した情報を取得し、 取得され た記録位置情報を構造情報とともに順に配列することにより意味的単位検索情報 1 5 3 Eおよび信号的単位検索情報 1 5 4 Eを形成する。
このような構成においても、 第 1の実施の形態で得られるのと同様の効果を得 ることができる。 ここでは、 本実施の形態に係る検索情報管理装置 1 Aおよび検 索装置 2 Aについて第 1の実施の形態のそれらとの相違点に注目して説明する。 したがって、 本実施の形態に関する詳細説明はここでは省略するが、 それらにつ いては第 1の実施の形態で示した検索情報管理装置 1および方法、 ならびに検索 装置 2に関する詳細説明を同様に適用できる。
本実施の形態に係る検索情報管理装置 1 Aの概略構成は第 1の実施の形態と同 様に図 1を用いて示される。 検索情報管理装置 1 Aの機能は、 以下に説明するよ うに、 第 1の実施の形態のそれとは若干異なる。
図 1を参照して検索情報管理装置 1 Aは検索情報解析部 1 0 1 A、 構造的検索 情報分解部 1 0 2、 意味的単位検索情報形成部 1 0 3 A、 信号的単位検索情報形 成部 1 0 4 Aおよび単位検索情報制御部 1 0 5 Aを含む。 検索情報解析部 1 0 1 Aは、 動画像コンテンツに対応した木構造を有する検索情報 1 5を調べて検索情 報 1 5に含まれる構造的検索情報要素 1 5 2は構造的検索情報分解部 1 0 2へ出 力し、 意味的検索情報要素 1 5 3および信号的検索情報要素 1 5 4それぞれを特 定するとともに、 特定された検索情報要素 1 5 3および 1 5 4について記録位置 情報 1 5 3 Dおよび 1 5 4 Dのそれぞれを抽出する。 記録位置情報 1 5 3 Dおよ び 1 5 4 Dのそれぞれは、 対応の意味的検索情報要素 1 5 3および信号的検索情 報要素 1 5 4のそれぞれが記録されている記録位置を示す。 その後、 単位検索情 報 1 5 3 Eおよび 1 5 4 Eそれぞれの形成に必要な情報とともに、 たとえば検索 情報要素の種別や木構造中の階層情報などのような情報とともに、 意味的検索情 報要素 1 5 3および信号的検索情報要素 1 5 4の記録位置情報 1 5 3 Dおよび 1 5 4 Dを意味的単位検索情報形成部 1 0 3 Aおよび信号的単位検索情報形成部 1 0 4 Aのそれぞれへ出力する。
記録位置情報 1 5 3 Dおよび 1 5 4 Dは、 検索情報 1 5が予め記録されている 記録メディア上のセクタ位置ゃビット符号列中のビット位置といった物理的な位 匱情報や、 データを格納したファイル名やデータ伝送時のチャンネル、 パケット といった論理的な位置情報を含むものであり、 特に制限はない。
記録位置情報 1 5 3 Dおよび 1 5 4 Dによって示される意味的検索情報要素 1 5 3および信号的検索情報要素 1 5 4は、 動画像コンテンツ検索時などに必要に 応じて個々に読出され利用される。 このため、 意味的検索情報要素 1 5 3および 信号的検索情報要素 1 5 4のそれぞれは予め分離されて個々に記録されている方 が都合がよい。 多くの現実的なサ 装置においては、 木構造を有する検索情報 1 5の構造的検索情報要素 1 5 2、 意味的検索情報要素 1 5 3および信号的検索 情報要素 1 5 4のそれぞれは何らかの形で分離されて記録されているため、 分離 された意味的検索情報要素 1 5 3および信号的検索情報要素 1 5 4それぞれにつ いての記録位置を記録位置情報 1 5 3 Dおよび 1 5 4 Dとしてそのまま利用でき る。
木構造を有する検索情報 1 5がそのまま記録されていて、 予め検索情報要素 1 5 2 , 1 5 3および 1 5 4それぞれに分離されていない場合には、 検索情報解析 部 1 0 1 Aで検索情報要素 1 5 2 1 5 3および 1 5 4を分離して検索情報要素 1 5 3と 1 5 4を記録するとともに、 その記録位置情報 1 5 3 Dおよび 1 5 4 D を生成する。
構造的検索情報分解部 1 0 2では、 検索情報解析部 1 0 1 Aから構造的単位検 索情報要素 1 5 2を入力し、 入力した検索情報要素 1 5 2から必要最小限の構造 情報 5 0を抜き出して、 意味的単位検索情報形成部 1 0 3 Aおよび信号的単位検 索情報形成部 1 0 4 Aにそれぞれ与える。
意味的単位検索情報形成部 1 0 3 Aでは、 構造的検索情報分解部 1 0 2から必 要最小限の構造情報 5 0と検索情報解析部 1 0 1 Aから同種の意味的検索情報要 素 1 5 3それぞれの記録位置情報 1 5 3 Dを入力し、 入力したそれら情報を意味 的検索情報要素 1 5 3の種別ごとに、 対応の意味的検索情報要素 1 5 3の木構造 における出現順序関係を保持しながら配列することで、 意味的検索情報要素 1 5 3の記録位置情報 1 5 3 Dからなる意味的検索情報の単位検索情報 1 5 3 Eを形 成する。
信号的単位検索情報形成部 1 0 4 Aでは、 構造的検索情報分解部 1 0 2から必 要最小限の構造情報 5 0と検索情報解析部 1 0 1 Aから同種の信号的検索情報要 素 1 5 4それぞれの記録位置情報 1 5 4 Dを入力し、 入力したそれら情報を信号 的検索情報要素 1 5 4の種別ごとに、 対応の信号的検索情報要素 1 5 4の木構造 における出現順序関係を保持しながら配列することで、 信号的検索情報要素 1 5 4の記録位置情報 1 5 4 Dからなる信号的検索情報の単位検索情報 1 5 4 Eを形 成する。
図 8 A〜図 8 Dには、 本実施の形態に係る意味的単位検索情報 1 5 3 Eと信号 的単位検索情報 1 5 4 Eが例示される。 図 8 Aと図 8 Bにおいては、 意味的検索 情報要素 1 5 3としてシ ンそれぞれの情景描写情報とショットそれぞれの登場 人物情報を例示し、 図 8 Cと図 8 Dにおいては信号的検索情報要素 1 5 4として シーンそれぞれの代表色情報とショットそれぞれの動き強度情報を例示している。 図 8 A〜図 8 Dと図 4 A〜図 4 Cおよび図 5 A〜図 5 Cとを比較しても明らか なように、 単位検索情報を構成する要素が検索情報要素 (1 5 3、 1 5 4 ) 自体 から記録位置情報 (1 5 3 D、 1 5 4 D ) に代替されていることを除けば、 本実 施の形態で形成される単位検索情報 (1 5 3 Eと 1 5 4 E ) と第 1の実施の形態 で形成された単位検索情報 (1 5 3 Aと 1 5 4 A) とは同じである。
したがって、 取扱う共通情報の種別、 抽出方法などは、 第 1の実施の形態にお いて説明されたものと同様のものが本実施の形態においても適用される。 こうし て、 第 1の実施の形態で得られるのと同様の効果が本実施の形態においても得ら れる。
単位検索情報制御部 1 0 5 Aは、 処理部 1 6に接続され、 たとえば処理部 1 6 が伝送部であった場合、 伝送先からの要求などに応じて対応する単位検索情報を 伝送する。 本実施の形態における単位検索情報制御部 1 0 5 Aでは、 既に伝送さ れた単位検索情報に含まれる意味的または信号的検索情報要素 1 5 3または 1 5 4の記録位置情報 1 5 3 Dまたは 1 5 4 Dに基づいた要求を受理して、 該要求に 対応の記録位置情報 1 5 3 Dまたは 1 5 4 Dで示された意味的または信号的検索 情報要素 1 5 3または 1 5 4を抜き出して要求元に伝送する。
本実施の形態では示されないが、 構造的検索情報要素 1 5 2から抜き出されて 使用される各種の構造情報 5 0に関しても、 構造情報 5 0のデ タ自体ではなく、 上述の意味的検索情報要素 1 5 3および信号的検索情報要素 1 5 4と同様に記録 位置を示す情報を抽出し、 抽出された記録位置情報を用いて単位検索情報を形成 すなわちこの場合、 構造情報 5 0の記録位置情報および意味的検索情報要素 1 5 3の記録位置情報 1 5 3 Dから意味的単位検索情報が形成され、 構造情報 5 0 の記録位置情報および信号的検索情報要素の記録位置情報 1 5 4 Dから信号的単 位検索情報が形成される。
本実施の形態に係る検索装置 2 Aの概略構成は、 第 1の実施の形態と同様に図 7を用いて示される。 ただし、 検索装置 2 Aの機能は、 以下に説明するように第 1の実施の形態のものとは若干異なる。
本実施の形態に係る検索装置 2 Aは検索実行部 7 0 1 Α、 意味的単位検索情報 保持部 7 0 2 Α、 信号的単位検索情報保持部 7 0 3 Αおよび検索情報制御部 7 0 4 Aを備える。 意味的単位検索情報保持部 7 0 2 Aおよび信号的単位検索情報保 持部 7 0 3 Aはそれぞれ、 単位検索情報 1 5 3 Eおよび 1 5 4 Eのそれぞれを保 持するのに加えて、 既に得られた単位検索情報 1 5 3 Eおよび 1 5 4 Eのそれぞ れに含まれる記録位置情報 1 5 3 Dおよび 1 5 4 Dのそれぞれに基づいて取得さ れる検索情報要素 1 5 3および 1 5 4のそれぞれを、 1回の検索実行ごとに一時 的に、 あるいは検索の実行期間にわたつて継続的に保持する機能を有する。 検索実行部 7 0 1 Aは、 検索者 1 8から入力される検索要求に従って、 意味的 単位検索情報保持部 7 0 2 Aおよび信号的単位検索情報保持部 7 0 3 Aに保持さ れている各種の検索情報要素の 1つあるいは複数の任意の組合せを選び、 選ばれ た組合せに従う検索情報要素を取得して、 取得した 1つ以上の検索情報要素を用 いて動画像コンテンツの検索を実行する。
単位検索情報保持部 7 0 2 Aおよび 7 0 3 Aそれぞれでの検索情報要素の保持 が 1回の検索実行ごとに破棄されるといった一時的なものである場合には、 検索 実行部 7 0 1 Aは単位検索情報保持部 7 0 2 Aおよび 7 0 3 Aに対して、 検索情 報要素の要求ではなく、 次に示すように、 単位検索情報の要求により検索を開始 する。 ここでは、 説明を簡単にするために意味的単位検索情報 1 5 3 Eを要求す ることで開始される検索を例にあげるが、 信号的単位検索情報 1 5 4 Eを要求し た場合であっても、 意味的単位検索情報 1 5 3 Eと信号的単位検索情報 1 5 4 E とを要求した場合でも同様である。
選んだ意味的検索情報要素 1 5 3が対応する意味的単位検索情報保持部 7 0 2 Aに保持されていない場合、 検索実行部 7 0 1 Aは意味的単位検索情報保持部 7 0 2 Aに対して、 対応する単位検索情報 1 5 3 Eを要求する。 要求した単位検索情報 1 5 3 Eを、 対応する意味的単位検索情報保持部 7 0 2 Aから取得できた場合には、 検索実行部 7 0 1 Aは、 検索情報制御部 7 0 4 Aに 検索情報要素の取得要求とともに取得した単位検索情報 1 5 3 Eを与える。 検索 情報制御部 7 0 4 Aは、 与えられた単位検索情報 1 5 3 Eに含まれる記録位置情 報 1 5 3 Dに基づいて、 伝送部または蓄積部 1 9から該当する意味的検索情報要 素 1 5 3を取得し、 取得された意味的検索情報要素 1 5 3を対応する意味的単位 検索情報保持部 7 0 2 Aに格納する。 検索実行部 7 0 1 Aは、 このようにして得 られた意味的検索情報要素 1 5 3を用いて検索を実行する。
要求した単位検索情報 1 5 3 Eが対応する意味的単位検索情報保持部 7 0 2 A に保持されていないので取得できなかった場合には、 検索実行部 7 0 1 Aは、 ま ず、 検索情報制御部 7 0 4 Aにその単位検索情報 1 5 3 Eの取得要求を出す。 検 索情報制御部 7 0 4 Aはこの取得要求を入力すると、 入力した取得要求に応じて 伝送部または蓄積部 1 9から該当する単位検索情報 1 5 3 Eを取得し、 取得した 単位検索情報 1 5 3 Eを対応する意味的単位検索情報保持部 7 0 2 Aに格納する。 次に、 検索実行部 7 0 1 Aは、 検索情報制御部 7 0 4 Aに検索情報要素の取得要 求とともに取得された単位検索情報 1 5 3 Eを与える。 検索情報制御部 7 0 4 A は、 与えられた単位検索情報 1 5 3 Eに含まれる記録位置情報 1 5 3 Dに基づい て、 伝送部または蓄積部 1 9から該当する意味的検索情報要素 1 5 3を取得し、 取得した意味的検索情報要素 1 5 3を対応する単位検索情報保持部 7 0 2 Aに格 納する。 検索実行部 7 0 1 Aは、 このようにして得られた意味的検索情報要素 1 5 3を用いて動画像コンテンツ (伝送部または蓄積部 1 9により準備されている 動画像コンテンツのデ タ) の検索を実行する。
以上の説明から理解されるように、 本実施の形態の検索装置 2 Aと第 1の実施 の形態の検索装置 2とを比較し異なる点は、 検索情報の取得に関して、 単位検索 情報から検索情報要素の記録位置情報を取得し、 取得した記録位置情報から対応 の検索情報要素を取得するといった2段階の取得を行なう点にある。 それ以外の 処理は両者において同様である。 したがって、 第 1の実施の形態で得られるのと 同様の効果が本実施の形態においても得られる。
各種の検索情報要素自体からなる単位検索情報に比べ、 記録位置情報のみから JP01/09161 なる本実施の形態に係る単位検索情報によれば、 記録すべき信号量が少なくてす む。 このため、 記憶容量の小さい携帯型情報端末などのクライアント端末を用い て検索者が検索を実行するような場合では、 本実施の形態の単位検索情報のみを クライアント端末に継続的に保持し、 検索実行時に必要な検索情報要素のみを単 位検索情報を利用してサーバ装置 (図 7の伝送部または蓄積部 1 9に相当する) から取得するといつた検索方式が効果的である。 このサーバ装置には動画像コン テンッのデータおよび予め検索情報要素に分離されている検索情報 1 5のデ タ が記録されており、 外部からの要求に従って、 動画像コンテンツのデータまたは 検索情報 1 5のデータを読出して要求元に出力する機能を有する。
したがって、 どのような検索情報がサーバ装置上に存在するかを単位検索情報 から容易に知ることができ、 必要な検索情報のみを伝送することで検索の実行効 率は向上する。
上述した説明では、 単位検索情報が伝送部または蓄積部 1 9を介して取得され るタイミングは検索者 1 8の要求によるものであるとしたが、 これに限らず、 た とえば、 検索の開始時に、 各種の単位検索情報のみをクライアント端末が自動的 に取得するなどとしてもよい。 単位検索情報の取得あるいは破棄のタイミングに 関する制限はない。
上述の説明では、 単^ Ϊ検索情報および単位検索情報中の記録位置情報に基づい て取得される検索情報要素の保持期間を、 1回の検索実行ごとに破棄するという —時的なものか、 検索の実行期間にわたるという継続的なものであるとしたが、 これに限らず、 たとえば、 ある一定期間保持し、 一定期間内にアクセスがなけれ ば破棄するといつた管理を行なってもよい。 検索情報要素の保持期間に関する制 限はない。
また、 本実施の形態で示した検索装置では、 形成された単位検索情報に基づい て検索を行なうことを示したが、 検索の形態によっては、 得られた単位検索情報 から元の木構造の検索情報 (その一部分) を復元し、 その復元された木構造の検 索情報に基づいて検索を行なう場合もある。 本実施の形態で示した検索情報管理 装置によつて形成される単位検索情報のそれぞれは、 構造情報を含むこと力、ら、 構造情報 (構造化情報) を利用して元の木構造を復元することが可能である。 す なわち、 単位検索情報に含まれる構造情報から木構造中の位置情報を求め、 この 位置情報で示された木構造中の位置に単位検索情報中の対応する記録位置情報に よって示された検索情報要素を取得し葉 R Fとして接続することで、 木構造が復 元される。 この単位検索情報から木構造への復元は、 検索に利用する他、 伝送路 が狭いネット ワ クなどで検索情報を他者に伝送する際に木を細かく分解して分 解したそれぞれを伝送先 (他者) に送り、 受取った側 (他者) で木を復元して検 索情報として管理するといつた場合に用いられる。
(第 3の実施の形態)
図 9には、 本実施の形態に係る検索情報管理装置 1 Bの概略構成が示される。 検索情報管理装置 1 Bは分割選択部 9 0 1、 第 1の検索情報分割部 9 0 2、 第 2 の検索情報分割部 9 0 3および単位検索情報制御部 9 0 4を含む。 分割選択部 9 0 1では、 動画像コンテンツについて所望される検索の実行形態が、 すなわちォ ンライン検索であるか、 あるいはオフライン検索であるかというような検索の実 行形態が指定される。 指定される検索の実行形態に従って検索情報 1 5の分割方 式、 すなわち分割により得られる単位検索情報の形式が選択される。 検索情報 1 5は、 たとえば図 2に例示した木構造を有する検索情報 1 5とする。
オフライン検索が指定されて、 検索情報 1 5の分割方式として検索情報要素の 種別に注目した単位検索情報が選択されると、 分割選択部 9 0 1は、 第 1の検索 情報分割部 9 0 2に検索情報 1 5の分割を実行するように指示する。 オンライン 検索が指定されて、 検索情報 1 5の分割方式として時間的な区切りからなる単位 検索情報が選択されると、 分割選択部 9 0 1は、 第 2の検索情報分割部 9◦ 3に 検索情報 1 5の分割を実行するように指示する。 オフライン検索とオンライン検 索とが同時に行われるような特殊なケ^ "スでは、 分割選択部 9 0 1は第 1および 第 2の検索情報分割部 9 0 2および 9 0 3に検索情報 1 5の分割 (単位検索情報 の形成) を実行するように指示する。
第 1の検索情報分割部 9 0 2では、 検索情報 1 5を入力し、 上述の実施の形態 で説明した検索情報要素の種別に注目した検索情報 1 5の分割を実行し、 図 4 A 〜図 4 C、 図 5 A〜図 5 Cおよび図 8 A〜図 8 Dに示された検索情報の種別に注 目した単位検索情報 1 5 3 A ( 1 5 3 E ) および 1 5 4 A ( 1 5 4 E ) を形成し て出力する。
第 2の検索情報分割部 9 0 3では、 検索情報 1 5を入力し、 図 1 3 A〜図 1 3 Dまたは図 1 4に示した時間的な区切りを単位とした分割を実行し、 時間的な区 切りに従う単位検索情報を形成して出力する。
単位検索情報制御部 9 0 4は、 処理部 1 6に接続され、 第 1の検索情報分割部 9 0 2により形成された検索情報要素の種別に注目した単位検索情報および第 2 の検索情報分割部 9 0 3で形成された時間的区切り単位の単位検索情報のいずれ か一方、 あるいは両方を、 処理部 1 6の要求に応じて選択し、 選択された情報を 要求元に出力する。
分割選択部 9 0 1を設けることにより、 動画像コンテンッの検索の実行形態に 応じた適切な検索情報の制御 (単位検索情報の形成) が可能となる。

Claims

請求の範囲
1. 動画像コンテンツに対応する木構造を有した検索情報 (1 5) を小単位の検 索情報 (153A、 154A) に分割して管理する検索情報管理装置 (1) であ つて、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報 (15 2) と、 前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (153) と、 前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検 索情報 (154) とに分離して出力する分離手段 (101) と、
前記分離手段から出力された前記構造的検索情報を分解し、 分解後の前記構造 的検索情報から前記意味的検索情報および前記信号的検索情報の少なくとも 1つ に対応した情報を構造情報 (50) として抽出する構造情報抽出手段 (102) と、
前記分離手段から出力された前記意味的検索情報および前記信号的検索情報の 少なくとも 1つに、 前記構造情報抽出手段により抽出された対応の前記構造情報 を付加して前記小単位の検索情報を形成する単位検索情報形成手段 (103、 1 04) とを備える検索情報管理装置。
2. 動画像コンテンツに対応する木構造を有した検索情報 (1 5) を小単位の検 索情報 (153A、 1 54 A) に分割して管理する検索情報管理装置 (1) であ つて、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) あるいは前記木構造中の節 (ND) および該節以下に連結された葉ま たは節の任意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素を前記検索情報から分離して抜き出す分離手段 (101) と、 前記分離手段により抜き出された前記 1または複数の検索情報要素に対応する 構造情報 (50) を前記検索情報から抽出する構造情報抽出手段 (102) と、 前記分離手段により抜き出された前記 1または複数の検索情報要素と前記構造 情報抽出手段により抽出された対応する前記構造情報を所定の形式に従い配列す ることで前記小単位の検索情報を形成する単位検索情報形成手段 (103、 10 4) とを備える検索情報管理装置。
3. 前記分離手段により抜き出された前記 1または複数の検索情報要素は、 前記 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報 (154) に 対応する請求の範囲第 2項記載の検索情報管理装置。
4. 前記分離手段により抜き出された前記 1または複数の検索情報要素は、 前記 動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (153) に 対応する請求の範囲第 2項記載の検索情報管理装置。
5. 前記所定の形式は、 前記分離手段により抜き出された前記 1または複数の検 索情報要素および前記構造情報抽出手段により抽出された対応する前記構造情報 を、 前記木構造中の前記 1または複数の検索情報要素それぞれの出現順序に従つ て配列することを示す請求の範囲第 2'項記載の検索情報管理装置。
6. 前記構造情報抽出手段は、 さらに、 前記構造情報を、 前記分離手段により抜 き出された前記 1または複数の検索情報要素に共通する種別を示す情報または共 通する前記木構造中の位置情報を含む共通構造情報と、 前記共通構造以外の非共 通構造情報とに分離し、
前記小単位の検索情報は、 前記分離手段により抜き出された前記 1または複数 の検索情報要素の配列に加えて、 対応する前記共通構造情報と、 対応する前記非 共通構造情報のそれぞれを配することで形成される請求の範囲第 2項記載の検索 情報管理装置。
7. 動画像コンテンツに対応する木構造を有した検索情報 (15) から小単位の 検索情報 (153E、 154E) を形成して管理する検索情報管理装置 (1A) であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) あるいは前記木構造中の節 (ND) および該節以下に連結された葉ま たは節の任意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素のそれぞれについて、 該検索情報要素が記録されている位置 を示した記録位置情報 (153D、 154D) を抽出する記録位置情報抽出手段 (101 A) と、
前記検索情報から、 前記 1または複数の検索情報要素に対応する構造情報 (5 0 ) を抽出する構造情報抽出手段 (1 0 2 ) と、
前記 1または複数の検索情報要素のそれぞれに対応する前記記録位置情報抽出 手段により抽出された前記記録位置情報および前記構造情報抽出手段により抽出 された前記構造情報を所定の形式に従い配列することで前記小単位の検索情報を 形成する単位検索情報形成手段 (1 0 3 A、 1 0 4 A) とを備える検索情報管理
8 . 前記 1または複数の検索情報要素は、 前記動画像コンテンツの信号上の物理 的な特徴を表わす信号的検索情報 (1 5 4 ) に対応する請求の範囲第 7項記載の
9 . 前記 1または複数の検索情報要素は、 前記動画像コンテンツの意味内容にお ける特徴を表わす意味的検索情報 (1 5 3 ) に対応する請求の範囲第 7項記載の
1 0 . 前記所定の形式は、 前記記録位置情報のそれぞれを、 対応する前記 1また は複数の検索情報要素それぞれの前記木構造中の出現順序に従って配列すること を示す請求の範囲第 7項記載の検索情報管理装置。
1 1 . 前記構造情報抽出手段は、 さらに、 前記構造情報を、 前記 1または複数の 検索情報要素に共通する種別を示す情報または共通する前記構造中の位置情報を 含む共通構造情報と、 前記共通構造情報以外の非共通構造情報とに分離し、 前記小単位の検索情報は、 前記 1または複数の検索情報要素と対応した前記記 録位置情報の配列に加えて、 対応する前記共通構造情報と、 対応する前記非共通 構造情報のそれぞれを配することで形成される請求の範囲第 7項記載の検索情報
1 2 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の 検索情報に分割して管理する検索情報管理装置 (1 B ) であって、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報と、 前 記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 前記動 画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分割し、 分 割により得られた前記構造的検索情報から前記意味的検索情報および前記信号的 検索情報のそれぞれに対応した情報を構造情報として抽出し、 抽出きれた前記構 造情報を分割により得られた前記意味的検索情報および前記信号的検索情報のそ れぞれに付加して小単位の検索情報を形成する第 1の検索情報分割手段 ( 90 2) と、
前記検索情報を、 前記木構造に基づく時間的な区切りに従って分割し、 分割後 の検索情報のそれぞれから小単位の検索情報を形成する第 2の検索情報分割手段 (903) と、
所望される検索の形態に従って、 前記検索情報を、 前記第 1の検索情報分割手 段および前記第 2の検索情報分割手段のいずれで分割するかを選択する分割選択 手段 (901) とを備えた検索情報管理装置。
13. 動画像コンテンツに対応する木構造を有した検索情報 (15) を小単位の 検索情報に分割して管理する検索情報管理装置 (1B) であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) あるいは前記木構造中の節 (ND) および該節以下に連結された葉ま たは節の住意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素を前記検索情報から分離して抜き出し、 抜き出された前記 1 または複数の検索情報要素に対応する構造情報を前記検索情報から抽出して、 抜 き出された前記 1または複数の検索情報要素と抽出された対応の前記構造情報を 所定の形式に従い配列することで小単位の検索情報を形成する第 1の形成手段 (902) と、
前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、 分割後の 検索情報のそれぞれから小単位の検索情報を形成する第 2の形成手段 (903) と、
所望する検索の形態に従って、 前記小単位の検索情報を、 前記第 1の形成手段 および前記第 2の形成手段のいずれで形成するかを選択する選択手段 (901) とを備えた検索情報管理装置。
14. 動画像コンテンツに対応する木構造を有した検索情報 (15) を小単位の 検索情報 (153A、 1 54A) に分割して管理する検索情報管理方法であって、 前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報 (15 2) と、 前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (153) と、 前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検 索情報 (154) とに分離して出力する分離ステップと、
前記分離ステップから出力された前記構造的検索情報を分解し、 分解後の前記 構造的検索情報から前記意味的検索情報および前記信号的検索情報の少なくとも 1つに対応した情報を構造情報 (50) として抽出する構造情報抽出ステップと、 前記分離ステツプから出力された前記意味的検索情報および前記信号的検索 情報の少なくとも 1つに、 前記構造情報抽出ステップにより抽出された対応の前 記構造情報を付加して前記小単位の検索情報を形成する単位検索情報形成ステッ プとを有する検索情報管理方法。
15. 動画像コンテンツに対応する木構造を有した検索情報 (15) を小単位の 検索情報 (153A、 154A) に分割して管理する検索情報管理方法であって、 前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) あるいは前記木構造中の節 (ND) および該節以下に連結された葉ま たは節の任意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素を前記検索情報から分離して抜き出す分離ステップと、 前記分離ステツプにより抜き出された前記 1または複数の検索情報要素に対応 する構造情報 (50) を前記検索情報から抽出する構造情報抽出ステップと、 前記分離ステツプにより抜き出された前記 1または複数の検索情報要素と前記 構造情報抽出ステップにより抽出された対応する前記構造情報を所定の形式に従 い配列することで前記小単位の検索情報を形成する単位検索情報形成ステップと を有する検索情報管理方法。
16. 動画像コンテンツに対応する木構造を有した検索情報 (15) から小単位 の検索情報 (153E、 154E) を形成して管理する検索情報管理方法であつ て、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) あるいは前記木構造中の節 (ND) および該節以下に連結された葉ま たは節の任意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素のそれぞれについて、 該検索情報要素が記録されている位置 を示した記録位置情報 (153D、 154D) を抽出する記録位置情報抽出ステ ップと、
前記検索情報から、 前記 1または複数の検索情報要素に対応した構造情報 (5 0 ) を抽出する構造情報抽出ステップと、
前記 1または複数の検索情報要素のそれぞれに対応する前記記録位置情報抽出 ステップにより抽出きれた前記記録位置情報および前記構造情報抽出ステップに より抽出された前記構造情報を所定の形式に従い配列することで前記小単位の検 索情報を形成する単位検索情報形成ステップとを有する検索情報管理方法。
1 7 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の 検索情報に分割して管理する検索情報管理方法であって、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報と、 前 記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 前記動 画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分割し、 分 割により得られた前記構造的検索情報から前記意味的検索情報および前記信号的 検索情報のそれぞれに対応した情報を構造情報として抽出し、 抽出された前記構 造情報を分割により得られた前記意味的検索情報および前記信号的検索情報のそ れぞれに付加して小単位の検索情報を形成する第 1の検索情報分割ステップと、 前記検索情報を、 前記木構造に基づく時間的な区切りに従って分割し、 分割後 の検索情報のそれぞれから小単位の検索情報を形成する第 2の検索情報分割ステ ップと、
所望される検索の形態に従って、 前記検索情報を、 前記第 1の検索情報分割ス テップおよび前記第 2の検索情報分割ステップのいずれで分割するかを選択する 分割選択ステップとを有する検索情報管理方法。
1 8 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の 検索情報に分割して管理する検索情報管理方法であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (R F ) あるいは前記木構造中の節 (N D ) および該節以下に連結された葉ま たは節の任意の集合からなる 1または複数の部分木により与えられる、 1または 複数の検索情報要素を前記検索情報から分離して抜き出し、 抜き出された前記 1 または複数の検索情報要素に対応する構造情報を前記検索情報から抽出して、 抜 き出された前記 Lまたは複数の検索情報要素と抽出された対応の前記構造情報を 所定の形式に従い配列することで小単位の検索情報を形成する第 1の形成ステッ プと、
前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、 分割後の 検索情報のそれぞれから小単位の検索情報を形成する第 2の形成ステップと、 所望する検索の形態に従って、 前記小単位の検索情報を、 前記第 1の形成ステ ップおよび前記第 2の形成ステップのいずれで形成するかを選択する選択ステツ プとを有する検索情報管理方法。
1 9 . 動画像コンテンツに対応する木構造を有した検索情報を分割することによ り得られた小単位の検索情報に基づいて検索を実行する検索装置 (2 ) であって. 前記小単位の検索情報は、 前記動画像コンテンッの意味内容における特徴を表 わす意味的検索情報と、 前記動画像コンテンツの信号上の物理的な特徴を表わす 信号的検索情報のそれぞれから形成された前記小単位の検索情報の少なくとも 1 つであり、 かつ前記動画像コンテンツの構造を表わす構造的検索情報から得られ る構造情報を含み、
前記小単位の検索情報を保持する保持手段と、
前記小単位の検索情報を用いて前記動画像コンテンツの検索を実行する検索実 行手段とを備える検索装置。
2 0 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を分割した 小単位の検索情報に基づいて検索を実行する検索装置 (2 ) であって、
前記小単位の検索情報は、 前記検索情報から分離して抜き出された、 前記検索 情報に含まれる同種の要素であって、 前記木構造中の 1または複数の葉あるいは 前記木構造中の節および該節以下に違結された葉または節の任意の集合からなる 1または複数の部分木により与えられる、 1または複数の検索情報要素および、 前記検索情報から抽出された前記 1または複数の検索情報要素に対応した構造情 報を所定形式に配列することで形成されて、
前記小単位の検索情報を保持する保持手段と、
前記小単位の検索情報を用いて前記動画像コンテンツの検索を実行する検索実 行手段とを備えた検索装置。
2 1 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) から形成し た小単位の検索情報に基づいて検索を実行する検索装置 (2 ) であって、 前記小単位の検索情報は、 前記検索情報に含まれる同種の要素であって、 前記 木構造中の 1または複数の葉あるレ、は前記木構造中の節およぴ該節以下に連結さ れた葉または節の任意の集合からなる 1または複数の部分木により与えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情報要素が記録されて レ、る位置を示した記録位置情報と、 前記検索情報から抽出された対応の構造情報 とを所定の形式に配列することで形成されて、
前記小単位の検索情報を保持する第 1の保持手段と、
前記小単位の検索情報を用いて得られる前記 1または複数の検索情報要素を保 持する第 2の保持手段と、
前記小単位の検索情報および前記 1または複数の検索情報要素を用いて前記動 画像コンテンツの検索を実行する検索実行手段とを備えた検索装置。
2 2 . 動画像コンテンツに対応する木構造を有した検索情報を分割することによ り得られた小単位の検索情報から前記木構造を有した検索情報の一部を復元する 検索情報管理装置であって、
前記小単位の検索情報は、 前記動画像コンテンツの意味内容における特徴を表 わす意味的検索情報と、 前記動画像コンテンツの信号上の物理的な特徴を表わす 信号的検索情報のそれぞれから形成された前記小単位の検索情報の少なくとも 1 つであり、 かつ前記動画像コンテンツの構造を表わす構造的検索情報から得られ る構造情報を含み、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記意味的検索情報または前記信号的検索情報のそれぞれに対応する前 記木構造中の位置を求める位置算出手段と、
前記位置算出手段により求められた前記木構造中の位置に、 対応する前記意味 的検索情報または前記信号的検索情報のそれぞれを接続することにより、 前記木 構造を有した検索情報の一部を復元する復元手段とを備える検索情報管理装置。 2 3 . 動画像コンテンツに対応する木構造を有した検索情報を分割した小単位の 検索情報から前記木構造を有した検索情報の一部を復元する検索情報管理装置で あって、
前記小単位の検索情報は、 前記検索情報から分離して抜き出された、 前記検索 情報に含まれる同種の要素であって、 前記木構造中の 1または複数の葉あるいは 前記木構造中の節および該節以下に連結された葉または節の任意の集合からなる
1または複数の部分木により与えられる、 1または複数の検索情報要素および、 前記検索情報から抽出された前記 1または複数の検索情報要素に対応した構造情 報を所定形式に配列することで形成されて、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記 1または複数の検索情報要素のそれぞれに対応する前記木構造中の 位置を求める位置算出手段と、
前記位置算出手段により求められた前記木構造中の位置に、 対応する前記 1ま たは複数の検索情報要素のそれぞれを葉あるいは部分木として接続することによ り、 前記木構造を有した検索情報の一部を復元する復元手段とを備える検索情報
2 4 . 動画像コンテンツに対応する木構造を有した検索情報から形成した小単位 の検索情報から前記木構造を有した検索情報の一部を復元する検索情報管理装置 であって、
前記小単位の検索情報は、 前記検索情報に含まれる同種の要素であって、 前記 木構造中の 1または複数の葉あるいは前記木構造中の節および該節以下に連結さ れた葉または節の任意の集合からなる 1または複数の部分木により与えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情報要素が記録されて いる位置を示した記録位置情報と、 前記検索情報から抽出された対応の構造情報 とを所定の形式に配列することで形成されて、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記記録位置情報によって示される前記 1または複数の検索情報要素の それぞれに対応する前記木構造中の位置を求める位置算出手段と、
前記小単位の検索情報に含まれる前記記録位置情報に基づいて対応する前記 1 または複数の検索情報要素を取得する検索情報要素取得手段と、
前記位置算出手段により求められた前記木構造中の位置に、 前記検索情報要素 取得手段により取得された対応する前記 1または複数の検索情報要素を接続する ことで、 前記木構造を有した検索情報の一部を復元する復元手段とを備える検索
補正書の請求の範囲
[2002年 2月 8日 (08. 02. 02 国際事務局受理:出願当初の請求の範囲 1 9及び 20は取り下げられ 出願当初の請求の範囲 2, 5-7, 1 0, 1 1 , 1 3, 1 5, 1 6, 1 8及び 2 1—24は補正された ;新しい請求の範囲
25— 34が加えられナこ;他の請求の範囲は変更なし。 O 0頁) ]
1. 動画像コンテンツに対応する木構造を有した検索情報 (1 5) を小単位の検 索情報 (1 5 3 A、 1 54A) に分割して管理する検索情報管理装置 (1) であ つて、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報 (1 5 2) と、 前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (1 5 3) と、 前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検 索情報 (1 54) とに分離して出力する分離手段 (1 0 1) と、
前記分離手段から出力された前記構造的検索情報を分解し、 分解後の前記構造 的検索情報から前記意味的検索情報および前記信号的検索情報の少なくとも 1つ に対応した情報を構造情報 (5 0) として抽出する構造情報抽出手段 (1 0 2) と、
前記分離手段から出力された前記意味的検索情報および前記信号的検索情報の 少なくとも 1つに、 前記構造情報抽出手段により抽出された対応の前記構造情報 を付加して前記小単位の検索情報を形成する単位検索情報形成手段 (1 0 3、 1 04) とを備える検索情報管理装置。
2. (捕正後) 動画像コンテンツに対応する木構造を有した検索情報 (1 5) を 小単位の検索情報 (1 5 3A、 1 54 A) に分割して管理する検索情報管理装置 (1) であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 蕖 (RF) により与えられる、 あるいは前記木構造中の節 (ND) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素を前記検索情報から分離して抜き出す分 離手段 (1 0 1) と、
前記分離手段により抜き出された前記 1または複数の検索情報要素に対応する 構造情報 (50) を前記検索情報から抽出する構造情報抽出手段 (1 02) と、 前記分離手段により抜き出された前記 1または複数の検索情報要素と前記構造 情報抽出手段により抽出された対応する前記構造情報を所定の形式に従い配列す
53
補正された用紙 (条約第 19条) ることで前記小単位の検索情報を形成する単位検索情報形成手段 (103、 10 4) とを備える検索情報管理装置。
3. 前記分離手段により抜き出された前記 1または複数の検索情報要素は、 前記 動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報 (154) に 対応する請求の範囲第 2項記載の検索情報管理装置。
4. 前記分離手段により抜き出された前記 1または複数の検索情報要素は、 前記 動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (153) に 対応する請求の範囲第 2項記載の検索情報管理装置。
5. (補正後) 前記所定の形式は、 前記分離手段により抜き出された前記 1また は複数の検索情報要素を、 前記木構造中での出現順序に従って配列することを示 す請求の範囲第 2項記載の検索情報管理装置。
6. (補正後) 前記構造情報抽出手段は、 さらに、 前記構造情報を、 前記分離手 段により抜き出された前記 1または複数の検索情報要素に共通する種別を示す情 報または共通する前記木構造中の位置情報を含む共通構造情報と、 前記共通構造 以外の非共通構造情報とに分離し、
前記小単位の検索情報は、 前記分離手段により抜き出された前記 1または複数 の検索情報要素の配列に加えて、 前記共通構造情報と前記非共通構造情報とを配 することで形成される請求の範囲第 2項記載の検索情報管理装置。
7. (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (15) か ら小単位の検索情報 (153E、 154E) を形成して管理する検索情報管理装 置 (1A) であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) により与えられる、 あるいは前記木構造中の節 (ND) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情報要素が 記録されている位置を示した記録位置情報 (153D、 154D) を抽出する記 録位置情報抽出手段 (101A) と、
前記検索情報から、 前記 1または複数の検索情報要素に対応する構造情報 (5 0) を抽出する構造情報抽出手段 (102) と、
54
補正された jii紙 (条約第 19条) 前記 1または複数の検索情報要素のそれぞれに対応する前記記録位置情報抽出 手段により抽出された前記記録位置情報および前記構造情報抽出手段により抽出 された前記構造情報を所定の形式に従い配列することで前記小単位の検索情報を 形成する単位検索情報形成手段 (1 0 3 A、 1 0 4 A) とを備える検索情報管理
8 . 前記 1または複数の検索情報要素は、 前記動画像コンテンツの信号上の物理 的な特徴を表わす信号的検索情報 (1 5 4 ) に対応する請求の範囲第 7項記載の
9 . 前記 1または複数の検索情報要素は、 前記動画像コンテンツの意味内容にお ける特徴を表わす意味的検索情報 (1 5 3 ) に対応する請求の範囲第 7項記載の
1 0 . (補正後) 前記所定の形式は、 前記記録位置情報のそれぞれを、 前記木構 造中での前記記録位置情報に対応した前記検索情報要素の出現順序に従って配列 することを示す請求の範囲第 7項記載の検索情報管理装置。
1 1 . (補正後) 前記構造情報抽出手段は、 さらに、 前記構造情報を、 前記 1ま たは複数の検索情報要素に共通する種別を示す情報または共通する前記木構造中 の位置情報を含む共通構造情報と、 前記共通構造情報以外の非共通構造情報とに 分離し、
前記小単位の検索情報は、 前記記録位置情報の配列に加えて、 前記共通構造情 報と前記非共通構造情報とを配することで形成される請求の範囲第 7項記載の検
1 2 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の 検索情報に分割して管理する検索情報管理装置 (I B ) であって、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報と、 前 記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 前記動 画像コンテンッの信号上の物理的な特徴を表わす信号的検索情報とに分割し、 分 割により得られた前記構造的検索情報から前記意味的検索情報および前記信号的 検索情報のそれぞれに対応した情報を構造情報として抽出し、 抽出された前記構 造情報を分割により得られた前記意味的検索情報および前記信号的検索情報のそ
55
補正された) 3紙 (条約第 19条) れぞれに付加して小単位の検索情報を形成する第 1の検索情報分割手段 (90 2) と、
前記検索情報を、 前記木構造に基づく時間的な区切りに従って分割し、 分割後 の検索情報のそれぞれから小単位の検索情報を形成する第 2の検索情報分割手段 (903) と、
所望される検索の形態に従って、 前記検索情報を、 前記第 1の検索情報分割手 段および前記第 2の検索情報分割手段のいずれで分割するかを選択する分割選択 手段 (901) とを備えた検索情報管理装置。
13. (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (1 5) を小単位の検索情報に分割して管理する検索情報管理装置 (IB) であって、 前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) により与えられる、 あるいは前記木構造中の節 (ND) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素を前記検索情報から分離して抜き出し、 抜き出された前記 1または複数の検索情報要素に対応する構造情報を前記検索情 報から抽出して、 抜き出された前記 1または複数の検索情報要素と抽出された対 応の前記構造情報を所定の形式に従い配列することで小単位の検索情報を形成す る第 1の形成手段 (902) と、
前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、 分割後の 検索情報のそれぞれから小単位の検索情報を形成する第 2の形成手段 (903) と、
所望する検索の形態に従って、 前記小単位の検索情報を、 前記第 1の形成手段 および前記第 2の形成手段のいずれで形成するかを選択する選択手段 (901) とを備えた検索情報管理装置。
14. 動画像コンテンツに対応する木構造を有した検索情報 (15) を小単位の 検索情報 (153A、 154 A) に分割して管理する検索情報管理方法であって、 前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報 (15 2) と、 前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報 (153) と、 前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検
56
補正された) 3紙 (条約第 19条) 索情報 (154) とに分離して出力する分離ステップと、
前記分離ステップから出力された前記構造的検索情報を分解し、 分解後の前記 構造的検索情報から前記意味的検索情報および前記信号的検索情報の少なくとも 1つに対応した情報を構造情報 (50) として抽出する構造情報抽出ステップと、 前記分離ステップから出力された前記意味的検索情報および前記信号的検索 情報の少なくとも 1つに、 前記構造情報抽出ステップにより抽出された対応の前 記構造情報を付加して前記小単位の検索情報を形成する単位検索情報形成ステッ プとを有する検索情報管理方法。
15. (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (15) を小単位の検索情報 (153A、 154A) に分割して管理する検索情報管理方 法であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) により与えられる、 あるいは前記木構造中の節 (ND) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素を前記検索情報から分離して抜き出す分 離ステップと、
前記分離ステツプにより抜き出された前記 1または複数の検索情報要素に対応 する構造情報 (50) を前記検索情報から抽出する構造情報抽出ステップと、 前記分離ステツプにより抜き出された前記 1または複数の検索情報要素と前記 構造情報抽出ステップにより抽出された対応する前記構造情報を所定の形式に従 い配列することで前記小単位の検索情報を形成する単位検索情報形成ステップと を有する検索情報管理方法。
16. (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (15) から小単位の検索情報 (153E、 154E) を形成して管理する検索情報管理 方法であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (RF) により与えられる、 あるいは前記木構造中の節 (ND) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情報要素が
57
補正された) 3紙 (条約第 19条) 記録されている位置を示した記録位置情報 (1 5 3 D、 1 5 4 D) を抽出する記 録位置情報抽出ステップと、
前記検索情報から、 前記 1または複数の検索情報要素に対応した構造情報 (5 0 ) を抽出する構造情報抽出ステップと、
前記 1または複数の検索情報要素のそれぞれに対応する前記記録位置情報抽出 ステップにより抽出された前記記録位置情報および前記構造情報抽出ステツプに より抽出された前記構造情報を所定の形式に従い配列することで前記小単位の検 索情報を形成する単位検索情報形成ステップとを有する検索情報管理方法。
1 7 . 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の 検索情報に分割して管理する検索情報管理方法であって、
前記検索情報を、 前記動画像コンテンツの構造を表わす構造的検索情報と、 前 記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、 前記動 画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分割し、 分 割により得られた前記構造的検索情報から前記意味的検索情報および前記信号的 検索情報のそれぞれに対応した情報を構造情報として抽出し、 抽出された前記構 造情報を分割により得られた前記意味的検索情報および前記信号的検索情報のそ れぞれに付加して小単位の検索情報を形成する第 1の検索情報分割ステップと、 前記検索情報を、 前記木構造に基づく時間的な区切りに従って分割し、 分割後 の検索情報のそれぞれから小単位の検索情報を形成する第 2の検索情報分割ステ ップと、
所望される検索の形態に従って、 前記検索情報を、 前記第 1の検索情報分割ス テツプおよび前記第 2の検索情報分割ステップのいずれで分割するかを選択する 分割選択ステップとを有する検索情報管理方法。
1 8 . (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) を小単位の検索情報に分割して管理する検索情報管理方法であって、
前記検索情報に含まれる同種の要素であって、 前記木構造中の 1または複数の 葉 (R F ) により与えられる、 あるいは前記木構造中の節 (N D) および該節以 下に連結された葉または節の任意の集合からなる 1または複数の部分木により与 えられる、 1または複数の検索情報要素を前記検索情報から分離して抜き出し、
58
補正された用紙 (条約第 19条) 抜き出された前記 1または複数の検索情報要素に対応する構造情報を前記検索情 報から抽出して、 抜き出された前記 1または複数の検索情報要素と抽出された対 応の前記構造情報を所定の形式に従い配列することで小単位の検索情報を形成す る第 1の形成ステップと、
前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、 分割後の 検索情報のそれぞれから小単位の検索情報を形成する第 2の形成ステップと、 所望する検索の形態に従って、 前記小単位の検索情報を、 前記第 1の形成ステ ップおよび前記第 2の形成ステップのいずれで形成するかを選択する選択ステッ プとを有する検索情報管理方法。
1 9 . (削除)
2 0 . (削除)
2 1 . (補正後) 動画像コンテンツに対応する木構造を有した検索情報 (1 5 ) から形成した小単位の検索情報に基づいて検索を実行する検索装置 (2 A) であ つて、
前記小単位の検索情報は、 前記検索情報に含まれる同種の要素であって、 前記 木構造中の 1または複数の葉により与えられる、 あるいは前記木構造中の節およ び該節以下に連結された葉または節の任意の集合からなる 1または複数の部分木 により与えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情 報要素が記録されている位置を示した記録位置情報と、 前記検索情報から抽出さ れた対応の構造情報とを所定の形式に配列することで形成されて、
前記小単位の検索情報を保持する第 1の保持手段と、
前記小単位の検索情報を用いて得られる前記 1または複数の検索情報要素を保 持する第 2の保持手段と、
前記小単位の検索情報および前記 1または複数の検索情報要素を用いて前記動 画像コンテンツの検索を実行する検索実行手段とを備えた検索装置。
2 2 . (補正後) 動画像コンテンツに対応する木構造を有した検索情報を分割す ることにより得られた小単位の検索情報から前記検索情報の一部を復元する検索 情報管理装置であって、
前記小単位の検索情報は、 前記動画像コンテンツの意味内容における特徴を表
59
正された用紙 (条約第 19条) わす意味的検索情報と、 前記動画像コンテンツの信号上の物理的な特徴を表わす 信号的検索情報のそれぞれから形成された前記小単位の検索情報の少なくとも 1 つであり、 かつ前記動画像コンテンツの構造を表わす構造的検索情報を分解して 得られる構造情報を含み、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記意味的検索情報または前記信号的検索情報のそれぞれに対応する前 記木構造中の位置を求める位置算出手段と、
前記位置算出手段により求められた前記木構造中の位置に、 対応する前記意味 的検索情報または前記信号的検索情報のそれぞれを接続することにより、 前記検 索情報の一部を復元する復元手段とを備える検索情報管理装置。
2 3 . (補正後) 動画像コンテンツに対応する木構造を有した検索情報を分割し た小単位の検索情報から前記検索情報の一部を復元する検索情報管理装置であつ て、
前記小単位の検索情報は、 前記検索情報から分離して抜き出された、 前記検索 情報に含まれる同種の要素であって、 前記木構造中の 1または複数の葉により与 えられる、 あるいは前記木構造中の節および該節以下に連結された葉または節の 任意の集合からなる 1または複数の部分木により与えられる、 1または複数の検 索情報要素および、 前記検索情報から抽出された、 前記 1または複数の検索情報 要素に対応した構造情報を所定の形式に配列することで形成されて、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記 1または複数の検索情報要素のそれぞれに対応する前記木構造中の 位置を求める位置算出手段と、
前記位置算出手段により求められた前記木構造中の位置に、 対応する前記 1ま たは複数の検索情報要素のそれぞれを葉あるいは部分木として接続することによ り、 前記検索情報の一部を復元する復元手段とを備える検索情報管理装置。
2 4 . (補正後) 動画像コンテンツに対応する木構造を有した検索情報から形成 した小単位の検索情報から前記検索情報の一部を復元する検索情報管理装置であ つて、
前記小単位の検索情報は、 前記検索情報に含まれる同種の要素であって、 前記
60
¾正され 用紙 (条約第 19条) 木構造中の 1または複数の葉により与えられる、 あるいは前記木構造中の節およ び該節以下に連結された葉または節の任意の集合からなる 1または複数の部分木 により与えられる、 1または複数の検索情報要素のそれぞれについて、 該検索情 報要素が記録されている位置を示した記録位置情報と、 前記検索情報から抽出さ れた、 前記 1または複数の検索情報要素に対応した構造情報とを所定の形式に配 列することで形成されて、
前記小単位の検索情報に含まれる前記構造情報から、 前記小単位の検索情報に 含まれる前記記録位置情報によって示される前記 1または複数の検索情報要素の それぞれに対応する前記木構造中の位置を求める位置算出手段と、
前記小単位の検索情報に含まれる前記記録位置情報に基づいて対応する前記 1 または複数の検索情報要素を取得する検索情報要素取得手段と、
前記位置算出手段により求められた前記木構造中の位置に、 前記検索情報要素 取得手段により取得された対応する前記 1または複数の検索情報要素を接続する ことで、 前記検索情報の一部を復元する復元手段とを備える検索情報管理装置。
2 5 . (追加) 前記構造情報は、 前記分離手段から出力された前記意味的検索情 報または前記信号的検索情報の、 前記検索情報が有する前記木構造における分離 前の位置を示す情報を含む請求の範囲第 1項記載の検索情報管理装置。
2 6 . (追加) 前記構造情報は、 前記動画像コンテンツ上の時間的な区切りを示 す情報を含み、 前記動画像コンテンツ上の前記時間的な区切りは、 前記分離手段 カ ら出力された前記意味的検索情報または前記信号的検索情報と対応するもので ある請求の範囲第 1項記載の検索情報管理装置。
2 7 . (追加) 前記構造情報は、 前記分離手段により抜き出された前記 1または 複数の検索情報要素の、 前記検索情報が有する前記木構造における分離前の位置 を示す情報を含む請求の範囲第 2項記載の検索情報管理装置。
2 8 . (追加) 前記構造情報は、 前記動画像コンテンツ上の時間的な区切りを示 す情報を含み、 前記動画像コンテンツ上の前記時間的な区切りは、 前記分離手段 により抜き出された前記 1または複数の検索情報要素と対応するものである請求 の範囲第 2項記載の検索情報管理装置。
2 9 . (追加) 前記構造情報は、 前記 1または複数の検索情報要素の、 前記検索
61
(条約第 19条) 情報が有する前記木構造における位置を示す情報を含む請求の範囲第 7項記載の
3 0 . (追加) 前記構造情報は、 前記動画像コンテンツ上の時間的な区切りを示 す情報を含み、 前記動画像コンテンッ上の前記時間的な区切りは、 前記 1または 複数の検索情報要素と対応するものである請求の範囲第 7項記載の検索情報管理
3 1 . (追加) 前記所定の形式は、 前記小単位の検索情報に含まれる前記 1また は複数の検索情報要素が、 前記木構造中での出現順序に従って配列されているこ とを示す請求の範囲第 2 3項記載の検索情報管理装置。
3 2 . (追加) 前記構造情報は、 前記 1または複数の検索情報要素に共通する種 別を示す情報または共通する前記木構造中の位置情報を含む共通構造情報と、 前 記共通構造情報以外の非共通構造情報とからなり、
前記小単位の検索情報は、 前記 1または複数の検索情報要素の配列に加えて、 前記共通構造情報と前記非共通構造情報とを配して形成されている請求の範囲第
2 3項記載の検索情報管理装置。
3 3 . (追加) 前記所定の形式は、 前記小単位の検索情報に含まれる前記記録位 置情報のそれぞれが、 前記木構造中での前記記録位置情報に対応した前記検索情 報要素の出現順序に従って配列されていることを示す請求の範囲第 2 4項記載の
3 4 . (追加) 前記構造情報は、 前記 1または複数の検索情報要素に共通する種 別を示す情報または共通する前記木構造中の位置情報を含む共通構造情報と、 前 記共通構造情報以外の非共通構造情報とからなり、
前記小単位の検索情報は、 前記記録位置情報の配列に加えて、 前記共通構造情 報と前記非共通構造情報とを配して形成されている請求の範囲第 2 4項記載の検
62
補正さ: (条約第 19条)
PCT/JP2001/009161 2000-10-20 2001-10-18 Appareil de gestion d'informations de recherche de contenu d'image dynamique WO2002033589A1 (fr)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR10-2003-7005481A KR100532558B1 (ko) 2000-10-20 2001-10-18 동화상 컨텐츠를 검색하기 위한 검색정보를 관리하는 장치 및 방법, 및 검색정보를 이용하는 검색장치
EP01976747A EP1335302A4 (en) 2000-10-20 2001-10-18 DYNAMIC PICTURE RESOLUTION INFORMATION MANAGEMENT DEVICE
JP2002536907A JP4309127B2 (ja) 2000-10-20 2001-10-18 動画像コンテンツを検索するための検索情報を管理する装置
US10/399,735 US8131773B2 (en) 2000-10-20 2001-10-18 Search information managing for moving image contents

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2000320185 2000-10-20
JP2000-320185 2000-10-20
JP2001-104010 2001-04-03
JP2001104010 2001-04-03

Publications (1)

Publication Number Publication Date
WO2002033589A1 true WO2002033589A1 (fr) 2002-04-25

Family

ID=26602456

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2001/009161 WO2002033589A1 (fr) 2000-10-20 2001-10-18 Appareil de gestion d'informations de recherche de contenu d'image dynamique

Country Status (6)

Country Link
US (1) US8131773B2 (ja)
EP (3) EP2273388A1 (ja)
JP (1) JP4309127B2 (ja)
KR (1) KR100532558B1 (ja)
CN (1) CN1312616C (ja)
WO (1) WO2002033589A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004023341A1 (ja) * 2002-09-03 2004-03-18 Fujitsu Limited 検索処理システム、その検索サーバ、クライアント、検索処理方法、プログラム、及び記録媒体
JP2007226452A (ja) * 2006-02-22 2007-09-06 Toshiba Corp 構造化文書管理装置、構造化文書管理プログラムおよび構造化文書管理方法
US9077949B2 (en) 2008-11-07 2015-07-07 National University Corporation Hokkaido University Content search device and program that computes correlations among different features

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8065627B2 (en) * 2003-09-30 2011-11-22 Hewlett-Packard Development Company, L.P. Single pass automatic photo album page layout
US7617237B2 (en) * 2004-09-30 2009-11-10 Sharp Kabushiki Kaisha Encoding device, encoding method, decoding device, decoding method, program and machine readable recording medium containing the program
US7644356B2 (en) * 2005-06-10 2010-01-05 Hewlett-Packard Development Company, L.P. Constraint-based albuming of graphic elements
JP2007156893A (ja) * 2005-12-06 2007-06-21 Toshiba Corp 情報処理装置、メタデータ管理サーバ、情報処理システムおよびメタデータ管理方法
GB0607763D0 (en) * 2006-04-20 2006-05-31 Ibm Capturing image data
US9680750B2 (en) 2010-07-06 2017-06-13 Nicira, Inc. Use of tunnels to hide network addresses
US8817621B2 (en) 2010-07-06 2014-08-26 Nicira, Inc. Network virtualization apparatus

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08110912A (ja) * 1994-10-07 1996-04-30 Canon Inc 動画検索装置および動画検索方法
JPH11288424A (ja) * 1998-02-03 1999-10-19 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を記録した記録媒体、映像インデックス情報を用いた映像情報管理方法、音声インデックス情報を記録した記録媒体および音声インデックス情報を用いた音声情報管理方法
JP2000148796A (ja) * 1998-09-03 2000-05-30 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を用いた映像検索方法および音声インデックス情報を用いた音声検索方法並びに映像検索システム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61267129A (ja) * 1985-05-22 1986-11-26 Hitachi Ltd 階層木構造型デ−タの蓄積・検索方式
JP3426876B2 (ja) 1996-09-27 2003-07-14 三洋電機株式会社 映像関連情報生成装置
US5963203A (en) * 1997-07-03 1999-10-05 Obvious Technology, Inc. Interactive video icon with designated viewing position
JPH10257436A (ja) 1997-03-10 1998-09-25 Atsushi Matsushita 動画像の自動階層構造化方法及びこれを用いたブラウジング方法
JP2000224257A (ja) 1999-01-29 2000-08-11 Jisedai Joho Hoso System Kenkyusho:Kk 送信装置および受信装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08110912A (ja) * 1994-10-07 1996-04-30 Canon Inc 動画検索装置および動画検索方法
JPH11288424A (ja) * 1998-02-03 1999-10-19 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を記録した記録媒体、映像インデックス情報を用いた映像情報管理方法、音声インデックス情報を記録した記録媒体および音声インデックス情報を用いた音声情報管理方法
JP2000148796A (ja) * 1998-09-03 2000-05-30 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を用いた映像検索方法および音声インデックス情報を用いた音声検索方法並びに映像検索システム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
See also references of EP1335302A4 *
TAKAYUKI KUNIEDA ET AL.: "Eizou kensaku ni okeru package segment model to ouyou application", GAZOU DENSHI GAKKAISHI, vol. 28, no. 5, 25 October 1999 (1999-10-25), pages 552 - 559, XP002949996 *
TAKAYUKI KUNIEDA ET AL.: "Eizou kensaku ni okeru package segment model to ouyou application", RICOH TECHNICAL REPORT, no. 25, 30 November 1999 (1999-11-30), pages 33 - 39, XP002949997 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004023341A1 (ja) * 2002-09-03 2004-03-18 Fujitsu Limited 検索処理システム、その検索サーバ、クライアント、検索処理方法、プログラム、及び記録媒体
JP2007226452A (ja) * 2006-02-22 2007-09-06 Toshiba Corp 構造化文書管理装置、構造化文書管理プログラムおよび構造化文書管理方法
US7975220B2 (en) 2006-02-22 2011-07-05 Kabushiki Kaisha Toshiba Apparatus, program product and method for structured document management
US9077949B2 (en) 2008-11-07 2015-07-07 National University Corporation Hokkaido University Content search device and program that computes correlations among different features

Also Published As

Publication number Publication date
EP1619596A3 (en) 2006-05-24
US20040054668A1 (en) 2004-03-18
JPWO2002033589A1 (ja) 2004-02-26
KR20030048442A (ko) 2003-06-19
JP4309127B2 (ja) 2009-08-05
EP1335302A4 (en) 2005-02-02
KR100532558B1 (ko) 2005-12-01
CN1312616C (zh) 2007-04-25
CN1470027A (zh) 2004-01-21
EP1619596A2 (en) 2006-01-25
US8131773B2 (en) 2012-03-06
EP1335302A1 (en) 2003-08-13
EP2273388A1 (en) 2011-01-12

Similar Documents

Publication Publication Date Title
KR100918725B1 (ko) 메타데이터 재생성 조건 설정 장치
US7181757B1 (en) Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing
US6400890B1 (en) Image retrieving method and apparatuses therefor
JP2001028722A (ja) 動画像管理装置及び動画像管理システム
EP1222634A4 (en) DESCRIPTION OF A VIDEO ABSTRACT AND SYSTEM AND METHOD FOR PRODUCING DATA DESCRIBED ABOVE FOR A DETAILED AND GENERAL OVERVIEW
JP4309127B2 (ja) 動画像コンテンツを検索するための検索情報を管理する装置
WO2002035388A1 (fr) Appareil de transmission d'informations de recherche
JP2000222439A (ja) ツリ―構造の動映像索引記述子を用いる検索装置及びその方法
CN101132528A (zh) 元数据再生、分发、检索装置、元数据再生成条件设定装置
JP2008086030A (ja) ヒント情報記述方法
JP2003256432A (ja) 映像素材情報記述方法、遠隔検索システム、遠隔検索方法、編集装置および遠隔検索端末、遠隔編集システム、遠隔編集方法、編集装置および遠隔編集端末、ならびに、映像素材情報記憶装置および方法
JP4251869B2 (ja) 動画像コンテンツを検索するための検索情報を管理する装置および方法
JP2001306579A (ja) 情報検索装置、情報検索方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
US7617237B2 (en) Encoding device, encoding method, decoding device, decoding method, program and machine readable recording medium containing the program
JP2003224791A (ja) 映像の検索方法および装置
JPH02113790A (ja) 動画像検索方法
JP3690313B2 (ja) 動画像管理装置、情報入力方法および動画像検索方法
JP2004348553A (ja) メタデータ編集方法、装置、及びプログラム
KR102027297B1 (ko) 장면 기반 동영상 네비게이션 장치
JP2003058865A (ja) 映像記述情報流通方法及びそのシステム、映像記述情報流通用サーバ装置、映像記述情報流通用クライアント装置、映像記述情報流通用プログラム並びにそのプログラムを記録した記録媒体
JP2003018540A (ja) 映像要約方法、および制御プログラム
JP2001167557A (ja) オーディオ情報の特徴記述方法

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): CN JP KR SG US

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LU MC NL PT SE TR

DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2002536907

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 1020037005481

Country of ref document: KR

Ref document number: 018176186

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2001976747

Country of ref document: EP

WWP Wipo information: published in national office

Ref document number: 1020037005481

Country of ref document: KR

WWP Wipo information: published in national office

Ref document number: 2001976747

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 10399735

Country of ref document: US

WWG Wipo information: grant in national office

Ref document number: 1020037005481

Country of ref document: KR