WO2013180407A1 - 투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템 - Google Patents

투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템 Download PDF

Info

Publication number
WO2013180407A1
WO2013180407A1 PCT/KR2013/004201 KR2013004201W WO2013180407A1 WO 2013180407 A1 WO2013180407 A1 WO 2013180407A1 KR 2013004201 W KR2013004201 W KR 2013004201W WO 2013180407 A1 WO2013180407 A1 WO 2013180407A1
Authority
WO
WIPO (PCT)
Prior art keywords
user
paper document
layer
dic
data
Prior art date
Application number
PCT/KR2013/004201
Other languages
English (en)
French (fr)
Inventor
정보연
Original Assignee
Jeong Boyeon
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020120059152A external-priority patent/KR20130135523A/ko
Priority claimed from KR1020120059704A external-priority patent/KR101495492B1/ko
Priority claimed from KR1020130033990A external-priority patent/KR20140119327A/ko
Application filed by Jeong Boyeon filed Critical Jeong Boyeon
Priority to JP2015514893A priority Critical patent/JP2015525396A/ja
Priority to US14/404,516 priority patent/US20150296092A1/en
Priority to EP13796887.1A priority patent/EP2857982A1/en
Priority to CN201380037697.3A priority patent/CN104471563A/zh
Publication of WO2013180407A1 publication Critical patent/WO2013180407A1/ko

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00236Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server using an image reading or reproducing device, e.g. a facsimile reader or printer, as a local input to or local output from a computer
    • H04N1/00238Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server using an image reading or reproducing device, e.g. a facsimile reader or printer, as a local input to or local output from a computer using an image reproducing device as a local output from a computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00244Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server with a server, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00392Other manual input means, e.g. digitisers or writing tablets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/23Reproducing arrangements
    • H04N1/2307Circuits or arrangements for the control thereof, e.g. using a programmed control device, according to a measured quantity
    • H04N1/2392Circuits or arrangements for the control thereof, e.g. using a programmed control device, according to a measured quantity for displaying or indicating, e.g. a condition or state
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/44Secrecy systems
    • H04N1/4446Hiding of documents or document information

Definitions

  • the present invention relates to a computer interface, and to a new method of improving paper-based information into electronic information. More specifically, the present invention allows a user to view a paper document viewed through a transparent display (or beam screen), set a specific area on the transparent display (or paper document), and data corresponding to the specific area imported through a network. By running a specific module for, the user can see the virtual document experience as if the user is viewing (manipulating) a paper document.
  • the present invention relates to a method of easily reading additional information related thereto by simply touching a desired portion of an illuminated beam screen. Furthermore, the present invention overcomes the limitations of paper-based information by allowing a general user to author the additional information, thereby allowing readers who read the same paper document to share and distribute various additional information about the paper document to each other. It relates to a computer interface that enables the scalability of powerful information.
  • the most conventional method is to scan a paper document with a scanner, an external device connected by a cable to a user terminal (computer), and use (edit, manipulate, and search while viewing the scanned image rendered on the monitor). Etc).
  • this method is separate from the paper document and the monitor, so that the user has to go through relatively complicated processes in order to simply use (edit or search) the paper document, and to move the view to the monitor and the paper document to see the result of the application.
  • the above described scanner as an external device is difficult to carry, and above all, due to the practical problem of scanning the copyrighted work without any sanction, it has been limited in the utilization of the work.
  • a scanning element utilizes a transparent display provided in the form of a plane scanner.
  • a transparent display is overlapped on a paper document, and then only a desired portion of the paper document is scanned to manipulate the scanning image displayed on the display through the graphic software.
  • This method has the advantage of not only distracting the user's view of sight compared to the two methods described above, but also providing a virtual reality experience that directly manipulates a paper document.
  • a transparent scanning element is provided on a transparent display.
  • the most conventional method is a method in which a user views a paper document and inputs (keyboards) a selected phrase directly on the user device.
  • This is a method commonly used by many people, for example, when they want to search for words or curious people who don't know the newspaper, they use their internet-enabled terminals (laptops, smartphones, etc.). I had to type through the keyboard one by one.
  • This method does not cause much inconvenience for readers of general documents, but for learners who need to study books that are specialized and contain various foreign languages, the method of inputting spelling of characters containing foreign languages into the terminal is quite significant. It was a cumbersome process.
  • the existing method of shifting the view between the paper document and the device not only reduces the reader's immersion in the paper document, but also the result of the user inputting and searching the device is completely different from the context of the paper document. It didn't matter, and this also hindered the user's immersion.
  • Another method of extending a paper document with its associated electronic information is to print a carbon coordinate code on a paper book and match the code coordinate with specific content.
  • This method has the disadvantage that publishers must make physical changes in the publishing process for future publications. For users, this method cannot be applied to documents that have been published / distributed in the past. There was this. In addition, the user does not know what content is attached to which part of the paper book has a drawback that you must press one by one. In addition, this method has a disadvantage in that it is not possible to grasp the opinions and trends of other readers who have viewed the same book because the subject providing the content is limited to the 'producer'. In addition, such a method has a disadvantage in that the producer merely selects contents provided unilaterally regardless of interest or interest of each user.
  • Another way to extend a paper document with its associated electronic information is to save the hypertext document created by referencing the paper document on a specific web server, so that the user overlaps the transparent display over the particular paper document, and the edge of the paper document.
  • the hypertext document provided here has to be unilaterally produced by the author, and it has to be very cumbersome for its creation.
  • the system catches the trends of other users and is the most popular among users.
  • this method roughly matches the transparent display and the paper document by aligning the specific display (eg right edge) of the transparent display with the paper document, which is realistic given that the size of the paper document (book) varies widely. Had an element that can not be accepted.
  • the method of attaching and manipulating additional information directly to a paper document in the physical world has a problem that it is difficult to arrange and sort the generated additional information separately, and that other users who read the same paper document are created. There is a disadvantage that additional information cannot be read.
  • the present invention has been proposed to solve the above problems of the conventionally proposed methods, while the user can protect the copyright of the paper document, while reading the secondary processing generated by using the paper document, the powerful electronics associated with the paper document Its purpose is to make information accessible and shareable.
  • the proposed methods had to give the 'physical world change' (each user must have a plane scanner or print code coordinates separately on a paper document). It aims to relieve the burden on practical constraints and the resulting cost.
  • an object of the present invention is to solve a copyright problem that is inevitably followed by a proposed method (a method of scanning and digitizing a paper document and then using the same).
  • the present invention aims to overcome the closedness and impersonality which are the characteristics of the secondary workpiece provided to the user in the conventionally proposed method.
  • an object of the present invention is to allow a terminal equipped with a plane scanner to overcome a problem in the physical world, which is limited to the size of a display in order to recognize a paper document smoothly.
  • the present invention is a problem that is inevitably followed when the scanner is used to recognize the paper document (due to the movement of the terminal or paper) and the addition of the user on the paper document.
  • the purpose is to overcome the realistic problem that the original (doodle, handwriting) is simultaneously scanned to obtain a clear original image.
  • an object of the present invention is to solve the inconvenience of having to provide a separate device and input a search word for a user's inquisition while viewing a paper document.
  • the present invention aims to provide the user with the electronic information related to the specific paper document at all times and to provide the user with the (valid) electronic information suitable for the user.
  • the present invention is not limited to simply reading and consuming electronic information related to a specific paper document, but directly attached to a specific paper document by a user.
  • the user can easily sort, classify and personalize the additional information, as well as view the same paper document of the generated additional information. Its purpose is to provide powerful information by allowing it to be shared with other users.
  • an object of the present invention is to overcome the existing practical limitation that the size of the transparent display (or beam screen) provided by the user and the size of the paper document should be similar (or the same).
  • a method of electronicizing a paper document the method being used in a user system equipped with a transparent display or a gesture and beam screen function,
  • the transparent display is overlapped on the paper document (or part thereof) or the beam screen is sprayed on the paper document (or part thereof) and then controlled by the user or the user system. Adjusting the position of the DIC layer (or paper document) such that the paper documents overlap with each other.
  • an extended digital identity (mark up data) matched with the book identity on the system is generated or selected and reproduced on the DIC layer.
  • a specific area (or object) is selected on the DIC layer under the control of a user and a system, and a specific action (module) is performed on a digital identity corresponding to the selected specific area (or object). ) Is executed.
  • the user overlaps the paper document on the transparent display, and then touches (or drags) the desired area with his or her finger to see the paper document passing through the transparent display, or emits an item (highlight, symbol, other light) on the transparent display.
  • the electronic information associated with the paper document can be easily read. This eliminates the inconvenience of having to shift the view to another device in order for the user to look at the paper document and retrieve the selected phrase (word, sentence, or item, etc.), so as not to disturb the user's immersion in the paper document, and more.
  • contextual information related to the paper document can be viewed, thereby improving the user's understanding of the paper document.
  • the user can see the beam screen sprayed on the paper document by using the terminal equipped with the air gesture and the beam screen function together with the paper document, and directly display the portion of the paper document that the user wants to utilize (eg, pre-search) on the paper document.
  • the portion of the paper document that the user wants to utilize eg, pre-search
  • the conventional methods were merely a method in which a user simply reads a unilaterally produced by a producer, whereas in the present application, the user context is analyzed and the system service (data) of the system is analyzed.
  • Providers create and provide electronic information tailored to each user's preferences (interests, interests, or needs) so that users can always access up-to-date or personalized and valid information. It also opens the door for commercial stakeholders to provide highly effective advertisements or services, and the system may also provide them with commercially available information.
  • the method of the present invention which allows the user to be a producer of additional information (markup) for the paper document, deviating from the conventional method in which the creator of the electronic information for the paper document was only a 'producer',
  • additional information markup
  • the user can select additional information that other users who have read / read the same paper document have created / attached on the paper document. Desired location, markup generation identifier, etc.) to be viewed, it is possible to organically provide much more powerful information than the method of simply reading the additional information previously provided by the producer unilaterally.
  • the configuration of matching the DIC layer and the paper document in the present invention overcomes the existing practical limitation that the size of the paper document and the size of the display (beam screen) should be the same and / or similar, and may be compatible with any book or device. By making it possible, it improves the utility of the present invention.
  • the user can freely utilize the paper document by a simple procedure of recognizing the identification symbol on the terminal without the hassle of each user scanning the paper document or inputting a search word in a separate device.
  • the user does not have to deal with the actual difficulties and burdens such as providing a separate expensive recognition means (e.g., plane scanner, optical lens, etc.) or changing the printing process of the paper book. It is good for both producers (system providers).
  • an extra field is added to the digital identity when the module is executed so that it can be stored in the system in the future so that the system can process relevant and powerful information.
  • the software that functions as a coordinate conversion tool utilizes the DIC Layer (hereafter referred to as a layer), so that even if the size of the display and the size of the paper document do not coincide, the user sees the paper document on the transparent display, It allows you to figure out exactly what part of the paper document you intend to use.
  • the layer allows the terminal to acquire images of paper documents larger than the display at one time, without the need for complicated editing process, and the user has to scan and compose the display by moving around the paper documents. Eliminate the process.
  • the wide object of the present invention is to overcome the closure that has been limited by the physical limitations of the present invention and to improve it with various electronic information, and to allow the user to view the electronic information and generate it at the same time. This is to allow sharing between system users.
  • a user recognizes a corresponding book identity on a terminal by pointing to a specific paper document, and is stored in advance in a data storage (memory of the user terminal or one or more servers connected to a communication network) on the user system (or After importing the data related to the paper document (or on the paper document or with reference to the paper document) which was created immediately, and reproducing it on the display (or beam screen) so that it is not displayed (transparently), the user By selecting the desired area on the transparent display (or paper document when using the beam screen), the system extracts the digital identity corresponding to the area selected by the user and executes a specific module selected by the user or the system. It is. In addition, by displaying mark up data related to the paper document on the transparent display (or beam screen) on the transparent display (or paper document when using the beam screen), the user It is characterized by directly selecting the object to emit light.
  • Terminal equipped with air gesture and beam screen function 'means' beam screen' in the function of the output unit in the general user terminal equipped with the control unit, input unit, output unit, and 'air gesture' function of the 'input unit' function This means the terminal in charge, that is, sprays the image output from the terminal to a two-dimensional area (wall, blackboard, palm, etc.) that can reflect the image, and the touch screen As if manipulating a finger, turning a web page, zooming in or out on a web page, and so on, the terminal analyzes the reflected light and the user's gesture This method is already applied and commercially available in the market. Names omitted).
  • “user system” includes:
  • User workstations -identify book identities entered by users, select digital identities located in memory or on one or more servers connected to a network, control access, search, and module execution, and transparent displays (or beam screens) Is used to control the display of the received result.
  • the user workstation is provided with means for requesting, receiving and storing digital identities, and for converting coordinate values of areas pressed by the user on the transparent display (or beam screen) into coordinate values on the DIC Layer.
  • the user workstation reads the size of the paper document through the document context information stored in the DB through the identified book identity, and then drives the DIC with reference thereto, and the DIC is a paper document recognized by the terminal.
  • the DIC Layer is created by referring to the location of the document and the size of the above-described paper document.
  • a specific module located in one or more servers connected to memory or a network is executed for specific data of the digitsl identity connected by the DIC. And transmits the result on a display provided in the terminal.
  • the user workstation generates an identification cue and spreads it on the layer by referring to the size information of the display provided in the user terminal so that the position of the layer can be controlled by the user. You can control the exposure range and time of the clue.
  • the user workstation is connected to a communication network capable of transmitting and receiving with one or a plurality of servers, so that the scanning image and the control of a specific module and the like are remote controlled through this communication network.
  • a communication network capable of transmitting and receiving with one or a plurality of servers, so that the scanning image and the control of a specific module and the like are remote controlled through this communication network.
  • all information including raw data and mark up data that have been previously requested are all provided in the memory or the terminal ( It can be downloaded to other entities (connected) and can be uploaded to a specific server when the user context information (history information) accumulated while offline is online.
  • the user workstation may store the digital identity and specific modules in memory on the terminal for local access, but the raw data and specific modules may be located locally in the terminal's memory or on one or more servers. It may be controlled sequentially.
  • the components may be separated from each other and connected by cables, wire pairs, infrared links, wireless links, or the like.
  • user workstations may be integrated in one device, in whole or in part, with the functionality and capacity of transparent displays, computers, and telecommunication devices. Accordingly, terms such as a transparent display, a user workstation, a user terminal, etc. in the present application may mean the same device, and the user terminal may be a mobile phone, an embedded computer, a network computer, an Internet home appliance, or a wireless IP capable device.
  • the user workstation is connected to the Internet network and runs a web browser or a dedicated application for the system, and the connected server is a web server.
  • the user terminal can use a search engine, document source, user account service, markup service, and other network services on the network.
  • the network may be an integrated intranet, public internet, mobile phone network or some other network, or an interconnect thereof.
  • the system can provide powerful personalized information to each user by analyzing each user's system usage history. To this end, the system needs information about the user and a series of interacting information related to the operation of entering a book identity and taking specific actions from the moment the user logs in to the system or the user authenticates.
  • the information obtained by the system is called 'context' in the general sense, but the system further analyzes the context of this general meaning and reprocesses the information required by the system by the system service (data provider) (e.g. web service). This information will also be interpreted within the category of 'context'.
  • the basic information obtained by the system is called "user / document context information" and based on this, the information reprocessed by the system service is called "extended context" information.
  • the system service may increase its functionality by using data mining techniques.
  • the generated context information is beneficial to both the system and the user.
  • the system may provide publishers or advertisers with statistics about the user's recent interests and popular paper documents by analyzing the acquired context information, thereby providing data for their decision making.
  • the system may provide publishers or advertisers with statistics about the user's recent interests and popular paper documents by analyzing the acquired context information, thereby providing data for their decision making.
  • a part of context information is treated by the search engine itself or reflected in the search results, thereby making the user more personalized and personalized. Information can be provided.
  • a search engine may track the user's interaction history and may cross-reference this interaction history with existing keyboard-based queries.
  • the search engine can maintain and use more state information for each individual user than most existing search engines do, and each interaction with the search engine can be Can be extended across searches.
  • these search engines can go beyond simple search of text and provide new actions or options for the system. (See the "Specific Actions" chapter for more details)
  • This can be created by adding extra fields (e.g. book identity identifier, user identifier, location on the digital identity, time of day, etc.) when the user executes a particular action. This includes all the information the system can detect, such as how long a book is in,
  • the system service is a web service of a web server connected to a user terminal and a communication network
  • the user / document context information is located in a database linked thereto, and the web service may use a data mining technique.
  • the web service may use a data mining technique.
  • the system analyzes the context information of each user, for example, reflects the context information in the search result value of the search engine, and can provide the user with optimized information, By reflecting, the system can anticipate the user's needs before the user's request and provide information useful to the user. For example, the system can not only measure the user's word ability through the history of selecting a specific document and search for a word, but also can infer the trend of the ability change over time. In this way, the system may pre-generate words or phrases that are useful for the user to know. As another example, the system can also identify trends in the user's interests and interests from the user's identity and input history of the search term, which can infer the future situation of the user so that relevant information or specific transactions can be executed. .
  • the book identity is a system-named name used as a means for uniquely identifying the paper document by the user system. That is, it is the same as a name given to a specific paper document by the system to find (matched) extra data corresponding to the specific paper document, and may be regarded as a concept specifically designed for convenience of description in the present specification. Therefore, strictly speaking, note that the name book identity may or may not exist in the system.
  • the concept of book identity refers to a means of realizing the purpose of searching for matching information.
  • the system uses context information related to a specific paper document through various methods of recognizing the book identity. It should be noted that not all book titles, authors, osbn, publishers, book content, etc. are recognized.
  • the identification code (document content, book title, isbn, barcode, etc.) identified by the user in the terminal in the user system may be simply recognized as a password on the system or used as a tool to find information matching the function by functioning as a pointer. have. Therefore, it should be noted that the fact that the user recognizes the book idenity through the above-described method does not mean that all (or some) information about the paper document should be known to the system.
  • -Raw data in this system can be used by extracting raw data (text, image, etc.) and related layouts (font size, letter shape, line spacing, image position, text position) from scanning image source or scanning image.
  • the data Refers to the data set (group) created by. More specifically, the data is the execution target of the system module executed by the module execution command / or system control designated by the user on the production tool provided through the display.
  • the system can be divided into the user's purpose of use and most easily used, and can be provided to the user in the form of smooth data. For example, if the purpose of the user's data use is merely 'pre-search', the digital identity may be a text data set composed of location information (context information) occupied by each keyword (text) on the scanning image.
  • raw data is a set of objects to be executed by a specific module, and refers to data in a form in which a specific module can be executed.
  • data may be signatures consisting of text, text offsets, or other symbols.
  • a specific module of a system service (eg, web service) of the system is executed in advance and generated.
  • the system service performs the cumbersome process in advance and outputs the internal context information (location information) of the document. It is created by matching with reference to. For example, if a user designates a specific area on a layer for the purpose of 'pre-search', the system simply retrieves the 'pre-search result' or 'commentary' that matches the specific area specified by the user from the pre-processed data. Just do it.
  • each object and related content may be matched in preparation for initially aiming the user to view the multimedia material related to the selection area. For example, if a user selects 'spaghetti' while looking at the cookbook, the system can immediately display 'spaghetti recipe video' that has been matched with spaghetti by someone (eg, publisher, system administrator, program, etc.) without any processing. have.
  • the two types of digital identity described above can be seen as 'converting' the original scanned image to the user's ease of use on this system, but the 'extended digital identity' now described refers to this scanned image and raw data. It's a whole new set of data. More specifically, such data may be generated in a variety of ways by various subjects. For example, a producer may refer to a scanning image on a monitor and select an arbitrary object by using various production menus, add a comment, a voice, a notepad, etc., and set a link to highlight a specific phrase. For example, markup that induces a specific transaction may be displayed at a specific location.
  • the user can overlap the transparent display on the paper document, match the DIC layer with the paper document, view the paper document visible through the transparent display on the layer, and write in the appropriate position through the production menu (optional), You can create new data by attaching or annotating them.
  • the subject and method that may be generated by referring to the scanning image may vary. The most representative example of the data generated by referring to the scanning image and the paper document is 'markup data'.
  • markup generally refers to anything that is identified when viewing a web page on a web browser, rather than being overlaid on the DIC Layer whatever routine (e.g., web browser, system application) the system is implemented in.
  • routine e.g., web browser, system application
  • the layers of additional functionality are all intended to be referred to as this 'markup'.
  • This markup may be provided as one or multiple overlays on the DIC layer.
  • markup may be generated by the user, the creator of the document, or the publisher, or by someone else, and may be accessed directly from some sources or by some services.
  • markup may be generated or associated with a paper document and / or with reference to the raw digital identity described above. More specifically, markup can be associated with a specific location or segment of text in the document. Such "markup" can lead to specific actions associated with a document or part of a document. Markups may include content that is human readable, but may sometimes be intended to be invisible to the user and / or only mechanically read.
  • a pop-up menu may be displayed on a nearby display, which is it.
  • markup data may be attached to or embedded in the aforementioned raw digital identity.
  • the markup data may be included in the search results of the query when the system identifies the book identity and then retrieves the matched raw digital identity, or may be found by separate queries in the same / or different search engines.
  • the markup data may be found using document context information through a book identity, or may be found using user context information and context information of another user. Markup data may be found in a location specific to the document, even if it is not contained in the raw digital identity itself. Similar to the way in which links to conventional html web pages are often embedded as static data in html documents, markup may be static and unique to the raw digital identity (hereinafter, document) described above. However, markup can be dynamically generated and / or applied to a large number of documents.
  • the mark up data is a mark that is identifiable to the user (or not identified but selected and accessed by the user) on the transparent display of the user irrespective of its creator or method of creation, and is viewed and selected by the user.
  • Such markup can be generated using a mark up language (eg, html, xml, etc.) that is commonly used when the system is used on a web browser, and the system can be installed on a device (on device) with a dedicated application for the system.
  • the application may be generated via a translatable, i.e. predefined system language (password).
  • markup can be produced and distributed not only by the producer, but also by an author, an advertiser, a user, and the like, and the system stores the markup data generated in the system in the data storage of the system and provides them according to a user's selection. However, they may be reprocessed to create completely new information, or to grasp the user's preferences (interest and interest, etc.) to generate, select, and provide the user with the appropriate information.
  • Markup data in the system is preferably identified to the user by being indicated by various identifiers (highlighting, icons, symbols, other graphical symbols, etc.) on the layer of the transparent display. These identifiers are overlaid on the transparent display over the appropriate location of the paper document under the transparent display (eg, the location to be highlighted) and are identified to the user, which are simply viewed by the user or accessed by the user's touch.
  • identifiers highlighting, icons, symbols, other graphical symbols, etc.
  • Markup data can be generated in various ways. It can be generated on (or above) the scanned image identified by the monitor, or can be created by using a specific production tool after matching a layer with a transparent display on a paper document. Alternatively, markup can be automatically generated by a pre-written data provider rather than a human. At this time, however, all of these markup data must be properly aligned on the user's paper document and associated with a particular location or segment of the document (eg, scanning image and row data) so that it can be displayed at the appropriate location.
  • markup data generated by referring to the document is displayed on the user's layer, but the document (scanning image) should not be displayed for copyright, and markup associated with a specific position or segment is displayed on the user's transparent display. It will be sprayed at a specific location on the DIC Layer. (To this end, the scanning image and the DIC Layer must be perfectly matched in size)
  • markup is as an 'overlay' on a layer, which can provide additional information about a paper document (hereafter a document) or part thereof, or specify an action associated with the document or part of a document.
  • Markups may include human-readable content, but are often intended to be invisible to the user and / or intended for mechanical use only.
  • invisible markup when a user captures a particular image of a paper document viewed through a transparent display, a pop-up menu may appear that provides the source of the image and audio information.
  • the digital identity can have multiple overlays at the same time, which can come from various locations.
  • Markup data may be generated or supplied by the author, user, or another side of the paper document. Markup data may be attached to or embedded in a document, or may be transmitted separately. Markup data can be found in a conventional location (eg, where the same document but with a different file name suffix).
  • the markup data may be included in a search result that searches an area designated by a user on a layer (ie, an area specified on a row digitsl identity), or may be found by separate queries to the same or different search engines. Markup data may be found through user context information or document context information, or may be found using information previously inferred by them. That is, even if the markup itself is not included in the digital identity, the markup data can be found at a specific position on the layer (of the transparent display).
  • markup can be generated with reference to the scanning image (or on the scanning image) as static and unique. However, markup may be generated and / or applied dynamically.
  • An example of dynamic markup is information to which the document is attached, including the latest stock price of the company mentioned in the document.
  • An example of a widely applied markup is a specific language for the actions of multiple documents or documents. Translation information available automatically.
  • the user can also install markup data or sign its specific source, thus personalizing the system's response to specific module executions.
  • Some elements of a document may have a specific 'markup' or functionality associated with them based on their own characteristics rather than location within a particular document. For example, the same principle applies to "keywords" or "keywords” in a document, such as logos and trademarks that allow users to link additional information about an organization. Organizations can register specific phrases with which they are associated, or with which they wish to be associated, and attach specific markup that becomes available wherever the phrase is selected for the user.
  • any word or phrase can have an associated markup.
  • the system may add a particular item to a pop-up menu when the user specifies the word 'book' or 'book title' or 'topic related to the book'. (Eg, links to online bookstores).
  • the word 'book', 'book title', 'topic related to the book', etc. is specified by the user, text, user context information, document context information, etc. may be referred to the system.
  • the movement of is changed according to this accessibility of the keyword element.
  • the data specified from the non-commercial text or document can trigger a commercial transaction.
  • Annotation is another type of electronic information that can be associated with a document.
  • a user can attach an audio file of his or her idea for a particular document for later retrieval as a voice comment.
  • a multimedia annotation a user may attach a video or photo to a specific location in a document. The user supplies comments for the document, but the system can associate comments from other sources.
  • An important example of such user-sourced markup is annotations in paper documents as part of proof-reading, editing or reviewing purposes.
  • the markup data can also be supplied by a third party, such as by another reading agent of the document.
  • Good examples are community-management information about online discussions and reviewers, specific tasks, translations and explanations by volunteers. Or it is a good example by the advertiser.
  • markup can be generated based on community activities and interests.
  • An example might be an online bookstore that presents to users as markup that "whoever enjoys this book also enjoys ".
  • the markup can be less anonymous and can tell the user which person on his contract list has recently read this document.
  • Markup is often based on data sources and external events, such as input from an integrated database, information from the public Internet, or statistics collected by the local operating system.
  • the data source can be more local and can provide the user's contextual information, such as the user's identity, region in particular.
  • the system may be able to communicate with the user's mobile phone and provide a markup layer that gives the user the option to send the document to someone recently talking on the phone.
  • markup is simply statically identified and displayed to the user, away from the way it is accessed by the user's touch, and wants to interact with the user dynamically.
  • the educational game program may provide problems to the user in the form of a game on a paper document by referring to user context information and document context information on a DB. For example, if the system analyzes a particular user's context for a particular area of an English newspaper and a similar level of users provides the most searched words on the page (blank), then the user can quickly You can improve your vocabulary learning by playing games that fit in time.
  • game program it is possible to help improve the user's speed reading ability by deleting the sentences in order from the top of the document.
  • educational game programs can improve the learning efficiency of users by providing various types of markups to users on specific pages.
  • the system executes such a game program and analyzes the user's feedback history (interaction history) and infers the trend of user's ability or interest, so that the system can reinforce the user context information.
  • User context information may be reprocessed for yourself and other users to become an important source for generating extra content (side information).
  • dynamic markup can be created by a manufacturer by referring to a scanning image, but a system that creates a problem by analyzing data in an algorithm input by a developer based on data generated by a data mining system (Artificial Intelligence) It can also be created by system services.
  • the dynamic markup generated in this way proceeds through feedback (interacting) with the user on the user's display (layer).
  • the user may have a virtual confrontation with the computer, but may play a real-time game while viewing the same paper document as other users. All data acquired by the system as the user participates in the game is recorded in the user's history information (data string) and reprocessed through a web server and / or database to be provided to other users, or later, personalized to the user. Can be used for a specific purpose.
  • a user looks at an English newspaper, a paper document, overlaps the transparent display on it, and matches the layer with the English newspaper. Then, a specific game program execution command is issued.
  • the most frequently searched words of other words in the English newspaper are blanked, and the user can play the game to remove all blanks within a limited time. Can be.
  • for speed reading there may be a game in which words are erased at a specific speed in order from the top.
  • the form of the game can vary greatly. These games are not purely for "educational" purposes, but in most cases they will be created for the purpose of encouraging users to engage with documents and to enhance learning.
  • Markup can be scattered in association with a particular location and segment on the layer. That is, each markup is located somewhere on the layer, like a 'dot', encrypting each 'dot', and in advance so that each cipher contains a certain range of raw digital identity (and, so as to load-match). You can set it.
  • This approach looks similar to how raw data for the entire scanned image is reproduced on a layer and selected by the user, but by selecting a particular markup, the system generates a preset range of raw data that matches that markup. There is a difference in that it is chosen by.
  • Such markup is preferably primarily invisible to the user, but may be identified in some cases.
  • markups may be arranged on a layer with regularity, such as one per 0.2 * 0.2mm, but the creator (someone) may define a certain range (eg one paragraph or one sentence) in advance. You can also set it to point to him.
  • the raw data may be simple image data or may be data of various formats and formats such as text data and audio data.
  • the markup may be located at a specific position on the layer and serve to provide the system with attribute information about a specific object of the paper document (scanning image).
  • the markup may inform the system of attribute information about a specific problem of a specific page of a specific math problem book.
  • attribute information can tell the system what category the problem is, what level it is, who is the copyright holder, and so on.
  • attribute information is identified to the system with a specific password so that the system can find the matched attribute information, and the system can utilize the found attribute information as a source of a pre-programmed program.
  • the attribute information is preferably composed of several field names and should be stored in the db table of the system.
  • the attribute information thus stored is utilized as a source of a specific program according to a user's request or control of the system. For example, suppose a student selects the "example” problem in p42 of the book "The Master of Math,” and then searches for similar problems in the same category. The system will then retrieve the attribute information matching the markup (password) selected by the user. (Before, the system administrator (producer) should separate all the problems as well as the problem into several fields and enter the property values for them, for example, book name, level of problem, number of views, number of recommendations, problem's copyright holder, problem May be a 'field name', etc.) and the system will determine what level of the problem is this problem and what category it is in (e.g. what part of the derivative). For example, the user may select and display a problem in the same category, similar to the problem selected by the user.
  • the markup scattered on the layer may perform the function of inducing a particular transaction at the user's choice. For example, let's say that a user selects a specific area of a paper document to view a paper document reflected through a transparent display and further view related additional information. In this case, invisible (or visible) markup is selected by the user and transmitted to the system, and the system automatically runs a 'security, authentication, payment' module for a specific area selected by the user, Authentication may be required. As another example, when the user selects a particular math problem, a pop-up window may appear to play a game about the problem.
  • the user may select the desired area by dragging it directly on the transparent display while viewing the paper document. You can also choose. For example, when a user wants to select a problem from a collection of mathematics problems, the user may select the problem by dragging it directly onto the layer, but may also select markup that has already partitioned the problem into one block. This preselected block selection method is advantageous for systems that run extra programs by allowing the system to clearly recognize the user's selection of objects.
  • the DIC overlaps the transparent display on the paper document, and when the user touches the transparent display to select a specific area of the paper document, the display recognizes the touched (input) coordinates accordingly.
  • It is a module (software) for interpreting and selecting mark up data corresponding to a specific area of a user's original (selected) paper document. Logically, this can be considered as a function for properly interpreting a user's touch coordinates or a coordinate transformation module.
  • the DIC newly allocates the recognition coordinates of the transparent display in consideration of the physical size (horizontal and vertical size) of the paper document identified through the book identity recognized by the terminal, and then assigns a user's touch ( It connects with the mark up data corresponding to the newly allocated coordinate.
  • the DIC acts as a "function" that allows the mark up data and the absolute coordinates given to the transparent display to be newly matched according to some criteria (depending on the position of the paper document recognized by the terminal).
  • Such a DIC may be implemented by various routines through various embodiments and may be defined in various representations. However, if the user looks at a paper document that looks through the transparent display and touches it on the transparent display with a certain area in mind, in order to pinpoint the mark up data corresponding to the area originally intended on the paper document, If something is provided that serves as a tool for newly recognizing a touch (or input signal) on a user's display, it should be considered that this DIC is driven regardless of its representation or implementation.
  • the user After the user inputs the book identity to the terminal, the user places the display on the paper document and sets the position of the layer according to a certain convention. (Or after the user's book identity is input, the display recognizes the position of the paper document under the control of the terminal.)
  • the layer coordinator creates a transparent / translucent digital identity layer by referring to the physical size information of the paper document inferred through the signal and book identity inputted on the display by the user.
  • the layer created by the layer coordinator is activated internally in the display, and the other spaces are deactivated, and the DIC allocates a new coordinate group for the activated DIC layer. That is, DII (Digital Identity Indicator) will operate based on the activated DIC Layer, and calculate the relative value of the new coordinate group and the coordinates of the display to determine the coordinates for the construction of future digital identity (mark up data).
  • DII Digital Identity Indicator
  • the layer coordinator determines whether to activate the coordinates, and if so, calculates which coordinates on the DIC layer and transmits them to the DII.
  • the DIC Layer will be assigned new coordinates internally by the display from the Layer Coordinator. For example, if a DIC layer is generated at coordinates 10 and 40, the DII recognizes 10, 40 as X and Y and configures context information.
  • the method of connecting the digital identity to the DIC layer includes a pre-processing method and a post-processing method.
  • the configuration of the digital identity is reproduced in a transparent form on the display in the same way as the original form based on the coordinate information of each object (text, picture, voice file, etc.) stored in the database.
  • This has the disadvantage that it may take a long time on the Reproduction Process, but it has the advantage of quick response after processing.
  • the digital identity is not reproduced (as opposed to the pre-processing method), and when a user's request is requested, a search for an object having a corresponding coordinate is performed.
  • the post-processing method has the disadvantage that the database search is performed on every request, but the advantage is that there is no cost for the Reproduction Process.
  • these clues become clues when the user must adjust the position of the layer so that the paper document and the layer exactly overlap.
  • these clues can be divided into two types.
  • the first is 'part of the scanning image' (Fig. 6-140) of the corresponding page of the paper document.
  • This method exposes a part of a scanning image of a corresponding page (which may be one page or two pages) of a paper document on a layer.
  • the scanning image needs to be exposed within a range that does not infringe copyright.
  • 'a part of the scanning image' may be exposed only on a transparent / translucent layer by extracting a part of a character or a picture from the original scanning image, or may expose a part of the entire scanning image in a hidden form.
  • the system administrator unilaterally determines the exposure range and provides the display regardless of the size of the display. This is because an exposed area determined by the system administrator is not exposed at all on the display. In other words, when matching the layer by placing the transparent display on a specific part of the paper document, it means that there may be no identification clue corresponding to the specific part on the layer. In order to prevent this phenomenon, it is necessary to determine the exposure range of the identification terminal to match the display size of the terminal. (Detailed explanations can be found in 'How to expose IDs when the display size is smaller than the paper document' below.)
  • Second is the layout of the paper document.
  • the term 'layout' means all identification clues that can measure the position and form of words and images in addition to the contents of the paper document, such as the shape of letters, length of sentences, fonts, line spacing, image position and size, etc.
  • a layout may be generated by referring to the raw data and context information at this time when the system identifies a digital identity that matches the book identity.
  • the layout may include a ' Horizontal lines may be included. These horizontal lines (Figs. 7-152) may be identified in a form commonly referred to as underscores, or may be numbered underlined to help identify users. That is, if lines 1,2,3, ...
  • a 'box' (Fig. 7-150) indicating the position of letters, sentences, images.
  • the ability to easily identify the position of a letter or image has the advantage of intuitively adjusting the position of the layer.
  • an outer 'border' of the layer (Figs. 9-170) is also possible. This may simply be a border representing the outline of the paper of the paper document or may be a border representing the outline of the body content.
  • programs, modules, or logic refer to routines, programs, components, data structures, etc. that perform particular tasks or implement particular abstract data types.
  • the term 'specific action' includes not only the meaning of 'module' software 'performing specific functions as described above, but also all general actions that a user can perform such as simply selecting, accessing, and defaulting. It is.
  • This particular module may be locally accessed on the user terminal or may be performed remotely on the user's system (eg, a web server) by remote processing devices that are connected via a communication network.
  • modules programs
  • modules may be located in one or more servers, and in some cases, modules may be locally located in the memory of the user terminal or in each of the servers so that each of the functionalities is one. Can be connected to perform the task of.
  • the specific module is displayed as an identification symbol (icon, symbol, etc.) provided as a GUI on the user's display, and may be executed by the user's touch, but the attribute information of the data (digitsl identity) or the document (book identity) is used. It can depend on it, or it can be derived from the markup or contextual analysis.
  • the specific module when the system is utilized through a specific application on the user B terminal, the specific module simply displays an icon by a user through an icon (a drawing tool, an eraser, a question mark, a capture tool, etc.) identified by the corresponding application.
  • a specific module may be executed by touching, when the system is used on a web browser of a user terminal, a module provided on the web browser (which is provided as a menu bar somewhere on the top of the web browser through various routes) is provided. May be executed).
  • the search engine of the system may be provided with new actions or options suitable for the system.
  • the first is the 'pre-search' module.
  • Location information and contents (audio, image, text, video, etc.) of each keyword through the keyword mapping program (referred to as a raw digital identity), which is a system service, in a dictionary stored in a data storage (memory or db) of the user system Data in a variety of formats).
  • the result of the program execution may be displayed in the form of markup such as highlighting, icons, etc. on the user display (more precisely, on the translucent layer) before the user gives the module execution instruction, and may be viewed by the user's selection.
  • the program may be executed and the result rendered on the display.
  • Second is the capturing module.
  • the user may simply designate the area to be captured by dragging (as in the case of area specification using the mouse), but utilizing the features of the present invention, the user's finger passes through the image data in real time. There is also a way to fill.
  • the user's touch is defined in advance as a thickness A and a shape B
  • the user sets the area as if the user draws an area to capture by viewing the paper document seen through the transparent display
  • Data corresponding to this passing position is extracted as image data in real time to fill the trajectory (internal space formed by the thickness of A and the shape of B) through which the fingers passed. It feels as if the user wipes the cloudy (clear display) glass to see the object under the glass (paper document) clearly and uses the finger to print the paper document below on the transparent display. It can also give you an intuitive interface.
  • the third is the "Search by Search Engine” module.
  • the user may view the paper document and search the specified object through one or more search engines connected to the communication network, and the result value may be provided to the user.
  • the search engine used in the present system does not search only by data (text, password, image, markup, etc.) corresponding to a user-selected selection area, but refers to a part of user context information and document context information. right. These "references" can be handled by the search engine itself and can affect search results. For example, let's say a user sees a certain paper document and chooses the word beautiful.
  • the search engine can use part of the user's document context information to find out which context the search term came from in which category of the book and deliver the exact meaning.
  • the user can use the user context information to use the user's current interest or words. You might be able to find out your abilities and associate them with a list of words that you might want to know.
  • the search engine maintains and uses more state information for each individual user than most existing search engines do, and each interaction with the search engine is longer than typical and multiple searches. Can be extended across the fields.
  • Part of the context may be sent to the search engine in search queries, stored in the search engine to serve as part of future queries, applied as a filter to results from the search engine, and treated as a secondary search term. It may be.
  • the system may know about the user, determine if the user has access to a portion of the selected book, and if not, request a certain 'payment'. Furthermore, the system can grasp information for payment (copyright owner, publisher, etc.) through document context information, and distribute the amount paid by the user to each of the users according to previously agreed criteria. To do this, the system can use one or more of billing, subscription, and device identifier information.
  • the system may provide content to be learned to the user in the form of a problem in consideration of document context information of the specific paper document selected by the user or context information of the user.
  • This type of problem may be a simple o, x type, or simply provide a selection of existing problems.
  • a problem generator of the present system may be executed in relation to an area selected by the user in the English newspaper or a portion selected by the control of the terminal.
  • This problem generator can analyze the row digital identity corresponding to the selected area of English newspapers and create a problem with a preset algorithm. If the user interface is supported a little more, create a problem by referring to the user context information and document context information. You might be able to.
  • the system preferably utilizes machine learning algorithms, ie artificial intelligencr (AI).
  • the system may generate a problem of indexing a keyword in a row digital identity corresponding to an English newspaper selection area, and selecting and processing a word of only those words most frequently searched by other users having a similar level as the user among the keywords. .
  • the system may provide a problem configured by selecting only words that the user may not know by referring to a history (user context information) that the user has interacted with the system in the past and configuring the user with a difficulty level suitable for the user.
  • the system may reprocess the problem generated by the above-described method, or the selected row (eg, an English newspaper keyword) by referring to the corresponding row digital identity so that the user can be learned as a 'game'.
  • the system selects a keyword searched a lot by other users in English newspapers and simply blanks the system.
  • the system causes the blanks of words searched by other users to blink sequentially so that a user can enter a given keyword card within a limited time.
  • Such a series of game programs may be more active and induce the user's participation than the conventional method in which problems are generated and statically provided to the user, thereby increasing the learning efficiency of the user and causing interest.
  • the 'graphic manipulation' module In this way, the user can manipulate the paper document directly through the transparent display and manipulate the row digital identity corresponding to the specific part selected by the graphic manipulation tool so that the result is displayed on the paper document. More specifically, the method of operation can be largely divided into two. When the user designates the part to be operated, the scanning image corresponding to the designated part is displayed at the designated position, and the user operates the operation tool while viewing the displayed scanning image, and when the operation is completed, the remaining part which is not designated There is a way to combine and store the image of this digital identity (scanning image). In another way.
  • This method initially exposes only the manipulated result of the scanned image without exposing the original scanned image at all, and the portion deleted from the scanned image while the scanned image is being manipulated is the margin of the paper document (or the margin of the scanned image). If you substitute the same color as and display it on the transparent display, the user will have a higher virtual reality experience. This method allows the user to have a high virtual reality experience.
  • a user places a transparent display on a paper document, matches layers, adopts the 'eyedropper' menu, one of the menu (manufacturing tool) buttons at the top of the display, and places the paper document in an arbitrary position.
  • the dropper then causes a dynamic graphical change, as if the letters (or pictures) of the paper document were sucked in. This is possible by setting the resulting graphics of the scanned image to move dynamically.
  • the margin the place where letters or pictures were located
  • the manipulated graphic result is synthesized and stored in the scanning image (whole book, page, or part of it) identified by the book identity by user's selection. Compared to how the user manually composes the original image), the user can provide a more convenient and intuitive interface.
  • the user's identity is known. But sometimes this is called “anonymous” and sometimes only identified by the serial number of the capture device.
  • the system can be used to personalize the system and it is necessary to have a more detailed knowledge of the user in order to allow certain activities and transactions to be performed in the name of the user.
  • the user terminal may be embedded in the mobile phone or otherwise associated with the mobile phone account.
  • a user terminal equipped with a transparent display may be associated with a mobile phone account by inserting a sim card associated with a phone account into the terminal.
  • the user terminal may have a functional facility for a card that contains or is connected to a credit card or other payment card. The user terminal can be used as a payment token and the payment transaction can be initiated by the user terminal recognizing the paper document.
  • the user terminal may also be associated with a particular user or account through a process of recognizing some symbols or text associated with the user or account.
  • the user terminal may utilize biometric information by, for example, scanning a user's fingerprint.
  • the terminal can identify the user by matching the user's voice pattern and asking the user to speak a certain password or phrase.
  • a method of recognizing an identification symbol printed on a paper document in a user terminal and recognizing it in a system This is a way of recognizing the system with the identifiers already printed in the book, without changing the already organized publishing process.
  • a book title, author name, edition, publisher, isbn (FIG. 2-210), barcode (or barcode number), and the like belong to this.
  • These are already printed and distributed identifiers that allow the user to identify the book identity of the book in an existing publishing system.
  • these identifiers eg titles, Author names, etc.
  • scanning images of paper documents should be matched (or given a book identity) beforehand.
  • This method does not have to change the existing physical world and can be applied to already published and commercially distributed documents, but it has a disadvantage that it is not an intuitive interface of the user.
  • a new identifier is printed per page for each new document to be published by the publisher or a document produced and edited on the monitor by anyone (not the publisher) so that the user identifies it to the terminal. This is how you do it.
  • This method is a method that can be realized when the system is commercially available, and is designed to make it easier for a user to recognize a book identity to the system.
  • the system generates a specific password (barcode, signature, etc.). Provide a password generated by the software to be printed together when the document is printed.
  • a publisher generates an identifier and prints it at a specific position of the book, the system should assign a book identity to the printed identifier and match the corresponding digital identity (and document context information).
  • the digital identity match the documents produced and edited by users other than the publisher There may be a variety of methods, but the most user-friendly method, for example, the user looks at the monitor of the computer to create (edit) an electronic document that is finally printed on the paper configuration-layout (font size, text After setting the shape, line spacing, layout, etc., when the 'Print' button is pressed, the identifier is automatically generated and printed at a specific position on the paper, and all data (and document context) to be printed on the paper is printed. Information) may be uploaded to a specific predetermined server and matched with a corresponding identifier.
  • the paper configuration-layout for example, the user looks at the monitor of the computer to create (edit) an electronic document that is finally printed on the paper configuration-layout (font size, text After setting the shape, line spacing, layout, etc., when the 'Print' button is pressed, the identifier is automatically generated and printed at a specific position on the paper, and all data (and document context) to be printed on the paper is
  • the identification symbol may be printed at a predetermined position such as the first page of the document, the cover, or the bottom of the page, as the case may be.
  • This method of printing a new identifier on a paper document has the advantage of providing an intuitive interface to a user, but it is applicable only to a newly generated document and has a disadvantage of making a change in the physical world.
  • a book identity is searched by recognizing a part of a paper document (letter, picture, image, etc.) by using recognition means (scanning element, camera, optical lens, voice recognizer, etc.) provided in the user terminal.
  • recognition means scanning element, camera, optical lens, voice recognizer, etc.
  • This method can be used to make changes in the physical world (changes in the publishing or printing process), such as printing identification symbols on paper documents, or the user inputs identification symbols (book titles, authors, publishers, isbn, etc.) in the terminal. It is designed to overcome the hassle and the practical difficulty of separately printing the identification symbol on the paper document.It is a method of recognizing the contents (paper, picture, etc.) of the paper document itself through the recognition means provided in the terminal. .
  • the system may use the method described above (the user recognizes any area of the paper document). It will be easier and more accurate to find the book identity.
  • a page number is placed on an icon (graphic) that is fixed on the transparent display so that the scanable area on the transparent display can scan a specific area, or 'the area promised by the producer and the user in advance' is determined by the system. It may be prompting immediately. For example, if the user selects a paper document and gives the ready signal, the system may prompt instructions such as read aloud the first word of the page or scan the first sentence of the page.
  • the system can acquire a scanning image of the paper document in various ways.
  • the documents that are common to everyday people (students, employees, etc.) in everyday life are not the only documents published by the publisher.
  • the user can smoothly use the system by creating and editing a document in the same manner as the conventional method of printing something on paper.
  • the 'predetermined specific server' may be a web server commonly used by system users, or may be a dedicated web server (eg, an icloud for logging in and accessing a specific individual).
  • the raw data of a particular paper document acquired by the system through various routes is determined by the system service of the system (e.g. web server), among the digital identity, DIC layer, identifier, data source above the threshold level. Generate one or more Thereafter, preferably, the generated data is matched with the paper document, and a book identity is given.
  • the system service may be executed on the web server or on the local system of the user terminal.
  • a system service generates 'identifiers'.
  • size information of a display provided in a user terminal may be required. For example, if the size of the paper document is A4 size and the size of the user display is the size of a mobile phone, the system service randomly selects an identification symbol (when providing a part of the scanning image as an identification symbol) and provides it to the user terminal. As you move around the DIC layer, you may see an area where the identifier is not visible at all, and if too many identifiers (eg, part of the scanning image) are revealed, a copyright problem may occur. It is difficult to match paper documents. Therefore, the system service needs to refer to the size information of the display provided in the user terminal when generating the identifier.
  • the system when the user recognizes the book identity on the user terminal and sends this information to the system service, some clues (e.g. device serial number) are sent together so that the system knows the size of the user's display. desirable.
  • the system detects the size of the client device, the system extracts a part of the scanning image or a part of the layout of the scanning image by referring to the scanning image (or raw data) of the paper document. Can be provided on a layer.
  • the system can identify the physical size (size in the real world) of the paper document by identifying a book identity on a specific paper document or obtaining a scanning image. To this end, the system must store the physical size information about the paper document in advance for the book identity or calculate the physical size of the scanned image (or raw data) acquired by the system.
  • the way in which a system service creates a "data source above the threshold level for identification" may vary depending on the conventions established between the system operator and the user. For example, if there is a protocol for scanning the first letter of a page, the system service only needs to extract and store the first letter of the page. In addition, if there is a convention of prompting the producer, the system should immediately extract the answer to the system's prompting from the scanned data of the paper document. In addition, there is also a method in which the system finds a book identity even if a user selects an arbitrary area of a paper document, and this method is omitted in the present specification since the method is already disclosed and utilized.
  • the server receives and registers the digital identity created by the user or producer.
  • step (b) of claim 1 It can be regarded as being replaced.
  • the scanning image transmitted by the user may be given a new book identity by the system and stored in the data storage of the system, which may be used by another user later.
  • the user simply scans the scanned image in the memory of the terminal, i.e. without transmitting it to a specific server of the system, a method of executing a specific action without displaying on the display is beyond the scope of the present application. The question may arise.
  • the term 'system' does not mean simply a server connected to a communication network, but a term encompassing a user terminal and an entire server connected to the user terminal through a communication network. It may be regarded as temporarily stored in the user terminal, and if it is deleted after being used without being stored on the user system, the scanning image (raw data) stored in the user system is utilized once to the user. It should be seen that the book identity is once granted.
  • the user selects and selects the digital identity by various sorting criteria such as identifier, object name, visual information, popularity order, and search order.
  • various sorting criteria such as identifier, object name, visual information, popularity order, and search order.
  • a user overlaps a transparent display on a paper document (and part thereof), recognizes a book identity on a terminal, matches a DIC layer, and then selects one of various application tools on a screen provided by a system application. Can be selected.
  • a user may designate a list of friends previously registered on a user's application, with or without a selection area on a layer, to view mark up data written by someone related to the whole (or part of) the paper document.
  • the user may search for an object name related to all or a part (selection area) of the paper document.
  • a user can view a paper document, designate a specific part of a specific page, search only the 'video' related to this part, or search only the relevant 'text document', and the other user can select the part (selected).
  • the user may use objects created by other creators (or authors), including themselves, in relation to the entire page and parts thereof, with various criteria (e.g., popularity, query order) as the key value of a column assigned to a table in the system database. , Creation time, etc.)
  • criteria e.g., popularity, query order
  • the user using this system can use the specific application provided by the system to view the mark up data created by other users, or create and transmit it to the system.
  • the system application should predefine each object in advance, and provide a graphic symbol somewhere on the screen of the application as a menu (option) and a form in which the user can easily identify and use the defined object.
  • These pre-defined objects (records) are identified to the user as a graphic symbol somewhere on the screen, and the data selected by the user and generated by the user are the attribute values of the columns constituting the object. will be.
  • an 'object name', a 'data property', and a 'location in the DIC layer' there may be an 'object name', a 'data property', and a 'location in the DIC layer'.
  • the location information of the DIC Layer may be used in order to show the data previously created by the user in a proper location, but when searching and sharing the additional information with other users, It is also for.
  • an object may have a column with respect to "generation time". This is intended to be used as a source for various applications (for example, arranging English words in the oldest order) presented in the present application, although the user may later browse the objects created by the user at a specific date or a specific time.
  • identifier information eg, id, device serial number, etc.
  • book identity information of the paper document identified by the system may be present.
  • the object name includes all the functions of the software for editing, manipulating, and generating electronic documents through the current computer interface.
  • the user may select a menu (graphic symbol) that means 'handwriting' and take notes.
  • a menu graphics symbol
  • the handwriting menu will have a very large number of submenus to specify this. For example, pen weights, letters, text colors, etc.
  • the user underlines the DIC Layer while viewing the paper document
  • the system application allocates all areas other than the area selected by the user (or including them) to the writing space. Furthermore, the allocated space can be set to extend infinitely under user control. This approach allows the user to attach huge amounts of data about the selection on the paper document without being constrained by space. (At this time, the 'region' selected by the user will be an attribute value of a column (field name) 'position in the DIC layer.'
  • 'writing' in this case is not only a user's touch query, It may be a variety of multimedia data, such as links, videos, text attached to the user.
  • the first part displayed on the DIC Layer by the user by dragging or drawing is an attribute value for the column 'position in the DIC Layer'.
  • the 'selected area' should be identified to the user in order to easily find it later.
  • stamp of all or part of the paper document. This means that when a user views a paper document and places a specific mark on the selected area (icons including question marks, quotes, exclamation marks, etc.), the system can later display the area with the same mark or the whole page. For example, if the rule is to put a question mark on a question that you are not familiar with, you can mark the question mark on the question you are not familiar with while solving the problem collection. If you mark a question mark while viewing various paper documents, you can extract problems or ranges that you do not know well and sort them in order of oldest, most difficult, etc. In addition, information about stamps stamped on various paper documents by each user of the system is transmitted to the system to be an important source for identifying users' interests, preferences, abilities, statistics, and the like.
  • the author may refer to the paper document (e.g., display a scanning image of the paper document on a monitor, and then highlight it on the paper document on a transparent DIC layer that overlaps the scanning image).
  • Markup data such as markup data may be generated using a specific markup language (eg, xml, html, etc.) that is compatible with a web browser provided by the os of the user terminal.
  • the hypertext generated is composed of a table composed of several columns (e.g., book identity, identifier information, etc.), stored in a database of a specific web server, and the user inputs a book identity from the user terminal.
  • hypertext for the purpose of using the system, unlike hypertext, which is typically viewed in a web browser, should not be automatically adjusted by the user or the control of the system. It is characterized by the same size as the physical size of the paper document.
  • the user sees the paper document visible through the transparent display, and the layer's edge (Fig. 9-170) or the edge (Fig. 8-160) is displayed on the display so that the edge or edge of the layer matches the edge or edge of the paper document.
  • the layer's edge Fig. 9-170
  • the edge Fig. 8-160
  • This method is more effective when the size of the display is smaller than the paper document, where the identification clue may be always exposed on the layer, but only when the layer is moved by the user. That is, if a large portion of the contents of the paper document is revealed as an identification clue on the layer, a 'copyright infringement' problem may occur. However, if there is too little exposure of the identification clue, there is a dilemma that the user has little clue to refer to, so that the identification can be identified only when the layer is moved by exposing the identification clue as much as possible without infringing the copyright. There's a way to expose clues.
  • the identification clue which is all or part of the scanning image is exposed only when the layer is moved by the user, and the identification clue is not exposed when the layer is not moved. This is because it is difficult for the user to properly read and understand the identification clue (all or part of the scanning image) while the layer is moving.
  • the GUI of the display allows a layer to be automatically positioned by placing a particular symbol (e.g. box, asterisk, etc.) in the promised area (predetermined area of the paper document shown through the display).
  • a particular symbol e.g. box, asterisk, etc.
  • This small box shape moves according to the user's touch.
  • This box overlaps a pre-scheduled area on the paper document. For example, if you have a prior appointment to place a box on the 'page number' of a paper document (Fig. 5-161), the user will place it on the page number on the paper document while viewing the paper document shown on the display. Will be.
  • the user terminal can then adjust the position of the layer so that the page number of the digital identity (scanning image) is in this box at the location of the box.
  • the "committed area” may be an area in which the "page number” is written, or may be the "first starting point of the text", and in addition, there may be various appointment areas.
  • the 'committed area' may be a 'fixed' area that is recognized by the system user in advance, or may be a 'variable' area prompted by the system. This method is characterized in that the user may not be aware of the existence of the layer at all, which may be a factor for enhancing the user's intuitive interface.
  • the movement distance and direction (speed) of the transparent display detected by the motion sensing element included in the terminal There may be a method for the user to easily adjust the position of the layer (in accordance with the guidance of a specific symbol) by guiding the symbol to a specific symbol (for example, arrows, etc. * FIGS. 13-180) on the display.
  • This method involves a somewhat cumbersome process for the user compared to the fifth method described above, but may be recognized as an interesting medium for adjusting the position of the layer.
  • the transparent display has an element that can detect movement with hardware, the movement of the layer can be adjusted using this.
  • the terminal identifies the position of the paper document, and then the user sends a 'move start' signal and moves the display to the desired area on the paper document. Then, move the layer to match the distance, direction, and speed (ie, speed) the motion element detects.
  • the user can recognize the position of the paper document by artificially displaying on the transparent display (by specifying the edge or border of the paper document, moving the layer to match, or moving a specific symbol to overlap on the promised area) Or the like, but the display is already recognized in advance (for example, a fixed symbol on the transparent display is placed above the page number of the paper document, or the lower right corner of the display is aligned to the lower right corner of the paper document). Or the like).
  • the moving echo and distance in some cases the speed of the display detected by the motion sensing element The same as).
  • the motion sensing element may be implemented in various forms, only a few of them will be given examples.
  • Two parallel micro / surface texture sensors are included to detect deformation of the surface on the paper document.
  • a common use of this kind of input sensor is to capture braille text.
  • the parallel surface texture sensor can also determine the angle of the sensor from the relative speed / distance moved by the parallel sensor.
  • gesture motion based
  • Gestures can be detected by observing data passing under the scanning head, by monitoring changes in the motion sensor, or by mechanical motion-sensing means.
  • the terminal can determine what gesture the user makes with the transparent display.
  • the optical system may also detect relative motion by observing a pattern on the surface of the paper document.
  • the absolute position can be detected by checking the absolute position code on the surface of the paper document.
  • control gestures can be determined thereby.
  • an acceleration sensor such as an accelerometer for detecting changes in speed or direction
  • control gestures can be determined thereby.
  • a gyroscope particularly a chip ring-laser gyroscope is suitable for this task
  • It may have a rolling element or ball similar to the ball point of an optically encoded ink pen. As the ball moves along the paper surface, the optical sensor detects the motion of the optically encoded element.
  • the flow of ink electrically charged throughout the ballpoint is recorded to record relative motion.
  • the ink flowing in the bowl is given a charge detected by this probe.
  • a current-sensitive probe embedded in the ballpoint housing detects the flow of ink on the ball. If there are a plurality of probes, the direction of the ink flow can be inferred from the motion of the resulting ball, and hence the actual motion across the surface.
  • This electrically charged ink technology can serve as a general purpose input recording device, where a user writes in conventional ink, while motion can be written and recorded.
  • a guard ring at or near the boundary where the ball emerges from its housing may be used to discharge the charged ink so that only the charged ink flowing out of the receiver is sensed by the sensor. Alternatively, an optical flow or a motion flow of the acquired scan image may be used.
  • the term "plane scanner” refers to a terminal that employs a principle of reading a reflected light by spraying light toward the object to be scanned by overlapping the display on the object to be scanned with a hardware 'scanning part' inside the display. It means.
  • a general description may be provided in which a plurality of light sources and light receivers are arranged on a plane in one layer in a layer layer inside the display to simultaneously scan a two-dimensional area. There is also a way to leave the physical space between the displays so that the scanline header passes.
  • the scanned image can be sent to the user's system to find the original image having the same image as a part.
  • the system can then estimate the position that the scanned image occupies in the image of the selected original, thereby adjusting the position of the layer of the transparent display.
  • the terminal detects the movement of the display and moves the layer at the same direction and at the same speed.
  • the display may scan the target object (scan in real time, scan only when moving, or scan when moving and sperm) even when the user changes the position of the display.
  • the system may allow the terminal to adjust the position of the layer compared to the original stored in the system.
  • the scanning element e.g. camera, scanner, cmos optical lens, etc.
  • the transparent display e.g. -10-300 or the side of the area where the transparent display is in contact with the paper document.
  • This method is the most convenient method for the user because the user can not recognize the layer itself at all, and there is no need to move the user DIC layer separately.
  • a user may use a user's computer to determine the layout (text size, line spacing, character shape, etc.) of a document that has already been printed and distributed in the form of a specific layout by a producer (eg, publisher, organization, individual, etc.). It can also be edited, transformed and printed on the monitor. At this time, if the content of the original (distributed) document is not changed and only a layout (environmental setting) is generated to generate a paper document, the user recognizes or changes the identifier (eg, isbn number) of the original document.
  • a producer eg, publisher, organization, individual, etc.
  • the system may estimate how much of the 'deformed paper document' has been altered in the original digital identity through the scanned image. That is, the system analyzes the scanned image of a part or all of the 'modified paper document' and separates it into raw data and context information to find a digital identity that matches the raw data. The system may compare the digital identity thus found with the image obtained through the scanning and convert the context information of the digital identity into different context information and present it on the layer.
  • the user may be determined that the display size is smaller than that of the paper document. Places the display in a specific part of the paper document and no matter how you move the layer, the identification may not be visible. That is, a case where the identification clue is out of the display range occurs. To this end, if the size of the display of the device with the user using the system is not constant, the system should provide an identification clue considering the size of the display.
  • the display size information is transmitted together so that an identification clue (formatted with a predetermined exposure range) is provided.
  • an identification clue formatted with a predetermined exposure range
  • a criterion for the system administrator to preselect the exposure range corresponding to the size of the display is as shown in FIG. 14, so that the identification clue is exposed even if the display is located anywhere in the paper document. 190) is selected. (This is a minimum area, of course, and even if more scope is exposed, it will be possible if the copyright problem can be avoided.)
  • the criterion for selecting the minimum area cannot be clearly derived from a mathematical formula.
  • the system selects the corresponding digital identity and then executes the corresponding 'extraction module' by referring to the display size information of the user device in the user context information.
  • the extraction module is a formula previously assigned by the manufacturer and is omitted since it is the same in terms of method and method of determining the above-described exposure range. The two methods described above are in fact the difference between whether the extraction is pre- or post-processed.
  • the system may extract and display a certain range or more of a digital identity corresponding to the area where the display is illuminating the layer (the area where the layer is exposed through the display) even when the layer is moved or stopped by the user. have.
  • the exposure area corresponding to the display size of the terminal is not predetermined by the system manager, but the system detects the movement of the layer and transmits the corresponding data in real time. For example, the system can always provide half of the display as an identification clue, no matter how the user moves the layer.
  • the above-described range of clues may be revealed only when the layer is moved by the user, may not be revealed at all when the layer is not moving, or may be exposed at a certain range even when not moving.
  • all the history of interaction with the mark up data can be recorded (stored) in the system. For example, when a user specifies a mathematics problem, browses a similar problem, and executes a payment module if necessary, all of the relevant information is a good source for constructing the user's context. In other words, the system can infer the user's ability and interest by knowing that the user has simply selected a specific problem and selected a 'similar problem', which provides the user with a valid (appropriate) problem and related data. You can also
  • a user's history of interacting with a user by executing dynamic markup (game) on a particular paper document can measure the user's specific abilities and determine what abilities and habits he or she is aware or unconscious of. It is a good source. For example, if a user interacts while playing a specific English game, if the word that contains a lot of 'spelling' is frequently wrong, and the pronunciation is weakly pronounced, the system will indirectly focus on where the user is vulnerable (in real time). You can create a problem and provide it, or you can provide relevant information that the user may know. This repeated game also allows you to see what abilities your users are improving, what they're still lacking, and how much their abilities are comparable to other users. You may be introduced to a suitable (valid) game (or program) or other program to supplement.
  • the information accumulated in this way informs the system of changes in interests, interests, and abilities for each user, so that the system first selects information that is valid for the user before the user desires it. It can also be provided. In addition, by accumulating the context information of each user in this manner, the system can generate and update the information necessary for the system as a whole, which is advantageous to all users who use the system.
  • the system can separate them and allow them to talk only to each other.
  • a user using the present system may wish to have a conversation with his friend (s) about a particular paper document while viewing the paper document together. Then, the user selects two or more users who wish to have a conversation with each other and reproduces the property data generated by them (using one of the system applications) on the screen of other user (s) participating in the conversation in real time. How to give.
  • each user participating in the conversation prepares the same paper document, opens a specific page (paper document) indicated by one party, and performs the steps (a) and (b) of claim 1 through this system. .
  • any user who participated in the conversation can view the book and create a property value for the object using a specific menu (eg, writing tool) provided by the application.
  • the generated property value is reproduced on the screen of other users participating in the conversation in real time (that is, in real time while the property value is generated).
  • other users who participated in the conversation may also generate real-time property values, and the generated property values may be shared on the screen of other users.
  • the users who participated in the conversation can make their own rules for participation in the conversation, such as 'Who should give permission to create property values among the users who participated in the conversation?'
  • the property value at this time is for a pre-defined object provided by the system application, and there may be a 'voice' item among the object items at this time. That is, if an element capable of recognizing the user's voice is provided on the user's device, not only the real-time display (eg, handwriting) provided by one of the property generators but also the voice of the creator can be directly You may hear it, so it will be much more useful.
  • the system for the reading thereof has already obtained the 'scanning image of the paper document', that is, a person who does not possess the 'paper document' May be provided on the screen, and in some cases, one or more of its 'authentication, security, and payment' may be required.
  • a from then on is one of the various objects that the application provides (Of course, there will be sub-menus of various colors, thicknesses, etc.) and we will start writing the example 2 directly on the screen of the transparent display overlaid on example 2. That is, when an average user solves a problem, they typically draw a number on a book, calculate it next to it, and underline it, drawing them on a transparent display as if they were drawn directly on a piece of paper with Example 2. will be.
  • the data generated by A is recorded on the layer and the object name (menu selected by the user from among the menus provided by the application-writing tool) is recorded and transmitted to a specific server of the system. Will be sent in real time.
  • the property data will be reproduced on the screen of B that received it (since the application is already defined for the object) as on the screen of A.
  • a and B each look at their own book (the mathematics of mathematics) and feel as if they are solving problems together next to each other.
  • the teacher can easily comment on each student's book without the need to deliberately write notes on the board or explain to look somewhere on a particular paper. Can be obtained.
  • the teacher may set his property data to be shared only with students who need personal guidance, or may be set to be shared with all students in a batch.
  • the property data may be generated not only by the teacher but also by anyone who has permission to generate property data and reproduced in real time on the screen of other students. For example, if a student asks a question during class, the teacher can give the student permission to create property data, and then the other students have the property data (eg handwriting) that the student creates. Only what is reproduced in real time in the phase can be seen, and cannot be involved in its creation at all.
  • the user can view the paper document through the transparent display by designating the 'specific area', and the user can select the area that the user wants to use (pre-search, capture, etc.) and display it on the transparent display. May be specified by the user simply selecting an area pre-divided into the document, or one of the preset divisions may be selected by selecting visible / invisible markup, and in some cases the system (producer, The entire document may be a selection area by a program, etc.), and the system may unilaterally select the selection area by referring to the document attribute information (document context information) and user context information. After you finish specifying the, the system executes the specified module to display the selection. Process the corresponding data.
  • the system application may provide a production tool for the user GUI of the system. This is often provided as a menu bar somewhere on the screen where the application is run, and the user can select the desired "module" from among them. For example, if a user views a paper document and designates a selection area on a transparent display, and then designates a specific module on the menu bar, the specific module will be executed for the selected area and the result will be displayed. Alternatively, when the user selects a specific module from the menu bar, the user may be switched to a mode in which the specific module is to be executed so that the user may designate the selection area and execute the specific module.
  • the particular module may be derived and executed from markup or contextual analysis (or depending on the row digitsl identity) or the attribute information of the document.
  • markup visible to the user and / or invisible may be interpreted as control commands of a particular module.
  • the system looks at the paper document and executes any action, such as executing a particular transaction due to the user's record and selection of visible / invisible markup for the specified selection. . This can be achieved by obtaining "additional information," including details about the paper document, its location within the document, and so forth.
  • additional information including details about the paper document, its location within the document, and so forth.
  • This saved history is beneficial to both users and individuals. More specifically, data corresponding to the selected area where a particular module is executed is stored (recorded) in the db of the user system with extra fields added (or only fields).
  • An object consisting of several column names Fields (records) are an important source for generating 'user context information' and 'document context information' of the system, and the generated user / document context information is processed into another context (extended context) Specific functionality related to the document and / or not related, such as providing additional information to the user.
  • the system may grasp the interest and interest of a specific user through the obtained user / document context.
  • the system may infer the change trend of the user's ability through the obtained information.
  • the system will use them as clues.
  • the system may identify which document the user primarily views and retrieve related additional information, and may provide an advertisement or a purchase application that reflects the user's recent interest.
  • an advertisement may be associated with an individual word or phrase, and may be reflected to the user by reflecting the user's interest by selecting the word or phrase or by considering past selection history (user context information). Can be viewed. This method is treated as feedback to advertisers about the effectiveness of their advertisements.
  • the system also presents a new model of compensation for advertisers and marketers. Market sellers, publishers, advertisers, etc., who own copyright in a specific area of a paper document, can earn some income by selecting / purchasing users who use the system.
  • the system may also generate "statistics" for someone by obtaining the user / document context information described above. For example, the system can measure the popularity of a publication based on "statistics.” Factors such as time spent in a particular paper document or the number of times a particular paper document has been retrieved can help the publisher decide which publication to publish in the future. If a small table of contents in an existing book turns out to be too popular, it would be worth expanding it to a separate publication. In addition, more active reader feedback can be observed based on the user's activities, and publishers can reward the authors accordingly. In addition, statistics on the activity of the reader can select particularly popular objects, and the advertiser may pay a premium rate on the most popular objects and allow the advertisement to be viewed.
  • the system may use the above-mentioned 'additional information' to grasp information about a user's habits or interests, and may use it as a source for appropriate marketing (about a product or content) to readers.
  • the user context information and the document context information in the present system can generate a very large amount of extended context information, the system can provide a powerful amount of information and customized information to the user with a clue.
  • the first is 'identifier information' which indicates who is using the terminal to interact with the system.
  • the user's identity is known. Sometimes this is identified as "anonymous", but most are identified by the serial number of the user's terminal.
  • it is very important for the system to be aware of the 'identifier' because the system can be used to personalize the system and certain activities and transactions can be performed in the name of the user.
  • the second is the 'location' that the object (data corresponding to the user's selection) occupies in the digital identity.
  • the third is the object name, which indicates what action the user took on the object.
  • the system can infer a user's English proficiency through a history of words pre-searched by a particular user, and the system can infer the interest and interest of the user through mainly captured sentences. It may be.
  • the user himself can sort and view the data he has captured, and he can list the words he has searched for beforehand.
  • the system can also use the clues to get information about what time the user is primarily studying, sort them when the user wants to review what they have studied on a particular day, or even repeat a particular word by the user.
  • the user can also infer the change of the user's word learning ability by analyzing the searched time.
  • the system can select and show the words searched on the page by other users who read the same paper document, and can infer the user's personal interest and interest.
  • the system can grasp the copyright information of the paper document through the identified book identity, thereby providing a source necessary for a situation in which payment of the user is required.
  • the raw data of the digital identity that matches the book identity identified by the system is the target to be executed by the specific module and does not contain any attribute information.
  • an object that is part or all of the document may have attribute information indicating its characteristics.
  • attribute information is mainly the markup data described above, and may be embedded in or attached to a digital identity and recognized by the system. For example, if a user selects a particular problem on a particular page of a mathematical problem book, and the system attempts to provide the user with a similar (related) problem, the system is selected (visible / or invisible) with that particular problem.
  • Markup (which may be a specific cipher) identifies the nature of the problem (which indicates what category it is in, what level it is, what formula is used, etc.) and identifies the problem (the same formula) Problems used, problems of similar level, problems in the same category) can be provided to the user.
  • Mark up data is stored in the form of a table with a specific column when it is stored in the system's data store, regardless of the creation subject or creation method. This is why an extra field is added to each object when the user sends mark up data to the system's db through a system application that has an object drfine.
  • Objects stored on the table in several columns should be selected and sorted by the user and displayed on the user's DIC Layer screen. To do this, the user first selects a paper document, overlaps the transparent display, matches the DIC Layer, and then recognizes several conditions in the system. For example, selecting a specific section (eg problem 2) on the DIC layer or selecting a friend's id from the friend list.
  • the system will then find the object in the db table that matches the criteria you entered.
  • the system can find several objects with the same attribute values for the book identity and location information that the user initially entered into the system. will be.
  • the object with the same attribute value as the book identity entered when the user starts the system is the object created by another user on the same paper document as the paper document selected by the user.
  • the amount may be so large that it may be difficult to view, it is necessary to select and view the objects by further giving the condition that the user wants in the selected objects (eg problem 2).
  • the user gave the system two conditions of 'book identity' and 'position on the DIC Layer' of the paper document, and the system gave 'book identity' and 'position on the DIC Layer' items identified by the user to the system. It finds an object with the same property value as the property value of and sprays it on the DIC Layer. (Of course, no object will have exactly the same attribute values for the column 'position on the DIC Layer', so the system must have some criteria in advance, for example, if there are overlapping areas above a certain threshold level. ,,,). The system can create a wide variety of situations on this basic core.
  • the system table has an 'identifier' column
  • the user can select and view only the objects created by my friend A on a specific paper document.
  • the system table has an 'object name' column as a column. If so, the user can select and view only the 'notepad' from the objects created by my friend A on a particular paper document.
  • a user may select and read a particular paper document A, and may be curious about comments posted by other users about a certain portion of the paper document (eg, problem 3). Then, the user would look at the paper document on the DIC Layer (and omit the book identity already identified in the system) and drag problem 3 to the system. The system can then provide all of the other user's comments on question 3 in document A.
  • the user's identity is known. But sometimes this is called “anonymous” and sometimes only identified by the serial number of the capture device.
  • the system can be used to personalize the system and it is necessary to have a more detailed knowledge of the user in order to allow certain activities and transactions to be performed in the name of the user.
  • One of the most useful functions that the system can perform is to maintain any additional information related to the action, including the user's record and document context about the user's actions on the paper document and the resulting action. This saved history is very beneficial for both the user and the system. See the "Contexts" chapter for details.
  • the user terminal may be embedded in the mobile phone or otherwise associated with the mobile phone account.
  • a user terminal equipped with a transparent display may be associated with a mobile phone account by inserting a sim card associated with a phone account into the terminal.
  • the user terminal may have a functional facility for a card that contains or is connected to a credit card or other payment card. The user terminal can be used as a payment token and the payment transaction can be initiated by the user terminal recognizing the paper document.
  • the user terminal may also be associated with a particular user or account through a process of recognizing some symbols or text associated with the user or account.
  • the user terminal may utilize biometric information by, for example, scanning a user's fingerprint.
  • the terminal can identify the user by matching the user's voice pattern and asking the user to speak a certain password or phrase.
  • the module execution result may be displayed in a region other than the layer, in addition to the method of displaying on or near the selected object on the layer of the transparent display.
  • the result of the module execution (Figs. 17-102 and 18-107) can be displayed in an area other than the layer.
  • there is a method of executing a capture module by designating a selection area while viewing a paper document projected through a transparent display. At this time, if you touch the screen with your finger (or can be displayed on the screen by various means such as a touch pen), the user can recognize the user's touch with a predetermined thickness and shape in advance and recognize the user's touch.
  • the scanning image corresponding to the image may be set to fill the space (107-4 in FIG. 19) through which the finger passes in real time. In this way, the user can wipe the cloudy glass placed on the paper document with his finger, giving the user a clearer view of the document (under the glass) that corresponds to where the finger passes.
  • the user terminal may also view the output of the module execution where he or she wishes. For example, if a user sets a part of a transparent display to a permeable part, puts a paper document under the permeable part, matches the DIC layer, specifies a selection area and executes a specific module, the result is the user. It can also be displayed in the opaque part (the non-transparent display part) designated by. This can be very useful in situations where you need to spread out the results.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Document Processing Apparatus (AREA)

Abstract

본 발명은 컴퓨터 인터페이스에 관한 것으로, 종이-기반 정보를 전자정보로 향상시키는 새로운 방법에 관한 것이다. 더욱 구체적으로, 본 발명은 사용자가 투명디스플레이(또는 빔스크린)을 통해 보여지는 페이퍼문서를 보며 투명디스플레이(또는,페이퍼문서) 상에 특정영역을 설정하고, 네트워크를 통해 가져온 특정영역에 해당하는 데이터에 대해 특정모듈이 실행되도록 함으로써, 사용자가 직접 페이퍼문서를 보며 조작(활용)하는 듯한 가상현실적 체험을 하게 하는 방법에 관한 것이다. 또한, 특정 페이퍼문서에 관련된 부가정보를 투명디스플레이(또는 빔스크린) 상에 표시되도록 하여, 사용자가 투명디스플레이를 통해 보이는 페이퍼문서를 보며 관심이 가는 부분에 해당하는 아이콘을 단순히 터치하거나, 페이퍼문서에 비춰진 빔스크린에서 원하는 부분을 단순히 터치함으로써, 그와 관련된 부가정보를 손쉽게 열람하도록 하는 방법에 관한 것이다. 더 나아가, 본 발명은 상기 부가정보의 제작권한을 일반 사용자에게 허용함으로써, 동일한 페이퍼문서를 읽는 독자들끼리 페이퍼문서에 관한 다양한 부가정보들을 서로 공유 및 유통되도록 함으로써, 종이기반 정보의 한계를 극복하고 막강한 정보의 확장성을 가능케하는 컴퓨터 인터페이스에 관한 것이다. 이를 위해, 본 발명은 다음의 단계들을 그 구성상의 특징으로 한다. (가) 사용자가 사용자 단말기(client device)를 통해 페이퍼문서의 book identity를 시스템에 식별시키는 단계. (나) 투명디스플레이가 상기 페이퍼문서(혹은 그 일부) 위에 오버랩된 상태에서, 사용자, 혹은 사용자 시스템의 제어에 의해 DIC Layer와 상기 페이퍼문서가 일치되게 오버랩되도록 DIC Layer의 위치가 조정되는 단계. (다) 사용자,또는 시스템의 제어에 의해 상기 DIC Layer 상에 상기 book identity와 매칭된 raw digital identity가 디스플레이 상에 표시되지 않은 채, 재현(매칭, 또는 연결))되는 단계 및/또는 사용자,또는 시스템의 제어에 의해, 시스템 상에서 상기 book identity와 매칭된 extended digital identity(mark up data)가 생성, 또는 선택되어 상기 DIC Layer 상에서 재현되는 단계. (라) 사용자 및 시스템의 제어에 의해, 상기 DIC Layer상에 재현된 digital identity에 대해, 특정영역(또는, object)이 선택되어지고, 선택되어진 특정영역(또는 object)에 대해 사용자 시스템 상의 특정 액션이 취해지는 단계. (마) 상기 (라)의 결과가 사용자 단말기에 구비된 디스플레이 상에 표시되는 단계.

Description

투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템
본 발명은 컴퓨터 인터페이스에 관한 것으로, 종이-기반 정보를 전자정보로 향상시키는 새로운 방법에 관한 것이다. 더욱 구체적으로, 본 발명은 사용자가 투명디스플레이(또는 빔스크린)을 통해 보여지는 페이퍼문서를 보며 투명디스플레이(또는,페이퍼문서) 상에 특정영역을 설정하고, 네트워크를 통해 가져온 특정영역에 해당하는 데이터에 대해 특정모듈이 실행되도록 함으로써, 사용자가 직접 페이퍼문서를 보며 조작(활용)하는 듯한 가상현실적 체험을 하게 하는 방법에 관한 것이다. 또한, 특정 페이퍼문서에 관련된 부가정보를 투명디스플레이(또는 빔스크린) 상에 표시되도록 하여, 사용자가 투명디스플레이를 통해 보이는 페이퍼문서를 보며 관심이 가는 부분에 해당하는 아이콘을 단순히 터치하거나, 페이퍼문서에 비춰진 빔스크린에서 원하는 부분을 단순히 터치함으로써, 그와 관련된 부가정보를 손쉽게 열람하도록 하는 방법에 관한 것이다. 더 나아가, 본 발명은 상기 부가정보의 제작권한을 일반 사용자에게 허용함으로써, 동일한 페이퍼문서를 읽는 독자들끼리 페이퍼문서에 관한 다양한 부가정보들을 서로 공유 및 유통되도록 함으로써, 종이기반 정보의 한계를 극복하고 막강한 정보의 확장성을 가능케하는 컴퓨터 인터페이스에 관한 것이다.
페이퍼문서를 전자화하여 활용하는 방법으로, 가장 전통적인 방식은 사용자 단말기(컴퓨터)와 케이블로 연결된 외부 디바이스인 스캐너로 페이퍼문서를 스캔하고, 모니터 상에 렌더링된 스캔이미지를 보면서 활용(편집,조작, 검색 등)을 하는 것이었다. 그러나, 이런 방법은 페이퍼문서와 모니터가 분리되어 있어서, 사용자는 페이퍼문서를 간단히 활용(편집이나 검색 등)하기 위해서 비교적 복잡한 과정들을 거쳐야하며, 활용결과를 보기 위해서 모니터와 페이퍼문서로 시야를 이동해야하는 단점이 있었다. 또한, 전술한 외부 디바이스로써의 스캐너는 휴대가 곤란하기도 하며, 무엇보다 저작권이 있는 저작물을 아무런 제재없이 스캔하는 것에 대한 실세상의 문제로 인해, 저작물의 활용에 제약을 받아왔다.
페이퍼문서를 전자화하여 활용하는 방법으로, 사용자가 ‘검색’만을 목적으로 한 경우 가장 전통적인 방식은, 페이퍼문서 상의 특정 단어나 문구를 직접 컴퓨터나 전자서전에 입력하는 방법이었다. 이 방법은, 비교적 휴대가 간편하다는 이점이 있기도 했으나, 사용자가 일일이 스펠링을 입력시켜야 하며, 페이퍼문서와 디바이스간에 시야를 이동시켜야 하는 불편함이 있었다.
페이퍼문서를 전자화하여 활용하는 방법으로, 스캐닝엘리먼트가 플레인 스캐너의 형태로 내부에 구비된 투명디스플레이를 활용하는 방법이 있다. 이 방법은 투명디스플레이를 페이퍼문서 위에 오버랩시킨 후, 페이퍼문서의 원하는 부분만 스캐닝하여 디스플레이 상에 디스플레이된 스캐닝이미지를 그래픽소프트웨어를 통해 조작하는 방법이다. 이 방법은, 전술한 두가지 방법에 비하여 사용자의 시야를 흩트리지 않음은 물론, 페이퍼문서를 직접 조작하는 듯한 가상현실적 체험을 할 수 있다는 이점이 있지만, 생산자의 입장에서는 투명디스플레이 상에 투명한 스캐닝엘리먼트를 구비해야 하는 것에 대한 현실적 어려움과 높은 투자비가 드는 단점이 있고, 사용자의 입장에서는, 예컨대, 페이퍼문서 상의 단어 검색하하기 위해서는 특정 단어 하나하나마다 일일이 디스플레이를 갖다대어 스캐닝해야해서, 그로인한 전력소모가 빠르다는 단점이 있으며, 디스플레이 크기를 초과하는 범위의 문서를 한번에 이미지로 획득하지 못하므로, 차후 복잡한 합성프로세스(예;오토코릴레이션)를 따로이 실행해야하는 어려움이 있었다. 또한, 페이퍼문서의 저작권자(저자,출판사 등)의 입장에서는 이 방법 역시 페이퍼문서를 스캐닝하여 이미지를 획득하는 방법으로 인해, 저작권의 보호가 되지 않는다는 단점이 있었다.
페이퍼문서를 전자화하여 활용하는 방법으로, 종이책에 탄소성분의 코드좌표를 인쇄하고 제작자가 미리 해당 코드좌표와 특정 컨텐츠를 매칭시켜놓는 방법이 있다. 이 방법은, 출판업자 입장에서는 미래에 출간될 책을 위해 출판공정 상에 물리적 변화를 주어야한다는 단점이 있고, 사용자의 입장에서는 과거에 이미 출간/배포된 이 방법을 이용할 수 없다는 단점과 더불어, 종이책의 어떤 부분에 어떤 컨텐츠가 첨부되어 있는지 알 수 없으며, 제작자가 일방적으로 매칭시켜놓은 컨텐츠를 일방적으로 열람할 수 밖에 없음으로 인해 사용자의 개입에 제약을 받고 개인화/맞춤화된 정보를 제공받을 수 없다는 단점이 있었다.
페이퍼문서를 그와 관련된 전자정보로 확장시키는 방법으로, 가장 전통적인 방식은 사용자가 종이문서를 보며 선택한 문구 등을 직접 사용자 디바이스 상에 입력(키보드)하여 검색하는 방식이다. 이런 방법은, 통상적으로 많은 사람들에 의해 사용되는 방법으로써, 가령, 신문을 보다가 모르는 단어나 궁금한 인물에 대해 검색하고 싶을 때, 사람들은 그들이 가진 인터넷이 가능한 단말기(노트북,스마트폰 등)을 활용하여 일일이 키보드를 통해 입력해야했다. 이런 방법은 일반적인 문서를 읽는 독자들에게는 그러한 일련의 과정이 큰 불편을 초래하지는 않았지만, 전문적이며 다양한 외국어를 함유한 책을 공부해야하는 학습자에게는 일일이 단말기에 외국어를 포함한 문자의 스펠링을 입력하는 방법은 상당히 귀찮은 과정이었다. 또한, 독자가 페이퍼문서와 디바이스를 오가며 시야를 이동시켜야 하는 기존의 방법은 독자의 페이퍼문서에 대한 몰입도를 떨어뜨리는 것은 물론, 사용자가 디바이스에 입력하여 검색한 결과물 역시 페이퍼문서의 맥락과는 전혀 상관없는 것이어서 이또한 사용자의 몰입도를 방해하는 요인이기도 하였다.
페이퍼문서를 그와 관련된 전자정보로 확장시키는 다른 방법으로,, 종이책에 탄소성분의 코드좌표를 인쇄하여 해당 코드좌표와 특정 컨텐츠를 매칭시켜놓는 방법이 있다. 이 방법은 출판업자의 입장에서는 미래에 출간될 책을 위해 출판공정 상에 물리적 변화를 주어야 한다는 단점이 있고, 사용자의 입장에서는 과거에 이미 출간/배포된 문서에 대해서는 이 방법을 적용할 수 없다는 단점이 있었다. 또한, 사용자는 종이책의 어느 부분에 어떤 컨텐츠가 첨부되어 있는지 알 수 없어서 일일이 눌러봐야하는 단점이 있다. 또한, 이러한 방법은 컨텐츠를 제공하는 주체가 오로지 ‘제작자’에 국한되어 있어서 동일한 책을 본 다른 독자들의 의견, 및 동향을 파악할 수 없다는 단점이 있었다. 또한, 이러한 방법은, 사용자 각각의 흥미나 관심도와 무관하게 제작자가 일방적으로 제공한 컨텐츠를 단순히 선택하기만 해야 한다는 단점이 있었다.
페이퍼문서를 그와 관련된 전자정보로 확장시키는 또 다른 방법으로, 페이퍼문서를 참조하여 생성한 하이퍼텍스트 문서를 특정 웹서버에 저장하여, 사용자가 특정 페이퍼문서 위에 투명디스플레이를 오버랩하고, 페이퍼문서의 모서리에 투명디스플레이의 모서리를 맞추는 동작을 하면, 시스템이 사용자가 선택한 페이퍼문서에 해당하는 하이퍼텍스트 문서를 투명디스플레이에 렌더링시키는 방법이 있었다. 그러나 여기서 제공되는 하이퍼텍스트 문서는 제작자에의해 일방적으로 제작되어져야하며, 그것의 생성을 위해 상당부분 번거로움을 감수해야했다.. 또한, 시스템은 다른 유저의 동향을 동시에 파악하여 사용자들에게 가장 인기있는 정보를 나열하여 제공해줄 수 없음은 물론, 사용자에게 맞춤화된 정보도 제공할 수 없다는 단점도 있다. 또한, 이 방법은 투명디스플레이와 페이퍼문서의 특정모서리(예;오른쪽 모서리)를 맞춤으로써 대략적으로 투명디스플레이와 페이퍼문서를 일치시키는데, 이는 페이퍼문서(책)의 크기가 천차만별인 것을 감안했을 때, 현실적으로 통용되기 불가능한 요소를 가지고 있었다..
이외에도, 기존의 모든 방법은 페이퍼문서에 관해 제작자가 사전에 제공하고자 하는 전자정보를 사용자가 단순히 선택하여 열람하는 것에 국한되어 있지 사용자가 페이퍼문서에 전자정보를 첨부하고 이를 공유하는 방법에 관한 것은 없다. 즉, 사용자는 페이퍼문서를 보면서 따로이 자신의 생각이나 자료들을 첨부하고 싶을 때는 페이퍼문서에 직접 펜으로 글을 쓰거나, 표시를 하고, 포스트 잇 등을 활용하여 물리적 문서에 직접 조작을 가해야했다. 이런 과정은 사용자에게 매우 귀찮은 과정임은 물론, ‘종이’라는 물리적 한계로 인해, 필기공간이 부족하거나, 책이 더러워져서 차후에 보기 어려워지는 문제도 발생하였다. 또한, 이렇게 물리적 세계에서 페이퍼문서에 직접 부가정보를 첨부 및 조작하는 방식은, 생성된 부가정보를 따로이 정리하고, 정렬하여 보기 어려운 문제도 있었음은 물론, 동일한 페이퍼문서를 열람한 다른 유저가 생성한 부가정보도 열람할 수 없다는 단점이 있다.
본 발명은 기존에 제안된 방법들의 상기와 같은 문제점들을 해결하기 위해 제안된 것으로 사용자가 페이퍼문서의 저작권을 보호하면서도, 페이퍼문서를 활용하여 생성되는 2차가공물을 열람하며, 페이퍼문서와 관련된 막강한 전자정보를 열람하고 공유할 수 있도록 하는 것에 그 목적이 있다.
더욱 구체적으로는,
첫째, 본 발명은 페이퍼문서를 전자화하여 활용하기 위하여 기존에 제안된 방법들이 ‘물리적 세계의 변화’(플레인 스캐너를 사용자 각각이 구비하거나, 페이퍼문서에 코드좌표를 따로이 인쇄해야하는 등)를 반드시 주어야 했던 현실적 제약과 그로인한 비용소모에 대한 부담을 해소하는 것을 목적으로 한다.
둘째, 본 발명은 기존에 제안된 방법(페이퍼문서를 스캔하여 전자화한 다음, 이를 활용하는 방법)에 필연적으로 따라오는 저작권문제를 해소하는 것을 그 목적으로 한다.
셋째, 본 발명은 기존에 제안된 방법으로 사용자에게 제공되는 상기 2차가공물의 특징인 폐쇄성과 비개인성을 극복하는 것을 그 목적으로 한다.
넷째, 본 발명은 플레인 스캐너가 구비된 단말기가 페이퍼문서를 원활하게 인식하기 위하여 디스플레이의 크기에 제약을 받을 수 밖에 없는 물리적 세계의 문제을 극복하도록 하는데에 그 목적이 있다.
다섯 번째, 본 발명은 페이퍼문서를 인식하기 위하여 스캐너를 활용할 때 필연적으로 따라오는 문제였던 (단말기나 종이의 미세한 움직임으로 인해) 이미지가 깨지는(혹, 번지는) 현상과 페이퍼문서 상에 사용자의 첨가본(낙서,필기)도 동시에 스캐닝되어 깨끗한 원본의 이미지를 얻을 수 없는 현실적 문제를 극복하는 데에 그 목적이 있다.
여섯번째, 본 발명은 사용자가 페이퍼문서를 보는 와중에 생기는 궁금증을 위해 별도의 디바이스를 구비하고 검색어를 입력해야 하는 불편함을 해소하는 것을 그 목적으로 한다.
일곱번째, 본 발명은 특정 페이퍼문서에 관한 전자정보를 언제나 최신의 상태로 유지하여 사용자에게 제공하고 더 나아가 사용자에게 적합한(유효한) 전자정보를 제공하는 것을 그 목적으로 한다.
여덟번째, 본 발명은 특정 페이퍼문서에 관한 전자정보를 단순히 열람하고 소비하는 것에 그치지 않고, 직접적으로 특정 페이퍼문서에 관해 사용자가 첨부
(부가)하고 싶은 정보를 사용자의 투명디스플레이 상에서 사용자가 직접,손쉽게 생성할 수 있도록 허용함으로써, 부가정보를 손쉽게 정렬 및 분류하여 개인화할 수 있도록 함은 물론, 생성한 부가정보를 동일한 페이퍼문서를 열람한 다른 유저들에게도 공유될 수 있도록 함으로써, 막강한 정보를 제공하는 것을 그 목적으로 한다.
아홉번째, 본 발명은 사용자가 구비한 투명디스플레이(또는, 빔스크린)의 크기와 페이퍼문서의 크기가 비슷(내지 동일)해야 하는 기존의 현실적 제약을 극복하는 것을 그 목적으로 한다.
상기한 목적을 달성하기 위한 본 발명의 특징에 따르면,
페이퍼문서를 전자화하는 방법에 있어서, 상기 방법은 투명디스플레이, 또는 에이제스쳐 및 빔스크린 기능이 구비된 사용자 시스템에서 사용되기 위해,
(가) 사용자가 사용자 단말기(client device)를 통해 페이퍼문서의 book identity를 시스템에 식별시키는 단계.
(나) 투명디스플레이를 상기 페이퍼문서(혹은, 그 일부) 상에 오버랩시키거나, 빔스크린을 상기 페이퍼문서(혹은, 그 일부) 상에 분사한 후 사용자, 또는 사용자 시스템의 제어에 의해 DIC Layer와 상기 페이퍼문서가 일치되게 오버랩되도록 DIC Layer(또는,페이퍼문서)의 위치가 조정되는 단계.
(다) 사용자,또는 시스템의 제어에 의해, 상기 DIC Layer 상에 상기 book identity와 매칭된 raw digital identity가 디스플레이 상에 표시되지 않도록 재현되는 단계
및/또는
사용자,또는 시스템의 제어에 의해, 시스템 상에서 상기 book identity와 매칭된 extended digital identity(mark up data)가 생성, 또는 선택되어 상기 DIC Layer 상에서 재현되는 단계.
(라) 사용자 및 시스템의 제어에 의해, 상기 DIC Layer상에 특정영역(또는, object)이 선택되어지고, 선택되어진 특정영역(또는 object)에 해당된 digital identity에 대해 사용자 시스템 상의 특정 액션(모듈)이 실행되는 단계.
(마) 상기 (라)의 결과가 사용자 단말기에 구비된 디스플레이 또는, 빔스크린 상에 표시되는 단계.를 포함하는 방법.
본 발명의 페이퍼문서를 전자화하는 방법에 따르면,
첫째, 사용자는 페이퍼문서를 투명디스플레이 위에 오버랩한 후, 투명디스플레이를 통해 투과해보이는 페이퍼문서를 보며 원하는 영역을 손가락으로 터치( 혹은, 드래그)하거나, 투명디스플레이 상에서 발광하는 아이템(하이라이트, 심볼,여타의 그래픽 기호 등)을 터치(혹은 선택)하는 동작만으로도, 페이퍼문서와 연관된 전자정보를 손쉽게 열람할 수 있게 된다. 이는, 사용자가 페이퍼문서를 보며 선택한 문구(단어,문장, 혹은 아이템 등)를 검색하게 위하여 다른 디바이스로 시야를 옮겨야하는 불편함을 해소하여, 사용자의 페이퍼문서에 대한 몰입을 방해하지 않게 하고, 더 나아가 페이퍼문서와 연관된, 맥락성있는 정보를 열람할 수 있게 되어, 사용자의 페이퍼문서에 대한 이해도를 높여줄 수 있다.
둘째, 사용자는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서에 분사된 빔스크린을 페이퍼문서와 함께 보면서, 페이퍼문서에서 활용(예;사전검색)하고 싶은 부분을 직접 페이퍼문서 상에 손가락을 갖다대는 직관적 동작을 하거나, 페이퍼문서 상에서 빔스크린을 통해 표시된(발광하는)아이템을 단순히 선택하는 직관적 동작만으로 손쉽게 페이퍼문서를 전자화할 수 있으며, 아무것도 얹혀져있지 않은 종이책을 직접 조작하는 듯한 가상현실적 체험을 할 수 있다.
셋째, 페이퍼문서에 관련된 전자정보를 제공하는 방법으로 기존의 방법들이 오로지 제작자가 일방적으로 제작한 것을 사용자가 단순히 열람만 하는 방식이었는데 반해, 본 출원에서는 사용자 컨텍스트를 분석하여 이를 시스템의 시스템서비스(data provider)가 사용자 각각의 기호(관심과 흥미도,혹은 필요)에 맞도록 전자정보를 생성하여 제공하는 방식을 취함으로써, 사용자는 언제나 최신의 정보나 개인화된 유효한 정보를 열람할 수 있게 되고, 광고주를 포함한 상업적 이해관계인에게는 매우 유효한 광고나 서비스를 제공할 수 있는 장을 열어주기도 하며, 시스템은 또한 이를 통해 그들(상업적 이해관계인)에게 상업적으로 이용가능한 정보를 제공해줄 수도 있다.
넷째, 페이퍼문서에 대한 전자정보의 생성자는 오로지 ‘제작자’였던 기존의 방식에서 벗어나, 사용자 각각이 페이퍼문서에 대한 부가정보(마크업)의 제작자가 되도록 허용하는 본 발명의 방식은, 사용자가 물리적 세계에서 페이퍼문서 상에 부가정보를 첨부하고 싶을 때, 책이나 노트에 일일이 필기를 하고, 포스트 잇을 붙이고 색연필로 칠하는 등의 번거로운 과정을 수행해야 했던 불편함을 감수하게 해주며, 사용자가 차후 생성한 부가정보를 자신이 원하는 기준으로 손쉽게 정렬하고 정리하여 볼 수 있게 해줌으로써, 기존의 물리적 세계에서 행해져온 방법에서 제공할 수 없었던 사용자 지향형 인터페이스를 제공할 수 있게 한다. 또한,이렇게 생성된 부가정보를 다른 유저와 공유할 수 있도록 허용함으로써, 사용자는 동일한 페이퍼문서를 읽는/읽었던 다른 유저가 해당 페이퍼문서 상에서 작성/첨부한 부가정보를 사용자가 원하는 기준(페이퍼문서 상에 원하는 위치, 마크업 생성 식별자, 등)으로 선택하여 볼 수 있게되어, 기존에 제작자가 일방적으로 제공하던 부가정보를 단순히 열람하던 방식에 비해 월등히 막강한 정보를 유기적으로 제공받을 수 있게 된다.
다섯째, 본 발명에서 DIC Layer와 페이퍼문서를 일치시키는 구성은, 페이퍼문서의 크기와 디스플레이(빔스크린)의 크기가 동일/또는 비슷해야만 했던 기존의 현실적 제약을 극복하고, 어떤 책이나 디바이스에서도 호환될 수 있도록 해줌으로써, 본 발명의 효용성을 높여준다.
여섯째, 사용자 입장에서, 사용자 각각이 페이퍼문서를 스캐닝하거나, 별도의 디바이스에 일일이 검색어를 입력하여야 하는 번거로운 과정 없이, 식별기호를 단말기에 인식시키는 간단한 절차만으로 페이퍼문서를 자유롭게 활용할 수 있어서 편리하며, 생산자의 입장에서는 단말기에 별도의 값비싼 인식수단(예;플레인 스캐너, 광학렌즈 등)을 구비시키거나, 종이책의 인쇄공정과정에 변화를 주어야 하는 등의 현실적 어려움과 부담을 감수하지 않아도 되므로 사용자와 생산자(시스템 제공자) 모두에게 유리하다.
일곱째, 본 발명의 특징 중, DIC Layer상에 선택영역에 해당하는 digital identity에 대해 특정모듈이 실행될 때, 인증,보안,지불의 프로세스가 동시에 진행되도록 하는 구성은 기존의 방법에서 항상 논란이 되어왔던 저작권문제을 사전에 원천봉쇄할 수 있게 해주고, 정당한 저작물 유통의 장을 열어줌으로써 사용자와 저작권자 모두에게 유리할 수 있다.
여덟째, 모듈이 실행될 때, 모듈실행시 digital identity에 여분의 필드(속성정보)가 추가되어 시스템에 저장되도록 하는 구성은 차후 이들을 단서로 사용자에게 적합하며, 관련성있는 막강한 정보를 시스템이 가공할 수 있도록 해주어, 기존에 일방적으로 시스템관리자에 의해 제공되던 2차 가공물의 폐쇄성과 비개인성을 극복하여 막강한 정보확장성과 개인화를 이루어준다.
아홉째, 좌표변환도구의 기능을 하는 소프트웨어로써 DIC Layer(이하, 레이어)를 활용하는 구성은 디스플레이의 크기와 페이퍼문서의 크기가 일치하지 않아도 사용자가 투명디스플레이 상에서 페이퍼문서를 보며 아무렇게나 지정한 영역을 단말기가 제대로(사용자가 페이퍼문서의 어떤 부분을 의도로 하고 있는가를) 파악할 수 있도록 해준다. 이는 디스플레이의 크기에 제약을 받아왔던 (플레인 스캐너가 구비된 투명디스플레이와 같은) 기존의 방법에 비하여, 획기적으로 디스플레이 크기에 대한 자유를 가져다 준다. 이는 다른말로, 핸드폰이나 타블릿 등 디스플레이의 크기가 천차만별인 모든 디바이스에서 그 크기가 천차만별인 모든 페이퍼문서에 대해 본 발명의 방법을 적용할 수 있게 되는 것이다. 또한, 레이어는 디스플레이보다 크기가 큰 페이퍼문서의 이미지도 복잡한 편집과정을 수행할 필요가 없이 단말기가 한번에 획득할 수 있게 해줌으로써, 사용자가 디스플레이를 페이퍼문서의 여기저기를 옮겨다니며 스캐닝하고 합성해야하는 번거로운 과정을 면케해준다.
열째, 페이퍼문서를 스캐닝하여 전자화하는 기존의 방법에 비해, 이미지의 번짐 내지 깨짐 현상을 근본적으로 방지할 수 있어서, 사용자는 미세한 움직임을 제어하려고 의식적으로 노력해야 하는 기존의 수고로움을 감수하지 않아도 되며, 페이퍼문서를 스캔할 때 페이퍼문서의 인쇄본 이외에 첨가분(필기나 낙서 등)도 동시에 스캐닝되는 문제를 극복할 수 있어서, 언제 어디서든 깨끗한 원본 문서를 (사용자가 특별한 주의를 기울이지 않아도) 흔들림 없이 단말기에 인식시킬 수 있게 된다.
본 명세서에 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 내지 기능적 설명들은 단지 본 발명의 개념에 따른 실시예를 설명하기 위한 목적으로, 본 발명의 개념에 따른 실시예들은 다양한 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되는 것으로 해석되어서는 아니된다.
본 발명의 광범위한 목적은 페이퍼문서가 그 물리적 한계로 인해 제약받아왔던 폐쇄성을 극복하고 다양한 전자정보로 향상될 수 있도록 하고, 사용자가 전자정보를 열람함과 동시에 이를 생성할 수 있도록 하여, 막강한 정보를 시스템 사용자 간에 공유할 수 있도록 하기 위함이다.
본 발명은 사용자가 특정 페이퍼문서를 지목하여 해당하는 book identity를 단말기에 인식시킨 후, 사용자 시스템 상의 데이터저장소(사용자 단말기의 메모리, 또는 통신망과 연결된 하나 또는 복수의 서버)에 미리 저장되어있는 (혹은, 즉시 생성한) 페이퍼문서에 관련된(혹은, 페이퍼문서 상에서 또는 페이퍼문서를 참조하여 )데이터들을 불러와서 표시되지 않도록 (투명하게) 디스플레이(또는 빔스크린)상에 재현시킨 후, 사용자가 페이퍼문서를 보며 원하는 영역을 투명디스플레이(혹은, 빔 스크린을 활용할 경우, 페이퍼문서) 상에 직접 선정하면, 시스템이 사용자가 선정한 영역에 해당하는 digital identity를 추출하여 이에 대해 사용자,혹은 시스템이 선정한 특정모듈을 실행하는 것이다. 또한 투명디스플레이 (또는, 빔스크린을 활용할 경우, 페이퍼문서) 상에 상기 페이퍼문서와 관련된 부가정보(mark up data)를 사용자의 투명디스플레이(또는 빔스크린) 상에 표시시킴으로써, 사용자가 페이퍼문서 상에 발광하는 object를 직접 선정토록 하는 것을 그 특징으로 한다.
이하, 본 발명에서 쓰이는 용어의 개념을 설명하고. 청구항에 나타난 다양한 방법들의 개념을 구체적으로 설명한다. 단, 본 명세서에서는 ‘투명디스플레이가 구비된 단말기’를 중점으로 본 발명을 설명하고자 하나, 이는 본 발명의 용어와 개념들을 알기쉽게 설명하기 위함이지, 본 발명의 범위를 ‘투명디스플레이가 구비된 단말기’에만 국한하여 적용코자 함은 아니다. 즉, ‘에어제스쳐와 빔스크린 기능이 구비된 단말기’는 본 발명을 이해한 당업자라면 손쉽게 본 발명의 방법을 그것에 적용할 수 있기 때문에 본 명세서에서 설명이 지나치게 방대해짐을 막기 위해 ‘투명디스플레이’만을 자세히 언급한 것임을 염두해 두어야 한다.
(*에어제스쳐와 빔스크린 기능이 구비된 단말기‘란; 제어부,입력부,출력부가 구비된 일반적인 사용자 단말기에서 출력부의 기능을 ’빔스크린‘이 담당하고, ’입력부‘의 기능을 ’에어제스쳐‘기능이 담당하는 단말기를 뜻한다. 즉, 영상을 반사해낼 수 있는 2차원면적(벽,칠판,손바닥 등)에 단말기로부터 출력된 영상을 빔으로 분사하고, 분사되어 식별되는 영상에 대해 (터치스크린이 구비된 디스플레이를 조작하는 것과 똑같이) 사용자가 손가락을 갖다댄다던지, 웹페이지를 넘긴다던지, 웹페이지를 확대,축소한다던지 하는 등의 움직임을 하면 이로인해 반사된 빛의 분석하여 단말기가 사용자의 제스쳐를 인식하여 제어부에 입력신호로써 전달하는 하는 것이다. 이러한 방법은 이미 출원되어 시중에 시판되고 있는 사항이므로 이에관한 자세한 설명은 생략한다.)
1. 사용자 시스템.
-본 출원에서 ‘사용자시스템’은 다음을 포함한다.
1-1. 투명디스플레이 또는, 빔스크린- 사용자 워크스테이션의 제어에 따라 작동하며, 사용자가 페이퍼문서를 보며 투명디스플레이 상에 지정한 지점의 좌표를 감지하여 (또는, 사용자가 페이퍼문서에 분사된 빔스크린 상에 지정한 지점의 좌표를 단말기에 구비된 에어제스쳐 기능을 통해 감지하여) 본 시스템에 전달하고, 사용자 워크스테이션으로부터 전송받은 결과물을 디스플레이 하는 역할을 한다.
1-2. 사용자 워크스테이션- 사용자가 입력한 book identity를 식별하여, 메모리 혹은 네트워크에 연결된 하나 또는 다수의 서버들에 위치한 digital identity를 선택,액세스,검색 및 모듈실행을 제어하고, 투명디스플레이(또는,빔스크린)에 의해 상기 수신된 결과물의 디스플레이를 제어하기 위해 사용된다. 이를 위해, 사용자 워크스테이션은 digittal identity를 요청,수신 및 저장하기 위한 수단과, 투명디스플레이(또는, 빔스크린)상에서 사용자에의해 눌려진(선택되어진)영역의 좌표값을 DIC Layer상의 좌표값으로 변환시키는 수단과, 상기 눌려진 지점에 연관된 digital identity를 식별하기 위한 수단과, 상기 수신된 digital identity의 투명디스플레이(또는, 빔스크린)에 의한 디스플레이를 제어하기 위한 수단을 포함한다. 더욱 구체적으로, 본 출원에서 사용자 워크스테이션은 식별된 book identity를 통해 DB에 저장된 문서 컨텍스트 정보를 통해 페이퍼문서의 크기를 읽어온 후, 이를 참조하여 DIC를 구동시키고, DIC는 단말기에 인식된 페이퍼문서의 위치와 전술한 페이퍼문서의 크기를 참조하여 DIC Layer를 생성한다.. 이후, DIC가 연결시켜준 digitsl identity의 특정 데이터에 대해 메모리,혹은 네트워크와 연결된 하나 또는 복수의 서버에 위치한 특정모듈이 실행되도록 하고, 그 결과물을 단말기에 구비된(연결된) 디스플레이 상에 전송해주는 역할을 한다.
또한, 일 실시예에서, 사용자 워크스테이션은 레이어의 위치가 사용자에 의해 제어될 수 있도록 사용자 단말기에 구비된 디스플레이의 크기 정보를 참조하여 식별단서를 생성하여 상기 레이어 상에 뿌려주며, 경우에 따라 식별단서의 노출범위와 시간 등을 제어할 수 있다.
바람직하게는, 사용자 워크스테이션은 하나 또는 복수의 서버와 송수신할 수 있는 통신망에 연결되어 있어서, 스캐닝이미지 및 특정모듈에 대한 제어 등은 이 통신망을 통해 원격조종된다. 일 실시예에서, 사용자의 오프라인 상황에서의 시스템의 원활한 사용을 위하여 사용자 단말기가 온라인에 접속해 있을 때, 기존에 요청한 raw data 및 mark up data를 비롯한 모든 정보들이 모두 메모리, 혹은 단말기에 구비된(연결된) 다른 엔티티에 다운로드 되어질 수 있고, 오프라인 상태일 때 누적된 사용자 컨텍스트 정보( 히스토리컬 정보)가 온라인 상황이 되면, 모두 특정 서버에 업로드되도록 할 수 있다.
일실시예에서, 사용자 워크스테이션은 digital identity와 특정모듈을 단말기 상의 메모리에 저장하여 이를 로컬액세스할 수 있으나, raw data,및 특정모듈은 단말기의 메모리나 하나 또는 다수의 서버들에 국부적으로 위치되어 순차적으로 제어될 수도 있다.
일 실시예에서, 상기 구성요소는 각각이 분리되어져 케이블,와이어쌍,적외선 링크,또는 무선라이오 링크 등에 의해 연결될 수도 있다. 더욱 구체적으로, 사용자 워크스테이션은 투명디스플레이,컴퓨터, 및 원격통신장치 등의 기능 및 용량이 전적으로, 또는 부분적으로 하나의 디바이스에 통합될 수 있다. 따라서, 본 출원 상에서 투명디스플레이, 사용자 워크스테이션,사용자 단말기 등의 용어들은 동일한 디바이스를 의미하는 것일 수 있으며, 사용자 단말기는 핸드폰, 내장 컴퓨터, 네트워크 컴퓨터, 인터넷 가전 또는 무선 IP 가능 장치들일 수 있다, 바람직하게는 사용자 워크스테이션은 인터넷망에 연결되고, 웹브라우저 또는 본 시스템을 위한 전용 어플리케이션을 실행하며, 연결된 서버는 웹서버이다. 또한, 사용자 단말기는 검색엔진, 문서소스, 사용자 계정 서비스, 마크업서비스, 및 다른 네트워크 서비스를 네트워크 상에서 이용가능하다. 네트워크는 통합 인트라넷, 공중 인터넷, 모바일 폰 네트워크 또는 일부 다르 네트워크, 또는 이들의 상호접속일 수 있다.
2. 컨텍스트
시스템은 사용자 각각의 시스템 이용 내력을 분석함으로써 각각의 유저들에게 개인화된 막강한 정보를 제공할 수 있다. 이를 위해, 시스템은 사용자에 관한 정보 및 사용자가 시스템에 로그인한 순간 내지는 사용자 인증을 거친 순간부터, book identity를 입력하고 특정 액션들을 취하는 동작까지에 관련된 일련의 인터랙팅 정보들을 필요로 한다. 이렇게 시스템이 획득한 정보를 일반적인 의미에서의 ‘컨텍스트’라 하지만, 본 시스템에서는 더 나아가 이러한 일반적인 의미의 컨텍스트를 분석하여 시스템이 요구하는 정보로 시스템서비스(data provider-예; 웹서비스)에 의해 재가공된 정보도 ‘컨텍스트’라는 범주안으로 해석하고자 한다. 그리고, 이렇게 시스템이 획득한 기본적인 정보를 ‘사용자/문서 컨텍스트 정보’라 칭하고 이를 바탕으로 시스템 서비스에 의해 재가공된 정보를 ‘extended context'정보라 칭한다. 물론, 사실상 따지고보면, 사용자컨텍스트,문서컨텍스트,,extended context 는 그 구분이 모호하며 정확하게 구분할 수 없는 성질의 것이기는 하나, 개념의 명확한 이해를 위하여 어쩔 수 없이 구분한 것이니 참고바란다. 바람직하게는, 상기 시스템서비스(data provider)는 데이터마이닝( data mining)기법을 씀으로써 그 기능성을 증대시킬 수 있다. 이렇게 생성된 컨텍스트 정보는 시스템과 사용자 모두에게 유리하다. 예컨대, 시스템은 획득된 컨텍스트 정보를 분석함으로써 출판업자나 광고주에게 사용자들의 최근의 관심도와 인기페이퍼문서에 관한 통계치를 제공해주어, 그들의 의사결정에 필요한 자료를 제공해줄 수 있다. 반면에 사용자 입장에서는 사용자가 선택한 영역에 해당하는 object를 검색엔진을 통해 검색하고자 할 때에도 컨텍스트 정보의 일부가 검색엔진 자체에의해 취급되거나, 검색결과에 반영되도록 함으로써 조금 더 사용자에게 적합하고, 개인화된 정보를 제공받을 수 있게 된다. 더욱 구체적으로, 예컨대, 검색엔진은 사용자의 인터랙팅 이력을 추적할 수 있고, 이 인터랙팅 이력을 기존의 키보드 기반 문의와 상호참조시킬 수도 있다. 그러한 경우, 검색엔진은 각각의 개별 사용자에 대해 대부분의 기존 검색엔진이 하는 것보다 더 많은 상태정보를 유지하고 사용할 수 있으며, 검색엔진과의 각각의 인터랙션은 오늘날 전형적인 방법보다 더 긴 기간동안, 여러 검색들에 걸쳐 확장될 수 있다. 더 나아가, 이러한 검색엔진은 텍스트의 간단한 검색을 넘어서, 본 시스템에 적합한 새로운 액션이나 옵션을 제공할 수도 있다. ( 보다 자세한 사항은 ’ 특정 액션‘챕터를 참조하라)
2-1. 사용자 컨텍스트 정보
2-1-1. 사용자 시스템과 인터랙팅한 이력에 대한 컨텍스트
- 사용자가 본 시스템과 인터랙팅한 이력에 관한 것이다. 이는 사용자가 특정 액션을 실행시킬 때 여분의 필드(예; book identity식별자, 사용자식별자. digital identity상에서의 위치, 시각 등)가 추가됨으로써 생성되기도 하고, 시스템에 의해 사용자가 로그인한 기록이라던지, 특정 책에서 머문 시간 등 시스템이 감지할 수 있는 모든 정보가 이에 해당한다,
2-1-2. 사용자의 실세상 컨텍스트
-나이,지리적 위치, 소유한 다른 디바이스 일련번호, 핸드폰 통신내역, 메일 송수신 내역 등 사용자의 실세상에서의 활동 및 개인 identity를 파악할 수 있는 정보를 총칭함.
2-1-3. 관련 디지털 컨텍스트
-온,오프라인 상에서 전자문서 열람내역, 메일상에 첨부한 파일 식별자, 검색엔진에의 검색어 입력 내역, 온라인 구매 내역, 광고청취내역 등을 총칭함.
2-2. 문서 컨텍스트 정보
본 시스템에서 book identity로 식별된 문서에 관한 모든 정보.
2-2-1. 문서의 외적 컨텍스트.
-문서의 발행일,책이름,저자이름,isbn넘버,출판사,책이 속한 카테고리,판매부수 등, 사용자가 입력한 book identity의 실세상에서의 캐릭터를 설명해주는 부가정보.
2-2-2. 문서의 속성정보.
-문서 전체 및, 문서의 특정 object에 대한 속성정보(object에 관한 해설)이다. 만일, 수학문제집의 특정 문제에 관해 이 문제를 설명할만한 속성정보(예컨대, 문제가 속한 카테고리, 문제의 수준, 문제의 오답률, 문제에 쓰여진 공식 등)가 제시되어 있다면, 시스템은 이를 단서로 이와 동일한 카테고리 내의 문제, 비슷한 수준의 문제 등을 유저에게 제공할 수 있을 것이다. 이러한 속성정보는 본 시스템에서 digital identity에 내장되어 있거나, 첨부될 수 있으며, 마크업데이터에 유도되어 시스템 상에서 활성화될 수 있다. 또한, 이러한 속성정보는. 누군가에 의해 생성되거나 프로그램에 의해 생성될 수 있으며, 바람직하게는, 본 시스템의 특정 프로그램을 통해 활용되기 위해서는 object(예컨대, 수학문제)를 해설할 수 있는 몇 개의 column으로 구성되어져야 한다.
2-3. extended context information.
- 사용자/문서 컨텍스트 정보로부터 시스템서비스(data provider)에 의해 가공된 정보이다. 바람직하게는, 시스템서비스는 사용자 단말기와 통신망으로 연결된 웹서버의 웹서비스이며, 사용자/문서 컨텍스트 정보는 이와 연동된 데이터베이스에 위치하며, 웹서비스는 데이터마이닝 기법을 쓸 수 있다.. extended context정보의 몇 가지 예를 들어보자.
2-3-1. 시스템에게 유리한 정보- 시스템은 특정 페이퍼문서를 지정한 유저의 이력이나, 검색엔진에의 검색 등을 통해 최근 가장 인기있는 책,사람,물건 등을 알아내어 시스템이 가공하여 생성해내야 할 데이터의 종류와 범위 등을 예측하고 생성할 수 있다.
2-3-2. 제3자에게 유리한 통계치- 예컨대, 유저들의 사용자 컨텍스트 정보와 문서 컨텍스트 정보를 분석하여, 주로 어떤 지역에, 어떤 신분의 사람이 특정 페이퍼문서를 읽는지, 이들은 어느정도의 구매력을 가지는지 등에 관한 ‘통계치’를 알 수 있다. 이는 특정 페이퍼문서 상에 광고를 띄우려는 광고주나 분석자료를 토대로 다음 출판물을 결정해야 하는 출판업자 등에게 유리하다.
2-3-3. 사용자에게 유리한 정보- 시스템은 사용자 각각의 컨텍스트 정보를 분석함으로써, 예컨대 검색엔진에의 검색결과 값에 컨텍스트 정보를 반영하여 사용자에게 적합하며, 최적화된 정보를 제공해줄 수 있으며, 사용자의 성향이나 관심을 반영하여, 사용자의 요구 이전에 시스템이 알아서 사용자의 요구를 예측하여 사용자에게 도움이 될 만한 정보를 제공해줄 수 있다. 예컨대, 시스템은 사용자가 특정 문서를 선택하여 단어검색한 이력을 통해 사용자의 단어실력을 가늠할 수 있을 뿐만 아니라, 시간의 변화에 따른 능력의 변화추이도 유추해낼 수 있다. 이로써, 시스템은 사용자가 알아두면 좋을만한 단어나 문구들을 미리 생성시킬 수도 있다. 또 다른예로, 시스템은 사용자의 신분과 검색어의 입력이력으로부터 사용자의 관심 및 흥미의 변화추이도 알아낼 수 있고, 이로써 사용자의 미래의 상황을 미리 유추하여 관련된 정보나 특정 트랜잭션들이 실행되도록 할 수도 있다.
3. book identity
특정 페이퍼문서의 고유한 정체성을 나타내는 말로써, 특정 문서를 다른 문서와 구분짓기 위해 부여된 '네임‘과 같은 것이라 볼 수있다. 더욱 구체적으로, 설명하자면, 일반적으로 사용자가 접하는 페이퍼문서는 원본(원시)데이터를 페이퍼 상에 무수히 복제하여 생성된 것이며, 이렇게 복제된 무수한 페이퍼문서들은 당연히 그 내용과 형식 등 모든 면에서 완벽히 동일하다. (이러한 book identity를 판별할 수 있는 가장 좋은 식별기호는 isbn number가 있다. isbn넙버는 기존의 출판물 모두에 부여되어 있는 문서의 ‘주민등록번호’라고 보면 된다. 즉, isbn넘버는 특정문서를 다른 문서와 구분짓게 해주는 번호로써, isbn넘버가 동일한 문서는 그 내용이나 구성, 글자모양, 글자크기 등 그 모든 것이 완벽히 동일하다. ) 그래서 이렇게 복제된 페이퍼문서들은 본 시스템 상에서 동일한 book identity를 가진 문서로 취급할 것이다. 즉, book identity는 페이퍼문서를 사용자 시스템이 고유하게 식별하기 위한 수단으로써 사용되는, 시스템이 부여한 name이라고 볼 수 있다. 즉, 특정 페이퍼문서에 해당되는(매칭된) 여분의 데이터를 시스템이 찾기 위하여 특정 페이퍼문서에 부여한 이름과 같은 것으로, 본 명세서에서 설명의 편의를 위하여 특별히 고안된 개념이라고 볼 수 있다. 그러므로, 엄밀히 말해, book identity라는 name은 시스템에 존재하지 않을 수도 있고, 존재할 수도 있는 것임을 유의하라. 본 시스템에서 book identity라는 개념은 매칭된 정보를 찾아주려는 목적을 실현하는 수단을 의미하는 것으로써, book identity를 시스템에 인식시키는 다양한 방법을 통해, 시스템이 특정 페이퍼문서에 관한 컨텍스트 정보(속성정보-책제목,저자,osbn,출판사,책내용 등)를 모두 인식하는 것은 아니라는 점에 유의해야 한다. 즉, 사용자 시스템에서 사용자가 단말기에 식별시킨 식별기호(문서의 내용,책제목,isbn,바코드 등)는 시스템 상에서 단순히 암호로 인식되거나 포인터로써의 기능을 하여 이와 매칭된 정보를 찾는 도구로만 쓸 수도 있다. 그러므로, 사용자가 전술한 방법을 통해 book idenity를 시스템에 인식시킨다는 뜻이, 해당 페이퍼문서에 관한 모든(혹은 일부) 정보가 시스템에게 파악되어야만 한다는 뜻은 아니라는 점에 유의해야 한다.
4.digital identity
4-1. raw digital identity
4-1-1. Raw data
-본 시스템에서 raw data는 스캐닝이미지원본 혹은, 스캐닝이미지에서 raw data(텍스트,이미지 등) 와 이들과 관련된 레이아웃(폰트크기,글자모양,줄간격,이미지 위치,텍스트위치)들을 추출해서 사용가능한 형태로 만든 data set(group)을 지칭한다. 더욱 구체적으로는, 사용자가 디스플레이를 통해 제공받은 제작툴 상에서 지정한 모듈실행명령/혹은 시스템의 제어에 의해 실행되는 시스템 모듈의 실행대상이 되는 데이터이다. 시스템은 사용자의 사용목적을 구분하여 가장 사용하기 용이하고, 원활한 데이터의 형태로 구성하여 사용자에게 제공할 수 있다. 가령, 사용자의 데이터 사용목적이 단순히 ‘사전검색’만을 목적으로 한 경우, digital identity는 각각의 키워드(텍스트)들이 스캐닝이미지 상에서 차지하는 위치정보(컨텍스트 정보)와 함께 구성된 text data set일 수 있고, 사용자가 ‘캡쳐’모듈을 실행코자 할 경우는 스캐닝이미지를 재현(reproduce)할 수 있는 image data set가 준비되어있다가 사용자가 지정한 특정영역에 해당하는 데이터가 추출되어져 사용자에게 제공될 수 있을 것이다. 간단히 말해, 본 시스템 상에서 Raw data는 특정모듈이 실행되는 대상이 되는 object의 집합으로써, 특정모듈이 실행되기 가능한 형태의 데이터를 총칭한다. 이러한 데이터는, 텍스트,텍스트오프셋,.또는 다른 심볼로 구성되는 시그니처(signiture)일 수 있다.
4-1-2. processing data
-상기 raw data에 대해, 시스템의 시스템서비스(data provier-예;웹서비스)의 특정모듈이 미리 실행되어져 생성된 데이터이다. 이는 사용자가 일일이 사용자 단말기 상에서 모듈실행지시를 내리고 프로세싱이 진행되는 과정을 기다리는 번거로움을 탈피하기 위하여, 미리 시스템서비스가 이런 번거로운 과정을 대신 수행하여 그 결과물을 상기 문서의 내적 컨텍스트정보(위치정보)를 참조하여 매칭시켜 놓음으로써 생성된다. 가령, 사용자가 ‘사전검색’을 목적으로 레이어 상에 특정영역을 지정하면, 시스템은 미리 전처리된 데이터에서 사용자가 지정한 특정영역에 매칭되어있는 ‘사전검색결과’즉,‘해설’을 단순히 가져오기만 하면 된다. 또는, 사용자가 페이퍼문서를 보며 특정단어를 지목하여 레이어 상에 선택하면, 시스템은 해당 단어에대해 미리 검색엔진을 통해 검색결과값ㅇ르 가지고 있다가, 사용자가 단어를 지목하는 순간 즉각적으로 결과값을 보여줄 수 있을 것이다. 또는, 사용자가 선택영역과 관련된 멀티미디어 자료를 보는 것을 애초에 목적으로 할 것을 대비하여, 각각의 오브젝트와 관련 콘텐츠를 매칭시켜놓을 수 있다. 가령, 사용자가 요리책을 보면서 ‘스파게티’를 지목하면 시스템은 누군가(예;출판사,시스템관리자,프로그램 등)에 의해 스파게티와 매칭시켜놓은 ‘스파게티 레시피 동영상’을 별도의 프로세싱 과정 없이 즉각적으로 보여줄 수 있다.
4-2. extended digital identity
- 전술한 두 가지 부류의 digital identity는 스캐닝이미지 원본을 사용자가 본 시스템 상에서 사용하기 용이하도록 ‘변환’시켰다고 볼 수 있지만, 지금 진술하는 ‘extended digital identity’는 이 스캐닝이미지 및 raw data를 ‘참조하여’ 가공된, 완전히 새로운 데이터라고 볼 수 있다. 더욱 구체적으로, 이런 데이터는 다양한 주체에 의해 다양한 방법으로 생성될 수 있다. 예컨대, 제작자는 모니터 상에서 스캐닝이미지를 참조하여 각종 제작메뉴를 활용하여 임의의 오브젝트를 선정하고 이에 부가하고 싶은 내용을 주석이나,음성,메모장 등을 붙이고, 특정 문구에 하이라이팅되도록 링크를 설정해놓을 수도 있으며, 특정 트랜잭션을 유도하는 마크업을 특정위치에 표시되도록 할 수도 있다. 이와 비슷하게 사용자는 투명디스플레이를 페이퍼문서 위에 오버랩시키고, DIC Layer를 페이퍼문서와 일치시킨 후, 레이어 상에서 투명디스플레이를 통해 비춰보이는 페이퍼문서를 보며 제작메뉴(옵션)을 통해 적당한 위치에 필기를 하거나, 메모장을 붙이거나, 주석을 다는 등의 행위를 통해 새로운 데이터를 생성시킬 수 있다. 그 외에도 상기 스캐닝이미지를 참조하여 생성시킬 수 있는 주체와 방법은 다양할 수 있다. 이렇게 스캐닝이미지 및 페이퍼문서를 참조하여 생성된 데이터 중 가장 대표적인 예는 ‘마크업데이터’이다.
이렇게 스캐닝이미지를 ‘참조하여’ 문서와 연관된 여분의 기능성을 제공하는 것을 목적으로 한 것을 본 출원상에서는 ‘마크업’이라 칭하고자 한다.
본 출원상에서 마크업은 일반적으로 웹브라우저 상에서 웹페이지를 열람할 때 식별되는 그 어떤 것만을 지칭한다기보다, 본 시스템이 실현되는 루틴(예;웹브라우저, 시스템 어플리케이션 )이 무엇이든 간에 DIC Layer상에 오버레이 되는 부가기능성의 층은 모두 이 ‘마크업’이라 칭하고자 한다.. 이러한 마크업은 DIC layer 상에 하나 또는 다수의 오버레이(overlay)로써 제공될 수 있다.
이러한 ‘마크업’은 사용자,문서의 창작자,또는 출판자,또는 다른 누군가에 의해 생성될 수 있으며, 일부 소스로부터 직접 액세스되거나, 일부 서비스에 의해 생성될 수 있다. 다양한 실시예에서, 마크업은 페이퍼문서 및/또는 전술한 raw digital identity를 참조하여 생성되거나, 이들과 연관될 수 있다. 더욱 구체적으로, 마크업은 문서 내의 텍스트의 특정 위치나 세그먼트와 연관될 수 있다. 이런 ‘마크업’은 문서 또는 문서의 일부에 연관된 특정 액션을 유도할 수 있다. 마크업은 사람이 판독할 수 있는 컨텐츠를 포함할 수 있지만, 때로는 사용자에게 보이지 않거나 및/또는 기계적으로만 판독되도록 의도될 수도 있다. 예컨대, 사용자가 투명디스플레이를 통해 보이는 페이퍼문서를 보며 특정 위치를 선정하여 캡쳐링모듈을 실행할 때, 근처의 디스플레이 상에 팝업메뉴가 디스플레이될 수 있는데, 이것이 바로 그것이다. 이러한 마크업데이터는 전술한 raw digital identity에 첨부되거나, 그에 내장된 형태일 수 있다.
마크업데이터는 시스템이 book identity를 식별한 후, 매칭된 raw digital identity를 검색할 때 문의의 검색결과에 포함될 수 있고, 또는 동일한/혹 상이한 검색엔진에서의 별개의 문의에 의해 발견될 수 있다. 마크업 데이터는 book identity를 통한 문서 컨텍스트 정보를 활용하여 발견될 수도 있고, 사용자 컨텍스트 정보와 다른 유저의 컨텍스트 정보 등을 활용하여 발견될 수도 있다. 마크업데이터는 raw digital identity 그 자체에 포함되어 있지 않더라도, 문서에 특정되어있는 위치에서 발견될 수도 있다. 종래의 html웹페이지에 대한 링크가 html문서 내에 정적 데이터(static data)로서 종종 내장되는 방식과 유사하게 마크업은 전술한 raw digital identity(이하, 문서)에 대해 정적이고 특유한 것일 수 있다. 그러나 마크업은 많은 수의 문서에 대해 동적으로 생성 및/또는 적용될 수 있다.
본 출원에서 mark up data는 그것의 생성주체나 생성방법 등과 무관하게 사용자의 투명디스플레이 상에서 사용자에게 식별가능한 (또는 식별되지 않지만 사용자에의해 선택,액세스되는) 표시로써, 사용자에의해 열람되고, 선택되어져 특정 기능성을 수행하는 것을 목적으로 한 것을 가리킨다. 이러한 마크업은 본 시스템이 웹브라우저 상에서 사용될 때에는 통상적으로 쓰이는 mark up language(예; html, xml 등)를 이용하여 생성될 수 있고, 본 시스템이 본 시스템을 위한 전용 어플리케이션이 설치된 (on device의 형태이건, 다운로드 형태이건 상관없이) 디바이스에서 사용될 경우, 어플리케이션이 번역 가능한, 즉, 미리 정의된 시스템 랭귀지(암호)를 통해 생성될 수도 있다. 또한, 이러한 마크업은 제작자 뿐 아니라, 작가,광고주,사용자 등이 제작, 및 유통할 수 있고, 시스템은 이들을 통해 생성된 마크업데이터들을 시스템의 데이터 저장소에 저장해두었다가 사용자의 선택에 따라 이들을 제공하는 역할도 하지만, 이들을 재가공하여 완전히 새로운 정보를 창출하기도 하며, 사용자의 기호(관심과 흥미 등)를 파악하여 사용자에게 적합한 정보를 생성 및, 선택하여 사용자에게 제공해주기도 한다.
이러한 마크업에 대해 자세히 알아보자.
본 시스템에서 마크업 데이터는 바람직하게는, 투명디스플레이의 레이어 상에서 다양한 식별기호(하이라이팅,아이콘,심볼, 기타 그래픽 기호등)로 표시되어 사용자에게 식별된다. 이러한 식별기호는 투명디스플레이 상에서 투명디스플레이 아래에 있는 페이퍼 문서의 적절한 위치 (예컨대,하이라이팅되고자 하는 위치) 위에 오버랩되어 사용자에게 식별되며, 이들은 사용자에게 단순히 열람되거나, 사용자의 터치에 의해 액세스된다.
마크업데이터는 다양한 방법으로 생성 가능하다. 모니터를 통해 식별된 스캐닝이미지 상(위)에서 생성할 수도 있고, 투명디스플레이를 페이퍼문서 위에 올린 채, 레이어와 일치시킨 후, 특정 제작툴(tool)을 활용하여 생성할 수 있다. 또는, 사람이 아닌 미리 제작된 프로그램(data provider)에 의해 자동으로 마크업이 생성되도록 할 수도 있다. 그러나 이때, 이 모든 마크업데이터들은 사용자의 페이퍼문서 위에서 앎맞게 정렬되고, 알맞은 위치에서 표시될 수 있도록 해당 문서(예컨대, 스캐닝이미지 및 row data)의 특정 위치나 세그먼트와 연관시켜져야 한다는 것이다. 이때, 문서(스캐닝이미지)를 참조하여 생성된 마크업데이터는 사용자의 레이어 상에서 표시되지만, 문서(스캐닝이미지)는 저작권을 위해 표시되지 않아야하며, 특정 위치나 세그먼트와 연관되어진 마크업은 사용자의 투명디스플레이의 DIC Layer 상에서 특정 위치에 뿌려질 것이다. (이를 위해, 상기 스캐닝이미지와 DIC Layer는 그 크기가 완벽히 일치해야하는 것이다)
이러한 마크업의 특성을 자세히 알아보자.
4-2-1.오버레이,정적 및 동적
마크업에 대해 생각하는 한가지 방법은 레이어상의 ‘오버레이’로서 인데, 이것은 페이퍼문서(이하, 문서)또는 그의 일부분에대한 추가 정보를 제공하거나, 문서 또는 문서의 일부분에 연관된 액션을 특정할 수 있다. 마크업은 사람이 판독할 수 있는 컨텐츠를 포함할 수 있지만, 종종 사용자에게 보이지 않거나 및/또는 기계적 사용으로만 의도된다. 보이지 않는 마크업의 예로, 사용자가 투명디스플레이를 통해 보여지는 페이퍼문서의 특정 이미지를 캡쳐할 때, 이미지의 출처와 오디오 정보를 제공하는 팝업메뉴가 뜰 수 있다.
4-2-2.여러 소스로부터 가능한 여러 층
문서(digital identity)는 다수의 오버레이를 동시에 가질 수 있고, 이들은 다양한 위치로부터 유래될 수 있다. 마크업데이터는 페이퍼 문서의 작가, 사용자, 또는 또다른 측에 의해 생성되거나 공급될 수 있다. 마크업데이터는 문서에 첨부되거나 그에 내장될 수 있고, 분리되어 전송될 수도 있다. 마크업데이터는 종래의 위치에서 (예컨대,동일한 문서이지만 다른 파일네임 접미사를 갖는 곳에서) 발견될 수 있다. 마크업데이터는 사용자가 레이어 상에 지정한 (즉, row digitsl identity 상에 지정한 영역) 영역을 검색한 검색결과에 포함될 수 있고, 또는 동일한 또는 상이한 검색엔진에의 별개의 문의에 의해 발견될 수 있다. 마크업데이터는 사용자 컨텍스트 정보나 문서 컨텍스트 정보를 통해 발견될 수 있고, 또는 기존에 이들로 인해 추론된 정보를 사용하여 발견될 수도 있다. 즉, 마크업 그 자체가 digital identity에 포함되어 있지 않더라도, 마크업데이터는 (투명디스플레이의 )레이어 상의 특정 위치에서 발견될 수 있다.
종래의 html 웹페이지에 대한 링크가 html문서 내에 정적 데이터로서 종종 내장되는 방식과 유사하게, 마크업은 스캐닝이미지를 참조하여 (혹은, 스캐닝이미지 상에서) 정적이고 특유한 것으로 생성될 수 있다. 그러나 마크업은 동적으로 생성 및/또는 적용될 수도 있다. 동적 마크업의 일 예는, 문서에서 언급된 회사의 최신주식가격을 포함하는 그 문서가 첨부되어잇는 정보이며, 널리 적용되는 마크업의 일 예는, 다수의 문서나 문서의 액션에대해 특정 언어로 자동으로 이용가능한 번역정보이다.
4-2-3.개인‘ plug-in’ 층
사용자는 또한 마크업데이터를 인스톨하거나 그것의 특정 소스에 서명할 수 있고, 따라서 특정 모듈 실행에 대한 시스템의 반응을 개인화시킨다.
4-2-4.키워드 및 문구 상표 및 로고
문서의 일부 요소는 특정 문서 내의 위치보다는 그들 자체의 특성에 기초하여 그들과 연관되어 있는 기능성 또는 특정 ‘마크업’을 가질 수 있다. 예를 들어, 사용자에게 어느 조직에 관한 추가정보를 링크시킬 수 있는 로고 및 상표 등이 있듯이, 동일한 원리가 문서 내의 ‘키워드’또는 ‘키문구’에도 적용된다. 조직들은 그들이 연관되어 있는,혹은 그들이 연관되고 싶어하는 특정 문구들을 등록할 수 있고, 그 문구가 어디에서 사용자에게 선택되든지간에 이용가능하게 되는 특정 마크업을 부착한다.
어떤 단어나 문구 등도 연관 마크업을 가질 수 있다. 예컨대, 본 시스템은 사용자가 언제 단어‘책’또는 ‘책제목’또는 ‘책에 관련된 토픽’을 지정하든지 간에, 특정 항목을 팝업메뉴에 추가할 수 있다. (예컨대, 온라인 서점으로의 링크). 본 시스템의 일부 실시예에서, 단어‘책,이나 ’책제목‘,’책에 관련된 토픽‘등이 사용자에의해 지정되면 이에 대해 텍스트, 사용자 컨텍스트 정보, 문서 컨텍스트 정보 등을 참조할 수 있고, 시스템의 움직임이 키워드 요소의 이러한 접근성에 따라 변경된다. 앞서의 일 예에서, 마크업으로 인해, 비상업적 텍스트 또는 문서로부터 지정된 데이터가 상업적 트랜잭션을 유발할 수 있다는 점에 유의해야한다.
4-2-5. 유저 공급된 컨텐츠.
주석은 문서와 연관될 수 있는 다른 유형의 전자정보이다. 예로써, 유저는 음성주석으로써 이후의 검색을 위해 특정 문서에대한 자신의 생각의 오디오파일을 첨부할 수 있다. 멀티미디어 주석의 다른 예로서, 유저는 문서의 특정 위치에 동영상이나 사진을 첨부할 수 있다. 유저는 문서를 위한 주석을 공급하지만 시스템은 다른 소스로부터의 주석을 연관시킬 수 있다. 이러한 유저-소스화된 마크업의 중요한 예는 프루프-판독,편집 또는 검토 목적의 일부분으로서 종이 문서로 된 주석이다.
4-2-6. 제 3자에 의해 공급된 컨텐츠.
마크업데이터는 문서의 다른 판독제에 의하는 바와 같이, 제 3자에 의해서도 공급될 수 있다. 온라인 토의 및 검토인, 특정 작업, 자원봉사자에 의한 번역 및 설명에 관한 커뮤니티-관리 정보와 같은 것은 좋은 예이다. 또는, 광고주에 의한 것도 좋은 예이다.
4-2-7. 유저의 데이터 스트림에 기초한 동적 마크업.
시스템의 여러 또는 모든 유저에 의해 문서로부터 획득된 데이터를 분석함에 의해, 마크업은 커뮤니티의 활동 및 관심사를 기초로 발생될 수 있다. 예로서는 ‘이 책을 즐긴 사람은 또한...도 즐긴다’라는 것을, 유저에게 마크업으로 제시하는 온라인 서점이 있을 수 있다. 마크업은 익명성이 덜 할 수 있고, 유저에게 그의 계약 리스트의 어떤 사람이 이 문서를 최근에 읽었는지를 알려줄 수 있다.
4-2-8. 외부 이벤트 및 데이터 소스에 기초한 마크업
마크업은 흔히, 통합된 데이터베이스로부터의 입력, 공중 인터넷으로부터의 정보 또는 로컬 운영체제에 의해 수집된 통계치와 같은 데이터 소스 및 외부 이벤트에 기초한다. 데이터소스는 더욱 로컬일 수 있고, 특히 유저의 신분, 지역과 같은 유저의 콘텍스트 정보를 제공할 수 있다. 예로써, 시스템은 유저의 모바일 폰과 통신할 수 있고 유저가 최근에 전화로 통화한 누군가에게 문서를 전송할 옵션을 부여하는 마크업 층을 제공할 수 있다.
4-2-9. 사용자와 인터랙션하는 동적 마크업.
마크업은 단순히 정적으로 사용자에게 식별되고 표시되어 사용자의 터치에 의해 액세스되는 방식에서 벗어나, 동적으로 사용자와 인터랙션되길 원하는 방식도 존재한다. 그 대표적인 예로, 특정 페이퍼문서(혹은, row digital identity)를 참조하여 교육용 게임프로그램(data provider)에 의해 생성된 마크업이 있을 수 있다. 바람직하게는, 교육용 게임프로그램은 DB상의 사용자 컨텍스트 정보 및 문서 컨텍스트 정보 등을 참조하여 사용자에게 문제들을 페이퍼문서 상에서 게임형식으로 제공할 수 있다. 가령, 시스템이 특정 영자신문의 특정 영역에 대해 특정 사용자의 컨텍스트를 분석하여 그와 비슷한 수준의 유저들이 해당 페이지에서 가장 많이 검색한 단어들을 (페이퍼문서 상에서)블랭크 처리하여 제공한다면, 사용자는 이를 빠른 시간안에 맞추는 게임을 함으로써 단어학습능률을 높일 수 있다. 또 다른 게임프로그램으로, 문서상에서 위에서부터 차례로 문장들이 지워지도록 함으로써, 사용자의 속독능력향상을 도와줄 수 있다. 이외에도 교육용 게임프로그램은 아주 다양한 형태의 마크업을 특정 페이지 상에서 사용자에게 제공하여 사용자의 학습능률을 향상시킬 수 있다. 더 나아가 시스템은 이런 게임프로그램을 수행하며 사용자가 피드백한 이력(인터랙션내역)을 분석하여 사용자의 능력이나 흥미 등의 변동추이도 유추해냄으로써, 시스템은 사용자 컨텍스트 정보를 보강할 수 있고, 이렇게 누적된 사용자 컨텍스트 정보는 사용자 본인 및 다른 유저들을 위해 재가공되어 여분의 콘텐츠(부가정보)를 생성해내는 중요한 소스가 될 수도 있다.
구체적으로는, 동적 마크업은 스캐닝이미지를 참조하여 제작자가 일일이 만들 수도 있지만, 데이터마이닝 시스템을 통해 생성된 데이터를 기반으로 개발자가 입력한 알고리즘 안에서 데이터를 분석해서 스스로 문제를 만들어내는 시스템(Artificial Intelligence)을 통해 시스템서비스가 생성할 수도 있다. 이렇게 생성된 동적 마크업은 유저의 디스플레이 상(레이어)에서 유저와의 피드백(인터랙팅)을 통해 진행된다. 또한, 유저는 컴퓨터와 가상의 대결을 할 수도 있지만, 다른 유저와 동일한 페이퍼문서를 보며 실시간 게임을 할 수도 있다. 유저가 게임에 참여하면서 시스템이 획득한 모든 데이터는 유저의 히스토리 정보(데이터 스트링)에 기록되고 웹서버 및/또는 데이터베이스를 통해 재가공(data provider)되어 다른 유저에게 제공되거나, 차후, 유저 개인의 개인화된 용도로 활용될 수 있다.
예를 들어, 유저는 페이퍼문서인 영자신문을 보며 그 위에 투명디스플레이를 오버랩시키고, 레이어와 영자신문을 일치시킨다. 그 후, 특정 게임프로그램 실행명령을 내린다. 다른 유저의 히스토리컬 (데이터 스트림)정보를 통해, 해당 영자신문에 나온 단어들 중 다른 유저에의해 가장 많이 검색된, 우선순위의 단어가 블랭크 처리되고, 유저는 제한된 시간내에 블랭크를 모두 없애는 게임을 할 수 있다. 또는, 속독을 위해, 위에서부터 차례대로 특정속도로 단어가 지워지는 게임도 있을 수 있다. 또는, 단어를 익히고자 하는 영유아나, 외국어 학습을 하는 학생들을 위해 글자를 발음한 소리를 들려주고 해당 단어를 찾게 하는 등의 게임도 있을 수 있다. 그 외에도 각 교과의 특성과 개발자의 목적에 따라 게임의 형태는 매우 다양할 수 있다. 이러한 게임은 순전히 ‘교육적’목적으로만 쓰이는 것은 아니지만, 대부분의 경우 유저에게 문서에의 몰입도를 유도하고 학습효과를 증진시켜 주는 목적으로 생성될 것이다.
4-2-10. raw data를 함유한 마크업.
마크업은 레이어 상에서 특정 위치 및, 세그먼트와 연관되어져 뿌려질 수 있다. 즉, 마크업 하나하나가 하나의 ‘점’처럼 레이어 상의 어딘가에 위치하여 각각의 ‘점’을 암호화하고 각각의 암호가 특정 범위의 raw digital identity를 함유하도록( 및, 불러오도록-매칭되도록) 사전에 설정해놓을 수 있다. 이런 방법은, 스캐닝이미지 전체에 대한 raw data가 레이어 상에서 재현되고 사용자에 의해 선택되는 방식과 얼핏 유사해보이나, 사용자가 특정 마크업을 선택함으로써, 해당 마크업과 매칭된 미리 설정된 범위의 raw data가 시스템에 의해 선택된다는 면에서 차이가 있다. 이런 마크업은 주로 사용자에게 식별되지 않도록 하는 것이 바람직하나, 경우에따라 식별될 수도 있다. 예컨대, 사용자가 투명디스플레이를 통해 비춰진 페이퍼문서를 보며 특정 영역을 캡쳐링하고자 할 때, 사용자가 ‘캡쳐’모드를 단말기에 인식시키면, (사용자의 캡쳐를 대비하여 특정 범위의 이미지 raw data를 함유,또는 불러오도록 사전에 설정된)마크업이 보이게,또는 보이지 않게 레이어 상에서 뿌려질 수 있다. 그 후 사용자가 페이퍼문서를 보며 선정한 영역을 손가락으로 드래그하면, 손가락이 지나간 자리에 해당하는 마크업이 순차적으로 선태되어지고, 해당 마크업이 미리 함유한 특정 범위(예; 반경o.5mm이내)의 이미지 데이터가 해당 마크업 주변으로 표시되도록 하는 방법이다. 이러한 마크업은 레이어 상에 일괄적으로 규칙성을 띈 채, 배열(예; 0.2*0.2mm당 하나)될 수도 있지만, 제작자(누군가)가 미리 특정 범위(예; 한 단락,또는 한 문장)를 한정하여 그를 가리키도록 설정해둘 수도 있다. 또한, 이때의 raw data는 단순한 이미지 data일 수도 있고, text data, audio data 등 다양한 포맷과 형식의 data일 수도 있다.
4-2-11. 문서의 전체, 혹은 일부에 관한 속성정보를 시스템에 제공하는 마크업.
마크업은 레이어 상의 특정 위치에 위치하여 페이퍼문서(스캐닝이미지)의 특정 object에 관한 속성정보를 시스템에 제공해주는 역할을 할 수도 있다. 가령, 마크업은 특정 수학문제집의 특정 페이지의 특정 문제에 관한 속성정보를 시스템에 알려줄 수 있다. 이런 속성정보는, 이 문제는 어떤 카테고리의 문제인지, 수준(레벨)은 어느정도인지, 문제의 저작권자는 누구인지 등등의 정보를 시스템에 알려줄 수 있다. 바람직하게는, 이러한 속성정보는 특정 암호로 시스템에 식별되어 시스템이 매칭된 속성정보를 찾도록 하고, 시스템은 이렇게 찾아진 속성정보를 미리 짜여진 프로그램의 소스로 활용할 수 있다. 이를 위해 상기 속성정보는, 바람직하게는, 몇 개의 필드명으로 구성되어 시스템의 db table에 저장되어야하고, 이렇게 저장된 속성정보들은 사용자의 요구나 시스템의 제어에 따라 특정 프로그램의 소스로 활용된다. 예컨대, 어떤 학생이 ‘수학의 정석’이라는 책의 p42의 ‘예제’문제를 선택한 후, 이와 동일한 카테고리 내의 비슷한 수준의 문제를 검색했다고 치자. 그러면 시스템은 사용자가 선택한 마크업(암호)과 매칭된 속성정보를 검색할 것이다. (그전에, 시스템 관리자(제작자)는 해당 문제 뿐 아니라 모든 문제를 몇 개의 필드로 구분하여 그에 대한 property값을 입력해놓아야한다. 예컨대, 책이름, 문제의 수준, 조회수,추천수,문제의 저작권자, 문제의 공유여부, 문제에 쓰인 공식. 등이 이때 ‘필드명’일 수 있다. ) 그리고 시스템은 이 문제가 어떤 수준의 문제이며, 어떤 카테고리(예;미분 중에서도 어떤 부분인지) 내의 문제인지를 파악하여, 사용자가 선택한 문제와 비슷한 수준의, 동일 카테고리 내의 문제를 선별하여 보여줄 수 있다.
4-2-12. 특정 트랜잭션을 유도하는 마크업.
보이게, 또는 보이지 않게 레이어 상에 뿌려진 마크업은, 사용자의 선택에 의해 특정 트랜잭션을 유도하는 기능을 수행할 수도 있다. 예컨대, 사용자가 투명디스플레이를 통해 비춰진 페이퍼문서를 보며 관련된 부가정보를 더 열람하기 위하여 페이퍼문서의 특정영역를 선정했다고 치자. 그러면 이때, 사용자에의해 보이지 않는(혹은, 보이는) 마크업이 선택되어져 시스템에 전송되고, 시스템은 사용자가 선택한 특정영역에 대해 자동으로 ‘보안,인증,지불’모듈을 구동시켜서, 사용자에게 지불이나 인증 등을 요구할 수도 있다. 다른 예로, 사용자가 특정 수학문제를 선택했을 때, 이 문제에 관한 게임을 수행할 수 있도록 팝업창이 뜰 수도 있다.
4-2-13. 페이퍼문서의 특정영역을 선택하는 기능을 하는 마크업.
사용자는 투명디스플레이를 통해 비춰진 페이퍼문서를 보며 페이퍼문서 상에서 원하는 영역을 선정할 때, 페이퍼문서를 보며 투명디스플레이 상에 직접 드래그하여 원하는 영역을 선정할 수도 있지만, 미리 제작자에 의해 구획지어진 특정영역을 단순히 선택할 수도 있다. 가령, 수학문제집에서 하나의 문제를 선택하고자 할 때, 사용자는 레이어 상에 직접 드래그하여 문제를 선택할 수도 있지만, 이미 문제 하나를 하나의 block으로 구획지어놓은 마크업을 선택할 수도 있다. 이렇게 미리 구획지어진 블록을 선택하는 방법은, 사용자가 선택한 object를 시스템이 명확하기 구분지어 인식할 수 있도록 해주어 여분의 프로그램을 실행하는 시스템에게 유리하다.
5. DIC(Digital Identity Coordinator)
본 출원상에서 DIC 는 사용자가 투명디스플레이를 페이퍼문서 위에 오버랩한 상태로, 사용자가 페이퍼문서의 특정영역을 선정하여 지목하기 위해 투명디스플레이를 터치하면 터치된(입력된) 좌표를 디스플레이가 인식하여 이를 알맞게 해석하여 사용자가 원래 의도한 (선정한) 페이퍼문서의 특정영역에 해당하는 mark up data이 선택되도록 하기 위한 모듈(소프트웨어)이다. 이는 논리적으로는 사용자의 터치좌표를 알맞게 해석하는 함수,내지는 좌표변환모듈이라고 볼 수도 있다.
더욱 구체적으로, DIC는 단말기에 인식된 book identity를 통해 파악된 페이퍼문서의 물리적 크기(가로,세로의 크기)를 감안하여 투명디스플레이의 인식좌표를 새롭게 할당하고, 그 후, 사용자의 터치로 지정된 (새롭게 할당된)좌표에 해당하는 mark up data와 연결시켜주는 역할을 한다.
다른말로, DIC 는 mark up data와 투명디스플레이에 부여된 절대좌표를 어떤 기준(단말기에 인식된 페이퍼문서의 위치에 따라)에 따라 새롭게 매칭되도록 하는 ‘함수’로써의 역할을 한다고 볼수도 있다.
이러한 DIC 는 다양한 실시예를 통해 다양한 루틴으로 구현될 수 있고 다양한 표현으로 정의할 수도 있다. 그러나 사용자가 투명디스플레이를 투과해 보이는 페이퍼문서를 보며 페이퍼문서 상의 특정영역을 염두해두고 투명디스플레이 상에 터치하면, 사용자가 페이퍼문서 상에서 원래 의도한 영역에 해당하는 mark up data를 정확히 지목하기 위해, 사용자의 디스플레이 상의 터치(혹은, 입력신호)를 새롭게 인식하는 도구로써의 역할을 하는 그 어떤 것이 구비되어 있다면, 그 표현이나 구현방식의 상이함과 상관없이 모두 이 DIC가 구동되었다고 보아야한다.
본 출원 상에서는 설명의 편의와 직관적 이해를 돕기 위하여 이러한 DIC 가 구동된 결과물을 그래픽 유저 인터페이스 상에서 가시적으로 식별되는 종이처럼 존재하는 것으로 상정하여 DIC Layer라는 표현을 빌어 설명하고자 한다. 그러나 이는 본 출원을 읽는 사람의 직관적 이해를 돕기 위해 단순히 개념적으로 상정한 것일 뿐, 그것이 물리적으로 존재한다거나, 그패픽적으로 사용자에게 언제나 인지되는 그 어떤 것은 아니라는 것을 염두해 두어야 한다. 레이어는 사용자에게 식별될 수도, 식별되지 않을 수도 있으며, 식별될 경우 레이어는 그 색이 무엇으로 인식되든 투과성을 띄어야 한다. 또한, 크기(가로,세로의 길이)는 사용자에 의해 함부로 변경될 수 없으며, 그 크기는 사용자가 시스템에 book identity를 식별시킴으로써 해당 문서 컨텍스트를 참조한 시스템에 의해 일방적으로 결정된다. 구체적으로, 전술한 다양한 구현방법과 표현방법 중 하나를 통해, DIC에 대해 자세히 알아보자.
5-1. Layer Coordinator
사용자는 단말기에 book identity입력 후, 디스플레이를 페이퍼문서에 올려놓고 일정 규약에 따라 레이어의 위치를 설정한다. (또는, 사용자의 book identity입력 후, 단말기의 제어에 의해 디스플레이는 페이퍼문서의 위치를 인식한다)
이때, Layer Coordinator는 사용자에 의해 디스플레이 상에 입력된 신호와 book identity를 통해 유추된 페이퍼문서의 물리적 크기 정보를 참조하여 투명/반투명의 디지털 레이어(Digital Identity Coodinator Layer)를 생성한다.
Layer Coordinator에 의해 생성된 레이어는 디스플레이 내부적으로 활성화되며, 그 외의 공간은 비활성화되게 되며, 활성화된 DIC Layer에 대해 DIC는 새로운 좌표 그룹을 할당한다. 즉, 활성화된 DIC Layer를 기준으로 DII(Digital Identity Indicator:아래 설명 참조)가 동작하게 되며, 새로운 좌표 그룹과 디스플레이의 좌표의 상대치를 계산하여 향후 Digital Identity(mark up data)의 구성을 위한 좌표를 생성한다.
예를 들어, 사용자가 디스플레이상 100, 100 좌표에 Action을 가했을 때, Layer Coordinator는 해당 좌표의 활성화 여부를 판단하고, 활성화 되었다면, DIC Layer 상의 어느 좌표인지를 계산하여 DII에 전송한다.
5-2. DII(Digital Identity Indicator)
DIC Layer에 해당되는 Digital Identity(mark up data)를 연결(혹은 재현)한다.
DIC Layer는 Layer Coordinator로부터 디스플레이 내부적으로 새로운 좌표를 할당받게 된다. 예를 들어, DIC Layer가 좌표 10, 40에서 생성된다면, DII는 10,40을 X,Y으로 인식하고 컨텍스트 정보를 구성한다.
DII는 이 상대 좌표를 기준으로 해당되는? Digital Identity를 데이터베이스에 요청한다. 이 때, Digital Identity를 DIC Layer에 연결하는 방식은 전처리 방식(Pre-processing)과 후처리 방식(Post-processing)이 있다.
전처리 방식의 경우, 데이터베이스에 저장된 각 오브젝트(텍스트, 그림, 음성파일 등)의 좌표 정보를 기준으로 Digital Identity에 대한 구성을 원본의 형태와 동일하게 디스플레이에 투명 형태로 재현(Reproduce)한다. 이는 Reproduction Process 상의 소요 시간이 오래 걸릴 수 있다는 단점이 있으나, 처리된 후에 빠른 응답을 할 수 있다는 장점이 있다.
후처리 방식의 경우, (전처리 방식과 반대로) Digital Identity에 대한 재현을 하지 않고, 사용자의 요청이 있을 때, 해당 좌표의 오브젝트에 대한 검색을 수행하는 방식이다. 후처리 방식은 요청 때마다 데이터베이스 검색이 이루어진다는 단점이 있으나 Reproduction Process에 대한 비용이 발생하지 않는다는 장점이 있다.
6. 식별단서
상기 DIC layer상에서 노출되는 단서들로써, 이 단서들은 사용자가 페이퍼문서와 레이어가 정확하게 오버랩되도록 레이어의 위치를 조정해야 할 때 그 단서가 된다. 이를 위해, 이들 단서들은 크게 두 가지 종류로 나누어 볼 수 이다.
첫번째, 페이퍼문서의 해당 페이지의 '스캐닝 이미지의 일부'(도6-140)이다. 레이어 상에 페이퍼문서의 해당 페이지(한페이지,혹은 두페이지일 수 있음)의 스캐닝이미지를 일부 노출시키는 방법이다. 이때, 너무 많은 이미지가 레이어 상에 노출되게 되면 저작권의 침해 소지가 있기 때문에 스캐닝 이미지는 저작권을 침해하지 않는 범위내에서 노출될 필요가 있다. 이때, '스캐닝이미지의 일부'는 스캐닝이미지 원본에서 글자나 그림의 일부만 추출하여 투명/반투명레이어 상에 노출시킬 수도 있고, 스캐닝이미지 전체에서 일부를 은폐한 형태로 노출시킬 수도 있을 것이다. 그러나 이렇게 스캐닝이미지를 식별단서로 제공할 때, 한가지 고려해야할 사항이 있는데, 그것은 '디스플레이의 크기가 페이퍼문서보다 작을 경우'이다. 즉, 디스플레이의 크기가 페이퍼문서 보다 크다면 DIC layer와 페이퍼문서를 일치시키기 위해서는 극히 일부의 식별단서만 있어도 가능할 것이다. 그러나, 디스플레이의 크기가 페이퍼문서보다 작을 경우는 시스템 관리자가 일방적으로 노출범위를 결정하여 디스플레이의 크기에 상관없이 제공하는 것은 문제가 있다. 왜냐하면, 시스템 관리자에의해 일방적으로 결정된 노출영역이 디스플레이 상에서 전혀 노출되지 않는 영역이 발생할 수 있기 때문이다. 즉, 페이퍼문서의 특정 부분에 상기 투명디스플레이를 올려서 레이어를 일치시키고자 할때, 레이어 상에 상기 특정부분에 해당하는 식별단서가 없을 수도 있다는 뜻이다. 이런 현상을 방지하기 위하여 단말기의 디스플레이 크기에 맞게끔 식별단서의 노출범위가 결정되야할 필요가 있다. (이에대한 상세한 설명은 하단의 '디스플레이 크기가 페이퍼문서보다 작을 때 식별단서의 노출방법'을 통해 확인할 수 있을것이다.)
두번째, 페이퍼문서의 '레이아웃'이다. 이 '레이아웃'이라 함은, 글자의 모양,문장의 길이,폰트,줄 간격, 이미지의 위치와 크기, 등, 페이퍼문서의 내용 이외에 단어와 이미지 등의 위치와 형태를 가늠할 수 있는 모든 식별단서를 가리키는 것으로, 이러한 레이아웃은 시스템이 book identity와 매칭된 digital identity를 식별하면, 이때의 raw data와 context정보를 참조하여 생성될 수 있다, 일 실시예에서, 이러한 레이아웃에는 글자나 문장의 위치를 나타내는 '가로줄'이 포함될 수 있다. 이 가로줄(도7-152)은 흔히 '밑줄'이라 부르는 형태로 식별되기도 하고, 사용자의 식별을 도와주기 위해 '밑줄'에 번호가 매겨진 형태도 가능하다. 즉, 줄마다 1,2,3,...이 새겨져 있다면 사용자는 첫째줄,둘째줄,...을 식별할 수 있을 것이다. 또는 글자나 문장,이미지의 위치를 나타내는 '박스'(도7-150)형태일 수도 있다. 글자나 이미지의 위치를 손쉽게 식별할 수 있어서 직관적으로 레이어의 위치를 조정할 수 있다는 장점이 있다. 마지막으로, 레이어의 바깥 '테두리(도9-170)'도 가능하다. 이는 단순히 페이퍼문서의 페이퍼외곽을 나타내는 테두리일 수도 있고, 본문내용의 외곽을 나타내는 테두리일 수도 있다.
7. 특정액션( 및 모듈)
- 일반적으로 프로그램, 모듈, 혹은 로직은 특정작업을 수행하거나 특정 추상데이터유형을 구현하는 루틴, 프로그램, 컴포넌트, 데이터구조 등을 가리킨다.
본 출원상에서, ‘특정액션’은 전술한 것과 같이 특정 기능성을 수행하는 ‘모듈’‘소프트웨어’의 의미를 포함함은 물론, 단순히 선택,액세스,디폴트와 같이 사용자가 할 수 있는 일반적인 액션도 모두 포함하는 것이다. 이러한 특정모듈은 사용자 단말기상에서 로컬 액세스될 수도 있고, 통신 네트워크를 통해 연결되어있는 원격 처리 장치들에 의해 사용자 시스템 (예컨대,웹서버)상에서 원격으로 수행되어질 수도 있다. 이렇게 원격처리장치에 의해 수행될 때, 이러한 모듈들(프로그램)은 하나 또는 복수의 서버에 위치할 수 있고, 경우에 따라 모듈들은 사용자 단말기의 메모리나 서버 각각에 국부적으로 위치하여 각각의 기능성이 하나의 과제를 수행하도록 연결될 수 있다.
또한, 상기 특정모듈은 사용자의 디스플레이 상에 GUI로써 제공되는 식별기호(아이콘,심볼 등)로 표시되어 사용자의 터치로 실행되어지기도 하지만, 데이터( digitsl identity) 또는 문서(book identity)의 속성정보에 의존하거나, 해당 마크업이나 컨텍스트 분석으로부터 유도되어져 실행될 수도 있다.
또한, 상기 특정모듈은 본 시스템이 사 B자 단말기 상에서 특정 어플리케이션을 통해 활용될 경우, 해당 어플리케이션이 제공하는 식별되는 아이콘(그리기 도구, 지우개, 물음표, 캡쳐도구, 등)을 통해 사용자가 아이콘을 단순히 터치함으로써 특정 모듈이 실행되도록 할 수도 있지만, 본 시스템을 사용자 단말기의 웹브라우저 상에서 이용할 경우, 웹브라우저 상에서 제공되는 모듈(다양한 루트를 통해 웹브라우저의 어딘가-주로 상단에 메뉴바로써 제공된다-제공될 수 있다)을 통해 실행될 수도 있을 것이다. 또한, 본 시스템의 검색엔진을 통해 본 시스템에 적합한 새로운 액션이나 옵션을 제공받을 수도 있다.
그러나, 바람직하게는, 본 시스템의 모든 기능성들을 충분히 활용하기 위해서는, 사용자 단말기 상에 본 시스템을 위한 특정 어플리케이션(on device이든, 서버로부터의 다운로드 방식이든)이 깔려있는 것이 본 시스템의 원활한 활용을 위해 적합할 것이다.
특정모듈을 ‘기능성’이라는 기준으로 나누어 살펴보자. 단.실제로 이 기능성을 실현하는 특정모듈들은 사용자가 지시한 하나의 과제를 수행하기 위해 하나 또는 복수의 기능성이 연결되어 통합적(순차적)으로 실행될 수 있음을 염두해 두어야 한다.
첫 번째, ‘사전검색’모듈이다. 사용자 시스템의 데이터저장소(메모리나 db)에 미리 저장된 ‘사전’에서 시스템 서비스인 키워드맵핑 프로그램을 통하여 (raw digital identity를 참조하여) 키워드들 각각의 위치정보와 컨텐츠(오디오,이미지, 텍스트 ,동영상 등의 다양한 포맷의 자료)을 매칭시켜 놓을 수 있다. 이렇게 프로그램 실행된 결과물은 사용자가 모듈실행지시를 내리기 이전에 이미 사용자 디스플레이 상에서 (더욱 정확하게는, 반투명레이어 상에서) 하이라이팅, 아이콘 등의 마크업의 형태로 표시되어 사용자의 선택에 의해 열람될 수도 있고, 사용자가 모듈실행지시를 내린 후, 프로그램이 실행되어 그 결과가 디스플레이에 렌더링되는 수도 있다.
두 번째, ‘캡쳐링’모듈이다. 이는 바람직하게는, 단순히 스캐닝이미지원본 및 raw data에서 사용자가 레이어 상에 선택한 특정영역에 해당하는 데이터를 이미지 형식으로 추출하는 것으로 가능하다. 이렇게 데이터를 캡쳐할 때, 사용자는 단순히 드래그(마우스를 통해 영역 지정하듯이)를 통해 캡쳐될 영역을 지정하는 수도 있지만, 본 발명의 특색을 살려, 사용자의 손가락이 지나가는 자리를 실시간으로 이미지 데이터로 채워주는 방법도 있다. 예를 들어, 사용자의 터치를 A라는 굵기와 B라는 모양으로 인식하도록 사전에 정의해놓고, 사용자가 투명디스플레이를 통해 보이는 페이퍼문서를 보며 캡쳐링하고자 하는 영역을 손가락으로 그리듯이 영역을 설정하면, 손가락이 지나가는 위치에 해당하는 데이터들이 실시간으로 이미지데이터로 추출되어 손가락이 지나간 궤적(A라는 굵기와 B라는모양으로 형성된 내부공간)을 채워주는 것이다. 이는 마치, 사용자가 뿌연(투명디스플레이)유리를 닦아서 유리 밑에 있는 물체(페이퍼문서)를 선명하게 보는 것과 비슷한 느낌을 주며, 손가락을 활용하여 투명디스플레이 상에 아래에 있는 페이퍼문서를 찍어내는듯한 사용자 중심의 직관적 인터페이스를 줄 수도 있다.
세 번째, ‘검색엔진을 통한 검색’모듈이다. 사용자가 페이퍼문서를 보며 지정한 object를 통신망과 연결된 하나 또는 다수의 검색엔진을 통해 검색되도록 하여 사용자에게 결과값이 제공될 수 있다. 바람직하게는, 본 시스템에서 이용하는 검색엔진은 사용자가 지정한 선택영역에 해당하는 데이터(텍스트,암호,이미지,마크업 등)만으로 검색을 하지 않고, 사용자컨텍스트 정보 및 문서 컨텍스트 정보의 일부 참조하여 이루어지는 것이 옳다. 이런 ‘참조’는 검색엔진 자체에 의해 취급될 수 있고, 검색 결과에 영향을 줄 수도 있다. 예컨대, 사용자가 어떤 페이퍼문서를 보며 ‘beautiful’이라는 단어를 선택했다고 치자. 검색엔진은 사용자의 문서 컨텍스트 정보의 일부를 활용하여 해당 검색어가 어떤 카테고리의 책에서 어떤 맥락속에서 나왓는지를 파악하여 정확한 의미를 전달해줄 수 있고, 사용자 컨텍스트 정보를 활용하여 사용자의 현재 관심도나 단어능력을 알아내어 해당 단어와 연관하여 알아두면 좋을 만한 단어의 나열을 함께 제공할 수도 있을 것이다. 그러한 경우, 검색엔진은 각각의 개별 사용자에 대해 대부분의 기존 검색엔진이 하는 것보다 더 많은 상태정보를 유지하고 사용하고 있으며, 검색엔진과의 각각의 인터랙션은 오늘날 전형적인 것보다 더 긴 기간 및 여러 검색들에 걸쳐 확장될 수 있다. 이때 컨텍스트의 일부는 검색 문의시 검색엔진으로 전송될 수도 있고, 장래의 문의에서 일부로서 역할하기 위해 검색엔진에 저장될 수도 있고, 검색엔진으로부터의 결과에 필터로 적용되기도 하며, 부차적 검색어로 취급될 수도 있다.
네 번째, ‘인증,보안,지불’모듈이다. 본 시스템의 대부분이 ‘저작물’을 그 대상으로 하는 점을 감안하면, 저작물의 열람과 활용에 대한 ‘지불’은 필연적으로 수반될 수 밖에 없다. 이에, 특별한 인증과 보안은 이러한 지불을 위한 필요조건이 되므로 시스템은 인증,보안,지불 모듈을 가질 수 있다. 통상적으로 유저의 신분은 디바이스의 일련번호에 의해서 식별되나, 그것의 신뢰성에 문제가 발생할 수 있으므로, 시스템은 사용자가 디바이스의 실제 소유주가 맞는지 등의 여부를 명확히 할 여분의 ‘인증’모듈과 본 시스템의 이용권한과 digital identity로의 액세스 권한 등을 부여할 ‘보안’모듈을 실행할 수 있다. 그 후, 시스템은 유저가 이용권한이 없는 정보로의 액세스를 시도할 때, 또는 특정 아이템을 구매할 때, 등등과 같은 상황에서 ‘지불’모듈을 실행할 수 있다. 예컨대, 유저가 책의 일부를 스크랩할 때, 시스템은 유저에대해 파악하고, 유저가 선택한 책의 일부에 대해 액세스 권한이 있는지를 파악하고, 권한이 없을 경우, 일정한 ‘지불’을 요구할 수 있다. 더 나아가 시스템은 결제를 위한 정보(저작권자,출판사 등)를 문서 컨텍스트 정보를 통해 파악할 수 있으며, 사전에 합의된 기준에 의해 사용자가 결제한 금액을 각각에게 배분해줄 수도 있다. 이를 위해 시스템은 billing, 가입,디바이스 식별자 정보 중 하나 이상을 이용할 수 있다.
다섯 번째, ‘문제 및 게임 생성’모듈이다. 이는 전술한 ‘부가정보 생성 모듈’과 그 기능적인 면에서는 비슷하다고 보여지지만, 그것이 전달되는 형태가 전술한 항과 다르기 때문에 본 출원 상에서는 이런 기능성을 따로이 설명한다.
본 시스템을 이용하는 주된 이용자가 도서열람자 중에서 학습자가 될 것임을 감안한다면, 본 시스템은 ‘학습자’를 위한 특별한 서비스를 제공할 필요가 있다. 즉, 시스템은 유저가 선택한 특정 페이퍼문서의 문서 컨텍스트 정보, 또는 유저의 컨텍스트 정보 등을 감안하여 사용자에게 학습할 컨텐츠를 문제의 형태로 제공할 수 있다. 이런 문제의 형태는 단순한 o,x형태일 수도 있고, 기존에 있는 문제를 단순히 선별하여 제공하는 것일 수도 있다.
가령, 페이퍼문서가 ‘영자신문’일 경우, 영자신문 중에서 유저가 선택한 영역, 혹은 단말기의 제어에 의해 선택되어진 부분에 관련되어 본 시스템의 문제생성기가 실행되어 문제가 생성될 수 있다. 이런 문제생성기는 영자신문 중 선택영역에 해당하는 row digital identity를 분석하여 미리 설정된 알고리즘으로 문제를 생성시킬 수도 있고, 조금 더 유저 인터페이스를 지원한다면, 사용자 컨텍스트 정보와 문서 컨텍스트 정보를 참고하여 문제를 생성시킬 수도 있을 것이다. 이를 위해, 바람직하게는 시스템은 머신러닝알고리즘 ,즉 AI(artificial intelligencr)를 활용할 수 있다. 예컨대, 시스템은 영자신문의 선택영역에 해당하는 row digital identity에서 키워드를 인덱싱하고 이 키워드들 중에서 사용자와 비슷한 수준의 다른 유저가 가장 많이 검색한 단어들만 선별하여 블랭크로 처리하는 문제를 생성시킬 수 있다. 또는, 시스템은 사용자 본인이 과거에 시스템과 인터랙팅한 이력(사용자 컨텍스트 정보)를 참조하여 사용자가 모를 법한 단어들만 선별하여 사용자에게 적합한 난이도로 구성한 문제를 제공할 수도 있다. 더 나아가 시스템은 전술한 방법으로 생성되어진 문제, 혹은 선별된 데이터(예컨대, 영자신문의 키워드)가 사용자에게 ‘게임’으로 학습되어질 수 있도록 이를 해당 row digital identity를 참조하여 재가공할 수도 있다. 예컨대, 시스템은 영자신문에서 다른 유저가 많이 검색한 키워드를 선별하여 단순히 블랭크 처리하는 방법과 달리 시스템은 다른 유저가 많이 검색한 단어들의 블랭크가 순차적으로 깜빡이도록 하여 사용자가 주어진 키워드카드를 제한된 시간 내에 모두 집어넣도록 하는 게임을 제공할 수 있다. 또는, 다른 유저와 동시에 해당 게임프로그램으로 접속하여 동일한 페이퍼문서를 보며 이와 다른 형태의 게임을 즐길 수도 있을 것이다. 이러한 일련의 게임프로그램은 문제가 생성되어 사용자에게 정적으로 제공되는 기존의 방식보다 액티브하고 사용자의 참여를 유도할 수 있어서, 사용자의 학습효율성을 높여주고 흥미를 유발할 수 있을 것이다.
여섯 번 째, ‘그래픽 조작’모듈이다. 이는 사용자가 투명디스플레이를 통해 페이퍼문서를 보며 페이퍼문서를 직접 조작하는 듯이,사용자가 선택한 특정부분에 해당하는 row digital identity를 그래픽 조작 툴로 조작하여 그 결과물이 페이퍼문서 상에서 표시되도록 하는 것이다. 더욱 구체적으로, 조작의 방법은 크게 두가지로 나눌 수 있다. 사용자가 조작하고자 하는 부분을 지정하면, 지정된 부분에 해당하는 스캐닝이미지가 지정된 바로 그 위치에서 표시되도록 하고, 사용자는 이렇게 표시된 스캐닝이미지를 보면서 조작툴로 조작을 하고, 조작을 마치면 지정되지 않은 나머지 부분이 digital identity(스캐닝이미지)의 이미지와 합성되어 저장되도록 하는 방법이 있다. 또 다른 방법으로는. 사용자가 조작을 가하고자 하는 영역을 아예 지정하지 않고, 단순히 조작툴을 가동시킨 후, 특정 메뉴를 선택하고 페이페문서의 (특정영역을 지정하지 않고) 원하는 부분에 원하는 조작을 가하면 스캐닝이미지를 제외한 조작이 되어진 결과물만 표시되도록 하는 방법이 있다. 이 방법은, 애초에 스캐닝이미지 원본을 전혀 노출시키지 않은 채, 스캐닝이미지에서 조작된 결과물만 노출시키고, 스캐닝이미지가 조작되는 와중에 스캐닝이미지 상에서 삭제된 부분은 페이퍼문서의 여백(또는, 스캐닝이미지의 여백)과 동일한 색상으로 대체하여 투명디스플레이 상에 표시한다면, 사용자는 한층 더 높은 가상현실적 체험을 하게 된다. 이러한 방법은 사용자에게 높은 가상현실적 체험을 할 수 있게 한다. 예컨대, 사용자는 투명디스플레이를 페이퍼문서 위에 올리고, 레이어를 일치시킨 후, 디스플레이 상단에 있는 메뉴 (제작툴)버튼 중 하나인 ‘스포이드’ 메뉴를 채택한 후, 페이퍼문서를 보며 임의의 위치에 갖다놓는다. 그러면, 해당 스포이드로 페이퍼문서의 글자(혹은 그림들)들이 빨려들어가는 듯한 동적인 그래픽변화가 일어난다. 이는 스캐닝이미지의 그래픽을 조작한 결과물들이 동적으로 움직이도록 설정함으로써 가능한데. 이때, 스포이드를 향해 빨려 들어가는 와중에 생기는 여백(글자들이나 그림이 있던 자리)은 실시간으로 페이퍼문서의 여백의 색으로 채워주게 되면, 사용자는 마치 페이퍼문서 그 자체를 조작하는 듯한 가상현실 체험을 하게 되고, 이렇게 조작되어진 그래픽결과물은 사용자의 선택에 의해, book identity에 의해 식별되어진 스캐닝이미지(책 전체나 페이지, 혹은 그 일부)에 합성되어 저장됨으로써, 일반적인 방법(이미지를 스캐닝하여 원하는 영역의 그래픽을 조작하여 사용자가 일일이 원본이미지에 합성하는 방법)에 비하여 훨씬 편리하고 직관적인 인터페이스를 사용자에게 제공할 수 있게 된다.
8. 인증, 및 보안
대부분의 상황에서 유저의 신분은 공지되어진다. 그러나 때로는 이것은 ‘익명신분’으로되고, 때로는 캡쳐 디바이스의 일련번호에 의해서만 식별된다. 통상적으로 시스템은 시스템을 개인유별화하는 데에 사용될 수 있고, 특정활동 및 트랜잭션이 유저의 이름으로 수행될 수 있게 하기 위하여, 유저에관한 더욱 상세한 지식을 갖는 것이 필요하다.
일 실시예에서, 사용자단말기는 모바일 폰에 내장되거나 또는 기타 방식으로 모바일 폰 계정과 연관될 수 있다. 그 예로, 투명디스플레이가 구비된 사용자 단말기는 폰 계정과 연관된 sim카드를 본 단말기에 삽입함에 의해 모바일 폰 계정과 연관될 수 있다. 마찬가지로, 사용자 단말기는 크레딧 카드 또는 기타 지불카드를 내장하거나 또는 그것에 연결되는 카드를 위한 기능설비를 가질 수 있다. 사용자단말기는 지불 토큰으로 사용될 수 있고, 지불 트랜잭션은 사용자단말기가 페이퍼문서를 인식함에의해 개시될 수 있다.
일실시예에서, 사용자 단말기는 유저 또는 계정과 연관된 몇몇 심볼 또는 텍스트를 인식하는 프로세스를 통해 특정 유저 또는 계정과도 연관될 수 있다. 또한, 사용자 단말기는 예로서 유저의 지문을 스캐닝함에 의해, 생체정보를 활용할 수도 있다. 오디오-캡쳐링 엘리먼트가 구비된 사용자 단말기의 경우, 단말기는 유저의 음성패턴을 매칭시키고, 유저에게 일정한 암호 또는 구절을 말하도록 요구함에 의해 유저를 식별할 수 있다.
9. 페이퍼문서의 book idenity를 시스템에 인식시키는 방법.
- 본 시스템이 book identity를 식별하는 방법은 매우 다양하다. 사용자 시스템이 페이퍼문서의 book identity를 식별하는 방법을 구체적으로 알아보자.
첫째, 페이퍼문서 상에 이미 인쇄된 식별기호를 사용자 단말기에 인식시켜서 시스템에 인식시키는 방법이다. 이는 이미 기존에 체계화된 출판공정상에 변화를 주지 않고, 책에 이미 인쇄되어있는 식별기호들을 가지고 본 시스템에 인식시키는 방법이다. 예컨대, 책제목, 저자명, 에디션, 출판사, isbn(도2-210), 바코드(또는 바코드넘버) 등이 이에 속한다. 이들은 이미 기존의 출판체계에서 사용자가 책의 book identity를 식별할 수 있도록 인쇄되어 배포된 식별기호로써, 이들을 통해 사용자시스템이 book identity를 식별하기 위해서는, 시스템의 db에 각각의 식별기호(책제목,저자명 등)와 페이퍼문서의 스캐닝이미지 등을 미리 매칭(혹은, book identity를 부여)하여 저장해두어야한다. 이 방법은 기존의 물리적 세계에 변화를 주지 않아도 되며, 이미 출판되어 시중에 배포된 문서에도 적용할 수 있다는 장점이 있으나, 사용자의 직관적 인터페이스는 아니라는 단점이 있다.
두 번째, 출판사에 의해 새로이 출간될 문서나, (출판사가 아닌) 임의의 누군가에 의해 모니터 상에서 제작(편집)되어 인쇄되는 문서 각각에 새로운 식별기호가 페이지마다 인쇄되도록 하여, 사용자가 이를 단말기에 식별시키는 방법이다. 이 방법은, 본 시스템이 상용화되었을 경우에 실현될 수 있는 방법으로, 사용자가 좀 더 쉽게 book identity를 시스템에 인식시키기 위하여 고안된 방법이다, 특정암호(바코드, 시그니처 등)를 생성하는 (본 시스템이 제공하는) 소프트웨어를 통해 생성된 암호가 문서가 인쇄될 때 함께 인쇄되도록 하는 방법이다. 이를 위해, 출판사는 식별기호를 생성하여 책의 특정위치에 인쇄하면, 본 시스템은 인쇄된 식별기호에 book identity를 부여하고, 이에 해당하는 digital identity( 및 문서 컨텍스트 정보)를 매칭시켜 놓아야 한다. 그렇다면, 출판사가 아닌 사용자가 제작(편집)하여 임의로 인쇄하는 문서와 digital identity는 어떻게 매칭을 시킬까? 이는 다양한 방법이 있을 수 있지만, 그 중에 가장 사용자 편의성을 고려한 방법을 예로 들자면, 사용자가 컴퓨터의 모니터를 보며 전자문서를 제작(편집)하여 최종적으로 종이에 인쇄될 환경설정-레이아웃(폰트크기, 글자모양, 줄간격, 레이아웃 등)설정-을 한 후, ‘인쇄’버튼을 누를 때, 페이퍼의 특정 위치에, 식별기호가 자동으로 생성되어 인쇄되도록 하고, 페이퍼에 인쇄될 모든 data( 및, 문서 컨텍스트정보)가 미리 지정된 특정 서버에 업로드되도록 하고, 해당 식별기호와 매칭되도록 하는 방법이 있을 수 있다. 이때, 식별기호는 경우에 따라, 문서의 첫장이나 표지 내지는 페이지 하단 등의 약속된 위치에 인쇄될 수 있다. 이렇게 새로운 식별기호를 페이퍼문서에 인쇄하는 방법은, 사용자에게 직관적 인터페이스를 제공할 수 있다는 장점이 있지만, 새로이 생성될 문서에만 적용가능하며, 물리적 세계에 어떤 변화를 주어야 한다는 단점이 있다.
세 번째, 사용자 단말기에 구비된 인식수단(스캐닝엘리먼트, 카메라, 광학렌즈, 음성인식기 등)을 활용하여 페이퍼문서의 일부(글자,그림,이미지 등)를 인식시킴으로써 book identity를 찾는 방법이다. 이 방법은, 페이퍼문서에 식별기호를 인쇄하는 것과 같이 물리적 세계에서의 변화(출판이나 인쇄 프로세스의 변화)를 주거나, 사용자가 단말기에 식별기호(책제목,저자,출판사,isbn 등)를 일일이 입력해야 하는 번거로움이나 페이퍼문서에 식별기호를 따로이 인쇄해야하는 현실적 어려움을 극복하기 위해 고안된 것으로, 페이퍼문서의 내용(글자,그림 등) 그 자체를 단말기에 구비된 인식수단을 통해 시스템에 인식시키는 방법이다. (이렇게 인식수단을 통해 페이퍼문서의 일부를 인식하고 이와 동일한 디지털사본을 찾는 방법은 이미 출원된, 또는 사용되고 있는 기술로써, 본 출원상에는 이에 대한 자세한 설명은 생략한다.) 이 방법은, 출판,인쇄 과정 상에서 종이책에 어떤 변화를 주지 않아도 되며, 사용자에게 직관적이고 편리한 인터페이스를 제공할 수 있다는 장점이 있지만, 사용자 개개인이 단말기에 광학 인식 디바이스를 따로이 구비해야한다는 단점이 있다. 또한, 더 나아가 이렇게 페이퍼문서의 일부(글자,그림,이미지 등)을 시스템에 인식시키는 방법에는, 사용자가 페이퍼문서의 임의의 영역을 아무렇게나 선정해서 인식시키는 방법도 있지만, 사전에 약속된 영역을 사용자가 페이퍼문서 상에서 찾아서 단말기에 인식시키는 방법도 있다. 예컨대, 본 시스템을 이용하는 사용자와 시스템 운영자(제작자)사이에 페이퍼문서의 오른쪽 모서리 하단의 마지막 문장을 인식시키기로 한 사전의 약속이 있다면, 시스템은 전술한 방법(사용자가 페이퍼문서의 임의의 영역을 인식시키는 방법)에 비해, 한결 수월하고 정확하게 해당 book identity를 찾아낼 수 있을 것이다. 또는, 투명디스플레이 상에 미리 고정된 아이콘(그래픽)에 페이지넘버가 오도록 하여 투명디스플레이 상의 스캔가능영역이 특정 영역을 스캐닝하도록 하거나, 또는 이때의 ‘제작자와 사용자가 사전에 약속한 영역’은 시스템이 즉각적으로 프롬프팅한 것일 수도 있다. 예컨대, 시스템은 사용자가 페이퍼문서를 선정한 후, ready신호를 주면, ‘페이지의 첫 번째 단어를 소리내어 읽어라’ 내지는, ‘페이지의 첫 번째 문장을 스캐닝하라’와 같은 지시를 prompting 할 수 있다.
네 번째, 페이퍼문서의 일부(내용)를 사용자 단말기에 구비된 인식수단(스캐닝 엘리먼트,카메라,광학렌즈 등)을 통하여 인식시킬 때, 시스템이 빠르고, 정확하게 매칭정보를 찾도록 사용자가 시스템 관리자(제작자)와 사용자 간에 ‘미리 약속된 영역’을 인식시키는 방법이 있다. 예컨대, 페이지의 오른쪽 모서리에 단말기의 스캔가능영역을 갖다대어 스캐닝 한다는 약속이 있다면, 시스템은 (페이퍼문서의 임의의 영역을 아무렇게나 선정하여 단말기가 스캔하고 시스템에서 이와 동일한 문서를 찾는 방법보다) 훨씬 수월하게 이를 단서로 book identity를 식별할 수 있을 것이다. 또는, 투명디스플레이 상에 고정되어있는 아이콘(그래픽)에 페이퍼문서의 페이지넘버가 오도록 투명디스플레이의 위치를 조정하여 투명디스플레이의 스캔면적이 페이퍼문서의 특정 영역을 스캐닝하도록 하는 방법이 있다. 물론, 이를 위해 시스템은 미리 상기 페이퍼문서에서 스캐닝될 지점에 해당하는 데이터를 미리 소지하고 있어야한다.
10. 시스템이 페이퍼문서의 스캐닝이미지(raw data)를 획득하는 방법.
-시스템은 다양한 방법으로 페이퍼문서의 스캐닝이미지를 획득할 수 있다. 먼저, 가장 노멀한 형태로는 출판사를 통해 인쇄되어 배포되는 페이퍼문서의 경우, 이미 배포된 문서일지라도 출판사는 통상적으로 ‘품절’등의 상황을 대비하여 원시데이터(mark up)을 따로 저장해두는 것이 일반적이다. 시스템은 이들을 획득함으로써 손쉽게 ‘이미 과거에 배포되어진 문서’에도 본 발명을 적용시킬 수 있다. 물론, 출판사에의해 미래에 배포되어질 문서 역시 그것의 raw data를 얻는 것은 그리 어려운 일이 아니다. 그러나, 보통의 사람들(학생,직장인 등)이 일상생활에서 흔하게 접하는 문서들은 비단 ‘출판사에 의해 출간된 문서’만이 존재하는 것은 아니다. 가령, 학교에서 나누어주는 비정기적 프린트물, 학습보조자료, 레포트 등은 ‘출판사’라는 루트를 통하지 않고 개개인이 그들의 컴퓨터를 통해 모니터상에서 문서를 제작하고 편집한 것들이다. 그렇다면 이러한 문서에는 본 발명을 적용할 수 없을까? 물론, 가능하다. 이때 역시 아주 다양한 방법으로 이 목적을 실현할 수 있지만, 가장 바람직한 방법을 제시한다. 먼저 본 시스템이 제공하는 특정 어플리케이션(모듈)을 활용하여 문서를 제작 및 편집한 후, 최종적으로 ‘인쇄’버튼을 눌렀을 때, 종이에 인쇄되어지는 mark up 정보(종이에 인쇄되는 모든 식별체에 관한 정보-글자크기, 글자색,간격,내용 등)가 상기 어플리케이션(모듈)이 미리 설정해둔 특정 서버에 전송되도록 하는 방법이다. 즉, 사용자는 기존에 종이에 무엇인가를 인쇄하는 방식과 동일한 방식으로 문서를 제작하고 편집함으로써, 본 시스템을 원활하게 사용할 수 있다. 이때, 상기 ‘미리 설정된 특정서버’는 시스템사용자들이 공용으로 사용하는 웹서버일 수도 있고, 특정 개인에게만 접근권한을 부여한 전용 웹서버(예;로그인해서 접속하는 icloud)일 수도 있다.
11. 특정 book identity에 대한 digital identity, DIC 모듈(DIC Layer), DIC Layer상에 노출시킬 식별기호, 식별을 위한 임계레벨 이상의 데이터소스 중 하나 이상이 시스템에 등록되는 방법.
11-1. 시스템 서비스(data provider)에 의해 생성되어 등록됨.
-다양한 루트를 통해 시스템에 획득되어진 특정 페이퍼문서의 스캐닝이미지(raw data)는 시스템의 시스템서비스(data provider-예;웹서버)에 의해 digital identity, DIC layer, 식별기호, 임계레벨 이상의 데이터소스 중 하나 이상을 생성해낸다. 그 후, 바람직하게는 생성해낸 data와 상기 페이퍼문서를 매칭시키고, book identity를 부여할 것이다. 이때, 시스템서비스는 웹서버 상에서 실행될 수도 있고, 사용자 단말기의 로컬시스템 상에서 실행될 수도 있음을 유의하라.
시스템서비스가 digital identity를 생성하는 방법에 관해서는 전술한 'mark up'에 관한 설명을 참조하라.
시스템서비스가 ‘식별기호’를 생성하는 방법으로. 많은 경우 사용자 단말기에 구비된 디스플레이의 크기정보가 필요할 수 있다. 가령, 페이퍼문서의 크기는 A4크기인데 사용자 디스플레이의 크기는 핸드폰 크기일 경우, 시스템서비스가 아무렇게나 식별기호(툭히, 스캐닝이미지의 일부를 식별기호로 제공할 때)를 선정하여 사용자 단말기에 제공한다면 사용자는 DIC Layer를 움직이다가 식별기호가 전혀 드러나지 않는 면적을 볼 수도 있고, 너무 많은 식별기호(예; 스캐닝이미지의 일부)가 드러나게 되면 저작권 문제가 발생할 수 있기 때문에, 사용자가 이를 단서로 DIC Layer와 페이퍼문서를 일치시키기 힘이 든다. 그래서 시스템서비스는 식별기호를 생성할 때, 사용자 단말기에 구비된 디스플레이의 크기정보를 참조해야 할 필요가 있다. 그래서 바람직하게는, 사용자가 사용자 단말기에 book identity를 인식시켜서 시스템서비스에 이 정보를 보낼 때, 시스템이 사용자의 디스플레이의 크기를 알 수 있도록 어떤 단서(예;디바이스 일련번호)가 함께 전송되도록 하는 것이 바람직하다. 이렇게 시스템이 사용자 디스플레이(client device)의 크기를 감지하면, 시스템은 상기 페이퍼문서의 스캐닝이미지(또는, raw data)를 참조하여 스캐닝이미지의 일부,또는 스캐닝이미지의 레이아웃의 일부를 추출하여 사용자의 DIC Layer상에 제공할 수 있다.
(이에 관한 구체적인 사항은 '6.식별단서‘항목과 ’17.DIC Layer상에 식별단서를 노출시키는 방법‘항목을 참조하라.)
시스템서비스가 DIC 모듈(DIC Layer)을 생성하는 방법으로, 시스템은 특정 페이퍼문서에 관한 book identity를 식별하거나 스캐닝이미지를 획득함으로써 상기 페이퍼문서의 물리적 크기(실세계에서의 크기)정보를 알아낼 수 있다. 이를 위해 시스템은 book identity에 대해 해당 페이퍼문서에 관한 물리적크기정보를 미리 저장해두거나, 시스템이 획득한 스캐닝이미지(또는 raw data)의 물리적크기를 산출해야한다.
시스템서비스가 ‘식별을 위한 임계레벨 이상의 데이터소스’를 생성하는 방법은, 시스템운영자(제작자)와 시스템사용자 간에 사전에 맺은 규약에 따라 달라질 수 있다. 가령, 페이지의 첫 번째 글자를 스캐닝하는 규약이 있다면, 시스템서비스는 해당 페이지의 첫글자만을 추출하여 저장해두고 있으면된다. 또한 제작자의 프롬프팅에 의한다는 규약이 있다면, 시스템은 상기 페이퍼문서의 스캐닝이미지(raw data)에서 시스템의 프롬프팅에 대한 해답을 즉각적으로 추출해야한다. 그 외에도 , 페이퍼문서의 임의의 영역을 사용자 마음대로 선정해도 시스템이 book identity를 찾는 방법도 있는데, 이 방법은 이미 공개되어 활용되고 있는 발명이므로 본 명세서 상에서 그에관한 자세한 설명은 생략한다.
11-2. 사용자, 또는 제작자에 의해 생성되어진 digital identity를 서버가 전송받아서 등록함.
-이에 관한 자세한 설명은 ‘4-2. extended digital identity' 및 ‘14.사용자가 mark up data를 생성하는 방법’ ‘15. 그외에 mark up data를 시스템에 등록시키는 방법’항목을 참조하라.
12. 사용자가 사용자 단말기에서 페이퍼문서를 스캐닝하여 본 시스템을 이용하는 방법.
-주로 book identity를 부여받지 못한, 즉 시스템의 데이터저장소에 저장되지 않은 페이퍼문서를 위한 방법으로, 사용자가 사용자의 단말기 상에 구비된 스캐닝 엘리먼트로 페이퍼문서의 전체, 혹은 일부를 스캐닝하면, 스캐닝이 끝남과 동시에 스캐닝한 이미지가 본 시스템의 특정 서버에 전송되도록 하고, 이를 전송받은 시스템 서버(data provider)가 이를 전송받음과 동시에 (청구항2의 방법과 동일하게) digital identity, 식별기호, DIC Layer 등 중 하나 이상을 생성하여 사용자의 투명디스플레이의 DIC Layer상에 재현(또는, 매칭)시키는 방법이다. 물론, 이때 사용자가 페이퍼문서를 스캐닝 엘리먼트를 이용하여 획득하는 단계는 본 출원상에서 청구항1의 (가)단계에 갈음된다고 보아야한다. 이때 스캐닝 엘리먼트가 사용자의 투명디스플레이 상에서 플레인 스캐너의 형태로써, 사용자가 최초로 스캐닝한 시점으로부터 투명디스플레이를 움직이지 않았다면, 사용자가 DIC Layer의 위치를 조정할 필요도 없으므로, 청구항1의 (나)단계도 이로써 갈음된다고 볼 수 있다. 이렇게 사용자에 의해 전송된 스캐닝이미지는 시스템에 의해 새로운 book identity를 부여받아 시스템의 데이터저장소에 저장될 수 있고, 이는 차후 다른 사용자에 의해 사용되어질 수 있다. 그러나 만일, 이때 사용자가 스캐닝한 이미지를 단말기의 메모리 내에 단순히 보관한 채로 즉, 시스템의 특정서버에 전송하지 않은 채, 디스플레이 상에 표시하지 않고 특정 액션을 실행하는 방법은 본 출원의 범위를 넘어선 것이 아니냐라는 의문이 생길 수 있다. 그러나 본 출원상에서 ‘시스템’이라 함은 단순히 통신망과 연결된 서버만을 의미하는 것이 아니라, 사용자 단말기와 사용자 단말기와 통신망으로 연결된 서버 전체를 아우르는 용어임을 상기해볼 때, 사용자가 사용자 단말기를 통해 스캐닝한 이미지는 사용자 단말기에 임시로나마 저장된 것이라 볼 수 있으며, 만일 그것이 활용된 후, 사용자 시스템 상에 저장되지 않고 삭제된다고 해도 사용자에게 일회적으로나마 사용자 시스템에 저장된 스캐닝이미지(raw data)가 활용된 것이며, 사용자에게 가상의 book identity가 일회적으로나마 부여된 것으로 보아야한다.
13. 사용자가 사용자의 시스템 어플리케이션 화면 상에서 특정 페이퍼문서(또는 그 일부)와 관련된 digital identity를 열람하는 방법.
- 사용자는 사용자, 혹은 시스템의 제어에 의해 시스템 어플ㄹ리케이션 화면 상에서 제공하는 정렬메뉴를 이용하여 생성주체의 식별자, object명, 시각정보, 인기순, 조회순 등의 다양한 정렬기준으로 digital identity를 취사선택하여 볼 수 있다. 가령, 사용자는 페이퍼문서( 및 그 일부) 위에 투명디스플레이를 오버랩시킨 후, book identity를 단말기에 인식시키고,DIC Layer를 일치시킨 후, 시스템 어플리케이션이 제공하는 화면 상에 다양한 메뉴(application tool) 중 하나를 선택할 수 있다. 일 예로 사용자는 해당 페이퍼문서 전체(혹은, 일부)에 관련된 누군가가 작성한 mark up data를 열람하기 위해, 레이어 상에서 선택영역을 지정하거나, 지정하지 않은채로, 사용자의 어플리케이션 상에 사전에 등록된 친구목록에서 특정인을 선택하여 그가 생성한 (상기 페이퍼문서의 전체, 또는 선택영역에 관한) mark up data를 열람할 수 있다. 다른 예로, 사용자는 해당 페이퍼문서의 전체, 또는 그 중 일부(선택영역)에 관련된 object name으로 찾을 수도 있다. 즉, 사용자는 페이퍼문서를 보며 특정 페이지의 특정 부분을 지정하고, 이 부분과 관련된 ‘동영상’만을 검색하여 볼 수도 있고, 관련 ‘텍스트문서’만을 검색하여 볼 수도 있으며, 다른 유저가 그 부분(선택영역)과 관련하여 생성한 ‘필기’만을 선별하여 볼 수도 있다. 이외에도, 사용자는 페이지 전체, 및 그 일부와 관련하여 본인을 포함한, 다른 생성자(또는 제작자)가 생성한 object들을 시스템의 데이터베이스의 테이블에 부여된 column을 key값으로 하여 다양한 기준(예;인기순,조회순, 생성시각 등)으로 정렬하여 볼 수 있다.
14. 사용자가 mark up data를 생성하는 방법.
- 본 시스템을 사용하는 사용자는 시스템이 제공하는 특정 어플리케이션을 활용하여 다른 유저가 생성한 mark up data를 열람할 수도 있고, 생성하여 시스템에 전송할 수도 있다. 바람직하게는, 이를 위해 시스템 어플리케이션은 사전에 각각의 object를 미리 정의해 놓아야하며, 정의한 object를 사용자가 손쉽게 알아보고 활용할 수 있는 방식과 모양의 메뉴(옵션)로써 어플리케이션의 화면 어딘가에 그래픽기호로 제공되어야 한다. 이렇게 사전 정의(pre define)되어 있는 object(record)들은 화면상의 어딘가에 그래픽기호(symbol)로써 사용자에게 식별되며, 사용자에게 선택되어 사용자가 직접 생성한 데이터는 상기 object를 구성하는 column의 속성값이 될 것이다. 예컨대, 사용자가 시스템 어플리케이션이 제공하는 ‘메모붙이기’라는 메뉴(tool)를 클릭한 후, DIC Layer 어딘가를 지정한 후, 메모장 안에 일정 글자나 그림을 그려넣었다고 치자. 그러면 이때 사용자가 지정한 ‘메모붙이기’라는 메뉴는 object name이라는 column(필드명)의 property값이 되고, 사용자가 메모장안에 그려넣은 글자나 그림은 (가령)data라는 column(필드명)의 property값이 될 것이다. 즉, 사용자는 특정 페이퍼문서에 관한 mark up data를 생성하기 위하여 시스템 어플리케이션이 제공하는 메뉴(object)를 단순히 선택하고 상기 어플리케이션이 제공하는 특정 form 상에서 단순히 property data 만을 생성한다고 보면 된다. 그렇다면 object(record)를 구성하는 다른 column(필드명)에는 무엇이 있을까? 먼저, 전술한 바와 같이 ‘object name'과 ’data property', 그리고 ‘DIC Layer에서의 위치’가 있을 수 있다. 이때 ' DIC Layer의 위치‘정보는 차후 사용자가 예전에 작성한 데이터들이 알맞은 위치에서 정렬하여 보이기 위함도 있지만, 다른 유저와 상기 부가정보(object)들을 공유하고할 경우에, 다른 유저의 검색에 활용되기 위해서이기도 하다. 또한, 일 실시예에서, object는 ’생성시각‘에 관한 column을 가질 수 있다. 이는 차후 사용자가 특정 날짜나 특정 시각에 자신이 생성한 object를 열람하기 위함도 있지만, 본 출원에서 제시한 다양한 어플리케이션(예;영어단어를 오래된 순으로 나열하기)의 소스로 활용되기 위해서이다. 또한, object를 생성한 식별자정보(예; id, 디바이스 일련번호, 등)도 있을 수 있고, 시스템이 식별한 페이퍼문서의 book identity정보도 있을 수 있다. 이외에도 어플리케이션의 요구에 따라 다양한 column이 있을 수 있다.
그렇다면 이렇게 다양한 column들로 구성되는 object는 어떤 종류가 있을까? 'object name'이 될 만한 것들을 알아보자.
다표적인 몇가지 예를 제시하나, 지금 제시하는 몇가지의 예는 본 발명의 개념에 따른 실시예를 서명하기 위한 목적으로 예시된 것으로, 본 발명의 개념에 따른 실시예는 훨씬 다양할 수 있으며 본 명세서에 설명된 실시예들에 한정하여서는 아니된다. 바람직하게는, 현재 컴퓨터 인터페이스를 통해 전자문서를 편집하고, 조작, 생성하는 모든 소프트웨어의 기능들이 상기 object name에 포함된다고 보아야한다.
첫째, 페이퍼문서의 전체, 혹을 일부에 관련하여 사용자가 생성하는 ‘필기’가 있을 수 있다. 이때, 사용자는 ‘필기’를 뜻하는 메뉴(그래픽기호)를 선택하여 필기를 할 수 있다. (물론, 실제로 필기메뉴는 이를 구체화하기 위하여 매우 많은 수의 하위설정메뉴를 가질 것이다. 예컨대, 펜굵기,글자모양, 글자색 등등)이때, 사용자는 페이퍼문서를 보면서 DIC Layer상에 밑줄을 긋고, 별표를 치고, 여백에 작게 글씨를 쓰는 등 단순히 DIC Layer상에서 페이지 전체에 관한 필기를 생성할 수 있다. 그러나 어떤 경우에는, 특정 선택영역에 관해 상기 (주어진)DIC Layer의 범위를 넘어서는 분량의 필기를 하고 싶을 수도 있다. 즉, 필기공간이 부족할 경우가 발생하는데, 이럴 경우, 시스템 어플리케이션은 사용자가 레이어 상에 선정(drag or drawing)한 영역( 또는, 이를 포함한) 이외의 영역을 모두 필기할 수 있는 공간으로 할당하고, 더 나아가 할당된 공간이 사용자의 제어에 의해 무한 확장되도록 설정해놓을 수 있다. 이러한 방법은, 사용자가 공간의 제약을 받지 않고, 페이퍼문서 상의 선택영역에관해 엄청난 양의 데이터를 첨부해놓을 수 있도록 해준다. (이때, 사용자가 상기 ‘선정한 영역’은 ‘DIC Layer에서의 위치’라는 column(필드명)의 속성값이 될 것이다.) 또한, 이때의 '필기‘라 함은 단순히 사용자의 터치퀘적 뿐 아니라, 사용자가 첨부해놓은 링크나 동영상,텍스트 등 다양한 멀티미디어 데이터일 수 있다. 또한, 이때 애초에 사용자가 drag나 drawing을 통해서 DIC Layer상에 표시한 부분이 'DIC Layer에서의 위치’라는 column에 대한 속성값이라는 것을 염두해두어야 한다. 또한, 차후에 이를 쉽게 찾기 위해 상기 ‘선택영역’이 사용자에게 식별될 수 있도록 해야 함은 물론이다.
둘째, 페이퍼문서의 전체, 혹은 일부에 대해 찍어놓은 ‘스탬프’가 있을 수 있다. 이는 사용자가 페이퍼문서를 보면서 선택한 영역에 특정 표시(물음표,따옴표,느낌표 등을 포함한 아이콘)를 하면, 시스템은 차후에 사용자가 동일한 표시가 있는 영역,혹은 페이지 전체를 정렬하여 보여줄 수 있다. 예컨대, 잘 모르는 문제에 물음표를 찍어놓기로 규약이 되어있다면, 사용자는 문제집을 풀면서 잘 모르는 문제에 물음표를 표시해둘 수 있다. 이렇게 다양한 페이퍼문서를보면서 물음표를 표시해놓으면, 차후에 사용자가 잘 모르는 문제나 범위를 추출해서 오래된 순, 어려운 순, 등으로 나열해서 볼 수 있게 된다. 또한, 시스템을 이용하는 사용자 각각이 다양한 페이퍼문서에 찍어놓은 스탬프들에 관한 정보는 시스템에 전송되어 사용자들의 관심, 기호, 능력, 통계 등을 알아낼 수 있는 중요한 소스가 된다.
셋째, 페이퍼문서의 일부에 관해 부가정보를 첨부하기 위한 ‘메모장’이 있을 수 있다. (이는 현재 통용되는 컴퓨터 인터페이스 상에서 많이 활용되는 예라서 이에 관한 상세한 설명은 생략한다. )
15. 그 외에 mark up data를 시스템에 등록시키는 방법.
- 본 시스템이 웹브라우저 상에서 사용될 경우, 제작자는 해당 페이퍼문서를 참조하여 (예컨대, 모니터 상에 페이퍼문서의 스캐닝이미지를 디스플레이한 후, 스캐닝이미지와 오버랩한 투명DIC Layer 상에서) 해당 페이퍼문서 위에 하이라이팅되는 등의 마크업표시를 사용자 단말기의 os가 제공하는 웹브라우저와 호환되는 특정 마크업랭귀지(예; xml, html, 등)를 활용하여 마크업데이터를 생성할 수 있다. 이렇게 생성된 하이퍼텍스트는 인터넷주소를 배정받아서, 몇 개의 column(예;book identity, 식별자정보 등) 으로 구성된 테이블로 구성되어 특정 웹서버의 데이터베이스에 저장되고, 사용자가 사용자 단말기에서 book identity를 입력함과 동시에 시스템의 제어에 의해 자동으로 해당 book identity와 매칭된 웹페이지로 이동될 것이다. 또한, 이렇게 렌더링된 웹페이지는 또한 몇 개의 하이퍼링크 항목을 가지므로, 이것의 액세스를 위해, 시스템은 book identity와 각각의 하이퍼링크 항목이 레이어 상에서 차지하는 위치(좌표)를 column값으로 가지는 하이퍼링크테이블을 또한 가지고 있어야한다. 이때, 주의할 점으로, 본 시스템의 이용을 목적으로 한 하이퍼텍스트들은 통상적으로 웹브라우저에서 열람되는 하이퍼텍스트와 달리 그 크기가 사용자나, 시스템의 제어에 의해 자동으로 조정되지 않아야하며, 그 크기는 상기 페이퍼문서의 물리적 크기와 동일해야 한다는 특징이 있다.
16. 페이퍼문서와 DIC Layer를 일치시키는 방법.
16-1. 사용자가 페이퍼문서를 움직여서 DIC Layer와 일치시키는 방법.
사용자가 디스플레이 상에 고정된 레이어(사용자가 함부로 그 위치나 크기를 조작할 수 없다)를 참고하여 투명디스플레이 아래에 놓인 페이퍼문서를 움직여서 이와 일치시키는 방법이 있을 수 있다.
16-2. 사용자가 DIC Layer의 테두리를 지정하는 방법.
사용자가 투명디스플레이를 통해 투과해 보이는 페이퍼문서를 보며 레이어의 테두리나 모서리 등이 페이퍼문서의 모서리나 테두리와 일치하도록 디스플레이 상에서 레이어의 테두리(도9-170)나 모서리(도8-160)등을 표시(지정)하는 방법이 있을 수 있다.
16-3 사용자가 DIC Layer상에 드러난 식별단서(도6-140,도7-152,150)를 참조하여 DIC Layer를 움직여서 페이퍼문서와 일치시키는 방법.
이 방법은 디스플레이의 크기가 페이퍼문서보다 작을 때, 더욱 유효한 방법으로써, 이때의 식별단서는 상기 레이어 상에 항상 노출된 것일 수도 있지만, 레이어가 사용자에 의해 이동할 때에만 노출되는 것일 수도 있다. 즉, 레이어 상에 페이퍼문서의 내용이 식별단서로써 많은 부분이 드러나게 되면 '저작권침해'문제가 발생할 수 있다. 그러나 그렇다고해서 식별단서의 노출량이 너무 적으면 사용자가 참조할 만한 단서들이 적어서 어려움을 겪는 딜레마가 있다.그래서, 저작권을 침해하지 않는 범위에서 식별단서를 최대한 많이 노출시키는 방법으로 '레이어의 이동시에만 식별단서를 노출하는 방법'이 있다. 즉, 사용자에의해 레이어가 이동할때에만 스캐닝이미지의 전부 혹은 일부인 식별단서가 노출되도록 하고, 이동하지 않을 때에는 식별단서를 노출하지 않는 것이다. 이는, 레이어가 이동하는 상태에서는 사용자가 제대로 식별단서(스캐닝이미지의 전부 혹은 일부)를 제대로 읽고 이해하기가 어려운 점을 활용한 것이다.
16-4. 식별단서가 노출되지 않은 레이어와 페이퍼문서를 일치시키는 방법
-디스플레이의 GUI로써 특정기호(예; 박스,,별표, 등)를 약속된 영역(디스플레이를 통해 보여지는 페이퍼문서의 사전에 약속된 영역)에 위치시킴으로써, 레이어가 자동으로 위치되는 방법이 있다. 자세히 말하자면, 디스플레이 상에 그래픽 기호로 박스형태가 있다고 치자. 이 작은 박스형태(도5-160)은 사용자의 터치에 따라 움직인다. 이 박스를 페이퍼문서 상에 미리 약속된 영역에 오버랩시키는 것이다. 가령, 페이퍼문서의 '페이지번호'(도5-161)위에 박스를 가져다놓기로 사전에 약속이 되어 있다면, 사용자는 디스플레이를 통해 보여지는 페이퍼문서를 보며 페이퍼문서 상의 페이지번호 위에 이 박스를 올려놓게 될 것이다. 그러면 사용자 단말기는 박스가 있는 위치에 digital identity(스캐닝이미지)의 페이지번호가 이 박스에 오도록 레이어의 위치를 조정할 수 있다. 이 방법을 쓸 경우에는, 사용자는 레이어를 인지하지 못해도 상관없으며, 레이어 상에 별다른 식별단서를 노출시키지 않아도 된다. 또한, '약속된 영역'이라는 것은 '페이지번호'가 적힌 영역일 수도 있고'본문의 첫시작점'이 될 수도 있으며, 그 외에도,,다양한 약속영역이 있을 수 있다. 또한, 이 ‘약속된 영역’은 시스템 사용자가 미리 인지하고 있는 ‘고정된 ’영역일 것일 수도 있고, 시스템에 의해 프롬프팅된 ‘가변적’영역일 수도 있다. 이 방법은, 사용자가 상기 레이어의 존재를 전혀 인식하지 못할 수도 있다는 특징이 있으며, 이런 점은 사용자의 직관적 인터페이스를 높여주는 요인이 될 수 있다.
16-5. 사용자가 시스템의 안내에 따라 DIC Layer의 위치를 이동시키는 방법.
투명디스플레이에서 페이퍼문서가 차지하는 위치를 단말기에 인식시킨 후, (혹은 사전에 약속된 규약에 따라 단말기를 위치시킨 후) 단말기에 구비된 움직임 감지 엘리먼트가 감지한 투명디스플레이의 이동 거리와 방향( 속도)을 디스플레이 상에 특정기호(예; 화살표 등*도13-180))로 안내함으로써 사용자가 (특정기호의 안내에 따라) 손쉽게 레이어의 위치를 조정하는 방법이 있을 수 있다. 이 방법은 전술한 다섯 번째 방법에 비해, 사용자에게 다소 귀찮은 과정이 수반되지만, 레이어의 위치를 조정하는 흥미로운 매개체로 인식될 수도 있다.
16-6, 시스템이 투명디스플레이에 구비된 움직임 감지 엘리먼트를 활용해 자동으로 DIC Layer의 위치를 조정하는 방법.
투명디스플레이의 내부에 하드웨어로써 움직임을 감지할 수 있는 엘리먼트가 구비되어 있다면, 이를 활용하여 레이어의 움직임을 조정할 수 있다,
구체적으로, 사용자가 페이퍼문서의 위치를 디스플레이에 인식시켜주게 되면, 단말기는 페이퍼문서의 위치를 식별하게 되고, 이후 사용자가 ‘움직임 개시’신호를 보내고, 페이퍼문서 상에서 사용자가 원하는 영역으로 디스플레이를 움직이게 되면, 움직임엘리먼트가 감지한 움직인 거리와 방향과 속력(즉, 속도)와 동일하게 레이어를 움직여주면 된다. 이때, 사용자가 페이퍼문서의 위치를 인식시키는 방법은, 사용자가 인위적으로 투명디스플레이에 표시(페이퍼문서의 모서리나 테두리를 지정한다거나, 레이어를 움직여서 일치시킨다거나, 특정기호를 움직여서 약속된 영역 위에 오버랩시킨다거나..등)하는 방법도 있지만, 이미 사전에 디스플레이가 인지하고 (가령, 페이퍼문서의 페이지번호 위에 투명디스플레이의 고정된 기호가 오게 한다거나, 페이퍼문서의 오른쪽 하단 모서리에 디스플레이의 오른쪽 하단 모서리를 맞춘다거나..등) 있을 수도 있다. 즉, 이는 출발점을 지정해놓고 책위에서 디스플레이가 움직인 거리만큼 레이어의 움직임을 단말기가 조정해주는 것으로, 이때, 주의할 점은 움직임감지엘리먼트가 감지한 디스플레이의 움직인 반향과 거리 (어떤 경우에는 속력도)과 동일하게 레이어가 움직여야 한다는 점이다.
이때, 움직임감지엘리먼트는 다양한 형태로 구현될 수 있는데, 그 중 몇가지만 예를 들고자한다.
첫번째, 미세(granuel)/표면 텍스쳐 센서.
페이퍼문서 상의 표면의 변형을 검출하기 위해 2개의 병렬 미세/표면 텍스쳐 센서를 포함한다. 이러한 종류의 입력 센서의 일반적인 사용은 점자 텍스트를 캡쳐하는 것이다. 병렬 표면 텍스쳐 센서는 상기 병렬 센서에 의해 이동된 상대적인 속도/거리로부터 센서의 각도도 판정할 수 있다.
두번째, 제스쳐(모션기반).
스캐닝 헤드하에서 통과하는 데이터를 관찰함으로써, 모션 센서에서의 변화를 모니터링함으로써, 또는 기계적 모션- 감지 수단에 의해 제스쳐를 검출할 수 있다.
세번째, 광학 데이터의 관찰.
광학 엘리먼트 하에서 지나가는 표면 또는 데이터를 관찰함으로써, 광학 컴퓨터 마우스가 하는 것과 매우 동일한 방식으로, 상대적인 모션을 연산할 수 있다. 이렇게 상대적인 동작을 분석함으로써 상기 단말기는 유저가 상기 투명디스플레이로 어떠한 제스쳐를 하는지 판정할 수 있다. 일부 실시예에서, 광학 시스템은 또한 페이퍼문서의 표면상의 패턴을 관찰함으로써 상대적인 모션을 검출할 수도 있다. 또는, 페이퍼문서의 표면상의 절대위치 코드를 체크함으로써 절대 위치를 검출할 수 있다.
네번째, 자이로/가속도계 모션 센서
속도나 방향의 변화를 감지하기 위한 가속도계와 같은 가속도 센서를 구비하면 그에의해 제어 제스쳐를 판정할 수 있다. 또는, 모션 및 제스쳐를 검출하기 위해 자이로스코프(특히,칩 링-레이저 자이로스코프는 이러한 작업에 적합하다)를 사용할 수 있다.
다섯번째, 기계(볼포인트, 롤러 등)장치.
광학적으로 인코딩되는 잉크 펜의 볼포인트와 유사한 롤링 엘리먼트나 볼을 구비할 수 있다. 볼이 페이퍼 표면을 따라 이동하면서, 광학 센서는 광학적으로 인코딩된 엘리먼트의 모션을 검출한다.
일부 실시예에서, 상대적인 모션을 기록하기 위하여 볼포인트 전체에 전기적으로 대전된 잉크의 흐름을 측정한다. 상기 볼에 흐르는 잉크에는 이러한 프로브에의해 검출되는 전하가 주어진다. 볼포인트 하우징에 내장된 전류-감지 프로브는 볼 상의 잉크의 흐름을 검출한다. 복수의 프로브가 있다면, 잉크 흐름의 방향은 그 결과의 볼의 모션, 및 그에 따른 표면을 지나는 실질적인 모션이 추측될 수 있다. 이 전기적으로 대전된 잉크 기술은 범용목적의 입력기록 디바이스로서 역할을 할 수 있고, 여기서 유저는 종래 잉크로 기록하고, 반면에 모션이 기입되고 기록될 수 있다. 수신기에서 흘러나오는 대전된 잉크만 센서에 의해 감지되도록 볼이 자신의 하우징에서 드러나는 경계 또는 그 근방의 가드링이 상기 대전된 잉크를 방전시키는데에 사용될 수 있다. 또는,획득된 스캔 영상의 옵티컬 플로우(optical flow)또는 모션 플로우(motion flow)를 이용할 수도 있다.
16-7. 플레인 스캐너가 구비된 투명디스플레이를 통해 레이어와 페이퍼문서를 일치시키는 방법이다.
본 출원상에서 '플레인 스캐너'라 함은 디스플레이의 내부에 하드웨어적인 '스캐닝부'를 두고 스캔대상객체 위에 디스플레이를 오버랩하여 스캔 대상 객체를 향해 빛을 분사하고 반사된 빛을 읽는 원리를 차용하는 단말기를 뜻한다. 본 출원의 이해를 돕기 위해 대략적인 설명을 하자면, 디스플레이의 내부의 레이어 층에서 하나의 레이어에 광원체와 수광체를 평면상에 다수 배치하여 2차원적 면적을 동시에 스캔하는 형태도 있고,그 외에 디스플레이 사이에 물리적 공간을 두어 스캔라인헤더가 지나가게 하는 방법도 있다. 그러나 이들은 단순히 스캔부를 구성하는 엘리먼트의 차이일 뿐, 디스플레이의 내부에 스캐닝부가 있고 스캔 대상 객체 위에서 스캔 대상 객체를 위에서 눌러서 스캔 대상 객체를 향해 빛을 분사하고 반사되는 빛을 받아들인다는 원리에서는 큰 변화가 없다고 할 수 있으며 상기 두가지 방식 이외에도 여타의 다른 방법으로 2차원적 면적인 스캔대상객체 위에서 스캔을 실행하는 스캐너를 본 출원상에서는 '플레인 스캐너'라 칭한다.
플레인 스캐너가 구비된 디스플레이에서 디스플레이를 페이퍼문서 위에 올리고 페이퍼문서의 일정 영역을 스캔하면, 스캔 완료된 이미지가 사용자 시스템으로 전송되어 동일한 이미지를 일부분으로 가지고있는 원본의 이미지를 찾아낼 수 있을 것이다. 그런 후, 시스템은 상기 스캔된 이미지가 선택된 원본의 이미지에서 차지하는 위치를 가늠할 수 있고 이를 통해 투명디스플레이의 레이어의 위치를 조정할 수 있다. 일 실시예에서, 움직임 감지 엘리먼트도 구비되어 있다면 단말기는 디스플레이의 움직임을 감지하여 레이어를 동일한 방향과 동일한 속도로 이동시키면 된다. 또는,다른 실시예에서 사용자가 디스플레의 위치를 변경시킬 때에도 디스플레이가 대상객체를 스캔(실시간으로 스캔할 수도 있고,움직일 때에만 스캔하도록 할 수도 있으며, 움직인 후 정자했을 때 스캔하도록 할 수도 있다) 하여 시스템이 시스템에 저장된 원본과 비교하여 단말기가 레이어의 위치를 조정하도록 할 수도 있다.
투명디스플레이의 어딘가(예컨대, 투명디스플레이가 페이퍼문서와 맞닿는 면적의 일부 *도-10-300 혹은 측면)에 스캐닝엘리먼트( 예컨대. 카메라, 스캐너, cmos광학렌즈 등)를 배치하여 투명디스플레이가 페이퍼문서의 어디에 위치해있는지 (혹은 페이퍼문서의 book identity와 문서 상의 위치)를 파악하기 위해 실시간으로 페이퍼문서를 스캐닝하여 시스템에 전송하면, 단말기가 시스템에 이미 저장되어있는 스캐닝이미지(row digital identity)와 비교하여 레이어의 위치를 조정하는 방법이다. 이 방법은 사용자가 전혀 레이어 자체를 인식할 수 없으며, 따로이 사용자 DIC Layer를 이동시킬 필요가 없기 때문에 전술한 방법 들 중 사용자에게 가장 편리한 방법이다.
16-8. 사용자가 기존에 이미 식별기호가 인쇄되어 배포된 페이퍼문서의 레이아웃(글자크기,줄간격,폰트,글자모양 등)을 변경하여 페이퍼문서를 생성했을 때, 레이어와 페이퍼문서를 일치시키는 방법.
일부 실시예에서, 사용자는 기존에 제작자(예;출판사,단체,개인 등)에 의해 이미 특정 레이아웃의 형태로 인쇄되어져 배포된 문서의 레이아웃(글자크기,줄간격,글자모양 등)을 사용자 컴퓨터의 모니터 상에서 편집하고 변형하여 인쇄하기도 한다. 이때, 원본 (배포되어진)문서의 내용은 변형하지 않은채, 레이아웃(환경설정)만 변경하여 페이퍼문서를 생성하였을 경우, 사용자는 상기 원본문서의 식별기호(예;isbn넘버를 인식시키거나, 변경된 페이퍼문서의 전부,혹은 일부를 스캔함)를 단말기에 식별시켜서 상기 원본문서의 digital identity를 찾아내고, 레이어 상에 나타난 식별단서를 사용자가 인위적으로 조작(페이퍼문서를 참조하여 글자크기를 줄이고,줄간격을 맞추고....등등)하는 행위를 통해 해당 digital identity의 레이아웃에 관한 설정(문서 컨텍스트 정보)이 바꿔지도록 함으로써 레이어의 좌표를 새롭게 할당할 수 있다. 또는, 일실시예에서, 시스템은 '변형된 페이퍼문서'의 전부,혹은 일부를 스캐닝한 이미지를 통해 원본의 raw digital identity에서 얼마나 변형되었는지을 추정할 수 있다. 즉, 시스템은 '변형된 페이퍼문서'의 일부,혹은 전부를 스캐닝한 이미지를 분석하여 raw data와 context정보로 분리하여 raw data가 일치하는 digital identity를 찾을 수 있다. 시스템은 이렇게 알아낸 digital identity를 상기 스캐닝을 통해 획득된 이미지와 비교하여 달라진 context 정보로 digital identity의 context정보를 변환시켜서 레이어 상에 제시할 수 있을 것이다.
17. DIC Layer 상에 식별단서를 노출시키는 방법.
일 실시예에서 ,페이퍼문서의 book identity를 단말기에 식별시키고, 레이어 상에 노출될 식별단서의 노출범위가 미리 결정되어진 데이터가 수신되는 방식을 쓸 경우, 디스플레이의 크기가 페이퍼문서보다 작을 경우에는 사용자가 페이퍼문서의 특정부분에 디스플레이를 위치시키고 레이어를 아무리 이동시켜도 식별단서가 보이지 않을 수도 있다. 즉, 식별단서가 디스플레이의 범위를 벗어나버리는 경우가 발생하는 것이다. 이를 위해, 본 시스템을 이용하는 유저가 가진 디바이스의 디스플레이의 크기가 일정치 않다면, 시스템은 디스플레이의 크기를 고려하여 식별단서를 제공해야 한다.
이를 위해, 대략 3가지 방식의 식별단서 제공방법이 있다.
첫째, 사용자가 페이퍼문서의 book identity정보를 단말기에 식별시킬 때, 디스플레이 크기 정보가 함께 전송되도록 하여 전송된 디스플레이 크기에 해당하는 ( 노출범위가 미리 정해져 포맷되어진)식별단서를 제공받는 방법이 있다. 이때, 시스템 관리자가 디스플레이의 크기에 해당하는 노출범위를 미리 선정하는 기준은 도면14에서와 같이, 디스플레이가 페이퍼문서의 어디에 위치해도 식별단서가 노출되도록 도면에서 보이는 바와 같이 최소한의 영역(도14-190)이 선정되면 된다. (이는 최소한의 영역이므로 물론, 이보다 더 많은 범위가 노출되어도 저작권문제를 피할수만 있다면 얼마든지 가능할 것이다.)이때 최소한의 영역을 선정하는 기준은 명확히 '수학적 공식'으로 도출할 수가 없다. 왜냐하면 제작자가 고려해야할 사항( 저작권문제와 사용자의 편의성)을 고려해서 재량껏 설정해놓으면 되는것이지, 분명한 기준이 있는 것은 아니기 때문이다. 하지만, 대략적인 이해를 돕기위해 (도면14)을 참고해서 설명하자면, 페이퍼문서의 페이지의 크기를 디스플레이의 크기(가로m*세로n)로 나누었을때, 보기의 (도면14의 190)에서처럼, 디스플레이가 페이퍼문서의 어디에 위치해도 식별단서가 보이게 최소한의 영역이 드러나게 설정해두면 된다. 또한, 디스플레이를 회전시켜 사용할 수도 있기 때문에, 이를 위해,(도면15)과같이 전체크기의 페이지를 (가로n*세로m)으로 나누어져 노출될 최소한의 영역(도15-191)이 정해진 편집된 raw digital identity(이미지) 또한 준비해두어야한다.(이렇게 편집된 디지털데이터는 차후,사용자 단말기의 '디스플레이 회전'신호에 의해 각각 렌더링될 것이다.
두번째, 사용자가 시스템에 book identity를 식별시키면 시스템이 해당하는 digital identity를 선정한 후, 사용자 컨텍스트 정보에서 사용자 디바이스의 디스플레이 크기 정보를 참조하여 이에 해당하는 '추출 모듈'이 실행되도록 하는 방법이 있다. 이때의 추출 모듈은 미리 제작자에 의해 배정되어진 공식으로써, 전술한 노출범위의 결정방법과 그 방법적 측면에서 동일하므로 생략한다. 전술한 두가지 방법은 사실상, 추출이 전처리 되느냐 후처리 되느냐의 차이일 분이다.
세번째, 레이어 상에 언제나 특정 범위 이상의 식별단서가 디스플레이되도록 하는 방법이 있다. 더욱 구체적으로, 시스템은 사용자에 의해 레이어가 움직일 때/혹은 정지했을 때도 디스플레이가 레이어를 비추고 있는 영역(디스플레이를 통해 레이어가 노출된 영역)에 해당하는 digital identity의 일정범위 이상을 추출하여 표시할 수 있다. 이 방법은, 단말기의 디스플레이크기에 해당하는 노출영역이 시스템 관리자에의해 미리 결정되어진 것이 아니고, 시스템이 이를 레이어의 움직임을 감지하고 이에 해당하는 데이터를 실시간으로 전송해주는 방법인 것이다. 가령, 시스템은 사용자가 레이어를 어떻게 움직이든, 항상 디스플레이 상의 반을 식별단서로써 제공해줄 수 있다. 이는, 언제나 일정한 범위의 단서(예컨대,디스플레이의 1/2이 항상 식별단서로 채워지게 된다)가 제공됨으로써 사용자가 좀 더 쉽게 레이어와 페이퍼문서를 일치시킬 수 있다는 장점이 있다. 일 실시예에서, 전술한 일정범위의 단서는 사용자에 의해 레이어가 움직일때만 드러나고, 움직이지 않을 때는 전혀 드러나지 않도록 할 수도 있고, 움직잊 않을 때도 일정범위 이상이 드러나도록 할 수도 있다.
18. .사용자가 mark up data와 인터랙션한 이력이 시스템에 기록되는 방법.
사용자가 투명디스플레이 상에서 페이퍼문서를 보며 의식했든, 의식하지 못했든, mark up data에 대해 인터랙션한 이력은 모두 시스템에 기록(저장)될 수 있다. 가령, 사용자가 수학문제를 지정하고 이와 유사한 문제를 열람하고, 필요한 경우 지불모듈을 실행했을 때, 이와 관련된 모든 정보는 사용자의 컨텍스트를 구성하는 좋은 소스가 된다. 즉, 시스템은 사용자가 단순히 특정 문제를 선택하고 ‘유사한 문제’를 선택했다는 정보를 앎으로써, 사용자의 능력과 관심을 유추해볼 수 있으며, 이를 단서로 사용자에게 유효한(적합한)문제 및 관련 자료를 제공해줄 수도 있다.
다른 예로, 사용자가 특정 페이퍼문서 상에서 동적마크업(게임)을 실행하여 피드백(인터랙션)한 이력은 사용자의 특정 능력을 측정하고, 사용자가 의식하든,의식하지 못하든 어떤 능력과 습관을 가늠할 수 있는 좋은 소스가 된다. 예컨대, 어떤 사용자가 특정 영어게임을 하면서 인터랙션을 할 때, 유난히 어떤 ‘철자’가 많이 들어간 단어를 자주 틀리고, 유난히 어떤 발음에 약하다면, 시스템은 이를 통해 (실시간으로) 사용자가 취약한 부분에 중접을 두어 문제를 생성하여 제공할 수도 있고, 사용자가 알아두면 좋을 만한 관련자료들을 제공해줄 수도 있을 것이다. 또한, 이렇게 반복된 게임을 통해 사용자가 어떤 능력이 향상되고 있는지, 아직도 부족한 능력은 무엇인지, 사용자의 능력이 현재 다른 유저들에비해 어느정도의 수준인지 등도 파악할 수 있으며, 더 나아가 사용자가 부족한 능력을 보충하기 위하여 적합한(유효한) 게임(혹은, 프로그램)이나 여타의 프로그램을 소개해줄 수도 있을 것이다.
이런 방식으로 누적된 정보(사용자 컨텍스트 정보)는 시스템에게 각각의 사용자에 대한 관심과 흥미 및 능력의 변동추이를 알도록 해주어 사용자가 원하기 이전에 시스템이 먼저 사용자에게 유효한(적합한)정보를 엄선하여 제공해줄 수 있게도 한다. 또한, 시스템은 이렇게 사용자 각각의 컨텍스트 정보를 누적시킴으로써, 시스템 전체에게 필요한 정보들을 스스로 생성, 및 갱신해나갈 수 있으며, 이렇게 생성, 및 갱신된 정보들을 시스템을 이용하는 사용자 모두에게 유리하다.
19. 시스템을 이용하는 두명 이상의 사용자가 본 시스템 어플리케이션을 통해 상호접속하여 실시간으로 데이터를 공유(채팅)하는 방법.
-두명 이상이 시스템에 접속하여 그들끼리 따로이 대화를 원할 경우, 시스템은 그들을 따로 분리하여 그들끼리만 대화를 하도록 허용할 수 있다. 예컨대, 본 시스템을 이용하는 사용자는 그의 친구(들)와 특정 페이퍼문서에 대해 , 그 페이퍼문서를 함께 보면서 대화를 나누고 싶을 수 있다. 그러면 사용자가 함께 대화를 하고자 원하는 두명이상의 사용자들을 선별하여 그들(임의의 일방)이 (시스템 어플리케이션을 활용하여)생성해내는 property데이터를 대화에 참여한 다른 유저(들)의 화면 상에 실시간으로 재현시켜주는 방법이다. 이를 위해, 대화에 참여한 각각의 유저는 동일한 페이퍼문서를 준비해두고, 일방이 지시하는 특정 페이지(페이퍼문서)를 펼쳐놓고, 본 시스템을 통해 청구항1의 (가)와 (나)단계를 수행하게 된다. 그 후, 대화에 참여한 임의의 유저가 책을 보면서 어플리케이션이 제공하는 특정 메뉴 (예;필기도구)를 활용하여 object에 대한 property값을 생성하는 것이다. 이때, 생성된 property값은 대화에 참여한 다른 유저들의 화면 상에 실시간으로 ( 즉, property값이 생성되는 와중에 실시간으로) 재현되는 것이다. 이때 대화에 참여한 다른 유저들도 실시간 property값을 생성하고, 이렇게 생성된 property값이 다른 유저의 화면 상에서 공유되는 것이 좋지만, 경우에 따라 대화에 참여한 특정 일방에게만 property값을 생성하도록 허용하고, 다른 유저들은 생성된 property값을 단순히 소비하는 형태일 수도 있다. 즉, 대화에 참여한 유저들은 그들의 재량으로, ‘대화에 참여한 유저들 중 property값의 생성권한을 누구에게 줄지’ 등과 같은, 대화참여에 대한 rule을 스스로 만들 수 있다. 또한, 이때의 property값은 시스템 어플리케이션이 제공하는, 사전에 predefine되어 있는 object에 대한 것인데, 이때의 object의 항목 중에는 ‘음성’항목도 있을 수 있다. 즉, 사용자의 디바이스 상에 사용자의 음성을 인식할 수 있는 엘리먼트가 구비되어 있다면, property값을 생성하는 일방이 제공하는 화면 상의 표시(예;필기)만을 실시간 열람하는 것 뿐만 아니라 생성자의 음성을 직접 들을 수도 있어서, 훨씬 유용할 것이다. 또한, 일 실시예에서, 오프라인 상에서 상기 ‘페이퍼문서’를 소지하지 못한 경우, 이의 열람을 위하여 시스템은 이미 획득한 ‘페이퍼문서의 스캐닝이미지’ 즉, raw data를 ‘페이퍼문서’를 소지 하지 못한 사람의 화면 상에 제공할 수 있고, 경우에따라, 이의 ‘인증,보안,지불’ 중 하나 이상을 요구할 수도 있다.
두 가지 실시예를 통해 구체적으로 알아보자.
첫째, 시스템을 이용하는 유저 A는 집에서 공부를 하던 중 ‘수학의 정석’책 P32의 예제 2번 문제가 잘 풀리지 않아서 친구 B에게 물어보기로 한다. 자신의 디바이스를 통해 본 시스템 어플에 접속한 A는 자신이 등록시켜놓은 친구목록에서 B가 접속하지 않은 상태인 것을 확인하고, B에게 전화를 걸어 시스템에 로그인해줄 것을 요구한다. 그리고 접속한 B를 보고 ‘채팅’연결을 시도한다. 그러면, 시스템은 A와 B가 음성으로 대화할 수 있도록 허용하고, A와 B는 그때부터 시스템 어플을 사용하여 음성으로 대화를 주고 받게 된다. A는 B에게 ‘수학의 정석’ 중 P32를 펼 것을 요구한다. 마침, ‘수학의 정석’책을 소지하고 있던 B는 P32를 펼친 후, 자신의 단말기에 구비된 투명디스플레이를 P32에 오버랩시키고, DIC Layer를 일치시킨다. 그 후, ready 상태가 되었음을 A에게 통지할 것이다. (물론, 이를 위해 A도 B가 한 행동과 같이, DIC Layer를 페이퍼문서와 일치시켜 놓아야 한다.) B가 준비되었음을 인지한 A는 그때부터 어플리케이션이 제공하는 다양한 메뉴 (object)중 하나인 ‘필기’(물론, 구체적으로는 다양한 색상,굵기 등의 하위 메뉴가 존재할 것이다)를 선택하여 예제 2번 위에 오버랩된 투명디스플레이의 화면 상에 직접 예제 2에 대한 필기를 시작할 것이다. 즉, 보통의 유저가 문제를 풀 때 통상적으로 책에다 특정 숫자에 동그라미를 치고, 옆에다가 계산하기도 하고, 밑줄을 긋고 하는 것과 비슷하게, 마치 예제 2번이 적힌 종이 위에 직접 그리듯이 투명디스플레이 상에 그리는 것이다. 그러면, 이렇게 A에 의해 생성된 data는 레이어 상의 위치와 object명(어플이 제공하는 메뉴 중 사용자가 선택한 메뉴- 필기도구)이 기록되어 시스템의 특정 서버에 전송되고, 이렇게 전송받은 data를 시스템은 B에게 실시간 전송하게 된다. 그러면, 이를 전송받은 B의 화면에 (이미 object에 대해 pre define되어 있는 어플이 깔려있으므로) property data가 A의 화면에서와 똑같이 재현될 것이다. 즉, A와 B는 각자 자신의 책(수학의 정석)을 보며 마치 상대가 옆에서 함께 문제를 푸는 듯한 체험을 하게 된다.
두 번째, 학교의 수업현장에서 활용될 수 있다. 모든 학생과 선생이 본 시스템 어플리케이션이 설치된 디바이스를 소지하고 있다면, 선생님은 일부러 칠판에 필기내용을 적거나, 말로써 특정 페이퍼의 어딘가를 보라고 설명하지 않고도, 손쉽게 학생들의 각각의 책에 코멘트를 달아주는 효과를 얻을 수 있다. 이때, 선생님은 개인적으로 지도가 필요한 학생에게만 자신의 property data가 공유되도록 설정해둘 수도 있고, 일괄적으로 모든 학생에게 공유되도록 설정해둘 수도 있을 것이다. 또는, 일 실시예에서 property data는 선생님 뿐 아니라, property data의 생성권한을 가진 임의의 누군가에 의해 생성되어 다른 학생들의 화면 상에 실시간 재현될 수도 있다. 가령, 수업시간에 어떤 학생이 질문을 하면, 선생님은 그 학생에게 property data 생성권한을 부여할 수 있고, 그렇게되면, 다른 학생들은 그 학생이 생성시키는 property data(예;필기)가 자신의 어플리케이션 화면 상에서 실시간 재현되는 것만 볼 수 있고, 그것의 생성에는 전혀 관여할 수 없다.
20. 투명디스플레이를 통해 페이퍼문서의 특정영역을 선정하여 모듈을 실행시키는 방법.
-사용자는 상기 ‘특정영역’을 지정하는 방법으로, 투명디스플레이를 통해 보이는 페이퍼문서를 보며, 사용자가 특별히 활용(사전검색, 캡쳐 등)하고 싶은 영역을 선정하여 투명디스플레이에 표시할 수도 있고, 제작자에 의해 해당 문서에 미리 구획지어진 영역을 사용자가 단순히 선택함으로써 지정될 수도 있고, 보이는/혹은 보이지 않는 마크업을 선택함으로써 미리 설정되어져 나눠진 구획 중 하나가 선택될 수도 있으며, 경우에따라 시스템(제작자,프로그램 등)에 의해 해당 문서 전체가 선택영역이 되도록 할 수도 있으며, 문서의 속성정보 (문서 컨텍스트 정보)와 사용자 컨텍스트 정보 등을 참조하여 시스템이 일방적으로 선택영역을 선정할 수도 있다.. 이렇게 선택영역에 대한 지정이 끝나고 나면, 시스템은 특정모듈을 실행시켜서 선택영역에 해당하는 data를 가공한다.
특정모듈을 실행시키는 방법에 대해 알아보자.
일 실시예에서, 본 시스템이 사용자에게 사용자단말기에서 웹브라우저나 특정어플리케이션을 통해 실행될 경우, 시스템 어플리케이션은 본 시스템의 사용자 GUI를 위한 제작툴(tool)을 제공할 수 있다. 이는 흔히, 어플리케이션이 실행된 화면 어딘가에 메뉴바(menu bar)로 제공되어지고, 사용자는 이 중 원하는 ‘모듈’을 선택할 수 있다. 가령, 사용자는 페이퍼문서를 보며 투명디스플레이에 선택영역을 지정하고, 이후, 메뉴바의 특정모듈을 지정하면 해당 선택영역에대해 특정모듈이 실행되어 그 결과물이 디스플레이될 것이다. 또는, 사용자는 메뉴바에서 특정모듈을 선택하게 되면, 특정모듈이 실행될 모드로 변환되어 사용자가 선택영역을 지정함과 동시에 특정모듈이 실행되도록할 수도 있다.
일실시예에서, 특정모듈은 데이터(row digitsl identity) 또는 문서의 속성정보에대하여 (혹은, 의존하여), 마크업이나 컨텍스트 분석으로부터 유도되어져 실행될 수도 있다. 또는 , 사용자에게 보이는/또는 보이지 않는 마크업이 특정모듈의 제어커맨드로 해석되도록 할 수도 있다.
21. 선택영역에 대해 특정 모듈이 실행될 때, 기록되는 필드
-시스템이 수행할 수 있는 유용한 기능성을 실현하기 위해서는, 시스템은 유저가 페이퍼문서를 보며 지정한 선택영역에 대한 유저의 레코드 및 보이는/보이지 않는 마크업의 선택으로 인한 특정 트랜잭션의 실행과 같은 임의의 액션. 페이퍼 문서에대한 상세사항, 이 문서내의 위치 등을 포함하는 ‘추가정보’를 획득함으로써 가능해진다. 이렇게 저장된 이력은 유저 및 개인 모두에게 유익하다. 더욱 구체적으로, 특정모듈이 실행된 선택영역에 해당하는 데이터는 여분의 필드가 추가되어(혹은, 필드만) 사용자 시스템의 db상에 (기록)저장된다 이렇게 몇 개의 필드명(column)으로 구성된 object들(레코드)은 본 시스템의 ‘사용자 컨텍스트 정보’와 ‘문서 컨텍스트 정보’를 생성시키는데에 중요한 소스가 되며, 이렇게 생성된 사용자/문서 컨텍스트 정보는 또 다른 정보(extended context)로 가공되어 차후, 사용자에게 부가정보를 제공하는 등, 문서와 관련된/혹은, 관련되지 않은 특정 기능성을 사용자에게 제공할 수 있다. 구체적으로, 시스템은 획득된 사용자/문서 컨텍스트를 정보를 통해 특정 사용자의 흥미와 관심도를 파악할 수 있다. 또는, 시스템은 획득된 정보를 통해 사용자의 능력의 변화 추이도 유추해낼 수 있다. 쉬운 예로, 사용자가 영어단어를 사전검색 할때마다 (즉, 인터렉팅할때마다) 사전검색의 대상이 되는 object data와, 시각, object가 속한 book identity가 시스템에 기록된다면, 시스템은 이들을 단서로 사용자가 동일한 영어단어를 얼마나 자주 반복하여 검색하는지, 주로 어떤 단어를 사전검색하는지, 주로 어떤 수준의 책 속에서 영어단어를 검색하는지(등)을 통해 사용자의 영어단어에대한 능력과 수준을 유추해낼 수 있고, 이를 기반으로 알아두면 좋을만한 다른 단어들을 제시해줄 수 있을 것이다. 또한, 사용자가 주로 검색하는 단어를 통해 사용자의 영어능력을 가늠할 수 있고, 비슷한 수준의 다른 유저들이 가장 많이 검색한 단어나 문장, 참고한 문제 등의 부가정보들도 제공해줄 수 있다.
또한, 시스템은 사용자가 어떤 문서를 주로 보고, 관련 부가정보를 검색하는지를 파악하여 사용자의 최근 관심도를 반영한 광고나 구매 어플을 제공해줄 수도 있을 것이다. 구체적으로, 본 시스템에서 광고는 개별적인 워드 또는 구와 연관될 수 있고, 사용자가 이 워드 또는 구를 선택함에의해, 또는 과거의 선택이력(사용자 컨텍스트 정보)를 고려함에 의해 유저의 관심도를 반영하여 사용자에게 열람될 수 있다. 이런 방법은 광고주에게 그들의 광고의 유효성에대한 피드백으로 취급된다.
또한, 시스템은 광고자 및 시장판매자에 대한 보상의 새로운 모델을 제시해준다. 페이퍼문서의 특정영역에 해당하는 저작권을 소유한 시장판매자나, 출판사,광고자 등은 본 시스템을 활용하는 유저들의 선택/구입으로 인해 약간의 수입을 얻을 수 있다.
또한 시스템은 전술한 사용자/문서 컨텍스트 정보를 획득함으로써 누군가를 위한 ‘통계치’를 생성할 수도 있다. 예컨대, 시스템은 ‘통계치’를 바탕으로 출판물의 인기도를 측정할 수 있다. 특정 페이퍼문서에서 머문 시간이나 특정 페이퍼문서를 검색한 횟수 등요인들은 출판자가 미래에 출판할 출판물을 결정하는데에 도움을 준다. 만일, 기존의 책에서 어떤 소목차가 지나치게 인기있는 것으로 판명되면, 이를 별도의 출판으로 확대할 가치가 있을 것이다. 또한, 유저의 액티비티를 기반으로 보다 적극적인 독자의 피드백을 관찰할 수 있고, 이를 기반으로 출판사는 작가에게 이에 합당한 보상을 해줄 수도 있다. 또한, 독자의 액티비티에 관한 통계치는 특히 인기있는 object를 선별해줄 수 있고, 광고주는 가장 인기있는 object에 프리미엄 레이트를 지불하고 광고가 열람되도록 할 수도 있을 것이다.
또한, 시스템은 전술한 ‘추가정보’를 단서로, 사용자의 습관이나 관심사항에 대한 정보를 파악할 수 있고, 이를 독자들에대한 적절한 (상품이나 컨텐츠에 관한)마케팅을 위한 소스로 활용할 수도 있다.
이와 같이, 본 시스템에서 사용자 컨텍스트 정보와 문서 컨텍스트 정보는 매우 막강한 양의 extended context 정보를 생성시킬 수 있고, 본 시스템은 이를 단서로 사용자에게 막강한 양의 정보와 맞춤화된 정보를 제공할 수 있게 된다.
object에 추가되는 필드명(column)의 몇 가지 대표적인 예를 통해 자세히 알아보자.
첫번째, 누가 단말기를 활용하여 시스템과 인터랙팅 하는지를 나타내는 ‘식별자 정보’이다. 대부분의 상황에서, 유저의 신분은 공지되어진다. 때때로 이것은 ‘익명신분’으로 식별되나 대부분은 사용자 단말기의 일련번호에 의해 식별된다. 통상적으로, 시스템은 시스템을 개인유별화하는데에 사용될 수 있고, 특정 활동 및 트랜잭션이 유저의 이름으로 수행될 수 있기에, 시스템이 ‘식별자’를 인식하는 것은 매우 중요하다.
두번째, object(사용자의 선택영역에 해당하는 데이터)가 digital identity에서 차지하는 ‘위치’이다.
이는 차후, 특정 모듈이 실행된 object가 속한 원본을 찾아내어, 원본에서 선택영역이 차지하는 위치를 가늠할 수 있도록 해주어, 정보를 맥락성있게 이해하는데 도움을 줄 수 있다. 가령, 사용자가 특정 영어문장을 캡쳐링하여 따로이 저장해놓는 액션을 할 때 원본 문서 상에서의 위치정보도 함께 기록되도록 한다면, 차후, 저장된 문장이 어디에서 캡쳐링되었는지를 알 수 있어서, 정보를 맥락성있게 파악할 수 있다.
세 번째, object에대해 사용자가 어떤 액션(모듈실행)을 취했는지를 나타내는 ‘object name’이다.
이는 사용자가 선택한 영역에 대해 어떤 모듈을 실행했는지를 나타내는 것으로 매우 막강한 extend context정보 생성의 중요한 key값이 된다.
이로 인해, 예컨대, 시스템은 특정 사용자가 사전검색한 단어들의 내역을 통해 이 사용자의 영어실력을 유추해 볼 수 있고,, 시스템은 사용자가 주로 캡쳐링한 문장을 통해 사용자의 관심도와 흥미를 유추해낼 수도 있다. 또한, 사용자 본인은 자신이 그동안 캡쳐링한 데이터들을 정렬하여 볼 수 있기도 하고, 사전검색한 단어들을 나열해놓고 볼 수 있기도 하다.
네 번째, object에 대해 액션이 실행된 ‘시각’이다. 시스템은 이를 단서로 사용자가 어떤 시간에 학습을 주로 하는지에 관한 정보도 얻을 수 있고, 사용자가 특정일에 공부한 내용을 복습하고자 할 때 그들을 정렬하여 보여줄 수도 있으며, 더 나아가 사용자가 특정 단어를 반복적으로 검색한 시각을 분석하여 사용자의 단어 학습 능력의 변화 추이도 유추해낼 수 있다.
다섯 번째, object가 속한 문서의 ‘book identity’이다. 시스템은 이를 단서로, 사용자와 동일한 페이퍼문서를 열람한 다른 유저가 해당 페이지에서 많이 검색한 단어를 선정해서 보여줄 수도 있으며, 사용자의 개인적 관심도와 흥미를 유추해낼 수도 있다. 또한, 예컨대, 시스템은 식별된 book identity를 통해 해당 페이퍼문서의 저작권정보도 파악할 수 있음으로써, 사용자의 지불결제가 필요한 상황에 필요한 소스를 제공해줄 수도 있다.
여섯 번째, object에 관련된 ‘속성정보’이다. 시스템이 식별한 book identity와 매칭된 digital identity의 raw data는 특정모듈이 실행될 대상으로써, 아무런 속성정보를 담고 있지 않다. 그러나, 문서의 전부,혹은 일부인 object는 그의 특성을 나타내는 속성정보를 가질 수 있다. 이러한 속성정보는 주로,전술한 마크업데이터로써 digital identity에 내장,혹은 첨부되어 시스템에 인식될 수 있다. 예컨대, 어떤 수학문제집의 특정 페이지의 특정 문제를 사용자가 선택했을 경우, 시스템이 이와 비슷한(연관성있는) 문제를 사용자에게 제공해주고자 할 때, 시스템은 상기 특정문제와 함께 선택된 (보이는/혹은 보이지 않는) 마크업(특정 암호일 수도 있음)을 통해 이 문제의 속성(어떤 카테고리 안에 들어가는 문제인지, 수준은 어느정도인지, 어떤 공식이 사용되었는지 등을 나타내는)정보를 파악하여 이와 연관성 있는 문제(동일한 공식이 사용된 문제,비슷한 수준의 문제, 동일한 카테고리 안에 들어있는 문제)들을 사용자에게 제공할 수 있다.
22. 사용자에 의해 DIC Layer상에 재현(선택되어 준비되거나, 매칭)된 object가 선정되어지는 방법.
-mark up data는 생성주체와 생성방법과 상관없이, 시스템의 데이터저장소에 저장될 때, 특정 column이 부여된 테이블의 형태로 저장된다. 사용자가 object drfine되어 있는 시스템어플리케이션을 통해 mark up data를 시스템의 db에 전송할 때, 각각의 object에 여분의 필드가 추가되는 이유는 바로 이것이다. 이렇게 몇 개의 column으로 테이블 상에 저장된 object들은 사용자에 의해 선정, 및 정렬되어 사용자의 DIC Layer 화면 상에서 보여져야한다. 이를 위해, 사용자는 먼저, 페이퍼문서를 선정하여 투명디스플레이를 오버랩시키고, DIC Layer를 일치시킨 후, 몇가지 조건을 시스템에 인식시킨다. 가령, DIC Layer상에 특정구획(예; 문제2번)을 선정한다거나, 친구목록에서 친구의 id를 선정하는 것이 바로 그것이다. 그러면 시스템은, db테이블에서 사용자가 입력시킨 조건에 부합하는 object를 찾아낼 것이다. 즉, 사용자가 DIC Layer상에 특정 구획(예‘문제2번)을 선정했다면, 시스템은 애초에 사용자가 시스템에 입력시킨 book identity와 위치정보에 대해 동일한 속성값을 지닌 몇 개의 object를 찾아낼 수 있을 것이다. 즉, 사용자가 시스템을 시작할 때 입력한 book identity와 동일한 속성값을 가진 object라는 뜻은, 사용자가 선정한 페이퍼문서와 동일한 페이퍼문서 상에서 다른 유저가 생성한 object들이 된다. 그러나 그 양은 자칫 너무 방대하여 열람하기 곤란할 수 있으므로, 상기 선정된 object들에서 사용자가 원하는 영역(예;문제2번)이라는 조건을 더 주어서 object들을 선별해서 봐야한다. 즉, 사용자는 시스템에 상기 페이퍼문서의 ’book identity‘와 ’DIC Layer상에서의 위치‘라는 두가지 조건을 준 것이고, 시스템은 사용자가 시스템에 식별시킨 ’book identity‘와 ’DIC Layer상에서의 위치‘항목의 속성값과 동일한 속성값을 지닌 object를 찾아내어 DIC Layer상에 뿌려주는 것이다. (물론, 이때 ’DIC Layer상에서의 위치‘라는 column의 속성값이 완벽히 동일한 object는 없을 것이다. 그래서 시스템은 사전에 어떠한 기준을 마련해두어야한다. 가령, 특정 임계레벨 이상의 면적이 중복될 경우 선택한다던지,,,). 시스템은 이러한 기본적 코어 위에서 매우 다양한 상황을 응용하여 연출할 수 있다. 가령, 시스템 테이블이 '식별자’항목을 column으로 가지고 있다면, 사용자는 특정 페이퍼문서 상에서 내 친구 A가 생성시킨 object들만 선별해서 볼 수 있으며, 이에 더하여 시스템 테이블이 ‘ object name'항목을 column으로 더 가지고 있다면, 사용자는 특정 페이퍼문서 상에서 내 친구 A가 생성한 object들 중에서 ’메모장‘만을 선별해서 볼 수도 있는 것이다. 일 실시예로, 사용자는 특정 페이퍼문서A를 선정하여 읽다가 페이퍼문서의 어떤 부분(예;문제3번)에 관해 다른 유저가 달아놓은 코멘트가 궁금할 수 있다. 그러면, 사용자는 (이미 book identity는 시스템에 식별되었으므로 생략하고) DIC Layer상에서 페이퍼문서를 보며 ’문제 3번‘을 드래그하고, 이에대해 searching명령을 시스템에 내릴 것이다. 그러면 시스템은 상기 A문서에서 문제 3번에 대해 다른 유저가 달아놓은 코멘트 모두를 제공할 수 있다. 그 후, 사용자는 그 코멘트의 양이 너무 많아서 보기에 불편하다고 느껴진다면, 코멘트를 달아놓은 사람들 중에서 수학능력이 높은 (이는, 시스템이 이미 가지고 있는 context정보를 통해 제공된다) 사람 순으로 정렬해서 그들이 문제 3번에 대해 달아놓은 코멘트(또는, 필기, 메모장 등)들을 선별해서 볼 수 있는 것이다.
이와같이, 시스템 테이블의 column항목을 조건으로 하여 사용자가 다른 유저가 생성한 object를 선별하여 보는 방법은, 시스템 테이블이 가진 column값이 많으면 많을수록 매우 다양한 상황을 연출할 수 있음을 당업자라면 쉽게 이해할 것이므로, 더 많은 예에 관한 설명은 생략한다.
23. 인증, 개인유별화 및 보안.
-대부분의 상황에서 유저의 신분은 공지되어진다. 그러나 때로는 이것은 ‘익명신분’으로되고, 때로는 캡쳐 디바이스의 일련번호에 의해서만 식별된다. 통상적으로 시스템은 시스템을 개인유별화하는 데에 사용될 수 있고, 특정활동 및 트랜잭션이 유저의 이름으로 수행될 수 있게 하기 위하여, 유저에관한 더욱 상세한 지식을 갖는 것이 필요하다.
시스템이 수행할 수 있는 가장 유용한 기능 중 하나는 유저가 페이퍼문서를 보며 액션을 가한것에 대한 유저의 레코드 및 문서 컨텍스트, 결과적으로 취해진 액션을 포함하는 그 액션에 관련된 임의의 추가정보를 유지하는 것이다. 이렇게 저장된 이력은 사용자와 시스템 모두에게 매우 유익하다. 이에 관한 자세한 사항은 ‘컨텍스트’챕터를 참조하라.
일 실시예에서, 사용자단말기는 모바일 폰에 내장되거나 또는 기타 방식으로 모바일 폰 계정과 연관될 수 있다. 그 예로, 투명디스플레이가 구비된 사용자 단말기는 폰 계정과 연관된 sim카드를 본 단말기에 삽입함에 의해 모바일 폰 계정과 연관될 수 있다. 마찬가지로, 사용자 단말기는 크레딧 카드 또는 기타 지불카드를 내장하거나 또는 그것에 연결되는 카드를 위한 기능설비를 가질 수 있다. 사용자단말기는 지불 토큰으로 사용될 수 있고, 지불 트랜잭션은 사용자단말기가 페이퍼문서를 인식함에의해 개시될 수 있다.
일실시예에서, 사용자 단말기는 유저 또는 계정과 연관된 몇몇 심볼 또는 텍스트를 인식하는 프로세스를 통해 특정 유저 또는 계정과도 연관될 수 있다. 또한, 사용자 단말기는 예로서 유저의 지문을 스캐닝함에 의해, 생체정보를 활용할 수도 있다. 오디오-캡쳐링 엘리먼트가 구비된 사용자 단말기의 경우, 단말기는 유저의 음성패턴을 매칭시키고, 유저에게 일정한 암호 또는 구절을 말하도록 요구함에 의해 유저를 식별할 수 있다.
24. 모듈실행 결과를 디스플레이하는 방법
- 모듈실행결과는 상기 투명디스플레이의 레이어 상에 선택한 object와 겹치게,또는 그 근처에서 디스플레이하는 방법 이외에도, 모듈실행한 결과물을 레이어 이외의 영역에서도 할 수 있다. 예를 들어, 도면17,18에서 보듯이, 레이어 이외의 영역에서 상기 모듈실행의 결과물(도17-102,도18-107)을 디스플레이할 수 있다. 일 실시예에서, 투명디스플레이를 통해 비쳐진 페이퍼문서를 보며 선택영역을 지정하여 캡쳐 모듈을 실행하는 방법에 있어서, 사용자가 선택영역을 지정할 때 직관적으로 '손가락으로 그리듯'지정하는 방법이 있다. 이때, 손가락(혹은, 터치펜 등 다양한 수단으로 스크린에 표시할 수 있다)으로 디스플레이를 그리듯 터치하면 미리 설정된 특정 굵기와모양대로 사용자의 터치를 인식하여 인식하여 디스플레이 상에 그려지는 궤적과 동일한 영역에 해당하는 스캐닝이미지가 실시간으로 손가락이 지나간 공간(도19에서 107-4)을 채우도록 설정할 수 있다. 이런 방법은, 마치 페이퍼문서 위에 놓여진 뿌연 유리를 손가락으로 닦아내어 손가락이 지나간 자리에 해당하는 (유리 밑의)문서가 또렷이 보이는 느낌을 사용자에게 주게 되어, 좀 더 직관적인 인터페이스를 구현할 수 있게된다.
또는, 사용자 단말기가 디스플레이의 투과성을 띈 부분을 마음대로 조정하도록 허락한다면, 사용자는 모듈실행의 결과물도 사용자가 원하는 곳에서 열람할 수도 있다. 가령, 사용자가 투명디스플레이의 일부분을 투과성을 띈 부분으로 설정해놓고, 그 투과성을 띈 부분 아래에 페이퍼문서를 놓고 DIC 레이어를 일치키신 후, 선택영역을 지정하고 특정모듈을 실행하면, 그 결과물은 사용자가 지정한 불투명한 부분(투과성이 없는 디스플레이 부분)에 디스플레이 되도록 할 수도 있다. 이런 방법은 결과물을 넓게 펼쳐놓고 봐야 하는 상황에서 매우 유용할 수 있을 것이다.

Claims (56)

  1. 페이퍼문서를 전자화하는 방법에 있어서, 상기 방법은 투명디스플레이 또는, 에어제스쳐 및 빔스크린 기능이 구비된 사용자 시스템에서 사용되기 위해,
    (가) 사용자가 사용자 단말기(client device)를 통해 페이퍼문서의 book identity를 사용자 시스템에 식별시키는 단계.
    (나) 투명디스플레이가 상기 페이퍼문서(혹은 그 일부) 위에 오버랩된 상태, 또는 빔스크린이 상기 페이퍼문서에 분사된 상태에서 사용자, 혹은 사용자 시스템의 제어에 의해 DIC Layer와 상기 페이퍼문서가 일치되게 오버랩되도록 DIC Layer의 위치가 조정되는 단계.
    (다) 사용자,또는 사용자 시스템의 제어에 의해 상기 DIC Layer 상에 상기 book identity와 매칭된 digital identity 중 일부인 raw digitall identity가 디스플레이(또는, 빔스크린) 상에 표시되지 않은 채, 재현(선택되어 준비되거나, 매칭)되는 단계
    및/또는
    사용자,또는 사용자 시스템의 제어에 의해 상기 DIC Layer상에 상기 book identity와 매칭된 digital identity 중 일부인 extended digital identity(mark up data)가 생성, 또는 선택되어 재현(선택되어 준비되거나 매칭)되는 단계.
    (라) 사용자 또는 사용자 시스템의 제어에 의해, 상기 DIC Layer상에 재현(선택되어 준비)된 상기 digital identity의 특정영역(또는, object)이 선정되어져, 사용자 시스템 상의 특정 액션이 실행되는 단계.
    (마) 상기 (라)의 결과가 사용자 단말기에 구비된 디스플레이 상에 표시되는 단계.를 포함하는 방법.
  2. 제 1항에 있어서,
    사용자 시스템의 시스템서비스가 상기 페이퍼문서에 대한 스캐닝이미지(또는, raw data), digital identity, DIC 모듈(DIC Layer), DIC Layer상에 노출될 식별단서, 상기 페이퍼문서를 고유하게 식별하기 위한 식별기호, 페이퍼문서를 고유하게 식별하기 위한 임계레벨 이상의 데이터소스 중 둘 이상을 생성,또는 확보하여 상기 페이퍼문서의 book identity와 (혹은, 서로) 매칭시켜 놓는 단계를 더 포함하는 방법.
  3. 제 2항에 있어서,
    상기 시스템서비스는 하나 또는 다수의 웹서버에서 실행되는 웹서비스인 것을 특징으로 하는 방법.
  4. 제 2항에 있어서,
    상기 스캐닝이미지는 특정 사용자의 사용자 단말기에 의해 획득되어짐과 동시에 시스템에 전송되어진 것이고, 시스템서비스는 상기 스캐닝이미지를 획득함과 동시에 이를 참조하여 실시간으로 digital identity, DIC 모듈(DIC Layer), DIC Layer상에 노출될 식별단서, 페이퍼문서를 고유하게 식별하기 위한 식별기호, 페이퍼문서를 고유하게 식별하기 위한 임계레벨 이상의 데이터소스 중 둘 이상을 생성하는 것을 특징으로 하는 방법.
  5. 제 2항에 있어서,
    상기 사용자 시스템이 페이퍼문서에 대한 스캐닝이미지( 또는, raw data)를 획득하는 방법으로,
    시스템을 이용하는 임의의 사용자가 페이퍼문서를 인쇄할 때, 페이퍼문서 상에 인쇄되어질 mark up정보(raw data)가 본 시스템의 특정 서버에 업로드되도록 미리 설정된 시스템 어플리케이션을 통해서 인쇄되도록 하는 것을 특징으로 하는 방법.
  6. 제 2항에 있어서,
    digital identity는 시스템의 시스템서비스(data provider)에 의해 생성된 것이거나, 누군가로부터 생성되어져 시스템이 전송받은 것임을 특징으로 하는 방법.
  7. 제 6항에서, digital identity가 누군가로부터 생성되어지는 방법으로,
    투명디스플레이, 또는 에어제스처와 빔스크린 기능이 구비된 휴대용 사용자 단말기(client device)에서 사용되기 위해
    (a) 임의의 사용자가 사용자 단말기를 통해 페이퍼문서의 book identity를 시스템에 식별시키는 단계.
    (b) 투명디스플레이가 상기 페이퍼문서(혹은 그 일부) 위에 오버랩된 상태에서, 혹은 빔스크린이 상기 페이퍼문서 상에 분사된 상태에서, 사용자, 혹은 사용자 시스템의 제어에 의해 DIC Layer와 상기 페이퍼문서가 일치되게 오버랩되도록 DIC Layer의 위치가 조정되는 단계.
    (c) 상기 사용자가, 상기 사용자 단말기에서, 사전에 object define되어 있는 시스템 어플리케이션을 활용하여 상기 DIC Layer상에 object에 대한 property data를 생성시키는 단계.
    (d) 상기 사용자,혹은 시스템의 제어에 의해, 상기 생성된 property data가 시스템의 특정 서버에 전송되는 단계
    를 더 포함하는 것을 특징으로 하는 방법.
  8. 제 7항에 있어서, 상기 object는 여분의 필드로 define되어 있으며, 상기 여분의 필드는 ‘obect name, DIC Layer상에서의 위치,property data 생성시각,상기 페이퍼문서의 book identity, property data 생성자’ 중 하나 이상인 것을 특징으로 하는 방법.
  9. 제 7항에 있어서, 상기 방법은 시스템의 특정서버를 통해 상호 접속 중인 두명 이상의 사용자 사이에서 실시간 대화를 목적으로 사용되기 위하여,
    임의의 일방에 의해 생성된 property data가 다른 일방의 어플리케이션 화면의 DIC Layer상에서 실시간 재현되어 표시되는 것을 특징으로 하는 방법.
  10. 제 9항에 있어서, 상기 property data 는 임의의 일방의 목소리를 포함한 음성data를 더 포함하는 것임을 특징으로 하는 방법.
  11. 제 1항에 있어서, (가)에서,
    사용자가 사용자 단말기에 구비된 임의의 사용자 인터페이스(예;키보드,마우스,스캐너,터치스크린 등)나 임의의 판독수단(예‘바코드 판독기 등)을 활용하여 페이퍼문서를 고유하게 식별하기 위한 식별기호, 혹은 페이퍼문서를 고유하게 식별하기 위해 필요한 임계레벨 이상의 데이터소스를 단말기에 인식시켜서 사용자 시스템에 book identity를 식별시키는 것을 특징으로 하는 방법.
  12. 제 11항에 있어서,
    페이퍼문서를 고유하게 식별하기 위한 임계레벨 이상의 data 소스를 단말기에 인식시키는 방법으로,
    사용자 단말기에 구비된 스캐닝,이미징 능력을 갖는 스캐닝 엘리먼트로 페이퍼문서 상의 임의의 영역을 임계레벨 이상 캡쳐링하거나, 시스템 관리자와 사용자 간에 사전에 약속된 페이퍼문서 상의 특정영역을 캡쳐링하는 것을 특징으로 하는 방법.
  13. 제 12항에 있어서,
    시스템 관리자와 사용자 간에 사전에 약속된 페이퍼문서의 특정영역은,
    시스템의 제어에 의해, 사용자에게 프롬프팅된 것임을 특징으로 하는 방법.
  14. 제 12항에 있어서,
    시스템이 상기 캡쳐링된 데이터를 원본(시스템에 의해 이미 book identity가 부여된 스캐닝이미지)에 비해 레이아웃(글자크기,이미지 위치, 글자모양,줄간격 등) 설정이 변경된 수정본으로 감지할 경우, 시스템이 획득한 상기 수정본의 이미지에서 레이아웃 설정정보를 파악하여 이와 동일하게 상기 원본을 변형시켜서, 변형되어진 data를 기초로 mark up data,또는 DIC Layer( DIC 모듈)를 생성시키는 단계를 더 포함하는 방법.
  15. 제 1항에 있어서, (나)에서,
    스캐닝,이미징 능력을 갖는 스캐닝 엘리먼트가 투명디스플레이의 어딘가에 플레인 스캐너의 형태로 존재할 경우, 상기 스캐닝 엘리먼트가 캡쳐링한 이미지를 전송받은 시스템이 전송받은 이미지가 원본(book identity로 인해 식별된 스캐닝이미지)에서 차지하는 위치를 파악하여, 상기 스캐닝한 이미지가 원본의 중첩되는 부분과 오버랩되도록 DIC Layer의 위치를 조정하는 것을 특징으로 하는 방법.
  16. 제 15항에 있어서, 스캐닝 엘리먼트가 캡쳐링한 이미지를 시스템이 전송받는 방법으로,
    시스템의 제어에 의해, 실시간 혹은 디스플레이가 움직일 때마다 스캐닝엘리먼트가 캡쳐링하여, 이를 실시간 전송하는 것을 특징으로 하는 방법.
  17. 제1항에 있어서, (나)에서,
    사용자에 의해 상기 DIC Layer의 위치가 조정되어 상기 페이퍼문서와 일치될 수 있도록 사용자 시스템이 DIC Layer상에 식별단서를 제공하는 단계를 더 포함하는 방법.
  18. 제 17항에서, ‘식별단서’는;
    스캐닝이미지의 일부이거나, digital identity의 레이아웃 표시 중 하나 이상인 것을 특징으로 하는 방법.
  19. 제 17항에서, 식별단서를 제공하는 방법으로,,
    디스플레이의 크기 정보를 수신한 사용자 시스템이, 이와 매칭된 사전에 노출영역이 정해진 식별단서를 DIC Layer 상에 제공하거나, 전송된 정보와 매칭된, 즉 노출영역의 범위나 용량 등이 설정된 데이터 추출 모듈을 상기 페이퍼문서에 해당하는 raw digital identity에 대해 실행시켜서, DIC Layer 상에 추출된 데이터를 표시하는 것을 특징으로 하는 방법.
  20. 제 19항에서, 상기 디스플레이의 크기 정보를 수신하는 방법으로,
    사용자에 의해 가로,세로가 (m*n)의 크기인 디스플레이가 회전하여 (n*m)으로 변경되면, 사용자의 회전명령신호에 의해, 혹은 디스플레이의 회전을 감지한 디스플레이가 상기 회전 사실을 사용자 시스템에 전송하는 것을 특징으로 하는 방법.
  21. 제 17항에서 식별단서를 제공하는 방법으로,
    사용자 시스템이 디스플레이에 노출된 DIC Layer의 위치를 감지하여 이에 해당하는 영역에 대한 특정 기준치 이상의 식별단서를 실시간 추출하여 DIC Layer 상에 표시하는 것을 특징으로 하는 방법.
  22. 제 17항에서, 식별단서를 제공하는 방법으로,
    사용자, 혹은 시스템의 제어에 의해 DIC Layer가 이동할 때에만, 식별단서가 표시되도록 하는 것을 특징으로 하는 방법.
  23. 제 1항에 있어서, (나)에서,
    상기 페이퍼문서가 사용자에 의해 레이아웃이 변경된 수정본일 때, 시스템이 제공한 (사용자가 단말기에 인식시킨 book identity에 해당하는) 식별단서를 사용자가 페이퍼문서를 참조하여 이와 일치되도록 조작시킴으로써, DIC Layer 및/또는 해당 원본(스캐닝이미지 및 raw data)를 변형시키는 단계를 더 포함하는 방법.
  24. 제 1항에 있어서, (나)에서,
    사용자가 사전에 약속된 규약에 따라 디스플레이의 특정 모서리와 페이퍼문서의 특정 모서리를 일치시키는 동작만으로도, DIC Layer와 상기 페이퍼문서가 일치될 수 있도록, 시스템이 디스플레이 상에 고정된 DIC Layer를 제공하는 단계를 더 포함하는 방법.
  25. 제 1항에 있어서, (나)에서,
    시스템이 DIC Layer의 테두리를 사용자에게 식별시키고, 사용자가 이 테두리를 움직여 페이퍼문서의 테두리와 일치시키는 단계를 더 포함하는 방법.
  26. 제 1항의 (나)에 있어서,
    시스템관리자와 사용자 간에 사전에 약속된 규약에 따라 사용자가 페이퍼문서의 특정영역과 투명디스플레이 상의 특정기호를 일치되게 오버랩시킴으로써, 시스템에 (투명디스플레이 상에서의)페이퍼문서의 위치를 인식시키고, 이를 단서로 시스템이 DIC Layer의 위치를 조정하는 단계를 더 포함하는 방법.
  27. 제 26항에서, 시스템관리자와 사용자 간에 사전에 약속된 규약은,
    상기 book identity를 식별한 시스템이 사용자에게 프롬프팅한 것임을 특징으로 하는 방법.
  28. 제 26항에서, 사전에 약속된 규약에 따라 사용자가 페이퍼문서의 특정영역과 투명디스플레이 상의 특정기호를 일치되게 오버랩시키는 방법으로,
    사용자가 투명디스플레이 상에서 사용자의 조작에 의해 움직임 가능한 특정 기호(예; 박스모양)를 사전에 약속된 페이퍼문서의 특정영역(예;페이지번호) 위에 오버랩하는 것을 특징으로 하는 방법.
  29. 제 26항에서, 사전에 약속된 규약에 따라 사용자가 페이퍼문서의 특정영역과 투명디스플레이 상의 특정기호를 일치되게 오버랩시키는 방법으로,
    투명디스플레이 상에 고정된(사용자의 조작에 의해 움직임이 불가능한) 특정기호(예;박스모양)가 페이퍼문서의 특정영역(예;페이지번호) 위에 오버랩되도록 사용자가 페이퍼문서 및/또는 투명디스플레이의 위치를 조정하는 것을 특징으로 하는 방법.
  30. 제 1항에 있어서, (나)에서,
    상기 투명디스플레이 상에서의 상기 페이퍼문서의 위치를 인식한 사용자 시스템이 상기 페이퍼문서와 일치되도록 DIC Layer의 위치를 조정한 후, 이후의 투명디스플레이의 움직임을 투명디스플레이 내부의 움직임 감지 엘리먼트를 통해 감지하여 이와 동일하게 DIC Layer가 이동되도록 제어하거나, 사용자가 DIC Layer를 이동시킬 수 있도록 안내하는 단계.
  31. 제 30항에 있어서, 움직임을 감지할 수 있는 엘리먼트가 움직임을 감지하는 방법은,
    미세/표면 텍스쳐 센서를 활용하는 방법, 제스쳐를 검출하는 방법. 광학 데이터를 관찰하는 방법, 자이로/가속도계 모션 센서를 활용하는 방법, 기계장치(볼포인트, 롤러 등)를 활용하는 방법 중 하나 이상인 것을 특징으로 하는 방법.
  32. 제 31항에 있어서, 사용자가 DIC Layer를 이동시킬 수 있도록 안내하는 방법은,
    상기 투명디스플레이의 이동거리와 방향을 감지한 사용자 시스템이 DIC Layer상에 상기 이동거리와 방향을 나타내는 특정 기호(예; 화살표)를 표시하여 사용자가 이를 단서로 DIC Layer를 움직일 수 있도록 안내하는 단계를 더 포함하는 방법.
  33. 제 1항의 (다)에 있어서, 시스템에 제어에 의해 mark up data가 생성되는 방법으로,
    상기 페이퍼문서의 스캐닝이미지(또는, raw data) 외에도, 디바이스 식별자 정보, 사용자 컨텍스트 정보, 문서 컨텍스트 정보, 사용자의 데이터 스트림 중 하나 이상의 소스를 참고하여 시스템의 시스템 서비스가 생성하는 것을 특징으로 하는 방법.
  34. 제 1항의 (다)에 있어서, mark up data는 특정 기능성을 수행하기 위한 목적으로 생성되며, 사용자에게 식별되거나, 사용자에게 보이지 않고 기계적 사용으로만 판독되는 것을 특징으로 하는 방법.
  35. 제 1항의 (다)에 있어서, mark up data는 문서(스캐닝이미지 또는 페이퍼문서)의 특정 위치나 텍스트의 특정 위치, 및/또는 세그먼트와 연관지어져 생성되거나, 문서 자체의 특성(문서 컨텍스트 정보)에 기초하여 생성되거나, 외부 이벤트 및 데이터소스에 기초하여 생성되는 것을 특징으로 하는 방법.
  36. 제 1항의 (다)에 있어서, mark up data는 사용자에게 문서의 일부, 혹은 전체에 관한 부가정보를 제공하는 기능, 시스템에 문서의 전체, 혹은 일부에 관한 속성정보를 제공하는 기능. 특정 범위의 raw data를 함유하는 기능, 특정 트랜잭션을 유도하는 기능, 페이퍼문서(스캐닝이미지)의 선택영역을 지정하는 기능 중 하나 이상의 기능을 수행하는 것을 특징으로 하는 방법.
  37. 제 1항의 (다)에 있어서, mark up data는 사용자와 인터랙션하는 동적 마크업인 것을 특징으로 하는 방법.
  38. 제 37항에 있어서, 동적 마크업은, educational game기능을 수행하는 것을 특징으로 하는 방법.
  39. 제 1항의 (라)에 있어서, 상기 DIC Layer상에 재현(선택되어 준비되거나, 매칭)된 object가 선정되어지는 방법으로, 사용자가 시스템에게 제시한 조건(특정 column의 속성값)과 동일한(또는, 부합하는) 속성값을 지닌 object를 시스템이 선별하거나, 상기 선별된 object에서 사용자가 둘 이상의 column을 key값으로 제시한 것을 단서로 시스템이 선정하는 것을 특징으로 하는 방법.
  40. 제 1항의 (라)에 있어서, DIC Layer상에 선택영역(또는, object)가 지정되는 방법으로,
    사용자가 직접 구역을 지정(예;드래그)하는 방법 이나 시스템의 제어에 의해 선택영역이 지정되는 방법 중 하나인 것을 특징으로 하는 방법.
  41. 제 1항의 (라)에 있어서, 지정된 선택영역(또는, object)에 해당하는 digital identity가 재현,또는 선택되는 방법으로,
    시스템이 사용자가 투명디스플레이 상에 지정한 지점의 위치정보(좌표)를 시스템에 구비된 layer coodinator를 통해 변환시킨 후, 좌표에 해당하는, 하나 또는 다수의 서버 상에 위치한 digital identity를 선택 및 재현하는 것을 특징으로 하는 방법.
  42. 제 1항의 (라)에 있어서, 특정 액션은,
    access기능, default 기능, 검색기능, 캡쳐링기능, 스크랩기능, 복사기능, 검색엔진에의 검색 기능, 사전검색 기능, 인증-보안-지불 기능 중 하나 이상의 기
    능을 실행하는 것을 특징으로 하는 방법.
  43. 제 1항에 있어서, (라)에서, 특정 액션이 취해질 때,
    사용자가 직접 시스템이 제공하는 옵션(메뉴) 중 하나를 지정하여 특정액션을 실해시키거나, 사용자 시스템의 제어에 의해 특정액션이 실행되어지는 것을 특징으로 하는 방법.
  44. 제1항에 있어서, (라)에서, 특정액션이 취해질 때,
    사용자가 시스템과 인터랙팅한 이력이 시스템의 제어에 의해, 시스템에 구비된 데이터저장소에 기록되는 단계를 더 포함하는 방법.
  45. 제 44항에 있어서, 사용자가 시스템과 인터랙팅한 이력은,
    digital identity에서, 사용자 또는 시스템의 제어에 의해 선택되어진 영역(또는,object)에 대해 특정액션이 실행된 시각, 선택영역에 해당하는 raw data, object name, object에 대한 property data, 선택영역(또는, object)이 DIC Layer상에서 차지하는 위치, 상기 페이퍼문서의 book identity, 디바이스 식별자 정보 중 하나 이상의 정보를 포함하는 것을 특징으로 하는 방법.
  46. 제 44항에 있어서,
    상기 데이터 저장소에 기록된 데이터는 시스템의 시스템서비스에 의해 시스템에 필요한 여분의 정보로 가공(생성)되어 상기 사용자,또는 시스템을 이용하는 다른 사용자들에게 제공되는 단계를 더 포함하는 방법.
  47. 제 1항에 있어서, (라)에서,
    특정액션이 취해질 때, 메모리에 저장된 빌링(billing), 가입, 디바이스 식별자 정보 중 하나 이상을 활용하는 단계를 포함하는 방법.
  48. 제 1항에 있어서, (라)에서,
    특정액션이 저작권보호설정이 되어있는 저작물을 그 대상으로 할 경우, 특정 기준(예;범위,용량,시간)의 임계레벨 이상의 데이터에 대해 실행될 수 없도록 사용자 시스템이 제한하는 단계를 더 포함하는 방법.
  49. 제 1항에 있어서, (마)에서, 상기 (라)의 결과가 사용자의 디스플레이 상에 표시되는 방법으로,,
    사용자, 혹은 시스템의 제어에 의해, 특정 굵기와 모양으로 사용자의 터치가 인식되도록 사전에 설정되어 있을 때, 사용자의 터치에 따라 디스플레이 상에
    생성되는 공간(특정 굵기와 모양의 공간의 연속으로 생성된 궤적)에 상기 공간에 해당하는, 재현된digital identity가 사용자의 터치(궤적)을 따라 실시간 표시되는 것을 특징으로 하는 방법.
  50. 제 1항에 있어서, (마)에서, 상기 (라)의 결과가 사용자의 디스플레이 상에 표시되는 방법으로,
    사용자 단말기의 os 및 본 시스템의 어플리케이션이 제공하는 서비스에 의해, 사용자가 투명디스플레이 상에서 임의로 투명과 불투명의 영역을 조정할 수
    있을 때, 투명한 영역에서만 DIC Layer가 활성화되고 불투명한 영역에서는 DIC Layer가 비활성화되도록 하여, 비활성화된 불투명한 영역 중에서 사용자,혹은 시스템의 제어에 의해 선택된 지점에 상기 (라)의 결과물이 표시되는 것을 특징으로 하는 방법.
  51. 전술한 항에 있어서, 시스템의 제어란,
    사용자 컨텍스트 정보, 문서 컨텍스트 정보, extended 컨텍스트 정보, 마크업데이터, raw data ,processing data, 데이터 스트링, 검색엔진에의 결과값 중 하나 이상의 분석으로부터 유도되어지거나, 사용자가 레이어 상에 재현된 보이는,또는 보이지 않는 마크업을 선택함으로써 유도되어지는 것을 특징으로 하는 방법.
  52. 전술한 항 중 어느 하나의 항에 있어서, 상기 사용자 시스템은 하나 또는 복수의 서버를 포함하는 통신망에 연결되어 있으며, 상기 digital identity는 상기 하나 또는 복수의 서버 상에, 또는 상기 사용자 시스템 상에 국부적으로 위치하는 방법.
  53. 전술한 항들 중 어느 하나의 항에 따른 방법을 수행하기 위한 수단을 포함하는 사용자 시스템.
  54. 빔스크린기능과 페이퍼문서에 분사된 빔스크린 상에서 사용자의 손동작을 인식하는 에어제스쳐 기능이 구비된 단말기와,
    제 53항에 따른 사용자 시스템과,
    상기 단말기 및 상기 사용자 시스템 사이의 연결부를 포함하는 시스템.
  55. 페이퍼 문서 위에 오버랩되어 배치되는 투명디스플레이와,
    제 53항에 따른 사용자 시스템과,
    상기 투명디스플레이 및 상기 사용자 시스템 사이의 연결부를 포함하는 시스템.
  56. 제1항 내지 52항 중 어느 하나의 항에 따른 방법을 수행하기 위한 컴퓨터 판독가능 명령어를 포함하는 컴퓨터 프로그램.
PCT/KR2013/004201 2012-06-01 2013-05-13 투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템 WO2013180407A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015514893A JP2015525396A (ja) 2012-06-01 2013-05-13 透明ディスプレイ、またはエアージェスチャーとビームスクリーン機能が備えられた端末を活用してペーパー文書を電子化する方法及びそれによるシステム
US14/404,516 US20150296092A1 (en) 2012-06-01 2013-05-13 Method for digitizing paper documents by using transparent display or device having air gesture function and beam screen function and system therefor
EP13796887.1A EP2857982A1 (en) 2012-06-01 2013-05-13 Method for digitizing paper documents by using transparent display or device having air gesture function and beam screen function and system therefor
CN201380037697.3A CN104471563A (zh) 2012-06-01 2013-05-13 利用透明显示器,或者具备手势感应和束射屏功能的终端,纸质文本的电子化的方法及其系统

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
KR10-2012-0059152 2012-06-01
KR1020120059152A KR20130135523A (ko) 2012-06-01 2012-06-01 투명디스플레이를 통해 페이퍼문서를 전자화하고 편집,활용하는 방법 및 시스템.
KR10-2012-0059704 2012-06-04
KR1020120059704A KR101495492B1 (ko) 2011-11-14 2012-06-04 투명디스플레이를 통해 페이퍼문서를 전자화하고 활용하는 방법 및 시스템.
KR10-2013-0033990 2013-03-28
KR1020130033990A KR20140119327A (ko) 2013-03-28 2013-03-28 투명디스플레이를 활용하여 페이퍼문서와 관련된 전자정보를 열람하고 생성 및 공유하는 방법 및 그에 따른 시스템

Publications (1)

Publication Number Publication Date
WO2013180407A1 true WO2013180407A1 (ko) 2013-12-05

Family

ID=49673556

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2013/004201 WO2013180407A1 (ko) 2012-06-01 2013-05-13 투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템

Country Status (5)

Country Link
US (1) US20150296092A1 (ko)
EP (1) EP2857982A1 (ko)
JP (1) JP2015525396A (ko)
CN (1) CN104471563A (ko)
WO (1) WO2013180407A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104784931A (zh) * 2015-04-21 2015-07-22 广州多益网络科技有限公司 一种游戏对象的标识、选定方法及装置
US10940760B2 (en) * 2018-10-16 2021-03-09 Hyundai Motor Company Device for controlling vehicle display device, system having the same, and method for controlling vehicle display device
US20230162306A1 (en) * 2015-02-06 2023-05-25 Sunrun, Inc. Systems and methods for generating permit sets

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106710326A (zh) * 2015-07-31 2017-05-24 曾晓敏 一种基于语文的点读课本系统
US10817126B2 (en) * 2016-09-20 2020-10-27 Apple Inc. 3D document editing system
CN106940874A (zh) * 2017-04-21 2017-07-11 江苏学正教育科技有限公司 一种多任务混合式精准教学的云教育系统
CN107147789A (zh) * 2017-05-09 2017-09-08 广东小天才科技有限公司 一种备忘录同步方法及移动设备
WO2019075630A1 (zh) * 2017-10-17 2019-04-25 深圳市柔宇科技有限公司 印刷品的电子交互方法和交互板
US10896235B2 (en) * 2018-07-13 2021-01-19 Tyndale House Publishers, Inc. Connecting a printed document to related digital content
JP7149134B2 (ja) * 2018-08-31 2022-10-06 シャープ株式会社 ゲーム装置、ゲーム制御方法、及びゲームプログラム
CN110602358B (zh) * 2019-08-28 2021-06-04 维沃移动通信有限公司 一种图像采集方法及电子设备
CN110688003B (zh) * 2019-09-09 2024-01-09 华南师范大学 基于增强现实的电子绘本系统、显示方法、装置和介质
CN114900315B (zh) * 2022-04-24 2024-03-15 北京优全智汇信息技术有限公司 基于ocr和电子签名技术的单据电子化管理系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000054124A (ko) * 2000-05-23 2000-09-05 김종철 무선 인터넷을 이용한 문서 전송 방법 및 시스템
KR20060078151A (ko) * 2004-12-30 2006-07-05 (주)수지원넷소프트 이미지 스캔 방식을 이용하는 문서 데이터 입력 시스템 및방법
KR20060123988A (ko) * 2005-05-30 2006-12-05 삼성에스디에스 주식회사 이미지 입력 시스템
KR20070043926A (ko) * 2004-04-01 2007-04-26 엑스비블리오 비.브이. 헨드헬드 디바이스를 사용한, 렌더링된 문서로부터의데이터 캡쳐
KR20090122657A (ko) * 2008-05-26 2009-12-01 동명대학교산학협력단 문자 인식을 통한 공개키 기반의 문서위조 방지 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3746378B2 (ja) * 1997-08-26 2006-02-15 シャープ株式会社 電子メモ処理装置、電子メモ処理方法、および電子メモ処理プログラムを記録したコンピュータ読取り可能な記録媒体
US7310779B2 (en) * 2003-06-26 2007-12-18 International Business Machines Corporation Method for creating and selecting active regions on physical documents
CA2529065A1 (en) * 2003-06-26 2005-01-06 International Business Machines Corporation System and method for composing an electronic document from physical documents

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000054124A (ko) * 2000-05-23 2000-09-05 김종철 무선 인터넷을 이용한 문서 전송 방법 및 시스템
KR20070043926A (ko) * 2004-04-01 2007-04-26 엑스비블리오 비.브이. 헨드헬드 디바이스를 사용한, 렌더링된 문서로부터의데이터 캡쳐
KR20060078151A (ko) * 2004-12-30 2006-07-05 (주)수지원넷소프트 이미지 스캔 방식을 이용하는 문서 데이터 입력 시스템 및방법
KR20060123988A (ko) * 2005-05-30 2006-12-05 삼성에스디에스 주식회사 이미지 입력 시스템
KR20090122657A (ko) * 2008-05-26 2009-12-01 동명대학교산학협력단 문자 인식을 통한 공개키 기반의 문서위조 방지 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230162306A1 (en) * 2015-02-06 2023-05-25 Sunrun, Inc. Systems and methods for generating permit sets
CN104784931A (zh) * 2015-04-21 2015-07-22 广州多益网络科技有限公司 一种游戏对象的标识、选定方法及装置
CN104784931B (zh) * 2015-04-21 2018-07-06 广州多益网络股份有限公司 一种游戏对象的标识、选定方法及装置
US10940760B2 (en) * 2018-10-16 2021-03-09 Hyundai Motor Company Device for controlling vehicle display device, system having the same, and method for controlling vehicle display device

Also Published As

Publication number Publication date
JP2015525396A (ja) 2015-09-03
EP2857982A1 (en) 2015-04-08
CN104471563A (zh) 2015-03-25
US20150296092A1 (en) 2015-10-15

Similar Documents

Publication Publication Date Title
WO2013180407A1 (ko) 투명디스플레이,또는 에어제스쳐와 빔스크린 기능이 구비된 단말기를 활용하여 페이퍼문서를 전자화하는 방법 및 그에 따른 시스템
WO2014010974A1 (en) User interface apparatus and method for user terminal
KR101212929B1 (ko) 렌더링된 문서로부터의 보안 데이터 수집
KR101328766B1 (ko) 렌더링된 문서를 식별하기 위한 시스템 및 방법
CN105930311B (zh) 执行与再现文档关联的动作的方法、移动设备和可读介质
KR101174536B1 (ko) 렌더링된 문서로부터의 비주얼 캡쳐 데이터 처리 기술
WO2017116216A1 (ko) 스마트 데스크탑 및 스마트 단말에 기반한 컨텐츠 표시 방법
WO2014011000A1 (en) Method and apparatus for controlling application by handwriting image recognition
WO2016129940A1 (ko) 촬영된 물체의 이미지에 노트 정보를 입력하는 장치 및 방법
Liao et al. Pacer: fine-grained interactive paper via camera-touch hybrid gestures on a cell phone
JP5529082B2 (ja) レンダリングされた文書からのハンドヘルド装置を用いたデータ取得
RU2457532C2 (ru) Система обработки ввода для устройства обработки информации
WO2017209564A1 (ko) 앱 리스트 제공 방법 및 그 장치
WO2020214006A1 (en) Apparatus and method for processing prompt information
JP2014041620A (ja) 取り込まれたレンダリングテキストに基づくコンテキスト動的広告
JP2008516297A6 (ja) レンダリングされた文書からの視覚的取得データに対する処理技術
US6955297B2 (en) Coordinate designation interface
JP2010536188A6 (ja) レンダリングされた文書からのハンドヘルド装置を用いたデータ取得
WO2014035199A1 (en) User interface apparatus in a user terminal and method for supporting the same
KR101495492B1 (ko) 투명디스플레이를 통해 페이퍼문서를 전자화하고 활용하는 방법 및 시스템.
KR101178302B1 (ko) 헨드헬드 디바이스를 사용한, 렌더링된 문서로부터의데이터 캡쳐
US7237723B2 (en) Coordinate designation interface
Carter et al. Linking digital media to physical documents: Comparing content-and marker-based tags
WO2019132248A1 (ko) 전자기기, 전자기기의 구동방법 및 데이터 기록 어플리케이션의 제어방법
WO2018016843A1 (ko) 사용자 맞춤식 가치 정보 검색 및 소셜 네트워크 구성 시스템 및 그 방법

Legal Events

Date Code Title Description
DPE2 Request for preliminary examination filed before expiration of 19th month from priority date (pct application filed from 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13796887

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2015514893

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2013796887

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 14404516

Country of ref document: US