JP2013025554A - マーク情報記録装置、マーク情報提示装置、マーク情報記録方法及びマーク情報提示方法 - Google Patents

マーク情報記録装置、マーク情報提示装置、マーク情報記録方法及びマーク情報提示方法 Download PDF

Info

Publication number
JP2013025554A
JP2013025554A JP2011159541A JP2011159541A JP2013025554A JP 2013025554 A JP2013025554 A JP 2013025554A JP 2011159541 A JP2011159541 A JP 2011159541A JP 2011159541 A JP2011159541 A JP 2011159541A JP 2013025554 A JP2013025554 A JP 2013025554A
Authority
JP
Japan
Prior art keywords
information
recording
mark
output
partial image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011159541A
Other languages
English (en)
Other versions
JP2013025554A5 (ja
JP5853458B2 (ja
Inventor
Masashi Kimoto
雅士 木元
Masato Kajimoto
雅人 梶本
Shigeji Miyama
成志 見山
Hirofumi Watanabe
裕文 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011159541A priority Critical patent/JP5853458B2/ja
Priority to EP12005168.5A priority patent/EP2549733B1/en
Priority to CN201210245101.6A priority patent/CN102890949B/zh
Priority to US13/550,237 priority patent/US9088758B2/en
Publication of JP2013025554A publication Critical patent/JP2013025554A/ja
Publication of JP2013025554A5 publication Critical patent/JP2013025554A5/ja
Priority to US14/744,897 priority patent/US20150288848A1/en
Application granted granted Critical
Publication of JP5853458B2 publication Critical patent/JP5853458B2/ja
Priority to US15/637,921 priority patent/US10311320B2/en
Priority to US16/401,923 priority patent/US11100354B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/635Overlay text, e.g. embedded captions in a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • H04N1/2125Display of information relating to the still picture recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3245Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of image modifying data, e.g. handwritten addenda, highlights or augmented reality information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/325Modified version of the image, e.g. part of the image, image reduced in size or resolution, thumbnail or screennail
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3252Image capture parameters, e.g. resolution, illumination conditions, orientation of the image capture device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3261Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal
    • H04N2201/3264Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of multimedia information, e.g. a sound signal of sound signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Television Signal Processing For Recording (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】画像にマーク情報を記録するマーク情報記録装置、また、記録されたマーク情報を提示可能なマーク情報提示装置を提供すること。
【解決手段】本技術に係るマーク情報記録装置は、出力部と、記録部とを具備する。前記出力部は、1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する。前記記録部は、前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する。
【選択図】図7

Description

本技術は、電子的なマーク情報を記録するマーク情報記録装置、記録されたマーク情報を提示するマーク情報提示装置、また、マーク情報の記録及び提示方法に関する。
特許文献1に記載の撮像装置は、動画の撮影時において、映像に関連するインデックスを表す電子マーク(エッセンスマーク)を、映像フレームに関連付ける。これにより、ユーザーはその映像の編集時に、その電子マークに関連付けられたフレームをサムネイルとして見ることができ、所望の映像シーンを見つけ出すことができる(例えば、特許文献1の明細書段落[0026]、[0030]参照)。
特開2005−236906号公報
映像だけでなく、画像にも電子的なマーク情報を付加したいという要求がある。
以上のような事情に鑑み、本技術の目的は、画像にマーク情報を記録するマーク情報記録装置、また、記録されたマーク情報を提示可能なマーク情報提示装置を提供し、さらにマーク情報の記録及び提示の方法を提供することにある。
上記目的を達成するため、本技術に係るマーク情報記録装置は、出力部と、記録部とを具備する。
前記出力部は、1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する。
前記記録部は、前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する。
マーク情報が、出力部により出力された部分画像の位置情報、及び、その部分画像の解像度(その部分画像を含む全体画像の解像度)の情報に関連付けされて記録される。したがって、マーク情報記録装置は、部分画像の位置に応じてマーク情報を付加することができ、また、部分画像の位置だけでなく、その解像度に応じてもマーク情報を付加することができる。
「AをBに関連付ける」という概念には、「Aに、Bを識別するIDを関連付ける」及び「Aを識別するIDに、BまたはBを識別するIDを関連付ける」の両方の意味が含まれる。
前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録してもよい。
前記マーク情報記録装置は、前記アノテーション情報の生成を開始するためのユーザーによる入力操作の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備してもよい。これにより、上記のユーザーの操作情報に応じて、ユーザーが意図した時にアノテーション情報を記録することができる。
あるいは、前記マーク情報記録装置は、ユーザーの発話による音声の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備してもよい。これにより、ユーザーによる発話開始をトリガーとして、マーク情報の記録を開始することができる。
前記マーク情報記録装置は、前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備してもよい。その場合、前記記録部は、前記取得部により取得された前記操作情報に応じて前記出力部により出力された前記部分画像の、前記位置情報及び前記解像度情報に、前記マーク情報を関連付ける。これにより、ユーザーの操作に応じて出力された部分画像(例えば全体画像のうちユーザーが観察したい部分画像)に関連付けられたマーク情報を記録することが可能となる。
前記記録部は、前記取得部により取得された前記ユーザーの連続的または断続的な一連の前記操作情報に応じて前記出力部により出力される、前記位置情報及び前記解像度情報のうち少なくとも一方が互いに異なる前記部分画像ごとの位置情報及び解像度情報を関連付けてもよい。この場合、前記記録部は、この関連付けによる情報を、前記各部分画像の出力の履歴情報として記録し、また、前記履歴情報に、前記マーク情報を関連付ける。これにより、異なる複数の部分画像を連続的に出力するためのユーザーの一連の操作の履歴情報ごとに、マーク情報を記録することができる。
前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行してもよい。これにより、部分画像の出力のための各種のユーザーの操作情報のうち、限定された所定の操作情報が取得部により取得された場合に、その操作情報によって出力された部分画像について、マーク情報を関連付けることができる。
前記記録部は、複数のマーク情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付けて記録してもよい。これにより、設定された優先度に応じて複数のマーク情報のうち少なくとも1つを提示することができる。
前記記録部は、前記出力部により出力された前記部分画像の解像度を含む少なくとも2以上の解像度範囲ごとに、前記マーク情報を前記関連付けてもよい。すなわち、記録部は、その出力された部分画像の解像度を含む解像度範囲ごとに、マーク情報の関連付け処理を実行することができる。
前記記録部は、ユーザーの操作に応じて前記解像度の閾値を設定し、前記設定された解像度の閾値を、前記位置情報及び前記マーク情報に関連付けて記録してもよい。これにより、マーク情報の提示時において、例えば出力される部分画像の倍率が閾値以上となった場合に、マーク情報が提示されるようにすることができる。
本技術に係るマーク情報提示装置は、出力部と、記録部と、処理部とを具備する。
前記出力部は、1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する。
前記記録部は、前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、記録位置情報及び記録解像度情報として記録する。
前記処理部は、前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する。
本技術によれば、全体画像内で、出力される部分画像を構成する出力位置情報群が、記録位置情報を有している場合、その記録位置情報に関連付けられたマーク情報を提示することができる。
前記処理部は、前記出力位置情報群内に前記記録位置情報がある場合であって、かつ、前記出力部により出力される前記部分画像の出力解像度情報と、前記記録位置情報に対応する前記記録解像度情報とが一致する場合、前記記録位置情報及び前記記録解像度情報に関連付けられた前記マーク情報を提示するための処理を実行してもよい。これにより、部分画像の記録位置情報及び記録解像度情報の両方に関連付けられたマーク情報を提示することができる。
前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録してもよい。その場合、前記処理部は、前記アノテーション情報を提示するための処理を実行する。
前記処理部は、前記出力される部分画像を構成する前記出力位置情報群内に複数の記録位置情報がある場合、前記複数の記録位置情報にそれぞれ関連付けられた複数のマーク画像を、前記出力される部分画像内に合成してもよい。これにより、出力された1つの部分画像内に複数のマーク情報が関連付けられている場合、このマーク情報提示装置に接続された表示部は、それらにそれぞれ関連付けられた複数のマーク画像を表示することができる。
前記処理部は、前記複数の記録位置情報にそれぞれ関連付けられた複数の記録解像度情報のうち、前記出力部により出力される前記部分画像の前記出力解像度情報に一致するまたは記録された解像度範囲内の解像度情報に対応する画像を、前記出力される部分画像内に合成してもよい。
前記記録部は、前記複数の画像にそれぞれ対応する複数のアノテーション情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付けてもよい。その場合、前記処理部は、前記記録された優先度情報に応じて、前記複数のアノテーション情報を提示するかしないか、または、それらの提示の時間順序を設定する。これにより、ユーザーは、優先度の高い順にアノテーション情報の提示を受けることができる。
前記記録部は、前記出力部により出力された前記部分画像の出力解像度を含む少なくとも2以上の解像度範囲ごとに前記アノテーション情報をそれぞれ関連付け、異なる前記優先度情報ごとにそれぞれ異なる記録解像度範囲を設定してもよい。その場合、前記処理部は、前記出力位置情報群内にある前記複数の記録位置情報にそれぞれ関連付けられた複数のアノテーション情報のうち少なくとも1つのアノテーション情報を、前記設定された記録解像度範囲に応じて提示するための処理を実行する。
前記マーク情報提示装置は、前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備してもよい。その場合、前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行する。また、前記処理部は、前記ユーザーによる前記所定の操作情報に応じて出力された前記部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する。
本技術に係るマーク情報記録方法は、1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力することを含む。
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報が関連付けて記録される。
本技術に係るマーク情報提示方法は、1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力することを含む。
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報が、記録位置情報及び記録解像度情報として記録される。
前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理が実行される。
以上、本技術によれば、画像にマーク情報を記録することができる。また、記録されたマーク情報を提示することができる。
図1は、本技術の一実施形態に係るマーク情報記録装置及びマーク情報提示装置を含む情報処理装置として、例えばPCのハードウェアの構成を示すブロック図である。 図2は、ピラミッド構造を有する画像の表示原理を説明するための画像ピラミッド構造を示す図である。 図3は、この画像ピラミッド構造の画像群を生成するときの手順を説明するための図である。 図4は、PCの入力部の一例を示す図である。 図5は、全体画像及び部分画像のそれぞれの大きさの一例を示す図である。 図6は、記録処理の実施形態1に係る記録処理を示すフローチャートである。 実施形態1に係る記録処理で作成されるテーブルである。 図8Aは、音声情報が記録される時の、表示部に表示される画面の例を示す。図8Bはその変形例を示す。 図9は、実施形態2に係る記録処理を示すフローチャートである。 図10は、実施形態3に係る記録処理を示すフローチャートである。 図11は、上記実施形態3に係る記録処理を示すフローチャートである。 図12は、実施形態5に係る記録処理を示すフローチャートである。 図13は、上記実施形態5に係る記録処理で作成される、履歴情報のテーブルである。 図14は、上記実施形態5における履歴情報内の複数の部分画像の動きを示す図である。 図15は、実施形態6に係る記録処理により作成されるテーブルである。 図16は、実施形態8に係る記録処理により作成されるテーブルである。 図17は、提示処理の実施形態1に係るフローチャートである。 図18A及びBは、実施形態1に係る提示処理により得られるマーク画像が合成された部分画像をそれぞれ示す図である。 図19は、実施形態2に係る提示処理を示すフローチャートである。 図20は、実施形態3に係る提示処理により得られるマーク画像が合成された部分画像を示す図である。 図21は、実施形態3に係る提示処理により得られるマーク画像が合成された部分画像を示す図である。 図22は、実施形態4に係る提示処理を示すフローチャートである。 図23A及びBは、実施形態5に係る提示処理により得られるマーク画像が合成された部分画像をそれぞれ示す図である。 図24は、実施形態5に係る提示処理により得られるマーク画像が合成された部分画像を示す図である。 図25は、実施形態6に係る提示処理に用いられる、上記実施形態3に係る記録処理により作成されるテーブルである。 図26は、実施形態7に係る提示処理を示すフローチャートである。 図27は、実施形態7に係る提示処理を示すフローチャートである。
以下、図面を参照しながら、本技術の実施形態を説明する。
図1は、本技術の一実施形態に係るマーク情報記録装置及びマーク情報提示装置を含む情報処理装置として、例えばPC(Personal Computer)のハードウェアの構成を示すブロック図である。
PC100は、CPU(Central Processing Unit)101、ROM102(Read Only Memory)、RAM(Random Access Memory)103、入出力インターフェース105、及び、これらを互いに接続するバス104を備える。
入出力インターフェース105には、表示部106、入力部107、記憶部108、通信部109、ドライブ部110等が接続される。
表示部106は、例えば液晶、EL(Electro-Luminescence)等を用いた表示デバイスである。
入力部107は、例えばポインティングデバイス、キーボード、タッチパネル、マイクロフォン、その他の操作装置である。入力部107がタッチパネルを含む場合、そのタッチパネルは表示部106と一体となり得る。
図4は、入力部107の一例を示す図である。この入力部107は、ゲーム用のコントローラー1と類似の形状及び機能を有し、十字キー2、押しボタンA、L、R等を有している。十字キー2は、例えば後述する全体画像内における一部の画像である部分画像を指定して表示するために、ユーザーが全体画像内で指定領域(表示領域)を選択するためのキーである。押しボタンL及びRは、その部分画像の観察倍率を変更するための拡大及び縮小する機能を有する。また、押しボタンAは、後述するアノテーション情報の作成処理を開始及び停止する機能、あるいはその他の機能を有する。
記憶部108は、不揮発性の記憶デバイスであり、例えばHDD(Hard Disk Drive)、フラッシュメモリ、その他の固体メモリである。
ドライブ部110は、例えば光学記録媒体、フロッピー(登録商標)ディスク、磁気記録テープ、フラッシュメモリ等、リムーバブルの記録媒体111を駆動することが可能なデバイスである。これに対し上記記憶部108は、主にリムーバブルでない記録媒体を駆動する、PC100に予め搭載されたデバイスとして使用される場合が多い。
通信部109は、LAN(Local Area Network)、WAN(Wide Area Network)等に接続可能な、他のデバイスと通信するためのモデム、ルーター、その他の通信機器である。通信部109は、有線及び無線のどちらを利用して通信するものであってもよい。通信部109は、PC100とは別体で使用される場合が多い。
次に、図示しない光学顕微鏡により得られた画像であって、PC100の主に記憶部108に記憶される画像及びその表示原理について説明する。図2は、その表示原理を説明するための画像ピラミッド構造を示す図である。
本実施形態における画像ピラミッド構造50は、光学顕微鏡により同じ1つの観察の対象物15(図3参照)から得られる同一の画像について、異なる複数の解像度により生成された画像群(全体画像群)である。画像ピラミッド構造50の最下には、最も大きいサイズの画像が配置され、最上には最も小さいサイズの画像が配置される。最も大きいサイズの画像の解像度は、例えば50×50(Kpixel:キロピクセル)、あるいは図5に示すように30×40(Kpixel)である。最も小さいサイズの画像は、例えば256×256(pixel)、あるいは、256×512(pixel)である。
つまり、同じ表示部106が、これらの画像を例えば100%でそれぞれ表示(それらの画像のピクセル数と同じ物理的なドット数でそれぞれ表示)すると、最も大きいサイズの画像が最も大きく表示され、最も小さいサイズの画像が最も小さく表示される。ここで、図2では、その表示部106の表示範囲をDとして示している。
図3は、この画像ピラミッド構造50の画像群を生成するときの手順を説明するための図である。
まず、図示しない光学顕微鏡により所定の観察倍率で得られた元画像(巨大画像)のデジタル画像が用意される。この元画像が、図2で示した画像ピラミッド構造50の最下の画像である最も大きいサイズの画像に相当し、つまり最も高い解像度の画像となる。したがって、画像ピラミッド構造50の最下の画像としては、比較的高倍率で観察されて得られる光学顕微鏡の画像が用いられる。
なお、病理の分野一般においては、生体の臓器、組織、細胞、またはこれらの一部から、薄く切り取られたものが観察対象物15となる。そして、光学顕微鏡の機能を有する図示しないスキャナ装置により、ガラススライドに収められた観察対象物15が読み取られ、これにより得られたデジタル画像が、そのスキャナ装置またはその他の記憶装置に記憶される。
このスキャナ装置または図示しない汎用コンピュータは、図3に示すように、上記のように得られた最も大きいサイズの画像から、段階的に解像度を小さくした複数の画像を生成し、これらを例えば所定サイズの単位である「タイル」単位で記憶する。1タイルのサイズは、例えば256×256(pixel)である。このように生成された画像群が画像ピラミッド構造50を形成し、この画像ピラミッド構造50がPC100の記憶部108に記憶される。実際には、PC100はそれら異なる複数の解像度の画像と、解像度の情報とをそれぞれ対応付けて記憶すればよい。なお、画像ピラミッド構造50の生成及びその記憶は、図1に示したPC100が実行してもよい。
これらの画像ピラミッド構造50を形成する全体画像群は、公知の圧縮方法により生成されてもよいし、例えばサムネイル画像を生成するときの公知の圧縮方法により生成されてもよい。
PC100は、この画像ピラミッド構造50のシステムを採用するソフトウェアを用い、ユーザーの入力部107を介した入力操作の情報に応じて、画像ピラミッド構造50から所望の画像を抽出し、これを表示部106に出力する。具体的には、PC100は、ユーザーにより選択された任意の解像度の画像のうちの、ユーザーにより指定された任意の部位の画像を表示する。この場合、CPU101、入出力インターフェース105及び表示部106のうち少なくとも1つは、その任意の部位の画像を表示部106で表示させるために、その画像を外部に出力する出力部として機能する。また、CPU101または入出力インターフェース105は、ユーザーによる入力操作の情報を取得する取得部として機能する。
例えば、図5に示すように、異なる複数の解像度の全体画像のうち、任意の1つの解像度を有する全体画像200の、一部の画像である画像210がユーザーの入力操作により指定される。PC100は、上述のように異なる複数の解像度の全体画像200を有している。ユーザーの入力操作により画像210が指定されると、PC100は、その指定された領域の画像を部分画像210として切り出し、これを表示部106に出力することができる。
図5に示した例では、最もサイズの大きな元画像から部分画像210が切り出され、表示部106は、この切り出された部分画像210を、例えばHD(High Definition)により表示部106が持つ画面全体の画面として表示する。
表示部106は、任意の解像度を持つ部分画像210として表示可能であり、この部分画像210の解像度は、切り出される元の画像である全体画像の解像度による。もちろん、表示部106は、切り出された部分画像を、その表示部106が持つ画面全体のうちの一部に表示することも可能である。
このような処理により、ユーザーは、観察倍率を変えながら観察対象物15を観察しているような感覚を得ることができる。すなわち、PC100は仮想顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。
[マーク情報記録装置としてのPCによるマーク情報の記録処理]
本技術は、表示部106に出力される部分画像210の、全体画像内の位置情報(座標)及びその解像度情報に、マーク情報を関連付ける技術である。
以下、PC100によるマーク情報の記録処理について説明する。マーク情報は、記号、符号、インデックス、アノテーション情報、または、これらを表現する画像である。
アノテーション情報は、テキスト、音声、画像、リンク(例えばURL:Uniform Resource Locator)等により形成される情報であり、上記の記号、符号、インデックス等と関連付けられていてもよい。
以下では、そのマーク情報は、アノテーション情報(特に、ユーザーの発話により形成される音声情報)及び部分画像210内に合成される画像であるとして、その記録処理を説明する。このことは、「マーク情報の提示処理」の説明でも同様である。
なお、以下に説明するPC100の処理は、記憶部108またはROM102等の記憶されたソフトウェアと、PC100のハードウェア資源との協働により実現される。具体的には、CPU101が記憶部108またはROM102等に記憶された、ソフトウェアを構成するプログラムをRAM103にロードして実行することにより、以下の処理が実現される。説明の便宜上、処理の主体をCPU101としてその処理を説明する。このことは、「マーク情報の提示処理」の説明でも同様である。
(記録処理の実施形態1)
図6は、実施形態1に係る記録処理を示すフローチャートである。
ユーザーは、例えばコントローラー1の十字キー2を用いた入力操作に応じて、CPU101は、全体画像200内をパン、ズームイン及びズームアウトし、ユーザーは自身の観察した部分画像210を探す。ここで、パンとは、水平及び垂直の両方向のうち少なくとも一方の成分を含む、表示部106での指定領域(表示領域)の移動である。
CPU101の、全体画像200内でのパン、ズームイン及びズームアウトのうち少なくとも1つの処理を、以下、指定処理という。すなわち、CPU101は指定処理を実行するごとに、部分画像210を表示部106に出力する。既述しているが、指定領域とは、この指定処理によって表示部106に出力される、全体画像200内での部分画像210を構成する領域である。
CPU101は、以上のようにユーザーの入力操作に応じて指定処理を行い、ユーザーが観察したい部分画像210を表示すると、ユーザーはコントローラー1を用いて記録用のボタンである押しボタンAを押す。そうすると、CPU101は、音声の記録処理を開始する(ステップ101)。CPU101は、記録される音声情報を識別するIDをインクリメントする(ステップ102)。また、CPU101は、記録処理が開始された時に表示のために出力されている部分画像210の、全体画像200内における位置情報(座標)、及びその観察倍率(以下、単に倍率という)を、上記IDに関連付けて図7に示したテーブルに保存する(ステップ103)。そして、CPU101は、マイクロフォンを介して入力されるユーザーの発話による音声情報を、記憶部108等に記録する処理を開始する(ステップ104)。この場合、CPU101は、アノテーション情報生成部として機能する。
CPU101は、この音声情報を、その部分画像210(のID、その位置情報及び解像度情報)に関連付けて記録する。この場合、CPU101は記録部として機能する。
テーブルに記録される部分画像210を示す座標(代表座標)は、部分画像210を構成する座標群のうち所定位置の座標でよい。例えばそれは、部分画像210内の中心の座標、最も左上の座標、あるいはその他の所定位置の座標である。
CPU101は、押しボタンAが押されている間(ステップ105のNo)、記録処理を継続する(ステップ106)。そして、ユーザーが押しボタンAを離すと、音声の記録処理を終了する(ステップ107)。
図8Aは、音声情報が記録される時の、表示部106に表示される画面の例を示す。音声情報の記録処理が開始または終了した時、CPU101は、例えばテーブルに記録された部分画像211内に、アノテーション情報を識別するマーク画像Mを合成し、それを、図7に示すようにその部分画像211のIDに関連付ける。図7及び8Aに示したマーク画像Mの形態情報は、青色かつ丸形状、という情報である。
マーク画像Mの形態は、他の色、他の形状であってもよく、ユーザー単位で異なっていてもよい。あるいは、その形態は、音声情報か、他のアノテーション情報(例えばリンク画像、あるいはテキスト情報)かによって、つまり、アノテーション情報の種類によって異なっていてもよい。あるいは、マーク画像Mの形態は、後述する優先度によって異なっていてもよい。
CPU101は、部分画像211内の所定の位置、例えば中心位置にマーク画像Mを合成する。このマーク画像Mの合成される位置の座標は、上記部分画像210を示す座標(テーブルに記録された代表座標)でもよい。
あるいは、図8Bに示すように、ユーザーが、その部分画像210内においてポインター(あるいは画面へのタッチ操作)で指定した任意の位置の座標に合成してもよい。この場合、マーク画像Mの座標情報も、図7に示したテーブルに記憶されてもよい。音声情報は、このマーク画像Mの座標に関連付けられてもよい。
記録された音声情報をユーザーに提示(例えば再生)する方法の1つとして、次のような処理がある。例えば、このように合成されたマーク画像Mの位置、ユーザーによりクリック(あるいはタッチ)等の入力操作が実行された場合、CPU101は、後述するように記録された音声情報を再生する。この場合、マーク画像MはGUI(Graphical User Interface)として機能する。
以上のように、本実施形態では、マーク情報であるアノテーション情報が、表示のために出力された部分画像211の位置情報、及び、その部分画像211の解像度(その部分画像211を含む全体画像200の解像度)の情報に関連付けされて記録される。したがって、CPU101は、部分画像210の座標に応じてアノテーション情報を付加することができ、また、部分画像210の座標だけでなく、その倍率に応じてもアノテーション情報を付加することができる。
また、本実施形態では、ユーザーのコントローラー1への操作情報に応じて記録処理が開始されるので、ユーザーが意図した時に音声情報を記録することができる。
上記の説明では、ユーザーが押しボタンAを離した時に、記録処理が終了した。しかし、同じ押しボタンAの最初の押下で記録開始、次の押下で記録終了というように、トグル機能により記録処理が実行されてもよい。あるいは、別々の押しボタンにより、記録開始及び終了がそれぞれ実行されてもよい。
(記録処理の実施形態2)
図9は、実施形態2に係る記録処理を示すフローチャートである。以下の実施形態において、上記実施形態1と同様の処理は説明を簡略化し、または省略して説明する。
本実施形態では、ユーザーによる発話の開始を図示しないマイクロフォン(入力部107)により検出し、それが記録処理開始のトリガーとされる。
CPU101は、ユーザーの入力操作に応じて指定処理を行い、ユーザーが観察したい部分画像を表示する。ここで、ユーザーによる発話が発生した場合(ステップ201のYes)、IDをインクリメントし(ステップ202)、表示部106に表示されているその部分画像210の座標及び倍率の情報をそのIDに関連付けてテーブル(図7参照)に保存する(ステップ203)。ステップ201では、CPU101は、例えば閾値を超えた音圧レベルの音声の入力があった場合に、ユーザーによる発話が発生したと判定することができる。
CPU101は、無音期間が一定時間継続した場合(ステップ205のYes)、その記録処理を終了する(ステップ207)。無音期間は、例えば上記閾値以下の音圧レベルの入力がある期間とされる。
このように、ユーザーのコントローラー1への意図的な入力操作によらず、ユーザーによる発話開始をトリガーとして、音声情報の記録処理を開始することができる。これにより、ユーザーにとって操作感が向上し、簡単に音声を記録することができる。
PC100は、ユーザーの発話のうち、「記録スタート」、「始め」など、所定の言葉を登録し、その登録された言葉をユーザーが発した時に、それをトリガーとしてステップ201のYes処理とするプログラムを有していてもよい。その場合、ステップ207も同様に、PC100は、登録された言葉をユーザーが発した時に、それをトリガーとしてステップ207を実行するプログラムを有していてもよい。
(記録処理の実施形態3)
図10及び11は、実施形態3に係る記録処理を示すフローチャートである。
本実施形態では、ユーザーの発話を記録している途中に、ユーザーによる入力部107への所定の入力操作があった場合、その入力操作情報に応じて、その入力操作により出力される部分画像210の座標等が記録される。
図10に示すように、ユーザーの発話が発生した場合(ステップ301のYes)、CPU101は、その音声の記録処理を開始する(ステップ302)。CPU101は、無音期間が一定時間継続しなかった場合(ステップ303のNo)、PC100が有するメモリの一種であるテンポラリバッファにその音声情報を記録する(ステップ304)。CPU101は、無音期間が一定時間継続した場合(ステップ303のYes)、音声の記録処理を終了する(ステップ305)。
ステップ301及び303の判定基準は、上述のステップ201及び205とそれぞれ同様である。
そして、図10のような音声の監視ループが実行されている中で、図11に示すようにユーザーの入力操作状態の監視ループが実行される。
CPU101は、ユーザーの所定の入力操作として、画面のズームイン(拡大)操作が開始されたか否かを判定する(ステップ401)。CPU101は、ズームイン操作が開始された場合、図10に示した、音声入力状態の監視ループ処理において、音声が記録中であるか否かを判定する(ステップ402)。CPU101は、音声を記録中でない場合に(ステップ402のNo)、ズームイン操作が終了した場合は(ステップ403のYes)、ステップ401へ戻る。
ステップ402において、CPU101は音声を記録中である場合、IDをインクリメントし(ステップ404)、表示のために出力されている部分画像210の座標及び倍率を、そのIDとともに図7に示すテーブルに保存する(ステップ405)。
CPU101は、図10に示した音声入力状態の監視ループ処理において、音声が記録中であるか否か(音声の記録処理を終了したか否か)を判定する(ステップ406)。記録処理を終了すると、CPU101は、テンポラリバッファに一時的に記憶された音声情報を、ID等に関連付けて図7のテーブルに保存する(ステップ407)。
本実施形態では、CPU101は、ステップ407において、ステップ401からステップ406までに一時記憶された音声情報を記録すればよい。あるいは、CPU101は、ステップ401から所定の時間(例えば1〜10秒)経過した後からステップ406までに一時記憶された音声情報を記録すればよい。あるいは、CPU101は、ステップ401の前からステップ406までに一時記憶された音声情報を記録してもよい。
本実施形態では、ユーザーが、入力操作のうちズームインの操作を実行した場合であって、かつ、音声の記録処理中に、そのズームイン操作によって表示される部分画像210を記録することができる。ズームイン操作をした場合、そのズームインにより表示される部分画像210内に重要な地点が含まれている場合が多いので、本実施形態に係る処理によれば大きなメリットが得られる。
ステップ401及び403で判定対象となる所定の入力操作は、ズームイン操作に限られず、例えばパン、ズームアウト等のポインターやタッチの動きでもよい。また、PC100は、それらの判定対象となる所定の入力操作を、ユーザーがカスタマイズ設定できるプログラムを有していてもよい。
(記録処理の実施形態4)
図示はしないが、次のような処理も実現可能である。
例えば、CPU101は図10に示すような音声の入力状態の監視ループを行わない場合において、ユーザーによる所定の入力操作(例えば上記のようなズームイン操作)が開始された直後、または所定の入力操作の開始から所定時間(例えば1〜10秒)経過した後に、CPU101が記録処理を開始することも可能である。この場合、記録の終了方法は、図7または9に示した方法でよい。
(記録処理の実施形態5)
図12は、実施形態5に係る記録処理を示すフローチャートである。
本実施形態の処理は、図14に示すように、ユーザーの連続的または断続的な一連の入力操作によって出力される複数の部分画像210が記録され、それらに音声情報が関連付けられる処理である。図14は、ユーザーの一連の入力操作により、1〜5の指定領域の画像が順に出力される例を示す。指定領域1〜4については、倍率が同じでそれらの部分画像の座標が異なる。指定領域5の中心座標は、指定領域4のそれと同じであり、それらの倍率が異なる(指定領域5の方の倍率が高い)。
例えば、ユーザーの発話が発生した場合、CPU101は、IDをインクリメントし、音声の記録処理を開始する(ステップ501〜503)。
ここで、CPU101は、ユーザーの連続的または断続的な一連の入力操作情報に応じて出力される、異なる複数の部分画像210ごとの座標及び解像度情報を関連付け、これらを指定処理の履歴情報として記録する(ステップ504)。図13は、その指定処理の履歴情報のテーブルを示す。すなわち1つのIDに、複数の異なる部分画像及び音声情報が関連付けられる。
異なる複数の部分画像とは、その座標及び解像度のうち少なくとも一方が異なる部分画像を意味する。
CPU101は、無音期間が一定時間継続した場合(ステップ506のYes)、その記録処理を終了する(ステップ507)。
連続的または断続的な一連の入力操作情報とは、予め設定された、または、ユーザーカスタマイズ可能な所定時間以内の時間間隔をおいて、ユーザーにより操作された操作情報である。つまり、所定時間以内の時間間隔とは、ユーザーが、全体画像200内のパンを1回し、次に再度パンをする場合に、それらの2回のパン操作の間において、領域を指定するユーザーによる入力操作が何もないインターバル時間である。
所定時間は、例えば1秒あるいはそれ未満である。図14を用いて説明すると、それは、例えば指定領域1〜2までのパンと、指定領域2〜3とのパンの間における部分画像210が動かない間の時間間隔である。
以上のように、本実施形態では、異なる複数の部分画像210を連続的に出力するためのユーザーの一連の操作の履歴情報ごとに、音声情報を記録することができる。
本実施形態では、発話が発生したことをトリガーとして記録処理が開始されたが、図7に示すように、ユーザーにより記録用のボタンが押されてから記録処理が開始され、その音声情報に履歴情報が関連付けられてもよい。
(記録処理の実施形態6)
図15は、実実施形態6に係る記録処理により作成されたテーブルである。
本実施形態では、CPU101は、複数のアノテーション情報である複数の音声情報のIDごとに、それらの音声情報の提示(再生)時の優先度を示す優先度情報を、関連付けて記録する。このように、CPU101は、設定された優先度に従って複数の音声情報のうち少なくとも1つを再生することができる。優先度に従った音声情報の再生については、後の「提示処理」で詳しく説明する。
(記録処理の実施形態7)
上記の各実施形態では、テーブルにおいて音声情報に関連付けられた、表示部106に表示するために出力された部分画像210の倍率値は1つの値であった。しかし、音声情報の記録時において、表示部により表示するために出力され部分画像210を含む少なくとも2以上の倍率値(すなわち倍率範囲)ごとに、音声情報が関連付けられてもよい。
すなわち、CPU101は、音声情報の記録時に、表示のために出力された部分画像210の倍率値を含む倍率範囲ごとに音声情報が関連付けられる。例えば、図7に示したID=1の倍率は20倍である。これは音声情報の記録処理が開始された時点で出力されている部分画像210の倍率である。この場合、テーブルには、20倍を含む倍率範囲、例えば10〜30倍、5〜40倍、あるいは、20〜40倍等の倍率範囲が記録される。
このようにすることにより、後述するように、記録された音声情報の再生時において、CPU101は次のように処理することができる。すなわち、CPU101は、この部分画像を構成する座標群のうち少なくとも1つの座標を含む指定領域の画像を、その倍率範囲内にある倍率での表示のために出力した場合、その部分画像(のID)に関連付けられた音声情報を再生することができる。
本実施形態の音声情報の記録開始及び終了のためのトリガー、及びそれらのタイミング等は、上述した各実施形態のうちいずれか1つと同様でよい。
図13及び15に示した各実施形態に、本実施形態をそれぞれ適用してもよい。
(記録処理の実施形態8)
図16は、実施形態8に係る記録処理により作成されたテーブルを示す。
本実施形態では、例えばユーザーが任意に倍率の閾値を設定し、CPU101はこの倍率の閾値である設定倍率をテーブルに記録しておく。一旦、図7等に示すようなテーブルが生成された後は、いつでもユーザーが倍率を設定してCPU101がテーブルに記録してもよく、その場合、元の記録倍率に上書きするようにしてもよい。
あるいは、ユーザーが倍率を設定する場合に限られず、例えば音声情報の記録処理の開始時、記録途中、または終了時等に、CPU101が所定のアルゴリズムにしたがって倍率を設定するようにしてもよい。
本実施形態によれば、後述するように、マーク情報の提示時において、例えば出力される部分画像210の倍率が設定倍率以上となった場合に、マーク情報が提示されるようにすることができる。
(記録処理のその他の実施形態)
以上の各実施形態では、音声情報が記録開始時または終了時等、少なくとも記録処理が実行されたタイムスタンプ(年月日の概念も含んでもよい)も、IDに関連付けられて記録されてもよい。
[マーク情報提示装置としてのPCによるマーク情報の提示処理]
次に、以上のように各実施形態においてテーブルが作成された後、そのテーブルを用いて記録されたマーク情報のうち1つであるアノテーション情報を、PCがユーザーに提示する処理について説明する。この提示処理を行う時のCPU101は、処理部として機能する。
(提示処理の実施形態1)
図17は、例えば図7に示したテーブルの記録データに基づき、アノテーション情報として音声情報を提示(再生)する処理を示すフローチャートである。記録データとは、つまり、テーブルに記録された、座標、倍率、及びアノテーション情報である。以下、テーブルに記録された座標及び倍率を、それぞれ、記録座標(記録位置情報)及び記録倍率(記録解像度情報)という。
CPU101は、部分画像を表示するためのユーザーによる入力操作が実行されている場合、その入力操作情報を取得する(ステップ601のYes)。この場合、CPU101は取得部として機能する。
CPU101は、その入力操作による指定領域の部分画像を構成する座標群(出力位置情報群としての出力座標群)、及び、その部分画像の倍率(出力解像度情報としての出力倍率)を、テーブル内の記録データと比較する(ステップ602)。
CPU101は、その部分画像210を構成する出力座標群内に、テーブル内の記録座標と一致する出力座標があり、かつ、その部分画像210の出力倍率が、テーブル内の記録倍率と一致するか、または、それを超える場合、ステップ604へ進む(ステップ603)。
ステップ603でYesの場合、CPU101は、その記録倍率に該当するIDに対応する音声データを、PC100に接続された(またはPCに搭載された)図示しないスピーカーに出力するための処理、すなわち再生処理を実行する(ステップ604)。
本実施形態によれば、CPU101が、図18Aに示すように低倍率の部分画像212において、記録されたマーク画像Mを合成して出力したとしても(後述の実施形態2参照)、その出力倍率が記録倍率と一致しない(またはこれを超えない)限り、音声情報を再生しない。図18Bに示すように、その部分画像213の出力倍率が記録倍率と一致、またはこれを超えた場合に、音声情報が再生される。
例えば上記記録処理の実施形態7を本実施形態に適用することも可能である。すなわち、指定領域の部分画像の出力倍率が、テーブルに記録された倍率範囲内である場合、CPU101は、その倍率範囲に関連付けられたマーク画像M及び音声情報のうち少なくとも一方を提示することができる。この考え方は、以下に説明する、提示処理の実施形態2〜8についても同様である。
ユーザーが、巨大な観察対象物の画像内から特定の部位を選び出し、その部位に対して診断する、という操作は、病理診断では通常行われることである。このような状況下において、特に専門家が行った診断内容を部分画像に応じて記録しておき、教育用途等でそれを再生し、生徒がその診断方法及び内容を勉強することは重要である。したがって、本技術に係るメーク情報としての音声メモは非常に有効である。上記したように、本技術では、記録されたユーザーの入力操作状況と一致する(または後述するようにそれに近い入力操作)が行われた時には、その音声メモが再生されるので、非常に便利で、病理分野においてメリットが大きい。
(提示処理の実施形態2)
図19は、実施形態2に係る提示処理を示すフローチャートである。
本実施形態では、例えば図18A及びBに示したように、マーク画像Mが合成された部分画像212(213)が表示されている場合を想定する。ステップ703において、CPU101は、部分画像214の出力座標群内の任意の複数の座標と、テーブル内の1つの記録座標とが一致する場合、すなわち、出力座標群内に記録座標がある場合、その記録座標に対応するマーク画像Mをその部分画像212(213)に合成して出力する(ステップ704)。
CPU101が、例えばマーク画像であるGUIをクリックする等、マーク画像へのユーザーによる入力操作情報を取得したとする(ステップ705)。そうすると、CPU101は、テーブル内の記録倍率に関係なく、どのような出力倍率でも、ユーザーによって操作されたマーク情報に関連付けられた音声情報を再生する(ステップ706)。
本実施形態によれば、記録倍率に関係なく、マーク画像Mへの入力操作によって、音声情報を再生することができる。
(提示処理の実施形態3)
上記提示処理の実施形態1及び2で説明したアルゴリズムによって、CPU101は、図20に示すような、指定処理によって出力される1つの部分画像214内に複数のマーク画像M(M1〜M4)を合成して出力することも可能である。本実施形態は、その部分画像214の出力座標群内の任意の複数の座標とそれぞれ一致する複数の記録座標、及び、それらに関連付けられた音声情報がある場合に適用される。
この場合、CPU101は、その表示のために出力される部分画像214を構成する出力座標群内に複数の記録座標があり、かつ、その部分画像210の出力倍率よりも高い記録倍率を持つ1または複数のIDに対応するマーク画像Mを、当該部分画像214に合成してもよい。これにより、部分画像の出力倍率が1つの記録倍率より高くなった時に、その記録倍率以上の記録倍率を持つIDに関連付けられたマーク画像Mを表示することができ、または、それに関連付けられた音声情報を再生することができる。
あるいは、CPU101は、図20に示すように複数のマーク画像Mが表示されている場合に、それら複数のマーク画像Mのうち、1つのマーク画像M1へのユーザーによる入力操作(例えばクリック等)の情報を取得した場合、そのマーク画像M1に関連付けられた音声情報を再生してもよい。
あるいは、CPU101は、次のように処理してもよい。すなわち、CPU101は、その出力倍率と、複数の記録座標にそれぞれ対応する記録倍率との一致を判定する。この場合、CPU101は、このように部分画像214内に複数の記録座標がある場合でも、出力倍率に一致した記録倍率を持つIDに対応する1つの音声情報を再生することができる。この場合、例えばユーザーがその部分画像214の倍率を上げるための入力操作を行った場合に、図21に示すように、部分画像215の倍率と一致する記録倍率に対応するマーク画像M2のみをその部分画像215に合成して表示するようにしてもよい。すなわち、他の記録倍率に対応するマーク画像M1、M3及びM4は表示されない。
(提示処理の実施形態4)
図22は、実施形態4に係る提示処理を示すフローチャートである。
本実施形態は、例えば、1つの部分画像210の出力座標群内に、複数の記録座標があり、かつ、それら複数の記録座標にそれぞれ関連付けられた記録倍率(あるいは記録解像度範囲である記録倍率範囲)同士が一致する場合に適用される。
具体的には、図22に示すステップ803において、CPU101は、出力座標群内の任意の複数の座標にそれぞれ一致する複数の記録座標があり、かつ、それら複数の記録座標にそれぞれ関連付けられた記録倍率同士(または記録倍率範囲同士)が一致するか、そうでないかを判定する。ステップ803でYesの場合、CPU101は、図15のテーブルに記録された優先度情報にしたがってそれら複数の記録座標にそれぞれ関連付けられた複数の音声情報のうち少なくとも1つの音声情報を提示するための処理、すなわちその音声情報を再生する(ステップ804)。
CPU101は、音声情報の再生時の優先度を、例えば以下のように定義された指標として用いる。
1)それらの再生時間順序を表す指標、あるいは、再生するかしないかの指標
2)低い倍率で表示されている部分画像であっても、その音声情報を再生するための指標
「優先度」の意味については、ユーザーの主観的な見地から様々な解釈をとり得る。例えばそれは、複数のユーザー間で、どのユーザー(により記録された音声情報の再生)を優先するかという意味でもよい。あるいは、それは、記録された音声情報または記録され部分画像210の重要度(例えば医学的見地から見ての重要度)に応じた優先度でもよい。
優先度は、典型的にはユーザーにより設定される、しかし、PC100が自動で設定してもよい。PC100が自動で設定する場合、優先度は、例えばマーク情報の記録の時系列順であってもよい。
上記1)のように、優先度が再生順を表す指標である場合であって、テーブルに記録されたタイムスタンプがある場合には、それらタイムスタンプに関係なく、再生順の優先度にしたがって、音声情報が再生される。
優先度の定義として上記1)が適用される場合、ステップ804では、CPU101は、優先度が高い順に、それらの音声情報を再生する。
上記1)が適用される場合、CPU101は、優先度が最も高い音声情報(または、最も高い優先度を含む段階的な2以上の優先度を持つ音声情報)を再生し、他を再生しないという処理も可能である。
優先度の定義として上記2)が適用される場合、CPU101は、次のような処理を実行する。CPU101は、部分画像210の出力倍率を含む倍率範囲ごとに音声情報をそれぞれテーブルに関連付けて記録し、また、それら異なる優先度情報ごとにそれぞれ異なる記録倍率範囲を設定する。
この場合に、CPU101は、ステップ804において、出力座標群内にある複数の記録座標にそれぞれ関連付けられた複数の音声情報のうち少なくとも1つの音声情報を、それぞれ設定された上記記録倍率範囲に応じて再生する。この場合、例えば、優先度が高いほど記録倍率範囲を広くするように設定することができ、これにより、低い倍率で表示されている部分画像210であっても、優先度が高ければ、それに関連する音声情報が再生される。
以上のように、本実施形態では、優先度の高い順に音声情報の提示を受けることができる。
なお、本実施形態4は、複数の記録座標にそれぞれ対応する記録倍率範囲同士の一部が重なる場合に、優先度にしたがってマーク情報が提示されてもよい。
(提示処理の実施形態5)
本実施形態は、実施形態4と同様に、1つの部分画像210の出力座標群内に複数の記録座標があり、かつ、それら複数の記録座標にそれぞれ関連付けられた記録倍率同士(あるいは記録倍率範囲同士)が一致する場合に適用される。この場合、実施形態4と同様に図15に示した優先度情報にしたがって音声情報が再生される。実施形態4では説明していない技術は以下のようなものである。
本実施形態では、CPU101は、例えば図23Aに示すように、比較的低い出力倍率の部分画像216では、緑色及び青色のマーク画像MG及びMBを両方とも部分画像210を合成する。そして、ユーザーの入力操作により出力倍率を上げていき、その出力倍率がこれらのマーク画像Mに対応する記録倍率に一致した時、図23Bに示すように、CPU101は、両方のマーク画像Mのうち優先度の高い方の青色のマーク画像MBのみ部分画像217に合成して出力する。この時、CPU101は青色のマーク画像MBに関連付けられた音声情報を再生する。
あるいは、部分画像217が図23Bに示す状態となった時、CPU101は、そのマーク画像MBへのユーザーによる入力操作情報を取得した場合(ユーザーがクリック等した場合)に、音声情報を再生するようにしてもよい。
ところで、1つの部分画像210の出力座標群内に、複数の記録座標があり、それらの記録倍率同士も一致し(あるいは記録倍率範囲同士も重なり)、さらに、それらの優先度も一致する場合、記録時においてCPU101は、異なるマーク画像Mをそれぞれ記録してもよい。図24に示す部分画像218の例では、2つの異なる色(赤と黄)のマーク画像MR及びMYが合成されている。この場合、CPU101は、例えば、赤色のマーク画像MRを、黄色のマーク画像MYに優先して、音声情報を再生することもできる。
(提示処理の実施形態6)
本実施形態に係る提示処理は、図11に示したように、部分画像を表示するためのユーザーによる入力操作のうちの一部である所定の入力操作があった場合の提示処理である。図11に示した処理があった場合、CPU101は、図25のID=1に示すようなデータを記録する。すなわち、所定の入力操作情報として、「ズームイン」操作の情報をCPU101が取得した場合に、そのズームインされた対象の画像である部分画像210の座標及び倍率を記録するとともに、これらに音声情報を関連付けて記録する。
この場合の音声情報の提示処理は、次のような処理である。CPU101は、部分画像210を表示するためのユーザーによる入力操作情報及び部分画像210の出力座標を監視する。その表示のために出力された部分画像210を構成する出力座標群内に、ID=1に関連付けられた記録座標があり、かつ、その入力操作がズームインであった場合に、CPU101は、それに関連付けられた音声情報を再生する。
これにより、記録倍率は関係なく、ズームインの入力操作があった場合に音声情報を再生することができる。
例えば、教育用途では、記録者(教師等)が行った操作と同等の操作をユーザー(生徒)が行い、部分画像中の重要な地点を探し出すことがユーザー求められる。このような用途では、ユーザーが部分画像を表示するための操作を行った場合、画面内で単に記録地点を通りすぎただけでは音声は再生されず、ズームインまで行って初めて音声が再生されるということになり、ユーザーは正しい操作を行ったと判断される。これは医療・病理分野に限られることではない。
一方で、音声情報を再生する条件として、上記記録倍率も含めた3つの条件がそろって初めて音声情報が再生されてもよい。つまり、CPU101は、部分画像210の出力座標群内に記録座標があり、ズームイン操作があり、さらに、その出力倍率が記録倍率(または記録倍率範囲)と一致した場合に、音声情報を再生するようにしてもよい。
なお、この図25のID=2に示す例では「ズームイン」ではなく、例えばユーザーカスタマイズにより、「パン」を所定の入力操作情報として設定されている。「パン」の場合、例えば記録時には、パン操作が終了した直後の部分画像210(パン操作の最後に表示された部分画像210)の座標及び倍率がテーブルに記録されていればよい。「ズームイン」や「ズームアウト」以外の入力操作を所定の入力操作とする場合、音声情報を再生する条件として、記録座標の一致及び所定の入力操作の一致、という2つの条件に限られない。その条件としては、上述したように3つの条件があってもよい。
(提示処理の実施形態7)
図26は、実施形態7に係る提示処理を示すフローチャートである。本実施形態に係る提示処理は、図12に示したように、ユーザーの連続的または断続的な一連の入力操作の情報である履歴情報に関連付けられた音声情報を再生する処理である。
ユーザーが、部分画像210を表示するための入力操作を行っている状態で、CPU101は、その指定領域の部分画像210を構成する出力座標群内に、テーブル内の複数の記録座標のうち少なくとも1つの記録座標があり、かつ、その出力倍率がその記録座標に対応する記録倍率と一致する(または記録倍率範囲内にある)か、そうでないかを判定する(ステップ903)。ステップ903でYesの場合、CPU101はそのIDに関連する音声情報を再生する(ステップ904)。
すなわち、本実施形態では、ユーザーの入力操作により得られる部分画像210の情報が、履歴情報内にある場合に音声情報が再生される。
本実施形態によれば、音声の記録途中の時点で表示のために出力されていた部分画像210を、その後にユーザーが入力操作により部分画像210として表示部106に表示させることにより、その音声情報を最初から再生することができる。つまり、音声の記録処理の開始時に出力された部分画像(図12に示したテーブル内の「座標1」の部分画像)が、提示時に表示されなくても、その音声が最初から再生されるので、非常に便利である。
この場合、CPU101は、音声を最初から再生する時、音声の記録処理の開始時に出力された部分画像210まで、現在の画面を移動させてこの部分画像210を表示してもよい。
あるいは、図12に示すテーブルにおいて、CPU101は音声の記録時に、座標1、2、・・・ごとに対応するように、連続した音声データを分割するようにして記録してもよい。こうすることにより、例えばユーザーの入力操作により表示される部分画像210が、その音声の記録途中に対応している場合に、その記録途中からその音声を再生することができる。
本実施形態では、部分画像210の出力座標群内に、テーブル内の記録座標がある場合に、記録倍率に関係なく、音声情報を再生するようにしてもよい。
(提示処理の実施形態8)
図27は、実施形態8に係る提示処理を示すフローチャートである。本実施形態の処理は、図16で示したように、倍率の閾値が設定された場合の提示処理である。
ユーザーが、部分画像210を表示するための入力操作を行っている状態で、CPU101は、その指定領域の部分画像210を構成する出力座標群内に、テーブル内の複数の記録座標のうち少なくとも1つの記録座標があり、かつ、その出力倍率がその設定倍率以上であるか、そうでないかを判定する(ステップ1003)。ステップ1003でYesの場合、CPU101はそのIDに関連する音声情報を再生する(ステップ1004)。
これにより、部分画像210の出力倍率が、例えばユーザーが任意に定めた倍率になった時に初めて音声情報を再生することができる。
(提示処理のその他の実施形態)
上記提示処理の各実施形態、例えば図17、22、26及び27の各ステップ604、804、904及び1004において、CPU101は、音声情報を再生するステップに代えて、関連するマーク画像Mを表示するステップを実行してもよい。
[その他の実施形態]
本技術は、以上説明した実施形態に限定されず、他の種々の実施形態が実現される。
上記各実施形態では、アノテーション情報として、主に音声情報及びマーク画像M等の画像を例に挙げた。しかし、各実施形態において、上述した他のアノテーション情報が作成、提示されてもよい。
PC100は、ユーザーの入力操作によらず、所定のアルゴリズムによって指定処理を実行し、自動で部分画像210を切り出して表示部106に出力するプログラムを有していてもよい。PC100は、ユーザーの入力操作によらず、所定のアルゴリズムによって自動でマーク情報を生成し、それを出力された部分画像210に関連付けるプログラムを有していてもよい。
上記各実施形態では、ユーザーは、図4に示したコントローラー1を介して操作情報をPC100に入力したが、マウス、キーボード等、他の入力機器を用いてももちろん構わない。
上記各実施形態では、マーク情報として音声情報がユーザーにより作成される形態について説明した。しかし、マーク情報は、PCが予め持っている記号、符号、インデックス、またはその他の情報であってもよい。
本技術は、医療、病理分野に適用される場合に限られず、巨大な全体画像200内で指定された領域として部分画像210を異なる複数の倍率で表示する、といった分野であれば、何でも適用可能である。それらの分野としては、生物、植物、細菌の分野にとどまらず、地質、地球物理、宇宙物理にも本技術を適用可能である。
以上説明した各形態の特徴部分のうち、少なくとも2つの特徴部分を組み合わせることも可能である。
本技術は以下のような構成もとることができる。
(1)1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する出力部と、
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する記録部と
を具備するマーク情報記録装置。
(2)(1)に記載のマーク情報記録装置であって、
前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録する
マーク情報記録装置。
(3)(2)に記載のマーク情報記録装置であって、
前記アノテーション情報の生成を開始するためのユーザーによる入力操作の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備するマーク情報記録装置。
(4)(2)に記載のマーク情報記録装置であって、
ユーザーの発話による音声の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備するマーク情報記録装置。
マーク情報記録装置。
(5)(1)から(4)のうちいずれか1つに記載のマーク情報記録装置であって、
前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備し、
前記記録部は、前記取得部により取得された前記操作情報に応じて前記出力部により出力された前記部分画像の、前記位置情報及び前記解像度情報に、前記マーク情報を関連付ける
マーク情報記録装置。
(6)(5)に記載のマーク情報記録装置であって、
前記記録部は、前記取得部により取得された前記ユーザーの連続的または断続的な一連の前記操作情報に応じて前記出力部により出力される、前記位置情報及び前記解像度情報のうち少なくとも一方が互いに異なる前記部分画像ごとの位置情報及び解像度情報を関連付け、この関連付けによる情報を、前記各部分画像の出力の履歴情報として記録し、また、前記履歴情報に、前記マーク情報を関連付ける
マーク情報記録装置。
(7)(5)または(6)に記載のマーク情報記録装置であって、
前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行する
マーク情報記録装置。
(8)(1)から(7)のうちいずれか1つに記載のマーク情報記録装置であって、
前記記録部は、複数のマーク情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付けて記録する
マーク情報記録装置。
(9)(1)から(8)のうちいずれか1つに記載のマーク情報記録装置であって、
前記記録部は、前記出力部により出力された前記部分画像の解像度を含む少なくとも2以上の解像度範囲ごとに、前記マーク情報を前記関連付ける
マーク情報記録装置。
(10)(1)から(9)のうちいずれか1つに記載のマーク情報記録装置であって、
前記記録部は、ユーザーの操作に応じて前記解像度の閾値を設定し、前記設定された解像度の閾値を、前記位置情報及び前記マーク情報に関連付けて記録する
マーク情報記録装置。
(11)1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する出力部と、
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、記録位置情報及び記録解像度情報として記録する記録部と、
前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する処理部と
を具備するマーク情報提示装置。
(12)(11)に記載のマーク情報提示装置であって、
前記処理部は、前記出力位置情報群内に前記記録位置情報がある場合であって、かつ、前記出力部により出力される前記部分画像の出力解像度情報と、前記記録位置情報に対応する前記記録解像度情報とが一致する場合、前記記録位置情報及び前記記録解像度情報に関連付けられた前記マーク情報を提示するための処理を実行する
マーク情報提示装置。
(13)(12)に記載のマーク情報提示装置であって、
前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録し、
前記処理部は、前記アノテーション情報を提示するための処理を実行する
マーク情報提示装置。
(14)(13)に記載のマーク情報提示装置であって、
前記処理部は、前記出力される部分画像を構成する前記出力位置情報群内に複数の記録位置情報がある場合、前記複数の記録位置情報にそれぞれ関連付けられた複数のマーク画像を、前記出力される部分画像内に合成する
マーク情報提示装置。
(15)(14)に記載のマーク情報提示装置であって、
前記処理部は、前記複数の記録位置情報にそれぞれ関連付けられた複数の記録解像度情報のうち、前記出力部により出力される前記部分画像の前記出力解像度情報に一致するまたは記録された解像度範囲内の解像度情報に対応する画像を、前記出力される部分画像内に合成する
マーク情報提示装置。
(16)(14)に記載のマーク情報提示装置であって、
前記記録部は、前記複数の画像にそれぞれ対応する複数のアノテーション情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付け、
前記処理部は、前記記録された優先度情報に応じて、前記複数のアノテーション情報を提示するかしないか、または、それらの提示の時間順序を設定する
マーク情報提示装置。
(17)(14)に記載のマーク情報提示装置であって、
前記記録部は、前記出力部により出力された前記部分画像の出力解像度を含む少なくとも2以上の解像度範囲ごとに前記アノテーション情報をそれぞれ関連付け、異なる前記優先度情報ごとにそれぞれ異なる記録解像度範囲を設定し、
前記処理部は、前記出力位置情報群内にある前記複数の記録位置情報にそれぞれ関連付けられた複数のアノテーション情報のうち少なくとも1つのアノテーション情報を、前記設定された記録解像度範囲に応じて提示するための処理を実行する
マーク情報提示装置。
(18)(11)から(17)のうちいずれか1つに記載のマーク情報提示装置であって、
前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備し、
前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行し、
前記処理部は、前記ユーザーによる前記所定の操作情報に応じて出力された前記部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する
マーク情報提示装置。
マーク情報記録方法及びマーク情報提示方法は、以下のような構成をとることができる。
(19)1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力し、
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する
マーク情報記録方法。
(20)1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力し、
前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、記録位置情報及び記録解像度情報として記録し、
前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する
マーク情報提示方法。
上記マーク情報提示装置は、以下のような構成をとることもできる。
(21)(18)に記載のマーク情報提示装置であって、
前記記録部は、前記取得部により取得された前記ユーザーの連続的または断続的な一連の前記操作情報に応じて前記出力部により出力される、前記位置情報及び前記解像度情報のうち少なくとも一方が互いに異なる前記部分画像ごとの位置情報及び解像度情報を関連付け、この関連付けによる情報を、前記各部分画像の前記記録位置情報及び前記記録解像度情報をそれぞれ含む履歴情報として記録し、また、前記履歴情報に、前記マーク情報を関連付け、
前記処理部は、前記出力部による出力される前記各部分画像をそれぞれ構成する前記出力位置情報群内に、前記履歴情報に含まれる少なくとも1つの前記記録位置情報がある場合、前記履歴情報に関連付けられた前記マーク情報を提示するための処理を実行する
マーク情報提示装置。
(22)(11)から(18)、及び(21)のうちいずれか1つに記載のマーク情報提示装置であって、
前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備し、
前記記録部は、前記取得部により取得された前記操作情報に応じて、前記出力部により出力された前記部分画像の、前記位置情報及び前記解像度の情報に、前記マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、前記記録位置情報及び前記記録解像度情報として記録し、
前記処理部は、前記取得部により取得された前記操作情報に応じて前記出力部により出力される前記部分画像の前記出力位置情報群内に前記記録位置情報がある場合であって、かつ、前記出力部により出力される前記部分画像の前記出力解像度情報と、前記記録位置情報に対応する前記記録解像度情報とが一致する場合、前記記録位置情報及び前記記録解像度情報に関連付けられた前記マーク情報を提示するための処理を実行する
マーク情報提示装置。
(23)(11)から(18)、(21)及び(22)のうちいずれか1つに記載のマーク情報提示装置であって、
前記記録部は、前記出力部により出力された前記部分画像の出力解像度を含む少なくとも2以上の解像度範囲ごとに、前記マーク情報を関連付け、前記マーク情報が関連付けられた前記解像度範囲の情報を、記録解像度範囲の情報として記録し、
前記処理部は、前記出力解像度が、前記記録解像度範囲内である場合、前記出力された部分画像に対応する前記マーク情報を提示するための処理を実行する
マーク情報提示装置。
(24)(11)に記載のマーク情報提示装置であって、
前記処理部は、前記出力位置情報群内に複数の記録位置情報がある場合、前記複数の記録位置情報にそれぞれ関連付けられた複数のマーク情報を提示するための処理を実行する
マーク情報提示装置。
(25)(13)に記載のマーク情報提示装置であって、
前記処理部は、前記マーク画像を用いた前記ユーザーによる操作情報に応じて、前記マーク画像に対応する前記アノテーション情報を提示するための処理を実行する
マーク情報提示装置。
(26)(11)から(18)、及び(21)〜(23)のうちいずれか1つに記載のマーク情報提示装置であって、
前記記録部は、ユーザーの操作に応じて前記解像度の閾値を設定し、前記設定された解像度の閾値を、前記位置情報及び前記マーク情報に関連付けて記録し、
前記処理部は、前記出力部により出力される前記部分画像の解像度が、前記設定された閾値を超えた場合、前記出力される部分画像に対応するマーク情報を提示するための処理を実行する
マーク情報提示装置。
M…マーク画像
15…観察対象物
100…PC
101…CPU
102…ROM
103…RAM
105…入出力インターフェース
106…表示部
108…記憶部
200…全体画像
210〜218…部分画像

Claims (20)

  1. 1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する出力部と、
    前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する記録部と
    を具備するマーク情報記録装置。
  2. 請求項1に記載のマーク情報記録装置であって、
    前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録する
    マーク情報記録装置。
  3. 請求項2に記載のマーク情報記録装置であって、
    前記アノテーション情報の生成を開始するためのユーザーによる入力操作の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備するマーク情報記録装置。
  4. 請求項2に記載のマーク情報記録装置であって、
    ユーザーの発話による音声の情報を取得した場合、前記アノテーション情報の生成を開始するアノテーション情報生成部をさらに具備するマーク情報記録装置。
    マーク情報記録装置。
  5. 請求項1に記載のマーク情報記録装置であって、
    前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備し、
    前記記録部は、前記取得部により取得された前記操作情報に応じて前記出力部により出力された前記部分画像の、前記位置情報及び前記解像度情報に、前記マーク情報を関連付ける
    マーク情報記録装置。
  6. 請求項5に記載のマーク情報記録装置であって、
    前記記録部は、前記取得部により取得された前記ユーザーの連続的または断続的な一連の前記操作情報に応じて前記出力部により出力される、前記位置情報及び前記解像度情報のうち少なくとも一方が互いに異なる前記部分画像ごとの位置情報及び解像度情報を関連付け、この関連付けによる情報を、前記各部分画像の出力の履歴情報として記録し、また、前記履歴情報に、前記マーク情報を関連付ける
    マーク情報記録装置。
  7. 請求項5に記載のマーク情報記録装置であって、
    前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行する
    マーク情報記録装置。
  8. 請求項1に記載のマーク情報記録装置であって、
    前記記録部は、複数のマーク情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付けて記録する
    マーク情報記録装置。
  9. 請求項1に記載のマーク情報記録装置であって、
    前記記録部は、前記出力部により出力された前記部分画像の解像度を含む少なくとも2以上の解像度範囲ごとに、前記マーク情報を前記関連付ける
    マーク情報記録装置。
  10. 請求項1に記載のマーク情報記録装置であって、
    前記記録部は、ユーザーの操作に応じて前記解像度の閾値を設定し、前記設定された解像度の閾値を、前記位置情報及び前記マーク情報に関連付けて記録する
    マーク情報記録装置。
  11. 1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力する出力部と、
    前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、記録位置情報及び記録解像度情報として記録する記録部と、
    前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する処理部と
    を具備するマーク情報提示装置。
  12. 請求項11に記載のマーク情報提示装置であって、
    前記処理部は、前記出力位置情報群内に前記記録位置情報がある場合であって、かつ、前記出力部により出力される前記部分画像の出力解像度情報と、前記記録位置情報に対応する前記記録解像度情報とが一致するか、または、それを超える場合、前記記録位置情報及び前記記録解像度情報に関連付けられた前記マーク情報を提示するための処理を実行する
    マーク情報提示装置。
  13. 請求項12に記載のマーク情報提示装置であって、
    前記記録部は、前記マーク情報として、アノテーション情報、及び、前記部分画像内に合成されるマーク画像を記録し、
    前記処理部は、前記アノテーション情報を提示するための処理を実行する
    マーク情報提示装置。
  14. 請求項13に記載のマーク情報提示装置であって、
    前記処理部は、前記出力される部分画像を構成する前記出力位置情報群内に複数の記録位置情報がある場合、前記複数の記録位置情報にそれぞれ関連付けられた複数のマーク画像を、前記出力される部分画像内に合成する
    マーク情報提示装置。
  15. 請求項14に記載のマーク情報提示装置であって、
    前記処理部は、前記複数の記録位置情報にそれぞれ関連付けられた複数の記録解像度情報のうち、前記出力部により出力される前記部分画像の前記出力解像度情報に一致するまたは記録された解像度範囲内の解像度情報に対応する画像を、前記出力される部分画像内に合成する
    マーク情報提示装置。
  16. 請求項14に記載のマーク情報提示装置であって、
    前記記録部は、前記複数の画像にそれぞれ対応する複数のアノテーション情報のそれぞれの提示時の優先度を示す優先度情報を、前記複数のマーク情報に関連付け、
    前記処理部は、前記記録された優先度情報に応じて、前記複数のアノテーション情報を提示するかしないか、または、それらの提示の時間順序を設定する
    マーク情報提示装置。
  17. 請求項14に記載のマーク情報提示装置であって、
    前記記録部は、前記出力部により出力された前記部分画像の出力解像度を含む少なくとも2以上の解像度範囲ごとに前記アノテーション情報をそれぞれ関連付け、異なる前記優先度情報ごとにそれぞれ異なる記録解像度範囲を設定し、
    前記処理部は、前記出力位置情報群内にある前記複数の記録位置情報にそれぞれ関連付けられた複数のアノテーション情報のうち少なくとも1つのアノテーション情報を、前記設定された記録解像度範囲に応じて提示するための処理を実行する
    マーク情報提示装置。
  18. 請求項11に記載のマーク情報提示装置であって、
    前記部分画像を前記出力部に出力させるためのユーザーによる操作情報を取得する取得部をさらに具備し、
    前記記録部は、前記取得部により取得された前記操作情報のうち所定の操作情報が取得された場合、前記所定の操作情報に応じて出力された前記部分画像について、前記マーク情報の前記関連付け処理を実行し、
    前記処理部は、前記ユーザーによる前記所定の操作情報に応じて出力された前記部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する
    マーク情報提示装置。
  19. 1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力し、
    前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付けて記録する
    マーク情報記録方法。
  20. 1つの対象物について異なる複数の解像度でそれぞれ生成された全体画像のうち、任意の1つの解像度の前記全体画像内の、一部の画像である部分画像を表示するために、前記部分画像を出力し、
    前記出力された前記部分画像の、前記全体画像内の位置情報及び前記解像度の情報に、マーク情報を関連付け、前記マーク情報に関連付けられた前記位置情報及び前記解像度の情報を、記録位置情報及び記録解像度情報として記録し、
    前記出力される部分画像を構成する出力位置情報群内に前記記録位置情報がある場合、少なくとも前記記録位置情報に関連付けられた前記マーク情報を提示するための処理を実行する
    マーク情報提示方法。
JP2011159541A 2011-07-21 2011-07-21 マーク情報記録装置及びマーク情報提示装置 Active JP5853458B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2011159541A JP5853458B2 (ja) 2011-07-21 2011-07-21 マーク情報記録装置及びマーク情報提示装置
EP12005168.5A EP2549733B1 (en) 2011-07-21 2012-07-13 Method and apparatus for recording and reproducing an additional information signal
CN201210245101.6A CN102890949B (zh) 2011-07-21 2012-07-13 标记信息记录装置和方法、标记信息呈现装置和方法
US13/550,237 US9088758B2 (en) 2011-07-21 2012-07-16 Mark information recording apparatus, mark information presenting apparatus, mark information recording method, and mark information presenting method
US14/744,897 US20150288848A1 (en) 2011-07-21 2015-06-19 Mark information recording apparatus, mark information presenting apparatus, mark information recording method, and mark information presenting method
US15/637,921 US10311320B2 (en) 2011-07-21 2017-06-29 Mark information recording apparatus, mark information presenting apparatus, mark information recording method, and mark information presenting method
US16/401,923 US11100354B2 (en) 2011-07-21 2019-05-02 Mark information recording apparatus, mark information presenting apparatus, mark information recording method, and mark information presenting method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011159541A JP5853458B2 (ja) 2011-07-21 2011-07-21 マーク情報記録装置及びマーク情報提示装置

Publications (3)

Publication Number Publication Date
JP2013025554A true JP2013025554A (ja) 2013-02-04
JP2013025554A5 JP2013025554A5 (ja) 2014-08-21
JP5853458B2 JP5853458B2 (ja) 2016-02-09

Family

ID=46829595

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011159541A Active JP5853458B2 (ja) 2011-07-21 2011-07-21 マーク情報記録装置及びマーク情報提示装置

Country Status (4)

Country Link
US (4) US9088758B2 (ja)
EP (1) EP2549733B1 (ja)
JP (1) JP5853458B2 (ja)
CN (1) CN102890949B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016039254A1 (ja) * 2014-09-08 2016-03-17 日本電信電話株式会社 アノテーション装置、アノテーション方法、及びアノテーションプログラム
WO2019059207A1 (ja) * 2017-09-22 2019-03-28 合同会社IP Bridge1号 表示制御装置及びコンピュータプログラム
US10601757B2 (en) 2015-08-25 2020-03-24 Kabushiki Kaisha Toshiba Multi-output mode communication support device, communication support method, and computer program product

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5853458B2 (ja) 2011-07-21 2016-02-09 ソニー株式会社 マーク情報記録装置及びマーク情報提示装置
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US20150124079A1 (en) * 2013-11-06 2015-05-07 Canon Kabushiki Kaisha Image data forming apparatus and control method thereof
JP6519336B2 (ja) * 2015-06-16 2019-05-29 ヤマハ株式会社 オーディオ機器および同期再生方法
WO2018195819A1 (zh) * 2017-04-26 2018-11-01 深圳市大疆创新科技有限公司 图像处理方法和设备
CN109559802B (zh) * 2018-11-07 2021-02-05 杭州迪英加科技有限公司 数据显示方法和装置
CN110138654B (zh) * 2019-06-06 2022-02-11 北京百度网讯科技有限公司 用于处理语音的方法和装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04307038A (ja) * 1991-04-04 1992-10-29 Toshiba Corp 超音波診断装置
JP2005293339A (ja) * 2004-04-01 2005-10-20 Sony Corp 情報処理装置および情報処理方法
US20080136838A1 (en) * 2002-05-31 2008-06-12 Patricia Anne Goede System and method for visual annotation and knowledge representation
US20080174676A1 (en) * 2007-01-24 2008-07-24 Squilla John R Producing enhanced photographic products from images captured at known events
JP2010015504A (ja) * 2008-07-07 2010-01-21 Toshiba Corp 医用情報作成装置および医用情報表示装置
JP2011078527A (ja) * 2009-10-06 2011-04-21 Toshiba Corp 医用画像管理装置、及び医用画像表示装置
US20110128295A1 (en) * 2009-11-30 2011-06-02 Sony Corporation Information processing apparatus, method and computer-readable medium

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5987345A (en) * 1996-11-29 1999-11-16 Arch Development Corporation Method and system for displaying medical images
US6584221B1 (en) * 1999-08-30 2003-06-24 Mitsubishi Electric Research Laboratories, Inc. Method for image retrieval with multiple regions of interest
US7738688B2 (en) * 2000-05-03 2010-06-15 Aperio Technologies, Inc. System and method for viewing virtual slides
CA2342414A1 (en) * 2001-03-29 2002-09-29 Motic Instruments Inc. Digital imaging microscope
US6980202B2 (en) * 2001-12-21 2005-12-27 International Business Machines Corporation Method and system for creating and accessing hyperlinks from annotations relating to a physical document
JP4250543B2 (ja) * 2004-02-06 2009-04-08 キヤノン株式会社 撮像装置及び情報処理装置及びそれらの制御方法
JP4375052B2 (ja) 2004-02-23 2009-12-02 ソニー株式会社 映像編集支援方法
US8659619B2 (en) * 2004-03-26 2014-02-25 Intellectual Ventures Fund 83 Llc Display device and method for determining an area of importance in an original image
US20050248681A1 (en) * 2004-05-07 2005-11-10 Nikon Corporation Digital camera
US20070116456A1 (en) * 2005-11-22 2007-05-24 Eldho Kuriakose Advanced voice annotation on digital cameras
US10410308B2 (en) * 2006-04-14 2019-09-10 Fuzzmed, Inc. System, method, and device for personal medical care, intelligent analysis, and diagnosis
US7945083B2 (en) * 2006-05-25 2011-05-17 Carestream Health, Inc. Method for supporting diagnostic workflow from a medical imaging apparatus
US7672495B2 (en) * 2006-08-17 2010-03-02 Mevis Breastcare Gmbh & Co. Kg Method, apparatus and computer program for displaying marks in an image data set
JP5055939B2 (ja) * 2006-10-12 2012-10-24 株式会社ニコン デジタルカメラ
KR100811796B1 (ko) * 2007-03-30 2008-03-10 삼성전자주식회사 휴대 단말기 및 그의 초점 정보를 이용한 영상 표시 방법
JP2010061311A (ja) * 2008-09-02 2010-03-18 Fuji Xerox Co Ltd 情報処理装置並びにコンピューター・プログラム
US8194102B2 (en) * 2008-10-06 2012-06-05 Microsoft Corporation Rendering annotations for images
WO2010120061A2 (ko) * 2009-04-16 2010-10-21 주식회사 인트로메딕 클라이언트 단말의 의료 데이터 프로세싱 장치 및 의료 영상데이터 처리 방법
WO2010150470A1 (ja) * 2009-06-23 2010-12-29 パナソニック株式会社 動画像符号化方法、動画像符号化装置、プログラム、および集積回路
WO2011019467A1 (en) * 2009-08-13 2011-02-17 Sony Ericsson Mobile Communications Ab Methods and devices for adding sound annotation to picture and for highlighting on photos and mobile terminal including the devices
CN101997969A (zh) * 2009-08-13 2011-03-30 索尼爱立信移动通讯有限公司 图片声音注释添加方法和装置以及包括该装置的移动终端
JP5589366B2 (ja) * 2009-11-27 2014-09-17 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP5588690B2 (ja) 2010-02-02 2014-09-10 スタンレー電気株式会社 車両用灯具
JP5644461B2 (ja) * 2010-12-14 2014-12-24 富士ゼロックス株式会社 画像処理装置及びプログラム
JP5853458B2 (ja) * 2011-07-21 2016-02-09 ソニー株式会社 マーク情報記録装置及びマーク情報提示装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04307038A (ja) * 1991-04-04 1992-10-29 Toshiba Corp 超音波診断装置
US20080136838A1 (en) * 2002-05-31 2008-06-12 Patricia Anne Goede System and method for visual annotation and knowledge representation
JP2005293339A (ja) * 2004-04-01 2005-10-20 Sony Corp 情報処理装置および情報処理方法
US20080174676A1 (en) * 2007-01-24 2008-07-24 Squilla John R Producing enhanced photographic products from images captured at known events
JP2010015504A (ja) * 2008-07-07 2010-01-21 Toshiba Corp 医用情報作成装置および医用情報表示装置
JP2011078527A (ja) * 2009-10-06 2011-04-21 Toshiba Corp 医用画像管理装置、及び医用画像表示装置
US20110128295A1 (en) * 2009-11-30 2011-06-02 Sony Corporation Information processing apparatus, method and computer-readable medium
JP2011133849A (ja) * 2009-11-30 2011-07-07 Sony Corp 情報処理装置、情報処理方法及びそのプログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016039254A1 (ja) * 2014-09-08 2016-03-17 日本電信電話株式会社 アノテーション装置、アノテーション方法、及びアノテーションプログラム
US10402242B2 (en) 2014-09-08 2019-09-03 Nippon Telegraph And Telephone Corporation Annotation apparatus, annotation method, and computer-readable recording medium
US10601757B2 (en) 2015-08-25 2020-03-24 Kabushiki Kaisha Toshiba Multi-output mode communication support device, communication support method, and computer program product
WO2019059207A1 (ja) * 2017-09-22 2019-03-28 合同会社IP Bridge1号 表示制御装置及びコンピュータプログラム
JPWO2019059207A1 (ja) * 2017-09-22 2021-01-07 合同会社IP Bridge1号 表示制御装置及びコンピュータプログラム
US11146743B2 (en) 2017-09-22 2021-10-12 Paronym Inc. Display control apparatus with first controlling device and second controlling device superimposing bookmark data

Also Published As

Publication number Publication date
EP2549733A1 (en) 2013-01-23
US20130182147A1 (en) 2013-07-18
US20170300770A1 (en) 2017-10-19
EP2549733B1 (en) 2022-05-11
US10311320B2 (en) 2019-06-04
JP5853458B2 (ja) 2016-02-09
CN102890949B (zh) 2017-09-22
CN102890949A (zh) 2013-01-23
US20150288848A1 (en) 2015-10-08
US11100354B2 (en) 2021-08-24
US20190258889A1 (en) 2019-08-22
US9088758B2 (en) 2015-07-21

Similar Documents

Publication Publication Date Title
JP5853458B2 (ja) マーク情報記録装置及びマーク情報提示装置
JP6102588B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2013025554A5 (ja)
US7987423B2 (en) Personalized slide show generation
KR20070090751A (ko) 화상 표시방법 및 동영상 재생장치
JP5524653B2 (ja) 表示制御装置及びその制御方法
JP2009182876A (ja) 電子機器および表示処理方法
McIlvenny Inhabiting spatial video and audio data: Towards a scenographic turn in the analysis of social interaction
JP2006314010A (ja) 画像処理装置及び画像処理方法
JP2009123196A (ja) 画像検索装置
EP3785109A1 (en) Processing of audio information for recording, playback, visual presentation and analysis
CN113553466A (zh) 页面展示方法、装置、介质和计算设备
JP2011065277A (ja) 電子機器、画像表示方法およびコンテンツ再生プログラム
JP5906605B2 (ja) 情報処理装置
JP2014107641A (ja) 情報処理装置および方法、並びにプログラム
JP2018180519A (ja) 音声認識誤り修正支援装置およびそのプログラム
JP2007267356A (ja) ファイル管理プログラム、サムネイル画像表示方法および動画再生装置
JP2017147697A (ja) 情報処理装置、情報処理方法およびプログラム
JP2008090526A (ja) 会議情報保存装置、システム、会議情報表示装置及びプログラム
JP2011112958A (ja) 画像表示方法及びその装置、並びに画像表示プログラム、記録媒体
JP2014179943A (ja) 再生装置、再生方法、再生制御方法
US20150186375A1 (en) Image reproducing apparatus that selects image from multiple images and reproduces same, method of controlling image reproducing apparatus, and storage medium
JP2011199571A (ja) 画像再生装置
JP4300181B2 (ja) 表示画像生成装置、表示画像生成方法および表示画像生成プログラム
JP2008191357A (ja) 情報処理装置、画像表示装置、および、これらにおける制御方法ならびに当該方法をコンピュータに実行させるプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140703

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140703

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150130

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151016

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20151023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151123

R151 Written notification of patent or utility model registration

Ref document number: 5853458

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250