JP2019212000A - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2019212000A
JP2019212000A JP2018107366A JP2018107366A JP2019212000A JP 2019212000 A JP2019212000 A JP 2019212000A JP 2018107366 A JP2018107366 A JP 2018107366A JP 2018107366 A JP2018107366 A JP 2018107366A JP 2019212000 A JP2019212000 A JP 2019212000A
Authority
JP
Japan
Prior art keywords
change
image
writing
information
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018107366A
Other languages
English (en)
Other versions
JP7210908B2 (ja
Inventor
省吾 高梨
Shogo TAKANASHI
省吾 高梨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2018107366A priority Critical patent/JP7210908B2/ja
Priority to US16/980,756 priority patent/US11397506B2/en
Priority to CN201880093955.2A priority patent/CN112243505A/zh
Priority to PCT/JP2018/044859 priority patent/WO2019234953A1/en
Priority to EP18826828.8A priority patent/EP3803604B1/en
Publication of JP2019212000A publication Critical patent/JP2019212000A/ja
Priority to US17/845,524 priority patent/US11675474B2/en
Application granted granted Critical
Publication of JP7210908B2 publication Critical patent/JP7210908B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/0207Addressing or allocation; Relocation with multidimensional access, e.g. row/column, matrix
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0875Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches with dedicated cache, e.g. instruction or stack
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440236Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by media transcoding, e.g. video is transformed into a slideshow of still pictures, audio is converted into text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1041Resource optimization
    • G06F2212/1044Space efficiency improvement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/45Caching of specific data in cache memory
    • G06F2212/455Image or video data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/507Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/87Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Drawing Aids And Blackboards (AREA)
  • Facsimiles In General (AREA)

Abstract

【課題】筆記対象に筆記された筆記情報の記録をより適切に行うことを可能にする仕組みを提供する。【解決手段】情報処理装置100は、筆記対象2に筆記された筆記情報の変化を検出し、検出された変化に基づいて筆記情報を含む筆記対象を示す画像を特定する制御部、を備える。制御部は、筆記情報の変化量の時間変化に基づいて、筆記情報の変化が一時的な変化であるか否かを判定し、筆記情報の変化が一時的な変化ではないと判定した場合に、画像を特定する。【選択図】図1

Description

本開示は、情報処理装置、情報処理方法及びプログラムに関する。
一般的に、黒板又は白板等の筆記対象に情報が筆記されたり消去されたりしながら、会議又は講義等が進行することが多い。筆記対象に筆記された情報を記録しておくことは、後に参照することが可能となるため利便性が高い。他方、常時記録しておくことは、記憶容量の無駄遣いにもなり得る。そのため、筆記対象に筆記された情報を効率的に記録する技術が求められている。
例えば、下記特許文献1では、筆記者が黒板消しを保持する(例えば、持ち上げる)と、デジタルカメラによって黒板の情報を撮影することで、黒板に記載された情報が消し取られる前に黒板の情報を記録する技術が開示されている。
特開2005−125628号公報
しかし、筆記者が黒板消しを保持すると、必ず黒板が消し取られるとは限らない。筆記者は、一旦保持した黒板消しをまた置いたり、黒板消しを単に移動させるために保持したりし得るためである。そのため、上記特許文献1に記載の技術では、無駄な記録が発生する場合がある。また、筆記者が黒板消しを保持してから消去が開始されるまで時間は不明である。そのため、上記特許文献1に記載の技術では、記録した際に既に消去が始まっている等、情報が欠落した状態で記録されるおそれがある。
そこで、本開示では、筆記対象に筆記された筆記情報の記録をより適切に行うことを可能にする仕組みを提案する。
本開示によれば、筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定する制御部、を備える情報処理装置が提供される。
また、本開示によれば、筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定すること、を含む、プロセッサにより実行される情報処理方法が提供される。
また、本開示によれば、コンピュータに、筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定することを、実行させるためのプログラムが提供される。
以上説明したように本開示によれば、筆記対象に筆記された筆記情報の記録をより適切に行うことを可能にする仕組みが提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係るシステムの概要を説明するための図である。 同実施形態に係るシステムの構成の一例を説明するための図である。 同実施形態に係る板書画像の比較処理の一例を説明するための図である。 同実施形態に係る筆記情報の変化率の計算例を説明するための図である。 同実施形態に係る変化の開始点の検出の一例を説明するためのグラフである。 同実施形態に係る変化の確定点の検出の一例を説明するためのグラフである。 同実施形態に係る変化の終了点の検出の一例を説明するためのグラフである。 同実施形態に係る変化領域の特定の一例を説明するための図である。 同実施形態に係る記録画像の出力例を説明するための図である。 同実施形態に係る記録画像の出力例を説明するための図である。 同実施形態に係る記録画像の出力例を説明するための図である。 同実施形態に係る記録画像の出力例を説明するための図である。 同実施形態に係る情報処理装置により実行される板書画像の記録処理の流れの一例を示すフローチャートである。 同実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.はじめに
2.構成例
3.技術的特徴
3.1.板書画像のバッファリング
3.2.筆記情報の変化の検出
3.3.板書画像の記録
3.4.変化領域の特定
3.5.記録画像の出力
3.6.処理の流れ
3.7.変形例
4.ハードウェア構成例
5.まとめ
<<1.はじめに>>
まず、図1を参照しながら、本開示の一実施形態に係るシステムの概要を説明する。
図1は、本開示の一実施形態に係るシステムの概要を説明するための図である。図1に示すように、システム1は、情報処理装置100及び情報処理装置100に接続される入力装置200を含む。
筆記対象2は、点、線、文字、文章、数式、記号、絵、図形又は画像等の視覚的な情報(以下、筆記情報)が筆記される物体である。筆記対象2は、黒板、ホワイトボード、電子ペーパー、又はタッチパネル等であり、筆記情報は、チョーク、マーカー、スタイラス又は指等により筆記対象2に筆記され、黒板消し又はイレーサー等により筆記対象2から消去される。筆記対象2は、筆記面とも称される場合がある。
筆記者3は、筆記対象2に対して動作を行う人である。筆記者3は、筆記対象2に筆記情報を筆記し、及び筆記対象2に筆記された筆記情報を消去する。典型的には、筆記者3は、講義又は会議等において、筆記対象2に筆記された筆記情報を、手又は手に持つレーザーポインタ若しくは指示棒等の指示器で指示しながら、筆記情報に関する説明を行う。
入力装置200は、入力装置200が設置された物理空間に関する情報を入力する装置である。入力装置200は、例えば、撮像装置及び音声入力装置を含む。撮像装置は、撮像レンズ、絞り、ズームレンズ、及びフォーカスレンズ等により構成されるレンズ系、レンズ系に対してフォーカス動作やズーム動作を行わせる駆動系、レンズ系で得られる撮像光を光電変換して撮像信号を生成する固体撮像素子アレイ等を含む。音声入力装置は、周囲の音を収音するマイクロフォン、マイクロフォンで得られた音声信号を増幅処理するマイクアンプ回路、A/D変換器、及びノイズキャンセラ等の信号処理回路を含む。入力装置200は、デジタル信号とされた画像データ及び撮像時の音声データを出力する。
入力装置200は、物理空間における物体を撮像対象として、画像を撮像可能である。本実施形態では、入力装置200は、物理空間における筆記情報が筆記された筆記対象2を撮像対象として画像を撮像し、撮像時刻と撮像した画像とを対応付けて情報処理装置100に出力する。ただし、撮像された画像には、筆記対象2以外も含まれ得る。その場合、入力装置200は、撮像された画像に基づいて取得される画像を、情報処理装置100に出力する。ここで、撮像された画像に基づいて取得される画像とは、例えば、撮像された画像から筆記対象2が映った領域が抽出された画像である。入力装置200としての機能は、筆記対象2に有されていてもよい。例えば、入力装置200及び筆記対象2は、筆記対象2の状態をスキャニングすることで画像を取得し出力する電子黒板として実現される。その場合、入力装置200は、筆記対象2の画像を取得し、取得時刻と取得した画像とを対応付けて情報処理装置100に出力する。
入力装置200により入力される画像は、動画であってもよい。動画とは、複数の静止画(画像データ)及び各々の静止画の再生時刻(撮像時刻に対応する)を含むデータである。動画が再生される際には、再生時刻の順に静止画が連続的に再生される。動画を構成する静止画は、フレームとも称される。単位時間当たりのフレーム数は、フレームレートとも称され、1秒間当たりのフレームの数(FPS:Frame Per Second)で表される。
入力装置200により入力される画像は、静止画であってもよい。その場合、入力装置200は、連続的に画像を入力する。本明細書では、単位時間当たりに入力される画像数を、動画にならいフレームレートとも称する。
以下では、入力装置200により入力される、筆記情報が筆記された筆記対象2の画像を、板書画像とも称する。板書画像は、静止画であるものとする。入力装置200により入力される画像が動画であれば、板書画像は、動画を構成する1枚の静止画である。
情報処理装置100は、入力装置200により入力される板書画像のうち、記録すべき板書画像を選択的に記録する。本明細書において、記録とは、記憶媒体/記録媒体に情報を記憶することを指す。情報処理装置100は、板書画像をモニタリングして、筆記対象2に筆記された筆記情報に変化が発生したことを検出することで、変化開始前又は変化開始後の板書画像を、記録する。このように、筆記情報の変化に基づいて選択的に記録される板書画像を、以下では記録画像とも称する。
筆記情報の変化とは、筆記情報の消去であってもよい。その場合、情報処理装置100は、消去開始前の板書画像を記録画像として記録する。典型的には、筆記情報の消去開始前の筆記対象2には、筆記情報が最も多く筆記されている。従って、消去開始前の板書画像を選択的に記録することで、無駄な記録が抑制され、板書画像を効率的に記録することが可能となる。
筆記情報の変化とは、筆記情報の筆記(即ち、追加)であってもよい。その場合、情報処理装置100は、追加終了後の板書画像を記録画像として記録する。典型的には、筆記情報の追加終了後の筆記対象2には、筆記情報が最も多く筆記されている。従って、追加終了後の板書画像を選択的に記録することで、無駄な記録が抑制され、板書画像を効率的に記録することが可能となる。
<<2.構成例>>
図2は、本実施形態に係るシステム1の構成の一例を説明するための図である。図2に示すように、システム1は、情報処理装置100、入力装置200、及び出力装置300を含む。
入力装置200は、上述したように連続的に板書画像を入力し、その各々を情報処理装置100に出力する。
出力装置300は、情報処理装置100による制御に基づき情報を出力する装置である。出力装置300は、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置、レーザープロジェクタ、LEDプロジェクタ及びランプ等の表示装置により実現される。例えば、出力装置300は、記録画像を出力する。
情報処理装置100は、システム1の動作全体を制御する装置である。情報処理装置100は、PC(Personal Computer)、スマートフォン又はタブレット端末等の任意の装置により実現される。図2に示すように、情報処理装置100は、取得部110、第1の記憶部120、検出部130、第2の記憶部140、及び出力制御部150を含む。これらの構成要素を、システム1全体の動作を制御するための制御部として捉えることもできる。
取得部110は、入力装置200により入力された板書画像を取得する機能を有する。第1の記憶部120は、取得された板書画像を一時的に記憶する機能を有する。検出部130は、取得部110により取得された現時刻の板書画像と第1の記憶部120に記憶された過去の板書画像とを比較することで、筆記対象2に筆記された筆記情報の変化を検出する機能を有する。第2の記憶部140は、検出部130により検出された情報に基づいて記録すべき板書画像を特定し、特定された記録すべき板書画像を記録する制御を行う記録制御部としての機能、及び特定された板書画像を記憶する記憶媒体としての機能を有する。また、第2の記憶部140は、板書画像に関する各種情報を記憶する。出力制御部150は、第2の記憶部140に記憶された板書画像に基づいて出力情報を生成し、第2の記憶部140に記憶させたり、出力装置300により出力させたりする機能を有する。
情報処理装置100による動作処理について、以下に詳しく説明する。
<<3.技術的特徴>>
<3.1.板書画像のバッファリング>
第1の記憶部120は、入力装置200により入力された板書画像をバッファリングする。バッファリングは、後述する筆記情報の変化の検出のために用いられる、過去の板書画像を保持しておくために行われる。
<3.2.筆記情報の変化の検出>
検出部130は、筆記対象2に筆記された筆記情報の変化を検出する。具体的には、検出部130は、検出対象のタイミングにおける板書画像(第1の板書画像とも称する)と、検出対象のタイミングの所定時間前のタイミングにおける過去の板書画像(第2の板書画像とも称する)とを比較することで、筆記対象に筆記された筆記情報の変化を検出する。筆記対象2に筆記された筆記情報の変化の検出の一例として、検出部130は、筆記対象に筆記された筆記情報の変化に関する情報(変化情報に相当)を検出する。ここで、あるタイミングにおける板書画像とは、当該タイミングにおいて入力装置200により入力された板書画像を指す。検出部130は、入力装置200に板書画像が入力される度に、筆記情報の変化に関する情報を検出する。検出対象のタイミングは、第1の板書画像が入力された時刻(例えば、撮像時刻)である。検出対象のタイミングを、以下では現時刻とも称する。
検出される変化に関する情報としては、筆記対象2に筆記された筆記情報の変化量、筆記情報の変化が開始するタイミングである変化の開始点、筆記情報の変化が確定するタイミングである変化の確定点、及び筆記情報の変化が終了するタイミングである変化の終了点が挙げられる。なお、変化とは、筆記情報の消去であってもよいし、筆記情報の追加であってもよい。以下、各情報の検出方法について詳しく説明する。
(1)変化量の計算
検出部130は、現時刻に入力装置200により入力された第1の板書画像を取得部110から取得し、過去に入力装置200により入力された第2の板書画像を第1の記憶部120から取得する。次いで、検出部130は、第1の板書画像と第2の板書画像とを比較することで、過去から現時刻にかけての筆記情報の変化量を検出する。ここで、第2の板書画像は、過去の所定時間前に入力装置200により入力された板書画像であってもよい。その場合、過去の所定時間前から現時刻にかけての筆記情報の変化量が検出される。つまり、変化量とは、所定時間当たりの筆記情報の変化量であり、変化速度として捉えられてもよい。所定時間とは、筆記情報が消去又は追加された場合にその変化を捉えることのできる時間間隔であり、凡そ3秒を目安とする。即ち、上述した第1の記憶部120による板書画像のバッファリング期間は、凡そ3秒である。なお、ここでの3秒は一例であり、本技術はこれに限定されない。他にも、第2の板書画像は、過去の所定のタイミングに入力装置200により入力された板書画像であってもよい。その場合、過去の所定のタイミングから現時刻にかけての筆記情報の変化量が検出される。かかる所定のタイミングは、固定されたタイミングであり、所定の条件に基づいて変更され得る。即ち、第2の板書画像は、所定の条件に基づいて更新され得る。例えば、30秒が経過する度に、第2の板書画像が更新されてもよい。
まず、検出部130は、第1の板書画像と第2の板書画像とを比較することで、2つの画像間で変化が生じた画素(以下、変化画素とも称する)を示す情報を含む差分画像を得る。以下では、図3を参照して、筆記情報の変化が筆記情報の消去である場合の、板書画像の比較処理について説明する。
図3は、本実施形態に係る板書画像の比較処理の一例を説明するための図である。図3に示すように、第1の板書画像10A及び第2の板書画像10Bが得られたものとする。検出部130は、第1の板書画像10A及び第2の板書画像10Bの各々に対し二値化処理を適用する。二値化処理とは、カラー画像又はグレー画像等を2値画像に変換する処理である。図3に示した例では、筆記対象2のうち筆記情報が筆記された画素(以下、筆記画素とも称する)が白色(例えば、1)に、それ以外の画素(以下、板面画素とも称する)が黒色(例えば、0)に変換されている。検出部130は、二値化処理後の第2の板書画像12Bを基準として二値化処理後の第1の板書画像12Aとの差分をとることで、消去された筆記情報が表される差分画像14を得る。差分画像14では、差分が発生した画素、即ち消去された筆記情報が筆記されていた画素(即ち、変化画素)が白色に、それ以外の画素が黒色となっている。ここで、得られた変化画素には、二値化の際のノイズによる影響が生じている場合がある。そこで、検出部130は、差分画像14に対しノイズ除去を行い、より抽出精度の高い変化画素を含む差分画像16を得る。
なお、筆記情報の変化が筆記情報の追加である場合、検出部130は、二値化処理後の第1の板書画像を基準として二値化処理後の第2の板書画像との差分をとることで、追加された筆記情報が表される差分画像を得る。かかる差分画像では、差分が発生した画素、即ち追加された筆記情報が筆記されていた画素(即ち、変化画素)が例えば白色に、それ以外の画素が例えば黒色となる。ノイズ除去についても、筆記情報の変化が筆記情報の消去である場合と同様に適用される。
板書画像の比較処理後、検出部130は、得られた差分画像に基づいて、筆記情報の変化量を計算する。変化量は、変化画素の数に基づく値であり、例えば、筆記対象2の全体に対する変化画素の比率(以下、変化率とも称する)である。なお、変化率は、筆記情報の変化が筆記情報の消去である場合には消去率とも称され、筆記情報の変化が筆記情報の追加である場合には追加率とも称される。他にも、変化量は、変化画素の画素数そのもの、又は消去若しくは追加された文字等の数であってもよい。以下では、筆記情報の変化量とは、筆記情報の変化率を指すものとする。
図4は、本実施形態に係る筆記情報の変化率の計算例を説明するための図である。図4に示すように、差分画像20のサイズは、幅640高さ360(単位は画素数)であるものとする。検出部130は、差分画像20における変化画素22の画素数をカウントする。変化画素22を含む部分を一部拡大した拡大画像24に示すように、変化画素22の画素数は、差分画像20における白色(即ち、1)の画素の数である。差分画像20における変化画素22の画素数が12000であったとすると、変化率は次式により計算される。
変化率E=12000/(640×360)
=0.05 …(1)
検出部130は、板書画像が入力される度に変化率の計算を行い、変化率の時間変化をモニタリングする。その際、検出部130は、過去に計算された変化率を用いて、変化率を平滑化してもよい。これにより、変化率の時間変化が滑らかになり、外れ値の発生が抑制されるので、後述する変化の開始点、確定点及び終了点を検出する際の誤検出が抑制される。例えば、変化率は、次式のような重み付き加算により、平滑化される。
Figure 2019212000
ここで、E´は、平滑化後の変化率であり、Eは現時刻の変化率であり、Eは過去の変化率である。次の時刻においては、現時刻のE´がEとして用いられる。αは、現時刻の変化率を反映する割合を示し、0以上1以下の値をとる。
検出部130は、変化率の時間変化に基づいて、変化の開始、確定、及び終了を検出する。
(2)変化の開始点の検出
検出部130は、筆記対象2に筆記された筆記情報の変化率の時間変化に基づいて、変化の開始点(第1のタイミングに相当)を検出する。詳しくは、検出部130は、第2の閾値と変化率の所定の勾配とに基づいて、変化の開始点を検出する。具体的には、検出部130は、変化率が第2の閾値以下である場合、変化率の時間変化が所定の勾配を示したタイミングを、変化の開始点として検出する。これにより、筆記情報の消去又は追加が開始された可能性があるタイミングを検出することが可能となる。所定の勾配は、典型的には正の勾配である。変化率の時間変化の勾配が正であれば、筆記情報の消去又は追加が開始された可能性があることを示しているためである。変化率に負の係数が掛けられる等された場合、所定の勾配は、負の勾配である。なお、変化の開始点の検出を行う目的は、変化の開始前の板書画像を特定することにある。
図5は、本実施形態に係る変化の開始点の検出の一例を説明するためのグラフである。図5に示すグラフの、横軸は時間であり、縦軸は変化率である。横軸の時間は、典型的には、板書画像の入力時刻(例えば、撮像時刻)である。図5に示すように、本グラフでは、時間が経つにつれて、徐々に筆記対象2に筆記された筆記情報に変化が生じ(例えば、消去されていく、又は追加されていく)、変化率が増加していく様子が示されている。そして、変化率が第2の閾値以下である範囲において、変化率に正の勾配変化が発生したタイミングが、変化の開始点として検出されている。第2の閾値は、変化が発生していない場合に安定して得られる変化率(例えば、極めて0に近いものの、多少のノイズの影響で正の値を有する)を基準として定められる。
(3)変化の確定点の検出
検出部130は、変化の開始点の検出後、変化率と第1の閾値との比較結果に基づいて、筆記情報の変化が一時的であるか否かを判定する。具体的には、検出部130は、変化率が第1の閾値を超えるタイミングを、変化の確定点として検出する。そして、検出部130は、変化の確定点が検出された場合に筆記情報の変化が一時的ではないと判定し、変化の確定点が検出されない場合に筆記情報の変化が一時的であると判定する。ここで、変化の確定点が検出されない場合とは、変化率が第1の閾値を超えないまま、後述する変化の終了点が検出された場合又は変化の開始点が再度検出された場合を指す。筆記情報の変化が一時的でないとの判定は、所定時間内に所定量の変化(消去又は追加)が発生したことを確定するものであり、第1の閾値によって当該所定量を調整することができる。なお、第1の閾値は、第2の閾値よりも大きい値である。
図6は、本実施形態に係る変化の確定点の検出の一例を説明するためのグラフである。図6に示すグラフの、横軸は時間であり、縦軸は変化率である。横軸の時間は、典型的には、板書画像の入力時刻(例えば、撮像時刻)である。図6に示すグラフは、図5に示したグラフからある時間経過した後のグラフである。図6に示すように、本グラフでは、変化の開始点の後、時間が経つにつれて、筆記対象2に筆記された筆記情報に変化が生じ、変化率が増減する様子が示されている。そして、変化率が第1の閾値を超えたタイミングが、変化の確定点として検出されている。
(4)変化の終了点の検出
検出部130は、筆記情報の変化が一時的でないと判定した後、変化率と第2の閾値との比較結果に基づいて、変化の終了点(第2のタイミングに相当)を検出する。具体的には、検出部130は、変化の確定点が検出された後、変化率が第2の閾値以下になったタイミングを、変化の終了点として検出する。なお、変化の終了点の検出を行う目的は、一連の変化が終了した後の板書画像を特定することにある。
図7は、本実施形態に係る変化の終了点の検出の一例を説明するためのグラフである。図7に示すグラフの、横軸は時間であり、縦軸は変化率である。横軸の時間は、典型的には、板書画像の入力時刻(例えば、撮像時刻)である。図7に示すグラフは、図6に示したグラフからある時間経過した後のグラフである。図7に示すように、変化の確定点の後、変化率がピークを迎え、時間が経つにつれて変化率が低下している。そして、変化率が第2の閾値以下となったタイミングが、変化の終了点として検出されている。
(5)閾値の設定
検出部130は、板書画像が取得される度に筆記対象2に筆記された筆記情報の変化を検出する。具体的には、検出部130は、板書画像が取得される度に筆記対象2に筆記された筆記情報の変化に関する情報を検出する。この場合、検出部130は、第1の閾値及び第2の閾値を、板書画像が取得される間隔に応じて設定してもよい。詳しくは、検出部130は、第1の閾値及び第2の閾値を、フレームレートに基づいて設定してもよい。検出部130は、フレームレートが高いほど第1の閾値及び第2の閾値を高く設定する。フレームレートが高いほど、変化率の時間変化の勾配が急になるためである。一方で、検出部130は、フレームレートが低いほど第1の閾値及び第2の閾値を低く設定する。フレームレートが低いほど、変化率の時間変化の勾配が緩やかになるためである。このような設定により、変化の開始点、確定点及び終了点の検出精度を向上させることが可能となる。
<3.3.板書画像の記録>
第2の記憶部140は、検出部130により検出された筆記情報の変化に基づいて、筆記情報を含む筆記対象2を示す情報(例えば、板書画像)を特定する。詳しくは、第2の記憶部140は、筆記情報の変化が一時的でないと判定した場合に、かかる筆記対象2を示す情報を特定する。そして、第2の記憶部140は、特定した筆記対象2を示す情報を記憶する。換言すると、検出部130は、検出部130が検出した情報に基づいて、筆記対象2を示す情報を第2の記憶部140に記憶させる。ここで、記憶される筆記対象2を示す情報とは、板書画像である。
(1)消去の場合
以下では、筆記情報の変化が筆記情報の消去である場合について説明する。この場合、変化の開始点、変化の確定点、及び変化の終了点は、それぞれ消去の開始点、消去の確定点、及び消去の終了点とも称される。
第2の記憶部140は、消去の開始点が検出された場合、消去の開始点に対応する板書画像を、記録画像候補として記憶する。ここで、あるタイミングに対応する板書画像とは、必ずしも当該タイミングにおいて入力装置200により入力された板書画像を指すとは限らない。あるタイミングに対応する板書画像とは、当該タイミングの所定時間前後のタイミングにおける板書画像を指し得る。例えば、記録画像候補として記憶される、消去の開始点に対応する板書画像とは、消去の開始点における消去率の計算のために、板書画像の比較処理に用いられた過去の画像(即ち、第2の板書画像)である。これにより、記録画像候補を、確実に消去開始前の板書画像にすることが可能となる。典型的には、筆記情報の消去開始前の板書画像には、筆記情報が最も多く筆記された筆記対象2が映っている。なお、記録画像候補とは、記録画像になり得る画像である。
第2の記憶部140は、消去の開始点が検出された後、消去の確定点が検出された場合、消去の開始点に対応する板書画像である記録画像候補を、記録画像として特定し、記憶する。一方で、第2の記憶部140は、消去の開始点が検出された後、消去の確定点が検出されないまま次の消去の開始点が検出された場合、記録画像候補を次の消去の開始点に対応する板書画像に更新する。消去の種別として、訂正などによる一時的な消去と、筆記対象2をリセットするための一時的でない消去とが存在する。一時的な消去が発生した場合にも筆記情報の消去開始前の板書画像を記録画像として記録することは、無駄な記録が発生することを意味し、非効率的である。この点、消去の確定点を検出することで、一時的でない消去が発生した場合に限定して、消去開始前の板書画像を記録画像として記録することが可能となる。さらに、記録画像候補は、筆記情報が最も多く筆記されている筆記対象2の板書画像であるから、最も情報量が多い板書画像を記録画像として記録することが可能となる。このようにして、効率的な板書画像の記録が実現される。
また、第2の記憶部140は、消去の開始点が検出された後、消去の確定点が検出された場合、消去の終了点に対応する板書画像を、比較対象画像として記憶する。ここで、比較対象画像として記憶される、消去の終了点に対応する板書画像とは、例えば、消去の終了点における消去率の計算のために、板書画像の比較処理に用いられた過去の画像(即ち、第2の板書画像)である。これにより、比較対象画像は、筆記情報の消去終了後の板書画像となる。典型的には、筆記情報の消去終了後の板書画像には、筆記情報が最も少なく筆記された筆記対象2が映っている。なお、比較対象画像は、後述する消去領域の特定のために用いられる。
記録画像は、一時的でない消去が発生する度に、蓄積(即ち、追加的に記憶)される。一方で、記録画像候補は、消去の開始点が検出される度に、更新(即ち、上書き)される。比較対象画像は、一時的でない消去が発生する度に、更新(即ち、上書き)される。このように、記録画像以外の板書画像の記録は最低限に抑制されるので、効率的な板書画像の記録が実現される。
(2)追加の場合
以下では、筆記情報の変化が筆記情報の追加である場合について説明する。この場合、変化の開始点、変化の確定点、及び変化の終了点は、それぞれ追加の開始点、追加の確定点、及び追加の終了点とも称される。
第2の記憶部140は、追加の開始点が検出された場合、追加の開始点に対応する板書画像を、比較対象画像として記録する。ここで、比較対象画像として記憶される、追加の開始点に対応する板書画像とは、追加の開始点における追加率の計算のために、板書画像の比較処理に用いられた過去の画像(即ち、第2の板書画像)である。これにより、比較対象画像を、確実に追加開始前の板書画像にすることが可能となる。典型的には、筆記情報の追加開始前の板書画像には、筆記情報が最も少なく筆記された筆記対象2が映っている。なお、比較対象画像は、後述する追加領域の特定のために用いられる。
第2の記憶部140は、追加の開始点が検出された後、追加の確定点が検出された場合、追加の終了点に対応する板書画像を、記録画像として特定し、記憶する。ここで、記録画像として記憶される、追加の終了点に対応する板書画像とは、例えば、追加の終了点における追加率の計算のために、板書画像の比較処理に用いられた過去の画像(即ち、第2の板書画像)である。これにより、記録画像は、筆記情報の追加終了後の板書画像となる。典型的には、筆記情報の追加終了後の板書画像には、筆記情報が最も多く筆記された筆記対象2が映っている。追加の種別として、ごく少量の筆記情報の追加等の一時的な追加と、筆記対象2に多量の筆記情報を追加するための一時的でない追加とが存在する。一時的な追加が発生する度に板書画像を記録画像として記録することは、無駄な記録が発生することを意味し、非効率的である。この点、追加の確定点を検出することで、一時的でない追加が発生した場合に限定して、追加終了後の板書画像を記録画像として記録することが可能となる。さらに、追加終了後の板書画像は、筆記情報が最も多く筆記されている筆記対象2の板書画像であるから、最も情報量が多い板書画像を記録画像として記録することが可能となる。このようにして、効率的な板書画像の記録が実現される。
一方で、第2の記憶部140は、追加の開始点が検出された後、追加の確定点が検出されないまま、次の追加の開始点が検出された場合、比較対象画像を、次の追加の開始点に対応する板書画像に更新する。
記録画像は、一時的でない追加が発生する度に、蓄積(即ち、追加的に記憶)される。一方で、比較対象画像は、追加の開始点が検出される度に、更新(即ち、上書き)される。このように、記録画像以外の板書画像の記録は最低限に抑制されるので、効率的な板書画像の記録が実現される。
<3.4.変化領域の特定>
出力制御部150は、変化の開始点から変化の終了点までに筆記対象2において変化が生じた領域(変化領域とも称する)を特定する。詳しくは、出力制御部150は、変化の開始点に対応する板書画像と変化の終了点に対応する板書画像との差分をとることで、差分のある領域を、変化領域として特定する。会議又は講義が筆記情報の追加及び消去を繰り返しながら進むことを考慮すれば、記録画像は複数枚記録され得る。この点、変化領域は、前回の記録画像から変化した領域であり、特に注目すべき領域であると言える。変化領域を特定することで、記録画像のうち注目すべき領域を特定することが可能となる。
筆記情報の変化が筆記情報の消去である場合、変化の開始点に対応する板書画像とは記録画像であり、変化の終了点に対応する板書画像とは比較対象画像である。そして、筆記対象2のうち、筆記者3による一連の筆記情報の消去動作によって筆記情報が消去された領域が、変化領域として特定される。かかる変化領域は、消去領域とも称される。
筆記情報の変化が筆記情報の追加である場合、変化の開始点に対応する板書画像とは比較対象画像であり、変化の終了点に対応する板書画像とは記録画像である。そして、筆記対象2のうち、筆記者3による一連の筆記情報の追加動作によって筆記情報が追加された領域が、変化領域として特定される。かかる変化領域は、追加領域とも称される。
具体的な変化領域の特定方法について説明する。出力制御部150は、まず、図3を参照して上記説明した比較処理と同様にして、変化画素を抽出する。即ち、出力制御部150は、変化の開始点に対応する板書画像と変化の終了点に対応する板書画像との各々に対し二値化処理を適用し、それらの差分をとることで差分画像を得て、差分画像に対しノイズ除去を行う。これにより、出力制御部150は、変化画素が抽出された差分画像を得る。次いで、出力制御部150は、差分画像に基づいて、変化領域を特定する。変化領域とは、変化画素と同一であってもよいし、異なっていてもよい。例えば、変化領域とは、変化画素を包含する任意の形状の領域であってもよい。この点について、図8を参照して説明する。
図8は、本実施形態に係る変化領域の特定の一例を説明するための図である。図8に示すように、変化の開始点に対応する板書画像と変化の終了点に対応する板書画像との比較処理により、変化画素32が抽出された差分画像30が得られたものとする。この場合、出力制御部150は、変化画素32を包含する最小の矩形34を、変化領域として特定してもよい。他にも、出力制御部150は、変化画素32を包含する最小の矩形34を、所定のオフセット分拡大した矩形36を、変化領域として特定してもよい。また、出力制御部150は、変化画素32、及び変化画素32から所定距離内の周辺の画素を、変化領域として特定してもよい。
第2の記憶部140は、記録画像と変化領域を示す情報(変化領域情報に相当)とを対応付けて記憶する。換言すると、出力制御部150は、記録画像と変化領域を示す情報とを対応付けて、第2の記憶部140に記憶させる。これにより、記録画像ごとに、特に注目すべき領域を示す情報を対応付けて記録することが可能となる。
<3.5.記録画像の出力>
出力制御部150は、記録画像を出力する。その際、出力制御部150は、記録画像に変化領域を示す情報を重畳した画像を生成し、出力してもよい。その一例を、図9〜図11を参照して説明する。
図9は、本実施形態に係る記録画像の出力例を説明するための図である。図9では、筆記情報の変化が筆記情報の消去である場合の例が示されている。消去の開始点に対応する板書画像(即ち、記録画像)40、及び消去の終了点に対応する板書画像(即ち、比較対象画像)43が得られたものとする。板書画像40は、筆記情報41、及び筆記者3が映り込んだ領域42を含む。板書画像43は、筆記情報44、及び筆記者3が映り込んだ領域45を含む。出力制御部150は、板書画像40と板書画像43とを比較することで、筆記情報41の下段を包含する最小の矩形を、所定のオフセット分拡大した矩形を、消去領域として特定する。すると、図9に示すように、出力制御部150は、板書画像40に、特定された消去領域の矩形46を重畳して、出力する。
図10は、本実施形態に係る記録画像の出力例を説明するための図である。図10では、図9に示した、消去の開始点に対応する板書画像(即ち、記録画像)40、及び消去の終了点に対応する板書画像(即ち、比較対象画像)43が得られた場合の、記録画像の他の出力例が示されている。図10に示すように、出力制御部150は、板書画像(即ち、記録画像)40のうち特定された消去領域以外の領域に、半透明の黒塗り画像47を重畳して、出力してもよい。この場合、板書画像40のうち特定された消去領域が白抜きされ強調されることとなる。
図11は、本実施形態に係る記録画像の出力例を説明するための図である。図11では、図9に示した、消去の開始点に対応する板書画像(即ち、記録画像)40、及び消去の終了点に対応する板書画像(即ち、比較対象画像)43が得られた場合の、記録画像の他の出力例が示されている。ただし、本例では、変化画素、及び変化画素から所定距離内の周辺の画素が、消去領域として特定されたものとする。図11に示すように、出力制御部150は、板書画像40(即ち、記録画像)のうち特定された消去領域(変化画素、及び変化画素から所定距離内の周辺の画素)以外の領域に、半透明の黒塗り画像48を重畳して、出力してもよい。図11に示した例では、黒塗り画像48の濃さが、変化画素に近いほど薄く、遠いほど濃くなっている。この例でも図10に示した例と同様に、板書画像40のうち特定された消去領域が白抜きされ強調されることとなる。
なお、上記では、筆記情報の変化が筆記情報の消去である場合の出力画像の例を説明したが、筆記情報の変化が筆記情報の追加である場合も、同様にして出力画像が生成される。
出力制御部150は、記録画像を静止画として出力してもよいし、加工して出力してもよい。例えば、出力制御部150は、記録画像に基づいて動画を生成して出力してもよいし、記録画像に基づいてドキュメントファイルを生成して出力してもよい。
記録画像が静止画として出力される場合、例えば、出力制御部150は、第2の記憶部140に新たな記録画像が記憶される度に、最新の記録画像を出力する。
記録画像が動画として出力される場合、出力制御部150は、例えば、第2の記憶部140に新たな記録画像が記憶される度に、最新の記録画像をストリーム形式で出力する。生成された動画は、第2の記憶部140に記憶されてもよい。出力制御部150は、動画をリアルタイムに出力してもよい。その一例を、図12を参照して説明する。図12は、本実施形態に係る記録画像の出力例を説明するための図である。図12は、講義室で講義が行われる様子が示されている。講義室の天井には、入力装置200が設置されており、講義の動画をリアルタイムで撮像している。そして、図示しない情報処理装置100により新たな記録画像が記憶される度に、最新の記録画像がストリーム形式で出力装置300A〜300Cから出力される。出力装置300A及び300Bは、講義室の天井から吊り下げられて設置されたディスプレイであり、出力装置300Cは、受講者の持つタブレット端末である。これらの出力装置300A〜300Cでは、図9を参照して説明した、消去領域の矩形46が重畳された板書画像40が出力されている。この場合、受講者は、既に消去された筆記情報をリアルタイムに確認することが可能となり、メモの取り忘れ等に起因する不利益を回避することが可能となる。
記録画像がドキュメントファイルとして出力される場合、出力制御部150は、例えば、第2の記憶部140に新たな記録画像が記憶される度に、ページを進めながら最新の記録画像を添付して、記録が終了した際に複数ページに渡る1ファイルを出力する。生成されたドキュメントファイルは、第2の記憶部140に記憶されてもよい。ドキュメントファイルは、筆記情報が必要十分にまとめられているので、講義又は会議等の振り返りを容易にすることが可能となる。
<3.6.処理の流れ>
図13は、本実施形態に係る情報処理装置100により実行される板書画像の記録処理の流れの一例を示すフローチャートである。本フローでは、筆記情報の変化が筆記情報の消去である場合の処理の流れの一例が示されている。
図13に示すように、まず、第1の記憶部120は、取得部110により取得された板書画像をバッファリングする(ステップS102)。次いで、検出部130は、板書画像の比較処理を行い、得られた差分画像に基づいて板書画像内の消去率を計算する(ステップS104)。これらのステップは、常時(例えば、後続する各ステップの間)実行されるものとする。
次に、検出部130は、消去率の時間変化に基づいて、消去の開始点を検出する(ステップS106)。消去の開始点を検出すると、第2の記憶部140は、消去の開始点に対応する板書画像を、記録画像候補として記憶する(ステップS108)。
次いで、検出部130は、消去率の時間変化に基づいて、消去の確定点を検出する(ステップS110)。消去の確定点を検出すると、第2の記憶部140は、記録画像候補を記録画像として記憶する(ステップS112)。
次に、検出部130は、消去率の時間変化に基づいて、消去の終了点を検出する(ステップS114)。消去の終了点を検出すると、出力制御部150は、記録画像に対応する消去領域を特定し、第2の記憶部140は、消去領域を記録画像に対応付けて記憶する(ステップS116)。そして、出力制御部150は、第2の記憶部140に記憶された記録画像を出力装置300に出力し、出力装置300により出力させる(ステップS118)。
<3.7.変形例>
(1)変化の開始点の他の検出方法
検出部130は、筆記対象2に筆記情報を筆記する筆記者3が筆記用具を保持する動作に基づいて、変化の開始点を検出してもよい。例えば、検出部130は、筆記者3が筆記情報を消去するための筆記用具(例えば、イレーサー)を手に持ったタイミングを、消去の開始点として検出してもよい。また、検出部130は、筆記者3が筆記情報を筆記するための筆記用具(例えば、チョーク)を手に持ったタイミングを、追加の開始点として検出してもよい。これらにより、板書画像の比較処理により変化の開始点を検出するよりも早いタイミングを変化の開始点として検出することが可能となる。その結果、より確実に消去開始前又は追加開始前の板書画像を記録することが可能となる。
なお、変化率に基づく変化の開始点の検出方法と、筆記用具を保持する動作に基づく変化の開始点の検出方法とは、組み合わされてもよい。例えば、筆記用具を保持する動作が検出され、且つ変化率の時間変化が正の勾配を示したタイミングが、変化の開始点として検出されてもよい。
(2)変化の終了点の他の検出方法
検出部130は、筆記対象2に筆記情報を筆記する筆記者3が筆記用具を放す動作に基づいて、変化の終了点を検出してもよい。例えば、検出部130は、筆記者3が筆記情報を消去するための筆記用具を置いたタイミングを、消去の終了点として検出してもよい。また、検出部130は、筆記者3が筆記情報を筆記するための筆記用具を置いたタイミングを、追加の終了点として検出してもよい。これらにより、筆記者3による一連の筆記情報の消去/追加が終わったタイミングを、変化の開始点として検出することが可能となる。従って、板書画像の記録をより効率化することが可能になり得る。
なお、変化率に基づく変化の終了点の検出方法と、筆記用具を放す動作に基づく変化の開始点の検出方法とは、組み合わされてもよい。例えば、筆記用具を放す動作が検出され、且つ変化率が第2の閾値以下になったタイミングが、変化の終了点として検出されてもよい。
(3)端末装置からのアクセス
上記では、情報処理装置100が、静止画、動画又はドキュメントファイルの形式で記録画像を出力する例を説明したが、本技術は係る例に限定されない。例えば、情報処理装置100は、記録画像を静止画、動画又はドキュメントファイルの形式で記憶しておき、PC、スマートフォン又はタブレット端末等の端末装置からアクセスを受け付けてもよい。この場合、情報処理装置100は、静止画、動画又はドキュメントファイルの形式の記録画像を、アクセスしてきた端末装置に送信する。
(4)過去データに基づく記録画像の抽出
上記では、情報処理装置100が、入力装置200により入力された画像をリアルタイムに処理することで、記録画像を抽出及び記録する例を説明したが、本技術はかかる例に限定されない。例えば、情報処理装置100は、過去に入力装置200により入力され記録された画像に基づいて、記録画像を抽出及び記録してもよい。
<<4.ハードウェア構成例>>
最後に、図14を参照して、本実施形態に係る情報処理装置のハードウェア構成について説明する。図14は、本実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。なお、図14に示す情報処理装置900は、例えば、図2に示した情報処理装置100を実現し得る。本実施形態に係る情報処理装置100による情報処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
図14に示すように、情報処理装置900は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、情報処理装置900は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911及び通信装置913を備える。情報処理装置900は、CPU901に代えて、又はこれとともに、電気回路、DSP若しくはASIC等の処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、例えば、図2に示す取得部110、検出部130及び出力制御部150を形成し得る。また、CPU901は、図2に示す第2の記憶部140の機能のうち、記録制御部としての機能を実現し得る。
CPU901、ROM902及びRAM903は、CPUバスなどを含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904および外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置906は、各種情報を検知する装置により形成され得る。例えば、入力装置906は、画像センサ(例えば、カメラ)、深度センサ(例えば、ステレオカメラ)、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、音センサ、測距センサ、力センサ等の各種のセンサを含み得る。また、入力装置906は、情報処理装置900の姿勢、移動速度等、情報処理装置900自身の状態に関する情報や、情報処理装置900の周辺の明るさや騒音等、情報処理装置900の周辺環境に関する情報を取得してもよい。また、入力装置906は、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して装置の緯度、経度及び高度を含む位置情報を測定するGNSSモジュールを含んでもよい。また、位置情報に関しては、入力装置906は、Wi−Fi(登録商標)、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知するものであってもよい。入力装置906は、例えば、図2に示す入力装置200を形成し得る。即ち、情報処理装置100は、入力装置200としての機能を有していてもよい。
出力装置907は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置、レーザープロジェクタ、LEDプロジェクタ及びランプ等の表示装置や、スピーカ及びヘッドホン等の音声出力装置や、プリンタ装置等がある。出力装置907は、例えば、情報処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、情報処理装置900が行った各種処理により得られた結果を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。出力装置907は、例えば、図2に示す出力装置300を形成し得る。即ち、情報処理装置100は、出力装置300としての機能を有していてもよい。
ストレージ装置908は、情報処理装置900の記憶部の一例として形成されたデータ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。ストレージ装置908は、例えば、図2に示す第1の記憶部120及び第2の記憶部140を形成し得る。
ドライブ909は、記憶媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)などによりデータ伝送可能な外部機器との接続口である。本実施形態では、例えば、接続ポート911に入力装置200が接続され、入力装置200により入力された板書画像が情報処理装置900に出力される。本実施形態では、例えば、接続ポート911に出力装置300が接続され、情報処理装置900により記録された記録画像が出力装置300に出力される。
通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。本実施形態では、例えば、通信装置913は、入力装置200から板書画像を受信し、出力装置300へ記録画像を送信し得る。
なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク920は、IP−VPN(Internet Protocol−Virtual Private Network)などの専用回線網を含んでもよい。
以上、本実施形態に係る情報処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
なお、上述のような本実施形態に係る情報処理装置900の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
<<5.まとめ>>
以上、図1〜図14を参照して、本開示の一実施形態について説明した。上記説明したように、本実施形態に係る情報処理装置100は、筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて筆記情報を含む筆記対象を示す板書画像を特定する。情報処理装置100は、筆記情報の変化に基づいて記録すべき板書画像を特定することで、筆記対象に筆記された筆記情報の量が最も多いタイミングの板書画像を特定し、記録することができる。また、情報処理装置100は、連続的に入力される板書画像をそのまま逐次記録するのではなく、その一部の板書画像を選択的に記録する。これにより、筆記対象に筆記された筆記情報の効率的な記録が実現される。具体的には、板書画像を記憶するストレージ容量の削減が実現される。さらには、板書画像の伝送のための伝送量の削減もが実現される。
本実施形態に係る情報処理装置100は、現時刻の板書画像を過去の板書画像と比較して変化量を計算し、かかる変化量に基づいて変化の開始点、確定点及び終了点の各々を検出する。そして、情報処理装置100は、変化の発生が確定した場合に限定して板書画像を記録する。従って、無駄な記録の発生を防止することができる。さらに、情報処理装置100は、消去の開始前又は追加の終了後の板書画像を記録するので、情報が欠落した状態で板書画像が記録されることを防止することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、記録画像は情報処理装置100に記憶されるものとして説明したが、本技術はかかる例に限定されない。情報処理装置100により記録すべき画像として特定された板書画像は、情報処理装置100から出力され、外部の記憶媒体により記憶されてもよい。
なお、本明細書において説明した各装置は、単独の装置として実現されてもよく、一部または全部が別々の装置として実現されても良い。例えば、図2に示した情報処理装置100の機能構成例のうち、第2の記憶部140及び出力制御部150が、取得部110、第1の記憶部120及び検出部130とネットワーク等で接続されたサーバ等の装置に備えられていても良い。
また、本明細書においてフローチャート及びシーケンス図を用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定する制御部、
を備える情報処理装置。
(2)
前記制御部は、前記筆記情報の変化量の時間変化に基づいて、前記筆記情報の変化が一時的な変化であるか否かを判定し、前記筆記情報の変化が一時的な変化ではないと判定した場合に、前記画像を特定する、前記(1)に記載の情報処理装置。
(3)
前記制御部は、前記変化量と第1の閾値との比較結果に基づいて、前記筆記情報の変化が一時的な変化であるか否かを判定する、前記(2)に記載の情報処理装置。
(4)
前記制御部は、前記筆記情報の前記変化量の時間変化に基づいて、前記筆記情報の変化が開始するタイミングを示す第1のタイミングを検出する、前記(3)に記載の情報処理装置。
(5)
前記制御部は、前記変化量が第2の閾値以下である場合、前記変化量の時間変化が所定の勾配を示したタイミングを、前記第1のタイミングとして検出する、前記(4)に記載の情報処理装置。
(6)
前記制御部は、前記筆記情報の変化が一時的でないと判定した後、前記変化量と第2の閾値との比較結果に基づいて、前記筆記情報の変化が終了するタイミングを示す第2のタイミングを検出する、前記(5)に記載の情報処理装置。
(7)
前記筆記情報の変化が前記筆記情報の消去である場合、
前記制御部は、前記第1のタイミングに対応する前記画像を特定する、前記(4)〜(6)のいずれか一項に記載の情報処理装置。
(8)
前記筆記情報の変化が前記筆記情報の追加である場合、
前記制御部は、前記第2のタイミングに対応する前記画像を特定する、前記(6)に記載の情報処理装置。
(9)
前記制御部は、前記画像が取得される度に前記筆記対象に筆記された前記筆記情報の変化を検出し、前記第1の閾値及び前記第2の閾値を、前記画像が取得される間隔に応じて設定する、前記(6)に記載の情報処理装置。
(10)
前記制御部は、前記筆記対象に前記筆記情報を筆記する筆記者が筆記用具を保持する動作に基づいて、前記第1のタイミングを検出する、前記(4)〜(9)のいずれか一項に記載の情報処理装置。
(11)
前記制御部は、前記筆記対象に前記筆記情報を筆記する筆記者が筆記用具を放す動作に基づいて、前記第2のタイミングを検出する、前記(6)に記載の情報処理装置。
(12)
前記制御部は、前記第1のタイミングから前記第2のタイミングまでに前記筆記対象において変化が生じた変化領域を特定する、前記(6)に記載の情報処理装置。
(13)
前記変化量は、所定時間当たりの前記筆記情報の変化量である、前記(2)〜(12)のいずれか一項に記載の情報処理装置。
(14)
前記制御部は、前記画像と前記変化領域を示す変化領域情報とを対応付ける、前記(12)又は(13)に記載の情報処理装置。
(15)
前記制御部は、特定された前記画像に前記変化領域情報を重畳した画像を出力する、前記(14)に記載の情報処理装置。
(16)
前記制御部は、特定された前記画像を記録する制御を行う、前記(1)〜(15)のいずれか一項に記載の情報処理装置。
(17)
前記制御部は、検出対象のタイミングにおける前記筆記情報を含む前記筆記対象を示す画像と、前記検出対象のタイミングの所定時間前のタイミングにおける前記筆記情報を含む前記筆記対象を示す画像とを比較することで、前記変化を検出する、前記(1)〜(16)のいずれか一項に記載の情報処理装置。
(18)
前記画像は、撮像装置により前記筆記対象が撮像された画像に基づいて取得される画像である、前記(1)〜(17)のいずれか一項に記載の情報処理装置。
(19)
筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定すること、
を含む、プロセッサにより実行される情報処理方法。
(20)
コンピュータに、
筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定することを、
実行させるためのプログラム。
1 システム
100 情報処理装置
110 取得部
120 第1の記憶部
130 検出部
140 第2の記憶部
150 出力制御部
200 入力装置
300 出力装置

Claims (20)

  1. 筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定する制御部、
    を備える情報処理装置。
  2. 前記制御部は、前記筆記情報の変化量の時間変化に基づいて、前記筆記情報の変化が一時的な変化であるか否かを判定し、前記筆記情報の変化が一時的な変化ではないと判定した場合に、前記画像を特定する、請求項1に記載の情報処理装置。
  3. 前記制御部は、前記変化量と第1の閾値との比較結果に基づいて、前記筆記情報の変化が一時的な変化であるか否かを判定する、請求項2に記載の情報処理装置。
  4. 前記制御部は、前記筆記情報の前記変化量の時間変化に基づいて、前記筆記情報の変化が開始するタイミングを示す第1のタイミングを検出する、請求項3に記載の情報処理装置。
  5. 前記制御部は、前記変化量が第2の閾値以下である場合、前記変化量の時間変化が所定の勾配を示したタイミングを、前記第1のタイミングとして検出する、請求項4に記載の情報処理装置。
  6. 前記制御部は、前記筆記情報の変化が一時的でないと判定した後、前記変化量と第2の閾値との比較結果に基づいて、前記筆記情報の変化が終了するタイミングを示す第2のタイミングを検出する、請求項5に記載の情報処理装置。
  7. 前記筆記情報の変化が前記筆記情報の消去である場合、
    前記制御部は、前記第1のタイミングに対応する前記画像を特定する、請求項4に記載の情報処理装置。
  8. 前記筆記情報の変化が前記筆記情報の追加である場合、
    前記制御部は、前記第2のタイミングに対応する前記画像を特定する、請求項6に記載の情報処理装置。
  9. 前記制御部は、前記画像が取得される度に前記筆記対象に筆記された前記筆記情報の変化を検出し、前記第1の閾値及び前記第2の閾値を、前記画像が取得される間隔に応じて設定する、請求項6に記載の情報処理装置。
  10. 前記制御部は、前記筆記対象に前記筆記情報を筆記する筆記者が筆記用具を保持する動作に基づいて、前記第1のタイミングを検出する、請求項4に記載の情報処理装置。
  11. 前記制御部は、前記筆記対象に前記筆記情報を筆記する筆記者が筆記用具を放す動作に基づいて、前記第2のタイミングを検出する、請求項6に記載の情報処理装置。
  12. 前記制御部は、前記第1のタイミングから前記第2のタイミングまでに前記筆記対象において変化が生じた変化領域を特定する、請求項6に記載の情報処理装置。
  13. 前記変化量は、所定時間当たりの前記筆記情報の変化量である、請求項2に記載の情報処理装置。
  14. 前記制御部は、前記画像と前記変化領域を示す変化領域情報とを対応付ける、請求項12に記載の情報処理装置。
  15. 前記制御部は、特定された前記画像に前記変化領域情報を重畳した画像を出力する、請求項14に記載の情報処理装置。
  16. 前記制御部は、特定された前記画像を記録する制御を行う、請求項1に記載の情報処理装置。
  17. 前記制御部は、検出対象のタイミングにおける前記筆記情報を含む前記筆記対象を示す画像と、前記検出対象のタイミングの所定時間前のタイミングにおける前記筆記情報を含む前記筆記対象を示す画像とを比較することで、前記変化を検出する、請求項1に記載の情報処理装置。
  18. 前記画像は、撮像装置により前記筆記対象が撮像された画像に基づいて取得される画像である、請求項1に記載の情報処理装置。
  19. 筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定すること、
    を含む、プロセッサにより実行される情報処理方法。
  20. コンピュータに、
    筆記対象に筆記された筆記情報の変化を検出し、検出された変化に基づいて前記筆記情報を含む前記筆記対象を示す画像を特定することを、
    実行させるためのプログラム。
JP2018107366A 2018-06-05 2018-06-05 情報処理装置、情報処理方法及びプログラム Active JP7210908B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2018107366A JP7210908B2 (ja) 2018-06-05 2018-06-05 情報処理装置、情報処理方法及びプログラム
US16/980,756 US11397506B2 (en) 2018-06-05 2018-12-06 Information processing apparatus, information processing method, and program
CN201880093955.2A CN112243505A (zh) 2018-06-05 2018-12-06 信息处理装置、信息处理方法和程序
PCT/JP2018/044859 WO2019234953A1 (en) 2018-06-05 2018-12-06 Information processing apparatus, information processing method, and program
EP18826828.8A EP3803604B1 (en) 2018-06-05 2018-12-06 Information processing apparatus, information processing method, and program
US17/845,524 US11675474B2 (en) 2018-06-05 2022-06-21 Information processing apparatus, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018107366A JP7210908B2 (ja) 2018-06-05 2018-06-05 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019212000A true JP2019212000A (ja) 2019-12-12
JP7210908B2 JP7210908B2 (ja) 2023-01-24

Family

ID=64901044

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018107366A Active JP7210908B2 (ja) 2018-06-05 2018-06-05 情報処理装置、情報処理方法及びプログラム

Country Status (5)

Country Link
US (2) US11397506B2 (ja)
EP (1) EP3803604B1 (ja)
JP (1) JP7210908B2 (ja)
CN (1) CN112243505A (ja)
WO (1) WO2019234953A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7447908B2 (ja) 2019-10-17 2024-03-12 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111290659A (zh) * 2020-01-21 2020-06-16 北京梦想加信息技术有限公司 书写板信息记录方法、系统和书写板
CN112887689A (zh) * 2021-01-21 2021-06-01 联想(北京)有限公司 一种显示方法及装置
US20220232145A1 (en) * 2021-01-21 2022-07-21 Konica Minolta Business Solutions U.S.A., Inc. Method for real time whiteboard extraction with full foreground identification
CN114867046B (zh) * 2022-07-06 2022-09-13 深圳市乙辰科技股份有限公司 无线网络设备固件更新方法和无线网络设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005125628A (ja) * 2003-10-24 2005-05-19 Fuji Photo Film Co Ltd 記録装置
JP2011123895A (ja) * 2009-12-11 2011-06-23 Sharp Corp 情報処理装置、情報処理システム、情報処理方法、情報処理プログラム及びコンピュータ読み取り可能な記録媒体
JP2015109612A (ja) * 2013-12-05 2015-06-11 キヤノン株式会社 画像音声再生システム及び画像音声再生方法とプログラム
US20170092333A1 (en) * 2015-09-29 2017-03-30 International Business Machines Corporation Method and apparatus to extract key video frames from online education
US9706168B1 (en) * 2014-10-13 2017-07-11 Surround.IO Room conferencing system with heat map annotation of documents
US20180108121A1 (en) * 2015-02-13 2018-04-19 Light Blue Optics Ltd. Timeline Image Capture Systems and Methods

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6185591B1 (en) * 1997-07-29 2001-02-06 International Business Machines Corp. Text edit system with enhanced undo user interface
US6388654B1 (en) * 1997-10-03 2002-05-14 Tegrity, Inc. Method and apparatus for processing, displaying and communicating images
US7305611B2 (en) * 2002-08-22 2007-12-04 Platform Digital Llc Authoring tool for remote experience lessons
US7111230B2 (en) * 2003-12-22 2006-09-19 Pitney Bowes Inc. System and method for annotating documents
US7916969B2 (en) * 2007-03-23 2011-03-29 Seiko Epson Corporation Varying the exposure of a digital image by region
US8334902B2 (en) * 2009-03-31 2012-12-18 Fuji Xerox Co., Ltd. System and method for facilitating the use of whiteboards
US10482777B2 (en) * 2013-02-22 2019-11-19 Fuji Xerox Co., Ltd. Systems and methods for content analysis to support navigation and annotation in expository videos
KR102130798B1 (ko) * 2014-01-13 2020-07-03 엘지전자 주식회사 이동 단말기 및 이의 제어방법
CN104853129B (zh) * 2014-02-13 2018-01-26 广东小天才科技有限公司 一种板书记录方法及系统
CN107423407B (zh) * 2017-07-27 2021-06-15 广州视源电子科技股份有限公司 教学信息记录方法、装置、终端和计算机可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005125628A (ja) * 2003-10-24 2005-05-19 Fuji Photo Film Co Ltd 記録装置
JP2011123895A (ja) * 2009-12-11 2011-06-23 Sharp Corp 情報処理装置、情報処理システム、情報処理方法、情報処理プログラム及びコンピュータ読み取り可能な記録媒体
JP2015109612A (ja) * 2013-12-05 2015-06-11 キヤノン株式会社 画像音声再生システム及び画像音声再生方法とプログラム
US9706168B1 (en) * 2014-10-13 2017-07-11 Surround.IO Room conferencing system with heat map annotation of documents
US20180108121A1 (en) * 2015-02-13 2018-04-19 Light Blue Optics Ltd. Timeline Image Capture Systems and Methods
US20170092333A1 (en) * 2015-09-29 2017-03-30 International Business Machines Corporation Method and apparatus to extract key video frames from online education

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7447908B2 (ja) 2019-10-17 2024-03-12 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
US11397506B2 (en) 2022-07-26
CN112243505A (zh) 2021-01-19
WO2019234953A1 (en) 2019-12-12
US20220326835A1 (en) 2022-10-13
US20210004136A1 (en) 2021-01-07
JP7210908B2 (ja) 2023-01-24
EP3803604A1 (en) 2021-04-14
EP3803604B1 (en) 2024-01-24
US11675474B2 (en) 2023-06-13

Similar Documents

Publication Publication Date Title
JP7210908B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2019137167A1 (zh) 相册管理方法、装置、存储介质及电子设备
CN106575361B (zh) 提供视觉声像的方法和实现该方法的电子设备
CN1897644B (zh) 用于捕捉图像的方法和系统
US10831262B2 (en) Dynamic augmented reality media creation
JP6300792B2 (ja) キャプチャされたデータの強化
KR20140060750A (ko) 전자장치에서 다초점 영상 촬영 및 저장 방법 및 장치
CN105635569B (zh) 拍摄方法、装置以及终端
CN108305512A (zh) 一种课堂电子笔记记录系统及方法
JP2014038429A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2022140458A (ja) 情報処理装置、情報処理方法、及びプログラム
KR102140865B1 (ko) 전자 서명된 문서를 생성하는 방법 및 장치
US20240078007A1 (en) Information processing apparatus, information processing method, and program
JP2009004846A (ja) 電子黒板連携授業録画システム
JP2012533922A (ja) 映像処理方法及び装置
US11889179B2 (en) Image capturing program, information processing device, and method for changing an image capturing parameter of a camera
WO2021149238A1 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP2017060178A (ja) 画像表示装置及び方法、画像生成装置及び方法、並びにプログラム
JP2011229101A (ja) 画像処理装置、画像処理システム、データ処理方法、プログラムおよび記録媒体
JP6065654B2 (ja) システム、画像投影装置、制御方法およびプログラム
KR20140141312A (ko) 디지털 카메라에서 부가 정보 획득 장치 및 방법
JP2009038516A (ja) 撮像装置及びその制御方法
JP2017158145A (ja) 画像処理装置
KR20120137973A (ko) 포토북 제작용 이미지 컨텐츠 생성 기능을 포함하는 휴대용 단말기 및 이를 이용한 포토북 제작용 이미지 컨텐츠 생성 방법

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R151 Written notification of patent or utility model registration

Ref document number: 7210908

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151