JP2019185726A - Video browsing device, control method of video browsing device, and program - Google Patents

Video browsing device, control method of video browsing device, and program Download PDF

Info

Publication number
JP2019185726A
JP2019185726A JP2018201093A JP2018201093A JP2019185726A JP 2019185726 A JP2019185726 A JP 2019185726A JP 2018201093 A JP2018201093 A JP 2018201093A JP 2018201093 A JP2018201093 A JP 2018201093A JP 2019185726 A JP2019185726 A JP 2019185726A
Authority
JP
Japan
Prior art keywords
scene
video
moving image
surgical
name
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018201093A
Other languages
Japanese (ja)
Other versions
JP2019185726A5 (en
Inventor
康弘 眞井
Yasuhiro Manai
康弘 眞井
幸一朗 森重
Koichiro Morishige
幸一朗 森重
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Milplateaux Inc
Original Assignee
Milplateaux Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Milplateaux Inc filed Critical Milplateaux Inc
Priority to JP2018201093A priority Critical patent/JP2019185726A/en
Publication of JP2019185726A publication Critical patent/JP2019185726A/en
Publication of JP2019185726A5 publication Critical patent/JP2019185726A5/ja
Pending legal-status Critical Current

Links

Abstract

To provide a video browsing device, a control method of the video browsing device, and a program that enable a user to browse optimal surgical operation videos.SOLUTION: A surgical operation video browsing device 1 includes: a video input unit 10 in which videos are input and registered in a database 200; a scene analysis unit 20 which extracts a feature amount of a scene in the registered video; a scene name assignment unit 30 which assigns a scene name to each scene and associates each scene with the scene name; a descriptive information registration unit 40 which associates a video with descriptive information described with regard to the video; and an extraction unit 50 which extracts related videos related to a video, from the database 200, on the basis of at least the scene name and the descriptive information.SELECTED DRAWING: Figure 1

Description

この発明は、動画閲覧装置、動画閲覧装置の制御方法、およびプログラムに関する。   The present invention relates to a moving image browsing device, a method for controlling a moving image browsing device, and a program.

手術動画を閲覧する技術分野において、特許文献1には、手術動画から各手技の最適な手技動画を分割してデータベースに登録し、登録されている手技動画を組み合わせて手術用のシミュレーション動画を作成する技術が開示されている。   In the technical field of viewing surgical videos, Patent Document 1 divides the optimal technique video of each technique from the surgical video and registers it in the database, and creates a simulation video for surgery by combining the registered technique videos Techniques to do this are disclosed.

特開2005−301453号公報JP 2005-301453 A

しかしながら、特許文献1のシミュレーション動画は、シミュレーション動画を作成した者の主観により各手技の最適な手技動画が選択されているため、シミュレーション動画を視聴する者にとっては必ずしも最適な手技動画を含んでいるとは限らない。   However, the simulation video of Patent Document 1 includes an optimal technique video for those who view the simulation video because the optimal technique video for each technique is selected according to the subjectivity of the person who created the simulation video. Not necessarily.

また、特許文献1のシミュレーション動画は、手技動画が編集されているため、シミュレーション動画を視聴する者が見たい部分がカットされている場合があり、無編集の動画が見たいというユーザの要望に応えることができなかった。   In addition, since the technique video is edited in the simulation video of Patent Document 1, a portion that the viewer of the simulation video wants to watch may be cut, and the user desires to watch an unedited video. I couldn't respond.

そこで、この発明の課題は、ユーザに対して最適な手術動画を閲覧させることができる動画閲覧装置、動画閲覧装置の制御方法、およびプログラムを提供することにある。   Then, the subject of this invention is providing the moving image browsing apparatus which can make a user browse the optimal operation | movement video, the control method of a moving image browsing apparatus, and a program.

本発明の動画閲覧装置の一態様は、前記課題を解決するために、
動画を入力してデータベースに登録する動画入力部と、
登録された前記動画におけるシーンの特徴量を抽出するシーン解析部と、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるシーン名付与部と、
前記動画について記述された記述情報を前記動画に紐付ける記述情報登録部と、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記動画に関連する関連動画を抽出する抽出部と、を備える、
ことを特徴とする。
In order to solve the above problems, one aspect of the video browsing apparatus of the present invention is
A video input unit for inputting a video and registering it in the database;
A scene analysis unit that extracts a feature amount of a scene in the registered moving image;
A scene name assigning unit that assigns a scene name to each scene and associates the scene name with each scene;
A description information registration unit for associating description information described for the video with the video;
An extraction unit that extracts a related moving image related to the moving image based on at least the scene name and the description information from the database;
It is characterized by that.

本態様において、「記述情報」とは、例えば、動画のタイトル、動画の説明、タグ、カテゴリー等を含む概念である。   In this aspect, “description information” is a concept including, for example, a moving image title, a moving image description, a tag, a category, and the like.

本態様によれば、入力された動画に対して、少なくともシーン名、および記述情報に基づいて、関連動画が抽出されるので、ユーザに対して最適な手術動画を閲覧させる。   According to this aspect, since the related moving image is extracted based on at least the scene name and the description information for the input moving image, the user is made to view the optimal surgical moving image.

本発明の動画閲覧装置の別の態様は、上記課題を解決するために、
手術動画を入力してデータベースに登録する動画入力部と、
登録された前記手術動画におけるシーンの特徴量を抽出するシーン解析部と、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるシーン名付与部と、
前記手術動画について記述された記述情報を前記手術動画に紐付ける記述情報登録部と、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出する抽出部と、を備える、
ことを特徴とする。
Another aspect of the moving image browsing apparatus of the present invention is to solve the above problems,
A video input unit that inputs surgical videos and registers them in the database;
A scene analysis unit that extracts a feature amount of the scene in the registered surgical video;
A scene name assigning unit that assigns a scene name to each scene and associates the scene name with each scene;
A description information registration unit for associating description information described for the surgical video with the surgical video;
An extraction unit that extracts a related moving image related to the surgical moving image based on at least the scene name and the description information from the database;
It is characterized by that.

前記別の態様において、「シーン」とは、例えば手技を含む概念であり、「シーン名」は手技名を含む概念である。また、「記述情報」とは、例えば、手術動画のタイトル、術式、手術動画の説明、タグ、カテゴリー等を含む概念である。   In another aspect, the “scene” is a concept including a procedure, for example, and the “scene name” is a concept including a procedure name. The “description information” is a concept including, for example, a title of an operation video, a technique, a description of the operation video, a tag, a category, and the like.

前記別の態様によれば、入力された手術動画に対して、少なくともシーンとしての手技動画の再生時間、閲覧履歴、およびタグに基づいて、関連動画または関連手技動画が抽出されるので、ユーザに対して最適な手術動画または手技動画を閲覧させる。   According to the another aspect, since the related video or the related technique video is extracted based on at least the playback time of the technique video as the scene, the browsing history, and the tag with respect to the input surgical video, To view the optimal surgical video or procedure video.

一実施形態の動画閲覧装置は、
前記シーン名付与部は、前記シーンの順序にしたがって予め定められた名称に基づいて前記シーン名を付与する、
ことを特徴とする。
The video browsing device of one embodiment
The scene name assigning unit assigns the scene name based on a predetermined name according to the order of the scenes.
It is characterized by that.

この実施形態の動画閲覧装置によれば、ユーザが手動でシーン名を付与しなくても、シーン名が付与されるので、ユーザにとって利便性の良い動画閲覧装置を提供する。   According to the moving image browsing apparatus of this embodiment, since the scene name is assigned even if the user does not manually assign the scene name, a moving image browsing apparatus that is convenient for the user is provided.

一実施形態の動画閲覧装置は、
前記シーン名と、前記シーンの再生時間とに基づいて、前記シーンの再生時間をグラフ表示するグラフ表示部を備え、
前記抽出部は、前記グラフ表示されたシーン名が選択された場合に、選択された前記シーン名の前記シーンと関連するシーンを含む前記関連動画を抽出する、
ことを特徴とする。
The video browsing device of one embodiment
Based on the scene name and the playback time of the scene, a graph display unit that displays the playback time of the scene in a graph,
The extraction unit extracts the related moving image including a scene related to the scene of the selected scene name when the scene name displayed in the graph is selected.
It is characterized by that.

この実施形態の動画閲覧装置によれば、グラフ表示されたシーンを選択することにより、手術動画に含まれるシーンと関連の高いシーンを含む他の手術動画を表示することができる。その結果、注目している手術動画のシーンに多くの時間がかかっている場合には、他の手術動画と見比べることにより、改善に繋がるヒントを得ることができる。   According to the moving image browsing apparatus of this embodiment, by selecting a scene displayed in a graph, it is possible to display another surgical moving image including a scene highly related to the scene included in the surgical moving image. As a result, if a scene of a surgical video that is focused on takes a lot of time, a hint that leads to improvement can be obtained by comparing it with other surgical videos.

一実施形態の動画閲覧装置は、
前記手術動画の所定の位置をマーキングするマーキング部を備え、
前記シーン解析部は、前記マーキングされた位置に基づいて前記シーンを画定する、
ことを特徴とする。
The video browsing device of one embodiment
A marking portion for marking a predetermined position of the surgical video,
The scene analysis unit defines the scene based on the marked position.
It is characterized by that.

この実施形態の動画閲覧装置によれば、ユーザによりシーンの画定を行うことができるので、ユーザのニーズに応じた手術動画の閲覧を可能とする。   According to the moving image browsing apparatus of this embodiment, since the scene can be defined by the user, it is possible to view the surgical moving image according to the user's needs.

一実施形態の動画閲覧装置は、
前記手術動画ごと、または前記シーンごとの閲覧履歴を記録する閲覧履歴記録部を備え、
前記抽出部は、少なくとも前記シーン名、前記記述情報、前記閲覧履歴、および前記手術動画の再生時間のいずれか、またはこれらの組み合わせに基づいて、前記手術動画に関連する関連動画を抽出する、ことを特徴とする。
The video browsing device of one embodiment
A browsing history recording unit that records browsing history for each surgical video or for each scene,
The extraction unit extracts a related moving image related to the surgical video based on at least one of the scene name, the description information, the browsing history, and the playback time of the surgical video, or a combination thereof. It is characterized by.

この実施形態の動画閲覧装置によれば、ユーザにとって最適な、ユーザが見るべき手術動画を閲覧させる。   According to the moving image browsing apparatus of this embodiment, a surgical moving image that is optimal for the user and to be viewed by the user is browsed.

本発明の動画閲覧装置の制御方法の一態様は、上記課題を解決するため、
動画入力部により、手術動画を入力してデータベースに登録するステップと、
シーン解析部により、登録された前記手術動画におけるシーンの特徴量を抽出するステップ、
シーン名付与部により、前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるステップと、
記述情報登録部により、前記手術動画について記述された記述情報を前記手術動画に紐付けるステップと、
抽出部により、前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出するステップと、を備える、
ことを特徴とする。
In order to solve the above problem, one aspect of the control method of the moving image browsing apparatus of the present invention,
Entering the surgical video and registering it in the database by the video input unit;
A step of extracting a feature amount of a scene in the registered surgical video by a scene analysis unit;
A step of assigning a scene name to each scene by the scene name assigning unit and associating the scene name with each scene;
A step of associating description information described about the surgical video with the surgical video by a description information registration unit;
Extracting a related moving image related to the surgical moving image based on at least the scene name and the description information from the database by the extraction unit;
It is characterized by that.

本態様によれば、入力された動画に対して、少なくともシーン名、および記述情報に基づいて、関連動画が抽出されるので、ユーザに対して最適な手術動画を閲覧させる。   According to this aspect, since the related moving image is extracted based on at least the scene name and the description information for the input moving image, the user is made to view the optimal surgical moving image.

本発明のプログラムの一態様は、上記課題を解決するため、
動画閲覧装置におけるプログラムであって、前記プログラムは、コンピュータに、
手術動画を入力してデータベースに登録するステップと、
登録された前記手術動画におけるシーンの特徴量を抽出するステップ、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるステップと、
前記手術動画について記述された記述情報を前記手術動画に紐付けるステップと、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出するステップと、を実行させる、
ことを特徴とする。
In order to solve the above problems, one aspect of the program of the present invention is
A program in a video browsing device, the program being stored in a computer,
Entering surgical videos and registering them in the database;
Extracting a feature amount of a scene in the registered surgical video;
Assigning a scene name to each scene and associating the scene name with each scene;
Linking the description information described about the surgical video to the surgical video;
Extracting a related video associated with the surgical video based on at least the scene name and the description information from the database;
It is characterized by that.

本態様によれば、入力された動画に対して、少なくともシーン名、および記述情報に基づいて、関連動画が抽出されるので、ユーザに対して最適な手術動画を閲覧させる。   According to this aspect, since the related moving image is extracted based on at least the scene name and the description information for the input moving image, the user is made to view the optimal surgical moving image.

以上より明らかなように、本発明の動画閲覧装置、動画閲覧装置の制御方法、およびプログラムによれば、ユーザに対して最適な手術動画を閲覧させることができる。また、死蔵されていた動画があった場合でも、本発明の動画閲覧装置、動画閲覧装置の制御方法、およびプログラムにおいて、これらの動画をデータベースに登録することにより、これらの動画を有効に活用することができる。   As is clear from the above, according to the moving image browsing apparatus, the control method of the moving image browsing apparatus, and the program of the present invention, it is possible to allow the user to view an optimal surgical moving image. Further, even when there are videos that have been stored, in the video browsing device of the present invention, the control method of the video browsing device, and the program, by registering these videos in the database, these videos can be used effectively. be able to.

本発明の第1実施形態における手術動画閲覧装置の構成を示すブロック図である。It is a block diagram which shows the structure of the surgery moving image browsing apparatus in 1st Embodiment of this invention. 手術動画等を管理するためのデータ構造の一例を示す図である。It is a figure which shows an example of the data structure for managing a surgery moving image etc. 手術動画閲覧画面の一例を示す図である。It is a figure which shows an example of a surgery moving image browsing screen. グラフ表示モードで表示されたグラフの表示例を説明するための図である。It is a figure for demonstrating the example of a display of the graph displayed by the graph display mode. 関連動画選択画面の表示例を示す図である。It is a figure which shows the example of a display of a related moving image selection screen. 比較再生の際における手術動画閲覧画面の表示例を示す図である。It is a figure which shows the example of a display of the surgery moving image browsing screen in the case of a comparison reproduction. 手術動画閲覧装置の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of a surgery moving image browsing apparatus. 手術動画閲覧装置の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of a surgery moving image browsing apparatus.

以下、この発明の実施の形態を、図面を参照しながら詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

(第1実施形態)
本発明の第1実施形態の手術動画閲覧装置1について、図1を参照しつつ説明する。
(First embodiment)
A surgical video browsing apparatus 1 according to a first embodiment of the present invention will be described with reference to FIG.

(手術動画閲覧装置の概要)
図1は、本実施形態における手術動画閲覧装置の構成を示すブロック図である。図1に示すように、手術動画閲覧装置1は、動画入力部10と、手技解析部20と、手技名付与部30と、記述情報登録部40と、抽出部50と、閲覧履歴記録部60と、表示制御部70と、データ格納部80と、表示部90と、操作部100と、記憶部110とを備える。また、手術動画閲覧装置1は、外部のデータベース200と、例えばインターネットを介して通信可能になっている。
(Overview of surgical video viewing device)
FIG. 1 is a block diagram illustrating a configuration of the surgical moving image browsing apparatus according to the present embodiment. As shown in FIG. 1, the surgical video browsing apparatus 1 includes a video input unit 10, a technique analysis unit 20, a technique name assignment unit 30, a description information registration unit 40, an extraction unit 50, and a browsing history recording unit 60. A display control unit 70, a data storage unit 80, a display unit 90, an operation unit 100, and a storage unit 110. In addition, the surgical moving image browsing apparatus 1 can communicate with an external database 200 via, for example, the Internet.

動画入力部10は、手術動画を入力する。ユーザが所定のフォルダに手術動画を格納するか、動画登録画面の所定の領域に手術動画をドラッグ・アンド・ドロップすることにより、動画入力部10は、この手術動画を入力し、データベース200に登録する。また、動画入力部10は、動画登録画面において、登録ボタンがクリックされた際にファイルダイアログを表示させ、ファイルダイアログにおいて手術動画のファイルが選択された際に、選択された手術動画のファイルを入力し、データベース200に登録してもよい。   The video input unit 10 inputs a surgical video. When the user stores the surgical video in a predetermined folder or drags and drops the surgical video to a predetermined area on the video registration screen, the video input unit 10 inputs the surgical video and registers it in the database 200. To do. The video input unit 10 displays a file dialog when the registration button is clicked on the video registration screen, and inputs the selected surgical video file when a surgical video file is selected in the file dialog. It may be registered in the database 200.

シーン解析部としての手技解析部20は、登録された手術動画におけるシーンである手技の解析を行う。手技解析部20は、ヒストグラム解析回路と、エッジ抽出回路とを備える。ヒストグラム解析回路は、手術動画におけるR,G,B色成分画像の画素ヒストグラムを算出することにより画像の特徴量を抽出する。エッジ抽出回路は、画像のエッジを抽出することにより画像の特徴量を抽出する。手技解析部20は、抽出した特徴量に応じて、手術動画をいくつかの手技ごとに画定する。また、手技を画定することにより、各手技による処置時間も判明するので、手技解析部20は、手技と処置時間とを紐付けてデータベース200に記憶させる。   A procedure analysis unit 20 as a scene analysis unit analyzes a procedure that is a scene in a registered surgical moving image. The technique analysis unit 20 includes a histogram analysis circuit and an edge extraction circuit. The histogram analysis circuit extracts a feature amount of an image by calculating a pixel histogram of R, G, and B color component images in a surgical moving image. The edge extraction circuit extracts the feature amount of the image by extracting the edge of the image. The technique analysis unit 20 defines a surgical moving image for each of several techniques according to the extracted feature amount. Moreover, since the procedure time is determined by defining the procedure, the procedure analysis unit 20 stores the procedure and the procedure time in the database 200 in association with each other.

シーン名付与部としての手技名付与部30は、画定された手技のそれぞれに手技名を付与する。手技は、術前準備、切開、剥離、摘除、術後処理のように、手術の種類、術式によってその順序がある程度決まっているため、各手技に対応する手技名を予め定めておく。手技名付与部30によって付与された手技名は、ユーザが操作部100により修正するようにしてもよい。動画登録画面において、登録した手術動画を見ながら、各手技に手技名を選択または入力するようにしてもよい。   A technique name assigning unit 30 as a scene name assigning part assigns a technique name to each of the defined techniques. Since the order of procedures is determined to some extent depending on the type and procedure of surgery, such as pre-operative preparation, incision, separation, resection, and post-operative processing, a procedure name corresponding to each procedure is determined in advance. The technique name given by the technique name giving unit 30 may be corrected by the user using the operation unit 100. On the movie registration screen, a procedure name may be selected or input for each procedure while viewing the registered surgical movie.

手技名付与部30は、手術動画の画像におけるエッジ部分や、処置具の先端部分を抽出した画像部分が、予め登録された画像の特徴的な動きのパターンに該当するか否かにより、各手技にどの手技名を付けるかを機械学習により学習するようにしてもよい。この場合、比較の対象となる画像は、データベース200に格納された手術動画の画像を用いればよい。   The procedure name assigning unit 30 determines whether each procedure depends on whether the edge portion in the image of the operation movie or the image portion obtained by extracting the distal end portion of the treatment tool corresponds to the characteristic movement pattern of the pre-registered image. You may make it learn by machine learning which technique name is attached to. In this case, an operation moving image stored in the database 200 may be used as an image to be compared.

記述情報登録部40は、手術動画について記述された記述情報を前記手術動画に紐付け、データベース200に登録する。記述情報には、例えば、動画のタイトル、手術のカテゴリー、診断名や術式名等の手術情報、患者情報、手術の説明、およびタグ等が含まれる。本実施形態においては、図示を省略するが、動画登録画面に記述情報の入力が表示されるようになっており、ユーザが記述情報の入力を行う。   The description information registration unit 40 associates the description information described about the surgical video with the surgical video and registers it in the database 200. The description information includes, for example, a moving image title, an operation category, operation information such as a diagnosis name and an operation name, patient information, an operation description, and a tag. In the present embodiment, although illustration is omitted, description information input is displayed on the moving image registration screen, and the user inputs description information.

閲覧履歴記録部60は、手術動画の閲覧履歴、および手術動画における手技ごとの閲覧履歴を記録する。手術動画は、データベース200に格納された後は、ユーザによって閲覧が可能となるが、閲覧履歴記録部60は、手術動画および手技ごとに閲覧履歴を手術動画および手技と紐付けてデータベース200に記録する。   The browsing history recording unit 60 records the browsing history of the surgical video and the browsing history for each procedure in the surgical video. After the operation video is stored in the database 200, it can be browsed by the user. However, the browsing history recording unit 60 records the browsing history for each surgery video and procedure in the database 200 in association with the surgery video and procedure. To do.

抽出部50は、シーン名、記述情報、閲覧履歴、および手術動画の再生時間のいずれか、またはこれらの組み合わせに基づいて、データベース200から、登録された手術動画に関連する手術動画を関連動画として抽出する。また、抽出部50は、ユーザにより手技が指定された場合には、タグ、および閲覧履歴等に基づいて、データベース200から、指定された手技に関連する手技を含む手術動画を関連動画として抽出する。   The extraction unit 50 uses, as a related video, a surgical video related to a registered surgical video from the database 200 based on any one of a scene name, description information, a browsing history, and a playback time of the surgical video, or a combination thereof. Extract. Further, when a technique is designated by the user, the extraction unit 50 extracts a surgical video including a technique related to the designated technique from the database 200 based on the tag, the browsing history, and the like as a related video. .

表示制御部70は、登録された手術動画、記述情報、手技に対応するグラフも関連動画等を表示部90の画面上に表示させる。グラフは、例えば後述するように、表示部90に表示された手術動画に含まれる手技ごとに、処置時間を示したグラフであり、手術動画の下に表示される表示モードと、手術動画の右側に表示される表示モードとがある。表示制御部70は、グラフ表示部として機能する。   The display control unit 70 displays a registered operation video, description information, a graph corresponding to the procedure, a related video, and the like on the screen of the display unit 90. The graph is a graph showing the treatment time for each procedure included in the surgery video displayed on the display unit 90, as will be described later, for example, and the display mode displayed below the surgery video and the right side of the surgery video Display modes. The display control unit 70 functions as a graph display unit.

データ格納部80は、登録された手術動画、記述情報、画定された手技の手技名、各手技の処置時間、および閲覧履歴等を、手術動画に紐付けてデータベース200に格納する。   The data storage unit 80 stores the registered surgical video, description information, procedure name of the defined procedure, treatment time of each procedure, browsing history, and the like in the database 200 in association with the surgical movie.

表示部90は、例えば、液晶ディスプレイまたは有機ELディスプレイ等のディスプレイである。操作部100は、例えば、キーボード、マウス等のデバイスである。記憶部110は、例えば、ハードディスクドライブまたは半導体素子メモリを使用したソリッドステートドライブである。記憶部110には、本発明のプログラムが格納される。   The display unit 90 is a display such as a liquid crystal display or an organic EL display, for example. The operation unit 100 is a device such as a keyboard and a mouse, for example. The storage unit 110 is, for example, a hard disk drive or a solid state drive using a semiconductor element memory. The storage unit 110 stores the program of the present invention.

(データ構造)
次に、本実施形態で用いられる手術動画等を管理するためにデータ構造について、図2を参照しつつ説明する。図2は、本実施形態で用いられる手術動画等を管理するためのデータ構造の一例を示す図である。
(data structure)
Next, a data structure for managing a surgical video and the like used in the present embodiment will be described with reference to FIG. FIG. 2 is a diagram illustrating an example of a data structure for managing a surgical moving image or the like used in the present embodiment.

図2に示すように、手術動画管理テーブルTBL1は、手術動画ID欄300、日付欄301、タイトル欄302、執刀者ID欄303、手術動画の閲覧履歴欄304、手技動画ID欄305、区切り欄306、手技名欄307、処置時間欄308、手技の閲覧履歴欄309、およびその他欄310を備えている。   As shown in FIG. 2, the surgical video management table TBL1 includes a surgical video ID column 300, a date column 301, a title column 302, a surgeon ID column 303, a surgical video browsing history column 304, a procedure video ID column 305, and a separation column. 306, a procedure name column 307, a treatment time column 308, a procedure browsing history column 309, and an other column 310 are provided.

手術動画ID欄300には、データベース200に格納される手術動画に対して一意に定められる手術動画IDが格納される。図示を省略するが、手術動画データは、手術動画IDと紐付けられて、データベース200に格納される。したがって、手術動画管理テーブルTBL1の手術動画ID欄300から、手術動画IDを読み出すことにより、手術動画IDに対応した手術動画データにアクセスすることができる。   In the operation video ID column 300, an operation video ID uniquely determined for the operation video stored in the database 200 is stored. Although illustration is omitted, the surgical video data is stored in the database 200 in association with the surgical video ID. Therefore, by reading the operation video ID from the operation video ID column 300 of the operation video management table TBL1, it is possible to access the operation video data corresponding to the operation video ID.

日付欄301には、手術動画をデータベース200に格納した日付が格納される。タイトル欄302には、ユーザが付けた手術動画のタイトルが格納される。執刀者ID欄303には、手術動画に係る手術を執刀した執刀者IDが格納される。執刀者IDは、予め定められており、例えば、本実施形態の手術動画閲覧装置1にログインする際に入力された執刀者IDをこの欄に格納すればよい。手術動画の閲覧履歴欄304には、手術動画の閲覧履歴が格納される。閲覧履歴には、例えば、アクセスログがユーザごとに格納される。   The date column 301 stores the date on which the surgical video is stored in the database 200. The title column 302 stores the title of the surgical video attached by the user. The surgeon ID column 303 stores the ID of the surgeon who performed the surgery related to the surgery video. The surgeon ID is determined in advance, and for example, the surgeon ID input when logging into the surgical video browsing apparatus 1 of the present embodiment may be stored in this field. The operation movie browsing history column 304 stores the operation movie browsing history. In the browsing history, for example, an access log is stored for each user.

手技動画ID欄305には、手術動画に対して一意に定められる手術動画IDが格納される。1つの手術動画には、複数の手術動画が含まれるため、手技動画ID欄305は、1つの手術動画に対して複数設けられている。   The procedure video ID column 305 stores a surgical video ID uniquely determined for a surgical video. Since one surgical video includes a plurality of surgical videos, a plurality of procedure video ID columns 305 are provided for one surgical video.

区切り欄306には、1つの手技として画定された区切り、例えば、時間的な区切りが格納される。時間的な区切りとしては、手術動画を先頭から再生した場合の経過時間が、手技の開始と終わりについて格納される。手術動画IDに基づいて手術動画データにアクセスし、区切り欄306に格納された手技の開始と終わりの時間に基づいて該当期間の手術動画データにアクセスすることにより、ユーザにより選択された手技の再生位置をシークすることができる。   The separation column 306 stores a separation defined as one procedure, for example, a temporal separation. As the time interval, the elapsed time when the surgery video is played from the beginning is stored for the start and end of the procedure. Retrieval of the procedure selected by the user by accessing the operation movie data based on the operation movie ID and accessing the operation movie data of the corresponding period based on the start and end times of the procedure stored in the section 306 You can seek the position.

手技名欄307には、それぞれの手技について付与された手技名がテキストデータで格納される。処置時間欄308には、それぞれの手技の処置時間が格納される。手技動画の閲覧履歴欄309には、手技動画ごとの閲覧履歴、例えば閲覧回数が格納される。その他欄310には、例えば、ユーザによって入力されたタグ、手術動画のカテゴリー、手術動画の撮影アングル、使用器具等の情報が格納される。   In the procedure name column 307, the procedure name assigned to each procedure is stored as text data. The treatment time column 308 stores the treatment time for each procedure. The technique video browsing history column 309 stores a browsing history for each technique video, for example, the number of browsing times. The other field 310 stores information such as a tag input by the user, a category of a surgical video, a shooting angle of a surgical video, and a tool used.

以上のような手術動画管理テーブルTBL1は、データベース200に格納してもよいし、手術動画閲覧装置1の記憶部110に格納してもよい。データベース200は手術動画閲覧装置1内に設けてもよい。   The surgical video management table TBL1 as described above may be stored in the database 200 or in the storage unit 110 of the surgical video viewer 1. The database 200 may be provided in the surgical video browsing apparatus 1.

(表示例)
次に、本実施形態の手術動画閲覧装置1の表示部90における手術動画閲覧画面の一例について図3を参照しつつ説明する。図3は、手術動画閲覧画面の一例を示す図である。
(Display example)
Next, an example of a surgical video browsing screen on the display unit 90 of the surgical video browsing device 1 of the present embodiment will be described with reference to FIG. FIG. 3 is a diagram illustrating an example of a surgical video browsing screen.

図3に示すように、手術動画閲覧画面400は、手術動画表示部401と、グラフ表示部403と、表示モード切替ボタン404と、動画タイトル表示部405と、基本設定ボタン406と、手技設定ボタン407と、カテゴリーおよびタグ表示部408とを備えている。また、手術動画閲覧画面400は、ユーザ名およびグループ表示部409と、投稿日表示両部410と、閲覧回数表示部411と、診断名表示部412と、術式名表示部413と、患者情報表示部414と、手術説明表示部415と、関連動画リスト表示部416とを備えている。   As shown in FIG. 3, the surgical video browsing screen 400 includes a surgical video display unit 401, a graph display unit 403, a display mode switching button 404, a video title display unit 405, a basic setting button 406, and a technique setting button. 407 and a category and tag display unit 408. The operation video browsing screen 400 includes a user name and group display unit 409, a posting date display unit 410, a browsing count display unit 411, a diagnosis name display unit 412, a surgical procedure name display unit 413, and patient information. A display unit 414, an operation explanation display unit 415, and a related video list display unit 416 are provided.

手術動画表示部401には、登録した手術動画が表示される。図3に示す状態では表示されていないが、手術動画を再生すると、手術動画の下方には操作表示部が表示される。操作表示部には、再生ボタン、停止ボタン、音量調整バー、スライダーバーなどの動画を操作するための操作ボタンが表示される。   The surgical video display unit 401 displays the registered surgical video. Although not displayed in the state shown in FIG. 3, when a surgical moving image is reproduced, an operation display unit is displayed below the surgical moving image. In the operation display section, operation buttons for operating a moving image such as a play button, a stop button, a volume adjustment bar, and a slider bar are displayed.

グラフ表示部403は、所謂、積み上げ横棒グラフが表示される。グラフは、手技ごとに区切られており、各横棒には、手技名が表示される。また、グラフ表示部403には、各手技の開始時間が表示される。最後の手技には終了時間が表示される。   The graph display unit 403 displays a so-called stacked horizontal bar graph. The graph is divided for each procedure, and the name of the procedure is displayed on each horizontal bar. The graph display unit 403 displays the start time of each procedure. The last time is displayed in the last procedure.

グラフ表示部403に表示された積み上げ横棒グラフの各横棒を選択することにより、図3に示すように吹き出し417がポップアップ表示され、選択した手技へのシークと、選択した手技に関連する手技を含む関連動画リストの表示が可能となっている。図3に示す例では、「手技にシーク」を選択すると選択した手技へのシークが行われ、「関連手術」を選択すると関連動画リストが表示される。   By selecting each horizontal bar of the stacked horizontal bar graph displayed in the graph display unit 403, a balloon 417 pops up as shown in FIG. 3, and a seek to the selected procedure and a procedure related to the selected procedure are displayed. It is possible to display a list of related videos including it. In the example shown in FIG. 3, when “seek to procedure” is selected, the selected procedure is sought, and when “related surgery” is selected, a related moving image list is displayed.

グラフ表示部403の右下には、表示モード切替ボタン404が設けられており、表示モード切替ボタン404を選択することにより、タイムライン表示モードと、グラフ表示モードとに切り替えられる。図3に示す手術動画閲覧画面400は、タイムライン表示モードにおける表示例を示している。グラフ表示モードを選択した場合には、図4に示すように、手術動画閲覧画面400は、グラフ表示モードで表示され、グラフ表示部403は、縦棒グラフが表示される。縦棒グラフは、積み上げ横棒グラフの各手技を縦棒で表したものである。縦棒グラフの場合、縦軸には各手技の処置時間が表示され、横軸には各手技名が表示される。縦棒グラフの場合も、横棒グラフの各縦棒を選択することにより、図4に示すように吹き出し417がポップアップ表示され、選択した手技へのシークと、選択した手技に関連する手技を含む関連動画リストの表示が可能となっている。   A display mode switching button 404 is provided at the lower right of the graph display unit 403. By selecting the display mode switching button 404, the display mode can be switched between the timeline display mode and the graph display mode. The surgical video browsing screen 400 shown in FIG. 3 shows a display example in the timeline display mode. When the graph display mode is selected, as shown in FIG. 4, the operation moving image browsing screen 400 is displayed in the graph display mode, and the graph display unit 403 displays a vertical bar graph. The vertical bar graph represents each technique of the stacked horizontal bar graph as a vertical bar. In the case of a vertical bar graph, the treatment time for each procedure is displayed on the vertical axis, and the name of each procedure is displayed on the horizontal axis. Also in the case of a vertical bar graph, by selecting each vertical bar of the horizontal bar graph, a balloon 417 pops up as shown in FIG. 4, and a related video including a seek to the selected procedure and a procedure related to the selected procedure is displayed. The list can be displayed.

ユーザは、グラフ表示部403に表示されるグラフにより、各手技の処置時間を一目で把握することができ、時間がかかっている手技が適正であるかどうかの見直しを行うことができる。   The user can grasp the treatment time of each procedure at a glance from the graph displayed on the graph display unit 403, and can review whether or not the procedure that takes time is appropriate.

動画タイトル表示部405には、ユーザが入力した動画タイトルが表示される。動画タイトル表示部405の右側には、基本設定ボタン406と、手技設定ボタン407とが表示される。基本設定ボタン406を選択すると、動画タイトルを含む記述情報の入力画面が表示され、記述情報の修正、追加等を行うことができる。手技設定ボタン407を選択すると、手技設定が表示され、ユーザが、各手技の区切りの位置を入力し、また、各手技名を選択または入力を行うことができる。   The moving image title display unit 405 displays the moving image title input by the user. On the right side of the moving image title display portion 405, a basic setting button 406 and a technique setting button 407 are displayed. When the basic setting button 406 is selected, a description information input screen including a moving image title is displayed, and the description information can be corrected and added. When the procedure setting button 407 is selected, procedure settings are displayed, and the user can input the position of each procedure and select or input the procedure name.

図3に示す手術動画閲覧画面400は、手術動画を登録したユーザが閲覧する手術動画閲覧画面であり、ユーザによる記述情報および手技名等の修正を可能とするために、基本設定ボタン406と、手技設定ボタン407とが表示される。手術動画閲覧画面400は、手術動画を登録したユーザ以外の他のユーザも閲覧可能であり、他のユーザが閲覧する手術動画閲覧画面400には、基本設定ボタン406および手技設定ボタン407は表示されない。但し、他のユーザであっても、アクセス権限のあるユーザが閲覧する手術動画閲覧画面400には、基本設定ボタン406および手技設定ボタン407を表示するようにしてもよい。   A surgical video browsing screen 400 shown in FIG. 3 is a surgical video browsing screen browsed by a user who has registered a surgical video. In order to enable correction of description information, a technique name, and the like by the user, a basic setting button 406, A procedure setting button 407 is displayed. The surgical video browsing screen 400 can be browsed by other users other than the user who registered the surgical video, and the basic setting button 406 and the technique setting button 407 are not displayed on the surgical video browsing screen 400 browsed by other users. . However, even if it is another user, the basic setting button 406 and the procedure setting button 407 may be displayed on the surgical moving image browsing screen 400 that is browsed by a user having access authority.

カテゴリーおよびタグ表示部408には、ユーザが入力したカテゴリー、およびタグが表示される。ユーザ名およびグループ表示部409には、ユーザ名と、ユーザが所属するグループ名が表示される。ユーザ名は、例えば、本実施形態の手術動画閲覧装置1にログインする際に入力されたユーザ名、またはログイン情報として予め記憶されているユーザ名を用いればよい。グループ名は、動画登録画面、または、基本設定ボタン406を選択した際に表示される記述情報の入力画面において選択される。投稿日表示両部410には、手術動画が投稿された投稿日が表示される。閲覧回数表示部411には、手術動画の閲覧回数が表示される。   The category and tag display unit 408 displays the category and tag input by the user. The user name and group display unit 409 displays the user name and the group name to which the user belongs. As the user name, for example, a user name input when logging in to the surgical video browsing apparatus 1 of the present embodiment or a user name stored in advance as login information may be used. The group name is selected on the moving image registration screen or the description information input screen displayed when the basic setting button 406 is selected. The posting date display section 410 displays the posting date on which the surgical video is posted. The browsing frequency display section 411 displays the browsing frequency of the surgical video.

診断名表示部412には、ユーザが入力した診断名が表示される。術式名表示部413には、ユーザが入力した術式名が表示される。患者情報表示部414には、ユーザが入力した手術日、性別、術者、年齢、患者ID等の患者情報が表示される。手術説明表示部415には、ユーザが入力した手術についての説明が入力される。これらの診断名、術式名、患者情報、および手術説明を含む記述情報は、動画登録画面、または、基本設定ボタン406を選択した際に表示される記述情報の入力画面において、ユーザによる入力が可能となっている。   The diagnosis name display unit 412 displays the diagnosis name input by the user. The technique name display unit 413 displays the technique name input by the user. The patient information display unit 414 displays patient information such as the operation date, sex, operator, age, patient ID, and the like input by the user. The explanation about the surgery input by the user is input to the surgery description display unit 415. The description information including the diagnosis name, surgical procedure name, patient information, and operation description is input by the user on the movie registration screen or the description information input screen displayed when the basic setting button 406 is selected. It is possible.

関連動画リスト表示部416には、手術動画表示部401に表示される手術動画に関連する関連動画がリスト表示される。関連動画の抽出は、動画タイトル、術式名、カテゴリー、手術の説明等の記述情報、閲覧回数、およびシーン名等の情報を適宜利用して行われる。抽出部50による関連動画の抽出は、機械学習によって学習され最適化が図られる。   The related video list display unit 416 displays a list of related videos related to the surgical video displayed on the surgical video display unit 401. Extraction of related moving images is performed by appropriately using information such as moving image titles, technique names, categories, description information such as surgery descriptions, the number of browsing times, and scene names. The extraction of the related moving image by the extraction unit 50 is learned and optimized by machine learning.

関連動画リスト表示部416に表示された関連動画は選択可能となっており、いずれかの関連動画が選択されると、選択された関連動画が手術動画表示部401に表示される。   The related video displayed on the related video list display unit 416 can be selected. When any related video is selected, the selected related video is displayed on the surgery video display unit 401.

関連動画リスト表示部416に表示される関連動画は、例えば、閲覧回数が多い順に並べて表示してもよいし、総再生時間が短い順に並べて表示してもよいが、これには限定されない。   For example, the related moving images displayed on the related moving image list display unit 416 may be displayed side by side in descending order of the number of browsing times, or may be displayed in order from the shortest total playback time, but is not limited thereto.

次に、比較再生の際における手術動画閲覧画面400の表示例について説明する。図3に示すグラフ表示部403に表示された積み上げ横棒グラフの手技、または、図4に示すグラフ表示部403に表示された縦棒グラフの手技を選択し、吹き出し417を表示させた状態で、「関連手術」を選択すると、図5に示すように、関連動画選択画面420が表示される。   Next, a display example of the surgery video browsing screen 400 at the time of comparative reproduction will be described. With the stacked bar chart procedure displayed on the graph display unit 403 shown in FIG. 3 or the vertical bar chart procedure displayed on the graph display unit 403 shown in FIG. When “Related Surgery” is selected, a related video selection screen 420 is displayed as shown in FIG.

関連動画選択画面420に表示される関連動画は、ユーザがグラフにおいて選択した手技に関連する手技を含む手術動画が、抽出部50によって抽出される。関連する手技の抽出には、手技名、手術動画のカテゴリー、手技の処置時間等が参照される。図5に示すように、関連動画選択画面420に表示される関連動画のサムネイルの右側には、動画ページボタン421と、比較再生ボタン422とが表示される。動画ページボタン421を選択した場合には、関連動画が手術動画表示部401に表示される。一方、比較再生ボタン422が選択された場合には、図6に示すように、手術動画表示部401の右側に関連動画が表示される。図6は、手術動画423と関連動画424を並べて表示する比較再生時の表示例を示す図である。   The related moving image displayed on the related moving image selection screen 420 is extracted by the extraction unit 50 as a surgical moving image including a procedure related to the procedure selected by the user in the graph. For extraction of related procedures, a procedure name, a category of a surgical moving image, a procedure time of the procedure, and the like are referred to. As shown in FIG. 5, a video page button 421 and a comparison playback button 422 are displayed on the right side of the thumbnail of the related video displayed on the related video selection screen 420. When the movie page button 421 is selected, a related movie is displayed on the surgery movie display unit 401. On the other hand, when the comparison playback button 422 is selected, a related video is displayed on the right side of the surgical video display unit 401 as shown in FIG. FIG. 6 is a diagram illustrating a display example at the time of comparative reproduction in which the operation video 423 and the related video 424 are displayed side by side.

図6に示す比較再生時における手術動画423と関連動画424は、選択された手技の位置までシークが行われ、選択された手技の位置から比較再生が可能となっている。   The operation moving image 423 and the related moving image 424 at the time of comparative reproduction shown in FIG. 6 are seeked to the position of the selected procedure, and can be compared and reproduced from the position of the selected procedure.

この比較再生により、ユーザは、注目している手術動画の手技と、他の手術動画の手技のうち、関連性の深い手技を含む関連動画を比較することができる。その結果、注目している手術動画の手技に多くの時間がかかっている場合には、他の手技動画と見比べることにより、改善に繋がるヒントを得ることができる。   By this comparative reproduction, the user can compare the technique of the surgical moving image of interest and the related moving image including the highly related technique among the techniques of other surgical moving images. As a result, when the procedure of the surgical video of interest takes a long time, a hint that leads to improvement can be obtained by comparing with the other video of the procedure.

また、関連動画選択画面420に表示する関連動画の抽出の際には、ユーザの手技の処置時間よりも短い処置時間の手技を含む関連動画を抽出することもできる。このような抽出を行うことにより、ユーザは、自分の手技よりも優れた手技を映像中に含む関連動画を閲覧することができる。したがって、ユーザは、自分の手技の欠点や改善点に気付き易くなり、優れた手技を学ぼうとする動機付けにもなり、学習効果も向上する。   In addition, when extracting a related video to be displayed on the related video selection screen 420, a related video including a procedure with a treatment time shorter than the procedure time of the user's procedure can be extracted. By performing such extraction, the user can view related videos that include a technique superior to his / her technique in the video. Therefore, the user is easily aware of the shortcomings and improvement points of his / her technique, is motivated to learn an excellent technique, and the learning effect is improved.

(処理手順)
次に、本実施形態の手術動画閲覧装置1における処理手順について、図7および図8のフローチャートを参照しつつ説明する。図7および図8は、本実施形態に係る手術動画閲覧装置1の処理手順を示すフローチャートである。
(Processing procedure)
Next, a processing procedure in the surgical video browsing apparatus 1 of the present embodiment will be described with reference to the flowcharts of FIGS. 7 and 8 are flowcharts showing the processing procedure of the surgical moving image browsing apparatus 1 according to this embodiment.

まず、ユーザが手術動画を登録すると、動画入力部10は、登録された手術動画を入力してデータベース200に格納する(S10)。ユーザが、手術動画を登録する際に、動画登録画面において、動画のタイトル、術式名、または手術についての説明等の記述情報を操作部100により入力すると、記述情報登録部40は、手術動画と記述情報とを紐付けて、データベース200に格納する。   First, when a user registers a surgical video, the video input unit 10 inputs the registered surgical video and stores it in the database 200 (S10). When a user registers a surgical video, when the description information such as the title of the video, the name of the surgical procedure, or a description of the surgery is input on the operation unit 100 on the video registration screen, the description information registration unit 40 Are stored in the database 200 in association with the description information.

次に、手技解析部20は、登録された手術動画の特徴量を抽出し、手術動画から手技を画定する(S20)。また、手技解析部20は、画定した手技について処置時間を算出し(S30)、手技と処置時間とを紐付けてデータベース200に格納する。   Next, the technique analysis unit 20 extracts the feature amount of the registered surgical moving image, and demarcates the technique from the surgical moving image (S20). In addition, the technique analysis unit 20 calculates a treatment time for the defined technique (S30), associates the technique with the treatment time, and stores them in the database 200.

手技名付与部30は、画定された手技の手技名を付与し、手技名を手技と紐付けてデータベース200に格納する(S40)。   The procedure name assigning unit 30 assigns a procedure name of the defined procedure, associates the procedure name with the procedure, and stores it in the database 200 (S40).

表示制御部70は、入力された手術動画、記述情報、関連動画、およびグラフを図3のように表示部90の手術動画閲覧画面400に表示させる(S50)。   The display control unit 70 displays the input operation video, description information, related video, and graph on the operation video browsing screen 400 of the display unit 90 as shown in FIG. 3 (S50).

以上のように手術動画閲覧画面400に手術動画およびグラフが表示された状態で、ユーザにより所定の操作が行われると、操作に応じた処理が行われる。図8は、手技、術式名、または関連動画の選択が行われた場合の処理を示すフローチャートである。図8に示す処理は、所定時間ごとに行われる。   As described above, when a predetermined operation is performed by the user in a state where the operation moving image and the graph are displayed on the operation moving image browsing screen 400, processing corresponding to the operation is performed. FIG. 8 is a flowchart showing processing when a technique, a technique name, or a related moving image is selected. The process shown in FIG. 8 is performed every predetermined time.

ユーザが、グラフ表示部403に表示されるグラフにおいて手技をクリック等により選択すると(S100:YES)、抽出部50は、手技名、カテゴリー、手技の処置時間等に基づいて、データベース200から、指定された手技に関連する手技を含む関連動画を抽出する(S110)。表示制御部70は、抽出された関連動画を、図5のように関連動画選択画面420に表示させる(S120)。   When the user selects a procedure in the graph displayed on the graph display unit 403 by clicking or the like (S100: YES), the extraction unit 50 designates from the database 200 based on the procedure name, category, procedure time, etc. A related moving image including a procedure related to the performed procedure is extracted (S110). The display control unit 70 displays the extracted related video on the related video selection screen 420 as shown in FIG. 5 (S120).

また、ユーザが、関連動画選択画面420から関連動画を選択し、動画ページボタン421を選択すると(S130:YES)、表示制御部70は、選択された関連動画を手術動画表示部401に表示させる(S140)。   In addition, when the user selects a related video from the related video selection screen 420 and selects the video page button 421 (S130: YES), the display control unit 70 causes the surgical video display unit 401 to display the selected related video. (S140).

さらに、ユーザが、関連動画選択画面420から関連動画を選択し、比較再生ボタン422を選択すると(S150:YES)、図6に示すように、手術動画の右側に関連動画を表示させ、比較再生を可能とする(S160)。   Further, when the user selects a related video from the related video selection screen 420 and selects the comparison playback button 422 (S150: YES), as shown in FIG. 6, the related video is displayed on the right side of the surgery video, and the comparative playback is performed. (S160).

以上のように、 本実施形態によれば、手術動画を登録することで、手術動画における手技を自動的に画定し、各手技の処置時間をグラフ表示するので、ユーザは、手術における各手技の処置時間を容易に把握することが可能となる。   As described above, according to the present embodiment, by registering a surgical video, the procedure in the surgical video is automatically defined and the treatment time of each procedure is displayed in a graph. It is possible to easily grasp the treatment time.

また、本実施形態によれば、グラフ表示された手技を選択することにより、選択された手技と関連する手技を含む関連動画を抽出することができる。その結果、注目している手術動画の手技に多くの時間がかかっている場合には、他の手術動画と見比べることにより、改善に繋がるヒントを得ることができる。このように、本実施形態によれば、ユーザに対して、ユーザが見るべき手技を含む手術動画を見せることができる。   Moreover, according to this embodiment, the related moving image containing the technique relevant to the selected technique can be extracted by selecting the technique displayed on the graph. As a result, when a long time is required for the technique of the surgical video to be noticed, a hint for improvement can be obtained by comparing with the other surgical video. Thus, according to the present embodiment, it is possible to show a surgical moving image including a procedure that the user should see to the user.

また、本実施形態によれば、手術動画と関連動画を比較再生することができるので、ユーザは、自分の手技を映した手術動画と、他者の手術動画とを比較しながら視聴することができる。また、関連動画として、ユーザの手技の処置時間よりも短い処置時間の手技を含む手術動画を表示すれば、ユーザは、自分の手技よりも優れた手技を映像中に含む関連動画を視聴することができる。したがって、ユーザは、自分の手技の欠点や改善点に気付き易くなり、優れた手技を学ぼうとする動機付けにもなり、学習効果も向上する。   In addition, according to the present embodiment, since the operation video and the related video can be compared and reproduced, the user can view the operation video showing his / her technique and the other's operation video while comparing them. it can. Further, if a surgical video including a procedure with a procedure time shorter than the procedure time of the user's procedure is displayed as the related movie, the user can watch the related movie including a procedure superior to his procedure in the video. Can do. Therefore, the user is easily aware of the shortcomings and improvement points of his / her technique, and is motivated to learn an excellent technique, thereby improving the learning effect.

さらに、本実施形態の手術動画閲覧装置1は、DVD等に記録され、死蔵されていた手術動画を登録することにより、動画資源としてこれらの動画を有効に活用することができる。   Furthermore, the surgical moving image browsing apparatus 1 of the present embodiment can effectively use these moving images as moving image resources by registering the surgical moving images recorded on the DVD or the like and stored.

(第2実施形態)
次に、本発明の第2実施形態について説明する。第1実施形態においは、手技の画定を手技解析部20により行う態様について説明した。本実施形態は、第1実施形態の態様に加えて、あるは第1実施形態の態様に代えて、ユーザがマーキングを行うことにより、手技の画定を行う態様について説明する。
(Second Embodiment)
Next, a second embodiment of the present invention will be described. In the first embodiment, the mode in which the procedure is defined by the procedure analysis unit 20 has been described. In the present embodiment, in addition to the aspect of the first embodiment, or in place of the aspect of the first embodiment, an aspect in which the procedure is defined by the user performing marking will be described.

本実施形態においては、ユーザが、手術動画表示部401に表示された手術動画上、あるいは操作表示部のスライダーバー上でクリック等を行うと、マーキングを行うことができる。この場合、操作部100がマーキング部として機能する。マーキングされた位置は、手技の開始位置または終了位置であり、ユーザは、手術動画を再生しながら、所望の位置で手技を画定させることができる。この場合には、手技解析部20は、ユーザによりマーキングされた位置にしたがって手技の画定を行う。   In the present embodiment, marking can be performed when the user performs a click or the like on the operation moving image displayed on the operation moving image display unit 401 or on the slider bar of the operation display unit. In this case, the operation unit 100 functions as a marking unit. The marked position is a start position or an end position of the procedure, and the user can define the procedure at a desired position while playing the surgical animation. In this case, the technique analysis unit 20 defines the technique according to the position marked by the user.

第1実施形態のように手技解析部20により自動的に手技が画定されていた場合には、このマーキングを行うことにより、画定された手技の位置をユーザが修正することができる。   When the procedure is automatically defined by the procedure analysis unit 20 as in the first embodiment, the user can correct the position of the defined procedure by performing this marking.

第1実施形態のように手技解析部20により自動的に手技の画定を行わない場合には、手術動画を手術動画表示部401に表示させた直後にはグラフを表示させず、ユーザによるマーキングが行われた後にグラフを表示させるようにしてもよい。   When the procedure is not automatically defined by the procedure analysis unit 20 as in the first embodiment, the graph is not displayed immediately after the surgery movie is displayed on the surgery movie display unit 401, and marking by the user is not performed. You may make it display a graph after it is performed.

以上のように、本実施形態によれば、第1実施形態の効果に加えて、ユーザにより手技の画定を行うことができるので、ユーザのニーズに応じた手術動画または手技動画の閲覧を可能とする。   As described above, according to the present embodiment, in addition to the effects of the first embodiment, the procedure can be defined by the user, so that it is possible to view the operation video or the procedure video according to the user's needs. To do.

(変形例) (Modification)

グラフ表示においては、ユーザの手技の処置時間と、基準となる所定の処置時間とを比較可能にグラフ化して表示してもよい。例えば、ユーザの処置時間を表すハッチングされた棒グラフの隣に、例えば、その手技の平均処置時間を表す白抜きのグラフを並べて表示すれば、ユーザは、自らの手技の処置時間が平均を上回っているのか否かを知ることができる。このような場合に、ユーザが、剥離の部分の手技動画を視聴すれば、例えば、自身の手技レベルが低いためなのか、あるいは、癒着がひどく剥離に時間を要したのかなども知ることができる。これとは反対に、切開や摘除については、平均よりも処置時間が短いことが分かる。この場合も、ユーザが、当該部分の手技動画を視聴すれば、自身の手技のよい所をさらに伸ばすことができる。   In the graph display, the treatment time of the user's procedure and the predetermined treatment time serving as a reference may be displayed in a graph so as to be comparable. For example, if a white graph representing the average treatment time of the procedure is displayed next to the hatched bar graph representing the treatment time of the user, for example, the user will exceed the average treatment time of his / her procedure. You can know if you are. In such a case, if the user watches the procedure video of the part of peeling, for example, it is possible to know whether the user's own skill level is low, or whether the adhesion was so bad that it took time for peeling. . On the other hand, it can be seen that for incision and resection, the treatment time is shorter than the average. Also in this case, if the user views the technique video of the part, it is possible to further extend the place where the user's skill is good.

上述した実施形態では、画像の特徴量を抽出することにより、手技を画定する態様について説明した。しかしながら、本発明はこのような態様に限定される訳ではなく、例えば、手術動画を構成する複数のフレームの画像におけるエッジ部分や、処置具の先端部分を抽出した画像部分が、予め登録された画像の特徴的な動きパターンに該当するか否かにより、吻合等の手技であるか否かを判別するようにしても良い。   In the above-described embodiment, the aspect in which the procedure is defined by extracting the feature amount of the image has been described. However, the present invention is not limited to such an embodiment. For example, an edge portion in an image of a plurality of frames constituting a surgical moving image or an image portion obtained by extracting the distal end portion of a treatment instrument is registered in advance. It may be determined whether or not the technique is an anastomosis or the like depending on whether or not it corresponds to a characteristic movement pattern of the image.

上述した実施形態においては、手術動画を閲覧する装置に本発明を適用した態様について説明した。しかしながら、本発明はこのような態様に限定される訳ではなく、あらゆる種類の動画に適用可能である。例えば、野球の動画において、手技の代わりにホームランのシーンを特定のシーンとして画定し、関連するシーンを含む動画を他の野球の動画から関連動画として抽出するようにしてもよい。   In the above-described embodiment, the aspect in which the present invention is applied to an apparatus for viewing a surgical moving image has been described. However, the present invention is not limited to such an embodiment, and can be applied to all types of moving images. For example, in a baseball video, a home run scene may be defined as a specific scene instead of a procedure, and a video including a related scene may be extracted as a related video from another baseball video.

この場合、手技解析部20は、入力された動画におけるシーンの特徴量を抽出するシーン解析部として機能し、閲覧履歴記録部60は、動画ごとの、またはシーンごとの閲覧履歴を記録する閲覧履歴記録部として機能する。また、抽出部50は、データベースから、少なくともシー名、および記述情報に基づいて、関連動画を抽出するシーン抽出部として機能する。   In this case, the technique analysis unit 20 functions as a scene analysis unit that extracts a scene feature amount in the input video, and the browsing history recording unit 60 records a browsing history for each video or each scene. Functions as a recording unit. Further, the extraction unit 50 functions as a scene extraction unit that extracts a related moving image from the database based on at least the sea name and description information.

上述した実施形態においては、登録された手術動画と関連する書籍、関連する器具、関連する薬剤等の関連情報を、例えば、データベース200あるいは他のデータベースから取得するようにしてもよい。関連情報は書籍等の情報に限定されず、例えば、手術動画の執刀者の情報や、執刀日時の情報、患者の情報、疾病情報などの様々な情報を含んでもよい。   In the above-described embodiment, related information such as a book related to a registered surgical video, a related instrument, and a related medicine may be acquired from the database 200 or another database, for example. The related information is not limited to information such as books, and may include various information such as information on the operative of the operation video, information on the date and time of operation, patient information, and disease information.

以上の実施形態は例示であり、この発明の範囲から離れることなく様々な変形が可能である。上述した複数の実施の形態は、それぞれ単独で成立し得るものであるが、実施の形態同士の組みあわせも可能である。また、異なる実施の形態の中の種々の特徴も、それぞれ単独で成立し得るものであるが、異なる実施の形態の中の特徴同士の組みあわせも可能である。   The above embodiments are merely examples, and various modifications can be made without departing from the scope of the present invention. The plurality of embodiments described above can be established independently, but combinations of the embodiments are also possible. In addition, various features in different embodiments can be established independently, but the features in different embodiments can be combined.

1 手術動画閲覧装置
10 動画入力部
20 手技解析部
30 シーン名付与部
40 記述情報登録部
50 抽出部
60 閲覧履歴記録部
70 表示制御部
80 データ格納部
90 表示部
100 操作部
110 記憶部
200 データベース
DESCRIPTION OF SYMBOLS 1 Surgical moving image browsing apparatus 10 Moving image input part 20 Procedure analysis part 30 Scene name provision part 40 Description information registration part 50 Extraction part 60 Browse history recording part 70 Display control part 80 Data storage part 90 Display part 100 Operation part 110 Storage part 200 Database

Claims (8)

動画を入力してデータベースに登録する動画入力部と、
登録された前記動画におけるシーンの特徴量を抽出するシーン解析部と、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるシーン名付与部と、
前記動画について記述された記述情報を前記動画に紐付ける記述情報登録部と、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記動画に関連する関連動画を抽出する抽出部と、を備える、
ことを特徴とする動画閲覧装置。
A video input unit for inputting a video and registering it in the database;
A scene analysis unit that extracts a feature amount of a scene in the registered moving image;
A scene name assigning unit that assigns a scene name to each scene and associates the scene name with each scene;
A description information registration unit for associating description information described for the video with the video;
An extraction unit that extracts a related moving image related to the moving image based on at least the scene name and the description information from the database;
A video browsing apparatus characterized by that.
手術動画を入力してデータベースに登録する動画入力部と、
登録された前記手術動画におけるシーンの特徴量を抽出するシーン解析部と、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるシーン名付与部と、
前記手術動画について記述された記述情報を前記手術動画に紐付ける記述情報登録部と、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出する抽出部と、を備える、
ことを特徴とする動画閲覧装置。
A video input unit that inputs surgical videos and registers them in the database;
A scene analysis unit that extracts a feature amount of the scene in the registered surgical video;
A scene name assigning unit that assigns a scene name to each scene and associates the scene name with each scene;
A description information registration unit for associating description information described for the surgical video with the surgical video;
An extraction unit that extracts a related moving image related to the surgery moving image based on at least the scene name and the description information from the database;
A video browsing apparatus characterized by that.
前記シーン名付与部は、前記シーンの順序にしたがって予め定められた名称に基づいて前記シーン名を付与する、
ことを特徴とする請求項2に記載の動画閲覧装置。
The scene name assigning unit assigns the scene name based on a predetermined name according to the order of the scenes.
The moving image browsing apparatus according to claim 2, wherein:
前記シーン名と、前記シーンの再生時間とに基づいて、前記シーンの再生時間をグラフ表示するグラフ表示部を備え、
前記抽出部は、前記グラフ表示されたシーン名が選択された場合に、選択された前記シーン名の前記シーンと関連するシーンを含む前記関連動画を抽出する、
ことを特徴とする請求項2または請求項3に記載の動画閲覧装置。
Based on the scene name and the playback time of the scene, a graph display unit that displays the playback time of the scene in a graph,
The extraction unit extracts the related moving image including a scene related to the scene of the selected scene name when the scene name displayed in the graph is selected.
The moving image browsing apparatus according to claim 2 or claim 3, wherein
前記手術動画の所定の位置をマーキングするマーキング部を備え、
前記シーン解析部は、前記マーキングされた位置に基づいて前記シーンを画定する、
ことを特徴とする請求項2ないし請求項4のいずれか1項に記載の動画閲覧装置。
A marking portion for marking a predetermined position of the surgical video,
The scene analysis unit defines the scene based on the marked position.
The moving image browsing apparatus according to any one of claims 2 to 4, wherein the moving image browsing device is characterized in that:
前記手術動画ごと、または前記シーンごとの閲覧履歴を記録する閲覧履歴記録部を備え、
前記抽出部は、少なくとも前記シーン名、前記記述情報、前記閲覧履歴、および前記手術動画の再生時間のいずれか、またはこれらの組み合わせに基づいて、前記手術動画に関連する関連動画を抽出する、
ことを特徴とする請求項2ないし請求項5のいずれか1項に記載の動画閲覧装置。
A browsing history recording unit that records browsing history for each surgical video or for each scene,
The extraction unit extracts a related video related to the surgical video based on at least one of the scene name, the description information, the browsing history, and the playback time of the surgical video, or a combination thereof.
The moving image browsing apparatus according to any one of claims 2 to 5, wherein the moving image browsing device is characterized in that:
動画入力部により、手術動画を入力してデータベースに登録するステップと、
シーン解析部により、登録された前記手術動画におけるシーンの特徴量を抽出するステップ、
シーン名付与部により、前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるステップと、
記述情報登録部により、前記手術動画について記述された記述情報を前記手術動画に紐付けるステップと、
抽出部により、前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出するステップと、を備える、
ことを特徴とする動画閲覧装置の制御方法。
Entering the surgical video and registering it in the database by the video input unit;
A step of extracting a feature amount of a scene in the registered surgical video by a scene analysis unit;
A step of assigning a scene name for each scene and linking the scene name for each scene by a scene name assigning unit;
A step of associating description information described about the surgical video with the surgical video by a description information registration unit;
Extracting a related moving image related to the surgical moving image based on at least the scene name and the description information from the database by the extraction unit;
A method for controlling a moving image browsing apparatus.
動画閲覧装置におけるプログラムであって、前記プログラムは、コンピュータに、
手術動画を入力してデータベースに登録するステップと、
登録された前記手術動画におけるシーンの特徴量を抽出するステップ、
前記シーンごとにシーン名を付与して前記シーン名を前記シーンごとに紐付けるステップと、
前記手術動画について記述された記述情報を前記手術動画に紐付けるステップと、
前記データベースから、少なくとも前記シーン名および前記記述情報に基づいて、前記手術動画に関連する関連動画を抽出するステップと、を実行させる、
ことを特徴とするプログラム。
A program in a video browsing device, the program being stored in a computer,
Entering surgical videos and registering them in the database;
Extracting a feature amount of a scene in the registered surgical video;
Assigning a scene name to each scene and associating the scene name with each scene;
Linking the description information described about the surgical video to the surgical video;
Extracting a related video associated with the surgical video based on at least the scene name and the description information from the database;
A program characterized by that.
JP2018201093A 2018-10-25 2018-10-25 Video browsing device, control method of video browsing device, and program Pending JP2019185726A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018201093A JP2019185726A (en) 2018-10-25 2018-10-25 Video browsing device, control method of video browsing device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018201093A JP2019185726A (en) 2018-10-25 2018-10-25 Video browsing device, control method of video browsing device, and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018069040A Division JP6426867B1 (en) 2018-03-30 2018-03-30 Video viewing apparatus, control method for video viewing apparatus, and program

Publications (2)

Publication Number Publication Date
JP2019185726A true JP2019185726A (en) 2019-10-24
JP2019185726A5 JP2019185726A5 (en) 2021-05-13

Family

ID=68341535

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018201093A Pending JP2019185726A (en) 2018-10-25 2018-10-25 Video browsing device, control method of video browsing device, and program

Country Status (1)

Country Link
JP (1) JP2019185726A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022014014A1 (en) * 2020-07-16 2022-01-20 オリンパス株式会社 Centralized control device and display method of surgery-related information
JP7442300B2 (en) 2019-11-21 2024-03-04 慶應義塾 Playback control device and playback control program

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05334374A (en) * 1992-05-28 1993-12-17 Ibm Japan Ltd System for scene information input and method therefor
JPH09139915A (en) * 1995-11-16 1997-05-27 Matsushita Electric Ind Co Ltd Compression moving image decoding and display device and compression moving image simple editing device
JPH09265547A (en) * 1996-03-29 1997-10-07 Nippon Telegr & Teleph Corp <Ntt> Video information editing device
JPH1051734A (en) * 1996-04-12 1998-02-20 Hitachi Denshi Ltd Dynamic image compiling device/method
WO2006001055A1 (en) * 2004-06-25 2006-01-05 Seventh Dimension Design, Inc. Medical image management system and medical image management method
WO2011152489A1 (en) * 2010-06-03 2011-12-08 オリンパスメディカルシステムズ株式会社 Image recording system, and image recording method
JP2014233358A (en) * 2013-05-31 2014-12-15 株式会社日立メディコ Medical image capturing system and medical image capturing device
JP2016007444A (en) * 2014-06-25 2016-01-18 オリンパス株式会社 Image recording device
JP2017047022A (en) * 2015-09-03 2017-03-09 株式会社メディカルプラットフォーム Information processor, information processing method and information processing program
WO2017061495A1 (en) * 2015-10-08 2017-04-13 オリンパス株式会社 Endoscope system

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05334374A (en) * 1992-05-28 1993-12-17 Ibm Japan Ltd System for scene information input and method therefor
JPH09139915A (en) * 1995-11-16 1997-05-27 Matsushita Electric Ind Co Ltd Compression moving image decoding and display device and compression moving image simple editing device
JPH09265547A (en) * 1996-03-29 1997-10-07 Nippon Telegr & Teleph Corp <Ntt> Video information editing device
JPH1051734A (en) * 1996-04-12 1998-02-20 Hitachi Denshi Ltd Dynamic image compiling device/method
WO2006001055A1 (en) * 2004-06-25 2006-01-05 Seventh Dimension Design, Inc. Medical image management system and medical image management method
WO2011152489A1 (en) * 2010-06-03 2011-12-08 オリンパスメディカルシステムズ株式会社 Image recording system, and image recording method
JP2014233358A (en) * 2013-05-31 2014-12-15 株式会社日立メディコ Medical image capturing system and medical image capturing device
JP2016007444A (en) * 2014-06-25 2016-01-18 オリンパス株式会社 Image recording device
JP2017047022A (en) * 2015-09-03 2017-03-09 株式会社メディカルプラットフォーム Information processor, information processing method and information processing program
WO2017061495A1 (en) * 2015-10-08 2017-04-13 オリンパス株式会社 Endoscope system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7442300B2 (en) 2019-11-21 2024-03-04 慶應義塾 Playback control device and playback control program
WO2022014014A1 (en) * 2020-07-16 2022-01-20 オリンパス株式会社 Centralized control device and display method of surgery-related information

Similar Documents

Publication Publication Date Title
US8724957B2 (en) Method for selecting parts of an audiovisual program and device therefor
US7483618B1 (en) Automatic editing of a visual recording to eliminate content of unacceptably low quality and/or very little or no interest
US20070189719A1 (en) Video reproducing apparatus, data structure of bookmark data, storage medium storing bookmark data, and method of generating bookmark data cross-reference to related applications
US8009961B2 (en) Electronic apparatus, playback management method, display control apparatus, and display control method
US7440682B2 (en) Electronic-album displaying system, electronic-album displaying method, remote controller, machine readable medium storing remote control program, schedule generating device, and machine readable medium storing schedule generating program
US7962005B2 (en) Image information processing apparatus and image information processing program
JP2009140452A (en) Information processor and method, and program
Williams et al. Identifying the mechanisms underpinning recognition of structured sequences of action
JP2005303907A (en) Image editing apparatus, method, and program
JP2009230468A (en) Reproduction device, method of controlling reproduction device and control program
JP2019185726A (en) Video browsing device, control method of video browsing device, and program
JP2012105012A (en) Moving image reproduction apparatus, moving image reproduction method, computer program, and storage medium
US20070040901A1 (en) Video processing apparatus and object processing method
JP2019179452A (en) Moving image browsing device, control method of moving image browsing device, and program
US11315607B2 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
US20080222527A1 (en) Apparatus and Method for Searching for a Video Clip
WO2008087742A1 (en) Moving picture reproducing system, information terminal device and information display method
JP2007124538A (en) Electronic apparatus and reproduction control method
JP3547950B2 (en) Image input / output device
JP3104051U (en) Editing device for video recording of surgical operation
JP5018706B2 (en) Recording / playback device
KR20140075715A (en) Autobiographical interface
JP2006510163A (en) Recording / reproducing system, recording apparatus, reproducing apparatus, recording medium, recording / reproducing method, recording method, reproducing method, program, and recording medium
JP2005318618A (en) Moving image management apparatus and method
JP2005025361A (en) Medical examination support device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210330

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220407

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221109

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221109

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221206

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221213

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230113

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20230117

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230131