[go: up one dir, main page]

JP2016035720A - Operation log recording program, operation log recording method, and terminal device - Google Patents

Operation log recording program, operation log recording method, and terminal device Download PDF

Info

Publication number
JP2016035720A
JP2016035720A JP2014159066A JP2014159066A JP2016035720A JP 2016035720 A JP2016035720 A JP 2016035720A JP 2014159066 A JP2014159066 A JP 2014159066A JP 2014159066 A JP2014159066 A JP 2014159066A JP 2016035720 A JP2016035720 A JP 2016035720A
Authority
JP
Japan
Prior art keywords
terminal device
state
operation log
recording
log
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014159066A
Other languages
Japanese (ja)
Other versions
JP6825801B2 (en
Inventor
花田 雄一
Yuichi Hanada
雄一 花田
信一郎 森
Shinichiro Mori
信一郎 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014159066A priority Critical patent/JP6825801B2/en
Publication of JP2016035720A publication Critical patent/JP2016035720A/en
Application granted granted Critical
Publication of JP6825801B2 publication Critical patent/JP6825801B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an operation log that can be specified to be for explanation or for individuals.SOLUTION: When recording an operation performed in a terminal device 30, the terminal device 30 determines whether or not it is ready to explain, to the other parties, information displayed on the terminal device 30 or information stored in the terminal device 30, and records a result of the determination.SELECTED DRAWING: Figure 2

Description

本発明は、操作ログ記録プログラム、操作ログ記録方法及び端末装置に関する。   The present invention relates to an operation log recording program, an operation log recording method, and a terminal device.

人が集まったその場で端末や機器を接続して画面共有や協働作業を行う情報交換サービスが構築されている。かかる情報交換サービスは、一例として、病院で看護師が申し送り事項等を受け渡したり授受したり、打合せで資料に関するコンテンツを共有したり、学校で先生及び生徒が教材に関するコンテンツを共有して協働学習したりといった様々な場面で有効に活用される。このようにして情報交換サービスを介して打合せや授業などの会議がなされた場合、端末で会議中に行われた操作ログが記録される場合がある。   An information exchange service has been built in which terminals and devices are connected at the place where people gather to share screens and collaborate. As an example, such information exchange services include nurses handing over or sending out matters to be sent and received at hospitals, sharing content related to materials through meetings, and teachers and students sharing content related to teaching materials at schools to collaboratively learn. It is effectively used in various scenes such as. When a meeting such as a meeting or a class is made through the information exchange service in this way, an operation log performed during the meeting may be recorded on the terminal.

特開2013−105471号公報JP 2013-105471 A 特開2009−64275号公報JP 2009-64275 A 特開2006−155431号公報JP 2006-155431 A 特開2007−27918号公報JP 2007-27918 A

しかしながら、上記の技術では、記録が行われた操作ログが相手に見せる操作であるのか、あるいは自身のために行った操作であるのかを特定できない場合がある。   However, in the above technique, it may not be possible to specify whether the recorded operation log is an operation to be shown to the other party or an operation performed for itself.

1つの側面では、本発明は、説明用または個人用を特定可能な操作ログを提供できる操作ログ記録プログラム、操作ログ記録方法及び端末装置を提供することを目的とする。   In one aspect, an object of the present invention is to provide an operation log recording program, an operation log recording method, and a terminal device that can provide an operation log that can be specified for explanation or personal use.

一態様の操作ログ記録プログラムは、端末装置に、前記端末装置で行われた操作を記録する場合に、前記端末装置に表示された情報または前記端末装置に記憶された情報を相手に説明する状態であるか否かを判定し、判定した結果を記録する処理を実行させる。   The operation log recording program of one aspect is a state in which information displayed on the terminal device or information stored on the terminal device is explained to the other party when an operation performed on the terminal device is recorded on the terminal device It is determined whether or not, and processing for recording the determined result is executed.

説明用または個人用を特定可能な操作ログを提供できる。   It is possible to provide operation logs that can be specified for explanation or individual use.

図1は、実施例1に係る情報交換システムの構成を示す図である。FIG. 1 is a diagram illustrating the configuration of the information exchange system according to the first embodiment. 図2は、実施例1に係る端末装置の機能的構成を示すブロック図である。FIG. 2 is a block diagram illustrating a functional configuration of the terminal device according to the first embodiment. 図3は、カメラ画像の一例を示す図である。FIG. 3 is a diagram illustrating an example of a camera image. 図4は、カメラ画像の一例を示す図である。FIG. 4 is a diagram illustrating an example of a camera image. 図5は、端末装置の把持状態の一例を示す図である。FIG. 5 is a diagram illustrating an example of a gripping state of the terminal device. 図6は、端末装置の把持状態の一例を示す図である。FIG. 6 is a diagram illustrating an example of a gripping state of the terminal device. 図7は、端末装置の把持状態の一例を示す図である。FIG. 7 is a diagram illustrating an example of a gripping state of the terminal device. 図8は、端末装置の把持状態の一例を示す図である。FIG. 8 is a diagram illustrating an example of a gripping state of the terminal device. 図9は、操作ログの一例を示す図である。FIG. 9 is a diagram illustrating an example of an operation log. 図10は、実施例1に係る状態記録処理の手順を示すフローチャートである。FIG. 10 is a flowchart illustrating the procedure of the state recording process according to the first embodiment. 図11は、実施例1に係る操作ログ記録処理の手順を示すフローチャートである。FIG. 11 is a flowchart illustrating the procedure of the operation log recording process according to the first embodiment. 図12は、実施例1及び実施例2に係る操作ログ記録プログラムを実行するコンピュータの一例について説明するための図である。FIG. 12 is a schematic diagram illustrating an example of a computer that executes an operation log recording program according to the first and second embodiments.

以下に添付図面を参照して本願に係る操作ログ記録プログラム、操作ログ記録方法及び端末装置について説明する。なお、この実施例は開示の技術を限定するものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。   Hereinafter, an operation log recording program, an operation log recording method, and a terminal device according to the present application will be described with reference to the accompanying drawings. Note that this embodiment does not limit the disclosed technology. Each embodiment can be appropriately combined within a range in which processing contents are not contradictory.

[システム構成]
図1は、実施例1に係る情報交換システムの構成を示す図である。図1に示す情報交換システム1は、端末装置30の使用者が集まるその場で互いの端末装置30をサーバ装置10を介して接続することによって画面共有や協働作業を行う情報交換サービスを提供するものである。かかる情報交換サービスの一環として、情報交換システム1は、情報交換サービスの実行中に説明用または個人用を特定可能な操作ログを記録させる操作ログ記録サービスを実行する。
[System configuration]
FIG. 1 is a diagram illustrating the configuration of the information exchange system according to the first embodiment. The information exchange system 1 shown in FIG. 1 provides an information exchange service for screen sharing and collaborative work by connecting the terminal devices 30 to each other via the server device 10 on the spot where users of the terminal devices 30 gather. To do. As part of the information exchange service, the information exchange system 1 executes an operation log recording service for recording an operation log that can be specified for explanation or personal use during the execution of the information exchange service.

図1に示すように、情報交換システム1には、サーバ装置10と、端末装置30A〜端末装置30Nとが収容される。なお、以下では、端末装置30A〜端末装置30Nを総称する場合に「端末装置30」と記載する場合がある。   As shown in FIG. 1, the information exchange system 1 accommodates a server device 10 and terminal devices 30 </ b> A to 30 </ b> N. Hereinafter, the terminal devices 30A to 30N may be collectively referred to as “terminal device 30”.

これらサーバ装置10及び端末装置30は、有線または無線を問わず、LAN(Local Area Network)、VPN(Virtual Private Network)やインターネット(Internet)などの任意の種類の通信網を介して相互に通信可能に接続される。   The server device 10 and the terminal device 30 can communicate with each other via any type of communication network such as a LAN (Local Area Network), a VPN (Virtual Private Network), or the Internet (Internet), regardless of wired or wireless. Connected to.

サーバ装置10は、上記の情報交換サービスを提供するコンピュータである。すなわち、サーバ装置10は、パッケージソフトウェアやオンラインソフトウェアとして上記の情報交換サービスを実現する情報交換プログラムを所望のコンピュータにインストールさせることによって実装できる。   The server device 10 is a computer that provides the information exchange service. That is, the server apparatus 10 can be implemented by installing an information exchange program for realizing the above information exchange service as package software or online software on a desired computer.

一実施形態として、サーバ装置10には、Wi−Fi(登録商標)等の無線LANのアクセスポイントと、上記の情報交換サービスを提供するWebサーバとの機能を併せ持たせることができる。これによって、例えば、病院や企業の会議室、教室などの会議が行われやすい場所に留まらず、人が集まることのできる任意のプレイスにアクセスポイントの機能付きの小型サーバを導入するだけで上記の情報交換サービスを提供できる結果、サービス提供者のイニシャルコストを低減できる。他の実施形態として、サーバ装置10は、上記の情報交換サービスを提供する基盤として、無線LANのアクセスポイントと、グループ化する端末装置30を認証する認証サービスを提供するWebサーバとの機能を持つフロントエンドとすることもできる。この場合、上記の情報交換サービスは、他のWebサーバやクラウドコンピューティングなどのバックエンドに提供させることもできる。   As an embodiment, the server device 10 can have both functions of a wireless LAN access point such as Wi-Fi (registered trademark) and a Web server that provides the information exchange service. As a result, for example, a small server with an access point function can be installed in any place where people can gather, not just in places where meetings such as hospitals, corporate meeting rooms, and classrooms are easily held. As a result of providing the information exchange service, the initial cost of the service provider can be reduced. As another embodiment, the server device 10 has functions of a wireless LAN access point and a Web server that provides an authentication service for authenticating the terminal devices 30 to be grouped as a basis for providing the information exchange service. It can also be a front end. In this case, the information exchange service described above can be provided to other web servers or backends such as cloud computing.

端末装置30は、上記の情報交換サービスの提供を受けるコンピュータである。   The terminal device 30 is a computer that receives the information exchange service.

一実施形態として、端末装置30には、タブレット型の情報処理端末、いわゆるタブレット端末を採用できる。これはあくまで実装形態の一例に過ぎない。例えば、端末装置30には、スマートフォンを始め、携帯電話機やPHS(Personal Handyphone System)などに代表される移動体通信端末を採用することもできるし、ノート型のパーソナルコンピュータを採用することもできる。この他、端末装置30は、タブレット端末や移動体通信端末などの携帯端末装置に限定されず、パーソナルコンピュータ(personal computer)を始めとする固定端末として実装されることとしてもかまわない。   As an embodiment, the terminal device 30 can employ a tablet-type information processing terminal, so-called a tablet terminal. This is merely an example of an implementation form. For example, as the terminal device 30, a mobile communication terminal represented by a smartphone, a mobile phone, a PHS (Personal Handyphone System), or the like can be adopted, and a notebook personal computer can also be adopted. In addition, the terminal device 30 is not limited to a portable terminal device such as a tablet terminal or a mobile communication terminal, and may be implemented as a fixed terminal such as a personal computer.

ここで、端末装置30のグループ形成方法の一例として、端末装置30が搭載するBLE(Bluetooth(登録商標) Low Energy)チップを用いる場合を例示する。例えば、BLE対応の端末装置30がブロードキャストするアドバタイジングパケットにサーバ装置10のIPアドレス等のアドレス情報を埋め込ませることによってBLEチップの通信圏内に存在する他の端末装置30にサーバ装置10に対する接続要求を送信させることができる。なお、ここでは、端末装置30がサーバ装置10のIPアドレス等のアドレス情報が埋め込まれたBLEのアドバタイジングパケットをブロードキャストする場合を例示したが、必ずしもBLEのアドバタイジングパケットをブロードキャストする装置が端末装置30でなくともかまわない。例えば、会議室や教室などの所定のプレイスにサーバ装置10のIPアドレス等のアドレス情報が埋め込まれたBLEのアドバタイジングパケットをブロードキャストするアドバタイズ専用のBLEモジュールを設けることとしてもかまわない。   Here, as an example of a group forming method of the terminal device 30, a case where a BLE (Bluetooth (registered trademark) Low Energy) chip mounted on the terminal device 30 is used is illustrated. For example, by burying address information such as the IP address of the server device 10 in an advertising packet broadcasted by the BLE-compatible terminal device 30, a connection request for the server device 10 is sent to another terminal device 30 existing within the communication range of the BLE chip. Can be sent. Although the case where the terminal device 30 broadcasts the BLE advertising packet in which the address information such as the IP address of the server device 10 is embedded is illustrated here, the terminal device 30 is not necessarily the device that broadcasts the BLE advertising packet. It does not matter. For example, an advertising-specific BLE module that broadcasts an BLE advertising packet in which address information such as the IP address of the server device 10 is embedded may be provided in a predetermined place such as a conference room or a classroom.

具体的には、端末装置30でBLE機能がON状態に設定されると、当該端末装置30は、ユーザが開設する会議、例えば打合せや授業などへのエントリ要求として、サーバ装置10のIPアドレス等のアドレス情報が埋め込まれたアドバタイジングパケットをブロードキャストする。このとき、端末装置30に端末向けの情報交換サービス用のアプリケーションプログラムがインストールされている場合、必ずしもBLE機能をON状態へ手動設定せずともよく、BLE機能のON状態への設定を含むエントリ要求を自動化することができる。例えば、上記のアプリケーションプログラムは、スケジューラ等と連動して、時刻がスケジュール登録された時刻を基準とする所定の期間内になった場合に、エントリ要求を端末装置30に自動送信させることができる。また、上記のアプリケーションプログラムは、GPS(Global Positioning System)受信機等と連動して、端末装置30の位置が会議室や教室などの所定のプレイスに含まれる場合に、エントリ要求を端末装置30に自動送信させることができる。この場合、上記のアプリケーションプログラムは、モーションセンサ等とさらに連動して、着席に対応する加速度等が検出された場合に始めてエントリ要求を送信することもできる。   Specifically, when the BLE function is set to ON in the terminal device 30, the terminal device 30 sends the IP address of the server device 10 as an entry request to a conference opened by the user, for example, a meeting or a class. The advertising packet in which the address information is embedded is broadcast. At this time, if an application program for information exchange service for the terminal is installed in the terminal device 30, the entry request including setting the BLE function to the ON state is not necessarily required to manually set the BLE function to the ON state. Can be automated. For example, the application program described above can automatically transmit an entry request to the terminal device 30 when the time is within a predetermined period based on the time registered in the schedule in conjunction with the scheduler or the like. In addition, the above application program, in conjunction with a GPS (Global Positioning System) receiver or the like, sends an entry request to the terminal device 30 when the position of the terminal device 30 is included in a predetermined place such as a conference room or a classroom. Can be sent automatically. In this case, the application program can transmit the entry request only when acceleration corresponding to the seating or the like is detected in conjunction with the motion sensor or the like.

このようにアドバタイジングパケットがブロードキャストされた場合、エントリ要求を行った起点の端末装置30以外の端末装置30は、図示しないユーザインタフェースを介して、会議へのエントリの可否に関する入力を受け付ける。そして、会議にエントリする旨の入力がなされた場合、起点の端末装置30以外の端末装置30は、起点の端末装置30のMACアドレス等のアドレス情報を付加して会議へのエントリ、すなわち情報交換サービスの開始要求とも言える端末装置30間の接続要求をサーバ装置10へ送信する。なお、起点の端末装置30も会議へのエントリをサーバ装置10へ送信することは言うまでもない。   When the advertising packet is broadcast in this way, the terminal device 30 other than the starting terminal device 30 that has made the entry request accepts an input regarding whether or not to allow entry to the conference via a user interface (not shown). Then, when an input to enter the conference is made, the terminal devices 30 other than the originating terminal device 30 add the address information such as the MAC address of the originating terminal device 30 to the entry to the conference, that is, information exchange A connection request between the terminal devices 30 that can be called a service start request is transmitted to the server device 10. Needless to say, the starting terminal device 30 also transmits an entry to the conference to the server device 10.

これによって、サーバ装置10は、BLEの通信圏内に存在する端末装置30からの会議へのエントリ、すなわち端末装置30間の接続要求を起点の端末装置30のMACアドレスによって束ねることができる。その後、各端末装置30からの接続要求にしたがって各端末装置30の認証に成功した場合、各端末装置30に対する情報交換サービスの提供がサーバ装置10によって開始される。   Thereby, the server device 10 can bundle the entry to the conference from the terminal device 30 existing in the communication range of BLE, that is, the connection request between the terminal devices 30 by the MAC address of the terminal device 30 as the starting point. Thereafter, when the authentication of each terminal device 30 is successful according to the connection request from each terminal device 30, the server device 10 starts providing the information exchange service to each terminal device 30.

[端末装置30の構成]
図2は、実施例1に係る端末装置30の機能的構成を示すブロック図である。図2に示すように、端末装置30は、タッチパネル31と、通信部32と、カメラ33と、加速度センサ34と、地磁気センサ35と、OS(Operating System)実行部36と、判定部37と、第1の記録部38と、状態記憶部38aと、第2の記録部39と、操作ログ記憶部39aとを有する。なお、ここでは、端末装置30A〜端末装置30Nのいずれも図2に示す構成的構成と同様の機能的構成を有すればよいので、端末装置30の機能的構成として説明することとする。
[Configuration of Terminal Device 30]
FIG. 2 is a block diagram illustrating a functional configuration of the terminal device 30 according to the first embodiment. As shown in FIG. 2, the terminal device 30 includes a touch panel 31, a communication unit 32, a camera 33, an acceleration sensor 34, a geomagnetic sensor 35, an OS (Operating System) execution unit 36, a determination unit 37, A first recording unit 38, a state storage unit 38a, a second recording unit 39, and an operation log storage unit 39a are provided. Here, since any of terminal apparatus 30A to terminal apparatus 30N may have the same functional configuration as the structural configuration shown in FIG. 2, it will be described as the functional configuration of terminal apparatus 30.

この端末装置30は、図2に示した機能部以外にも既知のコンピュータが有する各種の機能部を有することとしてもかまわない。例えば、端末装置30が据置き型の情報処理装置として実装される場合には、キーボード、マウスやディスプレイなどの入出力デバイスをさらに有することとしてもよい。また、端末装置30が移動体通信端末として実装される場合には、GPS(Global Positioning System)受信機などの機能部をさらに有していてもかまわない。   The terminal device 30 may include various functional units included in a known computer in addition to the functional units illustrated in FIG. For example, when the terminal device 30 is implemented as a stationary information processing device, it may further include input / output devices such as a keyboard, a mouse, and a display. When the terminal device 30 is implemented as a mobile communication terminal, the terminal device 30 may further include a functional unit such as a GPS (Global Positioning System) receiver.

タッチパネル31は、表示可能かつ入力可能なデバイスである。   The touch panel 31 is a displayable and inputable device.

表示に関する一側面として、タッチパネル31は、端末装置30上で実行されるOSやアプリケーションプログラムによって出力される画像を表示する。入力に関する一側面として、タッチパネル31は、タッチパネル31のスクリーン上でなされるタップ、フリック、スイープ、ピンチイン、ピンチアウトやドラッグ&ドロップなどのタッチ操作を受け付ける。なお、ここでは、端末装置30に対する指示入力を行う入力デバイスとしてタッチパネル31を例示したが、これに限らず、タッチパネル31との間で相補的な入力を実現する物理キーなどをさらに有していてもかまわない。   As one aspect regarding display, the touch panel 31 displays an image output by an OS or an application program executed on the terminal device 30. As one aspect regarding input, the touch panel 31 accepts touch operations such as taps, flicks, sweeps, pinch-ins, pinch-outs, and drag-and-drops performed on the screen of the touch panel 31. Here, the touch panel 31 is illustrated as an input device for inputting an instruction to the terminal device 30. However, the input device is not limited thereto, and further includes a physical key that realizes complementary input with the touch panel 31. It doesn't matter.

通信部32は、他の装置、例えばサーバ装置10及び他の端末装置30との間で各種の通信を行う処理部である。   The communication unit 32 is a processing unit that performs various types of communication with other devices, for example, the server device 10 and the other terminal devices 30.

一実施形態として、通信部32は、無線LAN、キャリア、BLEのうち少なくともいずれか1つの通信方式でサーバ装置10及び他の端末装置30等の外部端末と通信を行う。例えば、BLE機能の場合、通信部32は、他の端末装置30から会議へのエントリ要求を受け付けることもできるし、会議へのエントリ要求を他の端末装置30へ送信することもできる。また、無線LANの場合、通信部32は、情報交換サービスの実行中にサーバ装置10を介して文書、画像や音声などのコンテンツを他の端末装置30へ送受信したりすることができる。さらに、通信部32は、情報交換サービスの実行後に操作ログをサーバ装置10へアップロードすることもできる。   As an embodiment, the communication unit 32 communicates with an external terminal such as the server device 10 and the other terminal device 30 using at least one of wireless LAN, carrier, and BLE. For example, in the case of the BLE function, the communication unit 32 can accept an entry request for a conference from another terminal device 30 or can transmit an entry request for the conference to the other terminal device 30. In the case of a wireless LAN, the communication unit 32 can transmit and receive content such as a document, an image, and audio to another terminal device 30 via the server device 10 during execution of the information exchange service. Further, the communication unit 32 can upload the operation log to the server device 10 after the information exchange service is executed.

カメラ33は、画像を撮像する撮像装置である。   The camera 33 is an imaging device that captures an image.

一実施形態として、カメラ33には、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子が搭載される。例えば、カメラ33には、R(red)、G(green)、B(blue)など3種以上の受光素子を搭載することができる。かかるカメラ33の実装例としては、インカメラやアウトカメラのように、端末装置30の出荷時から搭載されているカメラが存在する場合にはそのカメラを流用できる。   As an embodiment, the camera 33 is mounted with an image sensor such as a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS). For example, the camera 33 can be equipped with three or more light receiving elements such as R (red), G (green), and B (blue). As an example of mounting the camera 33, when there is a camera mounted from the time of shipment of the terminal device 30, such as an in camera or an out camera, the camera can be used.

加速度センサ34は、加速度を検出するセンサである。一実施形態として、加速度センサ34には、3軸の加速度センサを採用することができる。また、地磁気センサ35には、ピッチ(X軸)、ロール(Y軸)、ヨー(Z軸)の3軸の地磁気センサを採用することができる。なお、地磁気センサの代わりにジャイロセンサを用いることとしてもかまわない。   The acceleration sensor 34 is a sensor that detects acceleration. As an embodiment, the acceleration sensor 34 may be a triaxial acceleration sensor. Further, as the geomagnetic sensor 35, a triaxial geomagnetic sensor of pitch (X axis), roll (Y axis), and yaw (Z axis) can be adopted. A gyro sensor may be used instead of the geomagnetic sensor.

OS実行部36は、OS(Operating System)の実行を制御する処理部である。   The OS execution unit 36 is a processing unit that controls execution of an OS (Operating System).

一実施形態として、OS実行部36は、タッチパネル31に対する各種の操作および操作に対応するコマンドを検出する。例えば、OS実行部36は、タッチパネル31上で受け付けたタップ、フリック、スイープ、ピンチイン、ピンチアウト、ドラッグ&ドロップや手書き入力の軌跡などのタッチ操作を検出したり、当該タッチ操作が解釈されたコマンド、例えばサーバ装置10への画像のダウンロード(受信)及びアップロード(送信)などを検出することができる。なお、OS実行部36は、特定のアーキテクチャに依存することなく、任意の種類のOSを実行できる。   As one embodiment, the OS execution unit 36 detects various operations on the touch panel 31 and commands corresponding to the operations. For example, the OS execution unit 36 detects touch operations such as taps, flicks, sweeps, pinch-ins, pinch-outs, drag-and-drops, and handwriting input loci received on the touch panel 31, or commands in which the touch operations are interpreted. For example, it is possible to detect image download (reception) and upload (transmission) to the server device 10. The OS execution unit 36 can execute any kind of OS without depending on a specific architecture.

判定部37は、端末装置30で行われた操作を記録する場合に、端末装置30がタッチパネル31に表示された情報または端末装置30に記憶された情報を相手に説明する状態であるか否かを判定する処理部である。以下では、上記の相手に説明する状態のことを「説明状態」と記載し、説明状態ではない状態のことを「非説明状態」と記載する場合がある。   When the determination unit 37 records an operation performed on the terminal device 30, whether or not the terminal device 30 is in a state of explaining information displayed on the touch panel 31 or information stored in the terminal device 30 to the other party. It is a processing part which determines. Hereinafter, the state explained to the other party may be referred to as “explanation state”, and the state that is not the explanation state may be referred to as “non-explanation state”.

一実施形態として、判定部37は、(A)カメラ画像、(B)地磁気データ、(C)加速度データ、(D)コンテンツ通信のうち少なくとも1つを用いて、端末装置30が説明状態または非説明状態のいずれにあるかを判定する。以下では、上記の(A)〜(D)の4つを全て用いて総合判定を行う場合を例示するが、いずれか1つだけで判定を行うこともできる。   As one embodiment, the determination unit 37 uses the at least one of (A) camera image, (B) geomagnetic data, (C) acceleration data, and (D) content communication to indicate that the terminal device 30 is in the explanation state or non-existing state. It is determined whether it is in the explanation state. Below, although the case where comprehensive determination is performed using all of said four (A)-(D) is illustrated, determination can also be performed only in any one.

(A)カメラ画像
図3及び図4は、カメラ画像の一例を示す図である。図3及び図4には、いずれも情報交換サービスの実行中にインカメラ33aによって撮像されたカメラ画像が例示されている。図3及び図4に示すように、インカメラ33aで撮影を行う場合、タッチパネル31のスクリーンを閲覧する人が撮像される公算が高い。なお、実際には、タッチパネル31にはコンテンツが表示されているので、カメラ画像はバックグラウンドで撮像されるが、説明の便宜上、図3及び図4にはタッチパネル31にカメラ画像を表示させることとする。
(A) Camera Image FIGS. 3 and 4 are diagrams illustrating an example of a camera image. 3 and 4 each illustrate a camera image captured by the in-camera 33a during execution of the information exchange service. As shown in FIGS. 3 and 4, when shooting with the in-camera 33 a, it is highly likely that a person browsing the screen of the touch panel 31 will be imaged. Actually, since the content is displayed on the touch panel 31, the camera image is captured in the background. For convenience of explanation, the camera image is displayed on the touch panel 31 in FIGS. To do.

ここで、図3に示すように、インカメラ33aによって人物が1名しか撮像されていない場合には、端末装置30の使用者が会議に参加する他のメンバを相手に説明を行っている可能性よりも、一人でタッチパネル31にコンテンツ等が表示されたスクリーンを閲覧したり、操作している可能性が高い。よって、カメラ画像に映る人物が1名である場合には、非説明状態であると推定できる。   Here, as shown in FIG. 3, when only one person is captured by the in-camera 33a, the user of the terminal device 30 can explain to other members who participate in the conference. It is more likely that the user is browsing or operating the screen on which the content or the like is displayed on the touch panel 31 alone. Therefore, when there is one person shown in the camera image, it can be estimated that the state is not explained.

一方、図4に示すように、インカメラ33aによって人物が2名以上撮像されている場合には、複数人がタッチパネル31にコンテンツが表示されたスクリーンを閲覧しているので、端末装置30の使用者が会議に参加する他のメンバと一緒にスクリーンを閲覧しながら説明を行っている可能性が高い。よって、カメラ画像に映る人物が複数名である場合には、説明状態であると推定できる。   On the other hand, as shown in FIG. 4, when two or more persons are captured by the in-camera 33 a, a plurality of persons are viewing the screen on which the content is displayed on the touch panel 31. There is a high possibility that the person is explaining while viewing the screen together with other members participating in the conference. Therefore, when there are a plurality of persons shown in the camera image, it can be estimated that the state is the explanation state.

これらのことから、判定部37は、カメラ画像に画像処理を実行することによって人物の人数を認識する。その上で、判定部37は、カメラ画像から認識された人数が1名である場合には、暫定的に「非説明状態」と推定する一方で、カメラ画像から認識された人数が複数名である場合には、暫定的に「説明状態」と推定する。   Therefore, the determination unit 37 recognizes the number of persons by executing image processing on the camera image. In addition, when the number of persons recognized from the camera image is one, the determination unit 37 temporarily estimates “non-explanatory state”, while the number of persons recognized from the camera image is plural. In some cases, a “description state” is temporarily estimated.

(B)地磁気データ
図5及び図6は、端末装置30の把持状態の一例を示す図である。図5には、端末装置30の使用者がタッチパネル31と正対する状態で把持された状態を示し、図6には、図5に示した状態からX軸周り、すなわちロール方向へ縦回転させることによって、端末装置30の使用者にはタッチパネル31の裏面を正対させると共に、端末装置30の使用者と正対する会議に参加する他のメンバへタッチパネル31を正対させた把持状態を示している。
(B) Geomagnetic Data FIGS. 5 and 6 are diagrams illustrating an example of a gripping state of the terminal device 30. FIG. 5 shows a state in which the user of the terminal device 30 is gripped in a state of facing the touch panel 31, and FIG. 6 shows that the terminal device 30 is rotated vertically around the X axis, that is, in the roll direction from the state shown in FIG. Thus, a gripping state is shown in which the user of the terminal device 30 faces the back surface of the touch panel 31 and the other member who participates in the meeting facing the user of the terminal device 30 faces the touch panel 31. .

このように、図5に示す把持状態から図6に示す把持状態へ縦回転された場合には、タッチパネル31にコンテンツ等が表示されたスクリーンを会議に参加する他のメンバに閲覧させながらコンテンツの説明を行っている可能性が高い。よって、この場合には、説明状態であると推定できる。   As described above, when the screen is rotated vertically from the gripping state shown in FIG. 5 to the gripping state shown in FIG. 6, the content displayed on the touch panel 31 can be viewed by other members participating in the conference while viewing the content. There is a high possibility of explaining. Therefore, in this case, it can be estimated that the state is the explanation state.

このことから、判定部37は、地磁気センサ35から取得された3軸の地磁気データのうちY軸の方位が所定の方位、すなわち鉛直上向きから反転しているか否かを判定する。このとき、判定部37は、Y軸の方位が鉛直上向きから反転している場合には、暫定的に「説明状態」と推定する一方で、Y軸の方位が鉛直上向きから反転していない場合には、暫定的に「非説明状態」と推定する。なお、上記の反転の可否は、Y軸の方位が鉛直下向きから所定の範囲内であるか否かを判定することとしてもよい。   From this, the determination unit 37 determines whether or not the Y-axis orientation of the triaxial geomagnetic data acquired from the geomagnetic sensor 35 is reversed from a predetermined orientation, that is, vertically upward. At this time, when the Y-axis azimuth is inverted from the vertically upward direction, the determination unit 37 temporarily estimates the “description state” while the Y-axis azimuth is not inverted from the vertically upward direction. Is temporarily estimated as a “non-explanatory state”. Whether or not the above-described reversal is possible may be determined by determining whether or not the Y-axis orientation is within a predetermined range from the vertically downward direction.

(C)加速度データ
図7及び図8は、端末装置30の把持状態の一例を示す図である。図7には、端末装置30の使用者がタッチパネル31と正対する状態で把持された状態を示し、図8には、図5に示した状態からY軸周り、すなわちピッチ方向へ横回転させることによって、端末装置30の使用者にはタッチパネル31の裏面を正対させると共に、端末装置30の使用者と正対する会議に参加する他のメンバへタッチパネル31を正対させた把持状態を示している。
(C) Acceleration Data FIGS. 7 and 8 are diagrams illustrating an example of a gripping state of the terminal device 30. 7 shows a state in which the user of the terminal device 30 is gripped in a state of facing the touch panel 31, and FIG. 8 shows that the user rotates the Y axis around the Y axis, that is, in the pitch direction from the state shown in FIG. Thus, a gripping state is shown in which the user of the terminal device 30 faces the back surface of the touch panel 31 and the other member who participates in the meeting facing the user of the terminal device 30 faces the touch panel 31. .

このように、図7に示す把持状態から図8に示す把持状態へ横回転された場合には、タッチパネル31にコンテンツ等が表示されたスクリーンを会議に参加する他のメンバに閲覧させながらコンテンツの説明を行っている可能性が高い。よって、この場合には、説明状態であると推定できる。   As described above, when the tablet is horizontally rotated from the gripping state shown in FIG. 7 to the gripping state shown in FIG. 8, the content displayed on the touch panel 31 is displayed while other members participating in the conference browse the screen. There is a high possibility of explaining. Therefore, in this case, it can be estimated that the state is the explanation state.

このことから、判定部37は、加速度センサ34から取得された3軸の加速度データのうちX軸またはZ軸のいずれかの加速度が所定の閾値以上にわたって変化しているか否かを判定する。このとき、判定部37は、X軸またはZ軸のいずれかの加速度が閾値以上変化している場合には、暫定的に「説明状態」と推定する一方で、X軸及びZ軸のいずれの加速度も閾値以上変化していない場合には、暫定的に「非説明状態」と推定する。   From this, the determination unit 37 determines whether the acceleration of either the X axis or the Z axis in the triaxial acceleration data acquired from the acceleration sensor 34 has changed over a predetermined threshold. At this time, when the acceleration of either the X-axis or the Z-axis has changed more than the threshold value, the determination unit 37 temporarily estimates the “explanation state”, while any of the X-axis and the Z-axis If the acceleration does not change more than the threshold, it is temporarily estimated as a “non-explanatory state”.

(D)コンテンツ通信
情報交換サービスの実行中に端末装置30がコンテンツをサーバ装置10へ送信している場合には、端末装置30の使用者が会議に参加する他のメンバに向けて資料を配付して説明しようとしている可能性が高い。よって、この場合には、説明状態であると推定できる。一方、情報交換サービスの実行中に端末装置30がサーバ装置10からコンテンツを受信している場合には、端末装置30の使用者が会議に参加する他のメンバから資料の配付を受けて説明を受ける可能性が高い。この場合には、非説明状態であると推定できる。
(D) Content communication When the terminal device 30 transmits content to the server device 10 during execution of the information exchange service, the user of the terminal device 30 distributes materials to other members participating in the conference. It is likely that you are trying to explain. Therefore, in this case, it can be estimated that the state is the explanation state. On the other hand, when the terminal device 30 receives content from the server device 10 during the execution of the information exchange service, the user of the terminal device 30 receives material from other members participating in the conference and explains the content. There is a high possibility of receiving. In this case, it can be estimated that the state is not explained.

このため、判定部37は、OS実行部36から取得されたコンテンツの通信ログが送信ログであるか否かを判定する。このとき、判定部37は、送信ログである場合には、暫定的に「説明状態」と推定する一方で、受信ログである場合には、暫定的に「非説明状態」と推定する。   For this reason, the determination unit 37 determines whether or not the content communication log acquired from the OS execution unit 36 is a transmission log. At this time, when it is a transmission log, the determination unit 37 temporarily estimates a “description state”, whereas when it is a reception log, the determination unit 37 temporarily estimates a “non-description state”.

これら(A)〜(D)の判定が実行された後、判定部37は、(A)〜(D)の判定のうちいずれかで説明状態であると判定されたか否かを判定する。このとき、判定部37は、(A)〜(D)の判定のうちいずれかで説明状態であると判定された場合には、説明状態であると見做す。一方で、判定部37は、(A)〜(D)の判定のいずれでも非説明状態であると判定された場合には、非説明状態であると見做す。これによって、最終的な総合判定がなされることになる。   After these determinations (A) to (D) are executed, the determination unit 37 determines whether or not the determination state is determined in any of the determinations (A) to (D). At this time, the determination part 37 considers it as an explanatory state, when it determines with it being an explanatory state in either of the determination of (A)-(D). On the other hand, when it is determined that any of the determinations (A) to (D) is in the non-explanation state, the determination unit 37 considers the state as the non-explanation state. As a result, a final comprehensive determination is made.

第1の記録部38は、判定部37による説明状態または非説明状態の判定結果を状態記憶部38aへ記録する処理部である。   The first recording unit 38 is a processing unit that records the determination result of the explanatory state or the non-explained state by the determination unit 37 in the state storage unit 38a.

一実施形態として、第1の記録部38は、判定部37によって総合判定がなされる度に、総合判定の結果である説明状態または非説明状態を状態記憶部38aへ記録する。このように、状態記憶部38aには、判定部37によって総合判定がなされる度に最新の総合判定の結果、すなわち説明状態または非説明状態のいずれかが記憶されることになる。   As an embodiment, the first recording unit 38 records the explanation state or the non-explanation state, which is the result of the comprehensive determination, in the state storage unit 38a every time the determination unit 37 makes a comprehensive determination. As described above, the state storage unit 38a stores the latest comprehensive determination result, that is, either the explanation state or the non-explanation state, every time the determination unit 37 makes a comprehensive determination.

第2の記録部39は、操作ログを操作ログ記憶部39aへ記録する処理部である。   The second recording unit 39 is a processing unit that records an operation log in the operation log storage unit 39a.

一実施形態として、第2の記録部39は、OS実行部36によって操作が検出される度に、状態記憶部38aに記憶された状態が説明状態または非説明状態のいずれであるかを判定する。このとき、第2の記録部39は、状態記憶部38aに記憶された状態が説明状態である場合には、当該操作もしくは操作に対応する動作に説明状態もしくは説明状態である旨を示す情報を対応付けた上で操作ログとして記録する。一方、第2の記録部39は、状態記憶部38aに記憶された状態が非説明状態である場合には、当該操作もしくは操作に対応する動作に非説明状態もしくは非説明状態である旨を示す情報を対応付けた上で操作ログとして記録する。   As an embodiment, the second recording unit 39 determines whether the state stored in the state storage unit 38a is the explanation state or the non-explanation state each time an operation is detected by the OS execution unit 36. . At this time, when the state stored in the state storage unit 38a is the explanation state, the second recording unit 39 provides information indicating that the operation or the operation corresponding to the operation is the explanation state or the explanation state. Record it as an operation log after associating it. On the other hand, when the state stored in the state storage unit 38a is the non-explanation state, the second recording unit 39 indicates that the operation or the operation corresponding to the operation is the non-explanation state or the non-explanation state. The information is associated and recorded as an operation log.

ここで、操作ログ記憶部39aに記憶させる操作ログには、Time、Name、Action、Attribute及びDataなどの項目が対応付けられたデータを採用できる。ここで言う「Time」は、操作またはコマンドが実行された時間を指す。また、「Name」は、端末装置30のアカウントを持つ利用者のユーザ名を指す。また、「Action」は、操作及び操作に対応する動作を指し、例えば、タップ、フリック、スイープ、ピンチイン、ピンチアウト、ドラッグ&ドロップや手書き入力の軌跡の他、会議への参加や退出などを含めることもできる。また、「Data」は、Actionに関連するデータを指し、例えば、端末装置30によって送受信されるコンテンツや手書き入力の軌跡などが挙げられる。図9は、操作ログの一例を示す図である。図9の例では、yyyy年mm月dd日のtt時mm分ss秒にTaro Hashimotoが手書き入力を行った操作ログであることを意味する。さらに、当該操作ログは、ローカルなログ、すなわち個人用であることを意味する。かかる操作ログによれば、操作ログが個人用であるので、グローバルなログ、すなわち説明用である操作ログに比べて公開範囲を狭めるといった管理が可能になる。なお、ここでは、個人用の操作ログを例示したが、操作ログが説明用である場合には、本例とは逆に、個人用である操作ログに比べて公開範囲を広げるといった管理も可能である。   Here, for the operation log stored in the operation log storage unit 39a, data in which items such as Time, Name, Action, Attribute, and Data are associated can be employed. Here, “Time” indicates the time when the operation or command is executed. “Name” indicates a user name of a user who has an account of the terminal device 30. “Action” indicates an operation and an operation corresponding to the operation, and includes, for example, tap, flick, sweep, pinch-in, pinch-out, drag & drop, handwriting input trajectory, and participation and exit to a conference. You can also “Data” refers to data related to the action, and includes, for example, content transmitted and received by the terminal device 30 and a locus of handwriting input. FIG. 9 is a diagram illustrating an example of an operation log. In the example of FIG. 9, it means that Taro Hashimoto has performed handwriting input at tt hour mm minute ss second on yyyy year mm month dd date. Furthermore, the operation log means a local log, that is, for personal use. According to this operation log, since the operation log is for personal use, it is possible to manage such that the disclosure range is narrower than the global log, that is, the operation log for explanation. In this example, the operation log for personal use is shown as an example. However, if the operation log is for explanation, it is possible to manage to expand the disclosure range compared to the operation log for personal use, contrary to this example. It is.

なお、上記のOS実行部36、判定部37、第1の記録部38及び第2の記録部39は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などに操作ログ記録プログラムを実行させることによって実現できる。また、上記の各機能部は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによっても実現できる。   The OS execution unit 36, the determination unit 37, the first recording unit 38, and the second recording unit 39 cause a CPU (Central Processing Unit) or an MPU (Micro Processing Unit) to execute an operation log recording program. Can be realized. Each functional unit described above can also be realized by a hard wired logic such as an application specific integrated circuit (ASIC) or a field programmable gate array (FPGA).

また、上記の状態記憶部38a及び操作ログ記憶部39aには、半導体メモリ素子や記憶装置を採用できる。例えば、半導体メモリ素子の一例としては、フラッシュメモリ(Flash Memory)、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)などが挙げられる。また、記憶装置の一例としては、ハードディスク、光ディスクなどの記憶装置が挙げられる。   Further, a semiconductor memory element or a storage device can be adopted for the state storage unit 38a and the operation log storage unit 39a. For example, examples of the semiconductor memory element include a flash memory, a dynamic random access memory (DRAM), and a static random access memory (SRAM). Further, examples of the storage device include storage devices such as a hard disk and an optical disk.

[処理の流れ]
次に、本実施例に係る端末装置30の処理の流れについて説明する。なお、ここでは、端末装置30によって実行される(1)状態記録処理について説明した後に、(2)操作ログ記録処理について説明することとする。
[Process flow]
Next, a processing flow of the terminal device 30 according to the present embodiment will be described. Here, after (1) the state recording process executed by the terminal device 30 is described, (2) the operation log recording process is described.

(1)状態記録処理
図10は、実施例1に係る状態記録処理の手順を示すフローチャートである。この処理は、端末装置30が会議へ参加してから会議を退出するまでの間、すなわち情報交換サービス中である限り、バックグラウンドで繰返し実行される。
(1) Status Recording Process FIG. 10 is a flowchart illustrating the procedure of the status recording process according to the first embodiment. This process is repeatedly executed in the background from the time when the terminal device 30 joins the conference until it leaves the conference, that is, as long as the information exchange service is being performed.

図10に示すように、判定部37は、インカメラ33aからカメラ画像を取得する(ステップS101A)。その上で、判定部37は、ステップS101Aで取得されたカメラ画像に画像処理を実行することによって人物の人数を認識して人数が1名であるか否かを判定する(ステップS102A)。   As shown in FIG. 10, the determination unit 37 acquires a camera image from the in-camera 33a (step S101A). Then, the determination unit 37 recognizes the number of persons by executing image processing on the camera image acquired in step S101A, and determines whether the number of persons is one (step S102A).

このとき、カメラ画像から認識された人数が複数名である場合(ステップS102A No)には、判定部37は、暫定的に「説明状態」と推定する(ステップS103A)。一方、判定部37は、カメラ画像から認識された人数が1名である場合(ステップS102A Yes)には、判定部37は、暫定的に「非説明状態」と推定する(ステップS104A)。   At this time, when there are a plurality of persons recognized from the camera image (No in step S102A), the determination unit 37 temporarily estimates the “description state” (step S103A). On the other hand, when the number of persons recognized from the camera image is one (step S102A Yes), the determination unit 37 temporarily estimates the “non-explanatory state” (step S104A).

これらステップS101A〜ステップS104Aの処理と並行して、判定部37は、地磁気センサ35から3軸の地磁気データを取得する(ステップS101B)。その上で、判定部37は、ステップS101Bで取得された3軸の地磁気データのうちY軸の方位が鉛直上向きから反転しているか否かを判定する(ステップS102B)。   In parallel with the processing in steps S101A to S104A, the determination unit 37 acquires triaxial geomagnetic data from the geomagnetic sensor 35 (step S101B). Then, the determination unit 37 determines whether or not the Y-axis orientation is reversed from the vertically upward direction among the three-axis geomagnetic data acquired in Step S101B (Step S102B).

このとき、Y軸の方位が鉛直上向きから反転している場合(ステップS102B Yes)には、判定部37は、暫定的に「説明状態」と推定する(ステップS103B)。一方、Y軸の方位が鉛直上向きから反転していない場合(ステップS102B No)には、判定部37は、暫定的に「非説明状態」と推定する(ステップS104B)。   At this time, when the direction of the Y axis is reversed from the vertically upward direction (step S102B Yes), the determination unit 37 temporarily estimates the “explanation state” (step S103B). On the other hand, when the Y-axis azimuth is not reversed from the vertically upward direction (No at Step S102B), the determination unit 37 temporarily estimates a “non-explanatory state” (Step S104B).

さらに、ステップS101B〜ステップS104Bの処理とも並行して、判定部37は、加速度センサ34から3軸の加速度データを取得する(ステップS101C)。その上で、判定部37は、ステップS101Cで取得された3軸の加速度データのうちX軸またはZ軸のいずれかの加速度が所定の閾値以上にわたって変化しているか否かを判定する(ステップS102C)。   Further, in parallel with the processing of step S101B to step S104B, the determination unit 37 acquires triaxial acceleration data from the acceleration sensor 34 (step S101C). After that, the determination unit 37 determines whether the X-axis or Z-axis acceleration of the three-axis acceleration data acquired in step S101C has changed over a predetermined threshold (step S102C). ).

このとき、X軸またはZ軸のいずれかの加速度が閾値以上変化している場合(ステップS102C Yes)には、判定部37は、暫定的に「説明状態」と推定する(ステップS103C)。一方、X軸及びZ軸のいずれの加速度も閾値以上変化していない場合(ステップS102C No)には、判定部37は、暫定的に「非説明状態」と推定する(ステップS104C)。   At this time, if either the X-axis or Z-axis acceleration has changed by more than the threshold (Yes in step S102C), the determination unit 37 temporarily estimates the “description state” (step S103C). On the other hand, when neither the X-axis acceleration nor the Z-axis acceleration has changed by more than the threshold (No in step S102C), the determination unit 37 temporarily estimates a “non-explanatory state” (step S104C).

さらに、ステップS101C〜ステップS104Cの処理とも並行して、判定部37は、OS実行部36からコンテンツの通信ログを取得する(ステップS101D)。その上で、判定部37は、ステップS101Dで取得されたコンテンツの通信ログが送信ログであるか否かを判定する(ステップS102D)。   Further, in parallel with the processing of step S101C to step S104C, the determination unit 37 acquires a content communication log from the OS execution unit 36 (step S101D). Then, the determination unit 37 determines whether or not the content communication log acquired in step S101D is a transmission log (step S102D).

このとき、送信ログである場合(ステップS102D Yes)には、判定部37は、暫定的に「説明状態」と推定する(ステップS103D)。一方、受信ログである場合(ステップS102D No)には、判定部37は、暫定的に「非説明状態」と推定する(ステップS104D)。   At this time, if the log is a transmission log (step S102D Yes), the determination unit 37 temporarily estimates the “description state” (step S103D). On the other hand, when it is a reception log (step S102D No), the determination unit 37 temporarily estimates a “non-explanatory state” (step S104D).

そして、判定部37は、上記の(A)〜(D)の推定のうちいずれかで説明状態であると推定されたか否かを判定する(ステップS105)。このとき、(A)〜(D)の推定のうちいずれかで説明状態であると推定された場合(ステップS105 Yes)には、判定部37は、説明状態であると最終的に総合判定する(ステップS106)。   And the determination part 37 determines whether it was estimated that it was an explanatory state in either of said estimation (A)-(D) (step S105). At this time, when it is estimated that it is in the explanation state in any of the estimations of (A) to (D) (Yes in step S105), the determination unit 37 finally comprehensively determines that it is in the explanation state. (Step S106).

一方、(A)〜(D)の推定のいずれでも非説明状態であると判定された場合(ステップS105 No)には、判定部37は、非説明状態であると最終的に総合判定する(ステップS107)。   On the other hand, when it is determined that any of the estimations of (A) to (D) is in the non-explanation state (No in step S105), the determination unit 37 finally comprehensively determines that it is in the non-explanation state ( Step S107).

その後、第1の記録部38は、ステップS106またはステップS107の総合判定の結果を状態記憶部38aへ記録し(ステップS108)、処理を終了する。   Thereafter, the first recording unit 38 records the result of the comprehensive determination in step S106 or step S107 in the state storage unit 38a (step S108), and ends the process.

(2)操作ログ記録処理
図11は、実施例1に係る操作ログ記録処理の手順を示すフローチャートである。この処理も、図10に示した状態記録処理と同様、情報交換サービス中である限り、バックグラウンドで繰返し実行される。
(2) Operation Log Recording Process FIG. 11 is a flowchart illustrating a procedure of an operation log recording process according to the first embodiment. This process is also repeatedly executed in the background as long as the information exchange service is being performed, similarly to the state recording process shown in FIG.

図11に示すように、OS実行部36によって操作が検出された場合(ステップS301 Yes)には、第2の記録部39は、状態記憶部38aに記憶された状態が説明状態または非説明状態のいずれであるかを判定する(ステップS302)。   As shown in FIG. 11, when an operation is detected by the OS execution unit 36 (step S301 Yes), the second recording unit 39 indicates that the state stored in the state storage unit 38a is in the explanatory state or the non-explained state. Is determined (step S302).

ここで、状態記憶部38aに記憶された状態が説明状態である場合(ステップS302Yes)には、第2の記録部39は、当該操作もしくは操作に対応する動作に説明状態もしくは説明状態である旨を示す情報を対応付けた上で操作ログとして記録する(ステップS303)。   Here, when the state stored in the state storage unit 38a is the explanation state (step S302 Yes), the second recording unit 39 is in the explanation state or the explanation state for the operation or the operation corresponding to the operation. Is recorded as an operation log (step S303).

一方、状態記憶部38aに記憶された状態が非説明状態である場合(ステップS302No)には、第2の記録部39は、当該操作もしくは操作に対応する動作に非説明状態もしくは非説明状態である旨を示す情報を対応付けた上で操作ログとして記録する(ステップS304)。   On the other hand, when the state stored in the state storage unit 38a is the non-explanation state (No in step S302), the second recording unit 39 is in the non-explanation state or the non-explanation state for the operation or the operation corresponding to the operation. Information indicating that there is an association is recorded as an operation log (step S304).

上記のステップS303またはステップS304の処理を実行した後に、上記のステップS301へ戻り、上記のステップS301〜ステップS304までの処理を繰返し実行する。   After executing the process in step S303 or step S304, the process returns to step S301, and the processes from step S301 to step S304 are repeated.

[効果の一側面]
上述してきたように、本実施例に係る端末装置30は、端末装置30で行われた操作を記録する場合に、端末装置30の表示データまたは記録データを相手に説明する状態であるか否かを判断し、判断した結果を記録する。したがって、本実施例に係る端末装置30によれば、説明用または個人用を特定可能な操作ログを提供できる。
[One aspect of effect]
As described above, whether or not the terminal device 30 according to the present embodiment is in a state where the display data or the recording data of the terminal device 30 is described with respect to the other party when the operation performed on the terminal device 30 is recorded. And record the result of the determination. Therefore, according to the terminal device 30 according to the present embodiment, it is possible to provide an operation log that can specify for explanation or for personal use.

さて、これまで開示の装置に関する実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。   Although the embodiments related to the disclosed apparatus have been described above, the present invention may be implemented in various different forms other than the above-described embodiments. Therefore, another embodiment included in the present invention will be described below.

[応用例]
上記の実施例1では、操作が検出される度に当該操作を説明状態または非説明状態に対応付けて操作ログを記録する場合を例示したが、他の方法によって操作ログを記録することもできる。例えば、説明状態または非説明状態の少なくともいずれか1つの状態の開始および終了を状態記憶部38aに記録させ、開始および終了の期間をもとに操作の時刻が説明状態または非説明状態のいずれに該当するか否かによって操作に説明状態または非説明状態を対応付けることとしてもよい。
[Application example]
In the first embodiment, the case where the operation log is recorded by associating the operation with the explanation state or the non-explanation state every time an operation is detected is illustrated. However, the operation log can be recorded by another method. . For example, the start and end of at least one of the explanation state and the non-explanation state is recorded in the state storage unit 38a, and the operation time is set to the explanation state or the non-explanation state based on the start and end periods. The explanation state or the non-explanation state may be associated with the operation depending on whether or not it corresponds.

[分散および統合]
また、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されておらずともよい。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、判定部37、第1の記録部38または第2の記録部39を端末装置30の外部装置としてネットワーク経由で接続するようにしてもよい。
[Distribution and integration]
In addition, each component of each illustrated apparatus does not necessarily have to be physically configured as illustrated. In other words, the specific form of distribution / integration of each device is not limited to that shown in the figure, and all or a part thereof may be functionally or physically distributed or arbitrarily distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured. For example, the determination unit 37, the first recording unit 38, or the second recording unit 39 may be connected as an external device of the terminal device 30 via a network.

[操作ログ記録プログラム]
また、上記の実施例で説明した各種の処理は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。そこで、以下では、図12を用いて、上記の実施例と同様の機能を有する操作ログ記録プログラムを実行するコンピュータの一例について説明する。
[Operation log recording program]
The various processes described in the above embodiments can be realized by executing a prepared program on a computer such as a personal computer or a workstation. In the following, an example of a computer that executes an operation log recording program having the same function as that of the above embodiment will be described with reference to FIG.

図12は、実施例1及び実施例2に係る操作ログ記録プログラムを実行するコンピュータの一例について説明するための図である。図12に示すように、コンピュータ100は、操作部110aと、スピーカ110bと、カメラ110cと、ディスプレイ120と、通信部130とを有する。さらに、このコンピュータ100は、CPU150と、ROM160と、HDD170と、RAM180とを有する。これら110〜180の各部はバス140を介して接続される。   FIG. 12 is a schematic diagram illustrating an example of a computer that executes an operation log recording program according to the first and second embodiments. As illustrated in FIG. 12, the computer 100 includes an operation unit 110a, a speaker 110b, a camera 110c, a display 120, and a communication unit 130. Further, the computer 100 includes a CPU 150, a ROM 160, an HDD 170, and a RAM 180. These units 110 to 180 are connected via a bus 140.

HDD170には、図12に示すように、上記の実施例1で示した判定部37、第1の記録部38及び第2の記録部39と同様の機能を発揮する操作ログ記録プログラム170aが予め記憶される。この操作ログ記録プログラム170aについては、図2に示した各々の判定部37、第1の記録部38及び第2の記録部39の各構成要素と同様、適宜統合又は分離してもよい。すなわち、HDD170に格納される各データは、必ずしも全てのデータがHDD170に格納されておらずともよく、処理に用いるデータのみがHDD170に格納されればよい。   As shown in FIG. 12, the HDD 170 has an operation log recording program 170a that performs the same functions as those of the determination unit 37, the first recording unit 38, and the second recording unit 39 described in the first embodiment. Remembered. The operation log recording program 170a may be integrated or separated as appropriate, like the components of the determination unit 37, the first recording unit 38, and the second recording unit 39 shown in FIG. That is, not all data stored in the HDD 170 may be stored in the HDD 170, and only data used for processing may be stored in the HDD 170.

そして、CPU150が、操作ログ記録プログラム170aをHDD170から読み出してRAM180に展開する。これによって、図12に示すように、操作ログ記録プログラム170aは、操作ログ記録プロセス180aとして機能する。この操作ログ記録プロセス180aは、HDD170から読み出した各種データをRAM180上の操作ログ記録プロセス180aに割り当てられた領域に展開し、この展開した各種データに基づいて各種処理を実行する。なお、操作ログ記録プロセス180aは、図2に示した判定部37、第1の記録部38及び第2の記録部39にて実行される処理、例えば図10〜図11に示す処理を含む。また、CPU150上で仮想的に実現される各処理部は、必ずしも全ての処理部がCPU150上で動作せずともよく、処理に用いる処理部のみが仮想的に実現されればよい。   Then, the CPU 150 reads the operation log recording program 170 a from the HDD 170 and expands it in the RAM 180. Accordingly, as shown in FIG. 12, the operation log recording program 170a functions as an operation log recording process 180a. The operation log recording process 180a expands various data read from the HDD 170 to an area allocated to the operation log recording process 180a on the RAM 180, and executes various processes based on the expanded various data. The operation log recording process 180a includes processes executed by the determination unit 37, the first recording unit 38, and the second recording unit 39 shown in FIG. 2, for example, the processes shown in FIGS. In addition, all the processing units virtually realized on the CPU 150 do not necessarily have to operate on the CPU 150, and only the processing units used for processing need only be virtually realized.

なお、上記の操作ログ記録プログラム170aについては、必ずしも最初からHDD170やROM160に記憶させておかずともよい。例えば、コンピュータ100に挿入されるフレキシブルディスク、いわゆるFD、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させる。そして、コンピュータ100がこれらの可搬用の物理媒体から各プログラムを取得して実行するようにしてもよい。また、公衆回線、インターネット、LAN、WANなどを介してコンピュータ100に接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータ100がこれらから各プログラムを取得して実行するようにしてもよい。   Note that the operation log recording program 170a is not necessarily stored in the HDD 170 or the ROM 160 from the beginning. For example, each program is stored in a “portable physical medium” such as a flexible disk inserted into the computer 100, so-called FD, CD-ROM, DVD disk, magneto-optical disk, or IC card. Then, the computer 100 may acquire and execute each program from these portable physical media. In addition, each program is stored in another computer or server device connected to the computer 100 via a public line, the Internet, a LAN, a WAN, etc., and the computer 100 acquires and executes each program from these. It may be.

1 情報交換システム
10 サーバ装置
30 端末装置
31 タッチパネル
32 通信部
33 カメラ
33a インカメラ
34 加速度センサ
35 地磁気センサ
36 OS実行部
37 判定部
38 第1の記録部
38a 状態記憶部
39 第2の記録部
39a 操作ログ記憶部
DESCRIPTION OF SYMBOLS 1 Information exchange system 10 Server apparatus 30 Terminal apparatus 31 Touch panel 32 Communication part 33 Camera 33a In-camera 34 Acceleration sensor 35 Geomagnetic sensor 36 OS execution part 37 Judgment part 38 1st recording part 38a State memory part 39 2nd recording part 39a Operation log storage

Claims (7)

端末装置に、
前記端末装置で行われた操作を記録する場合に、前記端末装置に表示された情報または前記端末装置に記憶された情報を相手に説明する状態であるか否かを判定し、
判定した結果を記録する
処理を実行させることを特徴とする操作ログ記録プログラム。
On the terminal device,
When recording an operation performed on the terminal device, it is determined whether or not the information displayed on the terminal device or information stored in the terminal device is in a state of being explained to the other party.
An operation log recording program characterized by causing a process to record a determination result to be executed.
前記端末装置に、
前記端末装置が搭載するカメラによって撮像された画像を取得する処理をさらに実行させ、
前記判定する処理は、前記画像に含まれる人物の数が1名または複数名であるか否かによって前記相手に説明する状態であるか否かを判定することを特徴とする請求項1に記載の操作ログ記録プログラム。
In the terminal device,
Further executing a process of acquiring an image captured by a camera mounted on the terminal device,
2. The determination process according to claim 1, wherein the determination process determines whether or not a state is to be explained to the other party based on whether or not the number of persons included in the image is one or more. Operation log recording program.
前記端末装置に、
前記端末装置に関する地磁気データを取得する処理をさらに実行させ、
前記判定する処理は、前記端末装置に関する地磁気データに基づいて前記端末装置の方位が所定の方位から反転しているか否かによって前記相手に説明する状態であるか否かを判定することを特徴とする請求項1に記載の操作ログ記録プログラム。
In the terminal device,
Further executing a process of acquiring geomagnetic data related to the terminal device,
The determining process determines whether or not the terminal device is in a state of explaining to the other party based on whether or not the orientation of the terminal device is reversed from a predetermined orientation based on geomagnetic data related to the terminal device. The operation log recording program according to claim 1.
前記端末装置に、
前記端末装置に関する3軸の加速度データを取得する処理をさらに実行させ、
前記判定する処理は、前記端末装置に関する3軸の加速度データのうち所定の2軸のいずれかの加速度が所定の閾値以上であるか否かによって前記相手に説明する状態であるか否かを判定することを特徴とする請求項1に記載の操作ログ記録プログラム。
In the terminal device,
And further executing a process of acquiring triaxial acceleration data related to the terminal device,
The determination process determines whether or not it is a state to be explained to the other party based on whether or not the acceleration of any two predetermined axes among the three axes acceleration data related to the terminal device is equal to or greater than a predetermined threshold. The operation log recording program according to claim 1, wherein:
前記端末装置に、
コンテンツの通信ログを取得する処理をさらに実行させ、
前記判定する処理は、前記コンテンツの通信ログが送信ログまたは受信ログのいずれであるかによって前記相手に説明する状態であるか否かを判定することを特徴とする請求項1に記載の操作ログ記録プログラム。
In the terminal device,
Further execute the process of acquiring the communication log of the content,
2. The operation log according to claim 1, wherein the determining process determines whether or not the content communication log is in a state to be explained to the other party depending on whether the communication log of the content is a transmission log or a reception log. Recording program.
端末装置が、
前記端末装置で行われた操作を記録する場合に、前記端末装置に表示された情報または前記端末装置に記憶された情報を相手に説明する状態であるか否かを判定し、
判定した結果を記録する
処理を実行することを特徴とする操作ログ記録方法。
The terminal device
When recording an operation performed on the terminal device, it is determined whether or not the information displayed on the terminal device or information stored in the terminal device is in a state of being explained to the other party.
An operation log recording method characterized by executing a process of recording the determined result.
前記端末装置で行われた操作を記録する場合に、前記端末装置に表示された情報または前記端末装置に記憶された情報を相手に説明する状態であるか否かを判定する判定部と、
判定した結果を記録する記録部と
を有することを特徴とする端末装置。
A determination unit that determines whether or not information displayed on the terminal device or information stored on the terminal device is in a state of being explained to the other party when the operation performed on the terminal device is recorded;
And a recording unit that records the result of the determination.
JP2014159066A 2014-08-04 2014-08-04 Operation log recording program, operation log recording method and terminal device Expired - Fee Related JP6825801B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014159066A JP6825801B2 (en) 2014-08-04 2014-08-04 Operation log recording program, operation log recording method and terminal device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014159066A JP6825801B2 (en) 2014-08-04 2014-08-04 Operation log recording program, operation log recording method and terminal device

Publications (2)

Publication Number Publication Date
JP2016035720A true JP2016035720A (en) 2016-03-17
JP6825801B2 JP6825801B2 (en) 2021-02-03

Family

ID=55523522

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014159066A Expired - Fee Related JP6825801B2 (en) 2014-08-04 2014-08-04 Operation log recording program, operation log recording method and terminal device

Country Status (1)

Country Link
JP (1) JP6825801B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05233378A (en) * 1991-12-02 1993-09-10 Nec Corp Interaction history generation device
JP2003099546A (en) * 2001-06-08 2003-04-04 Microsoft Corp System for providing peripheral awareness of information automatically, and method for providing dynamic object
JP2008243079A (en) * 2007-03-28 2008-10-09 Toshiba Corp Information management apparatus, information management method, and information management program
JP2008242837A (en) * 2007-03-27 2008-10-09 Toshiba Corp Apparatus, method and program for managing communication status
JP2012008932A (en) * 2010-06-28 2012-01-12 Sharp Corp Electronic equipment
US20120150577A1 (en) * 2010-12-14 2012-06-14 Microsoft Corporation Meeting lifecycle management
JP2013098875A (en) * 2011-11-02 2013-05-20 Fujitsu Ltd Mobile terminal device, information display method and information display program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05233378A (en) * 1991-12-02 1993-09-10 Nec Corp Interaction history generation device
JP2003099546A (en) * 2001-06-08 2003-04-04 Microsoft Corp System for providing peripheral awareness of information automatically, and method for providing dynamic object
JP2008242837A (en) * 2007-03-27 2008-10-09 Toshiba Corp Apparatus, method and program for managing communication status
JP2008243079A (en) * 2007-03-28 2008-10-09 Toshiba Corp Information management apparatus, information management method, and information management program
JP2012008932A (en) * 2010-06-28 2012-01-12 Sharp Corp Electronic equipment
US20120150577A1 (en) * 2010-12-14 2012-06-14 Microsoft Corporation Meeting lifecycle management
JP2013098875A (en) * 2011-11-02 2013-05-20 Fujitsu Ltd Mobile terminal device, information display method and information display program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
大和 淳司: "人と機械のインタラクションにおける画像技術", 映像情報メディア学会技術報告, vol. 第31巻,第39号, JPN6018025964, 28 August 2007 (2007-08-28), pages 65 - 68, ISSN: 0003833723 *

Also Published As

Publication number Publication date
JP6825801B2 (en) 2021-02-03

Similar Documents

Publication Publication Date Title
EP2756667B1 (en) Electronic tool and methods for meetings
US10050800B2 (en) Electronic tool and methods for meetings for providing connection to a communications network
US20130290475A1 (en) Shared access to a remotely running application
CN103065235B (en) Event attendance notification system and method
US20130080560A1 (en) System and Method for Sharing Digital Data on a Presenter Device to a Plurality of Participant Devices
WO2017092360A1 (en) Interaction method and device used when multimedia is playing
US10965480B2 (en) Electronic tool and methods for recording a meeting
WO2019062586A1 (en) Method and apparatus for displaying conference information
EP3131257A1 (en) Program, information processing apparatus, and information processing system for use in an electronic conference system
CN114071425A (en) Electronic equipment and cooperation method and cooperation system thereof
JP6337910B2 (en) Information terminal, system, control method, and storage medium
KR101201191B1 (en) System and method for providing one class of users of an application a view of what another class of users of the application is visually experiencing
CN104469078A (en) Interactive projection control method and system
US20250365260A1 (en) Network call method and apparatus, device, and medium
US11656834B2 (en) Information processing device, non-transitory recording medium, and information processing system
JP2017111766A (en) Information distribution system, program, and information distribution method
TW201716975A (en) Method and apparatus for real-time video interaction
US9813748B2 (en) Coordination of video and/or audio recording
US20250123785A1 (en) Systems and methods for automation of projection mode based on display detection
JP5920829B2 (en) Method for sharing display of application window, information terminal device, and computer program
KR101368780B1 (en) Multi communication service system and multi communication service method
JP6825801B2 (en) Operation log recording program, operation log recording method and terminal device
JP2017069936A (en) Communication terminal, communication system, output method, and program
CN103685362B (en) Information sharing processing device and information sharing processing method
CN103384293A (en) Method for collaboration application among split type terminals and split type terminals

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191227

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20191227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200114

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200121

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200319

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200324

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200908

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201006

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20201124

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210105

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210114

R150 Certificate of patent or registration of utility model

Ref document number: 6825801

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees