JP2011204179A - インシデント回避装置およびコンピュータプログラム - Google Patents

Abstract

【課題】 インターネット上でのコミュニティのインシデント発生を未然に防いだり、予兆段階で抑え込むとともに、インシデントの関係者に対して教育的な指導の機会を設ける技術を提供する。
【解決手段】 インシデントに関するデータを随時蓄積しているインシデントデータベースと、仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手段と、変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手段と、インシデントの発生を検知した場合には、前記の仮想空間を変更する変更手段と、を備える。前記変更手段は、インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更する。
【選択図】 図１

Description

本発明は、インターネット上の仮想空間の参加者に対して、参加者同士のトラブルが発生した場合に大きなトラブルに発展することを回避するためのインシデント管理装置およびコンピュータプログラムに関する。

さて、インターネットにおける双方向通信という特性を用いた技術に電子掲示板やＳＮＳ（ソーシャル・ネットワーク・システム）がある。
こうした技術では、その仮想空間に参加するユーザが独自のコミュニティを形成し、物理的に離れている人とのコミュニケーションが楽しめる、という特性がある。 その一方、匿名性によって、そのコミュニティの特定の誰かを攻撃する、といったトラブルが発生している。

そうしたトラブルを防止するための技術としては、たとえば特許文献１において開示されている。
すなわち、「掲示板への投稿があったときに監視者がすぐに内容を検閲することができ、即時に電子掲示板への掲示を防止できて長時間不適切な投稿情報が掲示されることを防止できる」という技術が開示されている。

さて、インシデント・アクシデントレポートに対して、軽微なインシデントに潜む潜在的な問題の大きさを評価することは難しい。 すなわち、全てのインシデントに対策を打つと、対策が乱立してしまうという問題点がある。 効果的な対策を取るためには、潜在的に問題の大きな業務を客観的に評価する仕組みが必要である。

そうした問題点を解決するための手段として、特許文献２には、インシデント・アクシデントレポートから潜在損失を算出することのできるインシデント・アクシデントレポート分析の技術を開示している。 すなわち、「危険度に対応する確率値と前記影響度に対応する損失量とが予め記録されるデータテーブルと、失敗の回数を表すＮの値とリスク許容パラメータを表すαの値とが予め記憶されるパラメータ記憶部と、同じ失敗が前記Ｎ回繰り返されたときに前記α％の確率で発生する損失量からなる潜在損失を、前記危険度に対応する確率値と前記影響度に対応する損失量とを用いて計算するリスク計算部とを具備するインシデント・アクシデントレポート分析装置」を開示している。

特開２００４−２４６７６０号公報 特開２００８−２６９３５４号公報

インターネット上でのコミュニティにおけるインシデント対策は、特許文献２に記載されたような技術は馴染まない場合が多い。損失やリスクを計算するというドライな対策ではなく、コミュニティにおけるコミュニケーションを楽しみ、コミュニケーションの中から様々なことを学んでいくことこそ、コミュニティの存在意義だからであろう。

しかし、これまでのフィルタリング技術では、登録されているＮＧワードが含まれているだけで全てシャットアウトしてしまう。また、特許文献１に記載されたような技術では、単にＮＧワードやＮＧ表現に素早く対応する、というだけになってしまう。

ストーカー行為が発生した、あるいはストーカー行為が発生しそうである、という状態となった場合に、その関係者たるユーザのコミュニティに対するアクセスをシャットアウトする、ということで、表面上はトラブルの発生や拡大を抑制することはできる。
しかし、コミュニティの中で、特定のユーザがストーカー行為をし、他の特定ユーザがストーカー被害を受けているとすれば、双方に問題が潜んでいることが多い。ストーカー行為をする側、ストーカー行為をされる側のいずれに対しても教育的な指導をしないと、そうしたトラブルは繰り返される可能性が高い。 インターネット上の行為も同様である。

本発明が解決すべき課題は、インターネット上でのコミュニティにおいて発生するインシデントに対して、インシデントを未然に防いだり、予兆段階で抑え込むとともに、インシデントの関係者に対して教育的な指導の機会を設けることが可能な技術を提供することにある。
第一の発明は、インシデントの関係者に対して教育的な指導の機会を設けることが可能な装置を提供することを目的とする。
第二の発明は、インシデントの関係者に対して教育的な指導の機会を設けることが可能なコンピュータプログラムを提供することを目的とする。

（第一の発明）
本願における第一の発明は、 複数のユーザが仮想空間を共用できるように提供するシステムにおいて用いられるインシデント回避装置に係る。
すなわち、 インシデントに関するデータを随時蓄積しているインシデントデータベースと、 前記の仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手段と、 その自動閲覧手段が把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手段と、 そのインシデント解析手段がインシデントの発生を検知した場合には、前記の仮想空間を変更する変更手段と、 を備える。 そして、前記変更手段は、インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更することとしたインシデント回避装置である。

（用語説明）
「インシデント」とは、事件、ハプニング、脅威などと訳されるが、アクシデントとほぼ同義である。
「インシデントデータベース」とは、インシデントの発生に関する過去の事例におけるデータである。たとえばいじめ行為やストーカー行為であれば、加害者の属性、被害者の属性、加害者によるＮＧワードやＮＧセンテンスの種類などを蓄積している。
「自動閲覧手段」とは、ユーザによる仮想空間に対する操作全般を自動的に把握する手段であり、例えばユーザの発言やユーザが操作するアバターの行動を常に把握する。アバターの行動とは、発言、行為 （手の動き、足の動き、身体全体の動き）、表情（顔の変化）などである。
「随時蓄積」とは、定期的にインターネット上を巡回して収集したデータを蓄積したり、ユーザなどから提供されるデータを蓄積したりと、データの追加更新が適宜可能である旨を意図している。
「変更手段」による仮想空間の変更とは、他の請求項にて特定する場合の他、たとえば、仮想空間を夜にして見えにくくしたり、天候を悪化させて雨宿りを余儀なくさせたり、といった環境の変更などである。

（作用）
インシデントに関するデータをインシデントデータベースに随時蓄積している。 仮想空間がユーザのアクセスによって変更が加えられることを自動閲覧手段が把握する。 その自動閲覧手段が把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生をインシデント解析手段が検知する。 そのインシデント解析手段がインシデントの発生を検知した場合には、変更手段が仮想空間を変更する。すなわち、インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更する。
仮想空間の変更に伴い、ユーザは意図していた言動とは別な言動をせざるを得なくなり、インシデントの発生やトラブルの拡大を遅らせたり、中断させたりすることとなる。場合によっては、インシデントを未然に防いだり、予兆段階で抑え込むことにもなる。

（第一の発明のバリエーション１）
第一の発明は、前記の変更手段につき、インシデントの原因となったユーザに対する当該仮想空間への入力環境を変更することとしてもよい。

（用語説明）
「インシデントの原因となったユーザ」とは、インシデントの加害者となったユーザの場合の他、被害者となったユーザをも含める場合がある。
「入力環境の変更」とは、たとえば、ユーザに係る情報端末からの入力に対する反応速度を遅くしたりすることである。

（作用）
インシデントの原因となったユーザに対する当該仮想空間への入力環境が変更されることにより、インシデントの発生やトラブルの拡大を遅らせたり、中断させたりすることとなる。

（第一の発明のバリエーション２）
第一の発明は、前記の変更手段につき、インシデントの被害者となる可能性のあるユーザに対する当該仮想空間の閲覧状態を変更することとしてもよい。

（用語説明）
「仮想空間の閲覧状態を変更」とは、被害者となる可能性のあるユーザ以外のユーザが閲覧している仮想空間と、被害者となる可能性のあるユーザが閲覧している仮想空間とを異ならせることである。より具体的には、被害者となる可能性のあるユーザにとっての閲覧画面では普通に操作できるものの、他のユーザにおける閲覧画面では、被害者となる可能性のあるユーザの痕跡（アバターであれば姿）が見えなくなるようにする。

（作用）
インシデントの被害者となる可能性のあるユーザに対する当該仮想空間の閲覧状態が変更されることにより、インシデントの発生やトラブルの拡大を遅らせたり、中断させたりすることとなる。

（第一の発明のバリエーション３）
第一の発明は、以下のように形成することもできる。
すなわち、前記インシデント解析手段がインシデントの発生を検知しない場合に、その旨を報告するためのＯＫ報告データを、発言データに係るユーザの法的責任者に係る情報端末へ送信する開示可否送信手段と、 その開示可否送信手段を受信した前記法的責任者に係る情報端末から前記の仮想空間への反映を許諾するか否かの許否データを受信する許否データ受信手段と、 その許否データ受信手段が受信した許否データが許諾である場合には、当該発言データを前記の仮想空間に対してユーザが閲覧可能とする閲覧出力手段と、を備えたインシデント回避装置である。

（用語説明）
「発言データ」とは、テキスト入力による発言のほか、アバターのボディアクションを操作するための操作データを含む。
「ＯＫ報告データ」とは、本願に係るインシデント解析手段やインシデントデータベースによっては、インシデントの発生は無いという旨を含む報告である。
「法的責任者」とは、仮想空間の利用者が未成年である場合には、両親または同居の親族などである。仮想空間の利用者が組織に属している立場である場合には、その組織における前記利用者の上司などである。

（作用）
インシデント解析手段がインシデントの発生を検知しない場合に、開示可否送信手段がその旨を報告するためのＯＫ報告データを、発言データに係るユーザの法的責任者に係る情報端末へ送信する。 前記法的責任者は、その開示可否送信手段を受信したら、前記の仮想空間への反映を許諾するか否かの許否データを送信し、その許否データは許否データ受信手段が受信する。 その許否データ受信手段が受信した許否データが許諾である場合には、閲覧出力手段が当該発言データを前記の仮想空間に対してユーザが閲覧可能とする。
インシデント解析手段がインシデントの発生を検知しない発言データであっても、ユーザの法的責任者がインシデントの発生を予測する発言データは、仮想空間に反映されることを未然に防止することができる。

（第二の発明）
本願の第二の発明は、複数のユーザが仮想空間を共用できるように提供するためのコンピュータプログラムに係る。
そのプログラムは、 インシデントに関するデータをインシデントデータベースに随時蓄積するインシデントデータ蓄積手順と、 前記の仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手順と、 その自動閲覧手順にて把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手順と、 そのインシデント解析手順にてインシデントの発生を検知した場合には、当該インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更する変更手順と、 コンピュータに実行させることとしたコンピュータプログラムである。

（第二の発明のバリエーション１）
第二の発明は、前記の変更手順につき、前記インシデントの原因となったユーザに対する当該仮想空間への入力環境を変更する手順を含むこととしたコンピュータプログラムとすることもできる。

（第二の発明のバリエーション２）
第二の発明は、前記の変更手順につき、前記インシデントの被害者となる可能性のあるユーザに対する当該仮想空間の閲覧状態を変更する手順を含むこととしたコンピュータプログラムとすることもできる。

第二の発明は、記録媒体（たとえば、ハードディスク、ＣＤ−Ｒ、ＤＶＤ−Ｒなど）に格納して提供することもできる。また、通信回線を介して送信することもできる。

第一の発明によれば、インシデントの関係者に対して教育的な指導の機会を設けることが可能な装置を提供することができた。
また、第二の発明によれば、インシデントの関係者に対して教育的な指導の機会を設けることが可能なコンピュータプログラムを提供することができた。

本発明の実施形態に係るブロック図である。 本発明の実施形態における主要部を示すブロック図である。 本発明の実施形態におけるバリエーションを示すブロック図である。

以下、本願発明を実施形態に基づいて更に詳しく説明する。 まず、図1に基づいて本実施形態の概要について説明する。
「システム運営者」とは、ユーザに仮想空間を提供し、その仮想空間を運営管理するサービス業者である。 その仮想空間は、掲示板のように文字だけをアップしていくものの他、ユーザがその仮想空間で自らの代わりとなるアバターを行動させたり、発言させたりするものであってもよい。
この実施形態にて示す仮想空間は、基本的に未成年がユーザとして参加する仮想空間であり、未成年の参加者を「ユーザａ」、「ユーザｂ」として図示している。

ユーザａの保護者は、準参加者としての地位があり、「ユーザＡ」として図示している。同様に、ユーザｂの保護者もまた準参加者としての地位があり、「ユーザＢ」として図示している。 ここで、「準参加者」とは、仮想空間に対する直接の書き込みや働きかけはできないが、子ども（ａ，ｂ）の法的責任者として、またこの仮想空間を教育の場として利用する子ども（ａ，ｂ）の保護者（教育者）として、所定の情報を受信したり、発信できたりする。詳細は後述する。

なお、子どもが自分のアドレスを他人に貸してアクセスすることを防止するため、登録したＩＰアドレス（特定の情報端末）からしかログインできないようにしている。 更に、保護者が許諾した時間帯でしかログインできないような設定を提供することで、例えば深夜にこの仮想空間にアクセスするようなことを未然に防止することもできる。
なお、図示を省略しているが、ユーザとなった会員に関する属性情報は、会員データベースに蓄積されている。

インシデントデータベースは、様々なインターネットサイトの調査、その調査に基づく有害サイトのリスト自動生成やそこで発生しているインシデントに関するデータ、意図せぬ差別発言などを防止するためのデータ登録を随時行っている。 そのほかユーザの家族構成や対象年齢といった属性情報を登録している会員データベースのデータと連係させ、登録されたインシデントデータを年齢毎に使い分けられるようにしている。
たとえば、ユーザａが自分の生年月日を教えるような発言をアップロードした場合、ユーザＡによって予めユーザａを含む家族の生年月日が会員の属性データとして登録されていれば、過去のインシデントデータや行為の温床となるというインシデント解析手段の解析結果により、一般ユーザが閲覧できるようにすることはない。

本システムは、インシデントデータベースのほかに、ユーザからの発言データを受信する発言受信手段と、 前記の仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手段と、 その自動閲覧手段が把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手段と、 そのインシデント解析手段がインシデントの発生を検知した場合には、前記の仮想空間を変更する閲覧状態変更制限手段と、 を備える。
なお、「発言データ」とは、テキスト入力による発言のほか、アバターのボディアクションを操作するための操作データを含む。
閲覧状態変更制限手段については、ユーザに対する閲覧状態を変更したり制限したりするものであるが、詳細については図２を用いて後述する。

インシデント解析手段に対しては、発言データや閲覧用出力を自動的に巡回し、インシデントの発生を本システムのオペレータが監視するタイミングを知らせたりする自動閲覧手段を備えている。 また、必要に応じて本システムのオペレータが人為的に閲覧するための人為閲覧手段も備えている。
インシデント解析手段によって問題なしと判断された場合、ユーザが閲覧できる状態として、閲覧用出力手段によって、当該発言データをアップロードする。
なお、インシデントが発生した場合、インシデント報告手段がインシデントの発生の旨、および関連する事項に関するデータなどを、インシデント報告データとして、ユーザＡに係る情報端末へ送信する。

図２を用いて、閲覧状態変更手段が、インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更する、ということについて更に詳しく説明する。 図２においては、ユーザａがストーカー行為をするインシデント加害者、ユーザｂがユーザａにストーカー行為をされるインシデント被害者であるとする。
インシデント解析手段がインシデントの発生を検知すると、閲覧状態変更制限手段が、閲覧用出力手段に働きかけ、ユーザａが閲覧している仮想空間と、ユーザｂが閲覧している仮想空間とを変化させる。 図示するように、ユーザａが閲覧した仮想空間では、仕切り壁が出現し、その仕切り壁の向こう側にユーザｂのアバターが隠れてしまう、というようにする。ユーザｂのアバターは波線で示しているが、ユーザａからは見えにくくなっている。 このため、ユーザａは、それ以上のいじめ行為やストーカー行為の継続が困難となる。

一方、ユーザｂの閲覧している仮想空間は、ユーザａのアバターが波線で示されているが、実態を失いかけている、というようにする。これにより、ユーザｂは、ユーザａの存在におびえているような状態から少し解放される可能性がある。
以上のように、ユーザ毎に閲覧している仮想空間を変更し、インシデントの拡大を防ぎつつ、ユーザには何が起きているのかをさりげなく伝える。 これによって、ユーザａは、「いけないことをしていたかもしれない」と気づく機会を得る。 また、ユーザｂも、「ストーカー行為をされないようにするには、どうしたら良かったのか？」ということを考える機会を得る。

なお、閲覧状態変更制限手段は、上記のように、仮想空間をユーザ毎に変化させるだけではない。たとえば仮想空間を夜にして見えにくくしたり、天候を悪化させて雨宿りを余儀なくさせたり、といった環境を変更するという方法でも良い。
また、仮想空間に働きかけるだけではなく、ユーザの情報端末に働きかける場合もある。たとえば、ユーザａの発言送信手段の動きが鈍くなるような信号を、ユーザａの情報端末に送信する、などである。

図３を用いて、本実施形態のバリエーションについて説明する。
図３に示すのは、インシデントが発生しておらず問題なし、とインシデント解析手段が解析した場合であっても、子ども（ユーザａ）の発言については、その保護者（ユーザＡ）がチェックするという手順を踏むことによって、インシデント解析手段ではインシデントの発生を未然に防ぎきれないような場合に対応しようというものである。
ユーザａが発言データを送信し、発言受信手段がそれを受信して、インシデント解析手段によって問題なしと判断されたとする。 しかし、そのまま閲覧出力手段に供するのではなく、開示可否送信手段にて「ユーザａの発言データは問題なしと判断したが、閲覧に供しても良いか？」という旨のＯＫ報告をユーザＡに係る情報端末に送信する。

ＯＫ報告を受信したユーザＡは、自分の子どもであるユーザａの発言データを確認し、閲覧に供しても良いか否か（許否データ）を許否返答送信手段から返信する。
システム側では、許否データ受信手段がその許否データを受信し、「許諾」である場合には閲覧出力手段に対して、当該発言データのアップロードを許諾する。許否データが「否」である場合には、閲覧出力手段に対して、当該発言データのアップロードを許諾せず、インシデントデータベースに対して、インシデントデータを記録する。

この手順を踏むというのは、ユーザａが過去に問題を起こしたことがある、というような場合に限定して運用することとしても良い。 すべてにおいてこの手順を踏むこととすると、仮想空間での活動に円滑さが損なわれるからである。
また、子どもユーザにとって、すべての発言を保護者に見られている、とすると、自由な発言や行動がとれず、教育的にもマイナス面が出る可能性があるからである。

本願発明は、パーソナルコンピュータや携帯電話などの通信機器を介してインターネットに接続して利用するサービスに関わる事業者、例えば通信機器用のソフトウェアを提供するソフトウェア開発業、前記サービスのシステム運営業、ネットワークを提供する通信事業などにおいて、利用可能性を有する。
ビジネス用途に用いる会議システムにも、教育分野における教育システムにも用いることができる。

Claims (7)

1. 複数のユーザが仮想空間を共用できるように提供するシステムにおいて、
   インシデントに関するデータを随時蓄積しているインシデントデータベースと、
   前記の仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手段と、
   その自動閲覧手段が把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手段と、
   そのインシデント解析手段がインシデントの発生を検知した場合には、前記の仮想空間を変更する変更手段と、 を備え、
   前記変更手段は、インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更することとしたインシデント回避装置。
2. 前記変更手段は、前記インシデントの原因となったユーザに対する当該仮想空間への入力環境を変更することとした請求項１に記載のインシデント回避装置。
3. 前記変更手段は、前記インシデントの被害者となる可能性のあるユーザに対する当該仮想空間の閲覧状態を変更することとした請求項１または請求項２のいずれかに記載のインシデント回避装置。
4. 前記インシデント解析手段がインシデントの発生を検知しない場合に、その旨を報告するためのＯＫ報告データを、発言データに係るユーザの法的責任者に係る情報端末へ送信する開示可否送信手段と、
   その開示可否送信手段を受信した前記法的責任者に係る情報端末から前記の仮想空間への反映を許諾するか否かの許否データを受信する許否データ受信手段と、
   その許否データ受信手段が受信した許否データが許諾である場合には、当該発言データを前記の仮想空間に対してユーザが閲覧可能とする閲覧出力手段と、
   を備えた請求項１から請求項３のいずれかに記載のインシデント回避装置。
5. 複数のユーザが仮想空間を共用できるように提供するためのコンピュータプログラムであって、
   インシデントに関するデータをインシデントデータベースに随時蓄積するインシデントデータ蓄積手順と、
   前記の仮想空間が前記ユーザのアクセスによって変更が加えられることを把握する自動閲覧手順と、
   その自動閲覧手順にて把握した変更後の仮想空間に対して前記インシデントデータベースのデータを用いてインシデントの発生を検知するインシデント解析手順と、
   そのインシデント解析手順にてインシデントの発生を検知した場合には、当該インシデントの原因となったユーザに対する当該仮想空間の閲覧状態を変更する変更手順と、 コンピュータに実行させることとしたコンピュータプログラム。
6. 前記の変更手順には、前記インシデントの原因となったユーザに対する当該仮想空間への入力環境を変更する手順を含むこととした請求項４に記載のコンピュータプログラム。
7. 前記の変更手順には、前記インシデントの被害者となる可能性のあるユーザに対する当該仮想空間の閲覧状態を変更する手順を含むこととした請求項４または請求項５のいずれかに記載のコンピュータプログラム。

Images