[go: up one dir, main page]

JP2020154709A - Server, communication method, and communication program - Google Patents

Server, communication method, and communication program Download PDF

Info

Publication number
JP2020154709A
JP2020154709A JP2019052486A JP2019052486A JP2020154709A JP 2020154709 A JP2020154709 A JP 2020154709A JP 2019052486 A JP2019052486 A JP 2019052486A JP 2019052486 A JP2019052486 A JP 2019052486A JP 2020154709 A JP2020154709 A JP 2020154709A
Authority
JP
Japan
Prior art keywords
external display
display
communication terminal
server
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019052486A
Other languages
Japanese (ja)
Other versions
JP6750799B1 (en
Inventor
天宇 トウ
Tianyu Tou
天宇 トウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2019052486A priority Critical patent/JP6750799B1/en
Application granted granted Critical
Publication of JP6750799B1 publication Critical patent/JP6750799B1/en
Publication of JP2020154709A publication Critical patent/JP2020154709A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

To allow for minimizing battery consumption of a communication terminal. and optimizing content requested by the communication terminal for an external display.SOLUTION: A server 6 provided herein is connected to a communication terminal 1 and an external display 2 separate from the communication terminal 1 via a network, and configured to transform content requested by the communication terminal for the external display and send the transformed content to the extremal display.SELECTED DRAWING: Figure 1

Description

本発明は、サーバ、通信端末、通信システム、通信方法及び通信プログラムに関する。 The present invention relates to servers, communication terminals, communication systems, communication methods and communication programs.

タッチパネル、メモリ、及びバッテリ等の技術の進展により、内線電話、メール、チャット、文書閲覧、ビデオストリーミング、プリントなどを含むスマートフォンの多様な機能はすでにノートパソコンにも匹敵している。こうした高機能のスマートフォンは、プライベート利用だけでなく、BYOD(Bring your own device)端末として職場に持ち込まれ、業務にも利用されている。PC(Personal Computer)の入力I/F(interface)は、汎用で正確な入力の実現にフォーカスしてきたのに対して、スマートフォンのマルチタッチスクリーンは同等な入力機能に加えて、様々な操作スタイルをサポートする直感的で効率的な操作I/Fを有する。しかし、スマートフォンだけでは、狭く限られた画面サイズにより、視認性が低下し、結果的に、目の疲れなど症状を引き起こす恐れがある。そのため、PCなしの状態でスマートフォンだけで、業務コンテンツの細かい確認と編集を行うことはまだ現実的ではなく、スマートフォンの業務での利用は限られている。 With advances in technologies such as touch panels, memory, and batteries, the various functions of smartphones, including extension phones, emails, chats, document viewing, video streaming, and printing, are already comparable to laptop computers. These high-performance smartphones are brought to the workplace as BYOD (Bring your own device) terminals and used for business as well as for private use. The input I / F (interface) of a PC (Personal Computer) has focused on the realization of general-purpose and accurate input, while the multi-touch screen of a smartphone has various operation styles in addition to the equivalent input function. It has an intuitive and efficient operation interface that supports it. However, with smartphones alone, visibility is reduced due to the narrow and limited screen size, and as a result, symptoms such as eye strain may occur. Therefore, it is not yet realistic to perform detailed confirmation and editing of business contents only with a smartphone without a PC, and the use of smartphones in business is limited.

そこで、オフィスの従業員のデスクやオープンスペース、会議室に置かれた外部ディスプレイが着目されている。しかし、外部ディスプレイは、PCに接続して大画面での資料閲覧を想定しているため、BYOD端末と接続する際に、接続作業や画面遷移操作が複雑で手間がかかるという問題がある。 Therefore, attention is being paid to external displays placed on the desks, open spaces, and conference rooms of office employees. However, since the external display is supposed to be connected to a PC for viewing materials on a large screen, there is a problem that the connection work and the screen transition operation are complicated and time-consuming when connecting to the BYOD terminal.

この問題を解消するために、ディスプレイ装置で支援される第1通信インタフェース情報とカメラを通じて入力されたモバイル装置の第2通信インタフェース情報に基づいて、モバイル装置との通信連結を設定するディスプレイ装置が開示されている(特許文献1参照)。 In order to solve this problem, the display device that sets the communication connection with the mobile device based on the first communication interface information supported by the display device and the second communication interface information of the mobile device input through the camera is disclosed. (See Patent Document 1).

また、携帯通信端末が外部表示装置及び外部入力装置と接続した場合、携帯通信端末が外部表示装置と外部入力装置の組み合わせによる最適なユーザインタフェースを認識する通信接続システムが開示されている(特許文献2参照)。さらに、特許文献2には、スマートフォンで動作するOS上に仮想的なPC(所謂、仮想PC)を作成し、作成した仮想PC内で別のOSを動作させ、別のOSのユーザインタフェースをディスプレイに表示することも開示されている。 Further, a communication connection system is disclosed in which a mobile communication terminal recognizes an optimum user interface by combining an external display device and an external input device when the mobile communication terminal is connected to an external display device and an external input device (Patent Documents). 2). Further, in Patent Document 2, a virtual PC (so-called virtual PC) is created on an OS running on a smartphone, another OS is operated in the created virtual PC, and a user interface of the other OS is displayed. It is also disclosed to display in.

特開2015−130661号公報JP-A-2015-130661 特開2018−042260号公報JP-A-2018-042260

特許文献1のディスプレイ装置では、機器間の通信連絡を要請するユーザの操作に対応して各機器に設けられたカメラとディスプレイを通じて通信連結が自動的に行われる。しかし、外部ディスプレイとスマートフォンとの間のレイアウト及び操作の違いにより、BYOD端末を用いた場合の生産性はあまり改善されていない。 In the display device of Patent Document 1, communication connection is automatically performed through a camera and a display provided in each device in response to an operation of a user who requests communication communication between devices. However, due to differences in layout and operation between the external display and the smartphone, the productivity when using the BYOD terminal has not been improved so much.

また、特許文献2では、スマートフォンのバッテリ容量が限られているにもかかわらず、スマートフォン上で仮想PCを使用してしまうと、スマートフォンのバッテリの消耗が激しいという問題がある。 Further, in Patent Document 2, although the battery capacity of the smartphone is limited, there is a problem that the battery of the smartphone is drastically consumed when the virtual PC is used on the smartphone.

本発明は、このような問題点を解決するためになされたものであり、通信端末のバッテリ消耗を抑制し、通信端末により要求されたコンテンツを外部ディスプレイに適切に表示させる、サーバ、通信端末、通信システム、通信方法、及び通信プログラムを提供することを目的とする。 The present invention has been made to solve such a problem, and is a server, a communication terminal, which suppresses battery consumption of a communication terminal and appropriately displays the content requested by the communication terminal on an external display. It is an object of the present invention to provide a communication system, a communication method, and a communication program.

本発明の第1の態様にかかるサーバは、通信端末及び前記通信端末とは別体の外部ディスプレイとネットワークを介して接続され、
前記通信端末により要求されたコンテンツを、前記外部ディスプレイ用に変換し、前記外部ディスプレイに送信する。
The server according to the first aspect of the present invention is connected to a communication terminal and an external display separate from the communication terminal via a network.
The content requested by the communication terminal is converted for the external display and transmitted to the external display.

本発明の第2の態様にかかる通信端末は、外部ディスプレイと関連付けるための、前記外部ディスプレイに表示される、識別コードを読み取る撮像部と、
コンテンツを、前記外部ディスプレイ用に変換し、前記外部ディスプレイに送信するようにサーバに要求する制御部と、
を備える。
The communication terminal according to the second aspect of the present invention includes an imaging unit that reads an identification code displayed on the external display for associating with the external display.
A control unit that requests the server to convert the content for the external display and send it to the external display.
To be equipped.

本発明の第3の態様にかかる通信システムは、上記のサーバと、
上記の通信端末と、
前記通信端末とは別体の外部ディスプレイと、
を備える。
The communication system according to the third aspect of the present invention includes the above server and
With the above communication terminal
An external display separate from the communication terminal,
To be equipped.

本発明の第4の態様にかかる通信方法は、通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用にサーバで変換し、前記外部ディスプレイに送信する。 In the communication method according to the fourth aspect of the present invention, the content requested by the communication terminal is converted by the server for an external display separate from the communication terminal and transmitted to the external display.

本発明の第5の態様にかかる通信プログラムは、通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用に変換し、前記外部ディスプレイに送信する処理、をコンピュータに実行させる。 The communication program according to the fifth aspect of the present invention causes a computer to perform a process of converting content requested by a communication terminal for an external display separate from the communication terminal and transmitting the content to the external display. ..

本発明によれば、通信端末のバッテリ消耗を抑制し、通信端末により要求されたコンテンツを外部ディスプレイに最適化させる、サーバ、通信端末、通信システム、通信方法、及び通信プログラムを提供することができる。 According to the present invention, it is possible to provide a server, a communication terminal, a communication system, a communication method, and a communication program that suppress the battery consumption of the communication terminal and optimize the content requested by the communication terminal for an external display. ..

本発明の実施形態にかかる通信システムの概要を説明する概略図である。It is the schematic explaining the outline of the communication system which concerns on embodiment of this invention. 本発明の実施形態にかかる通信システムの全体構成を示すブロック図である。It is a block diagram which shows the whole structure of the communication system which concerns on embodiment of this invention. 本発明の実施形態にかかる携帯通信端末の構成を示すブロック図である。It is a block diagram which shows the structure of the mobile communication terminal which concerns on embodiment of this invention. 本発明の実施形態にかかる各サーバの構成を示すブロック図である。It is a block diagram which shows the structure of each server which concerns on embodiment of this invention. 本発明の実施形態にかかるコンテンツ表示転送処理を示すフローチャートである。It is a flowchart which shows the content display transfer process which concerns on embodiment of this invention. ユーザアカウントと仮想PCの関連付ける前の関連データベースのテーブルである。It is a table of the relational database before associating the user account with the virtual PC. 外部ディスプレイを登録した後の外部ディスプレイテーブルを示す。The external display table after registering the external display is shown. クライアントアプリケーションで外部ディスプレイに表示された識別コードを読み取る様子を示す図である。It is a figure which shows the state of reading the identification code displayed on the external display by a client application. ユーザアカウントと外部ディスプレイを関連付けた後の表示転送設定テーブルである。It is a display transfer setting table after associating a user account with an external display. クライアントアプリケーション上の「コンテンツ表示転送」ボタンの一例を説明する図である。It is a figure explaining an example of the "content display transfer" button on a client application. コンテンツ表示転送制御要求時の携帯通信端末からの送信データの一例を示すテーブルである。It is a table which shows an example of the transmission data from a mobile communication terminal at the time of content display transfer control request. コンテンツ表示転送制御要求時の携帯通信端末の受信データの一例を示すテーブルである。It is a table which shows an example of the received data of a mobile communication terminal at the time of content display transfer control request. コンテンツの表示転送が完了し、タッチスクリーンへのユーザ操作が開始された様子を示す図である。It is a figure which shows the state that the display transfer of a content is completed, and the user operation to a touch screen is started. 操作種別と数値化した操作度合データの一例を示す。An example of the operation type and the numerical operation degree data is shown. コンテンツ表示転送処理のシーケンス図である。It is a sequence diagram of a content display transfer process.

以下、本発明を適用した具体的な実施形態について、図面を参照しながら詳細に説明する。ただし、本発明が以下の実施形態に限定される訳ではない。また、説明を明確にするため、以下の記載および図面は、適宜、簡略化されている。 Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings. However, the present invention is not limited to the following embodiments. In addition, the following description and drawings have been simplified as appropriate to clarify the description.

図1は、本実施形態にかかる通信システムの概要を説明する概略図である。図2は、本発明の実施形態にかかる通信システムの全体構成を示すブロック図である。
通信システムは、携帯通信端末1、外部ディスプレイ2、外部ディスプレイ管理サーバ3、データベース4、コンテンツ表示転送制御サーバ5、仮想PC用サーバ6及びコンテンツサーバ7を備える。なお、図1において、実線は、有線ネットワークにより接続されていることを示している。また、点線は、無線ネットワークにより接続されていることを示している。また、図1の矢印は、識別コード21を表示した外部ディスプレイ2が、コンテンツ8を表示した外部ディスプレイ2に切り替わることを示している。
FIG. 1 is a schematic diagram illustrating an outline of a communication system according to the present embodiment. FIG. 2 is a block diagram showing an overall configuration of a communication system according to an embodiment of the present invention.
The communication system includes a mobile communication terminal 1, an external display 2, an external display management server 3, a database 4, a content display transfer control server 5, a virtual PC server 6, and a content server 7. In addition, in FIG. 1, the solid line shows that it is connected by a wired network. The dotted line indicates that the device is connected by a wireless network. Further, the arrow in FIG. 1 indicates that the external display 2 displaying the identification code 21 is switched to the external display 2 displaying the content 8.

携帯通信端末1は、スマートフォン、タブレット、携帯電話、ラップトップ型PCなどのBYOD(Bring your own device)端末とすることができるが、以下では、スマートフォンを例として説明する。 The mobile communication terminal 1 can be a BYOD (Bring your own device) terminal such as a smartphone, a tablet, a mobile phone, or a laptop PC, but a smartphone will be described below as an example.

スマートフォンである携帯通信端末1は、第1のOS(Operating System)(例えば、Apple社のiOS(登録商標)、Android(登録商標)など)を搭載し、図2に示すように第1のOS上で動作するクライアントアプリケーション11を含む。クライアントアプリケーション11は、後述する仮想PCクラウドサービスを利用するためのアプリケーションで、携帯通信端末1のバックカメラでQRコード(登録商標)を読み取り、外部ディスプレイ管理サーバ3で外部ディスプレイ2と関連付けることができる。また、クライアントアプリケーション11は、ユーザの入力により、コンテンツ表示転送制御サーバ5にコンテンツ表示転送を要求する。クライアントアプリケーション11は、ユーザによるマルチタッチスクリーンへの操作データを表示転送・操作制御モジュール63に送信する。 The mobile communication terminal 1 which is a smartphone is equipped with a first OS (Operating System) (for example, iOS (registered trademark) of Apple Inc., Android (registered trademark), etc.), and is the first OS as shown in FIG. Includes client application 11 running above. The client application 11 is an application for using a virtual PC cloud service described later, and can read a QR code (registered trademark) with the back camera of the mobile communication terminal 1 and associate it with the external display 2 with the external display management server 3. .. Further, the client application 11 requests the content display transfer control server 5 to transfer the content display by the input of the user. The client application 11 transmits the operation data to the multi-touch screen by the user to the display transfer / operation control module 63.

図3は、本発明の実施形態にかかる携帯通信端末の構成を示すブロック図である。携帯通信端末1は、図3に示すように、外部から映像を撮影する撮像部(例えば、カメラ)110と、外部から受信された映像信号を処理する映像処理部120と、映像処理部120によって処理される映像信号を映像で表示するディスプレイ部130と、ユーザの入力を受け付けるユーザ入力部140と、各種のデータを記憶する記憶部150と、外部と無線通信を行う通信部160と、携帯通信端末1の各構成要素を制御する制御部100と、を含む。撮像部(例えば、カメラ)110は、イメージセンサ111(例えば、CCD/CMOSイメージセンサ)を含む。また、ディスプレイ部130は、タッチスクリーン131を含む。前述したクライアントアプリケーション11は、これらの各構成要素を制御することができる。 FIG. 3 is a block diagram showing a configuration of a mobile communication terminal according to an embodiment of the present invention. As shown in FIG. 3, the mobile communication terminal 1 is composed of an imaging unit (for example, a camera) 110 that captures an image from the outside, a video processing unit 120 that processes a video signal received from the outside, and an image processing unit 120. Mobile communication with a display unit 130 that displays the processed video signal as a video, a user input unit 140 that accepts user input, a storage unit 150 that stores various data, and a communication unit 160 that performs wireless communication with the outside. A control unit 100 that controls each component of the terminal 1 is included. The imaging unit (eg, camera) 110 includes an image sensor 111 (eg, CCD / CMOS image sensor). Further, the display unit 130 includes a touch screen 131. The client application 11 described above can control each of these components.

外部ディスプレイ2は、携帯通信端末1のディスプレイ部130とは物理的に別体の外部表示装置である。本実施の形態では、会社の従業員のデスクやオープンスペース、会議室に置かれている、このような外部ディスプレイ2に、スマートフォンからのコンテンツを表示させるものである。さらに、スマートフォンのマルチタッチスクリーンから、外部ディスプレイ2に表示されたコンテンツを操作できるようにする。これにより、スマートフォンの業務利用を促進するものである。 The external display 2 is an external display device that is physically separate from the display unit 130 of the mobile communication terminal 1. In the present embodiment, the content from the smartphone is displayed on such an external display 2 placed on the desk, open space, or conference room of the employee of the company. Further, the content displayed on the external display 2 can be operated from the multi-touch screen of the smartphone. This promotes the business use of smartphones.

また、本例では、携帯通信端末1は、無線通信機能を有する通信部160により、図1に示すように、外部ディスプレイ管理サーバ3やコンテンツ表示転送制御サーバ5、仮想PC用サーバ等とネットワークを介して無線接続することができる。ここでいうネットワークには、LAN、WLAN、セルラネットワーク、または他の適切な無線通信ネットワークなどが含まれる。これにより、専用のケーブルを用いずに、携帯通信端末1を外部ディスプレイ2と容易に接続することができる。 Further, in this example, the mobile communication terminal 1 is networked with the external display management server 3, the content display transfer control server 5, the virtual PC server, and the like, as shown in FIG. 1, by the communication unit 160 having a wireless communication function. You can connect wirelessly via. The network referred to here includes LAN, WLAN, cellular network, or other suitable wireless communication network. As a result, the mobile communication terminal 1 can be easily connected to the external display 2 without using a dedicated cable.

制御部100は、記憶部150に格納された各種プログラム(クライアントアプリケーション11を含む)に基づいて、各種制御を実行する機能を有する。制御部100は、中央演算処理装置(CPU)、読出専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、入出力ポート(I/O)等により実現される。 The control unit 100 has a function of executing various controls based on various programs (including the client application 11) stored in the storage unit 150. The control unit 100 is realized by a central processing unit (CPU), a read-only memory (ROM), a random access memory (RAM), an input / output port (I / O), and the like.

本通信システムでは、利用者は、携帯通信端末1の第1のOS上で動作するクライアントアプリケーション11を介して、コンテンツを外部ディスプレイ2へ転送することを要求すると、外部ディスプレイ2には、識別コード21が表示される。 In this communication system, when the user requests that the content be transferred to the external display 2 via the client application 11 running on the first OS of the mobile communication terminal 1, the external display 2 receives an identification code. 21 is displayed.

外部ディスプレイ2は、サーバから映像を受信し、表示することができる。外部ディスプレイ2は、図1に示すように外部ディスプレイ管理サーバ3に有線で接続されている。外部ディスプレイ2の画面をオンにすると、外部ディスプレイ管理サーバ3に外部ディスプレイ2自身の接続情報(IPアドレス、ポート)及び解像度情報が送信され、外部ディスプレイ管理サーバ3から受信した識別ID情報を含むQRコード(登録商標)21の画像が外部ディスプレイ2に表示される。 The external display 2 can receive and display an image from the server. As shown in FIG. 1, the external display 2 is connected to the external display management server 3 by wire. When the screen of the external display 2 is turned on, the connection information (IP address, port) and resolution information of the external display 2 itself are transmitted to the external display management server 3, and the QR including the identification ID information received from the external display management server 3 is included. The image of the code (registered trademark) 21 is displayed on the external display 2.

外部ディスプレイ管理サーバ3には、ネットワーク内の固定URL(Uniform Resource Locator)でアクセスすることができる。また、外部ディスプレイ管理サーバ3は、外部ディスプレイ2からの登録要求で外部ディスプレイの接続情報(IPアドレス、ポート)及び外部ディスプレイの解像度情報(図7)を受信すると、外部ディスプレイ2に割り当てた識別ID情報を含む識別コード(QRコード(登録商標))画像を外部ディスプレイ2に送信する。データベース4は、その受信した情報(接続情報及び解像度情報)を格納する。外部ディスプレイ管理サーバ3は、クライアントアプリケーション11から外部ディスプレイ2との関連付け要求を受信すると、データベース4にその関連付け情報を格納する。 The external display management server 3 can be accessed by a fixed URL (Uniform Resource Locator) in the network. Further, when the external display management server 3 receives the connection information (IP address, port) of the external display and the resolution information (FIG. 7) of the external display in the registration request from the external display 2, the identification ID assigned to the external display 2 is assigned. An identification code (QR code (registered trademark)) image including information is transmitted to the external display 2. The database 4 stores the received information (connection information and resolution information). When the external display management server 3 receives the association request with the external display 2 from the client application 11, the external display management server 3 stores the association information in the database 4.

データベース4は、外部ディスプレイ2の接続先情報(IPアドレス、ポート)及び解像度情報を保存する。また、データベース4は、仮想PC60の接続先情報(IPアドレス、ポート)を保存する。データベース4は、外部ディスプレイ2、クライアントアプリケーション11に紐づくユーザID、及び仮想PC60の関連付け情報を保存する。 The database 4 stores the connection destination information (IP address, port) and resolution information of the external display 2. In addition, the database 4 stores the connection destination information (IP address, port) of the virtual PC 60. The database 4 stores the external display 2, the user ID associated with the client application 11, and the association information of the virtual PC 60.

利用者は、携帯通信端末1の撮像部110(例えば、バックカメラ)で外部ディスプレイ2に表示されている識別コード21(例えば、QRコード(登録商標))を読み取る。 The user reads the identification code 21 (for example, QR code (registered trademark)) displayed on the external display 2 by the imaging unit 110 (for example, a back camera) of the mobile communication terminal 1.

この識別コード21としては、QRコード(登録商標)、バーコード、データマトリックスコード、Maxiコード、Veriコード、カルラコード、DaTaコード、Cyberコード、インタクタコードなどの二次元コードや、文字列などが含まれる。 The identification code 21 includes a two-dimensional code such as a QR code (registered trademark), a barcode, a data matrix code, a Maxi code, a Veri code, a Carla code, a DaTa code, a Cyber code, and an interactor code, and a character string. included.

識別コード21を読み取ると、外部ディスプレイ管理サーバ3は、外部ディスプレイ2とユーザとの関連付けを行う。また、ユーザと仮想PC60の関連付けが事前に登録されているため、仮想PC60とユーザと外部ディスプレイ2の関連付けが得られる。こうした関連付け情報は、データベース4に格納される。 When the identification code 21 is read, the external display management server 3 associates the external display 2 with the user. Further, since the association between the user and the virtual PC 60 is registered in advance, the association between the virtual PC 60, the user, and the external display 2 can be obtained. Such association information is stored in the database 4.

コンテンツ表示転送制御サーバ5は、クライアントアプリケーション11からコンテンツ表示転送要求を受け付けると、各端末(例えば、外部ディスプレイ2)にコンテンツの表示を転送する。 When the content display transfer control server 5 receives the content display transfer request from the client application 11, the content display transfer control server 5 transfers the display of the content to each terminal (for example, the external display 2).

コンテンツ表示転送制御サーバ5には、ネットワーク内の固定URLでアクセスすることができる。また、コンテンツ表示転送制御サーバ5は、クライアントアプリケーション11からコンテンツ表示転送要求を受け付けると、データベース4から取得した後述する仮想PC60の表示出力I/F(仮想ディスプレイ)62の接続先情報(IPアドレス及びポート)及び解像度情報を、コンテンツ表示転送要求とともに仮想PC60の表示転送・操作制御モジュール63に送信する。コンテンツ表示転送制御サーバ5は、データベース4から取得した仮想PC60の接続先情報(IPアドレス、ポート)を携帯通信端末1のクライアントアプリケーション11に返送する。 The content display transfer control server 5 can be accessed by a fixed URL in the network. Further, when the content display transfer control server 5 receives the content display transfer request from the client application 11, the connection destination information (IP address and IP address) of the display output I / F (virtual display) 62 of the virtual PC 60, which will be described later, acquired from the database 4 The port) and the resolution information are transmitted to the display transfer / operation control module 63 of the virtual PC 60 together with the content display transfer request. The content display transfer control server 5 returns the connection destination information (IP address, port) of the virtual PC 60 acquired from the database 4 to the client application 11 of the mobile communication terminal 1.

仮想PC用サーバ6は、個人利用者がリモート接続で利用する仮想PCクラウドサービスを提供するサーバであり、仮想PC60の実行環境である。仮想PCとは、一般的にPCで稼働するOS(Operating System)やアプリケーションをサーバ上に集約して管理し、実行するシステムである。実際に稼働するOSやアプリケーション、データはサーバ側で実行かつ保存され、その実行画面データのみを端末側に配信して利用される。これにより、携帯通信端末1は、比較的処理負荷の低いクライアントアプリケーション11のみを実行するだけで、各種アプリケーション及びOSを利用することができる。結果的に、携帯通信端末1のバッテリ容量を節約することができる。なお、仮想PC用サーバ6は、パブリッククラウドサーバでもよいし、社内等のプライベートクラウドサーバでもよい。 The virtual PC server 6 is a server that provides a virtual PC cloud service used by individual users for remote connection, and is an execution environment of the virtual PC 60. A virtual PC is a system that centrally manages and executes an OS (Operating System) and applications that generally run on a PC on a server. The OS, applications, and data that actually run are executed and saved on the server side, and only the execution screen data is distributed to the terminal side for use. As a result, the mobile communication terminal 1 can use various applications and the OS only by executing the client application 11 having a relatively low processing load. As a result, the battery capacity of the mobile communication terminal 1 can be saved. The virtual PC server 6 may be a public cloud server or a private cloud server such as in-house.

本例では、スマートフォンは第1のOS(例えば、Apple社のiOS(登録商標)、Android(登録商標)で動作するのに対し、仮想PCは、第1のOSとは異なる第2のOS(例えば、Windows 10(登録商標)、MacOS(登録商標))で動作するものとする。また、携帯通信端末1であるスマートフォンと外部ディスプレイ2は、異なる解像度を有しているものとする。 In this example, the smartphone runs on the first OS (for example, Apple's iOS® and Android®), while the virtual PC runs on a second OS (for example, different from the first OS). For example, it is assumed that it operates on Windows 10 (registered trademark) and MacOS (registered trademark)), and that the smartphone and the external display 2 which are the mobile communication terminals 1 have different resolutions.

仮想PC用サーバ6上で動作する仮想PC60は、図2に示すように、OS固有機能モジュール61、表示出力I/F(仮想ディスプレイ)62、表示転送・操作制御モジュール63及びスマートフォン表示出力モジュール64を含む。 As shown in FIG. 2, the virtual PC 60 operating on the virtual PC server 6 includes an OS-specific function module 61, a display output I / F (virtual display) 62, a display transfer / operation control module 63, and a smartphone display output module 64. including.

OS固有機能モジュール61は、クライアントアプリケーション11から要求されたコンテンツ拡張子に対応した適切なアプリケーションを用いて、該当コンテンツを起動し、表示出力I/F(仮想ディスプレイ)62にコンテンツを出力する。OS固有機能モジュール61は、携帯通信端末1とはアプリケーションを起動し、外部ディスプレイ2に適合したコンテンツに変換して、表示出力I/F(仮想ディスプレイ)62に出力することができる。これにより、スマートフォンでは開けないコンテンツでも、仮想PC上で起動させて、外部ディスプレイに表示することができる。 The OS-specific function module 61 activates the corresponding content by using an appropriate application corresponding to the content extension requested from the client application 11, and outputs the content to the display output I / F (virtual display) 62. The OS-specific function module 61 can start an application with the mobile communication terminal 1, convert it into content suitable for the external display 2, and output it to the display output I / F (virtual display) 62. As a result, even contents that cannot be opened by a smartphone can be started on a virtual PC and displayed on an external display.

表示出力I/F(仮想ディスプレイ)62は、携帯通信端末1のクライアントアプリケーション11に関連付けられた外部ディスプレイ2と同じ解像度に設定される。表示出力I/F(仮想ディスプレイ)62は、アプリケーションの画面表示内容を当該外部ディスプレイ2に転送することができる。表示出力I/F(仮想ディスプレイ)62は、スマートフォン表示出力モジュール64にも同じ画面表示を転送し表示する(ミラーリング)ことができる。 The display output I / F (virtual display) 62 is set to the same resolution as the external display 2 associated with the client application 11 of the mobile communication terminal 1. The display output I / F (virtual display) 62 can transfer the screen display contents of the application to the external display 2. The display output I / F (virtual display) 62 can transfer and display the same screen display to the smartphone display output module 64 (mirroring).

表示転送・操作制御モジュール63は、コンテンツ表示転送制御サーバ5からコンテンツ表示転送要求、外部ディスプレイ2の接続先情報及び解像度情報を受信する。そして、表示転送・操作制御モジュール63は、受信した外部ディスプレイ2の解像度情報を表示出力I/F(仮想ディスプレイ)62に設定し、当該仮想ディスプレイの映像出力を外部ディスプレイ2にリモート接続する。また、表示転送・操作制御モジュール63は、OS固有機能モジュール61でコンテンツを当該仮想ディスプレイにフルスクリーンで表示する。これにより、スマートフォンのコンテンツを、外部ディスプレイ2の解像度に合わせたアプリケーションの画面表示内容を表示させることができる。また、表示転送・操作制御モジュール63は、携帯通信端末1であるスマートフォンのマルチタッチスクリーンへのユーザの操作情報を受信し、それを変換し、OS固有機能モジュール61に送信して、コンテンツを操作する。これにより、ユーザは、スマートフォンのタッチスクリーンへの操作で、外部ディスプレイに表示されたコンテンツを操作することができる。 The display transfer / operation control module 63 receives the content display transfer request, the connection destination information of the external display 2, and the resolution information from the content display transfer control server 5. Then, the display transfer / operation control module 63 sets the received resolution information of the external display 2 in the display output I / F (virtual display) 62, and remotely connects the video output of the virtual display to the external display 2. In addition, the display transfer / operation control module 63 displays the content on the virtual display in full screen by the OS-specific function module 61. As a result, the content of the smartphone can be displayed on the screen of the application according to the resolution of the external display 2. Further, the display transfer / operation control module 63 receives the user's operation information on the multi-touch screen of the smartphone which is the mobile communication terminal 1, converts it, and transmits it to the OS-specific function module 61 to operate the content. To do. As a result, the user can operate the content displayed on the external display by operating the touch screen of the smartphone.

スマートフォン表示出力モジュール64は、表示出力I/F(仮想ディスプレイ)62の映像をミラーリングしてクライアントアプリケーション11の画面解像度情報を元に、スマートフォン画面表示用の映像にトリミング処理等により変換する。さらに、スマートフォン表示出力モジュール64は、変換された映像を、クライアントアプリケーション11にストリーミングする。これにより、スマートフォンのディスプレイの画面サイズに適合した映像に変換して、表示させることができる。 The smartphone display output module 64 mirrors the image of the display output I / F (virtual display) 62 and converts it into an image for displaying the smartphone screen by trimming or the like based on the screen resolution information of the client application 11. Further, the smartphone display output module 64 streams the converted video to the client application 11. As a result, it is possible to convert the image into an image suitable for the screen size of the display of the smartphone and display it.

コンテンツサーバ7は、ユーザに提供するコンテンツ(情報)を保有・管理しているサーバである。 The content server 7 is a server that holds and manages content (information) provided to users.

図4は、本実施形態におけるサーバ3,5,6,7のハードウェア構成例を示すブロック図である。図4に示すように、本実施形態のサーバ3,5,6,7は、CPU201、RAM202、ROM203などを有するコンピュータである。CPU201は、RAM202、ROM203、または、ハードディスク204に格納されたソフトウェアに従い演算および制御を行う。RAM202は、CPU201が各種処理を実行する際の一時記憶領域として使用される。ハードディスク204には、オペレーティングシステム(OS)や、後述の登録プログラムなどが記憶される。ディスプレイ205は、液晶ディスプレイとグラフィックコントローラとから構成され、ディスプレイ205には、画像やアイコンなどのオブジェクト、および、GUIなどが表示される。入力部206は、ユーザがサーバに各種指示を与えるための装置であり、例えばマウスやキーボードによって構成される。I/F(インタフェース)部207は、IEEE 802.11aなどの規格に対応した無線LAN通信や有線LAN通信を制御することができ、TCP/IPなどのプロトコルに基づき同一通信ネットワークおよびインターネットを介して外部機器と通信する。システムバス208は、CPU201、RAM202、ROM203、および、ハードディスク204などとのデータのやり取りを制御する。なお、仮想PC60自身はホストサーバーである仮想PC用サーバ6内でハードウェアリソースの一部を使って動作する。 FIG. 4 is a block diagram showing a hardware configuration example of the servers 3, 5, 6 and 7 in this embodiment. As shown in FIG. 4, the servers 3, 5, 6, and 7 of this embodiment are computers having a CPU 201, a RAM 202, a ROM 203, and the like. The CPU 201 performs calculations and controls according to software stored in the RAM 202, the ROM 203, or the hard disk 204. The RAM 202 is used as a temporary storage area when the CPU 201 executes various processes. The hard disk 204 stores an operating system (OS), a registration program described later, and the like. The display 205 is composed of a liquid crystal display and a graphic controller, and the display 205 displays objects such as images and icons, a GUI, and the like. The input unit 206 is a device for the user to give various instructions to the server, and is composed of, for example, a mouse or a keyboard. The I / F (interface) unit 207 can control wireless LAN communication and wired LAN communication corresponding to standards such as IEEE 802.11a, and is based on a protocol such as TCP / IP via the same communication network and the Internet. Communicate with external devices. The system bus 208 controls the exchange of data with the CPU 201, the RAM 202, the ROM 203, the hard disk 204, and the like. The virtual PC 60 itself operates by using a part of the hardware resources in the virtual PC server 6 which is the host server.

次に、図5乃至図15を参照して通信システムの全体動作を説明する。図5は、コンテンツ表示転送処理を示すフローチャートである。 Next, the overall operation of the communication system will be described with reference to FIGS. 5 to 15. FIG. 5 is a flowchart showing the content display transfer process.

まず、ユーザは、会議室等に置かれた外部ディスプレイを利用するため、自身のスマートフォン(BYOD端末)のユーザアカウントと仮想PCを関連付けるための事前設定を行う。クライアントアプリケーションのログインに使われるユーザアカウントを仮想PC60と関連付ける必要がある。これにより、コンテンツ表示転送制御サーバ5がスマートフォンのクライアントアプリケーション11からの要求を受け付けて、要求されたコンテンツを起動させるための仮想PC60を特定することができる。 First, in order to use an external display placed in a conference room or the like, the user performs pre-setting for associating a user account of his / her smartphone (BYOD terminal) with a virtual PC. It is necessary to associate the user account used for logging in the client application with the virtual PC 60. As a result, the content display transfer control server 5 can receive the request from the client application 11 of the smartphone and specify the virtual PC 60 for activating the requested content.

ユーザは、携帯通信端末1のクライアントアプリケーション11で開けないコンテンツを仮想PC60上で表示させて、携帯通信端末1とは異なる解像度を有する外部ディスプレイ2に転送するように要求処理を開始する(ステップS100)。まず、クライアントアプリケーション11が外部ディスプレイ2と関連付けられているかを判定する(ステップS101)。 The user starts request processing to display the content that cannot be opened by the client application 11 of the mobile communication terminal 1 on the virtual PC 60 and transfer it to the external display 2 having a resolution different from that of the mobile communication terminal 1 (step S100). ). First, it is determined whether the client application 11 is associated with the external display 2 (step S101).

ここで、図6を参照してユーザアカウントと仮想PCとの関連付け情報を管理するためのデータベースのテーブルについて説明する。図6は、ユーザアカウントと仮想PCを関連付ける前の関連データベース4のテーブルである。仮想PCテーブルには、主キーとして一意のシリアル番号(No)が示され、仮想PC IDとして仮想PCの一意の識別IDが示され、IPアドレスとして仮想PCへのリモート接続用IPアドレスが示され、ポートとして仮想PCへのリモート接続用ポートが示されている。また、表示転送設定テーブルには、主キーとして一意のシリアル番号(No)が、ユーザIDとして利用者アカウントの一意の識別IDが、仮想PC IDとして仮想PCの一意の識別IDが示されている。ユーザアカウントと仮想PCと外部ディスプレイを関連付ける前のため、表示転送設定テーブルの外部ディスプレイ IDには、外部ディスプレイの識別IDが示されていない。 Here, a database table for managing the association information between the user account and the virtual PC will be described with reference to FIG. FIG. 6 is a table of the relational database 4 before associating the user account with the virtual PC. In the virtual PC table, a unique serial number (No) is shown as the primary key, a unique identification ID of the virtual PC is shown as the virtual PC ID, and an IP address for remote connection to the virtual PC is shown as the IP address. , The port for remote connection to the virtual PC is shown as the port. Further, in the display transfer setting table, a unique serial number (No) is shown as a primary key, a unique identification ID of a user account is shown as a user ID, and a unique identification ID of a virtual PC is shown as a virtual PC ID. .. Since before associating the user account with the virtual PC and the external display, the identification ID of the external display is not shown in the external display ID of the display transfer setting table.

このように、クライアントアプリケーション11が外部ディスプレイ2と関連付けられていない(ステップS101でNo)場合には、ユーザは、以下のように関連付け動作を行う。スマートフォンを持ったユーザは、会議室等に置かれた外部ディスプレイ2を起動する(ステップS102)。外部ディスプレイ2は、起動後、自動的に外部ディスプレイ管理サーバ3へ登録要求として外部ディスプレイ2の接続先情報及び外部ディスプレイ2の解像度を送信する。外部ディスプレイ管理サーバ3は、図7に示すような外部ディスプレイテーブルを、データベース4に登録するか、又は、一意の外部ディスプライIDに基づき、既存のレコードのIPアドレスやポートを更新する(ステップS103)。 As described above, when the client application 11 is not associated with the external display 2 (No in step S101), the user performs the association operation as follows. The user holding the smartphone activates the external display 2 placed in the conference room or the like (step S102). After startup, the external display 2 automatically transmits the connection destination information of the external display 2 and the resolution of the external display 2 as a registration request to the external display management server 3. The external display management server 3 registers the external display table as shown in FIG. 7 in the database 4, or updates the IP address and port of the existing record based on the unique external display ID (step S103). ).

図7に示す外部ディスプレイテーブルには、外部ディスプレイ2への接続用のIPアドレスとして、「192.168.1.1」が、外部ディスプレイ2への接続用のポートとして、「8001」が、外部ディスプレイ2の解像度として、「1920x1440」が示されている。 In the external display table shown in FIG. 7, "192.168.1.1" is used as an IP address for connecting to the external display 2, and "8001" is used as a port for connecting to the external display 2. As the resolution of the display 2, "1920x1440" is shown.

データベース4への登録後(ステップS103)、外部ディスプレイ2には、外部ディスプレイ管理サーバ3から送付された識別コード21の画像(識別IDを含むQRコード(登録商標)画像)が表示される(ステップS104)。ユーザは、図8に示すように、クライアントアプリケーション11により撮像部110を起動させ、外部ディスプレイ2に表示された識別コード21を読み取り、携帯通信端末1と外部ディスプレイ2との関連付けを行う(ステップS105)。図9は、ユーザアカウントと外部ディスプレイを関連付けた後の表示転送設定テーブルを示す。図9の表示転送設定テーブルには、主キーとして一意のシリアル番号(No)が、ユーザIDとして利用者アカウントの一意の識別IDが、仮想PC IDとして仮想PCの一意の識別IDが、外部ディスプレイ IDとして外部ディスプレイの一意の識別IDが示されている。取得した外部ディスプレイ2の識別ID(D00001)とユーザID(U00001)を外部ディスプレイ管理サーバ3に送信して携帯通信端末1(スマートフォン)と外部ディスプレイ2の関連付けを要求する。以上により、関連付けは完了する。 After registration in the database 4 (step S103), the image of the identification code 21 (QR code (registered trademark) image including the identification ID) sent from the external display management server 3 is displayed on the external display 2 (step). S104). As shown in FIG. 8, the user activates the imaging unit 110 by the client application 11, reads the identification code 21 displayed on the external display 2, and associates the mobile communication terminal 1 with the external display 2 (step S105). ). FIG. 9 shows a display transfer setting table after associating a user account with an external display. In the display transfer setting table of FIG. 9, a unique serial number (No) is used as the primary key, a unique identification ID of the user account is used as the user ID, and a unique identification ID of the virtual PC is used as the virtual PC ID. A unique identification ID of the external display is shown as the ID. The acquired identification ID (D00001) and user ID (U00001) of the external display 2 are transmitted to the external display management server 3 to request the association between the mobile communication terminal 1 (smartphone) and the external display 2. With the above, the association is completed.

ユーザは、図10に示すように、クライアントアプリケーション11のタッチスクリーン131上で、「コンテンツ表示転送」ボタン132を押すことで、コンテンツ表示転送制御サーバ5にコンテンツ表示転送を要求する(ステップS106)。具体的には、ユーザID、スマートフォンの接続先(外部ディスプレイID)、スマートフォンの画面解像度、及びクライアントアプリケーション11で指定した表示転送対象の(タッチスクリーン上に表示された)コンテンツのURIをコンテンツ表示転送制御サーバ5に送信し、コンテンツ表示転送制御を要求する。図11は、コンテンツ表示転送制御要求時の携帯通信端末からの送信データの一例を示すテーブルである。図11には、ユーザIDとして「U00001」が、クライアントアプリケーション11のIPアドレスとして「49.1.1.1」が、クライアントアプリケーション11のポートとして「6001」が、クライアントアプリケーション11の解像度として「320x568」が、コンテンツURIとして表示転送対象コンテンツを取得するためのURI(\\contents_server\ C00001.txt)が示されている。図12は、コンテンツ表示転送制御要求時の携帯通信端末の受信データの一例を示す。図12には、仮想PC用サーバ6の表示転送・操作制御モジュール63アクセス用のIPアドレスとして「192.168.2.1」が、仮想PC用サーバ6の表示転送・操作制御モジュール63アクセス用のポートとして「9001」が示されている。 As shown in FIG. 10, the user requests the content display transfer control server 5 to transfer the content display by pressing the "content display transfer" button 132 on the touch screen 131 of the client application 11 (step S106). Specifically, the user ID, the connection destination of the smartphone (external display ID), the screen resolution of the smartphone, and the URI of the content (displayed on the touch screen) to be displayed and transferred specified in the client application 11 are transferred. It transmits to the control server 5 and requests the content display transfer control. FIG. 11 is a table showing an example of data transmitted from the mobile communication terminal at the time of requesting content display transfer control. In FIG. 11, "U00001" is used as the user ID, "49.1.1.1" is used as the IP address of the client application 11, "6001" is used as the port of the client application 11, and "320x568" is used as the resolution of the client application 11. Is displayed as a content URI. The URI (\\ contents_server \ C00001.txt) for acquiring the transfer target content is shown. FIG. 12 shows an example of the received data of the mobile communication terminal at the time of requesting the content display transfer control. In FIG. 12, “192.168.2.1” is used as the IP address for accessing the display transfer / operation control module 63 of the virtual PC server 6, and “192.168.2.1” is used as the port for accessing the display transfer / operation control module 63 of the virtual PC server 6. 9001 "is shown.

要求されたコンテンツを、仮想PC60で起動し(外部ディスプレイ用の映像に変換し)、外部ディスプレイ2に映像を転送する(ステップS107)。 The requested content is activated by the virtual PC 60 (converted to an image for an external display), and the image is transferred to the external display 2 (step S107).

ユーザは、クライアントアプリケーション11を用いて、携帯通信端末1のタッチスクリーン131を操作すると、表示転送・操作制御モジュール63を介して仮想PC60内のコンテンツを操作できるようになる(ステップS108)。図13は、コンテンツ表示転送が完了後、携帯通信端末1のタッチスクリーン131へのユーザの入力による操作開始時の様子を示す。図13に示すように、コンテンツ表示転送モード中は、カーソルがフォーカス枠に変更される。ユーザはスマートフォンのタッチスクリーンを操作するたびに、図14に示すように、表示転送・操作制御モジュール63に操作種別(例えば、スクロール(上、下、左、右)/ズーム(イン、アウト)、テキスト内容の編集)と数値化した操作度合データ(例えば、距離(スクロール)/スケール(ズーム))を送信する。これにより、表示転送・操作制御モジュール63にユーザによる操作関連制御を要求し、OS固有機能モジュール61経由で仮想PC用サーバ6内のコンテンツをスクロールしたり、ズームしたり、テキスト内容を編集したりすることができる。 When the user operates the touch screen 131 of the mobile communication terminal 1 by using the client application 11, the user can operate the content in the virtual PC 60 via the display transfer / operation control module 63 (step S108). FIG. 13 shows a state at the time of starting the operation by the user's input to the touch screen 131 of the mobile communication terminal 1 after the content display transfer is completed. As shown in FIG. 13, the cursor is changed to the focus frame during the content display transfer mode. Each time the user operates the touch screen of the smartphone, as shown in FIG. 14, the display transfer / operation control module 63 is set to the operation type (for example, scroll (up, down, left, right) / zoom (in, out)). (Edit text content) and digitized operation degree data (for example, distance (scroll) / scale (zoom)) are transmitted. As a result, the display transfer / operation control module 63 is requested to perform operation-related control by the user, and the content in the virtual PC server 6 is scrolled, zoomed, and the text content is edited via the OS-specific function module 61. can do.

以上説明した実施形態によれば、ユーザは、比較的処理負荷の低いクライアントアプリケーション11のみを携帯通信端末1上で起動することにより、クラウド(仮想PC)上の様々なアプリケーションで開いたコンテンツを閲覧することができる。結果的に、携帯通信端末1のバッテリを節約することができる。 According to the embodiment described above, the user browses the contents opened by various applications on the cloud (virtual PC) by starting only the client application 11 having a relatively low processing load on the mobile communication terminal 1. can do. As a result, the battery of the mobile communication terminal 1 can be saved.

図15は、コンテンツ表示転送処理のシーケンス図である。
ユーザが外部ディスプレイ2を起動すると、外部ディスプレイ2は外部ディスプレイ管理サーバ3に登録される(ステップS1)。外部ディスプレイ管理サーバ3は登録情報に関し、データベース4を更新する(ステップS2)。外部ディスプレイテーブルに外部ディスプライ自らのIPアドレス、ポート、解像度を新規登録するか、IPアドレス、ポートなどの接続情報が変わった際に、割り当てられた外部ディスプレイIDに基づき、DBを更新する。外部ディスプレイ2には、識別子情報である識別コード21が表示され、ユーザは、クライアントアプリケーション11により、撮像部110を起動して当該識別コード21を読み取る(ステップS3)。読み取り後、外部ディスプレイ管理サーバ3において、携帯通信端末1と外部ディスプレイ2が関連付けられる(ステップS4)。この関連付け情報に関し、外部ディスプレイ管理サーバ3は、データベース4を更新する(ステップS5)。読み取った外部ディスプレイIDとユーザIDを関連付け、表示転送設定テーブルを更新する。
FIG. 15 is a sequence diagram of the content display transfer process.
When the user activates the external display 2, the external display 2 is registered in the external display management server 3 (step S1). The external display management server 3 updates the database 4 with respect to the registration information (step S2). When the external display table is newly registered with its own IP address, port, or resolution, or the connection information such as IP address or port changes, the DB is updated based on the assigned external display ID. The identification code 21 which is the identifier information is displayed on the external display 2, and the user activates the imaging unit 110 by the client application 11 to read the identification code 21 (step S3). After reading, the mobile communication terminal 1 and the external display 2 are associated with each other on the external display management server 3 (step S4). With respect to this association information, the external display management server 3 updates the database 4 (step S5). The read external display ID is associated with the user ID, and the display transfer setting table is updated.

その後、クライアントアプリケーション11は、コンテンツ表示転送制御サーバ5に対して、コンテンツ表示転送を要求し、仮想PC用サーバ6上で動作する仮想PCと外部ディスプレイ2との接続情報(図9参照)を取得する(ステップS6)。 After that, the client application 11 requests the content display transfer control server 5 to transfer the content display, and acquires the connection information (see FIG. 9) between the virtual PC operating on the virtual PC server 6 and the external display 2. (Step S6).

コンテンツ表示転送制御サーバ5はデータベース4から、外部ディスプレイ2の情報(図7)と仮想PC用サーバ6の情報(図6)を取得する(ステップS7)。ユーザIDに基づき、表示転送設定テーブル、仮想PCテーブル、外部ディスプレイテーブルから必要な情報を取得する。コンテンツ表示転送制御サーバ5は、仮想PC用サーバ6の表示転送・操作制御モジュール63に、コンテンツ表示転送を要求する(ステップS8)。表示転送・操作制御モジュール63は、表示出力I/F(仮想ディスプレイ)62を、外部ディスプレイ2の解像度に設定し、表示出力I/F(仮想ディスプレイ)62を外部ディスプレイ2とリモート接続する(ステップS9)。OS固有機能モジュール61は、クライアントアプリケーション11から要求されたコンテンツ拡張子に応じた適切なアプリケーションを用いて、表示出力I/F(仮想ディスプレイ)62にコンテンツを起動させ出力する(ステップS10)。これにより、ユーザは、外部ディスプレイ上で適切にコンテンツを表示させることができる。表示転送・操作制御モジュール63は、スマートフォン表示出力モジュール64に、スマートフォンの解像度を設定し、スマートフォンへの接続先情報の設定を行う(ステップS11)。OS固有機能モジュール61は、コンテンツサーバ7から所望のコンテンツを読み取り(ステップS12)、表示出力I/F(仮想ディスプレイ)62に表示出力する(ステップS13)。その後、表示出力I/F(仮想ディスプレイ)62は、外部ディスプレイ2にコンテンツ表示の転送を開始する(ステップS14)。 The content display transfer control server 5 acquires the information of the external display 2 (FIG. 7) and the information of the virtual PC server 6 (FIG. 6) from the database 4 (step S7). Based on the user ID, the necessary information is acquired from the display transfer setting table, the virtual PC table, and the external display table. The content display transfer control server 5 requests the display transfer / operation control module 63 of the virtual PC server 6 to transfer the content display (step S8). The display transfer / operation control module 63 sets the display output I / F (virtual display) 62 to the resolution of the external display 2 and remotely connects the display output I / F (virtual display) 62 to the external display 2 (step). S9). The OS-specific function module 61 activates and outputs the content on the display output I / F (virtual display) 62 by using an appropriate application according to the content extension requested from the client application 11 (step S10). As a result, the user can appropriately display the content on the external display. The display transfer / operation control module 63 sets the resolution of the smartphone in the smartphone display output module 64, and sets the connection destination information to the smartphone (step S11). The OS-specific function module 61 reads desired content from the content server 7 (step S12) and displays and outputs it to the display output I / F (virtual display) 62 (step S13). After that, the display output I / F (virtual display) 62 starts transferring the content display to the external display 2 (step S14).

また、表示出力I/F(仮想ディスプレイ)62は、映像をスマートフォン表示出力モジュール64に出力し、当該映像をスマートフォン上にミラーリングする(ステップS15)。具体的には、仮想PCで起動したコンテンツの画面表示を外部ディスプレイに転送しながら、コンテンツを起動した仮想PC上のアプリケーションにあるフォーカス枠を中心に、スマートフォンの画面サイズ部分の画面映像を同時にクライアントアプリケーション11に返送する。 Further, the display output I / F (virtual display) 62 outputs an image to the smartphone display output module 64, and mirrors the image on the smartphone (step S15). Specifically, while transferring the screen display of the content started on the virtual PC to the external display, the screen image of the screen size part of the smartphone is simultaneously transferred to the client centering on the focus frame in the application on the virtual PC that started the content. Return to application 11.

スマートフォン表示出力モジュール64は、クライアントアプリケーション11でのコンテンツ表示を開始する(ステップS16)。クライアントアプリケーション11は、ユーザによるマルチタッチスクリーンにおける操作情報を表示転送・操作制御モジュール63に送信し、操作制御を要求する(ステップS17)。これにより、携帯通信端末1を用いて、外部ディスプレイ2に表示されたコンテンツを操作することができる(ステップS18)。 The smartphone display output module 64 starts content display in the client application 11 (step S16). The client application 11 transmits the operation information on the multi-touch screen by the user to the display transfer / operation control module 63, and requests the operation control (step S17). As a result, the content displayed on the external display 2 can be operated by using the mobile communication terminal 1 (step S18).

以上、本実施の形態によれば、ユーザは、比較的処理負荷の低いクライアントアプリケーション11のみを携帯通信端末1上で起動することにより、クラウド(仮想デスクトップ)上の様々なアプリケーションを使用することができる。また、画面サイズの小さいスマートフォンでの作業を、画面サイズの大きい外部ディスプレイで行うことで、生産性を向上させることができる。また、スマートフォンの無線通信機能により、外部ディスプレイに円滑に画面表示を反映することができる。例えば、メールチェックによる画面遷移と中断した思考の回復時間が削減されることにより、作業時間を確保する上に集中力をキープすることができることが生産性向上につながる。 As described above, according to the present embodiment, the user can use various applications on the cloud (virtual desktop) by starting only the client application 11 having a relatively low processing load on the mobile communication terminal 1. it can. In addition, productivity can be improved by performing work on a smartphone having a small screen size on an external display having a large screen size. In addition, the wireless communication function of the smartphone allows the screen display to be smoothly reflected on the external display. For example, by reducing the screen transition by mail check and the recovery time of interrupted thoughts, it is possible to secure the working time and keep the concentration, which leads to the improvement of productivity.

上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、DVD(Digital Versatile Disc)、BD(Blu-ray(登録商標) Disc)、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。 In the above example, the program can be stored and supplied to a computer using various types of non-transitory computer readable media. Non-transitory computer-readable media include various types of tangible storage media. Examples of non-temporary computer-readable media include magnetic recording media (eg, flexible disks, magnetic tapes, hard disk drives), magneto-optical recording media (eg, magneto-optical disks), CD-ROMs (Read Only Memory), CD-Rs, CD-R / W, DVD (Digital Versatile Disc), BD (Blu-ray (registered trademark) Disc), semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM ( Random Access Memory)) is included. The program may also be supplied to the computer by various types of transient computer readable media. Examples of temporary computer-readable media include electrical, optical, and electromagnetic waves. The temporary computer-readable medium can supply the program to the computer via a wired communication path such as an electric wire and an optical fiber, or a wireless communication path.

なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上記実施形態では、仮想PCは、携帯通信端末(スマートフォン)の第1のOS(例えば、Apple社のiOS(登録商標)、Android(登録商標)とは異なる第2のOS(例えば、Windows 10(登録商標)、MacOS(登録商標))で動作する例を説明した。しかし、これに限定されず、仮想PCは、携帯通信端末と同一のOSであるが、バージョンが異なる場合にも適用可能である。そのため、携帯通信端末は、ラップトップ型PCであってもよい。 The present invention is not limited to the above embodiment, and can be appropriately modified without departing from the spirit. For example, in the above embodiment, the virtual PC is a second OS (for example, Windows) different from the first OS of the mobile communication terminal (smartphone) (for example, iOS (registered trademark) of Apple Inc. and Android (registered trademark)). An example of operating on 10 (registered trademark) and MacOS (registered trademark)) has been described. However, the present invention is not limited to this, and the virtual PC is the same OS as the mobile communication terminal, but is also applicable when the version is different. It is possible, so the mobile communication terminal may be a laptop PC.

上記実施形態は、仮想PC60の代わりにサーバ6が実行してもよい。 The above embodiment may be executed by the server 6 instead of the virtual PC 60.

上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
(付記1)
通信端末及び、前記通信端末とは別体の外部ディスプレイ、とネットワークを介して接続され、
前記通信端末により要求されたコンテンツを、前記外部ディスプレイ用に変換し、前記外部ディスプレイに送信する、
サーバ。
(付記2)
前記通信端末により要求されたコンテンツを前記通信端末用に変換し、前記通信端末に送信する、
付記1に記載のサーバ。
(付記3)
前記要求されたコンテンツの拡張子に対応するアプリケーションを起動させる、
付記1又は2に記載のサーバ。
(付記4)
外部ディスプレイと関連付けるための、前記外部ディスプレイに表示される、識別コードを読み取る撮像部と、
コンテンツを、前記外部ディスプレイ用に変換し、外部ディスプレイに送信するようにサーバに要求する制御部と、
を備える、通信端末。
(付記5)
前記制御部は、前記サーバと前記外部ディスプレイとの接続情報を取得する、付記4に記載の通信端末。
(付記6)
付記1乃至3のいずれか一項に記載のサーバと、
付記4又は5に記載の通信端末と、
前記通信端末とは別体の外部ディスプレイと、
を備える、
通信システム。
(付記7)
前記通信端末は、前記外部ディスプレイとは異なる解像度を有するディスプレイを備える、付記6に記載の通信システム。
(付記8)
前記通信端末は、タッチスクリーンを更に備え、前記タッチスクリーンへの操作データを前記サーバに送信し、
前記サーバは、前記操作データに従い、前記外部ディスプレイに送信するコンテンツを操作する、
付記6又は7に記載の通信システム。
(付記9)
前記外部ディスプレイの登録要求を受け付けると、
前記外部ディスプレイに割り当てた識別コード画像を前記外部ディスプレイに送信し表示させる、外部ディスプレイ管理サーバを更に備える、付記6乃至8のいずれか一項に記載の通信システム。
(付記10)
前記外部ディスプレイの解像度を、前記サーバの表示出力インタフェースに設定し、
前記表示出力インタフェースを前記外部ディスプレイにリモート接続する、付記6乃至9のいずれか一項に記載の通信システム。
(付記11)
通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用にサーバで変換し、前記外部ディスプレイに送信する、通信方法。
(付記12)
前記通信端末により要求されたコンテンツを、前記通信端末用に前記サーバで変換し、前記通信端末に送信する、付記11に記載の通信方法。
(付記13)
通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用に変換し、前記外部ディスプレイに送信する処理、をコンピュータに実行させる通信プログラム。
(付記14)
前記通信端末により要求されたコンテンツを、前記通信端末用に変換し、前記通信端末に送信する処理、をコンピュータに実行させる、付記13に記載の通信プログラム。
Some or all of the above embodiments may also be described, but not limited to:
(Appendix 1)
It is connected to a communication terminal and an external display separate from the communication terminal via a network.
The content requested by the communication terminal is converted for the external display and transmitted to the external display.
server.
(Appendix 2)
The content requested by the communication terminal is converted for the communication terminal and transmitted to the communication terminal.
The server described in Appendix 1.
(Appendix 3)
Launch the application corresponding to the requested content extension,
The server according to Appendix 1 or 2.
(Appendix 4)
An imaging unit that reads an identification code displayed on the external display for associating with the external display.
A control unit that requests the server to convert the content for the external display and send it to the external display.
A communication terminal equipped with.
(Appendix 5)
The communication terminal according to Appendix 4, wherein the control unit acquires connection information between the server and the external display.
(Appendix 6)
The server according to any one of Appendix 1 to 3 and
With the communication terminal described in Appendix 4 or 5.
An external display separate from the communication terminal,
To prepare
Communications system.
(Appendix 7)
The communication system according to Appendix 6, wherein the communication terminal includes a display having a resolution different from that of the external display.
(Appendix 8)
The communication terminal further includes a touch screen, and transmits operation data to the touch screen to the server.
The server operates the content to be transmitted to the external display according to the operation data.
The communication system according to Appendix 6 or 7.
(Appendix 9)
When the registration request for the external display is received,
The communication system according to any one of Supplementary note 6 to 8, further comprising an external display management server that transmits and displays an identification code image assigned to the external display to the external display.
(Appendix 10)
The resolution of the external display is set to the display output interface of the server,
The communication system according to any one of Supplementary note 6 to 9, wherein the display output interface is remotely connected to the external display.
(Appendix 11)
A communication method in which content requested by a communication terminal is converted by a server for an external display separate from the communication terminal and transmitted to the external display.
(Appendix 12)
The communication method according to Appendix 11, wherein the content requested by the communication terminal is converted by the server for the communication terminal and transmitted to the communication terminal.
(Appendix 13)
A communication program that causes a computer to execute a process of converting content requested by a communication terminal for an external display separate from the communication terminal and transmitting the content to the external display.
(Appendix 14)
The communication program according to Appendix 13, wherein a computer executes a process of converting content requested by the communication terminal for the communication terminal and transmitting the content to the communication terminal.

1 携帯通信端末
2 外部ディスプレイ
3 外部ディスプレイ管理サーバ
4 データベース
5 コンテンツ表示転送制御サーバ
6 仮想PC用サーバ
7 コンテンツサーバ
8 コンテンツ
11 クライアントアプリケーション
21 識別コード
60 仮想PC
61 OS固有機能モジュール
62 表示出力I/F(仮想ディスプレイ)
63 表示転送・操作制御モジュール
64 スマートフォン表示出力モジュール
100 制御部
110 撮像部
111 イメージセンサ
120 映像処理部
130 ディスプレイ部
131 タッチスクリーン
140 ユーザ入力部
150 記憶部
160 通信部
1 Mobile communication terminal 2 External display 3 External display management server 4 Database 5 Content display transfer control server 6 Virtual PC server 7 Content server 8 Content 11 Client application 21 Identification code 60 Virtual PC
61 OS-specific function module 62 Display output I / F (virtual display)
63 Display transfer / operation control module 64 Smartphone display / output module 100 Control unit 110 Imaging unit 111 Image sensor 120 Video processing unit 130 Display unit 131 Touch screen 140 User input unit 150 Storage unit 160 Communication unit

Claims (10)

通信端末及び前記通信端末とは別体の外部ディスプレイとネットワークを介して接続され、
前記通信端末により要求されたコンテンツを、前記外部ディスプレイ用に変換し、前記外部ディスプレイに送信する、
サーバ。
It is connected to the communication terminal and an external display separate from the communication terminal via a network.
The content requested by the communication terminal is converted for the external display and transmitted to the external display.
server.
前記通信端末により要求されたコンテンツを前記通信端末用に変換し、前記通信端末に送信する、
請求項1に記載のサーバ。
The content requested by the communication terminal is converted for the communication terminal and transmitted to the communication terminal.
The server according to claim 1.
前記要求されたコンテンツの拡張子に対応するアプリケーションを起動させる、
請求項1又は2に記載のサーバ。
Launch the application corresponding to the requested content extension,
The server according to claim 1 or 2.
外部ディスプレイと関連付けるための、前記外部ディスプレイに表示される、識別コードを読み取る撮像部と、
コンテンツを、前記外部ディスプレイ用に変換し、前記外部ディスプレイに送信するようにサーバに要求する制御部と、
を備える、通信端末。
An imaging unit that reads an identification code displayed on the external display for associating with the external display.
A control unit that requests the server to convert the content for the external display and send it to the external display.
A communication terminal equipped with.
請求項1乃至3のいずれか一項に記載のサーバと、
請求項4に記載の通信端末と、
前記通信端末とは別体の外部ディスプレイと、
を備える、
通信システム。
The server according to any one of claims 1 to 3.
The communication terminal according to claim 4 and
An external display separate from the communication terminal,
To prepare
Communications system.
前記通信端末は、前記外部ディスプレイとは異なる解像度を有するディスプレイを備える、請求項5に記載の通信システム。 The communication system according to claim 5, wherein the communication terminal includes a display having a resolution different from that of the external display. 前記通信端末は、タッチスクリーンを更に備え、前記タッチスクリーンへの操作データを前記サーバに送信し、
前記サーバは、前記操作データに従い、前記外部ディスプレイに送信するコンテンツを操作する、
請求項5又は6に記載の通信システム。
The communication terminal further includes a touch screen, and transmits operation data to the touch screen to the server.
The server operates the content to be transmitted to the external display according to the operation data.
The communication system according to claim 5 or 6.
前記外部ディスプレイの登録要求を受け付けると、
前記外部ディスプレイに割り当てた識別コード画像を前記外部ディスプレイに送信し表示させる、外部ディスプレイ管理サーバを更に備える、請求項5乃至7のいずれか一項に記載の通信システム。
When the registration request for the external display is received,
The communication system according to any one of claims 5 to 7, further comprising an external display management server that transmits and displays an identification code image assigned to the external display to the external display.
通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用にサーバで変換し、前記外部ディスプレイに送信する、通信方法。 A communication method in which content requested by a communication terminal is converted by a server for an external display separate from the communication terminal and transmitted to the external display. 通信端末により要求されたコンテンツを、前記通信端末とは別体の外部ディスプレイ用に変換し、前記外部ディスプレイに送信する処理、をコンピュータに実行させる通信プログラム。 A communication program that causes a computer to execute a process of converting content requested by a communication terminal for an external display separate from the communication terminal and transmitting the content to the external display.
JP2019052486A 2019-03-20 2019-03-20 Server, communication method, and communication program Active JP6750799B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019052486A JP6750799B1 (en) 2019-03-20 2019-03-20 Server, communication method, and communication program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019052486A JP6750799B1 (en) 2019-03-20 2019-03-20 Server, communication method, and communication program

Publications (2)

Publication Number Publication Date
JP6750799B1 JP6750799B1 (en) 2020-09-02
JP2020154709A true JP2020154709A (en) 2020-09-24

Family

ID=72240880

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019052486A Active JP6750799B1 (en) 2019-03-20 2019-03-20 Server, communication method, and communication program

Country Status (1)

Country Link
JP (1) JP6750799B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000231570A (en) * 1999-02-09 2000-08-22 Just Syst Corp Internet information processing apparatus, Internet information processing method, and computer-readable recording medium storing a program for causing a computer to execute the method
US20060077310A1 (en) * 2004-07-16 2006-04-13 Wang Tiejun R Methods, systems and apparatus for displaying the multimedia information from wireless communication networks
JP2007088933A (en) * 2005-09-22 2007-04-05 Matsushita Electric Ind Co Ltd Video playback apparatus and video playback method
JP2008278266A (en) * 2007-04-27 2008-11-13 Access Co Ltd Information display system
JP2017027561A (en) * 2015-07-28 2017-02-02 株式会社リコー Terminal, communication system, communication method, and program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000231570A (en) * 1999-02-09 2000-08-22 Just Syst Corp Internet information processing apparatus, Internet information processing method, and computer-readable recording medium storing a program for causing a computer to execute the method
US20060077310A1 (en) * 2004-07-16 2006-04-13 Wang Tiejun R Methods, systems and apparatus for displaying the multimedia information from wireless communication networks
JP2007088933A (en) * 2005-09-22 2007-04-05 Matsushita Electric Ind Co Ltd Video playback apparatus and video playback method
JP2008278266A (en) * 2007-04-27 2008-11-13 Access Co Ltd Information display system
JP2017027561A (en) * 2015-07-28 2017-02-02 株式会社リコー Terminal, communication system, communication method, and program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
藤沢寛: "行動連携を実現する端末連携技術", NHK技研R&D, vol. 第171号, JPN6020024663, 15 September 2018 (2018-09-15), JP, pages 4 - 9, ISSN: 0004304634 *

Also Published As

Publication number Publication date
JP6750799B1 (en) 2020-09-02

Similar Documents

Publication Publication Date Title
EP2901661B1 (en) Terminal and method for transmitting and receiving data
JP7028117B2 (en) Information processing system, information processing device, information processing method and program
US20190303880A1 (en) Communication system, communication method, and information processing apparatus
JP2022020946A (en) Information processing equipment, information processing system, communication format determination method and program
JP6721792B2 (en) Identity recognition method, identity recognition device, office platform system and related server
US11237854B2 (en) Providing a virtual desktop within a computing environment
JP2018506791A (en) Method and apparatus for managing conversation contents of messenger and computer program
WO2019201197A1 (en) Image desensitization method, electronic device and storage medium
KR20150032152A (en) Method and apparatus for performing edit operations between electronic devices
CN102685176A (en) Remote support system and remote support method for terminal
JP6511868B2 (en) INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, INFORMATION PROCESSING APPARATUS, AND PROGRAM
JP2015219862A (en) Terminal equipment, program, function calling method, and information processing system
WO2018177346A1 (en) Shared information processing method and sharing client
EP2916495A1 (en) Information processing system, an information processing apparatus and a medium storing an information processing program
WO2023202721A1 (en) File transmission method and apparatus, and electronic device and storage medium
CN112347401A (en) Method, system, device and computer-readable storage medium for viewing a house with a screen
JP2016177463A (en) Information processing apparatus, data sharing method, program, and information processing system
JP7039903B2 (en) Information processing system, information processing device, program and screen sharing terminal control method
JP2018022336A (en) Information processing system, information processing apparatus, and program
JP6750799B1 (en) Server, communication method, and communication program
WO2024093767A1 (en) Microscopic image sharing method and microscope system
JP6578701B2 (en) Information processing system, information processing device, terminal device, and program
US20230195183A1 (en) Method and system for registering devices
JP6351275B2 (en) Information processing terminal, information processing terminal control method, and program
CN114298866A (en) An information processing method, terminal device, central device and system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190320

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200731

R150 Certificate of patent or registration of utility model

Ref document number: 6750799

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150