JP2018180645A - データ処理プログラム、データ処理方法およびデータ処理装置 - Google Patents
データ処理プログラム、データ処理方法およびデータ処理装置 Download PDFInfo
- Publication number
- JP2018180645A JP2018180645A JP2017074745A JP2017074745A JP2018180645A JP 2018180645 A JP2018180645 A JP 2018180645A JP 2017074745 A JP2017074745 A JP 2017074745A JP 2017074745 A JP2017074745 A JP 2017074745A JP 2018180645 A JP2018180645 A JP 2018180645A
- Authority
- JP
- Japan
- Prior art keywords
- data
- data processing
- encoded
- dynamic
- column
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/3084—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction using adaptive string matching, e.g. the Lempel-Ziv method
- H03M7/3088—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction using adaptive string matching, e.g. the Lempel-Ziv method employing the use of a dictionary, e.g. LZ78
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
- G06F16/1744—Redundancy elimination performed by the file system using compression, e.g. sparse files
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
Description
複数のデータソースにそれぞれ蓄積されたデータを用いたデータ処理の要求を受信し、
前記複数のデータソースそれぞれに対して、前記要求に対応するデータ取得指示をそれぞれ送信し、
前記複数のデータソースから、前記データ取得指示に対応し、特定の符号化規則により符号化された符号化データをそれぞれ受信し、
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を実行させる
ことを特徴とするデータ処理プログラム。
複数のデータソースにそれぞれ蓄積されたデータを用いたデータ処理の要求を受信し、
前記複数のデータソースそれぞれに対して、前記要求に対応するデータ取得指示をそれぞれ送信し、
前記複数のデータソースから、前記データ取得指示に対応し、特定の符号化規則により符号化された符号化データをそれぞれ受信し、
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を行う
ことを特徴とするデータ処理方法。
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を行うデータ処理部と
を有することを特徴とするデータ処理装置。
100a,100b,100c データソース
200 データ処理装置
Claims (7)
- コンピュータに
複数のデータソースにそれぞれ蓄積されたデータを用いたデータ処理の要求を受信し、
前記複数のデータソースそれぞれに対して、前記要求に対応するデータ取得指示をそれぞれ送信し、
前記複数のデータソースから、前記データ取得指示に対応し、特定の符号化規則により符号化された符号化データをそれぞれ受信し、
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を実行させる
ことを特徴とするデータ処理プログラム。 - 前記データ処理は、前記複数のデータソースからそれぞれ受信したデータの結合または前記データに含まれる数値の演算を含み、前記複数のデータソースから受信するデータには、符号化対象のデータと、前記符号化対象のデータに割り当てた動的符号との関係を示す動的辞書の情報が含まれることを特徴とする請求項1に記載のデータ処理プログラム。
- 前記データ処理に前記数値の演算が含まれる場合には、前記動的辞書に格納された数値同士の演算結果を、別途、前記動的辞書に格納する処理を更に実行することを特徴とする請求項2に記載のデータ処理プログラム。
- 前記複数のデータソースから受信する各動的辞書の情報を比較し、同一の動的符号が各動的辞書に含まれる場合には、動的符号を調整する処理を更に実行することを特徴とする請求項2に記載のデータ処理プログラム。
- 前記複数のデータソースで実行される符号化は、デリミタで区分された複数のカラムを有するレコードを複数有するデータに対して、カラム毎に符号化されていることを特徴とする請求項1〜4のいずれか一つに記載のデータ処理プログラム。
- コンピュータが実行するデータ処理方法であって、
複数のデータソースにそれぞれ蓄積されたデータを用いたデータ処理の要求を受信し、
前記複数のデータソースそれぞれに対して、前記要求に対応するデータ取得指示をそれぞれ送信し、
前記複数のデータソースから、前記データ取得指示に対応し、特定の符号化規則により符号化された符号化データをそれぞれ受信し、
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を行う
ことを特徴とするデータ処理方法。 - 複数のデータソースにそれぞれ蓄積されたデータを用いたデータ処理の要求を受信し、前記複数のデータソースそれぞれに対して、前記要求に対応するデータ取得指示をそれぞれ送信し、前記複数のデータソースから、前記データ取得指示に対応し、特定の符号化規則により符号化された符号化データをそれぞれ受信する収集部と、
前記符号化規則、および、前記複数のデータソースから受信した符号化データを用いて、符号化状態でデータ処理を行うデータ処理部と
を有することを特徴とするデータ処理装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017074745A JP6787231B2 (ja) | 2017-04-04 | 2017-04-04 | データ処理プログラム、データ処理方法およびデータ処理装置 |
| US15/938,672 US10367523B2 (en) | 2017-04-04 | 2018-03-28 | Data processing method and data processing apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017074745A JP6787231B2 (ja) | 2017-04-04 | 2017-04-04 | データ処理プログラム、データ処理方法およびデータ処理装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018180645A true JP2018180645A (ja) | 2018-11-15 |
| JP6787231B2 JP6787231B2 (ja) | 2020-11-18 |
Family
ID=63670108
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017074745A Expired - Fee Related JP6787231B2 (ja) | 2017-04-04 | 2017-04-04 | データ処理プログラム、データ処理方法およびデータ処理装置 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US10367523B2 (ja) |
| JP (1) | JP6787231B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024540870A (ja) * | 2021-10-15 | 2024-11-06 | ログノベーションズ ホールディングス, エルエルシー | 符号化/復号システム及び方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000293414A (ja) * | 1999-04-07 | 2000-10-20 | Hitachi Ltd | 異種データソース統合方法 |
| JP2011530234A (ja) * | 2008-07-31 | 2011-12-15 | マイクロソフト コーポレーション | 大規模なデータストレージのための効率的な列ベースデータの符号化 |
| JP2012504824A (ja) * | 2008-10-05 | 2012-02-23 | マイクロソフト コーポレーション | 列ベースのデータ符号化構造の問い合わせのための効率的な大規模結合 |
| JP2014016983A (ja) * | 2012-04-30 | 2014-01-30 | Sap Ag | 部分的マージ |
| US20150178305A1 (en) * | 2013-12-23 | 2015-06-25 | Ingo Mueller | Adaptive dictionary compression/decompression for column-store databases |
| JP2016009425A (ja) * | 2014-06-26 | 2016-01-18 | Kddi株式会社 | データ仮想化サーバ、データ仮想化サーバにおけるクエリ処理方法及びクエリ処理プログラム |
| WO2016170594A1 (ja) * | 2015-04-21 | 2016-10-27 | 株式会社日立製作所 | 計算機、データベース処理方法、及び集積回路 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100921034B1 (ko) * | 2001-11-22 | 2009-10-08 | 파나소닉 주식회사 | 주파수 성분의 계수를 부호화함으로써 얻어진 부호화데이터의 복호화 방법 |
| US7864086B2 (en) * | 2008-10-06 | 2011-01-04 | Donald Martin Monro | Mode switched adaptive combinatorial coding/decoding for electrical computers and digital data processing systems |
| JP5549177B2 (ja) | 2009-10-22 | 2014-07-16 | 富士通株式会社 | 圧縮プログラム、方法及び装置、並びに解凍プログラム、方法及び装置 |
| JP5487985B2 (ja) | 2010-01-14 | 2014-05-14 | 富士通株式会社 | 圧縮装置、方法及びプログラム、並びに展開装置、方法及びプログラム |
| IT1402222B1 (it) * | 2010-10-12 | 2013-08-28 | Selex Communications Spa | Metodo per trasmettere valori numerici da una unita' di rilevazione ad una unita' di controllo. |
| US20120286031A1 (en) * | 2012-07-30 | 2012-11-15 | Ariel Inventions, Llc | Symbology for unified barcode |
-
2017
- 2017-04-04 JP JP2017074745A patent/JP6787231B2/ja not_active Expired - Fee Related
-
2018
- 2018-03-28 US US15/938,672 patent/US10367523B2/en active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000293414A (ja) * | 1999-04-07 | 2000-10-20 | Hitachi Ltd | 異種データソース統合方法 |
| JP2011530234A (ja) * | 2008-07-31 | 2011-12-15 | マイクロソフト コーポレーション | 大規模なデータストレージのための効率的な列ベースデータの符号化 |
| JP2012504824A (ja) * | 2008-10-05 | 2012-02-23 | マイクロソフト コーポレーション | 列ベースのデータ符号化構造の問い合わせのための効率的な大規模結合 |
| JP2014016983A (ja) * | 2012-04-30 | 2014-01-30 | Sap Ag | 部分的マージ |
| US20150178305A1 (en) * | 2013-12-23 | 2015-06-25 | Ingo Mueller | Adaptive dictionary compression/decompression for column-store databases |
| JP2016009425A (ja) * | 2014-06-26 | 2016-01-18 | Kddi株式会社 | データ仮想化サーバ、データ仮想化サーバにおけるクエリ処理方法及びクエリ処理プログラム |
| WO2016170594A1 (ja) * | 2015-04-21 | 2016-10-27 | 株式会社日立製作所 | 計算機、データベース処理方法、及び集積回路 |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2024540870A (ja) * | 2021-10-15 | 2024-11-06 | ログノベーションズ ホールディングス, エルエルシー | 符号化/復号システム及び方法 |
| US12386785B2 (en) | 2021-10-15 | 2025-08-12 | Lognovations Holdings, Llc | Encoding / decoding system and method |
| US12450199B2 (en) | 2021-10-15 | 2025-10-21 | Lognovations Holdings, Llc | Encoding / decoding system and method |
| US12461895B2 (en) | 2021-10-15 | 2025-11-04 | Lognovations Holdings, Llc | Encoding / decoding system and method |
| US12505072B2 (en) | 2021-10-15 | 2025-12-23 | Lognovations Holdings, Llc | Encoding / decoding system and method |
| US12511261B2 (en) | 2021-10-15 | 2025-12-30 | Lognovations Holdings, Llc | Encoding / decoding system and method |
| US12517867B2 (en) | 2021-10-15 | 2026-01-06 | Lognovations Holdings, Llc | Encoding / decoding system and method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6787231B2 (ja) | 2020-11-18 |
| US10367523B2 (en) | 2019-07-30 |
| US20180287629A1 (en) | 2018-10-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10747737B2 (en) | Altering data type of a column in a database | |
| US11755565B2 (en) | Hybrid column store providing both paged and memory-resident configurations | |
| CN104008064B (zh) | 用于多级存储器压缩的方法和系统 | |
| US11070231B2 (en) | Reducing storage of blockchain metadata via dictionary-style compression | |
| CN104040541A (zh) | 用于更高效地使用存储器至cpu带宽的技术 | |
| CN109981111A (zh) | 一种数据压缩编码的方法、装置及存储电子设备 | |
| US12111807B2 (en) | Optimizing storage and retrieval of compressed data | |
| CN115438114A (zh) | 存储格式转换方法、系统、装置、电子设备及存储介质 | |
| JP2019504426A (ja) | ランダム文字列を生成する方法および装置 | |
| CN109471893B (zh) | 网络数据的查询方法、设备及计算机可读存储介质 | |
| US20210159913A1 (en) | Multiple Symbol Decoder | |
| CN111510716B (zh) | 通过图像文件的像素变换提高压缩率的方法和系统 | |
| US20200210411A1 (en) | Data storage in blockchain-type ledger | |
| US11329666B2 (en) | Method and system for compressing and/or encrypting data files | |
| TW201535984A (zh) | 最佳化資料壓縮器與方法 | |
| KR101253700B1 (ko) | Ngs 데이터의 고속 압축장치 및 그 방법 | |
| CN111159515A (zh) | 数据处理方法、装置及电子设备 | |
| US20140101215A1 (en) | Dpd/bcd to bid converters | |
| CN105608096A (zh) | 时间序列数据处理方法及其系统 | |
| US20170351461A1 (en) | Non-transitory computer-readable storage medium, and data compressing device | |
| JP2018180645A (ja) | データ処理プログラム、データ処理方法およびデータ処理装置 | |
| US9779148B2 (en) | Data conversion system | |
| US20160012064A1 (en) | Data conversion device | |
| CN117560013A (zh) | 数据压缩方法和电子设备 | |
| US12001237B2 (en) | Pattern-based cache block compression |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200115 |
|
| TRDD | Decision of grant or rejection written | ||
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200923 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200929 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201012 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6787231 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |