CN111352903A - 日志管理平台、日志管理方法、介质以及电子设备 - Google Patents

Abstract

本公开涉及计算机技术领域，提供了一种日志管理平台和方法、介质及设备。其中，该平台包括：日志收集模块，用于：实时获取数据流以收集关于多个业务系统的日志数据；日志拆分模块，用于：对日志数据进行多维度拆分；日志计算模块用于：根据计算单元的数量调用并处理对应数量的拆分日志数据；控制模块用于：动态优化日志计算模块中的计算单元的数量，以使日志计算模块通过优化后的计算单元处理拆分日志数据；日志筛选模块，用于：根据日志检索请求对存储的日志数据进行筛选；目标日志处理模块，用于：将检索出的目标日志的关键项以超链接的方式进行展示，以供用户通过超链接获取对应的关键项详情。本技术方案能够提升日志查询的效率与便捷度。

Description

日志管理平台、日志管理方法、介质以及电子设备

技术领域

本公开涉及计算机技术领域，具体而言，涉及一种日志管理平台和日志管理方法，以及实现上述日志管理方法的计算机存储介质和电子设备。

背景技术

在大数据时代，数据的价值愈来愈突显出其重要性。其中，日志数据能够指记录用户行为、系统运行状态，因此在业务开发过程、测试过程和运维过程中可以作为问题调查、系统诊断的数据参考源。随着业务种类的日渐丰富，日志的服务也越来越复杂，则需对日志数据进行一系列的管理任务，以使日志数据更好的服务用户。

在传统的企业应用系统中，日志数据都是分散存储至多个节点中。如果需要通过日志定位目标Bug，则需要在每个节点上使用传统的命令方式查询，导致日志查询效率非常底下。可见，相关技术提供的日志管理方案无法满足实时地日志查询需求。

需要说明的是，上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。

发明内容

本公开的目的在于提供一种日志管理平台、日志管理方法、计算机存储介质和电子设备，进而至少在一定程度上提升日志查询的效率与便捷度。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种日志管理平台，包括：

日志收集模块，用于：实时获取数据流以收集关于多个业务系统的日志数据；

日志拆分模块，用于：对所述日志数据进行多维度拆分，得到每个维度的拆分日志数据；

控制模块和多个日志计算模块，其中，每个所述日志计算模块包括多个计算单元；

所述日志计算模块用于：通过所述计算单元调用并处理所述拆分日志数据，并存储处理后的日志数据；所述控制模块用于：动态优化所述日志计算模块中的参与调用并处理所述拆分日志数据的计算单元的数量；

日志筛选模块，用于：接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选；

目标日志处理模块，用于：将检索出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

在本公开示例性的实施例中，基于前述方案，所述控制模块具体用于：

获取M个日志计算模块中第i个日志计算模块中每个计算单元的处理速度，并根据所述处理速度优化所述第i个日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量；

其中，M为大于或等于2的整数，i为小于或等于M的正整数。

在本公开示例性的实施例中，基于前述方案，所述控制模块还具体用于：

根据所述第i个日志计算模块对应的目标拆分日志数据，获取与目标拆分日志数据具有逻辑关系的日志数据对应的目标日志计算模块，并获取所述目标日志计算模块间的数据流量信息，以根据所述处理速度和所述数据流量信息优化所述第i个日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量。

在本公开示例性的实施例中，基于前述方案，所述日志收集模块包括吞吐量大于预设值的数据传输管道，以实现海量日志数据的实时写入所述日志管理平台。

在本公开示例性的实施例中，基于前述方案，所述日志管理平台还包括：日志展示模块，用于以列表的方式展示所述日志数据。

在本公开示例性的实施例中，基于前述方案，所述日志检索请求包括：请求地址、用户、接口参数和接口响应状态中的一种或多种。

在本公开示例性的实施例中，基于前述方案，所述关键项包括：关于所述目标日志的请求头、请求参数和响应参数。

根据本公开的另一个方面，提供一种日志管理方法，包括：

实时获取数据流以收集关于多个业务系统的日志数据；

对所述日志数据进行多维度拆分，得到每个维度的拆分日志数据；

通过多个计算模块调用并处理所述拆分日志数据，以及动态优化每个计算模块所包含的计算单元的数量，以使所述多个计算模块基于优化后的数量的计算单元处理所述拆分日志数据，并存储处理后的日志数据；

接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选；

将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

根据本公开的一个方面，提供了一种计算机存储介质，其上存储有计算机程序，上述计算机程序被处理器执行时实现第二方面所述的日志管理方法。

根据本公开的一个方面，提供一种电子设备，包括：处理器；以及存储器，用于存储上述处理器的可执行指令；其中，上述处理器配置为经由执行上述可执行指令来执行上述第二方面所述的日志管理方法。

由上述技术方案可知，本公开示例性实施例中的日志管理平台至少具备以下优点和积极效果：

在本公开的一些实施例所提供的技术方案中，通过日志收集模块实时获取数据流以收集关于多个业务系统的日志数据，并多维度拆分上述日志数据，以进一步地根据日志计算模块中的计算单元的数量来调用拆分后的日志，其中，每个日志计算模块中的计算单元的数量是动态优化的。从而使得每个日志计算模块中所包含的计算单元的数量既能够满足实时日志查询的需求，又不会造成计算资源的浪费。

进一步地，通过日志筛选模块接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选，最终，通过目标日志处理模块将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情，从而使得日志快捷复现，进一步提升日志查询的效率与便捷度。

本公开应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

在附图中：

图1示出了可以应用本公开实施例的一种日志管理平台的结构示意图；

图2示出了可以应用本公开实施例的一种日志处理流程的示意图；

图3示出了可以应用本公开实施例的日志计算模块和控制模块的结构示意图；

图4示出了可以应用本公开实施例的一种日志检索项的页面展示图；

图5示出了可以应用本公开实施例的一种日志列表的页面展示图；

图6示出了可以应用本公开实施例的一种日志管理方法的流程示意图；以及，

图7示出本公开示例性实施例中电子设备的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

本技术方案是的研究目标就是要在对日志收集系统广泛研究分析的基础上，结合企业日常在日志收集中所碰到的问题，提出统一的日志服务解决方案，完成日志服务平台，并将该系统在企业部署落地。具体来说，是建立一个海量日志实时收集、检索、计算平台，实现对日志数据的快速收集、消费和提取等。让用户享受方便快捷、稳定可靠和低成本的日志服务。

以下对本技术方案提出的日志管理平台以及日志管理方法以及电子设备进行具体实施例进行介绍。其中，图1示出了可以应用本公开实施例的一种日志管理平台的结构示意图。

参考图1，本实施例提供的日志管理系统100包括：日志收集模块110、日志拆分模块110、日志拆分模块120、M个日志计算模块131、用于控制日志计算模块的控制模块132、日志存储模块140以及目标日志处理模块150，其中，M为大于2的整数。

本实施例提供的技术方案中，通过日志收集模块110实时获取数据流以收集关于多个业务系统的日志数据，并通过日志拆分模块120多维度拆分上述日志数据，以进一步地根据日志计算模块131中的计算单元的调用并处理拆分后的日志。其中，每个日志计算模块中参与调用并处理拆分后的日志的计算单元的数量(可以记作“执行单元”)是基于控制模块132动态优化的。从而使得每个日志计算模块中所包含的执行单元的数量既能够满足实时日志查询的需求，又不会造成计算资源的浪费。进一步地，通过日志筛选模块140接收并解析日志检索请求，并根据日志检索请求对存储的日志数据进行筛选，最终，通过目标日志处理模块150将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情，从而使得日志快捷复现，进一步提升日志查询的效率与便捷度。

以下结合图2示出的可以应用本公开实施例的一种日志处理流程的示意图对日志管理平台的各个模块的具体实施方式进行详细说明。

在示例性的实施例中，上述日志收集模块110基于Kafka集群采集多个业务系统200(如，业务系统1、业务系统2、……业务系统N)产生的日志数据。其中，Kafka是一个高吞吐量的分布式消息系统，主要用于处理实时的流式数据或者动作流数据。示例性的，收集的日志数据可以是不同业务系统内网页浏览、用户访问，搜索和其他用户的行为等数据。这些数据由于吞吐量的下限制，传统的处理方式是先将日志数据以文件的形式记录下来，然后定期处理。然而这种传统的日志处理和数据分析方法是一种离线处理方案，往往会产生比较大的延迟。而采用Kafka集群的消息队列能够很好的处理实时或近实时的流式数据，从而有利于满足日志数据处理的实时性要求。可见，上述日志收集模块110基于吞吐量大于预设值的数据传输管道，能够实现海量日志数据的实时写入日志管理平台100。

进一步地，参考图2，在示例性的实施例中，上述对于日志管理平台还包括：日志预处理模块300，用于对于日志收集模块110获取到的上述日志数据进行预处理。示例性的，日志预处理模块300对日志数据的预处理操作包括日志解析，例如：解析多个业务系统同收集来的不同数据格式的数据，以统一其数据格式，从而便于进一步地日志数据处理。上述预处理操作包括日志过滤，例如：对重复的数据进行过滤，以避免日志数据冗余或数据量庞杂。上述预处理操作包括创建特征集、日志挖掘和分类以及日志统计等。

在示例性的实施例中，日志预处理过程中日志数据可以存储于Hadoop分布式文件系统(Hadoop Distributed File System,简称：HDFS)400中。示例性的，Hadoop可以以MapReduce作业等方式对上述日志数据进行批量处理，从而有效加快对日志数据的预处理速度。

在示例性的实施例中，继续参考图1，对于预处理后的日志数据，通过日志拆分模块120对其进行多维度拆分，得到每个维度的拆分日志数据。示例性的，可以依据日志数据所来自的业务系统对其进行拆分，如，对来自商城业务系统的日志数据打带有商城业务系统标识的标签、对来自医疗业务系统的日志数据打带有医疗业务系统标识的标签等。还可以依据日志数据对应的接口类型实现拆分，如对来自内网接口的日志数据打带有内网接口标识的标签、对来自外网接口的日志数据打带有外网接口标识的标签等。将数据进行拆分(如，打标签)是为了便于对不同种类的数据进行汇总统计。

示例性的，参考图2，可以通过Elasticsearch集群500完成日志数据的拆分以及拆分后的汇总统计与存储。其中，ElasticSearch是一种基于Lucene的分布式搜索引擎，具体的，在上述日志数据导入Elasticsearch集群后，利用JSON作为文档序列化的格式对系统日志进行多维度分拆，并以文档的形式进行存储。

具体的，Elasticsearch集群中包含master节点、client节点和data节点。具体的，master节点可以用于维护并存储汇总统计之前的日志数据和/或汇总统计之后的日志数据，并负责管理集群其余节点状态；data节点可以用于接收用户的日志检索请求数据，并基于日志检索请求数据查询存储在master节点的日志数据；client节点接收data节点上汇聚的查询结果，并返回给用户。

在示例性的实施例中，在接收并解析日志检索请求之前，通过日志计算模块131对处理上述拆分日志数据：鉴于因为每个日志计算模块中的执行单元计算不同种类的日志拆分数据的平均处理时间是不一样的，从而本技术方案通过对于日志数据进行提前拆分，便于后续获得日志数据平均处理时间。参考图3，示出的第i个日志计算模块131(其中，i为小于或等于M的正整数)，其中包含被拆分后的多个计算单元。

参考图2，该日志计算模块中参与调用处理拆分日志数据的执行单元的数量是由控制模块132动态优化的。示例性的，第i个日志计算模块131当前包含N_i个计算单元，则基于当前计算单元的数量N_i调用并处理对应数量的拆分日志数据。同时，控制模块132获取第i个日志计算模块中每个计算单元的处理速度，并根据处理速度将计算单元的数量由N_i个优化为N_i’个。进而，再通过N_i’个计算单元处理所述拆分日志数据，并存储处理后的日志数据。其中，N_i和Ni’也为正整数。

具体的，当N_i小于N_i’时，则增加第i个日志计算模块中执行单元的数量，或者，当N_i大于N_i’时，则减少第i个日志计算模块中执行单元的数量。

在示例性的实施例中，鉴于不同日志计算模块之间所处理的拆分日志数据之间就有连续关系。因此，控制模块132在获取每个日志计算模块中考虑每个计算单元的处理速度的同时，还考虑拆分日志之间的逻辑关系。具体的，先获取第i个日志计算模块对应的目标拆分日志数据(如，第一季度中目标产品的出售量)，然后，获取与目标拆分日志数据具有逻辑关系的日志数据(如，第一季度中每个月份中目标产品的出售量)，进一步地，获取处理该日志数据(即，上述第一季度中每个月份中目标产品的出售量)的日志计算模块(记作“目标日志计算模块”)。进而获取目标日志计算模块间的数据流量信息，并根据处理速度和数据流量信息优化第i个日志计算模块中的计算模块的数量。从而，使得逻辑上具有关联关系的日志数据被集中高效地处理，在用户查询目标问题的相关联问题时，可以及时准确地向用户反馈查询结果。

在示例性的实施例中，上述日志计算模块中执行单元对拆分日志数据进行的处理操作包括以下操作的一种或几种：解析处理、过滤处理、挖掘处理、分类处理以及统计处理。执行单元可以根据不同的查询需求而进行不同的处理过程，本实施例不作具体限定。

需要说明的是，每个日志计算模块中计算单元的数量的优化过程每间隔一定时长而反复执行的。从而，每个日志计算模块中的计算单元的数量是动态优化的。从而使得每个日志计算模块中所包含的计算单元的数量既能够满足实时日志查询的需求，又不会造成计算资源的浪费。

在示例性的实施例中，继续参考图1，上述日志筛选模块140，用于：接收并解析日志检索请求，并根据所述日志检索请求对集中存储的日志数据进行筛选。其中日志检索请求包括：请求地址、用户、接口参数和接口响应状态中的一种或多种，以根据日志检索请求灵活、方便、快捷筛选日志数据。

其中，图4示出了可以应用本公开实施例的一种日志检索项的页面展示图。参考图4，用户或用户客户端根据该页面展示出的一个或多个日志检索项确定日志检索请求。例如，通过在“统一资源定位符(Uniform Resource Locator,简称：URL)”检索项对应的交互框中填写目标日志的URL，便可以确定了该目标日志的日志检索请求。又例如，通过在“接口类型”检索项对应的交互框中填写目标日志的接口类型，通过在“用户ID”检索项对应的交互框中填写用户标识，便确定了该目标日志的日志检索请求。当然，还可以在其他检索项(如，目标日志的所述系统、目标日志的请求体、目标日志的响应等)对应的交互框中填写相关内容，均可以确定对目标日志的检索请求。

示例性的，参考图4，在相关检索项被填写之后，可以通过“查询”来触发日志筛选过程，还可以通过“重置”来取消该次相关检索项中填写的内容。

在示例性的实施例中，日志筛选模块140接收到用户或用户客户端的日志检索请求后，解析日志检索请求中所包含的检索项，并基于检索项对存储(如存储于Elasticseach集群)的日志数据进行筛选，最终确定检索项对应的目标日志。

示例性的，解析后日志检索请求得到的参数为：

Request:{“verifyCode”:”807275”,”purpose”:”L”,”phone”:”186124”,”language”:”zh”,”sys”:”hmp”}。

示例性的，对应的得到相应可以表示为：

{“code”:”success”,”data”:{”regFrom”:”IG”,”accName”:”13439731745”,”accid”:”6002327283”,”token”:”eyJhbGciOiJIUz”},”message”:”处理成功”,”reqSeq”:”IG1566281347653”}

在示例性的实施例中，获取到目标日志之后，通过目标日志处理模块150将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

在示例性的实施例中，图5示出了可以应用本公开实施例的一种日志列表的页面展示图。具体的，本技术方案提供的日志管理平台100还包括：日志展示模块600。

具体的，通过日志展示模块600可以以列表的方式展示日志数据。还可以通过日志展示模块600以列表的方式展示上述目标日志。其中，相较于相关技术中展示日志报文的方式，本技术方案通过列表的方式展示日志数据，使得界面显示更加清晰明了，使得用户查看感受更为直观从而方便于用户查阅。

在示例性的实施例中，参考图5，对于列表中的每条日志信息，不仅展示其所属系统、URL、请求时间等。此外，展示列表还包括对每条日志的操作项，即可以通过操作来查看目标日志的各个关键项。

示例性的，目标日志的关键项包括：关于所述目标日志的请求头、请求参数和响应参数。本实施例中，将目标日志的各个关键项以超链接的方式进行展示(例如：关于请求头的超链接、关于请求参数的超链接以及关于响应参数的超链接)，以供用户通过所述超链接获取对应的关键项详情，从而使得通过日志复现以及查找问题更加快捷方便。

在示例性的实施例中，上述日志管理平台还包括权限管理模块。根据检索请求用户的权限为该用户提供其权限对应的日志内容。为不同权限的用户提供了个性化定制的日志数据，有利于对日志数据管理的规范性。

本技术方案提供的日志管理平台为海量日志实时收集、集中存储、检索、分析计算以及展示的一站式服务系统，用户可以快捷地完成数据采集、消费、投递及查询分析等功能，帮助提升企业运维和运营效率，赋能大数据时代的海量日志处理能力。

图6示意性示出了根据本公开的一实施例的日志管理方法的流程图。该实施例提供的方法是基于前述实施例提供的日志管理平台实现的，参考图6，该方法包括：

步骤S610，实时获取数据流以收集关于多个业务系统的日志数据；

步骤S620，对所述日志数据进行多维度拆分，得到每个维度的拆分日志数据；

步骤S630，通过多个日志计算模块调用并处理所述拆分日志数据，以及动态优化每个日志计算模块所包含的计算单元的数量，以使所述多个日志计算模块基于优化后数量的计算单元处理所述拆分日志数据，并存储处理后的日志数据；

步骤S640，接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选；以及，

步骤S650，将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

在示例性的实施例中，基于前述方案，获取所述日志计算模块中每个计算单元的处理速度，并根据处理速度优化该日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量。

在示例性的实施例中，基于前述方案，根据所述第i个日志计算模块对应的目标拆分日志数据，获取与目标拆分日志数据具有逻辑关系的日志数据对应的目标日志计算模块，并获取所述目标日志计算模块间的数据流量信息，以根据所述处理速度和所述数据流量信息优化所述日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量。

在示例性的实施例中，基于前述方案，通过吞吐量大于预设值的数据传输管道来实时获取数据流以收集关于多个业务系统的日志数据，以实现海量日志数据的实时写入所述日志管理平台。

在示例性的实施例中，基于前述方案，该日志管理方法还包括：以列表的方式展示所述日志数据。

在示例性的实施例中，基于前述方案，上述日志检索请求包括：请求地址、用户、接口参数和接口响应状态中的一种或多种。

在示例性的实施例中，基于前述方案，上述关键项包括：关于所述目标日志的请求头、请求参数和响应参数。

鉴于该方法是基于前述实施例提供的日志管理平台实现的，且具体细节已经在说明书的日志管理平台实施例部分中进行了详细的描述，因此此处不再赘述。

图7示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。

需要说明的是，图7示出的电子设备的计算机系统700仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图7所示，计算机系统700包括处理器701(包括：图形处理单元(GraphicsProcessing Unit，GPU)、中央处理单元(Central Processing Unit，CPU))，其可以根据存储在只读存储器(Read-Only Memory，ROM)702中的程序或者从存储部分708加载到随机访问存储器(Random Access Memory，RAM)703中的程序而执行各种适当的动作和处理。在RAM703中，还存储有系统操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(Input/Output，I/O)接口705也连接至总线704。

以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN(Local Area Network，局域网)卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

特别地，根据本公开的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本公开实施例所示的计算机存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机存储介质，该计算机存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。

例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机存储介质，该计算机存储介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机存储介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现上述实施例中所述的方法。例如，所述的电子设备可以实现如图7中所示的方法实施例。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种日志管理平台，其特征在于，包括：

日志收集模块，用于：实时获取数据流以收集关于多个业务系统的日志数据；

日志拆分模块，用于：对所述日志数据进行多维度拆分，得到每个维度的拆分日志数据；

控制模块和多个日志计算模块，其中，每个所述日志计算模块包括多个计算单元；

所述日志计算模块用于：通过所述计算单元调用并处理所述拆分日志数据，并存储处理后的日志数据；所述控制模块用于：动态优化所述日志计算模块中的参与调用并处理所述拆分日志数据的计算单元的数量；

日志筛选模块，用于：接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选；

目标日志处理模块，用于：将检索出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

2.根据权利要求1所述的日志管理平台，其特征在于，所述控制模块具体用于：

获取M个日志计算模块中第i个日志计算模块中每个计算单元的处理速度，并根据所述处理速度优化所述第i个日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量；

其中，M为大于或等于2的整数，i为小于或等于M的正整数。

3.根据权利要求2所述的日志管理平台，其特征在于，所述控制模块还具体用于：

根据所述第i个日志计算模块对应的目标拆分日志数据，获取与目标拆分日志数据具有逻辑关系的日志数据对应的目标日志计算模块，并获取所述目标日志计算模块间的数据流量信息，以根据所述处理速度和所述数据流量信息优化所述第i个日志计算模块中参与调用并处理所述拆分日志数据的计算单元的数量。

4.根据权利要求1至3中任意一项所述的日志管理平台，其特征在于，所述日志收集模块包括吞吐量大于预设值的数据传输管道，以实现海量日志数据的实时写入所述日志管理平台。

5.根据权利要求1至3中任意一项所述的日志管理平台，其特征在于，所述日志管理平台还包括：日志展示模块，用于以列表的方式展示所述日志数据。

6.根据权利要求1至3中任意一项所述的日志管理平台，其特征在于，所述日志检索请求包括：请求地址、用户、接口参数和接口响应状态中的一种或多种。

7.根据权利要求1至3中任意一项所述的日志管理平台，其特征在于，所述关键项包括：关于所述目标日志的请求头、请求参数和响应参数。

8.一种日志管理方法，其特征在于，包括：

实时获取数据流以收集关于多个业务系统的日志数据；

对所述日志数据进行多维度拆分，得到每个维度的拆分日志数据；

通过多个日志计算模块调用并处理所述拆分日志数据，以及动态优化每个日志计算模块所包含的计算单元的数量，以使所述多个日志计算模块基于优化后数量的计算单元处理所述拆分日志数据，并存储处理后的日志数据；

接收并解析日志检索请求，并根据所述日志检索请求对存储的日志数据进行筛选；

将筛选出的目标日志的关键项以超链接的方式进行展示，以供用户通过所述超链接获取对应的关键项详情。

9.一种计算机存储介质，其特征在于，其上存储有计算机程序；

所述计算机程序被处理器执行时实现如权利要求8所述的日志管理方法。

10.一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求8所述的日志管理方法。

Images