CN119227104A - 基于大数据分析的数据处理方法、装置、设备及存储介质 - Google Patents
基于大数据分析的数据处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN119227104A CN119227104A CN202411266097.0A CN202411266097A CN119227104A CN 119227104 A CN119227104 A CN 119227104A CN 202411266097 A CN202411266097 A CN 202411266097A CN 119227104 A CN119227104 A CN 119227104A
- Authority
- CN
- China
- Prior art keywords
- data
- business
- preset
- user
- business opportunity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Computer Security & Cryptography (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Bioethics (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Game Theory and Decision Science (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请属于数据处理领域与金融科技领域,涉及一种基于大数据分析的数据处理方法,包括:基于数据抓取策略获取初始商机数据;基于录入标准策略对初始商机数据进行数据筛选处理得到第一商机数据;对第一商机数据进行数据预处理得到第二商机数据;获取指定密钥;基于算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;基于指定密钥与指定加密算法对第二商机数据进行加密处理得到目标商机数据;将目标商机数据上传至预设的指定存储介质。本申请还提供一种基于大数据分析的数据处理装置、计算机设备及存储介质。此外,本申请还涉及区块链技术,目标商机数据可存储于区块链中。本申请解决了商机数据的泄露风险,保证了商机数据的传输安全性。
Description
技术领域
本申请涉及数据处理技术领域与金融科技领域,尤其涉及基于大数据分析的数据处理方法、装置、计算机设备及存储介质。
背景技术
在快速发展的金融行业中,金融业务系统作为支撑金融机构日常运营与业务拓展的核心平台,其高效性与安全性日益成为行业关注的焦点。其中,商机管理与跟踪作为金融业务系统不可或缺的一部分,对于金融机构识别潜在市场机会、精准营销、提升客户满意度及实现业务增长具有至关重要的作用。
传统上,商机管理与跟踪依赖于人工记录、分析以及后续跟进,这种方式不仅效率低下,且难以全面捕捉市场动态和客户需求变化。随着信息技术的飞速发展,特别是大数据、云计算、人工智能等技术的广泛应用,金融业务系统开始引入先进的商机管理解决方案,通过自动化、智能化的手段,实现对商机的精准识别、高效分配、动态跟踪及效果评估,极大提升了业务团队的工作效率和业务产出。
然而,商机管理解决方案在处理过程中会涉及大量敏感客户数据,现有技术中,对于商机数据的处理普遍采用直接上传至服务器或云存储介质的方式,使得商机数据在传输和存储过程中极易遭受未授权访问、篡改或泄露的风险,无法保证商机数据的传输安全性。
发明内容
本申请实施例的目的在于提出一种基于大数据分析的数据处理方法、装置、计算机设备及存储介质,以解决现有的对于商机数据的处理普遍采用直接上传至服务器或云存储介质的方式,使得商机数据在传输和存储过程中极易遭受未授权访问、篡改或泄露的风险,无法保证商机数据的传输安全性的技术问题。
为了解决上述技术问题,本申请实施例提供一种基于大数据分析的数据处理方法,采用了如下所述的技术方案:
基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
将所述目标商机数据上传至预设的指定存储介质。
进一步的,所述基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法的步骤,具体包括:
调用预设的多种加密算法;
从所有所述加密算法中筛选出发表年份大于预设年份阈值的第一加密算法;
获取所有所述第一加密算法的安全效果值;
从所有所述第一加密算法中筛选出安全效果值大于预设的效果阈值的第二加密算法;
判断所述第二加密算法的数量是否为多个;
若是,基于预设的算法测试数据对所有所述第二加密算法进行测试处理,得到各所述第二加密算法的处理效率;
从所有所述第二加密算法中筛选出处理效率最高的第三加密算法;
将所述第三加密算法作为所述指定加密算法。
进一步的,所述对所述第一商机数据进行数据预处理,得到对应的第二商机数据的步骤,具体包括:
对所述第一商机数据进行重复数据去除处理,得到对应的第一数据;
对所述第一数据进行缺失值处理,得到对应的第二数据;
对所述第二数据进行异常值处理,得到对应的第三数据;
对所述第三数据进行格式化处理,得到对应的第四数据;
将所述第四数据作为所述第二商机数据。
进一步的,在所述基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据的步骤之后,还包括:
调用预先训练好的商机评估模型;
将所述目标商机数据转化为与所述商机评估模型匹配的目标数据格式,得到对应的指定商机数据;
基于所述商机评估模型对所述指定商机数据进行评估处理,得到对应的商机评估结果;
将所述商机评估结果发送给相应的业务人员。
进一步的,在所述基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据的步骤之后,还包括:
从所述目标商机数据中获取与用户相关的用户特征数据;
基于所述用户特征数据生成用户在预设特征维度下的画像标签;
将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像;
对所述用户画像进行存储处理。
进一步的,所述对所述用户画像进行存储处理的步骤,具体包括:
确定与所述用户画像对应的目标存储策略;
调用预设的区块链网络;
在所述区块链网络中确定与画像类型对应的目标存储区块;
基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内。
进一步的,在所述将所述目标商机数据上传至预设的指定存储介质的步骤之后,还包括:
判断是否接收到指定用户触发的数据访问请求;其中,所述数据访问请求携带所述指定用户的用户信息与查询信息;
若是,从所述数据访问请求中提取出所述用户信息与所述查询信息;
基于预设的权限管理模型获取与所述用户信息对应的指定权限等级;
从预设的业务操作权限表中查询出与商机访问操作对应的指定权限等级区间;
判断所述指定权限等级是否处于所述指定权限等级区间内;
若是,从所述指定存储介质中获取与所述查询信息对应的第三商机数据;
将所述第三商机数据返回给所述指定用户。
为了解决上述技术问题,本申请实施例还提供一种基于大数据分析的数据处理装置,采用了如下所述的技术方案:
第一获取模块,用于基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
第一筛选模块,用于基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
预处理模块,用于对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
第二获取模块,用于获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
第二筛选模块,用于基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
加密模块,用于基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
上传模块,用于将所述目标商机数据上传至预设的指定存储介质。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,采用了如下所述的技术方案:
基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
将所述目标商机数据上传至预设的指定存储介质。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
将所述目标商机数据上传至预设的指定存储介质。
与现有技术相比,本申请实施例主要有以下有益效果:
本申请首先基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;然后基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;并对所述第一商机数据进行数据预处理,得到对应的第二商机数据;之后获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;后续基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;进一步基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;最后将所述目标商机数据上传至预设的指定存储介质。本申请在基于预设的数据抓取策略获取初始商机数据后,会智能地对初始商机数据进行数据筛选处理以及数据预处理得到对应的第二商机数据,后续会利用基于预设的算法筛选规则筛选出的指定加密算法以及指定密钥对第二商机数据进行加密处理得到加密后的目标商机数据,最后再将目标商机数据上传至预设的指定存储介质,如此可以有效地确保目标商机数据的安全性,解决了商机数据在传输和存储过程中极易遭受未授权访问、篡改或泄露的风险,保证了商机数据的传输安全性。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2根据本申请的基于大数据分析的数据处理方法的一个实施例的流程图;
图3是根据本申请的基于大数据分析的数据处理装置的一个实施例的结构示意图;
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示,系统架构100可以包括终端设备101、网络102和服务器103,终端设备101可以是笔记本电脑1011、平板电脑1012或手机1013。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101通过网络102与服务器103交互,以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101可以是具有显示屏并且支持网页浏览的各种电子设备,除了笔记本电脑1011、平板电脑1012或手机1013以外,终端设备101还可以是电子书阅读器、MP3播放器(Mov i ng P i cture Experts G roup Aud i o Layer I I I,动态影像专家压缩标准音频层面I I I)、MP4(Mov i ng P i cture Experts Group Aud i o Layer I V,动态影像专家压缩标准音频层面I V)播放器、膝上型便携计算机和台式计算机等等。
服务器103可以是提供各种服务的服务器,例如对终端设备101上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的基于大数据分析的数据处理方法一般由服务器/终端设备执行,相应地,基于大数据分析的数据处理装置一般设置于服务器/终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的基于大数据分析的数据处理方法的一个实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。本申请实施例提供的基于大数据分析的数据处理方法能够应用于任意一种需要进行数据处理的场景中,则该基于大数据分析的数据处理方法能够应用于这些场景的产品中,例如,金融保险领域中的商机数据处理。所述的基于大数据分析的数据处理方法,包括以下步骤:
步骤S201,基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据。
在本实施例中,基于大数据分析的数据处理方法运行于其上的电子设备(例如图1所示的服务器/终端设备),可以通过有线连接方式或者无线连接方式获取初始商机数据。需要指出的是,上述无线连接方式可以包括但不限于3G/4G/5G连接、W i F i连接、蓝牙连接、W i MAX连接、Z i gbee连接、UWB(u l t ra w i deband)连接、以及其他现在已知或将来开发的无线连接方式。本申请的执行主体具体可为商机管理系统。上述数据抓取策略至少可包括基于爬虫技术的数据抓取、基于AP I接口的数据抓取以及基于数据库同步的数据抓取等策略。其中,爬虫技术:针对互联网上的非结构化或半结构化数据(如网站、社交媒体、新闻文章等),开发或利用现成的爬虫工具抓取所需数据。AP I接口:对于已提供AP I的数据源(如社交媒体平台、市场研究公司等),通过编写接口调用代码来批量获取数据。数据库同步:对于内部系统或合作伙伴的数据库,可以通过数据库同步工具或定时任务来实现数据的自动抓取和更新。另外,上述客户数据至少可包括:客户的基本信息、购买历史、行为偏好等数据。上述销售数据至少可包括销售记录、销售渠道数据、销售业绩报表等数据。上述市场数据至少可包括市场研究机构、行业报告或公开数据源所提供的相关的市场趋势数据、竞争对手动态信息等数据。
步骤S202,基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据。
在本实施例中,可根据实际的商机录入需求预先构建有相应的录入标准策略。进而根据录入标准策略对初始商机数据进行数据筛选处理,以得到符合该录入标准策略的第一商机数据,以确保得到的第一商机数据的合规性。其中,录入标准策略的策略内容可包括:明确商机数据的必要字段,例如潜在客户信息(公司名称、联系人、联系方式等)、销售机会描述、预计成交金额、预计成交时间等。并确立商机阶段的划分标准,例如初步接触、需求确认、方案提供、谈判、成交等,并定义每个阶段的角色和活动。
步骤S203,对所述第一商机数据进行数据预处理,得到对应的第二商机数据。
在本实施例中,上述对所述第一商机数据进行数据预处理,得到对应的第二商机数据的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
步骤S204,获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值。
在本实施例中,上述长度阈值具体可设为128位。通过选择一个用于加密的密钥长度大于128位的强密钥作为指定密钥,例如192位或256位的密钥,可以有效确保数据加密的安全性。
步骤S205,基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法。
在本实施例中,上述基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
步骤S206,基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据。
在本实施例中,可通过使用指定密钥与上述指定加密算法对所述第二商机数据进行加密处理,从而生成相应的加密后的目标商机数据。且加密后的目标商机数据只有拥有正确密钥的实体才能解密。
步骤S207,将所述目标商机数据上传至预设的指定存储介质。
在本实施例中,对于上述指定存储介质的选取不做具体限定,可根据实际的商机数据的存储需求进行确定,例如可包括本地数据库、云端服务器、区块链网络,等等。
本申请首先基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;然后基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;并对所述第一商机数据进行数据预处理,得到对应的第二商机数据;之后获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;后续基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;进一步基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;最后将所述目标商机数据上传至预设的指定存储介质。本申请在基于预设的数据抓取策略获取初始商机数据后,会智能地对初始商机数据进行数据筛选处理以及数据预处理得到对应的第二商机数据,后续会利用基于预设的算法筛选规则筛选出的指定加密算法以及指定密钥对第二商机数据进行加密处理得到加密后的目标商机数据,最后再将目标商机数据上传至预设的指定存储介质,如此可以有效地确保目标商机数据的安全性,解决了商机数据在传输和存储过程中极易遭受未授权访问、篡改或泄露的风险,保证了商机数据的传输安全性。
在本实施例的一些可选的实现方式中,步骤S205包括以下步骤:
调用预设的多种加密算法。
在本实施例中,上述加密算法至少可包括AES、DES、RSA、ECC、B l owf i sh等算法。
从所有所述加密算法中筛选出发表年份大于预设年份阈值的第一加密算法。
在本实施例中,可通过查询各种加密算法的算法公开数据,以查询出各种加密算法的发表年份。其中,对于上述预设年份阈值的取值不做具体限定,可根据实际的业务使用需求进行设置,例如可设为2016。加密算法的发表年份的数值越大,则可初步代表该加密算法的功能更优秀。
获取所有所述第一加密算法的安全效果值。
在本实施例中,可通过查阅关于所有第一加密算法的开源的算法使用数据,并从该算法使用数据中查询出所有第一加密算法的破解方法数量,并采用1/破解方法数量的方式计算得到第一加密算法的安全效果值。其中,如果第一加密算法的破解方法数量的数值越高,则对应的该第一加密算法的安全效果值越低,从而该第一加密算法的被破解效率越高。而如果第一加密算法的破解方法数量的数值越低,则对应的该第一加密算法的安全效果值越高,从而该第一加密算法的被破解效率越低。
从所有所述第一加密算法中筛选出安全效果值大于预设的效果阈值的第二加密算法。
在本实施例中,对于上述效果阈值的取值不做具体限定,可根据实际的业务处理需求进行设置。
判断所述第二加密算法的数量是否为多个。
在本实施例中,上述第二加密算法的数量可为1个或多个。如果第二加密算法的数量为1个,则直接将该第二加密算法作为上述指定加密算法。
若是,基于预设的算法测试数据对所有所述第二加密算法进行测试处理,得到各所述第二加密算法的处理效率。
在本实施例中,上述处理效率是指加密算法在加密过程中的单位时间内可以处理的数据量,如每秒加密的数据量。上述算法测试数据为预先采集的用于对第二加密算法进行处理效率的数据。
从所有所述第二加密算法中筛选出处理效率最高的第三加密算法。
在本实施例中,可通过对所有所述第二加密算法的处理效率进行数值比较,以从所有所述第二加密算法中筛选出处理效率最高的第三加密算法。
将所述第三加密算法作为所述指定加密算法。
本申请通过调用预设的多种加密算法;然后从所有所述加密算法中筛选出发表年份大于预设年份阈值的第一加密算法;之后获取所有所述第一加密算法的安全效果值;后续从所有所述第一加密算法中筛选出安全效果值大于预设的效果阈值的第二加密算法,并判断所述第二加密算法的数量是否为多个;若是,基于预设的算法测试数据对所有所述第二加密算法进行测试处理,得到各所述第二加密算法的处理效率;最后从所有所述第二加密算法中筛选出处理效率最高的第三加密算法,并将所述第三加密算法作为所述指定加密算法,从而实现基于发表年份、安全效果值以及处理效率来从多种加密算法中筛选出综合能力最优的第三加密算法并作为最终的指定加密算法,提高了指定加密算法的确定准确性与筛选智能性。并且后续通过使用筛选出的指定加密算法来对第二商机数据进行加密处理得到对应的目标商机数据,可以有效提高对于商机数据的加密处理效率,以及能够保证得到的目标商机数据的数据准确性。
在一些可选的实现方式中,步骤S203包括以下步骤:
对所述第一商机数据进行重复数据去除处理,得到对应的第一数据。
在本实施例中,上述重复数据去除处理可包括使用SQL查询、数据去重工具或编程语言中的去重函数来识别并删除重复的记录。
对所述第一数据进行缺失值处理,得到对应的第二数据。
在本实施例中,上述缺失值处理可包括根据数据特征和业务需求,对缺失值进行填充或标记为缺失。其中,数据填充方式可采用均值填充、中位数填充、众数填充等方式。
对所述第二数据进行异常值处理,得到对应的第三数据。
在本实施例中,上述异常值处理可包括识别并处理数据中的异常值,如删除或修正明显的错误数据。
对所述第三数据进行格式化处理,得到对应的第四数据。
在本实施例中,上述格式化处理可包括将不同来源的数据格式统一,如将日期格式、货币单位、数字精度等格式进行标准化。
将所述第四数据作为所述第二商机数据。
本申请通过对所述第一商机数据进行重复数据去除处理、缺失值处理、异常值处理以及格式化处理,从而可以实现快速准确地完成对于第一商机数据的预处理,有效地保证了预处理后的第二商机数据的数据准确性。
在一些可选的实现方式中,在步骤S206之后,上述电子设备还可以执行以下步骤:
调用预先训练好的商机评估模型。
在本实施例中,上述商机评估模型为根据历史商机数据训练生成的一个基于随机森林(Random Forest)的商机评估模型。该商机评估模型能够处理多维度的输入特征,并输出相应的商机转化率。具体的,商机评估模型的构建过程包括:1.收集历史商机数据,包括成功案例中包含的客户数据、销售数据以及市场数据,以及失败案例中包含的客户数据、销售数据以及市场数据。并对数据进行清洗和整理,确保数据的准确性和一致性。2.特征选择与处理。从历史商机数据中提取对商机评估模型有用的特征。然后对特征进行预处理,如缺失值处理、异常值处理、数据标准化等。3.模型选择与构建。选择适合的评估模型,如逻辑回归、决策树、随机森林、梯度提升树(GBDT)或神经网络等。在本实施例中,优先使用决策树作为初始评估模型。进而使用预处理后的特征训练对初始评估模型进行训练,通过调整模型参数和特征权重来优化模型性能,并使用交叉验证等方法确保模型的稳定性和泛化能力。4.模型验证与优化。使用独立的验证集对模型进行验证,确保模型在未知数据上的表现良好。并根据验证结果对模型进行调优,如调整特征选择、改进模型结构等,直至得到符合预期要求的商机评估模型。
将所述目标商机数据转化为与所述商机评估模型匹配的目标数据格式,得到对应的指定商机数据。
在本实施例中,上述目标数据格式为符合所述商机评估模型的输入要求的格式。通过按照上述目标数据格式对目标商机数据进行格式转化处理以使其符合商机评估模型的输入要求。
基于所述商机评估模型对所述指定商机数据进行评估处理,得到对应的商机评估结果。
在本实施例中,可通过将所述指定商机数据输入至商机评估模型内,商机评估模型接收到指定商机数据后,会根据其内部训练的决策树集合进行推理。每棵决策树都会基于自己的规则和权重对新商机进行评估,并输出一个局部预测结果。然后将所有决策树的预测结果被汇总起来,通过投票或加权平均的方式得到最终的量化评估结果,即上述商机评估结果。商机评估结果为一个介于0到1之间的商机转化率,表示该商机成功转化为实际销售或合作的可能性。
将所述商机评估结果发送给相应的业务人员。
在本实施例中,上述业务人员可为销售人员。通过将所述商机评估结果发送给销售人员,使得销售人员可以根据这个商机评估结果来判断商机的优先级和跟进力度,进而制定针对性的销售策略和行动计划,以及还可以分配资源、调整预算或制定长期战略规划。
本申请通过调用预先训练好的商机评估模型;然后将所述目标商机数据转化为与所述商机评估模型匹配的目标数据格式,得到对应的指定商机数据;之后基于所述商机评估模型对所述指定商机数据进行评估处理,得到对应的商机评估结果;后续将所述商机评估结果发送给相应的业务人员。本申请在基于指定密钥与指定加密算法对所述第二商机数据进行加密处理得到目标商机数据后,还会智能地将所述目标商机数据转化为与商机评估模型匹配的目标数据格式得到指定商机数据,进而使用预先训练好的商机评估模型对所述指定商机数据进行评估处理得到商机评估结果,并将所述商机评估结果发送给相应的业务人员,从而可以智能地为相关的业务人员提供了客观、全面的商机评估结果,有利于帮助业务人员更好地做出决策并优化业务运营。
在一些可选的实现方式中,在步骤S206之后,上述电子设备还可以执行以下步骤:
从所述目标商机数据中获取与用户相关的用户特征数据。
在本实施例中,上述用户可为目标商机数据所对应的所有客户中的任意一个客户。上述用户特征数据可与预设的信息类型相对应的特征数据。具体的,用户特征数据至少可包括基本信息(如年龄、性别、地域)、购买习惯(如购买频率、购买偏好)、行为偏好(如浏览习惯、搜索关键词)等数据。
基于所述用户特征数据生成用户在预设特征维度下的画像标签。
在本实施例中,上述预设特征维度至少可包括基本信息维度、购买习惯维度、行为偏好维度。可根据上述用户特征数据计算用户在预设特征维度下的指标值,进而将用户在预设特征维度下的指标值对应转换为用户在预设特征维度下的画像标签。其中,可根据预设的标签量化策略实现将用户在预设特征维度下的指标值对应转换为用户在预设特征维度下的画像标签。具体的,可根据实际的画像构建需求预先为每个特征维度设计具体的标签和量化标准以得到上述标签量化规则。进而,在得到用户在预设特征维度下的指标值后,可以根据上述标签量化规则中定义的标签和量化标准,为用户分配相应的标签,从而得到用户在预设特征维度下的画像标签。示例性的,对于购买习惯维度,标签定义:“高频购买用户”(购买频率≥10次/月),量化标准:基于购买订单数量等数据进行计算。
将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像。
在本实施例中,上述数据结构为预先构建的用于形成画像的结构。可通过将所有所述画像标签整合到一个统一的数据结构中,从而形成用户的画像数据,即上述用户画像。
对所述用户画像进行存储处理。
在本实施例中,上述对所述用户画像进行存储处理的具体实施过程,本申请将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
本申请通过从所述目标商机数据中获取与用户相关的用户特征数据;然后基于所述用户特征数据生成用户在预设特征维度下的画像标签;之后将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像;后续对所述用户画像进行存储处理。本申请在基于指定密钥与指定加密算法对所述第二商机数据进行加密处理得到目标商机数据后,还会智能地从所述目标商机数据中获取与用户相关的用户特征数据,并基于所述用户特征数据生成用户在预设特征维度下的画像标签,进而将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像,以实现自动准确地生成用户画像,提高了用户画像的生成效率与生成智能性,有利于基于用户画像帮助业务团队了解商机,并制定有效的业务策略,进而实现商机的追踪和管理。另外,还会对用户画像进行存储处理,以确保用户画像的数据安全性。
在本实施例的一些可选的实现方式中,所述对所述用户画像进行存储处理,包括以下步骤:
确定与所述用户画像对应的目标存储策略。
在本实施例中,上述目标存储策略具体可采用定时备份或循环覆盖等策略,以确保目标存储策略不会因存储空间不足而丢失。
调用预设的区块链网络。
在本实施例中,通过使用区块链网络进行数据存储,在上链过程中,用户画像会经过多方节点的共识验证,确保了用户画像的真实性和安全性。同时每笔数据记录还会关联一个唯一的哈希指纹,为后续溯源提供依据。
在所述区块链网络中确定与画像类型对应的目标存储区块。
在本实施例中,可在区块链网络中预先构建一个用于存储画像类型的画像数据的存储区块,进而提高画像数据的存储规范性。
基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内。
在本实施例中,可通过将上述用户画像以目标存储策略的存储方式,存储至上述区块链网络中的目标存储区块内。
本申请通过确定与所述用户画像对应的目标存储策略;然后调用预设的区块链网络;之后在所述区块链网络中确定与画像类型对应的目标存储区块;后续基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内。本申请通过确定与所述用户画像对应的目标存储策略,以及在调用的区块链网络中确定与画像类型对应的目标存储区块,进而基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内,以实现对于用户画像的存储智能性与存储规范性,有效地保证了用户画像的数据安全性,且有利于为后续溯源提供依据。
在本实施例的一些可选的实现方式中,在步骤S207之后,上述电子设备还可以执行以下步骤:
判断是否接收到指定用户触发的数据访问请求。其中,所述数据访问请求携带所述指定用户的用户信息与查询信息。
在本实施例中,上述数据访问请求为指定用户触发的进行商机数据访问的请求。上述用户信息包括用户的姓名信息,上述查询信息可指所需查询的商机数据的数据索引。
若是,从所述数据访问请求中提取出所述用户信息与所述查询信息。
在本实施例中,可通过对数据访问请求进行信息解析,以提取出数据访问请求中携带的用户信息与查询信息。
基于预设的权限管理模型获取与所述用户信息对应的指定权限等级。
在本实施例中,上述权限管理模型为预先构建的存储有各个企业员工的姓名信息与权限等级之间的一一对应的映射关系的大数据模型。可通过使用上述用户信息来对该权限管理模型进行查询处理,以获得与所述用户信息对应的指定权限等级。
从预设的业务操作权限表中查询出与商机访问操作对应的指定权限等级区间。
在本实施例中,上述业务操作权限表为预先构建的存储有多种业务操作标识,以及与各种业务操作标识一一对应的权限等级区间的数据表。具体的,可通过获取与商机访问操作对应的目标业务操作标识,进而使用该目标业务操作标识对上述业务操作权限表进行查询处理,以得到与商机访问操作对应的指定权限等级区间。
判断所述指定权限等级是否处于所述指定权限等级区间内。
在本实施例中,可通过将所述指定权限等级与上述指定权限等级区间中包括的两个端点数值进行比较,以得到相应的数值比较结果,并根据该数值比较结果来识别出所述指定权限等级是否处于所述指定权限等级区间内。
若是,从所述指定存储介质中获取与所述查询信息对应的第三商机数据。
在本实施例中,如果所述指定权限等级处于所述指定权限等级区间内,则表明指定用户具有执行商机访问操作的操作权限,从而判定所述用户通过权限验证,进而后续会从所述指定存储介质中获取与所述查询信息对应的第三商机数据。
将所述第三商机数据返回给所述指定用户。
在本实施例中,可通过采用短信通知、邮件通知等方式将所述第三商机数据返回给所述指定用户。
本申请通过判断是否接收到指定用户触发的数据访问请求;若是,从所述数据访问请求中提取出所述用户信息与所述查询信息;然后基于预设的权限管理模型获取与所述用户信息对应的指定权限等级;之后从预设的业务操作权限表中查询出与商机访问操作对应的指定权限等级区间;后续判断所述指定权限等级是否处于所述指定权限等级区间内;若是,从所述指定存储介质中获取与所述查询信息对应的第三商机数据;最后将所述第三商机数据返回给所述指定用户。本申请在接收到指定用户触发的数据访问请求后,会智能地使用权限管理模型与业务操作权限表对用户进行权限验证,只有在检测出指定用户通过权限验证时,后续才会对数据访问请求进行响应,以从所述指定存储介质中获取与所述查询信息对应的第三商机数据并返回给指定用户,有效地实现了对于商机数据访问的智能访问控制,提高了对于数据访问请求的规范化处理与安全化处理,保证了对于数据访问请求的响应安全性。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
需要强调的是,为进一步保证上述目标商机数据的私密和安全性,上述目标商机数据还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(B l ockcha i n),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Art i f i c i a l I nte l l i gence,A I)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-On l y Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3,作为对上述图2所示方法的实现,本申请提供了一种基于大数据分析的数据处理装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,本实施例所述的基于大数据分析的数据处理装置300包括:第一获取模块301、第一筛选模块302、预处理模块303、第二获取模块304、第二筛选模块305、加密模块306以及上传模块307。其中:
第一获取模块301,用于基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
第一筛选模块302,用于基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
预处理模块303,用于对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
第二获取模块304,用于获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
第二筛选模块305,用于基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
加密模块306,用于基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
上传模块307,用于将所述目标商机数据上传至预设的指定存储介质。
在本实施例的一些可选的实现方式中,第二筛选模块305包括:
第一调用子模块,用于调用预设的多种加密算法;
筛选子模块,用于从所有所述加密算法中筛选出发表年份大于预设年份阈值的第一加密算法;
获取子模块,用于获取所有所述第一加密算法的安全效果值;
第二筛选子模块,用于从所有所述第一加密算法中筛选出安全效果值大于预设的效果阈值的第二加密算法;
判断子模块,用于判断所述第二加密算法的数量是否为多个;
测试子模块,用于若是,基于预设的算法测试数据对所有所述第二加密算法进行测试处理,得到各所述第二加密算法的处理效率;
第三筛选子模块,用于从所有所述第二加密算法中筛选出处理效率最高的第三加密算法;
第一确定子模块,用于将所述第三加密算法作为所述指定加密算法。
在本实施例的一些可选的实现方式中,预处理模块303包括:
第一处理子模块,用于对所述第一商机数据进行重复数据去除处理,得到对应的第一数据;
第二处理子模块,用于对所述第一数据进行缺失值处理,得到对应的第二数据;
第三处理子模块,用于对所述第二数据进行异常值处理,得到对应的第三数据;
第四处理子模块,用于对所述第三数据进行格式化处理,得到对应的第四数据;
第二确定子模块,用于将所述第四数据作为所述第二商机数据。
在本实施例的一些可选的实现方式中,基于大数据分析的数据处理装置还包括:
调用模块,用于调用预先训练好的商机评估模型;
转化模块,用于将所述目标商机数据转化为与所述商机评估模型匹配的目标数据格式,得到对应的指定商机数据;
评估模块,用于基于所述商机评估模型对所述指定商机数据进行评估处理,得到对应的商机评估结果;
发送模块,用于将所述商机评估结果发送给相应的业务人员。
在本实施例的一些可选的实现方式中,基于大数据分析的数据处理装置还包括:
第三获取模块,用于从所述目标商机数据中获取与用户相关的用户特征数据;
生成模块,用于基于所述用户特征数据生成用户在预设特征维度下的画像标签;
整合模块,用于将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像;
存储模块,用于对所述用户画像进行存储处理。
在本实施例的一些可选的实现方式中,存储模块包括:
第三确定子模块,用于确定与所述用户画像对应的目标存储策略;
第二调用子模块,用于调用预设的区块链网络;
第四确定子模块,用于在所述区块链网络中确定与画像类型对应的目标存储区块;
存储子模块,用于基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内。
在本实施例的一些可选的实现方式中,基于大数据分析的数据处理装置还包括:
第一判断模块,用于判断是否接收到指定用户触发的数据访问请求;其中,所述数据访问请求携带所述指定用户的用户信息与查询信息;
提取模块,用于若是,从所述数据访问请求中提取出所述用户信息与所述查询信息;
第三获取模块,用于基于预设的权限管理模型获取与所述用户信息对应的指定权限等级;
查询模块,用于从预设的业务操作权限表中查询出与商机访问操作对应的指定权限等级区间;
第二判断模块,用于判断所述指定权限等级是否处于所述指定权限等级区间内;
第四获取模块,用于若是,从所述指定存储介质中获取与所述查询信息对应的第三商机数据;
返回模块,用于将所述第三商机数据返回给所述指定用户。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是,图中仅示出了具有组件41-43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(App l i cat i onSpec i f i c I ntegrated C i rcu i t,AS I C)、可编程门阵列(F i e l d-Programmab l e Gate Ar ray,FPGA)、数字处理器(D i g i ta l S i gna l Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(Smart Med i a Card,SMC),安全数字(Secu re D i g i ta l,SD)卡,闪存卡(F l ash Card)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如基于大数据分析的数据处理方法的计算机可读指令等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Cent ra l Process i ng Uni t,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据,例如运行所述基于大数据分析的数据处理方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于大数据分析的数据处理方法的步骤。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (10)
1.一种基于大数据分析的数据处理方法,其特征在于,包括下述步骤:
基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
将所述目标商机数据上传至预设的指定存储介质。
2.根据权利要求1所述的基于大数据分析的数据处理方法,其特征在于,所述基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法的步骤,具体包括:
调用预设的多种加密算法;
从所有所述加密算法中筛选出发表年份大于预设年份阈值的第一加密算法;
获取所有所述第一加密算法的安全效果值;
从所有所述第一加密算法中筛选出安全效果值大于预设的效果阈值的第二加密算法;
判断所述第二加密算法的数量是否为多个;
若是,基于预设的算法测试数据对所有所述第二加密算法进行测试处理,得到各所述第二加密算法的处理效率;
从所有所述第二加密算法中筛选出处理效率最高的第三加密算法;
将所述第三加密算法作为所述指定加密算法。
3.根据权利要求1所述的基于大数据分析的数据处理方法,其特征在于,所述对所述第一商机数据进行数据预处理,得到对应的第二商机数据的步骤,具体包括:
对所述第一商机数据进行重复数据去除处理,得到对应的第一数据;
对所述第一数据进行缺失值处理,得到对应的第二数据;
对所述第二数据进行异常值处理,得到对应的第三数据;
对所述第三数据进行格式化处理,得到对应的第四数据;
将所述第四数据作为所述第二商机数据。
4.根据权利要求1所述的基于大数据分析的数据处理方法,其特征在于,在所述基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据的步骤之后,还包括:
调用预先训练好的商机评估模型;
将所述目标商机数据转化为与所述商机评估模型匹配的目标数据格式,得到对应的指定商机数据;
基于所述商机评估模型对所述指定商机数据进行评估处理,得到对应的商机评估结果;
将所述商机评估结果发送给相应的业务人员。
5.根据权利要求1所述的基于大数据分析的数据处理方法,其特征在于,在所述基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据的步骤之后,还包括:
从所述目标商机数据中获取与用户相关的用户特征数据;
基于所述用户特征数据生成用户在预设特征维度下的画像标签;
将所有所述画像标签整合至预设的数据结构中,得到与所述用户对应的用户画像;
对所述用户画像进行存储处理。
6.根据权利要求5所述的基于大数据分析的数据处理方法,其特征在于,所述对所述用户画像进行存储处理的步骤,具体包括:
确定与所述用户画像对应的目标存储策略;
调用预设的区块链网络;
在所述区块链网络中确定与画像类型对应的目标存储区块;
基于所述目标存储策略,将所述用户画像存储至所述目标存储区块内。
7.根据权利要求1所述的基于大数据分析的数据处理方法,其特征在于,在所述将所述目标商机数据上传至预设的指定存储介质的步骤之后,还包括:
判断是否接收到指定用户触发的数据访问请求;其中,所述数据访问请求携带所述指定用户的用户信息与查询信息;
若是,从所述数据访问请求中提取出所述用户信息与所述查询信息;
基于预设的权限管理模型获取与所述用户信息对应的指定权限等级;
从预设的业务操作权限表中查询出与商机访问操作对应的指定权限等级区间;
判断所述指定权限等级是否处于所述指定权限等级区间内;
若是,从所述指定存储介质中获取与所述查询信息对应的第三商机数据;
将所述第三商机数据返回给所述指定用户。
8.一种基于大数据分析的数据处理装置,其特征在于,包括:
第一获取模块,用于基于预设的数据抓取策略获取初始商机数据;其中,所述初始商机数据至少包括客户数据、销售数据以及市场数据;
第一筛选模块,用于基于预设的录入标准策略对初始商机数据进行数据筛选处理,得到对应的第一商机数据;
预处理模块,用于对所述第一商机数据进行数据预处理,得到对应的第二商机数据;
第二获取模块,用于获取预设的指定密钥;其中,所述指定密钥的长度大于预设的长度阈值;
第二筛选模块,用于基于预设的算法筛选规则从预存储的多种加密算法中筛选出指定加密算法;
加密模块,用于基于所述指定密钥与所述指定加密算法对所述第二商机数据进行加密处理,得到加密后的目标商机数据;
上传模块,用于将所述目标商机数据上传至预设的指定存储介质。
9.一种计算机设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于大数据分析的数据处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于大数据分析的数据处理方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202411266097.0A CN119227104A (zh) | 2024-09-10 | 2024-09-10 | 基于大数据分析的数据处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202411266097.0A CN119227104A (zh) | 2024-09-10 | 2024-09-10 | 基于大数据分析的数据处理方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN119227104A true CN119227104A (zh) | 2024-12-31 |
Family
ID=94066162
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202411266097.0A Pending CN119227104A (zh) | 2024-09-10 | 2024-09-10 | 基于大数据分析的数据处理方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN119227104A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120012160A (zh) * | 2025-02-12 | 2025-05-16 | 一衡物联科技(广州)有限公司 | 一种基于安全校验装置的密匙管理方法及系统 |
-
2024
- 2024-09-10 CN CN202411266097.0A patent/CN119227104A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120012160A (zh) * | 2025-02-12 | 2025-05-16 | 一衡物联科技(广州)有限公司 | 一种基于安全校验装置的密匙管理方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111831636B (zh) | 一种数据处理方法、装置、计算机系统及可读存储介质 | |
| CN112613917B (zh) | 基于用户画像的信息推送方法、装置、设备及存储介质 | |
| US20190392258A1 (en) | Method and apparatus for generating information | |
| CN112508075B (zh) | 基于横向联邦的dbscan聚类方法、及其相关设备 | |
| CN113127633B (zh) | 智能会议管理方法、装置、计算机设备及存储介质 | |
| CN109658126B (zh) | 基于产品推广的数据处理方法、装置、设备及存储介质 | |
| CN119006144A (zh) | 一种业务项目管理方法、装置、计算机设备及存储介质 | |
| CN119515558A (zh) | 个性化文案的生成方法、装置、计算机设备及存储介质 | |
| CN119227104A (zh) | 基于大数据分析的数据处理方法、装置、设备及存储介质 | |
| US12386804B2 (en) | Systems and methods for maintaining rights management while labeling data for artificial intelligence model development | |
| CN117009670A (zh) | 基于用户画像的综合推荐方法、装置、设备及存储介质 | |
| CN116757851A (zh) | 基于人工智能的数据配置方法、装置、设备及存储介质 | |
| CN119130366A (zh) | 基于引擎的流程审批方法、装置、计算机设备及存储介质 | |
| CN117853247A (zh) | 基于人工智能的产品推荐方法、装置、设备及存储介质 | |
| CN116956326A (zh) | 权限数据的处理方法、装置、计算机设备及存储介质 | |
| CN113902032B (zh) | 业务数据的处理方法、装置、计算机设备及存储介质 | |
| CN117273958A (zh) | 基于规则引擎的核保数据处理方法、装置、设备及介质 | |
| CN116166858A (zh) | 基于人工智能的信息推荐方法、装置、设备及存储介质 | |
| CN115905224B (zh) | 一种工时数据处理方法、装置、计算机设备及存储介质 | |
| CN117076775A (zh) | 资讯数据的处理方法、装置、计算机设备及存储介质 | |
| US20240241875A1 (en) | Systems and methods for maintaining bifurcated data management while labeling data for artificial intelligence model development | |
| CN116757771A (zh) | 基于人工智能的方案推荐方法、装置、设备及存储介质 | |
| CN119046305A (zh) | 指标数据查询方法、装置、计算机设备及存储介质 | |
| CN120872236A (zh) | 数据存储方法、装置、计算机设备及存储介质 | |
| CN119107131A (zh) | 投放对象的投放策略调整方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |