logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大数据平台架构包含哪些功能

大数据技术的核心是众多数据中挖掘价值,第一步需要做的就是弄清楚有什么样的数据、如何获取数据。在企业运行的过程中,特别是互联网企业,会产生各种各样的数据,如果企业不能正确获取数据或没有获取数据的能力,就无法挖掘出数据中的价值,浪费了宝贵的数据资源。Web 网站的很多数据来自用户的点击,可以使用低侵入的浏览器探针技术采集用户浏览数据、使用爬虫技术获取网页数据、使用组件Canal采集MySQL数据库的b

文章图片
#大数据#数据挖掘#数据库
云计算基础设施总体架构介绍

云管理平台对资源池的计算资源、存储资源、网络资源和安全资源进行统一管理调度,并为用户提供服务。提供商通过合同约定用户可租用的云资源池规格、数量和资费等信息,用户可以通过服务门户实现资源的开通和交付,之后便可以管理和使用云资源池中的资源(包括虚拟机的创建、使用、监控和操作等)。存储资源租用服务基于安全、高速、便捷的云存储服务平台,为客户提供融合多业务、支持多终端的网络存储管理与分享服务,同时可为第三

文章图片
#运维#网络#数据库
什么是容器安全?包含哪些机制?

容器安全是Docker社区极为关注的一个问题,Docker是否能提供安全的环境,尤其是在公有云环境中,这直接关系到Docker是否可以大规模用于生产环境。容器安全的安全机制有哪些?包括Docker daemon在以TCP形式提供服务的同时使用传输层安全协议在构建使用镜像时会验证镜像的签名证书;通过cgroups及namespaces 来对容器进行资源限制和隔离;提供自定义容器能力( capabil

#docker#容器#云原生 +2
云存储系统架构及优势

数据存储层是云存储系统的基础,它将不同类型的存储设备连接起来,基于虚拟化技术对存储设备进行抽象,将所有存储空间集成到存储资源池中,实现从物理设备到逻辑视图的映射,同时实现对存储设备的集中管理、状态监控以及容量的动态扩展。(4)数据集中存储。云存储系统具有高度的灵活性,用户可以根据需要定制相应的存储服务和资源,云存储服务商可以按照用户需求来部署相应的存储能力、资源和服务。云存储服务是云存储系统提供的

文章图片
#云计算#大数据#网络
什么是Docker镜像?

我们知道使用libcontainer可以迅速构建应用的运行环境。容器迁移时候需要把运行环境进行全部打包,这个时候libcontainer就出现短板,因此Docke镜像技术是Docker管理文件系统和运行环境一个完善。Docker镜像的只读形式,在启动Docker容器中,文件系统结构和内容都包含在其中,Docker镜像是启动Docker容器的基础。Docker镜像的文件内容和配置文件组成了Docke

#容器#docker#云原生 +1
Kubernetes的整体架构

主节点即中央控制节点是K8s 集群的管理节点,管理集群当中数据的接口、状态监测和回滚、状态更新、调度等功能,kubectl是K8s的命令行工具集,用于通过命令行与API server进行交互,而对K8s进行操作,实现在集群中进行各种资源的管理控制等操作,通过节点控制器来与工作节点交互。(3)kube-proxy代理对抽象的应用地址的访问,服务提供了一种访问一群pod的途径, kube-proxy负

文章图片
#kubernetes#docker#容器 +2
Flink架构优势及应用场景

Flink 的底层是 Deploy,Flink 可以在 Local模式运行,也可以在 Cluster 集群(如 Standalone、YARN)模式运行,另外 Flink 还可以在 Cloud模式运行,如 GCE(谷歌云服务)和EC2(亚马逊云服务)。相对于传统的离线计算会存在数据反馈不及时的问题,很难满足急需实时数据做决策的场景Flink是对有界数据和无界数据进行有状态计算的分布式引擎,它是纯流

文章图片
#云原生#flink#大数据 +2
数据清洗是什么?如何进行数据清洗?

数据清洗包括去除重复数据、填补缺失值、处理异常值和转换数据格式等操作,以提高数据的准确性和可靠性。数据清洗通常是数据处理过程的一个必要步骤,它可以消除数据错误和噪声,并提高分析和建模的精度。总之,数据清洗是数据治理不可或缺的一环,它对于数据质量和准确性有着至关重要的影响。在实践中,数据清洗需要根据具体的数据集和业务需求进行调整和优化,以满足不同的数据处理和分析要求。因此,数据清洗需要进行不断的优化

文章图片
#大数据#数据挖掘
云原生 Dev0ps 实践

在云原生中,laC 和 GitOps 是非常好的解决方法,每个应用有一个 laC 仓库,保存应用镜像及所有相关的配置信息,GitOps 自动检测 IaC 的变化,自动翻译为符合 0AM 规范的配置,然后推到对应的环境上。● 运维侧∶需要结合云原生的自动化运维体系,在问题自动定位、容灾切流、自动恢复、热修复、APM,并结合传统的 Metrics、Tracing、Logging 的基础之上,构建成熟的

文章图片
#devops#运维#云原生 +2
微服务框架有哪些?如何选择?

在微服务开发中,微服务框架通常选择SpringBoot和SpringCloud,目前,国内使用较多的微服务框架主要有Dubbo和SpringCloud,Dubbo是国内开源,在国内被使用广泛。SpringCloud是微服务框架的有序集合,利用SpringBoot的开发便利性可以简化分布式系统基础组件的开发和使用,同时为开发人员提供了快速构建分布式系统中常见组件的工具,如配置管理、服务发现、熔断器、

文章图片
#微服务#spring cloud#dubbo +2
    共 14 条
  • 1
  • 2
  • 请选择