logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

SpringAI+Deepseek大模型应用实战

Spring AI是一个AI工程领域的应用程序框架;Spring AI 是 AI 工程的应用框架。其目标是将 Spring 生态系统设计原则(如可移植性和模块化设计)应用于 AI 领域,并促进使用 POJO 作为应用程序的构建块到 AI 领域。它的目标是将Spring生态系统的设计原则应用于 AI 领域,比如Spring生态系统的可移植性和模块化设计,并促进使用 POJO 作为应用程序的构建块到

文章图片
#人工智能
什么是Hadoop

Hadoop 作为大数据技术的奠基性框架,通过 "普通硬件集群化 + 分布式存储 + 分布式计算" 的核心思想,彻底改变了海量数据处理的成本与效率。尽管面临 Spark 等新兴技术的挑战,Hadoop 凭借成熟的生态系统和稳定的核心能力,仍是企业构建大数据平台的首选基础架构之一,尤其在离线批量数据处理和数据仓库场景中占据不可替代的地位。

文章图片
#hadoop#大数据#分布式
什么是 -大数据

大数据的本质是 **“从海量数据中挖掘价值,用数据驱动决策和创新”**,它不仅是一种技术,更是一种思维方式和发展模式。从技术层面,大数据以分布式计算存储为核心,形成了全流程的技术体系;从产业层面,大数据构建了上下游协同的产业生态;从应用层面,大数据已渗透到各行各业,成为数字经济的核心支撑。尽管大数据面临着数据孤岛、安全隐私、人才短缺等挑战,但随着云原生、隐私计算、实时流处理等技术的突破,以及数据要

文章图片
#大数据
Hadoop2 【源码编译】

编辑配置文件,将所有 $releasever 替换为 7(避免变量解析问题)编译期间maven报错,可能网络阻塞问题导致依赖库下载不完整导致,多次执行命令。# 重建缓存(这一步会下载镜像源的包列表,耐心等待)# 启用 epel 源(可选,但能补充更多依赖)过程比较漫长,最终成功是全部SUCCESS,如果。安装glibc-headers和gcc-c++# 下载阿里云 CentOS 7 归档源配置。#

文章图片
#hadoop
Hadoop2 - 介绍使用与集群搭建

Hadoop是一个由Apache基金会所开发的分布式系统基础架构,它主要解决海量数据的存储和海量数据的分析计算问题。广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈四个配置文件存放在$HADOOP_HOME/etc/hadoop下面,用户可以根据项目需求重新进行修改配置。

文章图片
#hadoop
Hadoop2 - HDFS高可用

所谓HA(high available)就是24小时不中断服务,实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制:HDFS的HA和YARN的HA。Hadoop2.0之前,在HDFS集群中NameNode存在单点故障(SPOF)。NameNode主要在以下两个方面影响HDFS集群:NameNode机器发生意外,如宕机,集群将无法使用,直到管理员重启NameNode机器需要

文章图片
#hdfs#hadoop#大数据
Hadoop2 - HDFS文件系统

1HDFS(Hadoop Distributed File System)是 Apache Hadoop 生态的核心组件之一,是专门为海量数据存储设计的分布式文件系统。你可以把它理解成 “大数据时代的分布式超级硬盘”—— 它将超大文件切分成小块,分散存储在集群的多台廉价商用服务器上,同时对外提供统一的文件访问接口,让用户感觉就像使用本地文件系统一样。

文章图片
#hdfs#hadoop#大数据
Hadoop2 - MapReduce框架原理

自定义一个类继承FileInputFormat,改写RecordReader,实现一次读取一个完整文件封装为KV,在输出时使用SequenceFileOutPutFormat输出合并文件为了实现控制最终文件的输出路径,可以自定义OutputFormat。要在一个mapreduce程序中根据数据的不同输出两类结果到不同目录,这类灵活的输出需求可以通过自定义outputformat来实现。1)自定义一

文章图片
#mapreduce#大数据
Hadoop2 - MapReduce详解

(1)是什么序列化就是把内存中的对象,转换成字节序列(或其他数据传输协议)以便于存储(持久化)和网络传输。反序列化就是将收到字节序列(或其他数据传输协议)或者是硬盘的持久化数据,转换成内存中的对象。(2)Java序列化Java的序列化是一个重量级序列化框架(Serializable),一个对象被序列化后,会附带很多额外的信息(各种校验信息,header,继承体系等),不便于在网络中高效传输。所以,

文章图片
#mapreduce#大数据
Spring AI Alibaba百炼平台 - Java开发者首选

Spring Al Alibaba 项目的产生背景是生成式 AI与大模型在过去一年的快速发展,我们作为使用方、开发者,更关注的应该是如何为我们的应用接入生成式AI能力。在这样的背景下,Spring 官方开源了 Spring Al 框架,用来简化 Spring 开发者开发智能体应用的过程。随后阿里巴巴开源了 Spring Al Alibaba,它基于 Spring Al,同时与阿里云百炼大模型服务、

文章图片
#spring#数据库#java
    共 37 条
  • 1
  • 2
  • 3
  • 4
  • 请选择