大数据

Kafka 和 Flink的讲解

一、Kafka:分布式消息队列1. 核心概念 ​​角色​​:Kafka 是一个分布式、高吞吐量的​​消息队列​​(Pub-Sub 模型),用于实时传输数据流。 ​​关键术语​​: ​​Producer​​(生产者):发送数据的客户端(如传感器、应用日志)。 ​​Consumer​​(消费者):接收和处理数据的客户端(如 Flink、Spark)。 ​​Broker​​

Java 大视界 -- 基于 Java 的大数据分布式文件系统在科研数据存储与共享中的应用优化(187)

       💖亲爱的朋友们,热烈欢迎来到 青云交的博客!能与诸位在此相逢,我倍感荣幸。在这飞速更迭的时代,我们都渴望一方心灵净土,而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识,也期待你毫无保留地分享独特见解,愿我们于此携手成长,共赴新程&#xff

hadoop+spark+hive空气质量预测系统 空气质量数据分析与预测系统 Hadoop 爬虫 机器学习 线性回归预测算法

1、项目介绍 技术栈: Python语言、Django框架、MySQL数据库、Echarts可视化 requests爬虫 技术、HTML、天气后报网站数据 机器学习 —线性 回归模型 大数据技术(Hadoop、Hive、Spark)机器学习—线性回归模型 ,用于根据空气质量的四个指标(PM2.5、SO₂、NO₂、O₃&#xff0

VMware平台的Ubuntu部署完全分布式Hadoop环境

前言:此文章是本人初次部署Hadoop的过程记录以及所遇到的问题解决,这篇文章只有实际操作部分,没有理论部分。因本人水平有限,本文难免存在不足的地方,如果您有建议,欢迎留言或私信告知于我,非常感谢。 部分参考网络资料,如有侵权,联系删除。 文章目录 前言&#xf

MapReduce报错 HADOOP_HOME and hadoop.home.dir are unset.

运行课程讲解内容出现这个报错: 1、在电脑里解压之前发过的Hadoop安装包 2、配置用户变量 3、配置系统变量 4、配置系统Path变量 5、下载链接的两个文件:链接: ?pwd=56tv 提取码: 56tv –来自百度网盘超级会员v7的分享6、放到刚刚解压路

Kafka选举机制深度解析:分布式系统中的民主与效率

Kafka选举机制深度解析:分布式系统中的民主与效率 🌟 你好,我是 励志成为糕手 ! 🌌 在代码的宇宙中,我是那个追逐优雅与性能的星际旅人。 ✨ 每一行代码都是我种下的星光,在逻辑的土壤里生长成璀璨的银河; 🛠️ 每一个算法都是我绘制的星图,指引

Docker安装Kafka(不依赖ZooKeeper)

创建docker-compose.yamlversion: "3.9" #版本号 services: kafka: image: apache/kafka:3.9.0 container_name: kafka hostname: kafka ports: - 9092:9092 # 容器内部之间使用的监听端口 - 9

数智读书笔记系列032《统一星型模型--一种敏捷灵活的数据仓库和分析设计方法》

引言在当今数字化时代,数据仓库作为企业数据管理的核心基础设施,承担着整合、存储和提供企业数据的关键角色。随着商业环境的快速变化和业务需求的日益复杂,数据仓库的设计方法也在不断演进,以适应新的挑战和要求。 背景与意义数据仓库领域长期存在着两种主流方法论之争:Bill Inmon提出的自上而下企业级数据仓库方法和Ralph Kimball倡导的自下而上维度建模方法。这两种方法各有优劣,但在应对现代企

【大数据毕设】基于spark与机器学习的肺癌风险评估与可视化分析系统|基于Hadoop和python的肺癌数据挖掘与智能预测系统

💕💕作者:计算机源码社 💕💕个人简介:本人八年开发经验,擅长Java、Python、PHP、.NET、Node.js、Spark、hadoop、Android、微信小程序、爬虫、大数据、机器学习等,大家有这一块的问题可以一起交流! 💕&#x1f

大数据领域数据质量的技术创新

大数据时代的数据质量革命:从痛点到创新的技术演进之路 摘要/引言想象一下:某电商平台花费数百万搭建的推荐系统,却因为用户行为数据中的“虚假点击”(机器人刷量),导致推荐结果偏差,最终流失了10%的核心用户;某医院的电子病历系统,因为跨科室数据融合时的“性别不一致”&#xf