包含标签：spark 的文章
-
推荐系统实战（概念与架构）
概念与架构 推荐系统概念： 推荐系统主要用于信息过载＆用户需求不明确，对用户进行项目推荐。 推荐与Web项目的区别： Web项目：处理高并发实现高可用，提……admin 2022-11-22
-
PySpark数据分析基础：pyspark.mllib.regression机器学习回归核心类详解(一)+代码详解
目录 前言 一、Spark MLlib 二、回归类 1.LabeledPoint 2.LinearModel 3.LinearRegressionModel load方法 predict方法 save方法 4.LinearRegressionWithSGD …… -
大数据项目中数据倾斜
一、数据倾斜包含：hadoop数据倾斜，hive中数据倾斜、spark数据倾斜 【hadoop中的数据倾斜表现】 1、有一个多几个 Reduce 卡住，卡在 99.99%，一直不能结束…… -
快手一面：讲一讲 Hadoop、Hive、Spark 之间的关系？
5G 时代，运营商网络不断提速，成本越来越低，流量越来越便宜。 给 互联网、物联网、互联网+ 各个行业的高速发展创造了非常好的有利条件，同时也产生了海量数…… -
【面经】米哈游数据开发面经
声明：面经从网络上搜集，自己补充了答案，不保证准确。 作者：蓝荆凌 链接：https://www.nowcoder.com/discuss/285388?type=all&order=recall&pos=…… -
Hive｜Spark 查看表的各种信息
Hive｜Spark 查看表的各种信息 SQL Syntax - Auxiliary Statements：SQL 语法之辅助语句 SHOW COLUMNS - 查看字段信息 SHOW CREATE TABLE - 查看建表语…… -
2022年大数据即将带来的5个重要变化
目录 1. 大数据将成为一个外交政策问题 2. 大数据优化招聘和培训 3. 实时分析维持电子商务 4. 数据中毒愈演愈烈 5 绿色数据中心的兴起 大数据在2022年达到新…… -
Spark列级血缘(字段级别血缘)开发与实现
介绍 背景 由于一直苦于尝试追踪spark的列级血缘，所以出于个人目的对spark源代码进行了修改，并且在github上独立了一个项目(Ushas)。 传统数据治理中针…… -
【回顾】IDEA 开发 SparkSQL 基础编程
文章目录 1、添加依赖 2、代码实现 2.1 构建环境 2.2 DataFrame的创建 2.3 DataSet的创建 2.4 RDD & DataFrame 2.5 RDD & DataSet 2.5 DataFr…… -
云计算相关知识点
云计算相关知识点 文章名称：云计算相关知识点 文章内容：云计算相关知识和相关技术里面涉及大数据据技术、虚拟化技术、数据中心的相关内容并行计算与集群技……