//1.先打开zookeeper(3台)
zkServer.sh start
//2.在打开kafka(3台)
bin/kafka-server-start.sh config/server.properties &
//3.创建生产者
bin/kafka-console-producer.sh --broker-list hou-01:9092 --topic wc
//4.控制台输入任意单词
IDEA添加依赖
org.apache.spark
spark-streaming-kafka-0-8_2.11
${spark.version}
1.0版本单词计数
package day08
import org.apache.spark.SparkConf
import org.apache.spark.streaming.dstream.{DStream, ReceiverInputDStream}
import org.apache.spark.streaming.kafka.KafkaUtils
import org.apache.spark.streaming.{Milliseconds, StreamingContext}
/*
需求:kafka消费数据到sparkStreaming计算
*/
object KafkaWordCount {
def main(args: Array[String]): Unit = {
//1.创建StreamingContext
val conf: SparkConf = new SparkConf().setAppName(“kafkaWordCount”).setMaster(“local[2]”)
val ssc: StreamingContext = new StreamingContext(conf,Milliseconds(2000))
//2.接入kafka数据源(如何访问kafka集群?zookeeper)
val zkQuorm: String = “192.168.64.111,192.168.64.112,192.168.64.113”
//访问组
val groupID = “g1”
//访问主题
val topic: Map[String, Int] = MapString,Int
//创建Dstream
val kafkaStream: ReceiverInputDStream[(String, String)] = KafkaUtils
.createStream(ssc,zkQuorm,groupID,topic)
//3.处理数据
val data: DStream[String] = kafkaStream.map(_._2)
//4.启动streaming程序
val r: DStream[(String, Int)] = data.flatMap(.split(" ")).map((,1)).reduceByKey(+)
r.print()
ssc.start()
//5.关闭资源
ssc.awaitTermination()
}
}
结果
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Python开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024c (备注Python)
最后
硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。
一个人可以走的很快,但一群人才能走的更远。如果你从事以下工作或对以下感兴趣,欢迎戳这里加入程序员的圈子,让我们一起学习成长!
AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算
id移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算**
相关阅读
发表评论