Flink中Transform怎么用
发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,小编给大家分享一下Flink中Transform怎么用,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!分组聚合 Strin
千家信息网最后更新 2026年11月02日Flink中Transform怎么用
小编给大家分享一下Flink中Transform怎么用,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
分组聚合
String path = "E:\\GIT\\flink-learn\\flink-learn\\telemetering.txt"; StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); TupleTypeInfo> typeInfo = new TupleTypeInfo<>(Types.STRING, Types.DOUBLE, Types.LONG); TupleCsvInputFormat > tupleCsvInputFormat = new TupleCsvInputFormat<>(new Path(path), typeInfo); DataStreamSource > dataStreamSource = env.createInput(tupleCsvInputFormat, typeInfo); //或 DataStreamSource > dataStreamSource = env.readFile(tupleCsvInputFormat, path); SingleOutputStreamOperator > operator = dataStreamSource .filter(Objects::nonNull)// .map()// .flatMap()// .keyBy(0) .keyBy(tuple -> tuple.f0) .minBy(1);// .min()// .max(1);// .maxBy(1, false);// .sum(1);// .reduce();// .process(); operator.print().setParallelism(1); env.execute();
分流/合流
String path = "E:\\GIT\\flink-learn\\flink-learn\\telemetering.txt"; StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); PojoTypeInfotypeInfo = (PojoTypeInfo ) Types.POJO(TelemeterDTO.class); PojoCsvInputFormat inputFormat = new PojoCsvInputFormat<>(new Path(path), typeInfo, new String[]{"code", "value", "timestamp"}); DataStreamSource dataStreamSource = env.createInput(inputFormat, typeInfo); //分流 SplitStream splitStream = dataStreamSource .split(item -> { if (item.getValue() > 100) { return Collections.singletonList("high"); } return Collections.singletonList("low"); }); DataStream highStream = splitStream.select("high"); DataStream lowStream = splitStream.select("low"); //合流 ConnectedStreams connectedStreams = lowStream.connect(highStream);// DataStream unionDataStream = lowStream.union(highStream); //需要类型一致 SingleOutputStreamOperator > operator = connectedStreams .map(new CoMapFunction >() { @Override public Tuple3 map1(TelemeterDTO value) { return Tuple3.of(value.getCode(), value.getValue(), value.getTimestamp()); } @Override public Tuple3 map2(TelemeterDTO value) { return Tuple3.of(value.getCode(), value.getValue(), value.getTimestamp()); } }); operator.print(); env.execute();
UDF函数,提供底层支持
MapFunction
FilterFunction
ReduceFunction
ProcessFunction
SourceFunction
SinkFunction
富函数
富函数 包含了生命周期,及上下文相关信息,如
open() 可以在算子创建之初建立数据库连接
close() 在在算子生命结束之前关闭资源
以上是"Flink中Transform怎么用"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!
函数
篇文章
内容
生命
算子
合流
一致
上下
上下文
不怎么
信息
周期
大部分
底层
数据
数据库
更多
知识
类型
行业
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
高科技互联网
上海挚品互联网科技
互联网女皇 腾讯科技
碳银互联网科技有限公司
互联网金融 科技创新
齐家互联网科技有限公司
上海亿帐通互联网科技
天扬科技互联网广告
团飞科技与伯堂互联网服务平台
港股科技和互联网
互联网科技产业特征
中国科技创新与世界互联网大会
山东星卡互联网科技有限公司官网
江苏互联网智能科技软件
互联网科技年终奖
福建互联网展示科技馆设计
北京天晋互联网科技有限公司
绵阳真晨互联网科技有限公司
互联网科技品牌
重庆科技产业互联网有哪些
涨乐互联网科技
长亮科技互联网金融
互联网科技公司招聘
昊天互联网科技有限公司
中国航天科技大学国际工业互联网
科技类公司包括互联网吗
美国互联网科技实力
江苏苏星互联网科技有限公司
普陀区互联网教育科技管理办法
平安好医生打造互联网科技医疗