Flink中TableAPI 、 SQL 与 Kafka消息插入是怎么实现的

这期内容当中小编将会给大家带来有关Flink中TableAPI 、 SQL 与 Kafka消息插入是怎么实现的，文章内容丰富且以专业的角度为大家分析和叙述，阅读完这篇文章希望大家可以有所收获。

使用Tbale&SQL与Flink Kafka连接器将数据写入kafka的消息队列

示例环境

java.version: 1.8.xflink.version: 1.11.1kafka：2.11

示例数据源 （项目码云下载）

Flink 系例 之 搭建开发环境与数据

示例模块 （pom.xml）

Flink 系例 之 TableAPI & SQL 与 示例模块

InsertToKafka.java

package com.flink.examples.kafka;import org.apache.flink.streaming.api.TimeCharacteristic;import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;import org.apache.flink.table.api.EnvironmentSettings;import org.apache.flink.table.api.StatementSet;import org.apache.flink.table.api.TableResult;import org.apache.flink.table.api.bridge.java.StreamTableEnvironment;/** * @Description 使用Tbale&SQL与Flink Elasticsearch连接器将数据写入kafka的消息队列 */public class InsertToKafka {    /**        官方参考：https://ci.apache.org/projects/flink/flink-docs-release-1.12/zh/dev/table/connectors/kafka.html        format:用于反序列化和序列化Kafka消息的格式。支持的格式包括'csv'，'json'，'avro'，'debezium-json'和'canal-json'。     */    static String table_sql = "CREATE TABLE KafkaTable (\n" +            "  `user_id` BIGINT,\n" +            "  `item_id` BIGINT,\n" +            "  `behavior` STRING,\n" +            "  `ts` TIMESTAMP(3)\n" +            ") WITH (\n" +            "  'connector' = 'kafka',\n" +            "  'topic' = 'user_behavior',\n" +            "  'properties.bootstrap.servers' = '192.168.110.35:9092',\n" +            "  'properties.group.id' = 'testGroup',\n" +            "  'scan.startup.mode' = 'earliest-offset',\n" +            "  'format' = 'json'\n" +            ")";    public static void main(String[] args) throws Exception {        //构建StreamExecutionEnvironment        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();        //默认流时间方式        env.setStreamTimeCharacteristic(TimeCharacteristic.ProcessingTime);        //构建EnvironmentSettings 并指定Blink Planner        EnvironmentSettings bsSettings = EnvironmentSettings.newInstance().useBlinkPlanner().inStreamingMode().build();        //构建StreamTableEnvironment        StreamTableEnvironment tEnv = StreamTableEnvironment.create(env, bsSettings);        //注册kafka数据维表        tEnv.executeSql(table_sql);        //时间格式处理，参考阿里文档        //https://www.alibabacloud.com/help/zh/faq-detail/64813.htm?spm=a2c63.q38357.a3.3.697c13523NZiIN        String sql = "insert into KafkaTable (user_id,item_id,behavior,ts) values(1,1,'normal', TO_TIMESTAMP(FROM_UNIXTIME( " + System.currentTimeMillis() + " / 1000, 'yyyy-MM-dd HH:mm:ss')))";        // 第一种方式：直接执行sql//        TableResult tableResult = tEnv.executeSql(sql);        //第二种方式：声明一个操作集合来执行sql        StatementSet stmtSet = tEnv.createStatementSet();        stmtSet.addInsertSql(sql);        TableResult tableResult = stmtSet.execute();        tableResult.print();    }}

打印结果

+-------------------------------------------+| default_catalog.default_database.my_users |+-------------------------------------------+|                                        -1 |+-------------------------------------------+1 row in set

上述就是小编为大家分享的Flink中TableAPI 、 SQL 与 Kafka消息插入是怎么实现的了，如果刚好有类似的疑惑，不妨参照上述分析进行理解。如果想知道更多相关知识，欢迎关注行业资讯频道。