clickhouse SQL优化技巧有哪些
发表于:2025-12-03 作者:千家信息网编辑
千家信息网最后更新 2025年12月03日,这篇文章主要介绍clickhouse SQL优化技巧有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!sql慢查大部分主要体现在cpu 负载过高,io过高,或者查询的列中无索
千家信息网最后更新 2025年12月03日clickhouse SQL优化技巧有哪些我们观察到查询数据的时候,总是会具体到昨天;而且历史的数据不会再使用;
优化思路:使用clickhouse的TTL,减少表容量,
这篇文章主要介绍clickhouse SQL优化技巧有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
sql慢查大部分主要体现在cpu 负载过高,io过高,或者查询的列中无索引导致的;注意;clickhouse本身不太支持高并发的场景,qps过高会导致clickhouse服务器cpu过高,导致慢查
在这些情况下;常见的考虑的是 sql中是否有复杂的运算,查询的数量量是否过大,查询的列中索引是否有效;
sql 查询特点:数量大,且分区跨度大
data表格中有8亿多条数据,data表按照p_data_day 分区;
select sn,COUNT(1) as valueQt from data WHERE sn='70A0600018109' and p_day >= '2017-01-01' and p_data_day < '2020-08-13'group by sn;
数据会遍历整个分区,数据平均在1s左右分钟返回 ;
优化思路:减少不必要数据的遍历(分区);充分利用clickhouse 索引(group by 索引)
针对sn的查询,建立物化视图;将8亿条数据按照sn号以及device_id(mac_code)建立256个分区;
create MATERIALIZED VIEW IF NOT EXISTS data_sn_materializedengine = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data_sn_materialized', '{replica}')PARTITION BY sn_sort_key ORDER BY (sn_sort_key,sn,p_day)AS select halfMD5(_sn) % 256 as sn_sort_key,sn,p_day,count() as cnt from data group by sn_sort_key,sn,p_day;查询语句;保持原来的出参和入参不变,数据能够在200ms以内返回,
sql 查询特点:数量大,且分区跨度大
data 表格数据量在10亿多条,建表语句如下
CREATE TABLE data (`data_day` Date, `flow_type` UInt32 DEFAULT CAST(0, 'UInt32'),.....) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data', '{replica}') PARTITION BY data_day ORDER BY (flow_type, data_day) SETTINGS index_granularity = 8192;查询语句
select ... from data where data_day = '2020-09-11'
CREATE TABLE dwrt.lc_order_flow ( `data_day` Date, ..... `flow_type` UInt32 DEFAULT CAST(0, 'UInt32'), .... ) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data', '{replica}') PARTITION BY data_day ORDER BY (data_day, flow_type) TTL data_day + toIntervalDay(7) SETTINGS index_granularity = 8192;
以上是"clickhouse SQL优化技巧有哪些"这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注行业资讯频道!
数据
查询
索引
数量
语句
技巧
内容
多条
思路
特点
篇文章
表格
跨度
复杂
有效
价值
兴趣
历史
场景
大部分
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
服务器存储空间计算公式
哈尔滨软件开发系统购买
镇海计算机软件开发工程
社区网络安全工程
网络安全社会要怎样做
浪潮服务器自检B7
芝麻开门网络技术有限公司
管理信息系统是数据库系统
双以太环形网络技术研究
屏幕卫士软件开发
传奇服务器设置活动时间
网络安全宣传画铅笔
50个软件开发经验
熙邻网络技术
北京全速网络技术有限公司怎么样
dao对象必须和数据库一致吗
遵义市播州区网络安全领导小组
知名戴尔服务器销售
数据库管理软件绿色
群晖服务器自动上传
网络安全模式可以用吗
方圆软件开发
共青团重点数据库
哪些学校复试考数据库原理呀
软件开发方面的微信名
哈尔滨直播软件开发怎样收费
网络安全与技术专业课
怀化网络技术工作室
mdb数据库如何修改时间
网络技术学软件吗