clickhouse SQL优化技巧有哪些
发表于:2026-11-03 作者:千家信息网编辑
千家信息网最后更新 2026年11月03日,这篇文章主要介绍clickhouse SQL优化技巧有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!sql慢查大部分主要体现在cpu 负载过高,io过高,或者查询的列中无索
千家信息网最后更新 2026年11月03日clickhouse SQL优化技巧有哪些我们观察到查询数据的时候,总是会具体到昨天;而且历史的数据不会再使用;
优化思路:使用clickhouse的TTL,减少表容量,
这篇文章主要介绍clickhouse SQL优化技巧有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
sql慢查大部分主要体现在cpu 负载过高,io过高,或者查询的列中无索引导致的;注意;clickhouse本身不太支持高并发的场景,qps过高会导致clickhouse服务器cpu过高,导致慢查
在这些情况下;常见的考虑的是 sql中是否有复杂的运算,查询的数量量是否过大,查询的列中索引是否有效;
sql 查询特点:数量大,且分区跨度大
data表格中有8亿多条数据,data表按照p_data_day 分区;
select sn,COUNT(1) as valueQt from data WHERE sn='70A0600018109' and p_day >= '2017-01-01' and p_data_day < '2020-08-13'group by sn;
数据会遍历整个分区,数据平均在1s左右分钟返回 ;
优化思路:减少不必要数据的遍历(分区);充分利用clickhouse 索引(group by 索引)
针对sn的查询,建立物化视图;将8亿条数据按照sn号以及device_id(mac_code)建立256个分区;
create MATERIALIZED VIEW IF NOT EXISTS data_sn_materializedengine = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data_sn_materialized', '{replica}')PARTITION BY sn_sort_key ORDER BY (sn_sort_key,sn,p_day)AS select halfMD5(_sn) % 256 as sn_sort_key,sn,p_day,count() as cnt from data group by sn_sort_key,sn,p_day;查询语句;保持原来的出参和入参不变,数据能够在200ms以内返回,
sql 查询特点:数量大,且分区跨度大
data 表格数据量在10亿多条,建表语句如下
CREATE TABLE data (`data_day` Date, `flow_type` UInt32 DEFAULT CAST(0, 'UInt32'),.....) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data', '{replica}') PARTITION BY data_day ORDER BY (flow_type, data_day) SETTINGS index_granularity = 8192;查询语句
select ... from data where data_day = '2020-09-11'
CREATE TABLE dwrt.lc_order_flow ( `data_day` Date, ..... `flow_type` UInt32 DEFAULT CAST(0, 'UInt32'), .... ) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{ck_cluster}/data', '{replica}') PARTITION BY data_day ORDER BY (data_day, flow_type) TTL data_day + toIntervalDay(7) SETTINGS index_granularity = 8192;
以上是"clickhouse SQL优化技巧有哪些"这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注行业资讯频道!
数据
查询
索引
数量
语句
技巧
内容
多条
思路
特点
篇文章
表格
跨度
复杂
有效
价值
兴趣
历史
场景
大部分
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
互联网科技企业
互联网新科技
金诺互联网科技
网络科技有限互联网
腾讯科技 互联网女皇
深圳天众互联网科技公司
居家互联网科技有限公司
互联网巨头投资的硬核科技
互联网经济与金融科技
武汉健翔互联网络科技有限公司
畅思互联网科技
互联网公司黑科技创始人
上海钢联属于互联网科技股吗
雨阳互联网卡科技有限公司
互联网领先科技宣传片
互联网安防科技感
昆明中奇联合互联网科技
马化腾互联网科技教学
唐山双旺合互联网科技产业园
众联互联网络科技
互联网科技图片
西安纸贵互联网科技有限公司
互联网科技公司华为
易互联网科技有限公司
融贸通互联网科技
科技大学互联网专业好不好
佛山市翊博互联网络科技有限公司
长沙互联网科技
如何强化互联网金融科技
互联网 科技节活动 微视频大赛