千家信息网

使用容器和Elasticsearch集群对Twitter进行监控

发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,介绍Elasticsearch是ELK(Elasticsearch/Logstash/Kibana)的基石。在这篇文章中,我们将使用Rancher Catalog来部署stack,并将它用于追踪Twi
千家信息网最后更新 2026年11月02日使用容器和Elasticsearch集群对Twitter进行监控

介绍


Elasticsearch是ELK(Elasticsearch/Logstash/Kibana)的基石。在这篇文章中,我们将使用Rancher Catalog来部署stack,并将它用于追踪Twitter上的tag和brand。


追踪Twitter上的hashtag对于衡量基于Twitter的营销活动的影响力是非常有用的。你可以从中提取出诸如您的推文被转发的次数,你的营销活动为你带来了多少位新的关注者等有效信息。


安装ELK stack


Elasticsearch


若你已经有了一个正在工作中的Elasticsearch集群,现在只需要调整一些集群中的配置即可。我们将使用JSON创建一个索引模板,来调整相关配置。


  • 在GitHub上获取JSON模板

  • 在你的浏览器中输入http://[你的kopf在rancher主机上的路径]

  • 在kopf中,点击"more",然后在下拉菜单中选择"index templates"



现在我们给我们的索引模板起个名字,并且推动其配置。


  • 使用twitter_elk_example作为模板名称

  • 粘贴你之前下载的JSON文件中的内容

  • 点击"save"按钮



Elasticsearch集群的配置就到这里。现在让我们接着往下走。


Logstash


Logstash让你能够分析所获得的数据并且将数据传输至你的Elasticsearch集群中。它原生支持很多数据源(如Twitter APIs、collectd、Apache日志等)。


在处理你的数据时,Logstash可以帮助你解压或格式化你数据中的正确部分。这样,你就不必推送一些不必要的或者(更糟的)错误数据,这些脏数据会使你的Kibana dashboard与实际情况不相符。


在我们开始之前,需要创建Twitter应用密钥


需要特别关注以下内容:


  • Consumer Key

  • Consumer Secret

  • Access Token

  • Access Token Secret


注意:确保你所有的Rancher主机的时钟均已同步,否则你将无法正确地使用Twitter证书。


现在跳转到目录页并选择Logstash(最好是最新的版本)。你需要在"Logstash inputs*"输入框中加入以下内容(用你自己的APIs认证密钥替换CAP文本):

twitter { consumer_key => "INSERT YOUR CONSUMER KEY" consumer_secret => "INSERT YOUR CONSUMER SECRET" oauth_token => "INSERT YOUR ACCESS TOKEN" oauth_token_secret => "INSERT YOUR ACCESS TOKEN SECRET" keywords => [ "docker", "rancher_labs", "rancher", "kubernetes" ] full_tweet => true }

注意:在关键字数组中,不要使用"@"或者"#"符号,否则Logstash将运行失败并报"unauthorized message"错误。

在"Logstash output*"这个输入框中,你需要加入以下内容output { elasticsearch { host => "elasticsearch:9200" protocol => "http" cluster_name => "NAME OF YOUR ELASTICSEARCH CLUSTER" index => "twitter_elk_example" document_type => "tweets" }


最后,选择"elasticsearch-clients as the Elasticsearch stack/service",点击"launch"按钮即可!



接下来的事情Rancher将会帮你做完,包括部署一个完全配置好的Logstash。如果一切顺利,在几分钟之内,你应该能看到数据已经被加入到了你的Elasticsearch主页中。你可以在http://[你的ElasticSearch主机地址]/#kopt 中查看。



Kibana


Kibana能帮助你根据Elasticsearch集群中的数据创建一个强大的dashboard。要部署Kibana,你只需要做两件事情:选择正确的Rancher Catalog版本,然后将它连接到elasticsearch-clients容器中。



这样,一个配置正确的Kibana已经准备好被使用了!后续我们还将会对它进行一些配置。


现在,整个ELK栈就部署好了。虽然Elasticsearch和Logstash已经部署好了,我们还是需要对Kibana进行一些操作。


在这个例子中,我们只需要在Kibana中导入一个JSON仪表盘即可。


  • 点击这里获取JSON文件

  • 进入Settings -> Object,然后点击"import",接下来选择刚刚下载好的文件。你应该会看到类似于下图的界面。



剩下的就是在Kibana中创建一个适当的索引设置了。


前往"Indices"页面,然后点击"New"按钮。你应该能看到被创建好的索引和被选择了的@timestamp(时间戳)。



到目前位置,你已经有了一个帮助你监控Twitter上的hashtag和brand的Kibana dashboard。要加载被导入的dashboard,你只需要在这里点击它的名字即可。



几分钟后,重新查看dashboard,你会看到类似下图的界面:



至此,你就能成功监测Twitter上的tag和brand的情况啦!


数据 配置 选择 集群 内容 模板 索引 主机 按钮 文件 帮助 输入 接下来 下图 事情 名字 密钥 情况 版本 界面 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技工作委员会主任 为想互联网科技怎么样 科技金融是不是互联网金融 中国 科技 互联网 万易互联网科技有限公司 北京互联网络科技有限公司 火传媒上海互联网科技 博兴的互联网电子科技公司 宁夏众和广鑫互联网科技有限公司 天津腾达互联网科技有限公司 世界互联网领先科技成果获奖 济南有互联网科技公司吗 21世纪互联网科技成就 互联网与数字科技关系 广州互联网高科技取餐柜 长沙渺峰互联网科技有限公司 西安左小互联网科技有限公司 三亚科技创新互联网基地 互联网科技创新创业项目 科技互联网专业务虚会材料 互联网的科技 互联网科技官网 菲比寻常互联网科技 兼蜜互联网科技 互联网 科技服务平台 互联网为啥属于高科技 注册互联网科技公司经营范围大全 互联网营销推广黑科技 新氧科技和美国互联网有关系吗 互联网大会出现的黑科技
0