julykobe 2019-07-01
InfluxDB
是一个时间序列数据库(TSDB
), 被设计用来处理高写入、高查询负载,是 TICK 的一部分。
TSDB
是针对时间戳或时间序列数据进行优化的数据库,专门为处理带有时间戳的度量和事件或度量而构建的。
而时间序列数据可以是随时间跟踪、监视、下采样和聚合的度量或事件,如服务器指标、应用程序性能、网络数据、传感器数据以及许多其他类型的分析数据。
Go
编写,能够但文件运行,没有依赖HTTP
读写接口Graphite=, =collectd
和 OpenTSDB
SQL
语言查询聚合数据Tag
进行快速高效的查询Retention Policy
), 能够自动清理旧数据注意: 开源版本的 InfluxDB
只运行在单个节点上,如需更好的性能或避免单点故障,请使用企业版。
sudo apt install influxdb influxdb-cli
yaourt -S influxdb
或 sudo pacman -S influxdb
其他请参见:Installing InfluxDB
InfluxDB
的配置文件为: /etc/influxdb/influxdb.conf
,选项详情请参见:Configuration Settings,这里就不在赘述。
systemctl start/stop influxdb.service
使用 influx
命令连接数据库,参看其帮组手册了解使用方法
CREATE DATABASE <name>
DROP DATABASE <name>
SHOW DATABASES
USE <name>
InfluxDB
中使用 measurement
表示表, tags
表示表的元数据, fields
表示数据。
表的 scheme
不用定义, null
值也不会被存储。
Tag
可理解为表中需要索引的列, field
是不需要索引的列, point
表示一条记录。tags
之间或 fields
之间使用 ','
分割, 而 tags
与 fields
之间使用空格分割。
DROP MEASUREMENTS <name>
SHOW MEASUREMENTS
写入数据
point
写入的语法如下:
<measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]
插入一条 cpu load
的数据: INSERT cpu_load,machine=001,region=ch value=0.56
,
这就向名为 cpu_load
的 measurement
中添加了 tags
为 machine
和 region
, fields
为 value
的 point
。
不指定 timestamp
时,默认会使用 本地的当前时间 作为 timestamp
。
查询数据
查询语法:
SELECT <field_key>[,<field_key>,<tag_key>] FROM <measurement_name>[,<measurement_name>]
查询语句中必须要有 field
存在 ,查询语句还支持 Go
风格的正则,下面给出一些例子。
SELECT * FROM cpu_load
查询 cpu_load
中的所有 fields
和 tags
SELECT *::field FROM cpu_load
查询 cpu_load
中的所有 fields
SELECT value,machine FROM cpu_load
只查询 value
与 machine
SELECT value::field,machine::tag FROM cpu_load
只查询 value
与 machine
,并限定了类型,如果类型错误将返回 null
,如果所有查询字段的类型都错误将没有 point
返回
SELECT * FROM /.*/
查询所有表中的所有字段
**注意:** `WHERE` 语句后的值不为数字的,必须引起来。 更多用法参见: [Data exploration using InfluxQL](https://docs.influxdata.com/influxdb/v1.7/query%5Flanguage/data%5Fexploration/) 。
point
InfluxDB
不支持 point
的删除操作,但可以通过 Retention Policy
清理 point
。
SERIES
是 measurement,<tag1>,<tag2>...
的集合,如之前的写入的 SERIES
就是 cpu_load,machine,region
查看语法:
SHOW SERIES FROM [measurement],[tag1],[tag2]...
FROM
可以不加,如:
SHOW SERIES
显示数据库中所有的 SERIES
SHOW SERIES FROM cpu_load
显示表 cpu_load
中的所有 SERIES
DROP
DROP
将删除所有的记录,并删除所有的索引,语法:
DROP SERIES FROM <measurement> WHERE [condition]
DELETE
DELETE
将删除所有的记录,但不会删除索引,并支持在 WHERE
语句中使用 =timestamp=,语法:
DELETE FROM <measurement_name> WHERE [<tag_key>='<tag_value>'] | [<time interval>]~
连续查询(Continuous Queries
简称 CQ
)是 InfluxQL
对实时数据自动周期运行的查询,然后把查询结果写入到指定的 measurement
中。
语法如下:
CREATE CONTINUOUS QUERY <cq_name> ON <database_name> BEGIN <cq_query> END
删除语法: DROP CONTINUOUS QUERY <cq_name> ON <database_name>
cq_query
需要一个函数,一个 INTO
子句和一个 GROUP BY time()
子句:
SELECT <function[s]> INTO <destination_measurement> FROM <measurement> [WHERE <stuff>] GROUP BY time(<interval>)[,<tag_key[s]>]
注意: 在 WHERE
子句中, cq_query
不需要时间范围。 InfluxDB
在执行 CQ
时自动生成 cq_query
的时间范围。cq_query
的 WHERE
子句中的任何用户指定的时间范围将被系统忽略。
如创建一个一分钟采样一次 cpu_load
并写入 cpu_load_1min
表的连续查询:
CREATE CONTINUOUS QUERY "cpu_load_1min" ON "learn_test" BEGIN SELECT mean("value") INTO "cpu_load_1min" FROM "cpu_load" GROUP BY time(1m) END
value
将以 mean
为名保存在 cpu_load_1min
中。
更多高级用法参加: InfluxQL Continuous Queries
InfluxDB
是没有提供直接删除数据记录的方法,但是提供数据保存策略,主要用于指定数据保留时间,超过指定时间,就删除这部分数据。
可以有多个 RP
并存,但 default
表明默认策略。
更多用法参见: Database management using InfluxQL 。
SHOW RETENTION POLICY ON <database name>
创建
创建语法:
CREATE RETENTION POLICY <retention_policy_name> ON <database_name> DURATION <duration> REPLICATION <n> [SHARD DURATION <duration>] [DEFAULT]
REPLICATION
子句确定每个点在集群中存储多少个独立副本,其中 n
是数据节点的数量,对单节点实例无效。
碎片持续时间子句确定碎片组覆盖的时间范围,是一个 duration
文字,不支持 INF (infinite) duration
。这个设置是可选的。
默认情况下,碎片组的持续时间由保留策略的持续时间决定:
RP Duration | Shard Duration |
---|---|
< 2 days | 1 hour |
>= 2 days and <= 6 months | 1 day |
> 6 months | 7 days |
如果 RP Duration
大于 0s
小于 1 hour
, Shard Duration
仍将设置为 1 hour
。
DROP RETENTION POLICY <rp_name>
修改
ALTER RETENTION POLICY <rp_name> ON <database name> DURATION <duration> REPLICATION <n> [SHARD DURATION <duration>] DEFAULT
/query
数据主要使用 query
接口查询,下面给出一些常见用法,而更多用法参见: Querying data with the HTTP API 。
创建数据库
POST
请求可用于创建数据库,如:
curl -X POST http://localhost:8086/query --data-urlencode "q=CREATE DATABASE <database name>"
查询
curl -X GET http://localhost:8086/query?pretty=true --data-urlencode 'db=<database name>' --data-urlencode 'q=SELECT "field1","tag1"... FROM <measurement> WHERE <condition>'
多个查询
多个查询语句间用 ;
分割,如:
curl -X GET http://localhost:8086/query?pretty=true --data-urlencode 'db=<database name>' --data-urlencode 'q=SELECT "field1","tag1"... FROM <measurement> WHERE <condition>;SELECT fields FROM <measurement>'
最大行限制(max-row-limit
) 允许使用者限制返回结果的数目,以保护InfluxDB不会在聚合结果的时候导致的内存耗尽。
分块(chunking) 可以设置参数 chunked=true
开启分块,使返回的数据是流式的 batch
,而不是单个的返回。返回结果可以按 100
数据点被分块,为了改变这个返回最大的分块的大小,
可以在查询的时候加上 chunk_size
参数,例如返回数据点是每 20000
为一个批次。
curl -X GET 'http://localhost:8086/query' --data-urlencode "db=<name>" --data-urlencode "chunked=true" --data-urlencode "chunk_size=100" --data-urlencode "q=SELECT * FROM cpu_load"
/write
发送 POST
请求是写入数据的主要方式,,下面给出一些常见用法,而更多用法参见: Writing data with the HTTP API 。
插入一条 point
curl -X POST http://localhost:8086/write?db=<database name> --data-binary "cpu_load,machine=001,region=cn value=0.56 1555164637838240795"
必须指定 database name
插入多条 point
多条 point
之间用行分割,如:
curl -X POST http://localhost:8086/write?db=<database name> --data-binary "cpu_load,machine=001,region=cn value=0.56 1555164637838240795 cpu_load,machine=001,region=cn value=0.65 1555164637838340795 cpu_load,machine=003,region-cn value=0.6 1555164637839240795"
如果需要写入 point
过多,可以将 point
放入文件中,然后通过 POST
请求上传。
文件(cpu_data.txt
)内容如:
cpu_load,machine=001,region=cn value=0.56 1555164637838240795 cpu_load,machine=001,region=cn value=0.65 1555164637838340795 cpu_load,machine=003,region-cn value=0.6 1555164637839240795
然后上传:
curl -X POST http://localhost:8086/write?db=<database name> --data-binary @cpu_data.txt