跳到主要内容

查询配置

引入或更新于:v1.2.344

本文档描述了配置文件 databend-query.toml 中可用的查询节点配置项。

  • 下表列出的部分参数可能未包含在 databend-query.toml 中。如需使用这些参数,可手动添加至文件。

  • 您可以在 GitHub 上找到为不同部署环境设置的示例配置文件。这些文件仅用于内部测试,请勿自行修改。但若您有类似部署需求,可参考这些文件来编辑自己的配置文件。

[query] 部分

以下是 [query] 部分可用的参数列表:

参数描述
max_active_sessions最大活跃会话数。
shutdown_wait_timeout_ms等待超时时间(毫秒)。
flight_api_address监听 Databend-Query 集群数据交换的 IP 地址及端口。
admin_api_address管理 REST API 地址。
metric_api_address指标 REST API 地址。
mysql_handler_hostMySQL 查询处理器主机名。
mysql_handler_portMySQL 查询处理器端口。
clickhouse_http_handler_hostClickHouse HTTP 查询处理器主机名。
clickhouse_http_handler_portClickHouse HTTP 查询处理器端口。
http_handler_hostHTTP API 查询处理器主机名。
http_handler_portHTTP API 查询处理器端口。
flight_sql_handler_host实验性 Arrow Flight SQL API 查询处理器主机名。
flight_sql_handler_port实验性 Arrow Flight SQL API 查询处理器端口。
tenant_id默认租户 ID。
cluster_id默认集群 ID。
table_engine_memory_enabled是否启用 Memory 表引擎。
max_running_queries可同时执行的最大查询数,默认 8,0 表示无限制。
data_retention_time_in_days_max设置 data_retention_time_in_days 参数的上限,默认值 90 天。

[query.users] 部分

以下是 [[query.users]] 部分可用的参数列表。关于配置管理员用户的更多信息,请参阅配置管理员用户

参数描述
name用户名。
auth_type认证类型(如 no_password、double_sha1_password、sha256_password)。
auth_string认证字符串(如密码的 SHA-1 或 SHA-256 哈希值)。

[query.settings] 部分

以下是 [query.settings] 部分可用的参数列表。

参数描述
aggregate_spilling_memory_ratio控制聚合操作时数据落盘的阈值。当内存使用超过总可用内存的该百分比时,数据将溢出到对象存储以避免内存耗尽。例如:设置为 60 时,内存使用超过 60% 将触发落盘。
join_spilling_memory_ratio控制连接操作时数据落盘的阈值。当内存使用超过总可用内存的该百分比时,数据将溢出到对象存储以避免内存耗尽。例如:设置为 60 时,内存使用超过 60% 将触发落盘。

[log] 部分

该部分可包含四个子部分:[log.file]、[log.stderr]、[log.query] 和 [log.tracing]。

[log.file] 部分

以下是 [log.file] 部分可用的参数列表:

参数描述
on启用或禁用文件日志记录。默认为 true。
dir日志文件存储路径。
level日志级别:DEBUG、INFO 或 ERROR。默认为 INFO。
format日志格式:json 或 text。默认为 json。
limit最大保留日志文件数。默认为 48。

[log.stderr] 部分

以下是 [log.stderr] 部分可用的参数列表:

参数描述
on启用或禁用标准错误日志记录。默认为 false。
level日志级别:DEBUG、INFO 或 ERROR。默认为 DEBUG。
format日志格式:json 或 text。默认为 text。

[log.query] 部分

以下是 [log.query] 部分可用的参数列表:

参数描述
on启用将查询执行详情记录到日志目录的 query-details 文件夹。默认为启用。当存储空间有限时可考虑禁用。

[log.tracing] 部分

以下是 [log.tracing] 部分可用的参数列表:

参数描述
capture_log_level设置执行期间捕获跟踪的日志级别(DEBUG、TRACE、INFO、WARN 或 ERROR)。
on控制是否启用跟踪。默认值为 'false' 表示禁用。设置为 'true' 以启用跟踪。
otlp_endpoint指定 OpenTelemetry Protocol (OTLP) 的跟踪端点。默认为 http://127.0.0.1:4317,可替换为所需的 OTLP 端点。

[meta] 部分

以下是 [meta] 部分可用的参数列表:

参数描述
username用于连接 Meta 服务的用户名。默认:"root"。
password用于连接 Meta 服务的密码。Databend 建议使用环境变量 META_PASSWORD 提供密码。默认:"root"。
endpoints设置此查询服务器可连接的一个或多个元服务器端点。为增强 Meta 连接的健壮性,建议尽可能包含集群内的多个元服务器作为备份。示例:["192.168.0.1:9191", "192.168.0.2:9191"]。默认:["0.0.0.0:9191"]。
client_timeout_in_second设置终止尝试连接元服务器前的等待时间(秒)。默认:60。
auto_sync_interval设置此查询服务器应自动从集群内的元服务器同步端点的频率(秒)。启用后,Databend-query 会定期联系 Databend-meta 服务器以获取 grpc_api_advertise_host:grpc-api-port 列表。要禁用同步,请设置为 0。默认:60。
unhealth_endpoint_evict_time内部时间(秒),用于不查询不健康的元节点端点。默认:120。

[storage] 部分

以下是 [storage] 部分可用的参数列表:

参数描述
type使用的存储类型。可选值:fs, s3, azblob, gcs, oss, cos, hdfs, webhdfs。
allow_insecure默认值为 false。在 MinIO 上部署 Databend 或通过 http:// 前缀的 URL 加载数据时需设置为 true,否则可能遇到错误:"copy from insecure storage is not allowed. Please set allow_insecure=true"。

[storage.fs] 部分

以下是 [storage.fs] 部分可用的参数列表:

参数描述
data_path数据存储位置的路径。

[storage.s3] 部分

以下是 [storage.s3] 部分可用的参数列表:

[storage.azblob] 配置项

以下是 [storage.azblob] 配置项下可用的参数列表:

参数描述
endpoint_urlAzure Blob Storage 的 URL 端点(例如:https://<your-storage-account-name>.blob.core.windows.net)。
containerAzure 存储容器的名称。
account_nameAzure 存储账户的名称。
account_key用于 Azure Blob Storage 认证的账户密钥。
root指定存储桶内 Databend 操作的根目录。例如:若存储桶根目录下存在名为 myroot 的文件夹,则设置为 root = "myroot/"

[storage.gcs] 配置项

以下是 [storage.gcs] 配置项下可用的参数列表:

参数描述
bucketGoogle 云存储桶的名称。
credential经过 Base64 编码的 Google 云存储服务账户密钥文件。
root指定存储桶内 Databend 操作的根目录。例如:若存储桶根目录下存在名为 myroot 的文件夹,则设置为 root = "myroot/"

要获取 credential 参数值,请参考 Google 文档中的 创建服务账户密钥 主题创建并下载服务账户密钥文件。下载完成后,可通过以下命令将其转换为 Base64 字符串:

base64 -i -o ~/Desktop/base64-encoded-key.txt

[storage.oss] 配置项

以下是 [storage.oss] 配置项下可用的参数列表:

参数描述
bucket阿里云 OSS 存储桶的名称。
endpoint_url阿里云 OSS 的 URL 端点。
access_key_id用于阿里云 OSS 认证的访问密钥 ID。
access_key_secret用于阿里云 OSS 认证的访问密钥。
presign_endpoint_url阿里云 OSS 预签名操作的 URL 端点。
root指定存储桶内 Databend 操作的根目录。例如:若存储桶根目录下存在名为 myroot 的文件夹,则设置为 root = "myroot/"

[storage.obs] 配置项

以下是 [storage.obs] 部分中可用的参数列表:

参数描述
bucket您的华为云 OBS 桶的 名称。
endpoint_url华为云 OBS 的 URL 端点。
access_key_id用于与华为云 OBS 进行身份验证的访问密钥 ID。
secret_access_key用于与华为云 OBS 进行身份验证的访问密钥秘密。

[storage.cos]

以下是 [storage.cos] 部分中可用的参数列表:

参数描述
bucket腾讯云对象存储(COS)桶的名称。
endpoint_url腾讯云 COS 的 URL 端点(可选)。
secret_id用于与腾讯云 COS 进行身份验证的 Secret ID。
secret_key用于与腾讯云 COS 进行身份验证的 Secret Key。
root指定 Databend 将在桶内操作的目录。例如:如果桶的根目录有一个名为 myroot 的文件夹,则设置为 root = "myroot/"

[storage.hdfs]

以下是 [storage.hdfs] 部分中可用的参数列表:

参数描述
name_nodeHadoop 分布式文件系统(HDFS)的名称节点地址。
root指定 Databend 将操作的目录。

[storage.webhdfs]

以下是 [storage.webhdfs] 部分中可用的参数列表:

参数描述
endpoint_urlWebHDFS(Hadoop 分布式文件系统)的 URL 端点。
root指定 Databend 将操作的目录。
delegation用于身份验证和授权的委托令牌。

[cache]

以下是 [cache] 部分中可用的参数列表:

参数描述
data_cache_storage表数据缓存使用的存储类型。可用选项:"none"(禁用表数据缓存)、"disk"(启用磁盘缓存)。默认为 "none"。

[cache.disk]

以下是 [cache.disk] 部分中可用的参数列表:

参数描述
path使用磁盘缓存时,缓存数据的存储路径。
max_bytes使用磁盘缓存时,缓存数据的最大字节数。默认为 21474836480 字节(20 GB)。

[spill]

以下是 [spill] 部分中可用的参数列表:

参数描述
spill_local_disk_path指定溢出数据在本地磁盘的存储目录路径。
spill_local_disk_reserved_space_percentage定义保留的磁盘空间百分比(不用于溢出)。默认值为 30
spill_local_disk_max_bytes设置本地磁盘溢出数据的最大字节数。默认为无限制。

[spill.storage]

以下是 [spill.storage] 部分中可用的参数列表:

参数描述
type指定远程溢出存储类型,例如 s3

要指定具体存储类型,请使用 storage 部分 中的参数。示例请参阅 配置溢出存储