查询 Stage 中的 CSV 文件

查询 Stage 中的 CSV 文件

语法：

SELECT [<alias>.]$<col_position> [, $<col_position> ...] 
FROM {@<stage_name>[/<path>] [<table_alias>] | '<uri>' [<table_alias>]} 
[( 
  [<connection_parameters>],
  [ PATTERN => '<regex_pattern>'],
  [ FILE_FORMAT => 'CSV| <custom_format_name>'],
  [ FILES => ( '<file_name>' [ , '<file_name>' ] [ , ... ] ) ]
)]

提示

查询返回内容说明：

• 返回格式：默认以字符串形式返回各列值
• 访问方式：使用位置引用 $<col_position>（例如 $1、$2、$3）
• 示例：SELECT $1, $2, $3 FROM @stage_name
• 关键特性：
  • 通过位置而非列名访问数据
  • 每个 $<col_position> 引用单列而非整行
  • 非字符串操作需类型转换（如 CAST($1 AS INT)）
  • CSV 文件不包含内嵌模式信息

教程

步骤 1. 创建外部 Stage

使用您自己的 S3 存储桶和凭证创建外部 Stage，用于存储 CSV 文件。

CREATE STAGE csv_query_stage 
URL = 's3://load/csv/' 
CONNECTION = (
    ACCESS_KEY_ID = '<your-access-key-id>' 
    SECRET_ACCESS_KEY = '<your-secret-access-key>'
);

步骤 2. 创建自定义 CSV 文件格式

CREATE FILE FORMAT csv_query_format 
    TYPE = CSV,
    RECORD_DELIMITER = '\n',
    FIELD_DELIMITER = ',',
    COMPRESSION = AUTO,
    SKIP_HEADER = 1;        -- 如果 CSV 文件包含表头，查询时跳过首行

• 更多 CSV 文件格式选项请参考 CSV 文件格式选项

步骤 3. 查询 CSV 文件

SELECT $1, $2, $3
FROM @csv_query_stage
(
    FILE_FORMAT => 'csv_query_format',
    PATTERN => '.*[.]csv'
);

如果 CSV 文件使用 gzip 压缩，可使用以下查询：

SELECT $1, $2, $3
FROM @csv_query_stage
(
    FILE_FORMAT => 'csv_query_format',
    PATTERN => '.*[.]csv[.]gz'
);

包含元数据的查询

直接从 Stage 查询 CSV 文件，包含 METADATA$FILENAME 和 METADATA$FILE_ROW_NUMBER 等元数据列：

SELECT
    METADATA$FILENAME,
    METADATA$FILE_ROW_NUMBER,
    $1, $2, $3
FROM @csv_query_stage
(
    FILE_FORMAT => 'csv_query_format',
    PATTERN => '.*[.]csv'
);