AWS Glue

この文書では、CREATE CATALOGを通じてIceberg tablesまたはHive tablesにアクセスするためにAWS Glue Catalogを使用する際のパラメータ設定について説明します。

サポートされているGlue Catalogタイプ

AWS Glue Catalogは現在3つのタイプのCatalogをサポートしています：

Catalogタイプ	タイプ識別子（`type`）	説明
Hive	glue	Hive Metastoreに接続するためのCatalog
Iceberg	glue	Icebergテーブル形式に接続するためのCatalog
Iceberg	rest	Glue Rest Catalog経由でIcebergテーブル形式に接続するためのCatalog

この文書では、ユーザーの設定を促進するために各タイプの詳細なパラメータ説明を提供します。

共通パラメータ概要

パラメータ名	説明	必須	デフォルト値
`glue.region`	AWS Glueリージョン、例：`us-east-1`	Yes	None
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	Yes	None
`glue.access_key`	AWS Access Key ID	Yes	Empty
`glue.secret_key`	AWS Secret Access Key	Yes	Empty
`glue.catalog_id`	Glue Catalog ID（まだサポートされていません）	No	Empty
`glue.role_arn`	Glueアクセス用のIAM Role ARN（3.1.2+以降でサポート）	No	Empty
`glue.external_id`	Glueアクセス用のIAM External ID（3.1.2+以降でサポート）	No	Empty

認証パラメータ

Glueへのアクセスには認証情報が必要で、以下の2つの方法をサポートしています：

Access Key認証

glue.access_keyとglue.secret_keyで提供されるAccess Keyを通じてGlueへのアクセスを認証します。
IAM Role認証（3.1.2+以降でサポート）

glue.role_arnで提供されるIAM Roleを通じてGlueへのアクセスを認証します。

この方法では、DorisがAWS EC2にデプロイされている必要があり、EC2インスタンスにはGlueへのアクセス権限を持つIAM Roleがバインドされている必要があります。

External IDを通じたアクセスが必要な場合は、glue.external_idも設定する必要があります。

注意事項：

2つの方法のうち少なくとも1つは設定する必要があります。両方の方法が設定されている場合、Access Key認証が優先されます。

例：

```sql
CREATE CATALOG hive_glue_catalog PROPERTIES (
  'type' = 'hms',
  'hive.metastore.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  -- Using Access Key authentication
  'glue.access_key' = '<YOUR_ACCESS_KEY>',
  'glue.secret_key' = '<YOUR_SECRET_KEY>'
  -- Or using IAM Role authentication
  -- 'glue.role_arn' = '<YOUR_ROLE_ARN>',
  -- 'glue.external_id' = '<YOUR_EXTERNAL_ID>'
);
```

AWSの認証と認可の設定手順については、ドキュメントaws-authentication-and-authorizationを参照してください。

Hive Glue Catalog

Hive Glue CatalogはAWS GlueのHive Metastore互換インターフェースを通じてHiveテーブルにアクセスするために使用されます。設定は以下の通りです：

パラメータ名	説明	必須	デフォルト値
`type`	`hms`で固定	はい	なし
`hive.metastore.type`	`glue`で固定	はい	なし
`glue.region`	AWS Glueリージョン、例：`us-east-1`	はい	なし
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	はい	なし
`glue.access_key`	AWS Access Key ID	いいえ	空
`glue.secret_key`	AWS Secret Access Key	いいえ	空
`glue.catalog_id`	Glue Catalog ID（未サポート）	いいえ	空
`glue.role_arn`	GlueにアクセスするためのIAM Role ARN	いいえ	空
`glue.external_id`	GlueにアクセスするためのIAM External ID	いいえ	空

例

CREATE CATALOG hive_glue_catalog PROPERTIES (
  'type' = 'hms',
  'hive.metastore.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  'glue.access_key' = 'YOUR_ACCESS_KEY',
  'glue.secret_key' = 'YOUR_SECRET_KEY'
);

Iceberg Glue Catalog

Iceberg Glue CatalogはGlue Clientを通じてGlueにアクセスします。設定は以下の通りです：

パラメータ名	説明	必須	デフォルト値
`type`	`iceberg`として固定	はい	なし
`iceberg.catalog.type`	`glue`として固定	はい	なし
`warehouse`	Icebergデータウェアハウスパス、例：`s3://my-bucket/iceberg-warehouse/`	はい	s3://doris
`glue.region`	AWS Glueリージョン、例：`us-east-1`	はい	なし
`glue.endpoint`	AWS Glueエンドポイント、例：`https://glue.us-east-1.amazonaws.com`	はい	なし
`glue.access_key`	AWS Access Key ID	いいえ	空
`glue.secret_key`	AWS Secret Access Key	いいえ	空
`glue.catalog_id`	Glue Catalog ID（まだサポートされていません）	いいえ	空
`glue.role_arn`	Glueアクセス用のIAM Role ARN（まだサポートされていません）	いいえ	空
`glue.external_id`	Glueアクセス用のIAM External ID（まだサポートされていません）	いいえ	空

例

CREATE CATALOG iceberg_glue_catalog PROPERTIES (
  'type' = 'iceberg',
  'iceberg.catalog.type' = 'glue',
  'glue.region' = 'us-east-1',
  'glue.endpoint' = 'https://glue.us-east-1.amazonaws.com',
  'glue.access_key' = '<YOUR_ACCESS_KEY>',
  'glue.secret_key' = '<YOUR_SECRET_KEY>'
);

Iceberg Glue Rest Catalog

Iceberg Glue Rest CatalogはGlue Rest Catalogインターフェースを通じてGlueにアクセスします。現在はAWS S3 Table Bucketに保存されたIcebergテーブルのみをサポートしています。設定は以下の通りです：

パラメータ名	説明	必須	デフォルト値
`type`	`iceberg`に固定	はい	None
`iceberg.catalog.type`	`rest`に固定	はい	None
`iceberg.rest.uri`	Glue Restサービスエンドポイント、例：`https://glue.ap-east-1.amazonaws.com/iceberg`	はい	None
`warehouse`	Icebergデータウェアハウスパス、例：`<account_id>:s3tablescatalog/<bucket_name>`	はい	None
`iceberg.rest.sigv4-enabled`	V4署名形式を有効化、`true`に固定	はい	None
`iceberg.rest.signing-name`	署名タイプ、`glue`に固定	はい	Empty
`iceberg.rest.access-key-id`	Glueアクセス用のAccess Key（S3 Bucketアクセスにも使用）	はい	Empty
`iceberg.rest.secret-access-key`	Glueアクセス用のSecret Key（S3 Bucketアクセスにも使用）	はい	Empty
`iceberg.rest.signing-region`	AWS Glueリージョン、例：`us-east-1`	はい	Empty

例

CREATE CATALOG glue_s3 PROPERTIES (
  'type' = 'iceberg',
  'iceberg.catalog.type' = 'rest',
  'iceberg.rest.uri' = 'https://glue.<region>.amazonaws.com/iceberg',
  'warehouse' = '<acount_id>:s3tablescatalog/<s3_table_bucket_name>',
  'iceberg.rest.sigv4-enabled' = 'true',
  'iceberg.rest.signing-name' = 'glue',
  'iceberg.rest.access-key-id' = '<ak>',
  'iceberg.rest.secret-access-key' = '<sk>',
  'iceberg.rest.signing-region' = '<region>'
);

Permission Policies

使用シナリオに応じて、読み取り専用と読み書きポリシーに分けることができます。

1. Read-Only Permissions

Glue Catalogからデータベースとテーブル情報の読み取りのみを許可します。

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "GlueCatalogReadOnly",
      "Effect": "Allow",
      "Action": [
        "glue:GetCatalog",
        "glue:GetDatabase",
        "glue:GetDatabases",
        "glue:GetTable",
        "glue:GetTables",
        "glue:GetPartitions"
      ],
      "Resource": [
        "arn:aws:glue:<region>:<account-id>:catalog",
        "arn:aws:glue:<region>:<account-id>:database/*",
        "arn:aws:glue:<region>:<account-id>:table/*/*"
      ]
    }
  ]
}

2. 読み書き権限

読み取り専用権限に基づき、データベースとテーブルの作成/変更/削除を許可します。

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "GlueCatalogReadWrite",
      "Effect": "Allow",
      "Action": [
        "glue:GetCatalog",
        "glue:GetDatabase",
        "glue:GetDatabases",
        "glue:GetTable",
        "glue:GetTables",
        "glue:GetPartitions",
        "glue:CreateDatabase",
        "glue:UpdateDatabase",
        "glue:DeleteDatabase",
        "glue:CreateTable",
        "glue:UpdateTable",
        "glue:DeleteTable"
      ],
      "Resource": [
        "arn:aws:glue:<region>:<account-id>:catalog",
        "arn:aws:glue:<region>:<account-id>:database/*",
        "arn:aws:glue:<region>:<account-id>:table/*/*"
      ]
    }
  ]
}

注意事項

プレースホルダーの置き換え
- <region> → あなたのAWSリージョン（例：us-east-1）
- <account-id> → あなたのAWSアカウントID（12桁の数字）
最小権限の原則
- クエリのみの場合は、書き込み権限を付与しないでください。
- *を特定のデータベース/テーブルのARNに置き換えることで、権限をさらに制限できます。
S3権限
- 上記のポリシーはGlue Catalogのみに関係します。
- データファイルを読み取る必要がある場合は、追加のS3権限が必要です（s3:GetObject、s3:ListBucketなど）。

サポートされているGlue Catalogタイプ​

共通パラメータ概要​

認証パラメータ​

Hive Glue Catalog​

例​

Iceberg Glue Catalog​

例​

Iceberg Glue Rest Catalog​

例​

Permission Policies​

1. Read-Only Permissions​

2. 読み書き権限​

注意事項​