Ce document recense les quotas et limites système qui s'appliquent à Cloud Composer.
- Les quotas ont des valeurs par défaut, mais vous pouvez généralement demander des ajustements.
- Les limites système sont des valeurs fixes qui ne peuvent pas être modifiées.
Google Cloud utilise des quotas pour garantir l'équité et réduire les pics d'utilisation et de disponibilité des ressources. Un quota limite la quantité d'une ressourceGoogle Cloud que votre projet Google Cloud peut utiliser. Les quotas s'appliquent à différents types de ressources, y compris les composants matériels, logiciels et réseau. Par exemple, ils peuvent limiter le nombre d'appels d'API à un service, le nombre d'équilibreurs de charge utilisés simultanément par votre projet ou le nombre de projets que vous pouvez créer. Ils protègent la communauté des utilisateurs deGoogle Cloud en empêchant la surcharge des services. Les quotas vous aident également à gérer vos propres ressources Google Cloud .
Le système Cloud Quotas permet d'effectuer les opérations suivantes :
- Surveiller votre consommation de produits et services Google Cloud
- Limiter votre consommation de ces ressources
- Demander des modifications de la valeur du quota et automatiser les ajustements de quota
Dans la plupart des cas, lorsque vous tentez d'utiliser une ressource plus que son quota ne le permet, le système bloque l'accès à la ressource et la tâche que vous essayez d'effectuer échoue.
Les quotas s'appliquent généralement au niveau du projet Google Cloud . Votre utilisation d'une ressource dans un projet n'affecte pas votre quota disponible dans un autre projet. Dans un projet Google Cloud , les quotas sont partagés entre toutes les applications et adresses IP.
Pour en savoir plus, consultez la présentation de Cloud Quotas.Pour ajuster la plupart des quotas, utilisez la console Google Cloud . Pour en savoir plus, consultez Demander un ajustement de quota.
Des limites système s'appliquent également aux ressources Cloud Composer. Elles ne peuvent pas être modifiées.
Quotas Cloud Composer
Les quotas de cette section ne s'appliquent qu'à l'API Cloud Composer et aux outils qui l'utilisent :
- Interface Cloud Composer dans la console Google Cloud
- Commandes
gcloud composer
etgcloud beta composer
- API REST Cloud Composer
- API RPC Cloud Composer
- Terraform, pour les opérations avec les environnements Cloud Composer
Les quotas de cette section ne s'appliquent pas aux services que vous utilisez dans vos DAG Airflow. Ces services utilisent leurs propres quotas.
Les quotas d'API suivants s'appliquent à Cloud Composer :
Nom du quota | Limite |
---|---|
Requêtes de lecture par projet | 1 000 unités de quota par minute |
Requêtes d'écriture par projet | 25 000 unités de quota par jour |
Requêtes d'écriture par projet | 1 500 unités de quota par minute |
Enregistrer les demandes d'instantané par projet | 5 000 unités de quota par jour |
Enregistrer les demandes d'instantané par projet | 250 unités de quota par minute |
Enregistrer les demandes d'instantanés par projet et par environnement | 2 600 unités de quota par jour |
Charger les requêtes d'instantané par projet | 2 500 unités de quota par jour |
Charger les requêtes d'instantané par projet | 150 quotas par minute |
Requêtes de chargement d'instantanés par projet et par environnement | 700 unités de quota par jour |
Les appels à l'API Cloud Composer ont les coûts suivants, en unités de quota :
Opération | Coût en unités de quota | Type de demande |
---|---|---|
Toutes les opérations | 1 | Lire |
environments.create | 100 | Écriture |
environments.patch | 100 | Écriture |
environments.delete | 100 | Écriture |
environments.databaseFailover | 100 | Écriture |
environments.restartWebServer | 100 | Écriture |
environments.checkUpgrade | 100 | Écriture |
environments.executeAirflowCommand | 25 | Écriture |
environments.stopAirflowCommand | 25 | Écriture |
environments.saveSnapshot | 50 | Enregistrer l'instantané |
environments.loadSnapshot | 50 | Charger un instantané |
Exemples de calcul des quotas
Une requête
environments.create
consomme 100 unités de quota des quotas Write.Il existe deux quotas de ce type pour les requêtes d'écriture :
- Requêtes d'écriture par projet et par jour
- Requêtes d'écriture par projet et par minute
Cette opération consomme 100 unités de quota pour chaque quota.
Si vous exécutez une requête
environments.restartWebServer
par la suite, 100 unités de quota supplémentaires sont consommées à partir des mêmes quotas, carenvironments.restartWebServer
partage les quotas avec la requêteenvironments.create
.Une requête
environments.saveSnapshot
consomme 50 unités de quota sur trois quotas :- Demandes d'enregistrement d'instantané par projet et par jour
- Requêtes d'enregistrement d'instantané par projet et par minute
- Demandes d'enregistrement d'instantané par projet, par environnement et par jour
Ces trois quotas limitent le nombre maximal de requêtes
environments.saveSnapshot
. Chacun le fait d'une manière différente.La limite de quota Demandes d'enregistrement d'instantanés par projet et par jour est de 2 500 unités de quota. Vous pouvez exécuter jusqu'à 50 requêtes
environments.saveSnapshot
par jour dans votre projet.La limite de quota Requêtes d'enregistrement d'instantané par projet et par minute est de 150 unités de quota. Dans votre projet, vous ne pouvez exécuter que trois requêtes
environments.saveSnapshot
par minute.Enfin, la limite de quota Demandes d'enregistrement d'instantanés par projet, par environnement et par jour est de 750 unités de quota. Vous pouvez exécuter jusqu'à 15 requêtes
environments.saveSnapshot
par jour pour un même environnement. Si toutes les unités de quota sont consommées pour un environnement spécifique, vous pouvez toujours exécuter des requêtesenvironments.saveSnapshot
pour d'autres environnements de votre projet.
Quotas pour d'autres services
Cloud Composer utilise d'autres services Google Cloud . Ces services ont des quotas au niveau du projet qui s'appliquent lorsque vous utilisez Cloud Composer.
Par exemple, les quotas pour Cloud Storage s'appliquent à tous les buckets associés aux environnements de votre projet. Par exemple, les clusters d'un environnement utilisent Google Kubernetes Engine. Les quotas pour GKE s'appliquent donc à tous les clusters associés aux environnements de votre projet.
Quotas pour les services utilisés par Cloud Composer
Les services suivants sont utilisés par Cloud Composer. Ces services sont soumis à leurs propres limites de quota :
- Quotas Cloud Deployment Manager
- Quotas Google Kubernetes Engine
- Quotas de Compute Engine
- Quotas Cloud Storage
- Quotas Pub/Sub
- Quotas Cloud Logging
- Quotas Cloud Monitoring
- Quotas Cloud Build (s'appliquent aux environnements qui utilisent des packages PyPI personnalisés)
- Quotas Artifact Registry
- Quotas Identity and Access Management
- Quotas de Virtual Private Cloud (ne s'appliquent pas aux environnements qui utilisent Private Service Connect)
- Quotas Resource Manager
- Quotas de l'Annuaire des services
Quotas pour les services optionnels
Vous pouvez utiliser des opérateurs Airflow avec les services Google Cloud . Pour chaque service que vous utilisez dans un DAG, le quota associé s'applique.