Glossar · Engineering
Ein Algorithmus zur Ratenbegrenzung, der Anfragen aus einem sich stetig auffüllenden Vorrat an Tokens erlaubt und so kurze Lastspitzen sauber abfedert.
Definition
Ein Eimer (Bucket) hält eine feste Höchstzahl an Tokens. In gleichmäßigem Takt kommen neue Tokens nach, bis der Eimer voll ist. Jede Anfrage kostet ein Token: ist eins vorhanden, geht die Anfrage durch, sonst wird sie verzögert oder abgewiesen. Dadurch erlaubt der Eimer einen kurzen Burst bis zu seiner Größe und danach nur noch die Nachfüllrate als Dauerdurchsatz.
In Integrationen nutzt du Token Bucket, um dich an das Rate-Limit einer fremden API zu halten, ohne einzelne Requests unnötig auszubremsen. Anders als ein starres Zeitfenster (fixed window) glättet der Bucket den Durchsatz und vermeidet das typische Muster, bei dem am Fensteranfang alle Requests gleichzeitig losgehen und der Anbieter dich dann mit 429 abweist.
So nutzen wir das bei adsbird
Der Outreach-Versand zieht pro Mail ein Token aus einem Bucket, damit das erlaubte Sendevolumen pro Minute nicht überschritten wird und die Zustellrate stabil bleibt.
Verwandte Begriffe
Token Bucket (Ratenbegrenzung) in deinem Projekt?
Wenn du Token Bucket in einem konkreten Workflow brauchst, wir haben das wahrscheinlich schon gebaut.