RateLimiter Guava в минутах вместо секунд?

Из RateLimiter.create javadoc:

Когда скорость входящих запросов превышает разрешения PerSecond, ограничитель скорости будет выпускать одно разрешение каждые (1.0 / permitsPerSecond) секунды.

Таким образом, вы можете установить permitsPerSecond меньше, чем 1.0, чтобы выдавать разрешение реже, чем раз в секунду.

В вашем конкретном случае пять учетных записей за десять минут упрощаются до одной учетной записи за две минуты, что составляет одну учетную запись за 120 секунд. Вы бы передали 1.0/120 за permitsPerSecond.

В вашем случае использования вы, вероятно, захотите разместить пакетные запросы на создание учетной записи. Спецификация RateLimiter, кажется, не определяет, что происходит с неиспользованными разрешениями, но реализация по умолчанию, SmoothRateLimiter, похоже, позволяет разрешениям накапливаться до некоторого максимума, чтобы удовлетворить всплески. Этот класс не является общедоступным, поэтому документации по javadoc нет, но SmoothRateLimiter имеет длинный комментарий с подробным обсуждением текущего поведения.

В библиотеке Guava есть класс с именем SmoothRateLimiter.SmoothBursty, который реализует желаемое поведение, но имеет локальный доступ к пакету, поэтому мы не можем использовать его напрямую. Также есть проблема Github, чтобы сделать доступ к этому классу общедоступным: https://github.com/google/guava/issues/1974

Если вы не хотите ждать, пока они выпустят новую версию RateLimiter, вы можете использовать отражение для создания экземпляра SmoothBursty ограничителя скорости. Что-то вроде этого должно работать:

Class<?> sleepingStopwatchClass = Class.forName("com.google.common.util.concurrent.RateLimiter$SleepingStopwatch");
Method createStopwatchMethod = sleepingStopwatchClass.getDeclaredMethod("createFromSystemTimer");
createStopwatchMethod.setAccessible(true);
Object stopwatch = createStopwatchMethod.invoke(null);

Class<?> burstyRateLimiterClass = Class.forName("com.google.common.util.concurrent.SmoothRateLimiter$SmoothBursty");
Constructor<?> burstyRateLimiterConstructor = burstyRateLimiterClass.getDeclaredConstructors()[0];
burstyRateLimiterConstructor.setAccessible(true);

RateLimiter result = (RateLimiter) burstyRateLimiterConstructor.newInstance(stopwatch, maxBurstSeconds);
result.setRate(permitsPerSecond);
return result;

Да, новая версия Guava может затормозить ваш код, но если вы готовы принять этот риск, это может быть выходом.

Вы также можете установить одно разрешение в секунду и получить 120 разрешений для каждой учетной записи.

Я думаю, что столкнулся с той же проблемой, что и в исходном вопросе, и на основе comment вот что я нарисовал:

import com.google.common.util.concurrent.RateLimiter;
import java.time.Duration;

public class Titrator {

    private final int numDosesPerPeriod;
    private final RateLimiter rateLimiter;
    private long numDosesAvailable;
    private transient final Object doseLock;

    public Titrator(int numDosesPerPeriod, Duration period) {
        this.numDosesPerPeriod = numDosesPerPeriod;
        double numSeconds = period.getSeconds() + period.getNano() / 1000000000d;
        rateLimiter = RateLimiter.create(1 / numSeconds);
        numDosesAvailable = 0L;
        doseLock = new Object();
    }

    /**
     * Consumes a dose from this titrator, blocking until a dose is available.
     */
    public void consume() {
        synchronized (doseLock) {
            if (numDosesAvailable == 0) { // then refill
                rateLimiter.acquire();
                numDosesAvailable += numDosesPerPeriod;
            }
            numDosesAvailable--;
        }
    }

}

Доза, выдаваемая титратором, аналогична разрешению ограничителя скорости. Эта реализация предполагает, что когда вы принимаете свою первую дозу, часы начинают отсчитывать период дозирования. Вы можете потреблять свои максимальные дозы за период так быстро, как хотите, но когда вы достигнете своего максимума, вам придется подождать, пока не истечет период, прежде чем вы сможете получить еще одну дозу.

Для tryConsume() аналога tryAcquire RateLimiter вы должны проверить, что numDosesAvailable является положительным.

На случай, если вы пропустите это, RateLimiter указывает, что случилось с неиспользованным разрешением. По умолчанию неиспользуемая ссылка сохраняется до одной минуты Ограничитель скорости.

Наш обходной путь для этого — создать класс RateLimiter самостоятельно и изменить единицы времени. Например, в нашем случае мы хотим сделать дневной лимит скорости.

Все то же самое, что и RateLimiter, за исключением функции получения (разрешений), где мы изменили единицу времени в (двойной) TimeUnit.SECONDS.toMicros (1L) на желаемую единицу. В нашем случае мы меняем его на TimeUnit.Day для дневных лимитов.

Затем мы создаем собственный плавный RateLimiter и в функциях doSetRate(double PerDaysPerDay, long nowMicros) и doGetRate() также меняем единицу измерения времени.