Сколько памяти должна использовать система кэширования в Windows?

Вместо создания собственных алгоритмов кэширования, почему бы вам не записать данные в файл с расширением FILE_ATTRIBUTE_TEMPORARY и использовать собственный кеш клиентского компьютера.

Хотя этот подход, по-видимому, подразумевает, что вы используете файл, если в системе есть доступная память, файл никогда не покинет кеш и останется в памяти все время.

Некоторые преимущества:

• Вам не нужно писать код.
• Системный кеш учитывает все другие запущенные процессы. Было бы непрактично для вас брать это на себя.
• В 64-битной Windows система может использовать всю доступную ей память для кеша. В 32-битном процессе Delphi вы ограничены 32-битным адресным пространством.
• Даже если ваш кеш заполнен и ваши файлы нужно сбросить на диск, доступ к локальному диску выполняется намного быстрее, чем запрос к базе данных и последующая передача файлов по сети.

Это зависит от того, какое другое программное обеспечение работает на сервере. Я бы сделал возможной настройку вручную сначала. Разработайте систему, которая может использовать определенный объем памяти. Если вы можете, создайте его так, чтобы вы могли изменить это значение во время его работы.

Если у вас есть эти возможности, вы можете попробовать некоторые настройки, чтобы увидеть, что работает лучше всего. Я не знаю никаких золотых правил, но я полагаю, что вы должны иметь возможность установить процент от общей памяти или общей доступной памяти с определенным минимальным объемом памяти, который будет всегда свободен для системы. Если вы сэкономите минимум 500 МБ для серверной ОС, вы можете использовать остальное или 90% остатка для своего кеша. Но эти цифры зависят от версии ОС и других приложений, работающих на сервере.

Я думаю, что лучше сделать числа настраиваемыми извне и создать инструмент управления, который позволит вам сначала установить значения вручную. Затем, если вы узнали, что работает лучше всего, вы можете использовать формулы для расчета этих значений и интегрировать их в свой инструмент управления. Этот инструмент не должен быть неотъемлемой частью самой программы кэширования (которая, вероятно, в любом случае будет службой без графического интерфейса).

Вопросы:

1. Одно изображение может быть запрошено несколькими клиентами? Или одно изображение может быть запрошено несколько раз за короткий промежуток времени?

2. Насколько короткий интервал?

3. Скорость сети действительно высокая? Выше, чем скорость жесткого диска?? Если у вас обычная сеть, то жесткий диск сможет считывать файлы с диска и доставлять их по сети в режиме реального времени. Тем более, что Windows уже хорошо кэширует, поэтому самые последние файлы уже находятся в кеше.

4. Основная цель компьютера, на котором запущено серверное приложение, — запустить сервер? Или просто обычный компьютер используется и для других задач? Другими словами, это выделенный сервер или обычная рабочая станция/рабочий стол?

но должен ли я спросить пользователя, сколько памяти он готов выделить для моего приложения?

Я бы обязательно туда пошла!!! Если пользователь считает, что серверное приложение не является важным приложением, он, вероятно, присвоит ему низкий приоритет (малый объем кеша). В противном случае, если он считает, что это самое важное работающее приложение, это позволит приложению выделить всю необходимую ему оперативную память в ущерб другим менее важным приложениям.

Просто доставьте приложение с этим параметром, установленным по умолчанию на приемлемое значение (которое будет примерно х% от общего объема ОЗУ). Я буду использовать примерно 70% от общего объема ОЗУ, если основная цель компьютера — это серверное приложение, и около 40-50%, если его целью является компьютер «общего пользования».

Серверному приложению обычно требуются ресурсы, выделенные его администратором для собственного использования. Я бы не заботился о поведении других приложений, я бы заботился о том, чтобы быть «вежливым» приложением, поэтому оно должно позволять администратору настраивать размер кэша памяти и т. Д., Который является единственным, кто знает, как правильно настроить свои системы. (как правило...)

Значения по умолчанию в любом случае должны учитывать, сколько памяти доступно в целом, особенно в 32-разрядных системах с объемом памяти менее 4 ГБ (поскольку Delphi предоставляет только 32-разрядные приложения), чтобы оставить что-то свободным для операционных систем и избежать слишком частого обмена. . Также желательно попросить пользователя выбрать его при настройке.

Если приложение является единственным, работающим на сервере, значение от 40 до 75% доступной памяти может быть приемлемым (в зависимости от того, сколько памяти требуется за пределами кеша), но опять же, спросите пользователя, потому что это почти невозможно узнать. какие другие запущенные приложения могут понадобиться. Вы также можете иметь минимальный размер кеша и максимальный размер кеша, начать с выделения меньшего значения, а затем увеличить его, когда и если это необходимо, и уменьшить его, если это необходимо.

В 32-битной системе это тип использования памяти, который может выиграть от использования PAE/AWE для доступа к более чем 3 ГБ памяти.

Обновление: вы также можете выполнять мониторинг попаданий/промахов в кеш и вычислять, какой размер кеша лучше всего подходит для нужд пользователя (он может быть слишком маленьким, но также и слишком большим), а также информировать пользователя о тот.

Честно говоря, вопросы, которые вы задаете, не будут моей главной заботой. Я бы больше беспокоился о том, насколько эффективным будет мой кеш. Если ваши файлы действительно такие большие, сколько вы можете хранить в кеше? И если у вашего клиент-серверного приложения много пользователей, каковы шансы, что ваш кеш на самом деле будет кэшировать что-то, что будет использовать кто-то другой?

Возможно, стоит провести анализ, прежде чем тратить слишком много времени на мелкие детали.