Трафик: балансировка, оптимизация, кэширование

Балансировка применяется для распределения нагрузки между серверами. За счет балансировки можно повысить отказоустойчивость системы, т.е., например, если один из серверов в кластере выходит из строя, то нагрузку на себя принимает второй. Благодаря балансировке также достигается некая защита от некоторых видов атак, например, атаки на все соединения.

К балансировке, как и к любой системе, предъявляется ряд требований:

• балансировка должна удовлетворять требованиям справедливости — любой запрос, пришедший в нашу систему, должен быть обслужен, а не просто брошен;
• балансировка должна быть эффективной — мы должны обеспечить такую ее работу, чтобы все наши сервера в кластере работали примерно равномерно, и брали на себя равномерную нагрузку;
• благодаря балансировке должно сокращаться время выполнения запроса — должно обеспечиваться сокращение времени отклика: как только запрос приходит к нам в систему, мы должны как можно быстрее его обслужить, на него ответить;
• балансировка должна удовлетворять требованиям предсказуемости — мы должны четко понимать какой алгоритм балансировки и в каком случае мы должны использовать;
• равномерность загрузки системы — в принципе, это требование схоже с эффективностью;
• балансировка должна быть масштабируемой — при резком увеличении нагрузки система балансировки должна обеспечивать стабильную работу нашего сервиса.

Чтобы ускорить сетевой трафик, в ЦОД и филиалах компании устанавливают специальные устройства. Их называют контроллерами оптимизации WAN (WAN Optimization Controller, WOC). Эти аппаратные и/или программные решения устраняют или ослабляют основные причины низкой эффективности работы приложений в глобальной сети: ограниченную пропускную способность канала, большую задержку, неэффективность транспортных протоколов и сетевого взаимодействия приложений. Некоторые системы представляют собой интегрированные решения, дополняющие функции оптимизации WAN средствами безопасности (межсетевой экран, функции IPS, VPN и защиты от DoS/DDoS), балансировки нагрузки и маршрутизации приложений.

Применение оборудования оптимизации трафика WAN позволяет снизить требования к пропускной способности, ускорить синхронизацию данных между основным и резервным ЦОД, а иногда использовать Интернет в качестве альтернативы выделенным каналам.

Кэширование позволяет увеличивать производительность веб-приложений за счёт использования сохранённых ранее данных, вроде ответов на сетевые запросы или результатов вычислений. Благодаря кэшу, при очередном обращении клиента за одними и теми же данными, сервер может обслуживать запросы быстрее. Кэширование — эффективный архитектурный паттерн, так как большинство программ часто обращаются к одним и тем же данным и инструкциям. Эта технология присутствует на всех уровнях вычислительных систем. Кэши есть у процессоров, жёстких дисков, серверов, браузеров.