Введение и архитектура HAProxy

HAProxy обрабатывает миллиарды запросов ежедневно на таких платформах как GitHub, Twitter, Instagram. Понимание его архитектуры — ключ к эффективному использованию.

• 🚀 Экстремальная производительность — миллионы соединений в секунду
• 🛡️ Высокая надёжность — используется в production с 2000-х годов
• ⚙️ Гибкость — балансировка HTTP, TCP, gRPC, WebSocket
• 📊 Богатая телеметрия — встроенная статистика, Prometheus, Grafana
• 🔐 Безопасность — SSL/TLS termination, WAF, rate limiting

                    ┌─────────────┐
    Клиенты ───────►│   HAProxy   │
                    └─────────────┘
                           │
         ┌─────────────────┼─────────────────┐
         ▼                 ▼                 ▼
   ┌──────────┐     ┌──────────┐     ┌──────────┐
   │  Web 1   │     │  Web 2   │     │  Web 3   │
   └──────────┘     └──────────┘     └──────────┘

1. Балансировка нагрузки — распределение трафика между серверами
2. High Availability — автоматическое исключение упавших серверов
3. SSL Termination — расшифровка HTTPS на уровне балансировщика
4. Маршрутизация — направление запросов на разные backend'ы по условиям
5. Защита — rate limiting, базовый WAF, DDoS mitigation
6. Наблюдаемость — метрики, логи, health checks

Традиционный многопоточный подход:
┌────────┐   ┌────────┐   ┌────────┐   ┌────────┐
│ Поток 1│   │ Поток 2│   │ Поток 3│   │ Поток N│
│  sleep │   │  sleep │   │  work  │   │  sleep │
└────────┘   └────────┘   └────────┘   └────────┘
    ▼            ▼            ▼            ▼
  блокировка  блокировка   работа      блокировка

Event-driven подход HAProxy:
┌────────────────────────────────────────────────┐
│              Один поток                        │
│  ┌────────┐  ┌────────┐  ┌────────┐  ┌──────┐ │
│  │ Сокет A│  │ Сокет B│  │ Сокет C│  │СокетD│ │
│  │  read  │  │ write  │  │  idle  │  │close │ │
│  └────────┘  └────────┘  └────────┘  └──────┘ │
└────────────────────────────────────────────────┘

1. HAProxy регистрирует все сокеты в epoll (Linux) или kqueue (BSD/macOS)
2. Ядро уведомляет HAProxy о событиях: «сокет X готов к чтению», «сокет Y готов к записи»
3. HAProxy обрабатывает только готовые сокеты, не тратя CPU на ожидание
4. Один поток обрабатывает тысячи соединений без блокировок

┌─────────────────────────────────────────────────────────┐
│                      HAProxy Process                    │
├─────────────────────────────────────────────────────────┤
│  ┌─────────────┐  ┌─────────────┐  ┌─────────────┐      │
│  │   Master    │  │   Worker    │  │   Agent     │      │
│  │   Process   │  │  Processes  │  │  (health)   │      │
│  │  (config)   │  │  (traffic)  │  │  checks     │      │
│  └─────────────┘  └─────────────┘  └─────────────┘      │
├─────────────────────────────────────────────────────────┤
│  ┌─────────────────────────────────────────────────┐    │
│  │              Event Loop (epoll)                 │    │
│  │  ┌───────┐ ┌───────┐ ┌───────┐ ┌───────┐        │    │
│  │  │Front 1│ │Front 2│ │Back 1 │ │Back 2 │  ...   │    │
│  │  └───────┘ └───────┘ └───────┘ └───────┘        │    │
│  └─────────────────────────────────────────────────┘    │
├─────────────────────────────────────────────────────────┤
│  ┌──────────────┐  ┌──────────────┐  ┌──────────────┐   │
│  │ Stick Tables │  │   Cache      │  │  Log Buffer  │   │
│  │  (rate limit)│  │  (optional)  │  │   (rsyslog)  │   │
│  └──────────────┘  └──────────────┘  └──────────────┘   │
└─────────────────────────────────────────────────────────┘

• Читает конфигурацию
• Открывает сокеты (bind)
• Запускает worker процессы
• Не обрабатывает трафик

• Обрабатывают весь трафик
• Каждый worker имеет свой event loop
• Поддерживают zero-downtime reload (мягкая перезагрузка)
• Количество workers = числу CPU ядер (обычно)

• Отдельный поток для проверок доступности серверов
• Не блокирует основной event loop
• Параллельные проверки для всех backend серверов

• Анализ HTTP заголовков, path, method
• Модификация запросов/ответов
• Cookie-based сессии
• Кэширование HTTP ответов

• Балансировка баз данных (MySQL, PostgreSQL)
• Кастомные бинарные протоколы
• SSH, SMTP, Redis, MongoDB
• Когда не нужен HTTP анализ

1. Ядро Linux — tune параметры (somaxconn, tcp_fin_timeout)
2. Конфигурация — maxconn, buffer size, timeouts
3. Аппаратное обеспечение — CPU, NIC с offloading
4. Сетевая топология — latency до backend'ов

• Нужна максимальная производительность TCP/HTTP
• Критична предсказуемая latency
• Требуется простая, но мощная конфигурация
• Планируется highload production

• Нужен полноценный web сервер (статика) — Nginx
• Требуется service mesh с mTLS — Envoy + Istio
• Нужна динамическая конфигурация без API — Consul + Envoy

• HAProxy — event-driven балансировщик с 20+ летней историей production использования
• Архитектура на основе epoll/kqueue позволяет обрабатывать десятки тысяч соединений в одном потоке
• Поддерживает HTTP (L7) и TCP (L4) режимы балансировки
• Master/Worker модель обеспечивает zero-downtime reload
• Выбор индустрии для highload проектов (GitHub, Twitter, Instagram)