Skip to main content

HAProxy 配置

haproxy -c -V -f /etc/haproxy/haproxy.cfg

acl

  • named acl
    • acl is_static path -i -m beg /static/
  • in-line acl
    • use_backend be_static if { path -i -m beg /static/ }
    • if, unless
  • 多个条件默认为 and 关系
    • http-request deny if { path -i -m beg /api/ } { src 10.0.0.0/16 }
  • 支持逻辑: || or && and !
    • http-request deny if { path -i -m beg /api/ } || !{ src 10.0.0.0/16 }
  • fetch - 指匹配的来源信息
    • 例如: src, path, hdr 等
  • converter - 转换
    • 例如: lower, upper, base64, field, bytes, map
  • flag - fetch 操作支持通过 flag 修改行为
flagfor
-i忽略大小写,匹配后续所有
-f匹配文件内 patterns
-m指定匹配方式
-n禁止 DNS 解析
-Mload the file pointed by -f like a map file.
-uforce the unique id of the ACL
--force end of flags. Useful when a string looks like one of the flags.
  • 匹配方法 - -m
    • 部分 fetch 有变种 path_beg -> path -m beg
-mfor
str完整匹配
sub包含
end开头
beg结尾
dir/ 分隔,路径匹配
dom. 分隔,域名匹配
reg正则匹配 - 注意性能问题
found存在
len长度匹配
bin二进制数据匹配 - Hex
  • hdr_end(host) .wener.me 不会匹配 wener.me
  • hdr_end(host) wener.me 会匹配 xyzwener.me
  • hdr_dom(host) wener.me 会匹配 wener.me*.wener.me, 不会匹配 xyzwener.me
    • 大多时候期望结果
methodalias
base_begbase -m beg
hdr_endhdr -m end
path_begpath -m beg
redirect scheme code 301 https if !{ ssl_fc }

# 动态名字
use_backend be_%[path,map_beg(/etc/haproxy/paths.map, mydefault)]
  • %[var()]

balance

  • balance
  • hash - 2.6+
  • roundrobin
    • 根据 weight 轮训 - weight 可动态调整
    • 最多 4095 server
  • static-rr
    • 同 roundrobin 但不支持调整 weight,不限制 server 数量
  • leastconn
    • 选择最少连接数的 server
    • 在 server 中使用 rr 就行选择 - 支持动态 weight
    • 适用于长链接 (例如:LDAP, SQL, TSE) 不适用于短链接 (例如: HTTP)
  • first
    • 通过 server id 顺序选择第一个 slot - id 默认为 server 顺序
    • 当 server 达到 maxconn 时选择下一个 - 使用该算法要设置了 maxconn 才有意义
    • 该算法可以使后面的 server 按需启动 - 配合基础设施动态控制服务器起停
    • 忽略 weight,更适用于长链接
    • 可使用 http-check send-state 告知服务器负载
  • source
    • 通过 IP hash 取模选择 server
    • 修改 server 数量会影响选取结果 - server up、down 也会影响
    • 默认静态 weight 无效,可配置 hash-type
  • uri
    • URL hash 取模选择 server
    • URL 使用路径 ? 前面部分,可指定为 whole 使用所有
    • 可增加缓存命中,只适用于 HTTP 后端
    • 默认静态 weight 无效,可配置 hash-type
    • 参数
      • len - 截取长度
      • depth - 目录深度
  • url_param
    • 使用 HTTP GET 请求上的 URL 参数
    • 未找到参数则使用 rr
    • 默认静态 weight 无效,可配置 hash-type
    • 参数
      • check_post - 针对 POST 也检测
  • hdr(<name>)
    • 使用 HTTP 头 <name> - 大小写不敏感,不存在则使用 rr
    • 默认静态 weight 无效,可配置 hash-type
    • 参数
      • use_domain_only - HASH 域名,也就是 Host
  • random, random(<draws>)
    • 随机数,一致性 hash - weight 动态
    • 适用于 server 数量多且频繁加减场景 - 比 roundrobin 和 leastconn 影响更小
    • <draws> - number of draws before selecting the least loaded of these servers
      • 默认 2
    • 参数
      • hash-balance-factor
        • 可增强公平性
    • Power of Two Random Choices
  • rdp-cookie, rdp-cookie(<name>)
    • name 默认 mstshash
    • 需要 tcp-request content accept + req_rdp_cookie_cnt
    • 默认静态 weight 无效,可配置 hash-type

HAProxy 透明代理+Traefik

global
log /dev/log local0
log /dev/log local1 notice
chroot /var/lib/haproxy
# 常见位置
# /run/haproxy/admin.sock
# /var/run/haproxy.sock
stats socket /var/lib/haproxy/stats mode 660 level admin
# stats socket [email protected]:9999 level admin
stats timeout 30s
user haproxy
group haproxy
daemon

defaults
log global
retries 2
option dontlognull
timeout connect 10000
timeout server 600000
timeout client 600000

frontend https
bind 0.0.0.0:443
default_backend https

backend https
mode tcp
balance roundrobin
option tcp-check
# traefik 后端也支持 proxy 协议
server traefik 192.168.128.5:9443 check fall 3 rise 2 send-proxy
iptables -F
iptables -t mangle -N DIVERT
iptables -t mangle -A PREROUTING -p tcp -m socket -j DIVERT
iptables -t mangle -A DIVERT -j MARK --set-mark 222
iptables -t mangle -A DIVERT -j ACCEPT
ip rule add fwmark 222 lookup 100
ip route add local 0.0.0.0/0 dev lo table 100

# 允许ip转发
echo 1 > /proc/sys/net/ipv4/conf/all/forwarding

# 设置松散逆向路径过滤
echo 2 > /proc/sys/net/ipv4/conf/default/rp_filter
echo 2 > /proc/sys/net/ipv4/conf/all/rp_filter
echo 0 > /proc/sys/net/ipv4/conf/enp0s8/rp_filter

# 允许ICMP重定向
echo 1 > /proc/sys/net/ipv4/conf/all/send_redirects
echo 1 > /proc/sys/net/ipv4/conf/enp0s8/send_redirects

保留状态

  • 不会保留统计信息
global
# 状态文件
server-state-file /var/lib/haproxy/server-state
stats socket /var/lib/haproxy/stats

defaults
# 加载统计
load-server-state-from-file global
# 保留状态
echo "show servers state" | socat /var/lib/haproxy/stats stdio > /var/lib/haproxy/server-state

交互命令

# 脚本一次执行
# socat 可能需要 sudo
echo "show info;show stat;show table" | socat /var/lib/haproxy/stats stdio
# 交互式
socat /var/lib/haproxy/stats readline
# prompt

SNI Proxy

backend bk_ssl
mode tcp
no option checkcache
no option httpclose
tcp-request inspect-delay 5s
tcp-request content accept if { req.ssl_hello_type 1 }
tcp-request content reject
use-server server1 if { req.ssl_sni -m beg app1. }
server server1 server1:8443 check id 1 weight 0
backend https
option tcplog
bind 0.0.0.0:443
tcp-request inspect-delay 5s
tcp-request content accept if { req_ssl_hello_type 1 }

use_backend s1 if { req.ssl_sni -i site1.example.com or site1alias.example.com }

use_backend s2 if { ssl_fc_sni_end s2.example.com }

-m end use_backend apache if { ssl_fc_sni_end domain.com }

hdr(host) hdr_end(host) -i .wener.me hdr_beg(host) -i .wener.me

Logging

global
# syslog UNIX socket
log /dev/log local0

# 本地 syslog server
log 127.0.0.1 local1 notice
# log 到 hostname 为 rsyslog 的服务器
log rsyslog:514 local0

# stdout - 用于容器环境
log stdout format raw local0
log stdout format raw daemon debug

defaults
log global
mode http
option httplog

backend s1
mode tcp
option tcplog

参考

实验

global
log stdout format raw local0
log stdout format raw daemon debug

defaults
log global
option httplog
timeout client 300s
timeout server 300s
timeout connect 5s

mode http

frontend f1
bind 0.0.0.0:8088

use_backend http:b1 if { hdr_dom(host) -i wener.me }

backend http:b1
mode http

backend tcp:b1
mode tcp

listen stats
bind :8084
mode http

http-request use-service prometheus-exporter if { path /metrics }

stats enable
stats hide-version
stats uri /
stats refresh 5s
stats realm Haproxy\ Statistics
# stats auth Username:Password

haproxy -c -f haproxy.cfg # Check
haproxy -f haproxy.cfg # Run
# stats http://127.0.0.1:8083

# 验证路由
curl -H 'Host: wener.me' 127.0.0.1:8088