Nginx 与 Lua

这几个月里,我们逐步把Lua集成到Mixlr的前端Nginx配置中。
Lua是一个可以嵌入到Nginx配置文件中的动态脚本语言,从而可以在Nginx请求处理的任何阶段执行各种Lua代码。刚开始我们只是用Lua 把请求路由到后端服务器,但是它对我们架构的作用超出了我们的预期。下面就讲讲我们所做的工作。
强制搜索引擎只索引mixlr.com
Google把子域名当作完全独立的网站,我们不希望爬虫抓取子域名的页面,降低我们的Page rank。

location / {

header_filter_by_lua ‘

if ngx.var.query_string and ngx.re.match( ngx.var.query_string, “^([0-9]{10})$” ) then

ngx.header["Expires"] = ngx.http_time( ngx.time() + 31536000 );

ngx.header["Cache-Control"] = “max-age=31536000″;

end

‘;
如果对robots.txt的请求不是mixlr.com域名的话,则内部重写到robots_diallow.txt,虽然标准的重写指令也可以实现这个需求,但是 Lua的实现更容易理解和维护。

根据程序逻辑设置响应头
Lua提供了比Nginx默认配置规则更加灵活的设置方式。 在下面的例子中,我们要保证正确设置响应头,这样浏览器如果发送了指定请求头后,就可以 无限期缓存静态文件,是的用户只需下载一次即可。
这个重写规则使得任何静态文件,如果请求参数中包含时间戳值,那么就设置相应的Expires和Cache-Control响应头。
location / {

header_filter_by_lua ‘

if ngx.var.query_string and ngx.re.match( ngx.var.query_string, “^([0-9]{10})$” ) then

ngx.header["Expires"] = ngx.http_time( ngx.time() + 31536000 );

ngx.header["Cache-Control"] = “max-age=31536000″;

end

‘;

try_files $uri @dynamic;}
删除jQuery JSONP请求的时间戳参数
很多外部客户端请求JSONP接口时,都会包含一个时间戳类似的参数,从而导致Nginx proxy缓存无法命中(因为无法忽略指定的HTTP参数)。下面的 规则删除了时间戳参数,使得Nginx可以缓存upstream server的响应内容,减轻后端服务器的负载。
location / {

rewrite_by_lua ‘

if ngx.var.args ~= nil then

— /some_request?_=1346491660 becomes /some_request

local fixed_args, count = ngx.re.sub( ngx.var.args, “&?_=[0-9]+”, “” );

if count > 0 then

return ngx.exec(ngx.var.uri, fixed_args);

end

end

‘;}
把后端的慢请求日志记录到Nginx的错误日志
如果后端请求响应很慢,可以把它记录到Nginx的错误日志,以备后续追查。

view sourceprint?
location / {

log_by_lua ‘

if tonumber(ngx.var.upstream_response_time) >= 1 then

ngx.log(ngx.WARN, “[SLOW] Ngx upstream response time: ” .. ngx.var.upstream_response_time .. “s from ” .. ngx.var.upstream_addr);

end

‘;}
基于Redis的实时IP封禁
某些情况下,需要阻止流氓爬虫的抓取,这可以通过专门的封禁设备去做,但是通过Lua,也可以实现简单版本的封禁。
lua_shared_dict banned_ips 1m;

location / {

access_by_lua ‘

local banned_ips = ngx.shared.banned_ips;

local updated_at = banned_ips:get(“updated_at”);

— only update banned_ips from Redis once every ten seconds:

if updated_at == nil or updated_at $redis.sadd(“banned_ips”, “200.1.35.4″)
Nginx进程每隔10秒从Redis获取一次最新的禁止IP名单。需要注意的是,如果架构中使用了Haproxy这样类似的负载均衡服务器时, 需要把$remote_addr设置为正确的远端IP地址。
这个方法还可以用于HTTP User-Agent字段的检查,要求满足指定条件。

使用Nginx输出CSRF(form_authenticity_token)
Mixlr大量使用页面缓存,由此引入的一个问题是如何给每个页面输出会话级别的CSRF token。我们通过Nginx的子请求,从upstream web server 获取token,然后利用Nginx的SSI(server-side include)功能输出到页面中。这样既解决了CSRF攻击问题,也保证了cache能被正常利用。
location /csrf_token_endpoint {

internal;

include /opt/nginx/conf/proxy.conf;

proxy_pass “http://upstream”;}

location @dynamic {

ssi on;

set $csrf_token ”;

rewrite_by_lua ‘

— Using a subrequest, we our upstream servers for the CSRF token for this session:

local csrf_capture = ngx.location.capture(“/csrf_token_endpoint”);

if csrf_capture.status == 200 then

ngx.var.csrf_token = csrf_capture.body;

— if this is a new session, ensure it sticks by passing through the new session_id

— to both the subsequent upstream request, and the response:

if not ngx.var.cookie_session then

local match = ngx.re.match(csrf_capture.header["Set-Cookie"], “session=([a-zA-Z0-9_+=/+]+);”);

if match then

ngx.req.set_header(“Cookie”, “session=” .. match[1]);

ngx.header["Set-Cookie"] = csrf_capture.header["Set-Cookie"];

end

end

else

ngx.log(ngx.WARN, “No CSRF token returned from upstream, ignoring.”);

end

‘;

try_files /maintenance.html /rails_cache$uri @thin;}
CSRF token生成 app/metal/csrf_token_endpoint.rb:
class CsrfTokenEndpoint

def self.call(env)

if env["PATH_INFO"] =~ /^\/csrf_token_endpoint/

session = env["rack.session"] || {}

token = session[:_csrf_token]

if token.nil?

token = SecureRandom.base64(32)

session[:_csrf_token] = token

end

[ 200, { "Content-Type" => "text/plain" }, [ token ] ]

else

[404, {"Content-Type" => "text/html"}, ["Not Found"]]

end

endend
我们的模版文件示例:

<meta name=”csrf-token” value=””/>
Again you could make use of lua_shared_dict to store in memory the CSRF token for a particular session. This minimises the number of trips made to /csrf_token_endpoint.

发表评论

电子邮件地址不会被公开。 必填项已用*标注

您可以使用这些HTML标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>