你的位置:首页 > 操作系统

[操作系统]thrift的lua实现


  最近要进行系统升级,后台的数据是根据城市区分的。担心新系统的稳定性及新数据的准确性,计划部分城市采用新接口。接口的入参里没有城市信息,只有经纬度坐标,需要调用一个thrift接口来根据坐标获取城市信息。

  如果直接修改代码逻辑,则会造成新旧版本的耦合,不仅完全上线时要再次修改,而且还要增加一次测试流程,这样成本就有些高了。这时就想到能不能用nginx+lua对新旧版本接口做灰度发布。

  步骤:

    1、安装thrift

        2、生成客户的代码

    3、编译lua调用thrift需要的库

        4、实现客户端代码

        5、测试

  

1、安装thrift

  thrift最初由facebook开发用做系统内各语言之间的RPC通信,其实它与webservice有很多相似的地方。

  首先有一个定义数据类型和接口的文件,xxx.thrift(在webservic里面对应的是xxx.wsdl),然后用程序去生成对应的客户端/服务器代码.

  thrift的官方网站http://thrift.apache.org/,在上面可以下载最新版本的thrift(http://thrift.apache.org/download)。

  最新版本的是thrift-0.9.3.tar.gz(截止2016/11/28)。

  安装的步骤官网上有,http://thrift.apache.org/tutorial/,基本上就是:

1 ./configure && make && make install

  安装过程可能会遇到缺依赖包,不是大问题,装一下就行了。

2、生成客户的代码

  thrift文件内容,服务端提供 location_match.thrift:

 1 /** 2 * File: location_service.thrift 3 */ 4 /** 入参数据结构 **/ 5 struct Location_point 6 { 7   1: double x; 8   2: double y; 9 }10 /** 出参数据结构 **/11 struct Citycode_Response12 {13   1:string retCode;14   2:i16 cityCode;15 }16 17 /** 接口定义 **/18 service LocationmatchService19 {20   Citycode_Response find_citycode(1:Location_point location_point)21 }

根据此文件生成lua客户端代码:

1 thrift --gen lua location_match.thrift

会在当前目录生成一个目录:gen-lua

里面有3个文件:

 location_match_constants.lua:应该是个接口文件,里面有说明,大概意思是说,不懂就不要改

 location_match_LocationmatchService.lua: 接口的定义

 location_match_ttypes.lua:出入参数结构定义

 这个过程非常像axis根据wsdl生成webservice代码的过程。上面的3个文件不需要改的。

3、编译lua调用thrift需要的库

lua调用thrift服务需要一些库文件,一部分是c语言实现的动态链接库*.so文件,一部分是lua语言的函数库*.lua。这些库的源码文件在官网下载的包里有(thrift-0.9.3.tar.gz),解压后在lib目录下有各个语言的库。lua在lib/lua下。

这里需要注意几个问题:1、官网的包里c语言编译会报错(当然可能是个别现象),具体错误没记住,大致上是说 relink libluasocket.so 时候报错。这个错误还好说,改下Makefile.am调整顺序即可,参见http://blog.csdn.net/superye1983/article/details/51190166。 2、调用thrift服务一定要注意两个关键点传输协议和IO方式(阻塞/非阻塞),传输协议有二进制流传输、json串和压缩数据传输格式等,其实主要规定了数据在传输过程中的格式,官网的包中只有二进制传输的协议TBinaryProtocol.lua。3、官网的包中socke是根据依赖lua实现的,而现实使用openresty是基于luajit的。luajit的socket是ngx.socket.tcp(),可能会造成某些冲突。

这里采用http://www.cnblogs.com/voipman/p/5365248.html 这篇文章中提到的源码实现,没有使用thrift官网的代码。代码下载地址https://github.com/gityf/ngx_lua_thrift。上面有明确的安装说明,非常简单编译动态链接库时只需一个命令make linux。

这里采用的nginx是openresty.下载和安装参见http://openresty.org/cn/.

4、实现客户端代码

test_cln.lua:

 1 require('TSocket')   2 require('TCompactProtocol') 3 require('TTransport')  4 require('location_match_LocationmatchService') 5 require('location_match_ttypes') 6 require('TFramedTransport') 7 module("test_cln",package.seeall)  8 function demoFunc() 9  local opt = {10     host='127.0.0.1',11     port=909012  }13  local socket = TSocket:new(opt)14  local ttable = {15   trans = socket16  }17  local transport = TFramedTransport:new(ttable)18  19  20  local protocol = TCompactProtocol:new{21     trans = transport22  }23 24  client = LocationmatchServiceClient:new{25     protocol = protocol26  }27  local location_point = Location_point:new{28     x=114.2901961,29     y=22.76033004,30  }31  socket:open()32 res = ""33 local ret = client:find_citycode(location_point)34 res= tostring(ret.cityCode)35 ngx.log(ngx.ERR,res..'  ~~~~~~~'..tostring(ret.cityCode))36  return res37 end

 

实现上与http://blog.csdn.net/superye1983/article/details/51190166这篇帖子里差不多。区别在于协议使用的是压缩协议TCompactProtocol,IO阻塞方式上采用的是无阻塞,所以使用了TFramedTransport,因为服务端实现的是无阻塞服务,如果协议、阻塞方式不对发起调用时就会报IO错误,TTransportException: time out/TTransportException: closed/TTransportException: connection reset by peer.

要把第二步生成的lua文件、第三步编译的动态链接库和lua文件都放到lualib目录下。test_cln.lua也要防止这个目录下。

nginx.conf:

1     location / {2       content_by_lua_file /usr/local/nginx/nginx/conf/luascript/test.lua; 3       root  html;4       index index.html index.htm;5     }

 

test.lua:

1 local cln = require "test_cln"2 ngx.say(cln.demoFunc());

 

5、测试

[root@hadoop-1 sbin]# curl http://127.0.0.1/1438

 

返回城市代码成功。

 

总结:采用openresty(nginx的一个版本,有luajit插件)实现接口的灰度发布,lua调用thrift,安装thrift,生成客户的代码,下载开源的thrift-lua依赖的库,thrift需要协议和io阻塞方式客户端与服务端一致。