可以直接调用RFC也可以将RFC发布为webservce,或者直接采用DB connection的方式。建议直接采用RFC进行集成即可,你可以所搜Java如何调用SAP RFC,会有很多代码案例
一般的做法是sap给你接口。然后你在客户端传相应参数请求。接口返回数据