主服务器需要从n个子服务器收集数据。数据较大的超过500G,但是因为网络问题,不能使用sftp。
因为除了文件以外,还涉及别的业务。所以,现在项目用到的技术是flink.子公司local的flink把一些业务数据给kafka,总公司的flink集群从kafka获取数据。
现在这个大文件问题,是不是 可以借助 kafka 通道。还有用flume 或是 netty 来实现。大文件传输过程中,还要做到断点续传。 请教一下,什么方案来处理这一块最合适
作者:admin 2021-04-20 我要评论
主服务器 集团公司 子服务器 子公司 主服务器需要从n个子服务器收集数据。数据较大的超过500G,但是因为网络问题,不能使用sftp。 因为除了文件以外,还涉及别的...
主服务器需要从n个子服务器收集数据。数据较大的超过500G,但是因为网络问题,不能使用sftp。
因为除了文件以外,还涉及别的业务。所以,现在项目用到的技术是flink.子公司local的flink把一些业务数据给kafka,总公司的flink集群从kafka获取数据。
现在这个大文件问题,是不是 可以借助 kafka 通道。还有用flume 或是 netty 来实现。大文件传输过程中,还要做到断点续传。 请教一下,什么方案来处理这一块最合适
版权声明:本文转载自网络,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。本站转载出于传播更多优秀技术知识之目的,如有侵权请联系QQ/微信:153890879删除