问答

大附件断点续传问题

作者:admin 2021-04-20 我要评论

主服务器 集团公司 子服务器 子公司 主服务器需要从n个子服务器收集数据。数据较大的超过500G,但是因为网络问题,不能使用sftp。 因为除了文件以外,还涉及别的...

在说正事之前,我要推荐一个福利:你还在原价购买阿里云、腾讯云、华为云服务器吗?那太亏啦!来这里,新购、升级、续费都打折,能够为您省60%的钱呢!2核4G企业级云服务器低至69元/年,点击进去看看吧>>>)

服务集团公司
子服务器 子公司

主服务器需要从n个子服务器收集数据。数据较大的超过500G,但是因为网络问题,不能使用sftp。

因为除了文件以外,还涉及别的业务。所以,现在项目用到的技术是flink.子公司local的flink把一些业务数据给kafka,总公司的flink集群从kafka获取数据。

现在这个大文件问题,是不是 可以借助 kafka 通道。还有用flume 或是 netty 来实现。大文件传输过程中,还要做到断点续传。 请教一下,什么方案来处理这一块最合适

版权声明:本文转载自网络,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。本站转载出于传播更多优秀技术知识之目的,如有侵权请联系QQ/微信:153890879删除

相关文章
  • nginx响应速度很慢

    nginx响应速度很慢

  • 点击选中的多选框,会在已选那一栏显示

    点击选中的多选框,会在已选那一栏显示

  • PHP 多态的理解

    PHP 多态的理解

  • 关于C语言中static的问题

    关于C语言中static的问题

腾讯云代理商
海外云服务器