爱宝儿
游戏开发及物联网大数据集群维护及部署开发,数据存储及相关设计,大数据、ETL、Flink、kafka,hadoop框架等多种技术开>发技术。涵盖语言涉及Java、Go、Python、C、C#等。
仅供学习参考
关于cornerstone 4.1,需要执行如下操作方可使用(无需关闭SIP) Mac 下执行 1 2 sudo spctl --master-disable sudo xattr -r -d com.apple.quarantine /Applications/Cornerstone.app/
测试 kafkachannel 测试 流处理,根据硬件配置 及JVM参数 配置 a1.channels.c2.kafka.consumer.linger.ms = 0 ms无延迟 a1.channels.c2.kafka.consumer.batch.size = 100W 批次大小 a1.channels.c2.kafka.consumer.max.request.size = 85.83Mb = 90000000 bytes 1.可通过调节 batch.size 批次处理数据大小 2.可通过调节 max.request.size 请求
flume1.9.0 测试 filechannel kafkasink 修改参数 如下: a1.sinks.k1.kafka.producer.retries = 1 a1.sinks.k1.kafka.producer.max.block.ms = 0 测试 发现 先写满 file 在sink 至 kafka 测试 3W条数据 总需要时间 256.008/s 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24