Flink State 和重启策略
目录 State的工作方式 重启策略 State的工作方式Flink 中有两种基本的状态:Keyed State 和 Operator State。 Keyed StateKeyed State 通常和 key 相关,仅可使用在 KeyedStream 的方法和算子中。 你可以把 Keyed St ...
Read more
Flink Checkpoint && Savepoint
目录 Checkpoint Savepoint CheckpointFlink 中的每个方法或算子都能够是有状态的。 状态化的方法在处理单个 elements/events 的时候存储数据,让状态成为使各个类型的算子更加精细的重要部分。 为了让状态容错,Flink 需要为状态添加 checkpoi ...
Read more
Flink DataSink
概述flink的sink是flink三大逻辑结构之一(source,transform,sink),功能就是负责把flink处理后的数据输出到外部系统中,flink 的sink和source的代码结构类似。 在编写代码的过程中,我们可以使用flink已经提供的sink,如kafka,jdbc,es ...
Read more
Flink DataSource
Flink自带的DataSource API单并行度: socketTextStream env.socketTextStream("aliyun", 9999) fromCollection val collect = env.fromCollection(Access(20200514, " ...
Read more
Flink的传参工具类
Flink提供一个ParameterTool工具类获取参数,提供fromArgs、fromPropertiesFile、fromMap、fromSystemProperties的方式 fromArgs从main入参中获取 fromPropertiesFile从文件中获取 fromMap从map中获 ...
Read more
Scala之泛型
目录 泛型 上界 下界 非变 斜变 逆变 泛型泛型的意思是 泛指某种具体的数据类型 , 在Scala中, 泛型用 [ 数据类型] 表示. 在实际开发中, 泛型一般是结合数组或者集合来使用的, 除此之外, 泛型的常见用法还有以下三种: 泛型方法 泛型类 泛型特质 泛型方法泛型方法指的是 把泛型定 ...
Read more
Flink三种指定Key的方式
一些转换操作(join, coGroup, keyBy, groupBy)要求在元素集合上定义键。另外一些转换操作 (Reduce, GroupReduce, Aggregate, Windows)允许在应用这些转换之前将数据按键分组。 如下对 DataSet 分组 DataSet<...&g ...
Read more
至少连续出现3(N)次的数字
数据111212233334 求解select distinct numberfrom(selectnumber,id,lag(id,2) over(partition by number order by id) prefrom( selectnumber,row_number() over(p ...
Read more
ClickHouse MergeTree原理
MergeTree引擎以及隶属于MergeTree引擎族的所有引擎是Clickhouse表引擎中最重要, 最强大的引擎. MergeTree引擎族中的引擎被设计用于将大量数据写入表中. 这些数据被快速的写入每个表的每个part, 然后在Clickhouse底层会进行多个parts的合并(merge) ...
Read more
求年度最大连续登陆天数
求年度最大连续登陆天数? pk,20210801pk,20210802pk,20210803pk,20210804pk,20210806pk,20210807pk,20210808pk,20210811pk,20210812ruoze,20210730ruoze,20210731ruoze,202 ...
Read more