Flink State 和重启策略 2021-01-16| Flink | Flink 目录
State的工作方式
重启策略
State的工作方式Flink 中有两种基本的状态:Keyed State 和 Operator State。
Keyed StateKeyed State 通常和 key 相关,仅可使用在 KeyedStream 的方法和算子中。
你可以把 Keyed St ...
Read more Flink Checkpoint && Savepoint 2021-01-15| Flink | Flink 目录
Checkpoint
Savepoint
CheckpointFlink 中的每个方法或算子都能够是有状态的。 状态化的方法在处理单个 elements/events 的时候存储数据,让状态成为使各个类型的算子更加精细的重要部分。 为了让状态容错,Flink 需要为状态添加 checkpoi ...
Read more Flink DataSink 2021-01-03| Flink | Flink 概述flink的sink是flink三大逻辑结构之一(source,transform,sink),功能就是负责把flink处理后的数据输出到外部系统中,flink 的sink和source的代码结构类似。
在编写代码的过程中,我们可以使用flink已经提供的sink,如kafka,jdbc,es ...
Read more Flink DataSource 2021-01-01| Flink | Flink Flink自带的DataSource API单并行度:
socketTextStream
env.socketTextStream("aliyun", 9999)
fromCollection
val collect = env.fromCollection(Access(20200514, " ...
Read more Flink的传参工具类 2020-12-20| Flink | Flink Flink提供一个ParameterTool工具类获取参数,提供fromArgs、fromPropertiesFile、fromMap、fromSystemProperties的方式
fromArgs从main入参中获取
fromPropertiesFile从文件中获取
fromMap从map中获 ...
Read more Scala之泛型 2020-12-20| Scala | Scala 目录
泛型
上界
下界
非变
斜变
逆变
泛型泛型的意思是 泛指某种具体的数据类型 , 在Scala中, 泛型用 [ 数据类型] 表示. 在实际开发中, 泛型一般是结合数组或者集合来使用的, 除此之外, 泛型的常见用法还有以下三种:
泛型方法
泛型类
泛型特质
泛型方法泛型方法指的是 把泛型定 ...
Read more Flink三种指定Key的方式 2020-12-20| Flink | Flink 一些转换操作(join, coGroup, keyBy, groupBy)要求在元素集合上定义键。另外一些转换操作 (Reduce, GroupReduce, Aggregate, Windows)允许在应用这些转换之前将数据按键分组。
如下对 DataSet 分组
DataSet<...&g ...
Read more 至少连续出现3(N)次的数字 2020-12-16| 场景问题 | 场景问题 数据111212233334
求解select distinct numberfrom(selectnumber,id,lag(id,2) over(partition by number order by id) prefrom( selectnumber,row_number() over(p ...
Read more ClickHouse MergeTree原理 2020-12-15| ClickHouse | ClickHouse MergeTree引擎以及隶属于MergeTree引擎族的所有引擎是Clickhouse表引擎中最重要, 最强大的引擎.
MergeTree引擎族中的引擎被设计用于将大量数据写入表中. 这些数据被快速的写入每个表的每个part, 然后在Clickhouse底层会进行多个parts的合并(merge) ...
Read more 求年度最大连续登陆天数 2020-12-15| 场景问题 | 场景问题 求年度最大连续登陆天数?
pk,20210801pk,20210802pk,20210803pk,20210804pk,20210806pk,20210807pk,20210808pk,20210811pk,20210812ruoze,20210730ruoze,20210731ruoze,202 ...
Read more