01-新⼀代流式处理框架Flink介绍和重要概念讲解

什么是Flink

• Apache Flink 是一个框架和分布式处理引擎，用于在无边界和有边界数据流上进行有状态的计算
• 官网：https://flink.apache.org/zh/flink-architecture.html

有谁在用呢（基本大厂都在用）

• 用来做啥：实时数仓建设、实时数据监控、实时反作弊风控、画像系统等
  
  

概念

• 数据流
  • 任何类型的数据都可以形成一种事件流，信用卡交易、传感器测量、机器日志、网站或移动应用程序上的用户交互记录，所有这些数据都形成一种流
• 什么是有界流
  • 有定义流的开始，也有定义流的结束。有界流可以在摄取所有数据后再进行计算。有界流所有数据可以被排序，所以并不需要有序摄取。有界流处理通常被称为批处理
• 什么是无界流
  • 有定义流的开始，但没有定义流的结束。它们会无休止地产生数据。无界流的数据必须持续处理，即数据被摄取后需要立刻处理。我们不能等到所有数据都到达再处理，因为输入是无限的，在任何时候输入都不会完成。处理无界数据通常要求以特定顺序摄取事件，例如事件发生的顺序，以便能够推断结果的完整性

Apache Flink 擅长处理无界和有界数据集，有出色的性能

代码使用例子

• source、transformation、sink 都是 operator算子