apophis

apophis

实时和离线数据开发,ETL及数仓建设

发送消息
5 · 2条评价 回复率 100% 4年经验 ¥100/时
后端开发 DBA
技术

职业经历

8年工作经验,有银行,车联网,直播和金融经验,目前就职于某知名车企,参与过多家公司的数据仓库建设,具备从0到1的经验,擅长数仓建设,ETL,实时flink开发,及性能调优,架构设计

工作经历

实时数据开发工程师 · ****

2021年01月 — 3000年01月

技术,数据,数据开发工程师

参与并主导完成 TB 级实时出行服务框架的搭建,基于车辆 TBOX 数据和 GPS 数据,构建实时出行服务框架,完成数据合流、异常处理、原子能力建设、事件分析等工作,支持近 40 万辆车日常实时出行服务。日巅峰处理数据量达 5.11GB/分钟, 日总处理数据条数 38亿条,7.18TB,解决原有框架下存在的数据反压和服务延迟的问题。

实时数据开发工程师 · ****

2020年04月 — 2020年12月

技术,数据,ETL工程师

参与负责实时数仓体系的实时 etl 功能。实现实时 etl 快速开发,通过外部 sql 文件方式,自动将数据格式化输出到 mysql/kafka/phoenix 等数据存储组件,承担 80%的 etl 功能开发。其中,实现 phoenix 等版本尚未支持的 connector 功能。

大数据开发工程师 · ****

2018年06月 — 2020年03月

技术,数据,数据仓库工程师

主导重构离线数据仓库体系建设。基于 json 映射机制创建外部表,利用 ONE-DATA 理念对数仓分层设计(ODS,DWD,DWS,ADS),并实现数据采集入库配置化;开发任务异常监控功能,监控范围包含数据采集,数据计算等过程;日常 sql 报表开发。

教育经历

北京信息科技大学

信息安全

2011年09月 — 2015年07月

项目经历

实时出行服务框架搭建

2021年01月 — 2022年11月

完成从数据采集到最终展示到用户app界面的端到端项目开发. 1.数据日增20TB,后续经过复杂处理后,仍需保持,数据计算的实时性和稳定性 2.计算任务之间的解构,方便各部分单独修改/上线/下线 3.对于进入地下室,山洞或其他信号弱地区等特殊情况的考虑,确保数据准确性 4.对于服务器宕机的那个特殊情况的考虑,确保数据准确性

电商用户的行为识别系统

2023年03月 — 2023年06月

为提供用户转化率,需要对用户的点击行为进行监测,实时获取到用户的感兴趣商品,通过完全的配置化的方式,实现对用于行为的监测,例如购物车行为,结算行为,结算未支付等,针对这类用户,通过发放优惠券的方式,提高转化率

离线数据仓库体系建设

2018年06月 — 2020年03月

为了提高每日营业额展示效率,和运营效率,及时把控公司的发展方向,将公司业务和日志数据,统合成数据仓库,分层为:ODS,DWD,DWS,ADS,每小时展示上个小时的营业额.关注用户聊天热点,打造爆款直播间及对新手直播间引流等

TA 的技能服务

该人才共 1 项技能服务,可在 技能服务 中搜索「apophis」查看。