Location:CN-Shenzhen-HyQ Shift:Standard - 40 Hours (China) Scheduled Weekly Hours:40 Worker Type:Permanent Job Summary:Lead the design and delivery of LME market data platforms that consolidate multiple real-time and historical market data sources into scalable enterprise data assets
Location:CN-Shenzhen-HyQ Shift:Standard - 40 Hours (China) Scheduled Weekly Hours:40 Worker Type:Permanent Job Summary:This role is a critical part of the Enterprise data team involved in the replacement of legacy ETL (Informatica) tool by providing key data engineering
Location:CN-Shenzhen-HyQ Shift:Standard - 40 Hours (China) Scheduled Weekly Hours:40 Worker Type:Permanent Job Summary:Lead the design and delivery of LME market data platforms that consolidate multiple real-time and historical market data sources into scalable enterprise data assets
高级安全技术开发工程师(大数据) 深圳 全职 研发 职位描述 1. SOC大数据后端架构设计与开发: - 主导自研SOC系统的架构:设计分布式数据管道(事件摄入、存储、查询)、分析引擎(规则匹配、关联分析),实现实时/异步威胁检测与自动化响应。 - 构建数据湖/仓库:开发高性能数据处理服务,支持日志聚合(多源格式如JSON/Syslog)、ETL管道,确保数据一致性与低延迟索引。 - 集成业界安全能力:开发适配层,将EDR(端点事件流、原始日志)、DLP(敏感数据事件)、遥测工具(eBPF/Osquery)接入SOC,支持零信任底座的数据馈送(如访问策略日志)。 2. 大数据处理与安全分析集成: - 处理海量安全数据:优化实时/批处理管道(Kafka流处理、Flink/Spark计算),支持TB级日志分析(如全球分支EDR事件、产线RFID访问遥测、物理门禁日志)。 - 开发威胁狩猎与响应模块:基于图数据库(Neo4j)实现关联分析(如杀伤链追踪)、异常检测引擎;集成DLP规则引擎。 3. SOC系统快速迭代与优化: - 独立响应安全运营需求:从需求到部署的全栈开发(如新警报规则引擎、仪表盘API),目标快速交付,支持敏捷SOC演进。 - 构建可扩展数据框架:开发统一API(gRPC/REST)与插件系统,便于未来集成新数据源(如CTI威胁情报、UEBA用户行为);确保架构弹性(K8s容器化、水平扩展)。 - 系统性能运维:监控数据吞吐(ELK栈集成)、成本优化(数据压缩/分区),保障99.99%+可用性;处理全球数据合规(如数据驻留、匿名化)。 4. AI辅助大数据开发与智能提升: - 能够充分利用AI工具加速开发。 - 探索AI在SOC中的应用:集成机器学习引擎(如TensorFlow/Go bindings)实现智能告警(异常基线学习)、自动化响应(AI驱动隔离决策)、自然语言查询(LLM解析日志),提升威胁响应效率。 5. 跨团队协作与文档维护: -
数据开发工程师 12-20KCNY/月 深圳 正式 互联网 / 电子 / 网游 职位描述 为什么这个职位与众不同? 传统的初级数据工程师,往往要在沉闷的数仓里写 3-5 年枯燥的 SQL 和 ETL 脚本才能出头 。但在这里,我们希望你作为真正的 AI 原住民,丢弃“人工路径依赖” ,熟练挥舞 Claude Code、Cursor、GitHub Copilot 等 AI Coding 魔法棒,把传统数据开发的效率直接拉升 3-5 倍 。在这里,你是没有历史包袱的 AI 生产力放大器,也将是我们未来数据工程专家的王牌蓄水池 。 你将要“折腾”什么?(岗位职责)1. 重塑数据基建:参与数据仓库的设计与维护,搭建
数据仓库工程师 深圳 社招 全职 职位描述 1、负责企业级数据仓库及业务数据集市的架构规划、分层设计(ODS/DWD/DWS/ADS)与落地实施,确保架构的先进性、可扩展性与高性能。2、主导核心业务域的数据建模工作,精通维度建模等方法论,设计通用灵活的数据模型与宽表,保障数据的一致性、完整性与复用性。3、设计并实现高效的ETL/ELT数据集成方案,负责数据提取、转换、加载全流程的开发、调度与优化,解决大规模数据处理中的性能瓶颈。4、推进数据治理体系建设,包括数据质量监控、元数据管理、数据血缘追踪、指标体系标准化等,提升整体数据质量与数据资产价值。5、负责数据仓库的日常运维与故障排查,保障数据服务SLA达标,及时响应并解决数据延迟、数据错误等线上问题,确保数据链路稳定可靠。6、深入理解业务需求,与数据分析、业务部门紧密协作,提供高质量的数据支持与解决方案,支撑业务决策、数据产品迭代及精细化运营。 职位要求 一、基础要求1、本科及以上学历,计算机科学、数据科学、信息技术等相关专业。2、3-7年及以上数据仓库设计与开发经验,有完整的企业级数据仓库建设项目经验优先。3、具备强烈的责任心、严谨的逻辑思维、良好的沟通协调能力及团队协作精神,对数据敏感,重视数据质量。二、 技术能力1、精通数据仓库理论体系,深入理解分层架构、主题域建模、维度建模等方法论,能结合业务场景设计合理的数据模型。2、精通SQL/HQL/Spark SQL开发及优化,能高效处理TB/PB级大规模数据集,具备复杂查询性能调优实战经验。3、熟悉大数据生态技术栈,具备Hadoop、Hive、Spark、Flink、Kafka等组件的实战应用经验;了解MPP数据库(ClickHouse、Doris)、OLAP引擎(Kylin、Presto)者优先。4、掌握Java/Python/Scala中的至少一种编程语言,具备良好的代码规范与工程化能力;熟悉ETL工具(DataX、Airflow、Kettle)及任务调度系统者优先。5、具备数据治理相关经验,熟悉数据质量监控、元数据管理、数据血缘分析等工具(如Apache Atlas、Griffin)的使用者优先。三、加分项1、有互联网、金融、电商等行业数据仓库建设经验者优先。2、有数据字典、指标管理体系从0到1搭建经验者优先。 投递...
AI应用系统架构师 深圳 全职 互联网 / 电子 / 网游 职位描述 1. 系统架构设计负责科技情报知识服务平台整体技术架构设计,包括智慧服务门户、科技信息展示、新型高端智库、科技专题服务、数据社区支撑等核心系统的架构规划与设计;2. 技术选型与规范主导技术栈选型决策,制定开发规范、接口规范、数据规范,确保多团队协作的技术一致性;3. AI能力集成设计大语言模型(如GLM)服务化架构,规划学者分析、智能推荐、自动摘要、多模态解析等AI能力的接入方案;4. 数据架构设计负责论文、专利、人才、政策等海量科技数据的存储架构设计,包括数据建模、分库分表策略、搜索引擎集成等;5. 架构评审与优化对各子系统技术方案进行评审,识别技术风险,持续优化系统性能、安全性与可扩展性;6. 技术文档输出编写概要设计、详细设计中的架构部分,输出系统架构图、部署架构图、数据流图等核心文档;7. 团队协作与产品、前端、后端、算法、运维团队紧密协作,推动技术方案落地实施。 职位要求 必备条件1. 本科及以上学历,计算机、软件工程或相关专业,3年以上开发经验,2年以上架构设计经验,有扎实的计算机基础知识(如数据结构、算法、系统设计)2. 精通分布式系统架构设计,熟悉微服务架构、消息队列(Kafka/RabbitMQ)、缓存(Redis)、搜索引擎(Elasticsearch)等技术;3. 熟练掌握Python/Go/Java语言中至少一种,具备优秀的代码编写能力和工程实现的经验;4. 熟悉至少一种主流云平台(阿里云/腾讯云/华为云),具备云原生架构设计能力;5. 具备大数据平台或知识图谱相关项目架构经验,熟悉数据建模和ETL流程;6. 具备良好的文档撰写能力,能输出清晰的架构设计文档;7. 具备优秀的沟通协调能力,能够推动跨团队技术方案落地。优先条件1. 有大语言模型(LLM)应用架构或AI中台建设经验者优先;2. 有政府/央企/科研机构项目交付经验者优先。 投递...
负责企业数据仓库的设计、开发、维护与优化,搭建符合业务需求的数仓架构,实现多源数据的整合、清洗、转换与加载(ETL),保障数据的准确性、完整性和时效性,支撑企业数据资产沉淀与治理工作。 负责BI报表全流程开发,包括需求梳理、指标定义、数据提取、可视化制作,设计交互式仪表盘、常规报表及专项分析报表,满足业务部门的数据分析与决策支持需求,将 raw 数据转化为可落地的业务洞察。 运用Python或Java语言进行数据开发、脚本编写,优化数据处理流程,提升数据开发效率与系统性能,解决数据开发及BI报表制作过程中的技术难题。 配合业务部门梳理数据需求,提供数据咨询与技术支持,推动数据驱动业务决策,参与数据质量监控与优化,建立数据校验机制,处理数据异常问题。 参与跨部门协作项目,使用英语作为工作语言开展沟通,包括对接海外团队、查阅英文技术文档、撰写英文技术报告等,确保跨区域、跨团队的数据相关工作顺畅推进。 关注行业数据技术发展趋势,引入合适的技术与方法,持续优化数仓架构、ETL流程及BI报表体系,提升数据服务能力。 Requirements 本科及以上学历,计算机、数据科学、统计学、信息管理等相关专业优先; 具备5年及以上数据BI开发与数据仓库开发相关工作经验,有完整的数仓搭建与BI报表全流程开发实战经验,熟悉数仓分层建模(ODS、DW、DM层)方法论者优先。 精通SQL,熟练使用主流数据库(如MySQL、Oracle、Hive等),具备复杂SQL编写、优化及数据库性能调优能力; 熟悉Python或Java编程语言,能够运用其进行数据处理、脚本开发、ETL流程优化,有相关项目实战经验; 熟练掌握BI工具(如Tableau、Power BI、FineBI等),能够独立完成从数据提取、清洗到可视化报表制作、仪表盘设计的全流程工作,了解可视化设计最佳实践者优先; 熟悉ETL工具(如Kettle、Informatica等),掌握数据抽取、转换、加载的核心逻辑与优化方法,能够处理复杂数据集成场景; 具备良好的业务理解能力,能够快速梳理业务需求,将业务需求转化为数据开发与BI报表需求,具备指标体系构建能力者优先; 熟悉Big query生态者更佳。 英语可作为工作语言,能够熟练阅读英文技术文档,具备良好的英语听说读写能力,可独立使用英语开展跨部门、跨区域沟通,完成英文邮件、技术报告撰写及会议沟通等工作。...