博客
关于我
数据分析师的30种死法
阅读量:712 次
发布时间:2019-03-21

本文共 728 字,大约阅读时间需要 2 分钟。

数据分析的场景确实充满了各种坑和坷,作为一名数据分析师,我深深体会到了以下这些瞬间。

在数据项目开发过程中,数据获取总是最头疼的事。我们一次步骤一步地来:首先发现丢失关键数据,整体项目就卡住了,数据无从谈起。 разработ小同志也很拼命地去帮忙取数,但最终还是出现了很多棘手的问题。

要么是数据项不全,需要耗时排期;要么就是调研过程中一直掐击开发小同志,结果发现重要数据项遗漏,场面一度十分尴尬。拿到完整数据后,我们又遇到了打开Excel的困扰。当数据量达到百万级别,Excel脚本竟然不堪重负,直接把我们打胸脯。

随后我们转向数据库处理,导入MySQL后,每个简单的连接操作都要花费漫长时间。为了解决这个问题,我们试图建立索引,这一举动虽加快了操作速度,但也暴露了一个隐藏的问题——存储过程里的字段名写错了,结果误删了整体流程的数据。

重新开始之后,我们遇到了另一个问题:统计报表的异常值。此时发展成了"数据清洗"的仪式感,但纯然再次发现谁能预料数据的精密程度。为了彻底解决问题,我们一直排查到开发小同志发现原来是从一开始就取错了数据。

最终在经过反复核实,机制层面上的问题也被查明。正当我们准备大刀阔斧解决问题时,领导突然来 PX:数据分析结果还不够标准化,转而需要我们形成一个统一的分析模板。

系统的撰写过程极度考验耐心。一边要跟开发小同志协作把数据模块完善,另一遍又要满足BOSS对分析结果呈现的各种要求。思考过程中整天熬夜加班,脑力和体力双双下降。

面对各种问题被打回,大家不得不反复修改报告,既要满足技术性又要符合业务需求,最终我们实现了某种自动化的分析流程。

这个过程教会我们,小细节决定成败,在数据分析工作中发现问题并及时解决尤为重要。

转载地址:http://hwrez.baihongyu.com/

你可能感兴趣的文章
MySQL索引底层:B+树详解
查看>>
Mysql索引总结
查看>>
mysql索引最左匹配原则理解以及常见的sql使用的索引情况的实测
查看>>
Mysql索引类型
查看>>
MySQL索引背后的数据结构及算法原理
查看>>
mysql索引能重复吗_mysql “索引”能重复吗?“唯一索引”与“索引”区别是什么?...
查看>>
MySQL索引详解(IT枫斗者)
查看>>
MySQL索引那些事:什么是索引?为什么加索引就查得快了?
查看>>
Mysql索引(2):索引结构
查看>>
Mysql索引(3):索引分类
查看>>
Mysql索引(4):索引语法
查看>>
mysql级联删除_Mysql笔记系列,DQL基础复习,Mysql的约束与范式
查看>>
mysql经常使用命令
查看>>
MySQL经常使用技巧
查看>>
mysql给账号授权相关功能 | 表、视图等
查看>>
MySQL缓存使用率超过80%的解决方法
查看>>
Mysql缓存调优的基本知识(附Demo)
查看>>
mysql编写存储过程
查看>>
mysql网站打开慢问题排查&数据库优化
查看>>
mysql网络部分代码
查看>>