博客
关于我
数据分析师的30种死法
阅读量:712 次
发布时间:2019-03-21

本文共 728 字,大约阅读时间需要 2 分钟。

数据分析的场景确实充满了各种坑和坷,作为一名数据分析师,我深深体会到了以下这些瞬间。

在数据项目开发过程中,数据获取总是最头疼的事。我们一次步骤一步地来:首先发现丢失关键数据,整体项目就卡住了,数据无从谈起。 разработ小同志也很拼命地去帮忙取数,但最终还是出现了很多棘手的问题。

要么是数据项不全,需要耗时排期;要么就是调研过程中一直掐击开发小同志,结果发现重要数据项遗漏,场面一度十分尴尬。拿到完整数据后,我们又遇到了打开Excel的困扰。当数据量达到百万级别,Excel脚本竟然不堪重负,直接把我们打胸脯。

随后我们转向数据库处理,导入MySQL后,每个简单的连接操作都要花费漫长时间。为了解决这个问题,我们试图建立索引,这一举动虽加快了操作速度,但也暴露了一个隐藏的问题——存储过程里的字段名写错了,结果误删了整体流程的数据。

重新开始之后,我们遇到了另一个问题:统计报表的异常值。此时发展成了"数据清洗"的仪式感,但纯然再次发现谁能预料数据的精密程度。为了彻底解决问题,我们一直排查到开发小同志发现原来是从一开始就取错了数据。

最终在经过反复核实,机制层面上的问题也被查明。正当我们准备大刀阔斧解决问题时,领导突然来 PX:数据分析结果还不够标准化,转而需要我们形成一个统一的分析模板。

系统的撰写过程极度考验耐心。一边要跟开发小同志协作把数据模块完善,另一遍又要满足BOSS对分析结果呈现的各种要求。思考过程中整天熬夜加班,脑力和体力双双下降。

面对各种问题被打回,大家不得不反复修改报告,既要满足技术性又要符合业务需求,最终我们实现了某种自动化的分析流程。

这个过程教会我们,小细节决定成败,在数据分析工作中发现问题并及时解决尤为重要。

转载地址:http://hwrez.baihongyu.com/

你可能感兴趣的文章
MySQL调大sort_buffer_size,并发量一大,查询排序为啥又会变慢
查看>>
Mysql账号权限查询(grants)
查看>>
mysql转达梦7_达梦7的子查询分解示例说明
查看>>
MYSQL输入密码后闪退的解决方法
查看>>
MySQL迁移到达梦:如何轻松、高质量完成迁移任务
查看>>
mysql返回的时间和实际数据存储的时间有误差(java+mysql)
查看>>
mysql还有哪些自带的函数呢?别到处找了,看这个就够了。
查看>>
Mysql进入数据库
查看>>
mysql进阶 with-as 性能调优
查看>>
mysql进阶-查询优化-慢查询日志
查看>>
wargame narnia writeup
查看>>
MySQL进阶篇SQL优化(InnoDB锁问题排查与解决)
查看>>
Mysql进阶索引篇03——2个新特性,11+7条设计原则教你创建索引
查看>>
Mysql连接时报时区错误
查看>>
MySql连接时提示:unknown Mysql server host
查看>>
MySQL连环炮,你扛得住嘛?
查看>>
mysql逗号分隔的字符串如何搜索
查看>>
MySQL通用优化手册
查看>>
Mysql通过data文件恢复
查看>>
MYSQL遇到Deadlock found when trying to get lock,解决方案
查看>>