博客
关于我
数据分析师的30种死法
阅读量:712 次
发布时间:2019-03-21

本文共 728 字,大约阅读时间需要 2 分钟。

数据分析的场景确实充满了各种坑和坷,作为一名数据分析师,我深深体会到了以下这些瞬间。

在数据项目开发过程中,数据获取总是最头疼的事。我们一次步骤一步地来:首先发现丢失关键数据,整体项目就卡住了,数据无从谈起。 разработ小同志也很拼命地去帮忙取数,但最终还是出现了很多棘手的问题。

要么是数据项不全,需要耗时排期;要么就是调研过程中一直掐击开发小同志,结果发现重要数据项遗漏,场面一度十分尴尬。拿到完整数据后,我们又遇到了打开Excel的困扰。当数据量达到百万级别,Excel脚本竟然不堪重负,直接把我们打胸脯。

随后我们转向数据库处理,导入MySQL后,每个简单的连接操作都要花费漫长时间。为了解决这个问题,我们试图建立索引,这一举动虽加快了操作速度,但也暴露了一个隐藏的问题——存储过程里的字段名写错了,结果误删了整体流程的数据。

重新开始之后,我们遇到了另一个问题:统计报表的异常值。此时发展成了"数据清洗"的仪式感,但纯然再次发现谁能预料数据的精密程度。为了彻底解决问题,我们一直排查到开发小同志发现原来是从一开始就取错了数据。

最终在经过反复核实,机制层面上的问题也被查明。正当我们准备大刀阔斧解决问题时,领导突然来 PX:数据分析结果还不够标准化,转而需要我们形成一个统一的分析模板。

系统的撰写过程极度考验耐心。一边要跟开发小同志协作把数据模块完善,另一遍又要满足BOSS对分析结果呈现的各种要求。思考过程中整天熬夜加班,脑力和体力双双下降。

面对各种问题被打回,大家不得不反复修改报告,既要满足技术性又要符合业务需求,最终我们实现了某种自动化的分析流程。

这个过程教会我们,小细节决定成败,在数据分析工作中发现问题并及时解决尤为重要。

转载地址:http://hwrez.baihongyu.com/

你可能感兴趣的文章
mysqlbinlog报错unknown variable ‘default-character-set=utf8mb4‘
查看>>
mysqldump 参数--lock-tables浅析
查看>>
mysqldump 导出中文乱码
查看>>
mysqldump 导出数据库中每张表的前n条
查看>>
mysqldump: Got error: 1044: Access denied for user ‘xx’@’xx’ to database ‘xx’ when using LOCK TABLES
查看>>
Mysqldump参数大全(参数来源于mysql5.5.19源码)
查看>>
mysqldump备份时忽略某些表
查看>>
mysqldump实现数据备份及灾难恢复
查看>>
mysqldump数据库备份无法进行操作只能查询 --single-transaction
查看>>
mysqldump的一些用法
查看>>
mysqli
查看>>
MySQLIntegrityConstraintViolationException异常处理
查看>>
mysqlreport分析工具详解
查看>>
MySQLSyntaxErrorException: Unknown error 1146和SQLSyntaxErrorException: Unknown error 1146
查看>>
Mysql_Postgresql中_geometry数据操作_st_astext_GeomFromEWKT函数_在java中转换geometry的16进制数据---PostgreSQL工作笔记007
查看>>
mysql_real_connect 参数注意
查看>>
mysql_secure_installation初始化数据库报Access denied
查看>>
MySQL_西安11月销售昨日未上架的产品_20161212
查看>>
Mysql——深入浅出InnoDB底层原理
查看>>
MySQL“被动”性能优化汇总
查看>>