博客
关于我
数据分析师的30种死法
阅读量:712 次
发布时间:2019-03-21

本文共 728 字,大约阅读时间需要 2 分钟。

数据分析的场景确实充满了各种坑和坷,作为一名数据分析师,我深深体会到了以下这些瞬间。

在数据项目开发过程中,数据获取总是最头疼的事。我们一次步骤一步地来:首先发现丢失关键数据,整体项目就卡住了,数据无从谈起。 разработ小同志也很拼命地去帮忙取数,但最终还是出现了很多棘手的问题。

要么是数据项不全,需要耗时排期;要么就是调研过程中一直掐击开发小同志,结果发现重要数据项遗漏,场面一度十分尴尬。拿到完整数据后,我们又遇到了打开Excel的困扰。当数据量达到百万级别,Excel脚本竟然不堪重负,直接把我们打胸脯。

随后我们转向数据库处理,导入MySQL后,每个简单的连接操作都要花费漫长时间。为了解决这个问题,我们试图建立索引,这一举动虽加快了操作速度,但也暴露了一个隐藏的问题——存储过程里的字段名写错了,结果误删了整体流程的数据。

重新开始之后,我们遇到了另一个问题:统计报表的异常值。此时发展成了"数据清洗"的仪式感,但纯然再次发现谁能预料数据的精密程度。为了彻底解决问题,我们一直排查到开发小同志发现原来是从一开始就取错了数据。

最终在经过反复核实,机制层面上的问题也被查明。正当我们准备大刀阔斧解决问题时,领导突然来 PX:数据分析结果还不够标准化,转而需要我们形成一个统一的分析模板。

系统的撰写过程极度考验耐心。一边要跟开发小同志协作把数据模块完善,另一遍又要满足BOSS对分析结果呈现的各种要求。思考过程中整天熬夜加班,脑力和体力双双下降。

面对各种问题被打回,大家不得不反复修改报告,既要满足技术性又要符合业务需求,最终我们实现了某种自动化的分析流程。

这个过程教会我们,小细节决定成败,在数据分析工作中发现问题并及时解决尤为重要。

转载地址:http://hwrez.baihongyu.com/

你可能感兴趣的文章
Netty 的 Handler 链调用机制
查看>>
Netty 编解码器和 Handler 调用机制
查看>>
Netty 编解码器详解
查看>>
Netty 解决TCP粘包/半包使用
查看>>
Netty 调用,效率这么低还用啥?
查看>>
Netty 高性能架构设计
查看>>
Netty+Protostuff实现单机压测秒级接收35万个对象实践经验分享
查看>>
Netty+SpringBoot+FastDFS+Html5实现聊天App详解(一)
查看>>
netty--helloword程序
查看>>
netty2---服务端和客户端
查看>>
【Flink】Flink 2023 Flink易用性和稳定性在Shopee的优化-视频笔记
查看>>
Netty5.x 和3.x、4.x的区别及注意事项(官方翻译)
查看>>
netty——bytebuf的创建、内存分配与池化、组成、扩容规则、写入读取、内存回收、零拷贝
查看>>
netty——Channl的常用方法、ChannelFuture、CloseFuture
查看>>
netty——EventLoop概念、处理普通任务定时任务、处理io事件、EventLoopGroup
查看>>
netty——Future和Promise的使用 线程间的通信
查看>>
netty——Handler和pipeline
查看>>
Vue输出HTML
查看>>
netty——黏包半包的解决方案、滑动窗口的概念
查看>>
Netty中Http客户端、服务端的编解码器
查看>>