当我们谈大数据分析的时候，我们在谈什么？

数据分析是一个大话题，借这篇笔记整理一下自己的思路：数据分析是什么？涉及到哪些技术？有哪些数据公司玩家？如何定位数据分析的价值？如果选择数据分析作为自己的职业，需要掌握什么样的基本概念？希望帮助对于数据分析有兴趣的同学快速入门！

前言

数据的一面是银弹(Silver Bullet)：无所不能，增长黑客(Growth Hacking)，决策分析(Decision Making)；数据的另外一面是镜子(Reflection)：可以看清楚很多苟且和远方的田野。如何发现利用数据的价值，就是数据分析的目标。

?

数据分析的重要性可以分为两点：

第一是帮助核心业务(Business)成长，找到和验证业务增长点
第二是有效的业务推动（Marketing），提高推广的效率(ROI)。

?

我把营销(Marketing)作为独立的数据分析角度，因为数字营销极度依赖于数据分析，并且有一些通用的分析模型，它同时也是一个非常大的产业，它是各个软件巨擘必争之地。

?

最近十几年，数据的收集和处理能力大大提升，越来越多的传感器和数据收集，许多大公司的数据正在从TB级别走向PB级别。互联网公司之间的模式竞争，也转战到对于数据价值的挖掘的能力上，很多时候也就是速度和效率的竞争。不要迷信数据，更不要忽视数据。很多时候，数据是你业务的指南针和护城河。

?

数据量快速增长，数据分析人才紧缺，数据分析工具依赖性，数据分析服务的强需求都反映了公司从粗放型到精细化的转型。

1.???什么是数据分析（Data Analysis）？

为了理解数据分析，首先理解一下数据的概念。管理学家罗素·艾可夫在1989的《 “From Data to Wisdom”，Human SystemsManagement?》提出了DIKW体系体系，这是关于数据、信息、知识及智慧的一个模型，完美诠释了四者的关系。Data(数据)->Information(信息）->Knowledge（知识)->Wisdom(智慧)。

?

2. 数据分析的技术

?

数据分析在技术上定义：以发现有用信息，知识和洞察为目的，进行数据收集，处理，清晰，过滤，以支持决策制定。

行业里也有几个相关的概念，常常会引起混淆，花点时间解释一下：

?

商务智能(Business Intelligence): BI是在商业数据上进行价值挖掘的过程，BI的历史很长，很多时候会特别指通过数据仓库的技术，进行业务报表和分析的过程，分析通常利用数据的聚合(Aggregation)和分片(Slice)的能力。技术上BI包括ETL（数据转换），数据仓库(Data Warehouse)，OLAP（联机分析处理），数据挖掘(Data Mining)。

数据挖掘(Data Mining)：数据挖掘是指在大量数据中自动搜索隐藏于其中的有着特殊关系性（属于Association rule learning）的信息的过程。很多年前，它一直是一个热门的研究生专业，直到信息检索专业的出现。

联机分析处理（OLAP）：其实是一个建立数据系统的方法，核心思想就是建立多维度的数据立方体，以维度（Dimension）和度量（Measure）为基本概念，辅以元数据，实现可以钻取（Drill-down/up）、切片（Slice）、切块（Dice）等灵活、系统、直观的数据展现。

?

数据分析也是一种艺术(Art)，所谓艺术就是结合技术，想象力，经验和意愿的综合因素的平衡和融合。数据分析也是一个经验和想象力的融合：它涉及到数学算法，统计分析，工具和软件工程的一种结合，最后的目的是解决业务的问题，帮助人从数据中获得智慧。

?

下面列了几个常用的分析技术范式：

1.?????统计模型：利用统计模型处理数据的方法

2.?????探索式(exploratory):不设定假设目标，自由发掘和探索

3.?????稳定性(Stability of Results)：分析结果的稳定性评估，又是进行交叉验证。

4.?????假定验证(HypothesisTesting):预先设定好结论，通过测试校验结论

下面是涉及到算法，工程，统计等的相关技术，每一种细分技术都是一个大学问，好的数据科学家，可以游曳穿行其中，找到数据中有价值的洞察。

?

3.???数据从业者的职业名称

从事数据的工作者，历史上我见识过了不少名称，包括“数据分析师”，“数据经理”，“运营分析师”，“软件工程师”，“算法工程师”，“策略分析师”，“数据科学家” 等等。其中最酷的名字还是LinkedIn发明的“数据科学家(Data Scientist)”，这个名称也被Forbes评为本世纪最”性感“的工作了。我估计，这是全世界最多的科学家团体了，小时候总觉得科学家必须白发苍苍才行的，现在很多同学刚毕业就是”数据科学家“，很让人羡慕。

?

数据分析实际上是三个方面的融合，包括数据，工程和业务。数据是智慧的原矿石，工程是采矿机，业务是指北针，只有三个方面融合起来，才能最有效的发现数据的价值。我相信一个好的数据分析师必须有工程背景，必须对数据敏感，而且愿意主动解决业务问题。

?

?

4.??? 数据分析公司的生态圈

数据分析的的公司非常多，大大小小，林林总总。有小而美的硅谷创业公司，有老牌大公司的老树新花。很多创业公司的市值一路飙升到无法接盘的状态。例如，Palantir估值已经到了200亿美元，但是最近可持续的收入却不断减少，引来不少麻烦。

?

我把数据分析公司分为三类:

第一类是基础服务提供者，主要提供一些软件工具，Hadoop和Spark的生态公司，帮助数据基础架构的建设，也包括一些数据可视化公司。

第二类是通用分析服务提供公司，包括Palantir，IBM的Watson Analytics，SAS,Google Analytics 等等，这类公司提供数据分析服务或者工具，利用专家背景，系统规模和数据资源，帮助解决客户的问题，特别是很多老牌公司通过收购传统数据分析公司，快速重新包装成新的高大上产品。

第三类是专注行业的数据分析公司，例如生物信息，市场营销分析等等。

?

?

5.???三种常见的业务分析模型：GrowthHacker，AARRR，LTV

看完了欣欣向荣的数据分析行业，是不是感到有些热血沸腾。不过我们还是要回到现实的的，落地的数据分析任务。大部分互联网公司，面临的业务增长的压力，都希望通过数据分析来提升竞争力。其中，有三种常见的业务运营增长模型。

1.???黑客文化的Growth Hacker

2.???经典的AARRR漏斗模型

3.???游戏中的LTV模型

?

1)???增长黑客（Growth Hacker）的数据和分析

GrowthHacking，它指的是一种用户增长的方式，简单说就是通过某些手段和策略帮帮助公司形成快速成长，通常是数据驱动的方法。对创业公司、特别是初创公司来说，在没有广告预算、市场营销活动以及市场推广专员的情况下，GrowthHacking 也可以获得良好的效果。

?

2)??? AARRR模型

AARRR是Acquisition、Activation、Retention、Revenue、Refer，这个五个单词的缩写，分别对应这一款移动应用生命周期中的5个重要环节。每一个环节都有些关键指标，可以进行数据分析，找到提升的机会。

?

3) ? ?生命周期价值（LTV）模型：

LTV是LifeTime Value，它是游戏行业用于衡量用户价值的一种方式和模型。LTV是指在一定时间内，某一客户可能为企业带来的利润额.顾客终身价值是指企业在获得新顾客后的一段时间内，每一位顾客的平均利润净现值。由于游戏有很强的时间相关性，因此LTV会累计一段时间的数据。

?

6. ? 几个有特点的数据分析工具

从公司类型上来说，数据分析公司简单可以分为两类：1传统大型IT公司 ?2互联网创新公司。很多传统大公司都涌入数据分析行业，大多都是希望利用自己的客户，硬件和软件优势，通过数据分析转型成SaaS服务提供商，例如IBM，Oracle等。另外一个就是互联网创新公司，大量数据科学家形成了大大小小数据分析创业公司，很多都聚焦在一个细分行业，其中包括Qualtrics，Mulesoft，Medallia等，超过80%的数据分析公司在美国的加州。

这里介绍几个市面上的分析工具，对于浩瀚的数据分析市场来说，只是窥豹一斑，但是他们确实几类数据分析公司的代表:老牌软硬件公司，互联网公司，手机生态公司。

1.???Google Analytics Suite 360

2.???IBM Watson Analytics

3.???Apple App Analytics

4.???MixPanel

?

1)??? GoogleAnalytics Suite 360?

2016年3月15日，谷歌发布了全新的数据服务GoogleAnalytics 360?套件，为广告主和互联网公司提供更优秀的数据服务。相比之前的Google Analytics，整个产品线有了极大的丰富，包括6大产品，覆盖埋点，分析，可视化，定向，转化，归因等方面，全方面贴近广告主的需求。

?

数据是广告主的核心利益的护城河和运行效率指南针，数据一定要靠谱，全面。Google的数据服务套件升级，可以帮助广告主更加高效的投放。特别是GoogleAudience 360(DMP)的加入，看来谷歌也越来越重视“以人为本”营销。Facebook对广告主提供了优秀的数据服务（社交数据，按效果优化计费等），Google也感受到了压力，提升数据服务也是顺势而为之。

?

详细内容参考文章《谷歌推出Google Analytics 360套件：为广告主而生的数据服务》

?

2)??? IBM Watson Analytics

IBM收购了多家BI技术公司后，而后结合鼎鼎大名的Watson，在2014年推出了IBM Watson Analytics。有IBM朋友介绍，这是IBM最接地气的软件之一，可以自助注册并且可以免费试用大部分功能。

?

它提供全方位的自助服务分析功能，包含数据细化和仓储服务，以便他们更快捷地获取和准备数据，从而进行分析和可视化处理。WatsonAnalytics还实现了诸如数据准备、预测性分析以及可视化分析等众多步骤的自动化，确保营销、销售、运营、财务及人力资源等诸多数据密集型业务从业人员能够快速、智能地获取洞察。

?

WatsonAnalytics是基于Watson认知技术构建的一个创新云分析平台，拥有自然语言认知查询、预测性分析以及可视化分析能力，能让商业人士跨越IT专业知识的障碍，获取与数据分析师相同的由认知驱动的预测性和指导性分析能力。

?

3)??? AppleApp Analytics

苹果于2015年的开发大会(2015,WWDC)上正式推出了Apple App?Analytics提供如下功能：

·?????? 查看用户访问App Store应用页面的频率

·?????? 应用数据：启动应用的数量，Crash，用户停留时间

·?????? 用户ID系统：使用Apple ID，而不是设备ID

·?????? 营销分析：创建自定义、可追踪的营销链接，找出最多的引荐来源

很多运营指标和已有统计分析数据不同，导致各种数据

?

相较于其他统计服务者(Flurry,App Annie，GA等)，Apple App Analytics不需要开发者写任何代码，也不要求在应用里集成特定的SDK。当然，这对于支持的统计力度有一些限制，事实上到目前为止，App Analytics只能提供一些应用启动数据，日活，留存，使用时长等基本数据而已。它的一个很大优势是集成了App Store的各种数据，创建访问App Store可跟踪的链接等。

?

大部分时候，它也只是App开发工具的一个参考而已，而且Apple AppAnalytics的很多数据和其他的统计平台的数据并不一致，开发者需要花很多时间理解其中的不一致。例如，Apple的UV是根据Apple ID统计的，大部分统计工具使用的是苹果的设备ID，例如AAID等。

?

4) ?MixPanel

MixPanel是美国一个领先的一个移动数据分析公司，主要用于移动和PC的分析平台，通过打点客户端，将数据上报到服务器，进行留存，分组，漏斗，A/B测试等服务。另外，它也支持可视化打点功能，帮助运营人员灵活配置。它也把打点服务/数据分析服务从免费方式转向收费增值服务的一个领先者。另外一些类似的数据服务公司，还包括专门做A/B测试的Optimizely，KISSMetrics和Leanplum等。

?

小结

数据分析从来就是一个热门词，像人工智能一样，从来都吸引眼球；很多时候，数据也被滥用成了一把上方宝剑，谁不服就用数据砸谁。

实际上，数据告诉你的更多的是眼前的苟且，而我们需要思考的更多的是诗和远方。数据分析可以给我们提供很多的数字，但却无法代替的我们的思考:如何简化问题?如何抽象和分解复杂？如何排除万难？数据分析只会让工作更加有意思和挑战！

?

参考文章

谷歌推出Google Analytics 360套件：为广告主而生的数据服务

一切事物真的都可以数据化度量么？

2016年麦肯锡(McKinsey)全球数据，物流，服务和金融的研究报告

Android移动第三方SDK使用分析报告（2016年5月）

作者介绍：欧阳辰

互联网广告技术老兵，小米广告架构师主管，负责大数据和广告平台架构，曾负责微软移动Contextual Ads广告平台，参与Bing搜索引擎Index Serve的核心模块研发，有空也会在个人微信公众号“互联居”中，分享一些互联网技术心得，欢迎订阅“互联居”公众号或访问http://www.ouyang.chen，与作者直接交流。