企业特殊行业经营资质信息公示
营业执照已认证 什么叫大数据分析
程序员饲养研究中心
百家号18-09-2911:50
大数据行业发展如火如荼，**政策利好，互联网大佬纷纷在大数据行业布局，我们想让自己的职业生涯在一个朝阳行业发展，肯定又要学习相关技术，让自己与时俱进，但是难就难在大数据是一个新兴事物，目前我国大学的**里面还鲜少有这个**，**刚批的大数据**，全国目前35个高校，但是从17年开始招生，2021年才有**批毕业生进入职场，在四年期间，是大数据行业发展的飞速时期，没有行业发展是等着人才进入的，而是需要要虚位以待、蓄势待发，所以在没有高等教育准备好的大数据教育，如何**的学习大数据，如何快速的与行业发展想契合，那么需要我们成为**个吃螃蟹的人，作为一个随着大数据行业成长的职业人，首先要知道大数据是个啥？
大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
那来帮大家分析下：如何**的学习大数据。
经常有初学者会问，自己想往大数据方向发展，该学哪些技术，学习路线是什么样的，觉得大数据很火，就业很好，薪资很高……首先，如果你确定了想往这个方面发展，先考虑自己的过去从业经历、**、兴趣是什么。计算机**——操作系统、硬件、网络、服务器？软件**——软件开发、编程、写代码？还是数学、统计学**——对数据和数字特别感兴趣？
那么你能找师傅带吗？
但凡有这种想法的人，或多或少都会存有侥幸之心，或者叫做“天真，单纯”。希望不花一分钱，就能更快速的学到更**，更实用的技能。
关于这一点，我只想反问一句你：“如果你是大师，你凭什么愿意带我？”
其实这就是想告诉你大数据的三个发展方向，平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。
先说一下大数据的4V特征：
数据量大，TB->PB
数据类型繁多，结构化、非结构化文本、日志、视频、图片、地理位置等；
商业价值高，但是这种价值需要在海量数据之上，通过数据分析与机器学习更快速的挖掘出来；
处理时效性高，海量数据的处理需求不再局限在离线计算当中。
现如今，正式为了应对大数据的这几个特点，开源的大数据框架越来越多，越来越强，先列举一些常见的：
文件存储：Hadoop HDFS、Tachyon、KFS
离线计算：Hadoop MapReduce、Spark
流式、实时计算：Storm、Spark Streaming、S4、Heron
K-V、NOSQL数据库：Hbase、Redis、MongoDB
资源管理：YARN、Mesos
日志收集：Flume、Scribe、Logstash、Kibana
消息系统：Kafka、StormMQ、ZeroMQ、RabbitMQ
查询分析：Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid
分布式协调服务：Zookeeper
集群管理与监控：Ambari、Ganglia、Nagios、Cloudera Manager
数据挖掘、机器学习：Mahout、Spark MLLib
数据同步：Sqoop
任务调度：Oozie
······
聚类问题：从用户搜索过的关键词，对用户进行大概的归类。
推荐问题：根据用户的历史浏览和点击行为进行相关推荐。
大多数行业，使用机器学习解决的，也就是这几类问题。
入门学习线路：
数学基础；
机器学习实战（Machine Learning in Action），懂Python*；
SparkMlLib提供了一些封装好的算法，以及特征处理、特征选择的方法。
那么把机器学习部分加进 “大数据平台”。
