Java代码迁移大数据 java转大数据

做了这么多年Java开发，如何快速转行大数据

java转大数据是非常有优势的，如果想转入大数据开发领域，选择数仓开发是个捷径。千锋教育拥有线上免费Java线上公开课。如果特别想做更底层的开发，也可以选择从数仓开发切入，先接触，再曲线救国。那么数仓开发需要学啥？ 1、会一门基础语言：java/python/scala：如果是java相关开发转大数据，那实在是太容易了，这一项就可以略过了。2、分布式存储及调度理论：hdfs、yarn的理论要理解且熟记，这些对于学习spark 或者hive 以及sql的优化是最最基础的知识。

博野ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景，ssl证书未来市场广阔！成为创新互联的ssl证书销售渠道，可以享受市场价格4-6折优惠！如果有意向欢迎电话联系或者加微信：13518219792（备注：SSL证书合作）期待与您的合作！

3、sql 框架要会一个：spark sql/hive sql ：如果对hive和spark都不懂的话，那就选择学spark，现在离线数仓越来越多的公司切spark了。Spark 相关主要学习spark core 和spark sql；要求sql要写的熟练，调优参数及原理，能懂一些源码就更好了。4、数仓建模、分层理论：这个是数仓的方法论，是一定要掌握的，理论都在《维度建模权威指南-kimball》这本书里，好书是好书，看起来比较枯燥，在看的时候多思考，结合自己正在做的业务，想象一下如果要为现在的业务划分主题该怎么划、业务矩阵该怎么设计等等，大胆想象就ok。5、其它需要了解：大数据相关的架构理论、olap、数据湖等等，知道越多越好，不需要太深入，主要作用是帮助理解大数据的那一套东西；网上的其它公司数仓的架构是啥样子，要知道架构里每个组件的作用是啥。还有一些其它的框架组件：kafka、presto、druid、flink 等了解，写个demo跑跑，知道流程就可。如果想了解更多相关知识，建议到千锋教育了解一下。千锋教育目前在18个城市拥有22个校区，年培养优质人才20000余人，与国内20000余家企业建立人才输送合作关系，院校合作超600所。

Java程序员如何转型做大数据

1、技术日渐成熟，应用空间得以拓展

大数据技术，最早于1980年被首次提及，却在近几年才获得突飞猛进的发展。相较于几十年前神经网络算法捉襟见肘的计算能力，如今处理器对大规模数据的高速处理能力无疑发挥了关键性的作用。借助于处理器的高性能，使我们短时间内完成PB 级数据的机器学习和模型训练成为可能，由此为高度依赖深度学习的图像、语音识别产品的快速迭代奠定基础，大数据应用空间得以拓展，也由此催生了提供相关产品与服务的技术公司。

2、重视数据资产，数据挖掘已成必然

现代信息技术使每日产生的数据量呈指数级增长，企业发展再也无法回避对数据价值的挖掘与利用。电商平台利用画像做个性化推荐，互联网金融公司利用高危识别技术管控金融风险，滴滴出行利用交易数据通过实时定价优化利润……这些都是对大数据价值的发掘和利用。随着数据资产意识的加强，数据挖掘也将获得越来越多结合具体行业场景的重视。

3、技术催生业务新模式，蕴含创业新契机

大数据产业链，催生出针对不同版块提供产品和服务的业务组合新模式，无论是利用推荐算法做内容服务的今日头条，还是基于数据整合提供监测服务的 TalkingData，或者是提供底层架构支持的阿里云，无不是发觉了大数据产业链条所蕴含的创业先机。

大数据创业，时至今日热度不减，虽难出BAT那样巨头独大的局面，其提供的相对公平的竞争机会，依然在吸引着新的创业公司加入。

4、市场供不应求，岗位挑战空间大

翻看大数据相关招聘岗位，一方面是供不应求的招聘局面，另一方面是腾讯、华为等大牌互联网公司开出的诱惑薪资，都让普通岗位的程序员跃跃欲试。

再加上这些岗位相比于传统的软件工程，有更高的挑战空间和更大的难度，自然引得更多人才进入到这个领域。

大数据相关岗位有哪些？

1. 偏技术的“算法工程师”

利用算法手段，构建机器学习模型，解决诸如“人脸识别”、“支付风险管控”等高难度问题。它往往既需要工程师在具体问题上有足够的专注力，也需要对相关的算法有足够深度的了解。

2. 偏业务的“数据挖掘工程师”

结合计算机知识，重点攻克复杂业务的算法化和模型化难题。与算法工程师的要求不同，它往往不需要工程师在算法上探索得足够深入，却对知识的广度和技能的交叉度有较高的要求，还需要工程师具备相当和快速的业务理解能力。当然了，对数据的高敏感性也必不可少。

技术 Leader 最想要什么样的人？

1、最好，你是个独当一面的全才

基础条件：扎实的计算机基础、逻辑能力、英文等素质

保障条件：聪明、学习能力强

加分条件：大规模集群开发经验；上层数据应用优化经历；熟悉聚类、分类、推荐、

NLP、神经网络等常见算法；会数据处理，还熟悉聚类、分类、推荐、NLP、神经网络等各种常见算法……

2、退而求其次，有配合团队的长板优势

全才难得，退而求其次，针对不同岗位吸收具有不同特长的人才，以追求团队整体配合的平衡，也不失为一个策略。

计算机视觉领域的大数据公司，往往需要自己的团队中同时具备如下特长的成员。比如精通算法的人才：把图像识别相关算法模型调整到极致；工程实力型人才：高性能实现训练好的算法模型，或者帮团队搭建一整套视频图像数据采集、标注、机器学习、自动化测试、产品实现的平台。

即便同一算法工程团队内部，成员的技能侧重点也要合理搭配，以互为补充。比如，有人专注核心算法研究，就要有人擅长业务分析，专注业务算法模型的实现。

因此，对于想转型大数据的普通程序猿来说，梳理清楚自己现有技能对于新团队的价值非常重要，这是促使新团队决定吸收自己的关键。比如，发挥硬件和底层系统工作经历在算法高速实现上的优势，一旦通过自身擅长的技能切入新团队之后，就有了更多横向发展的机会，帮助自己在大数据相关领域建立更强竞争力。

3、相较当前技能水平，扎实的基础和成长空间更被看重

当前技能水平好比是术，而扎实的计算机基础则处于道的层面，诸如Spark等工具性知识通过后期学习便能轻易掌握，而如果缺少了C++/Java基础想进步却绝非易事。比如，如果算法、数据结构比较强，编程语言上对 C++ 理解较深入，在应用层的学习上，就可能会比其他人快很多。

有人将程序猿能力抽象为一个金字塔模型，虽然对计算机语言的精通是每个工程师都注重的能力，但越基础的素养越蕴含了更多的发展潜力。相比单纯苛责当前技能，能利用基础素养胜任一部分基础工作，然后通过1-2年锻炼接受更复杂问题的程序猿，反而更受企业青睐。

TalkingData 大数据招聘负责人曾直言道，相比于对 Spark 了解更多的人，他们更愿意招收那些 Java 学得好的人。因为 Spark 的接口学习起来相对容易，但是要想精通 Java 是一件很难的事情。如果把 Java 或者 C++ 学透了，那么对计算机技术的认识将很不一样。

转型大数据，要点归纳

1、重视基础

2、发挥专长

3、准备充分

4、首选公司内部转岗

java转行大数据要学习哪些技术

对于Java程序员，大数据的主流平台hadoop是基于Java开发的，所以Java程序员往大数据开发方向转行从语言环境上更为顺畅，另外很多基于大数据的应用框架也是Java的，所以在很多大数据项目里掌握Java语言是有一定优势的。

当然，hadoop核心价值在于提供了分布式文件系统和分布式计算引擎，对于大部分公司而言，并不需要对这个引擎进行修改。这时候除了熟悉编程，你通常还需要学习数据处理和数据挖掘的一些知识。尤其是往数据挖掘工程师方向发展，则你需要掌握更多的算法相关的知识。

对于数据挖掘工程师而言，虽然也需要掌握编程工具，但大部分情况下是把hadoop当做平台和工具，借助这个平台和工具提供的接口使用各种脚本语言进行数据处理和数据挖掘。因此，如果你是往数据挖掘工程方向发展，那么，熟练掌握分布式编程语言如scala、spark-mllib等可能更为重要。

Java程序员转大数据工程师的学习路线图：

第一步：分布式计算框架

掌握hadoop和spark分布式计算框架，了解文件系统、消息队列和Nosql数据库，学习相关组件如hadoop、MR、spark、hive、hbase、redies、kafka等；

第二步：算法和工具

学习了解各种数据挖掘算法，如分类、聚类、关联规则、回归、决策树、神经网络等，熟练掌握一门数据挖掘编程工具：Python或者Scala。目前主流平台和框架已经提供了算法库，如hadoop上的Mahout和spark上的Mllib，你也可以从学习这些接口和脚本语言开始学习这些算法。

第三步：数学

补充数学知识：高数、概率论和线代

第四步：项目实践

1)开源项目：tensorflow：Google的开源库，已经有40000多个star，非常惊人，支持移动设备；

2)参加数据竞赛

3)通过企业实习获取项目经验

如果你仅仅是做大数据开发和运维，则可以跳过第二步和第三步，如果你是侧重于应用已有算法进行数据挖掘，那么第三步也可以先跳过。

做java几年后适合转大数据

1、市场需求量大

经常调查显示,去年有很多大小互联网公司都在布局大数据.而目前大数据方面的人才依旧十分紧缺,比如大数据生态Spark需要的Scala工程师.基于Java和Scala等技术密切的关系,有些大数据公司会瞄准JAVA工程师,通过培养转而成为大数据工程师.

如果你先一步在学习JAVA的基础上再学习一些大数据的知识,那么将来你在公司的竞争力会明显大于一般的JAVA工程师,甚至可能提前一步进军大数据行列.

2、就业方向广泛

JAVA大数据的人才以后可以进行的工作有很多种,下面举几个例子:

(1)大数据开发工程师

基础大数据服务平台,大中型的商业应用包括我们常说的企业级应用(主要指复杂的大企业的软件系统)、各种类型的网站等.负责搭建大数据应用平台以及开发分析应用程序.潍坊Java培训班是实名制指定讲师授课,所有讲师均有8-10年的项目实战经验,是业内的专家级讲师.

(2)大数据分析师

负责数据挖掘工作,运用Hive、Hbase等技术,专门对从事行业数据搜集、整理、分析,并依据数据做出行业研究、评估和预测的专业人员.以及通过使用新型数据可视化工具如Spotifre,Qlikview和Tableau,对数据进行数据可视化和数据呈现.

(3)Android工程师

Android是一种基于Linux的自由及开放源代码的操作系统,其源代码是Java.所以市场上见到的手机系统例如MIUI,阿里云,乐蛙等,都是修改源代码再发行的.Java做安卓不单单是指系统,还有APP对于更多的开发人员来说,他们更多的时间是花在开发APP上面.

还有很多其它职位比如大数据挖掘等就不一 一说明了.