从大数据入门,到达到一定水平,在学习路径上有什么建议

从大数据入门,到达到一定水平,在学习路径上有什么建议,第1张

目前我们正处在大数据时代,掌握大数据相关技术对提高自己的职场竞争力一定是有帮助的。

大数据学习建议:

1、0基础小白从Java语言开始学习

因为当前的大数据技术主要是用 Java 实现的或者是基于 Java 的,想入行大数据,Java基础是必备的;

2、Java开发能力需要通过实际项目来锻炼

在学习完Java语言之后,往往只是掌握了Java语言的基本 *** 作,只有通过真正的项目锻炼才能进一步提高Java开发能力。

3、大数据开发有明显的场景要求

大数据开发是基于目前已有信息系统的升级改造,是一个系统的过程,包括平台的搭建、数据的存储、服务的部署等都有较大的变化,要想真正理解大数据需要有一个积累的过程。对于初学者来说,应该先建立一个对开发场景的认知,这样会更好的理解大数据平台的价值和作用。

4、从基础开发开始做起

对于初级程序员来说,不管自己是否掌握大数据平台的开发知识,都是从基础的开发开始做起,基于大数据平台开发环境。

从就业的角度来说,大数据开发是一个不错的选择。但我并不建议脱离实际应用来学习大数据,最好要结合实际的开发任务来一边学习一边使用。

步骤一:安装Airflow
docker pull airflow
1
docker pull airflow
步骤二:修改默认路径
这里如果不修改路径,默认的配置就是 ~/airflow
临时修改 AIRFLOW_HOME 环境变量, 这里的 /home/airflow 可以替换成你想要的文件夹目录
export AIRFLOW_HOME=/home/airflow
1
export AIRFLOW_HOME=/home/airflow
永久修改环境变量
echo "export AIRFLOW_HOME=/home/airflow" >> /etc/profile
source /etc/profile
1
2
echo "export AIRFLOW_HOME=/home/airflow" >> /etc/profile
source /etc/profile
系统默认的配置文件是从 airflow包的configurationpy文件中获取的,在设置了路径和airflowcfg之后,配置将由airflowcfg所替代。
步骤三:修改默认数据库
找到配置文件
vi /home/airflow/airflowcfg
1
vi /home/airflow/airflowcfg
修改sql配置
sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow
1
sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow
注意到,之前使用的 mysql+driver://root:FinanceR@localhost:3306/airflow的方式是行不通的。
初始化服务器的数据库
airflow initdb
1
airflow initdb
airflow webserver
1
airflow webserver
就可以开启后台管理界面,默认访问localhost:8080即可。
步骤四:修改数据源配置
通过create按钮,添加相应的参数
步骤五:解决中文字符集显示问题
注意到 airflow 的所有py文件都声明了 utf-8 字符集
# -- coding: utf-8 --
1
# -- coding: utf-8 --
如果需要显示中文,需要在extra选项中添加
{"charset":"utf8"}的配置

你说的是服务的RAID卡吧,如下(0820p):
浪潮RIAD卡 PM8060_1GB缓存 八通道 SAS 高性能RAID-9271
板卡尺寸
半高半长(16765mmX689mm)
SAS接口
支持8个内部SAS接口,每口12 Gb/s
使用MiniSAS HD 1X2连接器, SFF-8643,方向水平
支持SAS/SATA接口HDD、SSD、TAPE DRIVES
PCIE接口
PCIE 30,x8
主控制器
PMC 12Gb/s RoC PM8060
高速缓存
1GB 1600MHz DDR3 SDRAM
缓存数据保护
支持超级电容AFM700
Raid特性
RAID LEVELS: 0,1,1E,5,6,10,50,60
Flexible Configuration: HBA Mode & Auto Volume Mode for automatic deployment
Optimized Disk Utilization (multiple arrays per disk)
Supports up to 256 SATA or SAS devices using SAS expanders
Support for native 4K sector SAS and SATA devices in addition to 512 byte sector devices
Hybrid RAID 1 & 10
Quick initialization
Online Capacity Expansion
Copyback Hot Spare
Dynamic caching algorithm
Native Command Queuing (NCQ)
Background initialization
Hot-plug drive support
RAID Level Migration
Hot spares - global, dedicated, and pooled
Automatic/manual rebuild of hot spares
SES and SAF-TE enclosure management
Configurable stripe size
SMART support
Multiple arrays per disk drive
Dynamic sector repair
Staggered drive spin-up
Bootable array support
Support for Tape Devices, Autoloaders
MSI-X support for all device drivers for all supported Operating Systems
Secure boot support for the uEFI host BIOS
管理功能
Adaptec maxView Storage Manager
— Web based GUI Management Utility
— OS Support: Windows, Linux, Solaris, VMware
— Remote configuration, monitoring & notification
— Remote firmware updates
— SMI-S Support
— SMTP
ARCCONF
— Command Line Interface
— SMI-S support for VMware
Adaptec BIOS Configuration Utility (CTRL+A)
— Legacy configuration utility
— Flashable BIOS support
Adaptec uEFI BIOS Configuration Utility
— HII based configuration utility
— Flashable BIOS support
工作温度
0°C to 55°C (with 200 LFM airflow without AFM-700)
0°C to 50°C(with 200 LFM airflow with AFM-700)
工作电压
+33V, +12V
状态指示
8颗红色LED闪烁
RAID卡_INSPUR_ PM8060_2GB_SAS12G_PCIE30
板卡尺寸
半高半长(16765mmX689mm)
SAS接口
支持8个内部SAS接口,每口12 Gb/s
使用MiniSAS HD 1X2连接器, SFF-8643,方向水平
支持SAS/SATA接口HDD、SSD、TAPE DRIVES
PCIE接口
PCIE 30,x8
主控制器
PMC 12Gb/s RoC PM8060
高速缓存
2GB 1600MHz DDR3 SDRAM
缓存数据保护
支持超级电容AFM700
Raid特性
RAID LEVELS: 0,1,1E,5,6,10,50,60
Flexible Configuration: HBA Mode & Auto Volume Mode for automatic deployment
Optimized Disk Utilization (multiple arrays per disk)
Supports up to 256 SATA or SAS devices using SAS expanders
Support for native 4K sector SAS and SATA devices in addition to 512 byte sector devices
Hybrid RAID 1 & 10
Quick initialization
Online Capacity Expansion
Copyback Hot Spare
Dynamic caching algorithm
Native Command Queuing (NCQ)
Background initialization
Hot-plug drive support
RAID Level Migration
Hot spares - global, dedicated, and pooled
Automatic/manual rebuild of hot spares
SES and SAF-TE enclosure management
Configurable stripe size
SMART support
Multiple arrays per disk drive
Dynamic sector repair
Staggered drive spin-up
Bootable array support
Support for Tape Devices, Autoloaders
MSI-X support for all device drivers for all supported Operating Systems
Secure boot support for the uEFI host BIOS
管理功能
Adaptec maxView Storage Manager
— Web based GUI Management Utility
— OS Support: Windows, Linux, Solaris, VMware
— Remote configuration, monitoring & notification
— Remote firmware updates
— SMI-S Support
— SMTP
ARCCONF
— Command Line Interface
— SMI-S support for VMware
Adaptec BIOS Configuration Utility (CTRL+A)
— Legacy configuration utility
— Flashable BIOS support
Adaptec uEFI BIOS Configuration Utility
— HII based configuration utility
— Flashable BIOS support
工作温度
0°C to 55°C (with 200 LFM airflow without AFM-700)
0°C to 50°C(with 200 LFM airflow with AFM-700)
工作电压
+33V, +12V
状态指示
8颗红色LED闪烁


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zz/13430291.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-08-04
下一篇 2023-08-04

发表评论

登录后才能评论

评论列表(0条)

保存