redis可以替代实时数据库，作为工业数据采集的后台数据库吗

mongodb和memcached不是一个范畴内的东西。mongodb是文档型的非关系型数据库，其优势在于查询功能比较强大，能存储海量数据。mongodb和memcached不存在谁替换谁的问题。 和memcached更为接近的是redis。它们都是内存型数据库，数据保存在内存中，通过tcp直接存取，优势是速度快，并发高，缺点是数据类型有限，查询功能不强，一般用作缓存。在我们团队的项目中，一开始用的是memcached，后来用redis替代。 相比memcached： 1、redis具有持久化机制，可以定期将内存中的数据持久化到硬盘上。 2、redis具备binlog功能，可以将所有 *** 作写入日志，当redis出现故障，可依照binlog进行数据恢复。 3、redis支持virtual memory，可以限定内存使用大小，当数据超过阈值，则通过类似LRU的算法把内存中的最不常用数据保存到硬盘的页面文件中。 4、redis原生支持的数据类型更多，使用的想象空间更大。 5、前面有位朋友所提及的一致性哈希，用在redis的sharding中，一般是在负载非常高需要水平扩展时使用。我们还没有用到这方面的功能，一般的项目，单机足够支撑并发了。redis 30将推出cluster，功能更加强大。 6、redis更多优点，请移步官方网站查询。

1 连接mysql 数据库

shell中连接数据库的方法很简单，只需要指定用户名，密码，连接的数据库名称，然后通过重定向，输入mysql的语句，如下所示：

mysql -u USERNAME -p PASSWORD DATABASENAME <<EOF 2>/dev/null

show databases;

EOF

但这并不是一个好办法，任何使用该脚本的用户都能看到该数据库用户的账号和密码，要解决这个问题，可以用mysql 数据库的一个特殊配置文件。mysql 数据库使用$HOME/mycnf 文件来读取特殊的启动命令和设置。其中一项设置是由该用户账户发起的mysql 会话的默认密码。要在这个文件中设置默认密码，可以加入下面的内容：

[client]

password = 123456

然后，别忘了修改权限：chmod 400 mycnf

这样就可以通过脚本访问mysql数据库了，如下所示：

#!/bin/bash

MYSQL=`which mysql`

$MYSQL test -u root << EOF

show databases;

show tables;

select from employees where salary > 4000;

EOF

2 创建数据库

通过上面的方法连接数据库，再通过重定向输入mysql语句，shell中读写mysql基本就介绍完了。只要把sql语句写对了，通过重定向执行即可，下面来看一个实例：

#!/bin/bash

##############################

# @file create_db_mysqlsh

# @brief create database and tables in mysql

# @author Mingxing LAI

# @version 01

# @date 2013-01-20

##############################

USER="root"

DATABASE="students"

TABLE="students"

######################

#crate database

mysql -u $USER << EOF 2>/dev/null

CREATE DATABASE $DATABASE

EOF

[ $ -eq 0 ] && echo "created DB" || echo DB already exists

######################

#create table

mysql -u $USER $DATABASE << EOF 2>/dev/null

CREATE TABLE $TABLE(

id int,

name varchar(100),

mark int,

dept varchar(4)

);

EOF

[ $ -eq 0 ] && echo "Created table students" || echo "Table students already exist"

######################

#delete data

mysql -u $USER $DATABASE << EOF 2>/dev/null

DELETE FROM $TABLE;

EOF

这个脚本比较简单，就是几条SQL语句，没什么好解释的，下面来看一下，如何读入csv 文件，然后插入到mysql数据库中。

3 插入csv 文件

上面创建了一个学生表，表中有学生的学号，姓名，成绩，系别，假设有一个csv文件，内容如下：

$cat data

1,Navin M,98,CS

2,Kavya N,70,CS

3,Nawaz O,80,CS

4,Hari S,80,EC

5,Alex M,50,EC

6,Neenu J,70,EC

7,Bob A,30,EC

8,Anu M,90,AE

9,Sruthi,89,AE

10,Andrew,89,AE

为了将csv 文件插入到数据库，我们需要逐行读入，然后给字符串加上双引号，最后生成语句如下：

insert into students VALUES(1, "Navin M", 98, "CS");

要解析csv 文件，最好的工具莫过于awk了，将域的分隔符指定为逗号-F,，awk就自动将各个域拆分出来了，然后在需要双引号的地方打印输出一个双引号，就能够轻松得到下面这样的数据：

1, "Navin M", 98, "CS" awk 代码如下：query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`

statement=`echo "INSERT INTO $TABLE VALUES($query);"`

echo $statement

当然了，你也可以用其他办法，不过，几乎没有比awk更简单的了，第2种方法如下：

oldIFS=$IFS

IFS=,

values=($line)

values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""

values[3]="\"`echo ${values[3]}`\""

query=`echo ${values[@]} | tr ' #' ', '`

IFS=$oldIFS

statement=`echo "INSERT INTO $TABLE VALUES($query);"`

echo "$statement"

首先通过指定域分隔符，将csv文件解析成一个数组，然后将空格替换成一个特殊的符号"#"（因为后面的替换中，会一次性输出数组，而数组是用空格分隔各字段,我们要将分隔数组的空格替换成逗号，所以这里将数据中的空格替换成"#"） ，给字符串加上双引号，最后再把空格替换成逗号，把"#"替换为空格。这种方法真是让人抓狂，我第一次就没有看明白，尤其是为什么要将空格替换成"#"。

完整的插入数据的程序如下：

#!/bin/bash

#

# @file write_to_db_mysqlsh

# @brief wirte data to database in mysql

# @author Mingxing LAI

# @version 01

# @date 2013-01-20

#

USER="root"

DATABASE="students"

TABLE="students"

if [ $# -ne 1 ]; then

echo $0 DATAFILE

echo

exit 2

fi

data=$1

while read line;

do

# query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`

oldIFS=$IFS

IFS=,

values=($line)

values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""

values[3]="\"`echo ${values[3]}`\""

query=`echo ${values[@]} | tr ' #' ', '`

IFS=$oldIFS

statement=`echo "INSERT INTO $TABLE VALUES($query);"`

# echo $statement

mysql -u $USER $DATABASE << EOF

INSERT INTO $TABLE VALUES($query);

EOF

done < $data

if [[ $ -eq 0 ]]; then

echo "Wrote data into DB"

fi

4 读取数据

知道怎么在shell 中连接mysql ，也知道了怎么在shell中批量执行sql 语句，读取数据，就没有任何难度了。

#!/bin/bash

#

# @file read_db_mysqlsh

# @brief read data from mysql

# @author Mingxing LAI

# @version 01

# @date 2013-01-20

#

USER="root"

DATABASE="students"

TABLE="students"

#用tail 去掉表头

depts=`mysql -u $USER $DATABASE <<EOF | tail -n +2

SELECT DISTINCT dept FROM $TABLE;

EOF`

for d in $depts; do

echo Department: $d

result="`mysql -u $USER $DATABASE << EOF

set @i:=0;

SELECT @i:=@i+1 as rank, name, mark FROM students WHERE dept="$d" ORDER BY mark DESC;

EOF`"

echo "$result"

echo

done

我们还可以在mysql语句中，使用选项来控制数据的输出格式

-H 输出为html

-X 输出为xml

如下所示：

#!/bin/bash

USER="root"

DATABASE="students"

TABLE="students"

mysql -u $USER $DATABASE -H << EOF

select from $TABLE

EOF

html 格式的可读性比较差，输出效果如下：

<TABLE BORDER=1><TR><TH>id</TH><TH>name</TH><TH>mark</TH><TH>dept</TH></TR><TR><TD>1</TD><TD>Navin M</TD><TD>98</TD><TD>CS</TD></TR><TR><TD>2</TD><TD> Kavya N</TD><TD>70</TD><TD>CS</TD></TR><TR><TD>3</TD><TD> Nawaz O</TD><TD>80</TD><TD>CS</TD></TR><TR><TD>4</TD><TD>Hari S</TD><TD>80</TD><TD>EC</TD></TR><TR><TD>5</TD><TD>Alex M</TD><TD>50</TD><TD>EC</TD></TR><TR><TD>6</TD><TD>Neenu J</TD><TD>70</TD><TD>EC</TD></TR><TR><TD>7</TD><TD>Bob A</TD><TD>30</TD><TD>EC</TD></TR><TR><TD>8</TD><TD>Anu M</TD><TD>90</TD><TD>AE</TD></TR><TR><TD>9</TD><TD>Sruthi</TD><TD>89</TD><TD>AE</TD></TR><TR><TD>10</TD><TD>Andrew</TD><TD>89</TD><TD>AE</TD></TR></TABLE>

可读性差也可以理解，因为人家觉得，你没必要修改么，直接以html形式展示数据就可以了。id name mark dept

1 Navin M 98 CS

2 Kavya N 70 CS

3 Nawaz O 80 CS

4 Hari S 80 EC

5 Alex M 50 EC

6 Neenu J 70 EC

7 Bob A 30 EC

8 Anu M 90 AE

9 Sruthi 89 AE

10 Andrew 89 AE

xml形式的数据显示就比较正常了，直接将上面的-H 换成-X,输出如下：<xml version="10">

<resultset statement="select from students" xmlns:xsi=">

以上就是关于redis可以替代实时数据库，作为工业数据采集的后台数据库吗全部的内容，包括:redis可以替代实时数据库，作为工业数据采集的后台数据库吗、如何写shell读写redis数据库、等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！