如何利用redis从数据库读出数据

如何利用redis从数据库读出数据,第1张

应用Redis实现数据的读写,同时利用队列处理器定时将数据写入mysql。同时要注意避免冲突,在redis启动时去mysql读取所有表键值存入redis中,往redis写数据时,对redis主键自增并进行读取,若mysql更新失败,则需要及时清除缓存及同步redis主键。这样处理,主要是实时读写redis,而mysql数据则通过队列异步处理,缓解mysql压力,不过这种方法应用场景主要基于高并发,而且redis的高可用集群架构相对更复杂,一般不是很推荐。

Copyright © 1999-2020, CSDNNET, All Rights Reserved

Redis

登录

骑行天下_徐鑫

关注

redis和MongoDB比较 转载

2019-07-02 22:00:52

1点赞

骑行天下_徐鑫

码龄3年

关注

Redis技术陷阱

Redis 基于内存,也可以基于磁盘持久化NoSql数据库,使用 c语言编写,常用端口6379

Redis对内存依赖性很强的NoSql数据库,在内存足够的情况下性能出色,但是一般情况下,服务器内存并没有那么多。

一般情况下,Redis会索取大量服务器内存进行存储数据,以达到快速读取查询的效果。当对Redis插入数据后,redis会异步将数据dump到硬盘中,

比如服务器内存是20G,Redi会fork一个进程,并且会占用同样的大小内存,他需要的内存空间瞬间变为20+20=40G,这是内存超过了物理内存的限制,马上会启动虚拟内存,虽然服务器会有虚拟内存,但是那是服务器的虚拟内存,并不是redis自己的虚拟内存。

Linux虚拟内存page很大,IO剧增,dump速度非常慢,整个服务器的性能降到冰点,服务请求会堵塞,严重到服务器崩溃。

对于单台机子,最好是降低redis虚拟内存设置,page可以根据配置进行修改,这个虚拟内存比Linux虚拟内存好多,因为page小很多。

如果Redis既要读又要写,那么最好不要用redis占用大半的内存。

可以设置它的虚拟内存到8G,但是要根据key值大小去衡量,因为key必须在内存中,这样一来就算是启用了虚拟内存,redis占用的实际内存也会超出设想。

官方建议对key小,value很大的数据设置虚拟内存。

另外master/slave不是很成熟,目前只支持主从,Redis在master是非阻塞模式,也就是说在slave执行数据同步的时候,master是可以接受客户端的请求的,并不影响同步数据的一致性,然而在slave端是阻塞模式的,slave在同步master数据时,并不能响应客户端的查询。

可以根据master/slave 的特点,master不dump,只负责写数据,让slaver去dump

Redis如何持久化:持久化就是将内存中的数据写入到硬盘中。

(1):RDB:是将数据写入到临时文件(dumprdb),持久化之后用这个临时文件替换上次持久化文件,达到数据恢复的目的。RDB是间隔异地短时间进行持久化,如果持久化之间redis发生故障,会发生数据丢失,所以这种方式更适合数据要求不严谨的时候,默认开启。

(2):Redis内存淘汰策略:指的是用户存储的一些键可以被redis主动从实例中删除,从而产生miss的情况,内存淘汰是为了更好地使用内存,用一定的缓存miss来换取内存的使用率。① noeviction:默认策略,不删除任意数据,但是内存不够时,会直接返回错误

② Allkeys-lru:从数据集中(包括设置过期时间和未设置过期时间的数据集),优先移除最近未使用的key

③ Volatile-lru:在设置了过期时间的数据集中,优先移除最近未使用的key

④ Allkeys-random:从数据集中(包括设置过期时间和未设置过期时间的数据集),随机移除某个key

⑤ Volatile-random:在设置了过期时间的数据集中,随机移除某个key

Volatile-ttl:在设置了过期时间的数据集中,具有更早过期时间的key优先移除。

Redis有些数据类型:String Hash List Sets ZSets(存放多个值,不可有重复,有顺序,不同的是每个元素都会关联Double类型的分数,redis正是通过分数来为集合中的成员进行从小到大排序),

Redis使用场景:

缓存热数据使用,热数据就是在项目中经常会被查询,但不经常会被修改和删除的数据。

计数器,诸如统计点击数等应用。

队列

位 *** 作(大数据处理),比如统计QQ用户在线。

最新列表

排行榜,使用zadd添加有序集合

Linux虚拟内存:

为了运行比实际物理内存容量还要大的程序,包括Linux在内的所有现代 *** 作系统几乎毫无里外都采用了虚拟内存技术。虚拟内存技术,可让系统看上去具有比实际意义内存大得多的内存空间,并为实现多道程序的执行创造条件。

虚拟内存概念:总所周知,为了对内存中的存储单元进行识别,内存中的每一个存储单元都必须有一个确切的地址。而一台计算机的处理器能访问多大的内存空间就取决于处理器的程序计数器,该计数器字长越长,能访问的空间越大。

例如对于程序计数器位数为32位的处理器来说,他的地址发生器所能发出的地址数目2^32=4G个,于是这个处理器所能访问的最大内存空间就是4G。载计算机技术中,这个值就是处理器的寻址空间或寻址能力。

MongoDB

文档结构的存储方式。能够快捷获取数据

支持GridFS 支持大容量存储,海量数据存储

海量数据下,性能优越

动态查询

全索引支持,拓展到内部对象和内嵌数组

查询记录分析

快速,就地更新

高效存储二进制大对象

复制和支持自动恢复故障

内置Auto-Sharding 自动分片支持云级别拓展性。分片简单

MapReduce 支持复杂聚合

缺点:不支持事务 *** 作,占用硬盘空间大,没有Mysql成熟的维护工具,无法进行关联表查询,不适用于关系多的数据,复杂句和 *** 作通过mapreduce创建,速度慢,模式自由,自由灵活的文件存储格式带来的数据错误,MongoDB在你删除记录后不会在文件系统回收空间,除非删掉数据库,但是空间没有浪费。

分布式文件存储数据库,介于NoSql和关系型数据库之间的一款产品,基于C++编写,具有查询语言、索引、key-value存储结构,MongoDB存储数据是以BSON类型(二进制json)。

Redis(读写快) ---àMongoDB (数据量大、查询统计、缺乏事务支持)àOracle(数据量大、查询统计方便、事务强)

MongoDB适用于表单数据 *** 作、完整性要求不高的系统使用,高性能、易部署、易使用,存储数据非常方便。MongoDB :库->集合 JSON对象记录

区别联系:

(1):性能方面:Redis大于MongoDB、MongoDB支持丰富的数据表达,索引,最类似于关系型数据库,支持查询的语言非常丰富,redis数据结构方面更加丰富,可以存储List/set/Hash/sort Set等集合。

(2):内存空间和数据量大小: MongoDB适合大量数据存储

(3):数据一致性 Redis事务支持比较弱,MongoDB不支持事务

(4):Redis用在数据量较小的 *** 作和运算上,Mongodb主要解决海量数据访问效率问题。

(5)MemCachd 不支持数据持久化,断电或者重启后数据消失,但其稳定性是有保证的,redis支持数据持久化和数据恢复,允许单点故障

1Memcached单个key-value大小有限,一个value最大只支持1MB,而Redis最大支持512MB

2Memcached只是个内存缓存,对可靠性无要求;而Redis更倾向于内存数据库,因此对对可靠性方面要求比较高

3从本质上讲,Memcached只是一个单一key-value内存Cache;而Redis则是一个数据结构内存数据库,支持五种数据类型,因此Redis除单纯缓存作用外,还可以处理一些简单的逻辑运算,Redis不仅可以缓存,而且还可以作为数据库用

4新版本(30)的Redis是指集群分布式,也就是说集群本身均衡客户端请求,各个节点可以交流,可拓展行、可维护性更强大。

关于其原因,在官方的FAQ中,提到有如下几个方面:

1、空间的预分配:为避免形成过多的硬盘碎片,mongodb每次空间不足时都会申请生成一大块的硬盘空间,而且申请的量从64M、128M、256M那 样的指数递增,直到2G为单个文件的最大体积。随着数据量的增加,你可以在其数据目录里看到这些整块生成容量不断递增的文件。

2、字段名所占用的空间:为了保持每个记录内的结构信息用于查询,mongodb需要把每个字段的key-value都以BSON的形式存储,如果 value域相对于key域并不大,比如存放数值型的数据,则数据的overhead是最大的。一种减少空间占用的方法是把字段名尽量取短一些,这样占用 空间就小了,但这就要求在易读性与空间占用上作为权衡了。

3、删除记录不释放空间:这很容易理解,为避免记录删除后的数据的大规模挪动,原记录空间不删除,只标记“已删除”即可,以后还可以重复利用。

4、可以定期运行dbrepairDatabase()来整理记录,但这个过程会比较缓慢

MongoDB没有如MySQL那样成熟的维护工具,这对于开发和IT运营都是个值得注意的地方。

1 读从redis, 没有就到db查。redis设数据超时时间,db数据更新只能准实时。实时要求高的数据超时时间设短点就行了。超时失效可以用消极方法或积极方法,具体自己搜。

2 写直接写db 不然要考虑很多问题和情况。

1、在数据库方面,mysql是关系型数据库主要用于存放持久化数据,redis是NOSQL,即非关系型数据库,也是缓存数据库,缓存的读取速度快,能够大大的提高运行效率,但是保存时间有限。

2、在运行机制方面,mysql作为持久化存储的关系型数据库,相对薄弱的地方在于每次请求访问数据库时,都存在着I/O *** 作,如果反复频繁的访问数据库。

3、在作用方面,mysql是存储数据到硬盘,功能强大,速度较慢,但是读写速度没有Redis快,redis为较为频繁的数据到缓存中,读取速度快,基于内存,读写速度快,也可做持久化,但是内存空间有限,当数据量超过内存空间时,需扩充内存,但内存价格贵。

4、在需求方面,mysql和redis因为需求的不同,一般都是配合使用。需要高性能的地方使用Redis,不需要高性能的地方使用MySQL。存储数据在MySQL和Redis之间做同步。

要配置连接容器上的Redis和数据库,可以按照以下步骤进行 *** 作:

1 确认容器内的Redis和数据库已经启动并运行正常。

2 在web应用的配置文件中添加Redis和数据库的连接信息,包括主机名、端口号、用户名、密码等。

3 如果Redis和数据库运行在同一容器中,可以使用容器内部的IP地址进行连接。如果Redis和数据库运行在不同的容器中,可以使用Docker网络进行连接。

4 在web应用中使用相应的Redis和数据库客户端库进行连接和 *** 作。

例如,在Java应用中,可以使用Jedis客户端库连接Redis,使用JDBC客户端库连接数据库。以下是一个Java应用连接Redis和MySQL数据库的示例代码:

```

//连接Redis

Jedis jedis = new Jedis("redis_host", 6379);

jedisauth("redis_password");

//连接MySQL数据库

String url = "jdbc:mysql://mysql_host:3306/db_name";

String user = "db_user";

String password = "db_password";

Connection conn = DriverManagergetConnection(url, user, password);

```

需要根据实际情况修改主机名、端口号、用户名、密码等连接信息。

以上就是关于如何利用redis从数据库读出数据全部的内容,包括:如何利用redis从数据库读出数据、Redis数据库跟MongoDB数据库有什么区别呢、请教redis如何做到和mysql数据库的同步等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/9546299.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-29
下一篇 2023-04-29

发表评论

登录后才能评论

评论列表(0条)

保存