redisvalue多⼤会影响性能_1、Redis最佳实践
redis
redis优势
redis⽀持五⼤数据类型
python普通连接redis
Python操作Redis之连接池
redis操作字符串
redis操作hash/字典
redis操作列表
redis集合set操作
redis其他操作
redis管道(可以理解为事物)
Redis队列实现
redis发布订阅
发布订阅模式的作⽤
python+Redis实现发布订阅
Django连接redis
⽅式⼀
⽅式⼆
redis
redis是⼀个key-value存储系统。和Memcached类似,它⽀持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都⽀持push/pop、add/remove及取交集并集和差集及更丰富的操作,⽽且这些操作都是原⼦性的。在此
基础上,redis⽀持各种不同⽅式的排序。与memcached⼀样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写⼊磁盘或者把修改操作写⼊追加的记录⽂件,并且在此基础上实现了master-slave(主从)同步
redis优势
使⽤Redis有哪些好处?
(1) 速度快,因为数据存在内存中,类似于HashMap,HashMap的优势就是查和操作的时间复杂度都是O(1)
(2) ⽀持丰富数据类型,⽀持string,list,set,sorted set,hash
(3) ⽀持事务,操作都是原⼦性,所谓的原⼦性就是对数据的更改要么全部执⾏,要么全部不执⾏
(4) 丰富的特性:可⽤于缓存,消息,按key设置过期时间,过期后将会⾃动删除
redis相⽐memcached有哪些优势?
(1) memcached所有的值均是简单的字符串,redis作为其替代者,⽀持更为丰富的数据类型
(2) redis的速度⽐memcached快很多
(3) redis可以持久化其数据
redis常见性能问题和解决⽅案:
(1) Master最好不要做任何持久化⼯作,如RDB内存快照和AOF⽇志⽂件
(2) 如果数据⽐较重要,某个Slave开启AOF备份数据,策略设置为每秒同步⼀次
(3) 为了主从复制的速度和连接的稳定性,Master和Slave最好在同⼀个局域⽹内
(4) 尽量避免在压⼒很⼤的主库上增加从库
(5) 主从复制不要⽤图状结构,⽤单向链表结构更为稳定,即:Master
这样的结构⽅便解决单点故障问题,实现Slave对Master的替换。如果Master挂了,可以⽴刻启⽤Slave1做Master,其他不变。
MySQL⾥有2000w数据,redis中只存20w的数据,如何保证redis中的数据都是热点数据相关知识:redis 内存数据集⼤⼩上升到⼀定⼤⼩的时候,就会施⾏数据淘汰策略。redis 提供 6种数据淘汰策略:
voltile-lru:从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使⽤的数据淘汰
volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰
volatile-random:从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰
allkeys-lru:从数据集(server.db[i].dict)中挑选最近最少使⽤的数据淘汰
allkeys-random:从数据集(server.db[i].dict)中任意选择数据淘汰
no-enviction(驱逐):禁⽌驱逐数据
Memcache与Redis的区别都有哪些?
存储⽅式
Memecache把数据全部存在内存之中,断电后会挂掉,数据不能超过内存⼤⼩。redis支持的数据结构
Redis有部份存在硬盘上,这样能保证数据的持久性。
数据⽀持类型
Memcache对数据类型⽀持相对简单。
Redis有复杂的数据类型。
value⼤⼩
redis最⼤可以达到1GB,⽽memcache只有1MB
Redis 常见的性能问题都有哪些?如何解决?
Master写内存快照,save命令调度rdbSave函数,会阻塞主线程的⼯作,当快照⽐较⼤时对性能影响是⾮常⼤的,会间断性暂停服务,所以Master最好不要写内存快照。
Master AOF持久化,如果不重写AOF⽂件,这个持久化⽅式对性能的影响是最⼩的,但是AOF⽂件会不断增⼤,AOF⽂件过⼤会影响Master重启的恢复速度。Master最好不要做任何持久化⼯作,包括内存快照和AOF⽇志⽂件,特别是不要启⽤内存快照做持久化,如果数据⽐较关键,某个Slave开启AOF备份数据,策略为每秒同步⼀次。
Master调⽤BGREWRITEAOF重写AOF⽂件,AOF在重写的时候会占⼤量的CPU和内存资源,导致服务load过⾼,出现短暂服务暂停现象。
Redis主从复制的性能问题,为了主从复制的速度和连接的稳定性,Slave和Master最好在同⼀个局域⽹内
redis 最适合的场景
Redis最适合所有数据in-momory的场景,虽然Redis也提供持久化功能,但实际更多的是⼀个disk-backed的功能,跟传统意义上的持久化有⽐较⼤的差别,那么可能⼤家就会有疑问,似乎Redis更像⼀个加强版的Memcached,那么何时使⽤Memcached,何时使⽤Redis呢?
如果简单地⽐较Redis与Memcached的区别,⼤多数都会得到以下观点:
Redis不仅仅⽀持简单的k/v类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
Redis⽀持数据的备份,即master-slave模式的数据备份。
Redis⽀持数据的持久化,可以将内存中的数据保持在磁盘中,重启的时候可以再次加载进⾏使⽤。
会话缓存(Session Cache)
最常⽤的⼀种使⽤Redis的情景是会话缓存(session cache)。⽤Redis缓存会话⽐其他存储(如Memcac
hed)的优势在于:Redis提供持久化。当维护⼀个不是严格要求⼀致性的缓存时,如果⽤户的购物车信息全部丢失,⼤部分⼈都会不⾼兴的,现在,他们还会这样吗?
幸运的是,随着 Redis 这些年的改进,很容易到怎么恰当的使⽤Redis来缓存会话的⽂档。甚⾄⼴为⼈知的商业平台Magento也提供Redis的插件。
全页缓存(FPC)
除基本的会话token之外,Redis还提供很简便的FPC平台。回到⼀致性问题,即使重启了Redis实例,因为有磁盘的持久化,⽤户也不会看到页⾯加载速度的下降,这是⼀个极⼤改进,类似PHP本地FPC。
再次以Magento为例,Magento提供⼀个插件来使⽤Redis作为全页缓存后端。
此外,对WordPress的⽤户来说,Pantheon有⼀个⾮常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页⾯。
队列
Reids在内存存储引擎领域的⼀⼤优点是提供 list 和 set 操作,这使得Redis能作为⼀个很好的消息队
列平台来使⽤。Redis作为队列使⽤的操作,就类似于本地程序语⾔(如Python)对 list 的 push/pop 操作。
如果你快速的在Google中搜索“Redis queues”,你马上就能到⼤量的开源项⽬,这些项⽬的⽬的就是利⽤Redis创建⾮常好的后端⼯具,以满⾜各种队列需求。例如,Celery有⼀个后台就是使⽤Redis作为broker,你可以从这⾥去查看。
排⾏榜/计数器
Redis在内存中对数字进⾏递增或递减的操作实现的⾮常好。集合(Set)和有序集合(Sorted Set)也使得我们在执⾏这些操作的时候变的⾮常简单,Redis只是正好提供了这两种数据结构。所以,我们要从排序集合中获取到排名最靠前的10个⽤户–我们称之为“user_scores”,我们只需要像下⾯⼀样执⾏即可:
当然,这是假定你是根据你⽤户的分数做递增的排序。如果你想返回⽤户及⽤户的分数,你需要这样执⾏:
发布/订阅
最后(但肯定不是最不重要的)是Redis的发布/订阅功能。发布/订阅的使⽤场景确实⾮常多。我已看见
⼈们在社交⽹络连接中使⽤,还可作为基于发布/订阅的脚本触发器,甚⾄⽤Redis的发布/订阅功能来建⽴聊天系统!(不,这是真的,你可以去核实)。
Redis提供的所有特性中,我感觉这个是喜欢的⼈最少的⼀个,虽然它为⽤户提供如果此多功能。
redis⽀持五⼤数据类型
字符串:k1:'123'
列表:[1,2,3,4]
集合:{1,2,3,4}
字典/哈希表:{name:lqz,age:12}
有序集合:k5:{('lqz',18),('egon',33)}
reids⽀持五⼤数据类型,只⽀持第⼀层,也就是说字典的value值必须是字符串,如果value值想存字典格式,那么必须⽤json转换⼀下,转成字符串,然后存储;
python普通连接redis
redis-py提供两个类Redis和StrictRedis⽤于实现Redis的命令,StrictRedis⽤于实现⼤部分官⽅的命令,并使⽤官⽅的语法和命
令,Redis是StrictRedis的⼦类,⽤于向后兼容旧版本的redis-py
import redis
r = redis.Redis(host='127.0.0.1', port=6379)
r.set('foo', 'Bar')
('foo'))
Python操作Redis之连接池
redis-py使⽤connection pool来管理对⼀个redis server的所有连接,避免每次建⽴、释放连接的开销。默认,每个Redis实例都会维护⼀个⾃⼰的连接池。可以直接建⽴⼀个连接池,然后作为参数Redis,这样就可以实现多个Redis实例共享⼀个连接池
import redis
# 拿到⼀个redis的连接池
pool=redis.ConnectionPool(host='127.0.0.1',port=6379,max_connections=100)
# 拿到⼀个连接
conn=redis.Redis(connection_pool=pool)
# 这样的话每次都会创建池⼦,所以我们需要借助单例模式来实现连接池,将上⾯的pool创建为⼀个模块
redis操作字符串
set(name, value, ex=None, px=None, nx=False, xx=False)
在Redis中设置值,默认,不存在则创建,存在则修改
参数:
ex,过期时间(秒)
px,过期时间(毫秒)
nx,如果设置为True,则只有name不存在时,当前set操作才执⾏,值存在,就修改不了,执⾏没效果
xx,如果设置为True,则只有name存在时,当前set操作才执⾏,值存在才能修改,值不存在,不会设置新值
setnx(name, value):设置值,只有name不存在时,执⾏设置操作(添加),如果存在,不会修改; 实际上就是set(key,value,nx=True)
setex(name, time, value):在设置的时候带上超时时间,实际上就是set(key,value,ex=tinme),单位是秒;
psetex(name, time_ms, value):在设置的时候带上超时时间,实际上就是set(key,value,px=tinme),单位是毫秒;
mset(*args, **kwargs):批量设置,mset(k1='v1', k2='v2'),mget({'k1': 'v1', 'k2': 'v2'})
get(name):获取值;
mget(keys, *args):批量获取值,mget('k1', 'k2'),r.mget(['k3', 'k4']);
getset(name, value):设置新值并获取原来的值;
getrange(key, start, end):取字符,⼀个汉字三个字符;
setrange(name, offset, value):修改字符串内容,从指定字符串索引开始向后替换(新值太长时,则向后添加),offset,字符串的索引,字节(⼀个汉字三个字节),value,要设置的值;
strlen(name):返回name对应值的字节长度(⼀个汉字3个字节);
incr(self, name, amount=1):⾃增 name对应的值,当name不存在时,则创建name=amount,否则,则⾃增,amount,⾃增数(必须是整数);
decr(self, name, amount=1):⾃减 name对应的值,当name不存在时,则创建name=amount,否则,则⾃减,amount,⾃减数(整数);
append(key, value):在redis name对应的值后⾯追加内容,value, 要追加的字符串;
redis操作hash/字典
hset(name, key, value):以hash的形式插⼊数据,name对应的hash中设置⼀个键值对(不存在,则创建;否则,修改);
参数:
name,redis的name
key,name对应的hash中的key
value,name对应的hash中的value
注:hsetnx(name, key, value),当name对应的hash中不存在当前key时则创建(相当于添加)
hmset(name, mapping):在name对应的hash中批量设置键值对;
参数:
name,redis的name
mapping,字典,如:{'k1':'v1', 'k2': 'v2'}
如:
r.hmset('xx', {'k1':'v1', 'k2': 'v2'})
hget(name,key):在name对应的hash中获取根据key获取value,name是redis数据的name,key是value⾥⾯的key;
hmget(name, keys, *args):在name对应的hash中获取多个key的值;
参数:
name,reids对应的name
keys,要获取key集合,如:['k1', 'k2', 'k3']
*args,要获取的key,如:k1,k2,k3
如:
<('xx', ['k1', 'k2'])
print r.hmget('xx', 'k1', 'k2')
hgetall(name):获取name对应hash的所有键值;
如:
print(re.hgetall('xxx').get(b'name'))
hlen(name):获取name对应的hash中键值对的个数;
hkeys(name):获取name对应的hash中所有的key的值;
hvals(name):获取name对应的hash中所有的value的值;
hexists(name, key):检查name对应的hash是否存在当前传⼊的key;
hdel(name,*keys):将name对应的hash中指定key的键值对删除;

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。