百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

Redis之Lua脚本 redis 脚本

liuian 2024-12-25 13:59 20 浏览

Redis在2.6版本提供了Lua脚本支持,在Redis服务器启动阶段创建并初始化一个Lua环境,并将其嵌入到服务器中。lua脚本是一种由C编写的可嵌入的轻量级语言,详见Lua官网:http://www.lua.org。

Lua环境创建过程

Redis服务器在启动阶段通过C加载Lua lib创建其运行时环境,同时为了效率及安全性也对该运行时环境做了一系列的调整。具体如下:

  • 创建一个基础的Lua环境lua_State。
  • 加载lua函数库,注册了一些组件到lua运行时环境,如cjson、bit等。
  • 移除了一些对Redis服务器非安全的函数,例如文件加loadfile、dofile等。
  • 初始化lua脚本的存储结构lua_scripts字典。
  • 注册Redis命令函数到lua运行时环境,如redis.call函数。
  • 替换lua原有的可能带来副作用的函数,如随机函数,以及创建了排序函数。
  • 创建lua_client,该客户端用于执行lua脚本中包含的Redis命令。
  • 为了防止客户端在提交lua脚本引入额外的全局变量,Redis服务器对lua全局环境进行了保护,不能新增全局变量但已存在变量值可以被改变。
  • 保存lua环境值redisServer。

lua随机函数及排序函数替换

Redis涉及到主从复制,如果同一个脚本在不同的服务器执行得到了不同的结果,可能带来一致性问题,因此Redis希望lua的一些函数不能带有副作用。例如lua的随机数函数,其可能导致主从服务器执行得到不同的结果。另外一个是排序函数,Redis希望同一个集合类型的每次查询结结果集内元素都是顺序一致的,为了消除这种不确定性,Redis创建了排序函数供lua脚本使用。

Lua客户端

伪客户端的存在是为了不影响Redis现有的架构,将lua脚本中的Redis命令交由其提交给Redis命令执行器,命令执行器将其视为一个客户端正常addReply给伪客户端,伪客户端再将结果返回给lua环境,最终到脚本执行完成,返回给实际请求的客户端。过程如下:

EVAL命令的执行过程

EVAL命令的格式:EVAL script numkeys KEYS ARGS

    • script:脚本内容
    • numkeys:脚本中指定键名的个数
    • KEYS:键名集,通过全局变量KEYS数组表示,起始下标为1
    • ARGS:键值参数集,通过全局变量ARGV数组表示,起始下标为1
  • lua脚本发送到Redis服务器会对其内容计算校验和,然后缓存至lus_scripts字典中。
  • Redis服务器会给每一个要执行的不同lua脚本生成一个唯一方法,该方法的名为:固定前缀 f_ +脚本sha1校验和。
  • 该方法会被注册到lua环境,而且该方法涉及的参数KEYS与ARGV都会被加入到lua全局变量中供脚本执行时使用。
  • lua脚本支持执行超时中断,通过在脚本执行前注册超时钩子方法来处理中断。

为什么EVAL命令的语义要求字面量不要直接写在lua脚本中?

因为lua脚本会被保存在Redis服务器的lus_scripts字典中,其中key就是脚本的sha1校验和,如果lua脚本中字面量写死在了脚本中,将会产生大量的不可重复使用的脚本对象在该字典中,脚本对象无法重复利用,会导致大量的内存占用及内存泄漏的风险。

lua脚本中断执行的实现原理?

如果脚本执行设置了超时钩子,那么脚本执行器将定期调用该钩子方法检测脚本是否已经超时执行,如果已经超时,该钩子方法会检测客户端是否有SCRIPT KILL命令或者SHUTDOWN NOSAVE命令请求,如果有则执行命令,中断脚本执行。SCRIPT KILL命令只能在脚本没有执行过任何写入操作时可用,如果脚本已经执行了写入操作,那么只能用SHUTDOWN NOSAVE命令来停止服务器,防止脏数据被写入到数据库。

脚本的复制

若服务器开启了AOF模式,那么EVAL命令记录到AOF文件中将会是MUTIL+EXEC(事务相关命令,详见我的主页《Reids之Transaction(事务)》),也就是说会将其当做一个Redis事务来记录。lua脚本本身包含了一个或者多个命令,在Redis服务端一次性执行,这和Redis事务实现类似。区别在于事务的命令在提交前暂存在事务队列,事务提交后依次执行,而lua脚本是命令打包到一个lua脚本中,执行脚本是通过伪客户端依次执行命令。

Redis Lua脚本和事务

从定义上来说, Redis 中的脚本本身就是一种事务, 所以任何在事务里可以完成的事, 在脚本里面也能完成。 并且一般来说, 使用脚本要来得更简单,并且速度更快。

因为脚本功能是 Redis 2.6 才引入的, 而事务功能则更早之前就存在了, 所以 Redis 才会同时存在两种处理事务的方法。

不过我们并不打算在短时间内就移除事务功能, 因为事务提供了一种即使不使用脚本, 也可以避免竞争条件的方法, 而且事务本身的实现并不复杂。

不过在不远的将来, 可能所有用户都会只使用脚本来实现事务也说不定。 如果真的发生这种情况的话, 那么我们将废弃并最终移除事务功能。

应用场景

lua脚本可谓是Redis能力倍增器,从一些优秀的Redis中间件就可以看出。例如Redisson,一款非常受欢迎的Redis客户端,该客户端实现了非常丰富的功能,比如:分布式锁(RedissonLock支持重入、RedLock等)、分布式集合(RQueue、RSet)等。该客户端中大量地使用了lua脚本来实现各种功能,后续我会进行深入的讲解。
一个Redisson中RedissonLock加/解锁使用lua的示例:

// ====【加锁】lua脚本=====================================
// 先执行exists key1命令,判断KEYS[1]是否存在
if (redis.call('exists', KEYS[1]) == 0) 
then
	// 不存在,执行hincrby key1 field命令,将ARGV[2]的值原子加1
	// 并设置KEYS[1]的过期时间为ARGV[1]
    // 返回nil
    redis.call('hincrby', KEYS[1], ARGV[2], 1);
    redis.call('pexpire', KEYS[1], ARGV[1]); 
    return nil; 
end; 
// 执行hexists key field命令,判断ARGV[2]是否存在
if (redis.call('hexists', KEYS[1], ARGV[2]) == 1)
then 
	// 存在,与上面then逻辑一致
    redis.call('hincrby', KEYS[1], ARGV[2], 1); 
    redis.call('pexpire', KEYS[1], ARGV[1]); 
    return nil; 
end;

// 若key存在且key field也存在,执行pttl key命令,返回KEYS[1]的过期时间
return redis.call('pttl', KEYS[1]);
// ====【解锁】lua脚本=====================================
// 执行hexists key1 field命令,判断判断ARGV[3]是否存在
if (redis.call('hexists', KEYS[1], ARGV[3]) == 0) 
then 
	// 不存在,返回nil
	return nil;
end;
// 执行hincrby key1 field命令,获取结果
local counter = redis.call('hincrby', KEYS[1], ARGV[3], -1); 
if (counter > 0)
then
	// counter大于0,执行pexpire key1 命令,设置key过期时间为ARGV[2]
	redis.call('pexpire', KEYS[1], ARGV[2]);
	return 0;
else 
    // 否则,执行del key命令,删除KEYS[1]
    // 执行publish channel message命令,向KEYS[2]发送消息ARGV[1]
    redis.call('del', KEYS[1]); 
	redis.call('publish', KEYS[2], ARGV[1]);
	return 1;
end;

return nil;

从这两段脚本可以看出Redis集成lua脚本的强大之处,自由度非常高,客制化的实现非常的便捷。当然,如果将复杂的业务逻辑搬进来是要极其谨慎的,如果是一个非常耗时的脚本(操作大key、循环等)很有可能严重影响到服务器的吞吐量。如果不得不这么做,那么一定要记得设置执行超时时间。

以上就是Redis Lua脚本的介绍,如果各位还想了解更多,欢迎转发+评论+关注,Redis图解系列专栏持续更新中,欢迎进入我的主页查看更多

相关推荐

GANs为何引爆机器学习?这篇基于TensorFlow的实例教程为你解惑!

「机器人圈导览」:生成对抗网络无疑是机器学习领域近三年来最火爆的研究领域,相关论文层出不求,各种领域的应用层出不穷。那么,GAN到底如何实践?本文编译自Medium,该文作者以一朵玫瑰花为例,详细阐...

高丽大学等机构联合发布StarGAN:可自定义表情和面部特征

原文来源:arXiv、GitHub作者:YunjeyChoi、MinjeChoi、MunyoungKim、Jung-WooHa、SungKim、JaegulChoo「雷克世界」编译:嗯~...

TensorFlow和PyTorch相继发布最新版,有何变化

原文来源:GitHub「机器人圈」编译:嗯~阿童木呀、多啦A亮Tensorflow主要特征和改进在Tensorflow库中添加封装评估量。所添加的评估量列表如下:1.深度神经网络分类器(DNNCl...

「2022 年」崔庆才 Python3 爬虫教程 - 深度学习识别滑动验证码缺口

上一节我们使用OpenCV识别了图形验证码躯壳欧。这时候就有朋友可能会说了,现在深度学习不是对图像识别很准吗?那深度学习可以用在识别滑动验证码缺口位置吗?当然也是可以的,本节我们就来了解下使用深度...

20K star!搞定 LLM 微调的开源利器

LLM(大语言模型)微调一直都是老大难问题,不仅因为微调需要大量的计算资源,而且微调的方法也很多,要去尝试每种方法的效果,需要安装大量的第三方库和依赖,甚至要接入一些框架,可能在还没开始微调就已经因为...

大模型DeepSeek本地部署后如何进行自定义调整?

1.理解模型架构a)查看深度求索官方文档或提供的源代码文件,了解模型的结构、输入输出格式以及支持的功能。模型是否为预训练权重?如果是,可以在预训练的基础上进行微调(Fine-tuning)。是否需要...

因配置不当,约5000个AI模型与数据集在公网暴露

除了可访问机器学习模型外,暴露的数据还可能包括训练数据集、超参数,甚至是用于构建模型的原始数据。前情回顾·人工智能安全动态向ChatGPT植入恶意“长期记忆”,持续窃取用户输入数据多模态大语言模型的致...

基于pytorch的深度学习人员重识别

基于pytorch的深度学习人员重识别Torchreid是一个库。基于pytorch的深度学习人员重识别。特点:支持多GPU训练支持图像的人员重识别与视频的人员重识别端到端的训练与评估简单的re...

DeepSeek本地部署:轻松训练你的AI模型

引言:为什么选择本地部署?在AI技术飞速发展的今天,越来越多的企业和个人希望将AI技术应用于实际场景中。然而,对于一些对数据隐私和计算资源有特殊需求的用户来说,云端部署可能并不是最佳选择。此时,本地部...

谷歌今天又开源了,这次是Sketch-RNN

前不久,谷歌公布了一项最新技术,可以教机器画画。今天,谷歌开源了代码。在我们研究其代码之前,首先先按要求设置Magenta环境。(https://github.com/tensorflow/magen...

Tensorflow 使用预训练模型训练的完整流程

前面已经介绍了深度学习框架Tensorflow的图像的标注和训练数据的准备工作,本文介绍一下使用预训练模型完成训练并导出训练的模型。1.选择预训练模型1.1下载预训练模型首先需要在Tensorf...

30天大模型调优学习计划(30分钟训练大模型)

30天大模型调优学习计划,结合Unsloth和Lora进行大模型微调,掌握大模型基础知识和调优方法,熟练应用。第1周:基础入门目标:了解大模型基础并熟悉Unsloth等工具的基本使用。Day1:大模...

python爬取喜马拉雅音频,json参数解析

一.抓包分析json,获取加密方式1.抓包获取音频界面f12打开抓包工具,播放一个(非vip)视频,点击“媒体”单击打开可以复制URL,发现就是我们要的音频。复制“CKwRIJEEXn-cABa0Tg...

五、JSONPath使用(Python)(json数据python)

1.安装方法pipinstalljsonpath2.jsonpath与Xpath下面表格是jsonpath语法与Xpath的完整概述和比较。Xpathjsonpath概述/$根节点.@当前节点...

Python网络爬虫的时候json=就是让你少写个json.dumps()

大家好,我是皮皮。一、前言前几天在Python白银交流群【空翼】问了一个Python网络爬虫的问题,提问截图如下:登录请求地址是这个:二、实现过程这里【甯同学】给了一个提示,如下所示:估计很多小伙伴和...