当前位置:首页 > 科技  > 软件

如何校验内存数据的一致性,DynamicExpresso 算是帮上大忙了

来源: 责编: 时间:2023-10-10 18:31:44 354观看
导读一:背景1. 讲故事记的在上一家公司做全内存项目的时候,因为一些关键表会在程序 startup 的时候全量灌入到内存中,但随着时间的推移,内存和数据库的同步偶尔会出现数据差异的情况,伴随着就是运营那边报过来的 bug,检查数据库

一:背景

1. 讲故事

记的在上一家公司做全内存项目的时候,因为一些关键表会在程序 startup 的时候全量灌入到内存中,但随着时间的推移,内存和数据库的同步偶尔会出现数据差异的情况,伴随着就是运营那边报过来的 bug,检查数据库的数据完整性很简单,直接写一些 sql 验证一下就好了,但校验内存中的数据就非常麻烦了,因为你不能像写 sql 一样直接去查生产中的内存集合,那怎么办呢?为了方便演示问题,先上一段演示代码:BQy28资讯网——每日最新资讯28at.com

class Program    {        static void Main(string[] args)        {            var tradeList = new List<Trade>()            {                new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},                new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=2},                new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}            };        }    }    class Trade    {        public int TradeID { get; set; }        public string TradeTitle { get; set; }        public DateTime Created { get; set; }        public int CustomerID { get; set; }    }

上面的 tradeList 就是内存中的集合,现在有一个问题,我想查询一下 trade 表中 CustomerID in (1,2,10) && Created <= '2020-08-01' 的记录是否和内存中的 tradelist 一致。BQy28资讯网——每日最新资讯28at.com

用 sql 验证太简单了,直接在查询分析器里面写一下sql 搞定,如下图:BQy28资讯网——每日最新资讯28at.com

图片图片BQy28资讯网——每日最新资讯28at.com

那在 UI 上 怎么验证呢?BQy28资讯网——每日最新资讯28at.com

二:寻找解决方法

1. 在UI上自定义高级查询

这个也是大家最容易想到的,使用多个 if 叠加查询条件,如下代码所示:BQy28资讯网——每日最新资讯28at.com

static void Main(string[] args)        {            var tradeList = new List<Trade>()            {                new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},                new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=2},                new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}            };            IEnumerable<Trade> query = tradeList;            //UI            var queryCustomerIDList = new List<int>() { 1, 2, 10};            var queryCreated = "2020-08-01";            if (queryCustomerIDList.Count > 0)            {                query = query.Where(m => queryCustomerIDList.Contains(m.CustomerID));            }            if (string.IsNullOrEmpty(queryCreated))            {                query = query.Where(m => m.Created <= Convert.ToDateTime(queryCreated));            }            //最后的结果            var list = query.ToList();        }

图片图片BQy28资讯网——每日最新资讯28at.com

问题貌似是可以解决,但是这种用 if 叠加的方式不觉得太不灵活了吗?如果客户心情不好,又来了一个 TradeID between 1 and 10 的筛选条件,那上面的代码是不是还得加一个 TradeID 的判断 ?太麻烦了,还得继续寻找更灵活的姿势。BQy28资讯网——每日最新资讯28at.com

2. 使用DataTable

哈哈,大家看到 DataTable 是不是有一点懵逼,可不要小瞧这玩意,人家可是直接支持 sql 查询的哦,这灵活性不容小觑哈,上一段代码说话:BQy28资讯网——每日最新资讯28at.com

static void Main(string[] args)        {            var tradeList = new List<Trade>()            {                new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},                new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=1},                new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}            };            var table = CopyToDataTable(tradeList);            var query = table.Select("CustomerID in (1,2,10) and Created <= '2020-08-01' and TradeID >= 1 and TradeID <= 10")                            .Select(m => new Trade()                            {                                TradeID = Convert.ToInt32(m[0]),                                TradeTitle = Convert.ToString(m[1]),                                Created = Convert.ToDateTime(m[2]),                                CustomerID = Convert.ToInt32(3)                            }).ToList();        }        public static DataTable CopyToDataTable<T>(IEnumerable<T> array)        {            var ret = new DataTable();            foreach (PropertyDescriptor dp in TypeDescriptor.GetProperties(typeof(T)))                ret.Columns.Add(dp.Name);            foreach (T item in array)            {                var Row = ret.NewRow();                foreach (PropertyDescriptor dp in TypeDescriptor.GetProperties(typeof(T)))                    Row[dp.Name] = dp.GetValue(item);                ret.Rows.Add(Row);            }            return ret;        }

图片图片BQy28资讯网——每日最新资讯28at.com

是不是很强大,直接将文本化的 sql 塞入到 DataTable 中,你想什么样的查询你就写什么样的 sql 就 ok 啦,当然,理论归理论,在我的场景中肯定是不会这么玩的,毕竟内存中的 trade 有上千万行,转成 DataTable 不是给自己挖坑嘛,那有没有其他的方式呢?BQy28资讯网——每日最新资讯28at.com

3. 使用 表达式树 (ExpressionTree)

我想很多人看到 表达式树 都会退避三舍,虽然这玩意很强大,但是太复杂了,它会将你的查询语句拆解成树中的节点从而构建一棵非常复杂的树结构,其实 DataTable 对 sql语句的解析也是在内存中构建了一棵解析树,所以这玩意太反人类了,比如你要构建 i > 5 的查询,你需要下面这样的硬编码,这还是非常简单的哈,复杂的会让你吐血。BQy28资讯网——每日最新资讯28at.com

ParameterExpression param = Expression.Parameter(typeof(int), "i");            ConstantExpression constExp = Expression.Constant(5, typeof(int));            BinaryExpression greaterThan = Expression.GreaterThan(param, constExp);            Expression<Func<int, bool>> f = Expression.Lambda<Func<int, bool>>(greaterThan, param);            Func<int, bool> mydelegate = f.Compile();            Console.WriteLine(mydelegate(5));

图片图片BQy28资讯网——每日最新资讯28at.com

从图中可以看到,5>5 = False 是没有问题的,既然表达式树是可以解决类似这样的场景,聪明的你应该会想到,开源社区是否又类似封装好的 ExpressionTree 开发包呢?说实话,还真有。。。BQy28资讯网——每日最新资讯28at.com

4. DynamicExpresso 开发工具包

开源大法好,github地址:https://github.com/davideicardi/DynamicExpresso , 这玩意实现了 将文本化的 C# 语句 动态转换成 delegate,这句话是什么意思呢?大家可以看一下这张图:BQy28资讯网——每日最新资讯28at.com

图片图片BQy28资讯网——每日最新资讯28at.com

从上图可以看到,你可以 写一些文本化的 C# 语句,然后经过 DynamicExpresso 处理后转换成了可执行 delegate,如果你没看懂,我用代码表示一下,如下图:BQy28资讯网——每日最新资讯28at.com

图片BQy28资讯网——每日最新资讯28at.com

其中: 30 = 5 * 8 / 2 + 10 ,重点在于这里的 数学表达式 是文本的,有了这个思路,那我是不是也可以将 tradeList 的查询条件文本化表示,如下代码:BQy28资讯网——每日最新资讯28at.com

var interpreter = new Interpreter();            interpreter.Reference(typeof(System.Linq.Enumerable));            interpreter.SetVariable("arr", new int[] { 1, 2, 10 });            string whereExpression = "(trade.CustomerID == 1 || trade.CustomerID==2 || trade.CustomerID==10) && " +                                     "trade.Created <= Convert.ToDateTime(/"2020-08-01/") &&" +                                     "trade.TradeID >= 1 && " +                                     "trade.TradeID <=10";            Func<Trade, bool> queryFunc = interpreter.ParseAsDelegate<Func<Trade, bool>>(whereExpression, "trade");            var list = tradeList.Where(queryFunc).ToList();            var i = Enumerable.Contains(new int[] { 1, 2, 3 }, 3);

图片图片BQy28资讯网——每日最新资讯28at.com

问题搞定,还是比较完美的

本文链接:http://www.28at.com/showinfo-26-12730-0.html如何校验内存数据的一致性,DynamicExpresso 算是帮上大忙了

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 构建第一个GraalVM应用镜像,体验毫秒级极速启动!

下一篇: 使用Python分析时序数据集中的缺失数据

标签:
  • 热门焦点
  • MIX Fold3包装盒泄露 新机本月登场

    小米的全新折叠屏旗舰MIX Fold3将于本月发布,近日该机的真机包装盒在网上泄露。从图上来看,新的MIX Fold3包装盒在外观设计方面延续了之前的方案,变化不大,这也是目前小米旗舰
  • 直屏旗舰来了 iQOO 12和K70 Pro同台竞技

    旗舰机基本上使用的都是双曲面屏幕,这就让很多喜欢直屏的爱好者在苦等一款直屏旗舰,这次,你们等到了。据博主数码闲聊站带来的最新爆料称,Redmi下代旗舰K70 Pro和iQOO 12两款手
  • 7月安卓手机好评榜:三星S23Ultra好评率第一

    性能榜和性价比榜之后,我们来看最后的安卓手机好评榜,数据来源安兔兔评测,收集时间2023年7月1日至7月31日,仅限国内市场。第一名:三星Galaxy S23 Ultra好评率:95.71%在即将迎来新
  • 5月iOS设备性能榜:M1 M2依旧是榜单前五

    和上个月一样,没有新品发布的iOS设备性能榜的上榜设备并没有什么更替,仅仅只有跑分变化而产生的排名变动,刚刚开始的苹果WWDC2023,推出的产品也依旧是新款Mac Pro、新款Mac Stu
  • 轿车从天而降电动车主被撞身亡 超速抢道所致:现场视频让网友吵翻

    近日,上海青浦区法院判决轿车从天而降电动车主被撞身亡案,轿车车主被判有期徒刑一年。案件显示当时男子驾驶轿车在上海某路段行驶,前车忽然转弯提速超车,
  • 使用AIGC工具提升安全工作效率

    在日常工作中,安全人员可能会涉及各种各样的安全任务,包括但不限于:开发某些安全工具的插件,满足自己特定的安全需求;自定义github搜索工具,快速查找所需的安全资料、漏洞poc、exp
  • 得物宠物生意「狂飙」,发力“它经济”

    作者|花花小萌主近日,得物宣布正式上线宠物鉴别,通过得物App内的&ldquo;在线鉴别&rdquo;,可找到鉴别宠物的选项。通过上传自家宠物的部位细节,就能收获拥有专业资质认证的得物鉴
  • 华为发布HarmonyOS 4:更好玩、更流畅、更安全

    在8月4日的华为开发者大会2023(HDC.Together)大会上,HarmonyOS 4正式发布。自2019年发布以来,HarmonyOS一直以用户为中心,经历四年多的发展HarmonyOS已
  • 华为HarmonyOS 4.0将于8月4日发布 或搭载AI大模型技术

    华为宣布HarmonyOS4.0将于8月4日正式发布。此前,华为已经针对开发者公布了HarmonyOS4.0,以便于开发者提前进行适配,也因此被曝光出了一些新系统的特性
Top