当前位置:首页 > 科技  > 软件

四个解决特定的任务的Pandas高效代码

来源: 责编: 时间:2023-12-04 17:25:59 394观看
导读在本文中,我将分享4个在一行代码中完成的Pandas操作。这些操作可以有效地解决特定的任务,并以一种好的方式给出结果。从列表中创建字典我有一份商品清单,我想看看它们的分布情况。更具体地说:希望得到唯一值以及它们在列

在本文中,我将分享4个在一行代码中完成的Pandas操作。这些操作可以有效地解决特定的任务,并以一种好的方式给出结果。kQN28资讯网——每日最新资讯28at.com

kQN28资讯网——每日最新资讯28at.com

从列表中创建字典

我有一份商品清单,我想看看它们的分布情况。更具体地说:希望得到唯一值以及它们在列表中出现的次数。kQN28资讯网——每日最新资讯28at.com

Python字典是以这种格式存储数据的好方法。键将是字典,值是出现的次数。kQN28资讯网——每日最新资讯28at.com

这里可以使用value_counts和to_dict函数,这项任务可以在一行代码中完成。kQN28资讯网——每日最新资讯28at.com

这里有一个简单的例子来说明这种情况:kQN28资讯网——每日最新资讯28at.com

import pandas as pd  grades = ["A", "A", "B", "B", "A", "C", "A", "B", "C", "A"]  pd.Series(grades).value_counts().to_dict()  # output {'A': 5, 'B': 3, 'C': 2}

将列表转换为Pandas Series,这是Pandas的一维数据结构,然后应用value_counts函数来获得在Series中出现频率的唯一值,最后将输出转换为字典。这个操作非常高效且易于理解。kQN28资讯网——每日最新资讯28at.com

从JSON文件创建DataFrame

JSON是一种常用的存储和传递数据的文件格式。kQN28资讯网——每日最新资讯28at.com

当我们清理、处理或分析数据时,我们通常更喜欢使用表格格式(或类似表格的数据)。由于json_normalize函数,我们可以通过一个操作从json格式的对象创建Pandas DataFrame。kQN28资讯网——每日最新资讯28at.com

假设数据存储在一个名为data的JSON文件中。一般情况我们都是这样读取:kQN28资讯网——每日最新资讯28at.com

import json  with open("data.json") as f:     data = json.load(f)  data # output {'data': [{'id': 101,    'category': {'level_1': 'code design', 'level_2': 'method design'},    'priority': 9},  {'id': 102,    'category': {'level_1': 'error handling', 'level_2': 'exception logging'},    'priority': 8}]}

如果我们将这个变量传递给DataFrame构造函数,它将创建如下的DataFrame,这绝对不是一个可用的格式:kQN28资讯网——每日最新资讯28at.com

df = pd.DataFrame(data)

kQN28资讯网——每日最新资讯28at.com

但是如果我们使用json_normalize函数将得到一个整洁的DataFrame格式:kQN28资讯网——每日最新资讯28at.com

df = pd.json_normalize(data, "data")

kQN28资讯网——每日最新资讯28at.com

Explode函数

如果有一个与特定记录匹配的项列表。需要重新格式化它,为该列表中的每个项目提供单独的行。kQN28资讯网——每日最新资讯28at.com

kQN28资讯网——每日最新资讯28at.com

这是一个经典的行分割成列的问题。有许多的不同的方法来解决这个任务。其中最简单的一个(可能是最简单的)是Explode函数。kQN28资讯网——每日最新资讯28at.com

我们以这个df为例kQN28资讯网——每日最新资讯28at.com

kQN28资讯网——每日最新资讯28at.com

使用explosion函数并指定列名:kQN28资讯网——每日最新资讯28at.com

df_new = df.explode(column="data").reset_index(drop=True)

kQN28资讯网——每日最新资讯28at.com

reset_index会为DataFrame分配一个新的整数索引。kQN28资讯网——每日最新资讯28at.com

combine_first函数

combine_first函数用于合并两个具有相同索引的数据结构。kQN28资讯网——每日最新资讯28at.com

它最主要的用途是用一个对象的非缺失值填充另一个对象的缺失值。这个函数通常在处理缺失数据时很有用。在这方面,它的作用与SQL中的COALESCE函数相同。kQN28资讯网——每日最新资讯28at.com

df = pd.DataFrame(    {         "A": [None, 0, 12, 5, None],          "B": [3, 4, 1, None, 11]    } )

kQN28资讯网——每日最新资讯28at.com

我们需要a列中的数据。如果有一行缺少值(即NaN),用B列中同一行的值填充它。kQN28资讯网——每日最新资讯28at.com

df["A"].combine_first(df["B"])  # output 0     3.0 1     0.0 2    12.0 3     5.0 4    11.0 Name: A, dtype: float64

可以看到的列A的第一行和最后一行取自列B。kQN28资讯网——每日最新资讯28at.com

如果我们想要使用3列,我们可以链接combine_first函数。下面的代码行首先检查列a。如果有一个缺失的值,它从列B中获取它。如果列B中对应的行也是NaN,那么它从列C中获取值。kQN28资讯网——每日最新资讯28at.com

df["A"].combine_first(df["B"]).combine_first(df["C"])

我们还可以在DataFrame级别使用combine_first函数。在这种情况下,所有缺失的值都从第二个DataFrame的相应值(即同一行,同列)中填充。kQN28资讯网——每日最新资讯28at.com

df1 = pd.DataFrame({'A': [1, 2, np.nan, 4], 'B': [5, np.nan, 7, 8]}, index=['a', 'b', 'c', 'd']) df2 = pd.DataFrame({'A': [10, np.nan, 30, 40], 'B': [50, 60, np.nan, 80]}, index=['a', 'b', 'c', 'd']) result_df = df1.combine_first(df2)

在合并的过程中,df1 中的非缺失值填充了 df2 中对应位置的缺失值。这有助于处理两个数据集合并时的缺失值情况。kQN28资讯网——每日最新资讯28at.com

Merged DataFrame:       A     B a   1.0   5.0 b   2.0  60.0 c  30.0   7.0 d   4.0   8.0

总结

从计算简单的统计数据到高度复杂的数据清理过程,Pandas都可以快速解决任务。上面的代码可能不会经常使用,但是当你需要处理这种任务时,它们是非常好的解决办法。kQN28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-37666-0.html四个解决特定的任务的Pandas高效代码

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 深入浅出JavaScript异步编程

下一篇: 开发者必备的五类AI工具,不容错过!

标签:
  • 热门焦点
  • 5月安卓手机好评榜:魅族20 Pro夺冠

    性能榜和性价比榜之后,我们来看最后的安卓手机好评榜,数据来源安兔兔评测,收集时间2023年5月1日至5月31日,仅限国内市场。第一名:魅族20 Pro好评率:97.50%不得不感慨魅族老品牌还
  • 三言两语说透设计模式的艺术-简单工厂模式

    一、写在前面工厂模式是最常见的一种创建型设计模式,通常说的工厂模式指的是工厂方法模式,是使用频率最高的工厂模式。简单工厂模式又称为静态工厂方法模式,不属于GoF 23种设计
  • 一年经验在二线城市面试后端的经验分享

    忠告这篇文章只适合2年内工作经验、甚至没有工作经验的朋友阅读。如果你是2年以上工作经验,请果断划走,对你没啥帮助~主人公这篇文章内容来自 「升职加薪」星球星友 的投稿,坐
  • 一篇聊聊Go错误封装机制

    %w 是用于错误包装(Error Wrapping)的格式化动词。它是用于 fmt.Errorf 和 fmt.Sprintf 函数中的一个特殊格式化动词,用于将一个错误(或其他可打印的值)包装在一个新的错误中。使
  • 企业采用CRM系统的11个好处

    客户关系管理(CRM)软件可以为企业提供很多的好处,从客户保留到提高生产力。  CRM软件用于企业收集客户互动,以改善客户体验和满意度。  CRM软件市场规模如今超过580
  • 学习JavaScript的10个理由...

    作者 | Simplilearn编译 | 王瑞平当你决心学习一门语言的时候,很难选择到底应该学习哪一门,常用的语言有Python、Java、JavaScript、C/CPP、PHP、Swift、C#、Ruby、Objective-
  • 从零到英雄:高并发与性能优化的神奇之旅

    作者 | 波哥审校 | 重楼作为公司的架构师或者程序员,你是否曾经为公司的系统在面对高并发和性能瓶颈时感到手足无措或者焦头烂额呢?笔者在出道那会为此是吃尽了苦头的,不过也得
  • SN570 NVMe SSD固态硬盘 价格与性能兼具

    SN570 NVMe SSD固态硬盘是西部数据发布的最新一代WD Blue系列的固态硬盘,不仅闪存技术更为精进,性能也得到了进一步的跃升。WD Blue SN570 NVMe SSD的包装外
  • 外交部:美方应停止在网络安全问题上不负责任地指责他国

      中国外交部今天(16日)举行例行记者会。会上,有记者问,美国情报官员称,他们正在阻拦来自中国以及其他国家的黑客获取相关科研成果。 中方对此有何评论?对此
Top