airpassengers数据集_加速数据分析,这12种⾼效Numpy和
Pandas函数为。。。
选⾃TowardsDataScience
作者:Kunal Dhariwal
机器之⼼编译
参与:Jamin、杜伟、张倩
我们都知道,Numpy 是 Python 环境下的扩展程序库,⽀持⼤量的维度数组和矩阵运算;Pandas 也是 Python 环境下的数据操作
和分析软件包,以及强⼤的数据分析库。⼆者在⽇常的数据分析中都发挥着重要作⽤,如果没有 Numpy 和 Pandas 的⽀持,数据分析将变得异常困难。但有时我们需要加快数据分析的速度,有什么办法可以帮助到我们吗?
在本⽂中,数据和分析⼯程师 Kunal Dhariwal 为我们介绍了 12 种 Numpy 和 Pandas 函数,这些⾼效的函数会令数据分析更为容易、便
捷。最后,读者也可以在 GitHub 项⽬中到本⽂所⽤代码的 Jupyter Notebook.
Numpy 的 6 种⾼效函数
⾸先从 Numpy 开始。Numpy 是⽤于科学计算的 Python 语⾔扩展包,通常包含强⼤的 N 维数组对象、复杂函数、⽤于整合 C/C++和
Fortran 代码的⼯具以及有⽤的线性代数、傅⾥叶变换和随机数⽣成能⼒。
除了上⾯这些明显的⽤途,Numpy 还可以⽤作通⽤数据的⾼效多维容器(container),定义任何数据类型。这使得 Numpy 能够实现⾃⾝
与各种数据库的⽆缝、快速集成。
接下来⼀⼀解析 6 种 Numpy 函数。
false是什么函数argpartition()
借助于 argpartition(),Numpy 可以出 N 个最⼤数值的索引,也会将到的这些索引输出。然后我们根据需要对数值进⾏排序。
x = np.array([12, 10, 12, 0, 6, 8, 9, 1, 16, 4, 6, 0])index_val = np.argpartition(x, -4)[-4:]index_valarray([1, 8, 2, 0], dtype=int64)np.sort(x[index_val])array([10, 12, 1
allclose()
allclose() ⽤于匹配两个数组,并得到布尔值表⽰的输出。如果在⼀个公差范围内(within a tolerance)两个数组不等同,则 allclose() 返回False。该函数对于检查两个数组是否相似⾮常有⽤。
array1 = np.array([0.12,0.17,0.24,0.29])array2 = np.array([0.13,0.19,0.26,0.31])# with a tolerance of 0.1, it should return False:np.allclose(array1,array2,0 clip()
Clip() 使得⼀个数组中的数值保持在⼀个区间内。有时,我们需要保证数值在上下限范围内。为此,我们可以借助 Numpy 的 clip() 函数实现该⽬的。给定⼀个区间,则区间外的数值被剪切⾄区间上下限(interval edge)。
x = np.array([3, 17, 14, 23, 2, 2, 6, 8, 1, 2, 16, 0])np.clip(x,2,5)array([3, 5, 5, 5, 2, 2, 5, 5, 2, 2, 5, 2])
extract()
顾名思义,extract() 是在特定条件下从⼀个数组中提取特定元素。借助于 extract(),我们还可以使⽤ and 和 or 等条件。
# Random integersarray = np.random.randint(20, size=12)arrayarray([ 0, 1, 8, 19, 16, 18, 10, 11, 2, 13, 14, 3])# Divide by 2 and check if remainder is 1 where()
Where() ⽤于从⼀个数组中返回满⾜特定条件的元素。⽐如,它会返回满⾜特定条件的数值的索引位置。Where() 与 SQL 中使⽤的
where condition 类似,如以下⽰例所⽰:
y = np.array([1,5,6,8,1,7,3,6,9])# Where y is greater than 5, returns index positionnp.where(y>5)array([2, 3, 5, 7, 8], dtype=int64),)# First will replace the va percentile()
Percentile() ⽤于计算特定轴⽅向上数组元素的第 n 个百分位数。
a = np.array([1,5,6,8,1,7,3,6,9])print("50th Percentile of a, axis = 0 : ", np.percentile(a, 50, axis =0))50th Percentile of a, axis = 0 : 6.0
b = np.array([[10这就是 Numpy 扩展包的 6 种⾼效函数,相信会为你带来帮助。接下来看⼀看 Pandas 数据分析库的 6 种函数。
Pandas 数据统计包的 6 种⾼效函数
Pandas 也是⼀个 Python 包,它提供了快速、灵活以及具有显著表达能⼒的数据结构,旨在使处理结构化 (表格化、多维、异构) 和时间
序列数据变得既简单⼜直观。
Pandas 适⽤于以下各类数据:
具有异构类型列的表格数据,如 SQL 表或 Excel 表;
有序和⽆序 (不⼀定是固定频率) 的时间序列数据;
带有⾏/列标签的任意矩阵数据(同构类型或者是异构类型);
其他任意形式的统计数据集。事实上,数据根本不需要标记就可以放⼊ Pandas 结构中。
Pandas 擅长处理的类型如下所⽰:
容易处理浮点数据和⾮浮点数据中的 缺失数据(⽤ NaN 表⽰);
⼤⼩可调整性: 可以从 DataFrame 或者更⾼维度的对象中插⼊或者是删除列;
显式数据可⾃动对齐: 对象可以显式地对齐⾄⼀组标签内,或者⽤户可以简单地选择忽略标签,使 Series、 DataFrame 等⾃动对齐数据;
灵活的分组功能,对数据集执⾏拆分-应⽤-合并等操作,对数据进⾏聚合和转换;
简化将数据转换为 DataFrame 对象的过程,⽽这些数据基本是 Python 和 NumPy 数据结构中不规则、不同索引的数据;
基于标签的智能切⽚、索引以及⾯向⼤型数据集的⼦设定;
更加直观地合并以及连接数据集;
更加灵活地重塑、转置(pivot)数据集;
轴的分级标记 (可能包含多个标记);
具有鲁棒性的 IO ⼯具,⽤于从平⾯⽂件 (CSV 和 delimited)、 Excel ⽂件、数据库中加在数据,以及从 HDF5 格式中保存 / 加载数据;
时间序列的特定功能: 数据范围的⽣成以及频率转换、移动窗⼝统计、数据移动和滞后等。
read_csv(nrows=n)
⼤多数⼈都会犯的⼀个错误是,在不需要.csv ⽂件的情况下仍会完整地读取它。如果⼀个未知的.csv ⽂件有 10GB,那么读取整个.csv ⽂件将会⾮常不明智,不仅要占⽤⼤量内存,还会花很多时间。我们需要做的只是从.csv ⽂件中导⼊⼏⾏,之后根据需要继续导⼊。
import ioimport requests# I am using this online data set just to make things easier for you guysurl = "raw.github/vincentarelbundock/Rdatasets map()
map( ) 函数根据相应的输⼊来映射 Series 的值。⽤于将⼀个 Series 中的每个值替换为另⼀个值,该值可能来⾃⼀个函数、也可能来⾃于⼀个 dict 或 Series。
# create a dataframedframe = pd.DataFrame(np.random.randn(4, 3), columns=list('bde'), index=['India', 'USA', 'China', 'Russia'])#compute a formatted str apply()
apply() 允许⽤户传递函数,并将其应⽤于 Pandas 序列中的每个值。
# max minus mix lambda fnfn = lambda x: x.max() - x.min()# Apply this on dframe that we've just created abovedframe.apply(fn)
isin()
lsin () ⽤于过滤数据帧。Isin () 有助于选择特定列中具有特定(或多个)值的⾏。
# Using the dataframe we created for read_csvfilter1 = df["value"].isin([112]) filter2 = df["time"].isin([1949.000000])df [filter1 & filter2]
copy()
Copy () 函数⽤于复制 Pandas 对象。当⼀个数据帧分配给另⼀个数据帧时,如果对其中⼀个数据帧进⾏更改,另⼀个数据帧的值也将发⽣更改。为了防⽌这类问题,可以使⽤ copy () 函数。
# creating sample series data = pd.Series(['India', 'Pakistan', 'China', 'Mongolia'])# Assigning issue that we facedata1= data# Change a valuedata1[0]='USA select_dtypes()
select_dtypes() 的作⽤是,基于 dtypes 的列返回数据帧列的⼀个⼦集。这个函数的参数可设置为包含所有拥有特定数据类型的列,亦或
者设置为排除具有特定数据类型的列。
# We'll use the same dataframe that we used for read_csvframex = df.select_dtypes(include="float64")# Returns only time column
最后,pivot_table( ) 也是 Pandas 中⼀个⾮常有⽤的函数。如果对 pivot_table( ) 在 excel 中的使⽤有所了解,那么就⾮常容易上⼿了。
# Create a sample dataframeschool = pd.DataFrame({'A': ['Jay', 'Usher', 'Nicky', 'Romero', 'Will'], 'B': ['Masters', 'Graduate', 'Graduate', 'Masters', 'Grad
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论