Pandas中含有使数据清洗和分析工作变得更快更简单的数据结构和操作工具。

pandas经常和其它工具一同使用，如数值计算工具NumPy和SciPy，分析库statsmodels和scikit-learn，和数据可视化库matplotlib。pandas是基于NumPy数组构建的，特别是基于数组的函数和不使用for循环的数据处理。

虽然pandas采用了大量的NumPy编码风格，但二者最大的不同是pandas是专门为处理表格和混杂数据设计的。而NumPy更适合处理统一的数值数组数据。

一、pandas的数据结构介绍

熟悉pandas的两个主要数据结构：Series和DataFrame。它们为大多数应用提供了一种可靠的、易于使用的基础。

1.1 Series

Series是一种类似于一维数组的对象，它由一组数据（各种NumPy数据类型）以及一组与之相关的数据标签（即索引）组成。仅由一组数据即可产生最简单的Series：

1
2
3
4
5
6
7
8
9
10
11
12
import pandas as pd
from pandas import Series, DataFrame

obj = pd.Series([4, 7, -5, 3])
print(obj)

# 结果
0    4
1    7
2   -5
3    3
dtype: int64

Series的字符串表现形式为：索引在左边，值在右边。由于我们没有为数据指定索引，于是会自动创建一个0到N-1（N为数据的长度）的整数型索引。你可以通过Series 的values和index属性获取其数组表示形式和索引对象：

1
2
3
4
5
6
7
···
print(obj.values)
print(obj.index)

# 结果
[ 4  7 -5  3] # numpy.ndarray
RangeIndex(start=0, stop=4, step=1)

通常，我们希望所创建的Series带有一个可以对各个数据点进行标记的索引：

1
2
3
4
5
6
7
8
9
10
11
12
import pandas as pd
obj2 = pd.Series([4, 7, -5, 3], index=['d', 'b', 'a', 'c']) # 列表
print(obj2)
print(obj2.index)

# 结果
a    4
b    7
c   -5
d    3
dtype: int64
Index(['a', 'b', 'c', 'd'], dtype='object')

与普通NumPy数组相比，你可以通过索引的方式选取Series中的单个或一组值：

1
2
3
4
5
6
7
8
9
10
11
···
print(obj2['a'])
obj2['d'] = 6
print(obj2[["c", "a", "d"]]) # 将["c", "a", "d"]对应的value都打印出来

# 结果
4
c   -5
a    4
d    6
dtype: int64

[‘c’, ‘a’, ‘d’]是索引列表，即使它包含的是字符串而不是整数。

使用NumPy函数或类似NumPy的运算（如根据布尔型数组进行过滤、标量乘法、应用数学函数等）都会保留索引值的链接：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
···
import numpy as np
print("-----bool过滤-----")
print(obj2[obj2 > 2])
print("-----标量运算-----")
print(obj2 * 2)
print("-----矢量运算-----")
print(np.exp(obj2))

# 结果
-----bool过滤-----
a    4
b    7
d    3
dtype: int64
-----标量运算-----
a     8
b    14
c   -10
d     6
dtype: int64
-----矢量运算-----
a      54.598150
b    1096.633158
c       0.006738
d      20.085537
dtype: float64

还可以将Series看成是一个定长的有序字典，因为它是索引值到数据值的一个映射。它可以用在许多原本需要字典参数的函数中：

1
2
3
4
5
6
7
···
print('b' in obj2)
print('e' in obj2)

# 结果
True
False

如果数据被存放在一个Python字典中，也可以直接通过这个字典来创建Series：

1
2
3
4
5
6
7
8
9
10
11
···
sdata = {'Ohio': 35000, 'Texas': 71000, 'Oregon': 16000, 'Utah': 5000}
obj3 = pd.Series(sdata)
print(obj3)

# 结果
Ohio      35000
Texas     71000
Oregon    16000
Utah       5000
dtype: int64

如果只传入一个字典，则结果Series中的索引就是原字典的键（有序排列）。你可以传入排好序的字典的键以改变顺序：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
···
sdata = {'Ohio': 35000, 'Texas': 71000, 'Oregon': 16000, 'Utah': 5000}
# obj3 = pd.Series(sdata)
# print(obj3)
states = ['California', 'Ohio', 'Oregon', 'Texas']
obj4 = pd.Series(sdata, index=states)
print(obj4)
print(obj4.index)

# 结果
California        NaN
Ohio          35000.0
Oregon        16000.0
Texas         71000.0
dtype: float64
Index(['California', 'Ohio', 'Oregon', 'Texas'], dtype='object')

在这个例子中，sdata中跟states索引相匹配的那3个值会被找出来并放到相应的位置上，但由于”California”所对应的sdata值找不到，所以其结果就为NaN（即“非数字”（not a number），在pandas中，它用于表示缺失或NA值）。因为‘Utah’不在states中，它被从结果中除去。

pandas的isnull和notnull函数可用于检测缺失数据：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
···
print(pd.isnull(obj4))
print(pd.notnull(obj4))

# 结果
California     True
Ohio          False
Oregon        False
Texas         False
dtype: bool
California    False
Ohio           True
Oregon         True
Texas          True
dtype: bool

Series也有类似的实例方法：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
···
print(obj4.isnull())
print(obj4.notnull())

# 结果
California     True
Ohio          False
Oregon        False
Texas         False
dtype: bool
California    False
Ohio           True
Oregon         True
Texas          True
dtype: bool

对于许多应用而言，Series最重要的一个功能是，它会根据运算的索引标签自动对齐数据：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
···
print('-----obj3-----')
print(obj3)
print('-----obj4-----')
print(obj4)
print('-----obj3 + obj4-----')
print(obj3 + obj4)

# 结果
-----obj3-----
Ohio      35000
Texas     71000
Oregon    16000
Utah       5000
dtype: int64
-----obj4-----
California        NaN
Ohio          35000.0
Oregon        16000.0
Texas         71000.0
dtype: float64
-----obj3 + obj4-----
California         NaN
Ohio           70000.0
Oregon         32000.0
Texas         142000.0
Utah               NaN
dtype: float64

Series对象本身及其索引都有一个name属性，该属性跟pandas其他的关键功能关系非常密切：

1
2
3
4
5
6
7
8
9
10
11
12
···
obj4.name = 'population'
obj4.index.name = 'state'
print(obj4)

# 结果
state
California        NaN
Ohio          35000.0
Oregon        16000.0
Texas         71000.0
Name: population, dtype: float64

Series的索引可以通过赋值的方式就地修改：

1
2
3
4
5
6
7
8
9
10
···
obj4.index = ['Bob', 'Steve', 'Jeff', 'Ryan']
print(obj4)

# 结果
Bob          NaN
Steve    35000.0
Jeff     16000.0
Ryan     71000.0
dtype: float64

1.2 DataFrame

DataFrame是一个表格型的数据结构，它含有一组有序的列，每列可以是不同的值类型（数值、字符串、布尔值等）。DataFrame既有行索引也有列索引，它可以被看做由Series组成的字典（共用同一个索引）。DataFrame中的数据是以一个或多个二维块存放的（而不是列表、字典或别的一维数据结构）

虽然DataFrame是以二维结构保存数据的，但你仍然可以轻松地将其表示为更高维度的数据（层次化索引的表格型结构，这是pandas中许多高级数据处理功能的关键要素。

创建DataFrame，最常用的一种是直接传入一个由等长列表或NumPy数组组成的字典：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
import pandas as pd
data = {'state': ['Ohio', 'Ohio', 'Ohio', 'Nevada', 'Nevada', 'Nevada'],
        'year': [2000, 2001, 2002, 2001, 2002, 2003],
        'pop': [1.5, 1.7, 3.6, 2.4, 2.9, 3.2]}
frame = pd.DataFrame(data)
print(frame)

# 结果, DataFrame会自动加上索引（跟Series一样）
    state  year  pop
0    Ohio  2000  1.5
1    Ohio  2001  1.7
2    Ohio  2002  3.6
3  Nevada  2001  2.4
4  Nevada  2002  2.9
5  Nevada  2003  3.2

对于特别大的DataFrame，head方法会选取前五行：

1
2
3
4
5
6
7
8
9
10
···
print(frame.head())

# 结果
    state  year  pop
0    Ohio  2000  1.5
1    Ohio  2001  1.7
2    Ohio  2002  3.6
3  Nevada  2001  2.4
4  Nevada  2002  2.9

如果指定了列序列，则DataFrame的列就会按照指定顺序进行排列：

1
2
3
4
5
6
7
8
9
10
11
frame1 = pd.DataFrame(data, columns=["year","state","pop"])
print(frame1)

# 结果
   year   state  pop
0  2000    Ohio  1.5
1  2001    Ohio  1.7
2  2002    Ohio  3.6
3  2001  Nevada  2.4
4  2002  Nevada  2.9
5  2003  Nevada  3.2

如果传入的列在数据中找不到，就会在结果中产生缺失值：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
···
frame2 = pd.DataFrame(data, columns=['year', 'state', 'pop', 'debt'],index=['one', 'two', 'three', 'four','five', 'six'])
print(frame2)

# 结果
       year   state  pop debt
one    2000    Ohio  1.5  NaN
two    2001    Ohio  1.7  NaN
three  2002    Ohio  3.6  NaN
four   2001  Nevada  2.4  NaN
five   2002  Nevada  2.9  NaN
six    2003  Nevada  3.2  NaN

print(frame2.columns)

# 结果
Index(['year', 'state', 'pop', 'debt'], dtype='object')

通过类似字典标记的方式或属性的方式，可以将DataFrame的列获取为一个Series：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
···
print(frame2["state"])
print(frame2.year)

# 结果
one      2000
two      2001
three    2002
four     2001
five     2002
six      2003
Name: year, dtype: int64
one        Ohio
two        Ohio
three      Ohio
four     Nevada
five     Nevada
six      Nevada
Name: state, dtype: object

返回的Series拥有原DataFrame相同的索引，且其name属性也已经被相应地设置好了。

行也可以通过位置或名称的方式进行获取，比如用loc属性：

1
2
3
4
5
6
7
8
9
···
print(frame2.loc["three"])

# 结果
year     2002
state    Ohio
pop       3.6
debt      NaN
Name: three, dtype: object

列可以通过赋值的方式进行修改。例如可以给那个空的”debt”列赋上一个标量值或一组值：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
frame2["debt"] = 16.5

# 结果
       year   state  pop  debt
one    2000    Ohio  1.5  16.5
two    2001    Ohio  1.7  16.5
three  2002    Ohio  3.6  16.5
four   2001  Nevada  2.4  16.5
five   2002  Nevada  2.9  16.5
six    2003  Nevada  3.2  16.5

frame2["debt"] = np.arange(6.)

# 结果
       year   state  pop  debt
one    2000    Ohio  1.5   0.0
two    2001    Ohio  1.7   1.0
three  2002    Ohio  3.6   2.0
four   2001  Nevada  2.4   3.0
five   2002  Nevada  2.9   4.0
six    2003  Nevada  3.2   5.0

将列表或数组赋值给某个列时，其长度必须跟DataFrame的长度相匹配。如果赋值的是一个Series，就会精确匹配DataFrame的索引，所有的空位都将被填上缺失值：

1
2
3
4
5
6
7
8
9
10
11
12
13
···
val = pd.Series([2, 3, 4], index=["three", 'two', 'six'])
frame2['debt'] = val
print(frame2)

# 结果
       year   state  pop  debt
one    2000    Ohio  1.5   NaN
two    2001    Ohio  1.7   3.0
three  2002    Ohio  3.6   2.0
four   2001  Nevada  2.4   NaN
five   2002  Nevada  2.9   NaN
six    2003  Nevada  3.2   4.0

为不存在的列赋值会创建出一个新列。关键字del用于删除列。

作为del的例子，我先添加一个新的布尔值的列，year是否为2003：

1
2
3
4
5
6
7
8
9
10
11
12
···
frame2["eastern"] = frame2["year"] == 2003
print(frame2)

# 结果
       year   state  pop debt  eastern
one    2000    Ohio  1.5  NaN    False
two    2001    Ohio  1.7  NaN    False
three  2002    Ohio  3.6  NaN    False
four   2001  Nevada  2.4  NaN    False
five   2002  Nevada  2.9  NaN    False
six    2003  Nevada  3.2  NaN     True

不能用frame2.eastern创建新的列。

del方法可以用来删除这列：

1
2
3
4
5
6
7
8
9
10
11
12
···
del frame2['eastern']
print(frame2)

# 结果
       year   state  pop debt
one    2000    Ohio  1.5  NaN
two    2001    Ohio  1.7  NaN
three  2002    Ohio  3.6  NaN
four   2001  Nevada  2.4  NaN
five   2002  Nevada  2.9  NaN
six    2003  Nevada  3.2  NaN

通过索引方式返回的列只是相应数据的视图而已，并不是副本。因此，对返回的Series所做的任何就地修改全都会反映到源DataFrame上。通过Series的copy方法即可指定复制列。

另一种常见的数据形式是嵌套字典：

如果嵌套字典传给DataFrame，pandas就会被解释为：外层字典的键作为列，内层键则作为行索引：

1
2
3
4
5
6
7
8
9
10
···
pop = {'Nevada': {2001: 2.4, 2002: 2.9},'Ohio': {2000: 1.5, 2001: 1.7, 2002: 3.6}}
frame3 = pd.DataFrame(pop)
print(frame3)

# 结果
      Nevada  Ohio
2001     2.4   1.7
2002     2.9   3.6
2000     NaN   1.5

可以使用类似NumPy数组的方法，对DataFrame进行转置（交换行和列）：

1
2
3
4
5
6
7
···
print(frame3.T)

# 结果
        2001  2002  2000
Nevada   2.4   2.9   NaN
Ohio     1.7   3.6   1.5

内层字典的键会被合并、排序以形成最终的索引。如果明确指定了索引，则不会这样：

1
2
3
4
5
6
7
8
9
···
pd.DataFrame(pop, index=[2001, 2002, 2003])
print(pop)

# 结果
      Nevada  Ohio
2001     2.4   1.7
2002     2.9   3.6
2003     NaN   NaN

由Series组成的字典差不多也是一样的用法：

1
2
3
4
5
6
7
8
9
···
pdata = {'Ohio': frame3['Ohio'][:-1], 'Nevada': frame3['Nevada'][:2]} #切片控制列
frame4 = pd.DataFrame(pdata)
print(frame4)

# 结果
      Nevada  Ohio
2000     NaN   1.5
2001     2.4   1.7

下表列出DataFrame构造函数所能接收的各种数据。

如果设置了DataFrame的index和columns的name属性，则这些信息也会被显示出来：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
···
frame3.index.name = 'year'; frame3.columns.name = 'state'
print(frame3)

## 结果
      Nevada  Ohio
2001     2.4   1.7
2002     2.9   3.6
2003     NaN   NaN

state  Nevada  Ohio
year               
2001      2.4   1.7
2002      2.9   3.6
2003      NaN   NaN

跟Series一样，values属性也会以二维ndarray的形式返回DataFrame中的数据：

1
2
3
4
5
6
7
···
print(frames.values)

# 结果
[[2.4 1.7]
 [2.9 3.6]
 [nan nan]]

如果DataFrame各列的数据类型不同，则值数组的dtype就会选用能兼容所有列的数据类型：

1
2
3
4
5
6
7
8
9
10
···
print(frame2.values)

# 结果
array([[2000, 'Ohio', 1.5, nan],
       [2001, 'Ohio', 1.7, -1.2],
       [2002, 'Ohio', 3.6, nan],
       [2001, 'Nevada', 2.4, -1.5],
       [2002, 'Nevada', 2.9, -1.7],
       [2003, 'Nevada', 3.2, nan]], dtype=object)

二、索引对象

pandas的索引对象负责管理轴标签和其他元数据（比如轴名称等）。构建Series或DataFrame时，所用到的任何数组或其他序列的标签都会被转换成一个Index：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
import pandas as pd

obj = pd.Series(range(3), index=["a", "b", "c"])
index = obj.index
print("-----index-----")
print(index)
print("-----index[1:]")
print(index[1:])

# 结果
-----index-----
Index(['a', 'b', 'c'], dtype='object')
-----index[1:]
Index(['b', 'c'], dtype='object')

Index对象是不可变的，因此用户不能对其进行修改：

1
2
3
4
5
···
index[1] = "d"

# 报错
TypeError: Index does not support mutable operations

不可变可以是Index对象在多个数据结构之间安全共享：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
···
import numpy as np
labels = pd.Index(np.arange(3))
print("-----labels-----")
obj2 = pd.Series([1.5, -2.5, 0], index=labels)
print("----obj2-----")
print(obj2)
print(obj2.index is labels)

# 结果
-----labels-----
----obj2-----
0    1.5
1   -2.5
2    0.0
dtype: float64
True

除了类似于数组，Index的功能也类似一个固定大小的集合：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
import numpy as np
import pandas as pd

data = {'state': ['Ohio', 'Ohio', 'Ohio', 'Nevada', 'Nevada', 'Nevada'],
        'year': [2000, 2001, 2002, 2001, 2002, 2003],
        'pop': [1.5, 1.7, 3.6, 2.4, 2.9, 3.2]}
frame = pd.DataFrame(data, columns=["year", "state", "pop"])
print("-----frame-----")
print(frame)
print("-----frame.columus----")
print(frame.columns)
print('Ohio' in frame.columns)
print("2003" in frame.index)

# 结果
-----frame-----
   year   state  pop
0  2000    Ohio  1.5
1  2001    Ohio  1.7
2  2002    Ohio  3.6
3  2001  Nevada  2.4
4  2002  Nevada  2.9
5  2003  Nevada  3.2
-----frame.columus----
Index(['year', 'state', 'pop'], dtype='object')
False
False

与python的集合不同，pandas的Index可以包含重复的标签：

1
2
3
4
5
6
import pandas as pd
dup_labels = pd.Index(["foo", "foo", "bar", "bar"])
print(dup_labels)

# 结果
Index(['foo', 'foo', 'bar', 'bar'], dtype='object')

选择重复的标签，会显示所有的结果。

每个索引都有一些方法和属性，它们可用于设置逻辑并回答有关该索引所包含的数据的常见问题。