练习使⽤pandas预处理原始数据,并将原始数据转换为张量格式。

读取数据集

#%% 创建一个人工数据集,存储在CSV(逗号分隔)文件中
import os

os.makedirs(os.path.join('..','data'),exist_ok=True)
data_file = os.path.join('..','data','house_tiny.csv')
with open(data_file, 'w') as f:
    f.write('NumRooms,Alley,Price\n') #列名 房间数量、巷⼦类型和房屋价格
    f.write('NA,Pave,127500\n') #每行表示一个数据样本
    f.write('2,NA,106000\n')
    f.write('4,NA,178100\n')
    f.write('NA,NA,140000\n')
import pandas as pd

data = pd.read_csv(data_file)
print(data)

在这里插入图片描述

处理缺失值

典型的⽅法包括插值法和删除法,其中插值法⽤⼀个替代值弥补缺失值,⽽删除法则直接忽略缺失值

#%% 插值法
inputs,outputs= data.iloc[:,0:2],data.iloc[:,2]
inputs = inputs.fillna(inputs.mean())
print(inputs)

在这里插入图片描述

inputs = pd.get_dummies(inputs,dummy_na=True)
print(inputs)

在这里插入图片描述

转换为张量格式

#%% 数值——>张量
import torch

X,y = torch.tensor(inputs.values),torch.tensor(outputs.values)
X,y

在这里插入图片描述
1. 删除缺失值最多的列。

x = data.isna().sum()
dfs = data.drop(columns=x.index[x.argmax()])

在这里插入图片描述
2. 将预处理后的数据集转换为张量格式。

a= a.numpy()
b = pd.DataFrame(a)
df = b.fillna(b.mean())
df

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐