很简单

因我本地服务器可以翻墙,但远程服务器不能翻墙,然而内网的代码有需要执行load_dataset()从huggingface上拉数据。

因此,想着吧 HF上数据库下载传到内网上,然后再load——dataset()都本地内容。

根据官网(https://hugging-face.cn/docs/datasets/loading)的描述很简单

本地和远程文件

数据集可以从存储在您计算机上的本地文件和远程文件加载。数据集最有可能存储为 csv、json、txt 或 parquet 文件。 load_dataset() 函数可以加载每种文件类型。

CSV
🤗 Datasets 可以读取由一个或多个 CSV 文件组成的数据集(在这种情况下,将您的 CSV 文件作为列表传递)

比如 CSV:

from datasets import load_dataset
dataset = load_dataset("csv", data_files="my_file.csv")

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐