前言
众所周知,Dataset和Dataloder是pytorch中进行数据载入的部件。必须将数据载入后,再进行深度学习模型的训练。在pytorch的一些案例教学中,常使用torchvision.datasets
自带的MNIST、CIFAR-10数据集,一般流程为:
# 下载并存放数据集 train_dataset = torchvision.datasets.CIFAR10(root="数据集存放位置",download=True) # load数据 train_loader = torch.utils.data.DataLoader(dataset=train_dataset)
但是,在我们自己的模型训练中,需要使用非官方自制的数据集。这时应该怎么办呢?
我们可以通过改写torch.utils.data.Dataset
中的__getitem__
和__len__
来载入我们自己的数据集。
__getitem__
获取数据集中的数据,__len__
获取整个数据集的长度(即个数)。
改写
采用pytorch官网案例中提供的一个脸部landmark数据集。数据集中含有存放landmark的csv文件,但是我们在这篇文章中不使用(其实也可以随便下载一些图片作数据集来实验)。
import os import torch from skimage import io, transform import numpy as np import matplotlib.pyplot as plt from torch.utils.data import Dataset, DataLoader from torchvision import transforms, utils plt.ion() # interactive mode
torch.utils.data.Dataset
是一个抽象类,我们自己的数据集需要继承Dataset
,然后改写上述两个函数:
class ImageLoader(Dataset): def __init__(self, file_path, transform=None): super(ImageLoader,self).__init__() self.file_path = file_path self.transform = transform # 对输入图像进行预处理,这里并没有做,预设为None self.image_names = os.listdir(self.file_path) # 文件名的列表 def __getitem__(self,idx): image = self.image_names[idx] image = io.imread(os.path.join(self.file_path,image)) # if self.transform: # image= self.transform(image) return image def __len__(self): return len(self.image_names) # 设置自己存放的数据集位置,并plot展示 imageloader = ImageLoader(file_path="D:\\Projects\\datasets\\faces\\") # imageloader.__len__() # 输出数据集长度(个数),应为71 # print(imageloader.__getitem__(0)) # 以数据形式展示 plt.imshow(imageloader.__getitem__(0)) # 以图像形式展示 plt.show()
得到的图片输出:
得到的数据输出,:
array([[[ 66, 59, 53], [ 66, 59, 53], [ 66, 59, 53], ..., [ 59, 54, 48], [ 59, 54, 48], [ 59, 54, 48]], ..., [153, 141, 129], [158, 146, 134], [158, 146, 134]]], dtype=uint8)
上面看到dytpe=uint8
,实际进行训练的时候,常常需要更改成float
的数据类型。可以使用:
# 直接改成pytorch中的tensor下的float格式 # 也可以用numpy的改成普通的float格式 to_float= torch.from_numpy(imageloader.__getitem__(0)).float()
改写完成后,直接使用train_loader =torch.utils.data.DataLoader(dataset=imageloader)
载入到Dataloader
中,就可以使用了。
下面的代码可以试着运行一下,产生的是一模一样的图片结果。
train_loader = torch.utils.data.DataLoader(dataset=imageloader) train_loader.dataset[0] plt.imshow(train_loader.dataset[0]) plt.show()
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。
更新日志
- 孙悦.1996-伙伴【正大国际】【WAV+CUE】
- 纪钧瀚《钢琴阅读时光 雨中书店聆听轻音乐》[FLAC/分轨][399.62MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[320K/MP3][87.4MB]
- 证声音乐图书馆《走向自然 疗心爵士乐》[FLAC/分轨][184.94MB]
- 陈慧娴.2018-Priscilla-Ism演唱会3CD(2024环球红馆40复刻系列)【环球】【WAV+CUE】
- 郑秀文.1999-我应该得到(国)【华纳】【WAV+CUE】
- 陈家慧.2011-钢琴酒吧2CD【龙吟唱片】【WAV+CUE】
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[320K/MP3][45.01MB]
- 证声音乐图书馆《雨季 蓝调吉他 Rainy Blues》[FLAC/分轨][109.13MB]
- 赞多《序章》[320K/MP3][45.54MB]
- 许巍.2004-每一刻都是崭新的【步升大风】【WAV+CUE】
- 群星.2024-四方馆影视原声带【韶愔音乐】【FLAC分轨】
- 陈雷.1997-安锁咧【金圆唱片】【WAV+CUE】
- 关淑怡.2013-MY.FAVORITE.SK.3CD【环球】【WAV+CUE】
- Sweety.2006-花言乔语【丰华】【WAV+CUE】