PyTorch Data Augmentation 数据增广

gyro永不抽风

2022 年 05 月 02 日

3254次浏览

暂无评论

2669字数

技术

Data Augmentation

这个词其实很容易误导人，因为 Augmentation 是增广的意思。数据增广，自然而然就会让人理解为：“增加了新的数据”。然而在实现的过程中，不一定是这样。

我们会给定一些随机化的参数，在每个 epoch 内生成随机增广后的图片。

比方说，每个 epoch 都按照一定的 random rule 来 crop 图片、调整色调，便是图像增广。

PyTorch 实现

这里拿 Fashion-MNIST 举例，同样我们会给出例子来证明我们的做法是行之有效的。

首先引入包：


%matplotlib inline
%config InlineBackend.figure_formats = ['svg']
from matplotlib import pyplot as plt
import torch
import torchvision
from torch.utils import data

加载 FashionMNIST 数据集，并且禁用 shuffle，这样保证我们每个 epoch 图片顺序都是相同的，方便我们验证：


def load_data_fashion_mnist(batch_size, dataloader_worker_count, resize=None):
    trans = [torchvision.transforms.ToTensor()]
    if resize:
        trans.insert(0, torchvision.transforms.Resize(resize))
    trans.append(torchvision.transforms.RandomCrop((28, 28)))
    trans = torchvision.transforms.Compose(trans)
    mnist_train = torchvision.datasets.FashionMNIST(
        root="../data", train=True, transform=trans, download=True)
    mnist_test = torchvision.datasets.FashionMNIST(
        root="../data", train=False, transform=trans, download=True)
    return (data.DataLoader(mnist_train, batch_size, shuffle=False, num_workers=dataloader_worker_count),
            data.DataLoader(mnist_test, batch_size, shuffle=False, num_workers=dataloader_worker_count))

辅助渲染的函数：


def get_fashion_mnist_labels(labels):
    '''
    返回Fashion-MNIST数据集的文本标签
    '''
    text_labels = ['t-shirt', 'trouser', 'pullover', 'dress', 'coat', 'sandal', 'shirt', 'sneaker', 'bag', 'ankle boot']
    return [text_labels[int(i)] for i in labels]

def show_images(imgs, num_rows, num_cols, titles=None, scale=1.2):
    '''
    绘制图像列表
    '''
    figsize = (num_cols * scale, num_rows * scale)
    _, axes = plt.subplots(num_rows, num_cols, figsize=figsize)
    axes = axes.flatten()
    for i, (ax, img) in enumerate(zip(axes, imgs)):
        if torch.is_tensor(img):
            # 图片张量
            ax.imshow(img.numpy())
        else:
            # PIL图片
            ax.imshow(img)
        ax.axes.get_xaxis().set_visible(False)
        ax.axes.get_yaxis().set_visible(False)
        if titles:
            ax.set_title(titles[i])
    return axes

测试三个 epoch，看每次 epoch 第一个 batch 的数据：


train_iter, test_iter = load_data_fashion_mnist(18, 4, resize=40)

for _ in range(3):
    for i, (X, y) in enumerate(train_iter):
        if i == 0:
            show_images(X.reshape(18, 28, 28), 2, 9, titles=get_fashion_mnist_labels(y))

输出：

可以看出有明显的不同。

本文中的 notebook：https://github.com/JeffersonQin/deep-learning/blob/master/tests/pytorch-data-augmentation.ipynb

PyTorch Data Augmentation 数据增广

gyro永不抽风 • 2022 年 05 月 02 日

Data Augmentation

我们会给定一些随机化的参数，在每个 epoch 内生成随机增广后的图片。

比方说，每个 epoch 都按照一定的 random rule 来 crop 图片、调整色调，便是图像增广。

PyTorch 实现

这里拿 Fashion-MNIST 举例，同样我们会给出例子来证明我们的做法是行之有效的。

首先引入包：


%matplotlib inline
%config InlineBackend.figure_formats = ['svg']
from matplotlib import pyplot as plt
import torch
import torchvision
from torch.utils import data

加载 FashionMNIST 数据集，并且禁用 shuffle，这样保证我们每个 epoch 图片顺序都是相同的，方便我们验证：


def load_data_fashion_mnist(batch_size, dataloader_worker_count, resize=None):
    trans = [torchvision.transforms.ToTensor()]
    if resize:
        trans.insert(0, torchvision.transforms.Resize(resize))
    trans.append(torchvision.transforms.RandomCrop((28, 28)))
    trans = torchvision.transforms.Compose(trans)
    mnist_train = torchvision.datasets.FashionMNIST(
        root="../data", train=True, transform=trans, download=True)
    mnist_test = torchvision.datasets.FashionMNIST(
        root="../data", train=False, transform=trans, download=True)
    return (data.DataLoader(mnist_train, batch_size, shuffle=False, num_workers=dataloader_worker_count),
            data.DataLoader(mnist_test, batch_size, shuffle=False, num_workers=dataloader_worker_count))

辅助渲染的函数：


def get_fashion_mnist_labels(labels):
    '''
    返回Fashion-MNIST数据集的文本标签
    '''
    text_labels = ['t-shirt', 'trouser', 'pullover', 'dress', 'coat', 'sandal', 'shirt', 'sneaker', 'bag', 'ankle boot']
    return [text_labels[int(i)] for i in labels]

def show_images(imgs, num_rows, num_cols, titles=None, scale=1.2):
    '''
    绘制图像列表
    '''
    figsize = (num_cols * scale, num_rows * scale)
    _, axes = plt.subplots(num_rows, num_cols, figsize=figsize)
    axes = axes.flatten()
    for i, (ax, img) in enumerate(zip(axes, imgs)):
        if torch.is_tensor(img):
            # 图片张量
            ax.imshow(img.numpy())
        else:
            # PIL图片
            ax.imshow(img)
        ax.axes.get_xaxis().set_visible(False)
        ax.axes.get_yaxis().set_visible(False)
        if titles:
            ax.set_title(titles[i])
    return axes

测试三个 epoch，看每次 epoch 第一个 batch 的数据：


train_iter, test_iter = load_data_fashion_mnist(18, 4, resize=40)

for _ in range(3):
    for i, (X, y) in enumerate(train_iter):
        if i == 0:
            show_images(X.reshape(18, 28, 28), 2, 9, titles=get_fashion_mnist_labels(y))

输出：

可以看出有明显的不同。

本文中的 notebook：https://github.com/JeffersonQin/deep-learning/blob/master/tests/pytorch-data-augmentation.ipynb

PyTorch Data Augmentation 数据增广

Data Augmentation

PyTorch 实现

发表评论取消回复

Clash 入土为安

GAN（对抗生成网络）的基本原理以及数学证明

记录 | 腾讯云COS被打33T

Stern-Brocot Tree 性质的证明

瞎折腾 | KirinShiKi插件再更新

WSL 1/2; Hyper-V; 安卓模拟器; VMWare: 共存方案

使用Java, AppleScript对晓黑板进行定时自动打卡

VSCode 解决终端渲染模糊问题

C# 将 interface 作为泛型传入

记录 | 元素周期表的开源网页

PyTorch Data Augmentation 数据增广

Data Augmentation

PyTorch 实现

Data Augmentation

PyTorch 实现

发表评论 取消回复

PyTorch Data Augmentation 数据增广

Data Augmentation

PyTorch 实现

发表评论取消回复