Maple.Link

技术分享站

0%

发表于 分类于
本文字数： 754 阅读时长 ≈ 1 分钟

在部署模型时，对于输入数据的预处理是一个非常耗时的操作，其实可以将预处理一同打包到模型中，在转换为ONNX或者Tensorrt模型后这些操作就可以随着模型一起被加速执行。

以最简单的归一化操作为例

归一化Module如下：

1
2
3
4
5
6
7
8
9
class Normalize(torch.nn.Module):
    def __init__(self):
        super().__init__()
        self.register_buffer('mean', torch.tensor([0.485, 0.456, 0.406], dtype=torch.float64).view(1, -1, 1, 1))
        self.register_buffer('std', torch.tensor([0.229, 0.224, 0.225], dtype=torch.float64).view(1, -1, 1, 1))
        self.register_buffer('norm', torch.tensor([255.0], dtype=torch.float64).view(1, 1, 1, 1))

    def forward(self, images):
        return (images / self.norm - self.mean) / self.std

之后修改模型的inti和forward函数即可

1
2
3
4
5
6
7
8
9
class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        # ... other code
        self.normalize = Normalize()

    def forward(self, x):
        x = self.normalize(x)
        # ... other code

发表于 分类于
本文字数： 566 阅读时长 ≈ 1 分钟

有时我们无法确定一段代码会抛出何种异常，但是又希望能捕获这些异常

阅读全文 »

发表于 分类于
本文字数： 2.8k 阅读时长 ≈ 3 分钟

通常，使用shutil.rmtree就可以轻易的删除目录，但是量变产生质变，当目录中的文件数量达到数百万时，我们需要更加快速和平稳的方式

优化的核心思想就是要尽可能减少一切不必要的io

阅读全文 »