记一次rpc接口无返回调试经历

发表于 2022-03-18 分类于编程技巧本文字数： 634 阅读时长 ≈ 2 分钟

现象描述

偶然发现一个线上服务不返回的badcase，在输入特定一张图片时，分析服务会直接断开连接而不返回任何数据，这种情况是非常罕见的，因为通常来说即便是内部服务报错的情况下，也会被框架捕获从而返回一组错误码，而不会直接断开连接不返回任何数据。

发表于 2022-02-28 分类于大数据本文字数： 94 阅读时长 ≈ 1 分钟

一次写sql的时候，脑子发晕，把order by写成了sort by

在spark生态中

发表于 2021-12-27 分类于编程技巧本文字数： 240 阅读时长 ≈ 1 分钟

有时会遇到源proto和目标proto具有相同成员的情况, 如果该成员仅仅是定义相同，是不能直接使用CopyFrom方法的，此时需要手动对结构体成员依次进行赋值。
以下文件模拟了两个不同proto文件中同时定义了相同的结构体Feature

发表于 2021-12-20 分类于 hdfs 本文字数： 239 阅读时长 ≈ 1 分钟

在处理hdfs数据时，可能会遇到本地磁盘空间不足以存放数据的问题，这时我们可以使用linux的stdio对数据进行流式处理，以替换每行内容为例

1
2
3

hadoop -cat hdfs://your_path/your_file |\
sed  "s/some_thing/some_other/g" |\
hadoop -put - hdfs://your_path/your_processed_file

这样利用pipe完成了对数据的处理，同时避免了数据在本地落盘。

发表于 2021-12-19 分类于 linux 本文字数： 579 阅读时长 ≈ 2 分钟

最近看到知乎上，关于最让自己印象深刻的一次bug的经历，的讨论，不禁让我回想起了研一时，那一次libc依赖损坏的事故。

发表于 2021-12-09 分类于深度学习本文字数： 181 阅读时长 ≈ 1 分钟

在部署模型时，对于输入数据的预处理是一个非常耗时的操作，其实可以将预处理一同打包到模型中，在转换为ONNX或者Tensorrt模型后这些操作就可以随着模型一起被加速执行。

以最简单的归一化操作为例

发表于 2021-12-09 分类于大数据本文字数： 209 阅读时长 ≈ 1 分钟

在处理数据时，时常会遇到需要处理json数据的情况, 可以使用get_json_object, regexp_replace, split来组合对json数组进行处理

发表于 2021-12-02 分类于编程技巧本文字数： 173 阅读时长 ≈ 1 分钟

有时我们无法确定一段代码会抛出何种异常，但是又希望能捕获这些异常

发表于 2021-11-22 分类于 GPU 本文字数： 1k 阅读时长 ≈ 4 分钟

在使用triton时，可以使用shared memory方式加速数据传输的过程

发表于 2021-11-17 分类于 kv 本文字数： 847 阅读时长 ≈ 3 分钟

由于服务器依赖比较老旧，因此需要重新安装各种依赖