VSCode升级后因GLIBC版本不兼容在Ubuntu18.04报错（需≥2.28）。解决方案：1）手动编译安装glibc-2.28到/opt目录；2）使用patchelf工具修改VSCode的node文件，重定向到新装的glibc库路径。操作包括下载源码、编译安装、备份原node文件并设置新的库解释器路径。验证通过后node可正常运行。

vscode 配置python -m vllm.entrypoints.openai.api_server进行debug调试

这个是 C++ 的名字修饰（Name Mangling） 机制导致的，是 C++ 为了支持函数重载、命名空间、类成员函数等特性，而对函数名进行的特殊编码，最终会在编译后的 SO（共享库）中生成带有额外字符的函数名。如果要g++编译动态的名字不变，需要加上以下代码。用gcc编译成动态库，并用nm看函数名字。用g++编译成动态库，并用nm看函数名字。

文章目录问题可能原因解决方案问题前面用自己的台式机利用GPU训练模型的时候，电脑老是自动重启，当时试了各种方法，找了各种原因。电脑配置电脑买的是二手的，（强烈建议买新的，大牌的，后面用起来省心，不然遇到问题或者遇到以次充好的，会影响心情的）海盗船，550w显卡：华硕1070主板：微星z270自动重启现象在ubuntu下，使用pytorch框架，测试torch.cud...

卷积神经网络（CNNs）在近年来如何推动了物体检测的发展。许多检测器已经被提出，而且在许多基准数据集上的性能正在不断提高。然而，大多数现有的检测器都是在正常条件下对高质量图像进行研究。在真实环境中，经常会出现许多糟糕的光照条件，如夜晚、暗光和曝光过度，这些条件会降低图像的质量，影响检测器的性能。前人的解决方案：…略本文采用了金字塔增强网络（PENet）和YOLOv3。首先，PENet使用拉普拉斯金

个人觉得有两种方式1.通过/bin/bash的方式安装依赖软件，并将项目文件，模型打包进去，然后docker save -o project.tar ocr导出整个项目，但是tar文件应该会很大2.通过dockerfile的方式安装依赖，生成一个docker镜像；下载模型；在docker镜像中运行项目3. 一些例子项目https://github.com/imadelh/ML-web...

gmflow中采用矩阵乘法求两个图像的全局匹配，而以前的光流算法多采用一定半径的局部求相关性，而两个超多元素的矩阵乘法会严重增加计算量，所以这里对全局匹配的结果进行可视化，进行直观感受。gmflow中全局匹配的code就是对两个特征用matmul求相关性。后面可视化就是对的可视化。整体流程：code：第一张图是前向光流可视化图，第二张图分别是400个点对应的ativation map图。可以看到：

随着大模型应用场景的不断拓展，arm cpu 凭借其独特优势在大模型推理领域的重要性日益凸显。它在性能、功耗、架构适配等多方面发挥关键作用，推动大模型在不同场景落地Arm Kleidi 成为解决这些挑战的理想方案，它能够为运行在 Arm CPU 上的所有 AI 推理工作负载提供无缝的性能优化。KleidiAI 是一套轻量级且高性能开源的 Arm 例程，专为 AI 加速而设计。

pytorch, IRPyTorch JIT Source Code Read NotePyTorch 源码解读之即时编译篇

转载自:https://oldpan.me/archives/how-to-debug-pytorch-deeper前言我们对Pytorch的debug一般都是在python端进行，这对于一般搭建模型的任务来说足够了。但如果我们需要对Pytorch进行一些修改或者研究一下机器或深度学习系统是如何搭建的，想要深入探索就必须涉及到C++的源码层面。举个栗子，例如torch.rand(3, 4)这个函数