logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在Mac M1笔记本上跑大语言模型llama3的4个步骤?(install、pull、run、ask)

实操下来,因为ollma非常简单,只需要3个步骤就能使用模型,更多模型只需要一个pull就搞定。一台稍微不错的笔记本+网络,就能把各种大模型都用起来,快速上手吧。

#macos#开发语言#人工智能 +1
如何用GPU算力卡P100玩黑神话悟空?

精力有限,只记录关键信息,希望未来能够有助于其他人。

文章图片
#服务器#游戏
ACM_算法竞赛经典入门_ 强烈推荐的一本好书

这本书虽然讲的是算法竞赛的内容,但里面涉及的很多算法和内容比较适合计算机系的学生练习编程,对于掌握好编程和数据结构有很大的帮助。将这本书学精,把后面的习题都到oj上ac。那么你的数据结构和编程已经有很深的功底,可以应付任何公司的技术面试(包括ms,google,baidu)总之,学了以后,再也不感觉计算机神秘了,什么新技术,高科技,就是那么回事情,万变不离其宗,这个宗,有很大部分都在这本书中。不过

在Mac M1笔记本上跑大语言模型llama3的4个步骤?(install、pull、run、ask)

实操下来,因为ollma非常简单,只需要3个步骤就能使用模型,更多模型只需要一个pull就搞定。一台稍微不错的笔记本+网络,就能把各种大模型都用起来,快速上手吧。

#macos#开发语言#人工智能 +1
【报错处理】ib_write_bw执行遇到Failed to modify QP 358 to RTR原因与解决办法?

QP可以处于不同的状态,其中RTR(Ready to Receive)是QP状态之一,表示QP已经准备好接收消息。两个IB接口并未链接,但是两个IB接口的服务器是能够互通的时候会出现该问题。更改拓扑,让测试的两个port在IB上能够通。比如直连或者交换机处理。命令: ib_write_bw 1.1.1.1。

文章图片
【Mellanox命令系列之mlnx_qos设置DSCP】如何绑定流量类型DSCP与网卡硬件队列,为什么设置,如何生效?(--trust=dscp; --dscp2prio set,63,0)

后2个bit是ECN(显式拥塞通知Explicit Congestion Notification,是用来进行拥塞管理的,数据包从端-交换机-端流程中,流经交换机如果出现交换机拥塞(准确讲是超过交换机配置的认为拥塞的水位线)后,会将该IP报文的ECN字段标记为11,表示数据传输中出现了拥塞,当端侧收到被标记ECN的报文后,接收端会发送一个CNP报文给发送端,以控制发送端进行拥塞控制,进行降速。是针

文章图片
#网络协议
Linux内核驱动代码中Mellanox网卡的拥塞控制参数查看位置与作用?(mlx5_ifc_xxx_bits, np_cnp_dscp)

网卡上的拥塞控制参数,通过Linux debug fs灵活的提供给用户,比使用mlxreg命令更加方便和直接以及操作面更广泛。把握住主线,就能不被命令困惑。提交这些参数的patch: https://patchwork.kernel.org/project/linux-rdma/patch/20170530070515.6836-1-leon@kernel.org/Mellanox在Linux内核

文章图片
#linux
【问题记录】如何编译nv_peer_memory模块?依赖OFED的4个目录和2类文件?如何解决没有rdma/peer_mem.h文件?

这项新技术在 GPU 内存之间直接与 NVIDIA HCA/NIC 设备之间提供直接的 P2P(点对点)数据路径。这显着降低了 GPU-GPU 通信延迟,并完全减轻了 CPU 的负担。nv_peer_memory模块是网卡提供给GPU使用GDR技术的模块,介于GPU驱动和OFED之间。nv_peer_memory依赖OFED的接口。

文章图片
#GPU
微知-RDMA中的四大M,以及Mellanox驱动中的MAD为什么叫MA的D?(managent agent、Management Datagrams)

RDMA中建链除了有TCP方式,还有有CM建链。CM建链是指用带内通信进行建链。带内就是指通过RDMA链路进行建链。这里的CM是communication Management。这里的CM看似是一个简单的communication的Management,实际是RDMA中四大M的一种M。

    共 22 条
  • 1
  • 2
  • 3
  • 请选择