Google第六代Trillium TPU详解
Trillium TPU基本概况Trillium(TPU v6e)是Google于2024年5月15日正式发布、同年12月12日全面向Cloud客户开放的第六代张量处理单元(TPU)，是Google十多年AI专用芯片研发的集大成之作。核心定位：专为大规模AI训练和推理设计，特别是针对大语言模型(LLM)、多模态和推荐系统进行优化，是Goog
最近更新
树莓派5：充当streamable-http类型的MCP服务器
为了尽量提高本地部署的小参量打折精度LLM获取数据时的幻觉问题，最近研究了下MCP。stdio和streamable-http方式都尝试了一下，在我的测试场景下都可行。鉴于streamable-http方式部署更为灵活，因此也尝试了一下用树莓派5充当streamable-http类型的MCP服务器。其实方法是通用的，跨平台完全可用。我的测试场
TOMCAT跑死服务器，怎么限制TOMCAT使用资源
🚨 服务器跑着跑着就死机了？
一次把 Tomcat “总内存”限制住，彻底避免把主机撑爆（新手教程）
一、文章缘起：
服务器总是运行着运行着，就被 Tomcat 撑死了事情一开始，其实很普通。一台 16G 内存的服务器， 只跑一个 Tomcat，看起来完全够用。Tomcat 启动正常、访问也不慢， 一切都显得很“健康”。可问题是，只要运行一段时间：
SSH 开始变慢
服务响应越来越卡
Linux 服务器环境搭建实战：从裸机到可用生产环境（含自动化脚本）
文件目录：一、前言二、环境说明三、系统初始化配置3.1 更新系统与基础工具3.2 创建运维用户并配置 sudo3.3 SSH 安全加固（关键）四、防火墙与系统基础配置4.1 防火墙配置（UFW）4.2 时间同步五、Docker 运行环境搭建（核心）5.1 安装 Docker5.2 Docker 用户权
大模型对齐核心技术：从第一性原理完整推导 PPO 算法！
从第一性原理推导 PPO 损失函数
引言近期关于 DPO、GRPO 和 RLVR 等强化学习方法在大语言模型(LLM)后训练中的研究成果令人瞩目。对于刚接触强化学习的研究者来说,从 Proximal Policy Optimization(PPO)入手是个不错的选择。这正是 OpenAI 在 InstructGPT 论文中展示的用于改进 LLM 对齐的算法。理解 PPO 能帮助建立策略梯度方面的
【消息队列项目】服务器实现
一.通信协议设计与实现在这个模块，我们需要制定好我们的网络通信协议，那么由于我们使用的是Muduo库来进行数据的传输，那么Muduo库里面进行数据传输的时候，Muduo库它自己内部已经定制好了一个传输协议一个完整的数据包应该包含：4字节+真实数据注意前面4个字节是用于存储后面真实数据的大小的具体的处理过程就在这个Prot
C++实现简单LRU缓存算法
1.什么是LRU缓存 LRU缓存是一种常见的缓存淘汰算法，用于在缓存空间不足时，决定哪些数据应该被移除。它的核心思想是：当缓存已满时，优先淘汰最近最少使用的数据。2.核心原理假设缓存空间有限，只能存储固定数量的数据项。当需要添加新数据但缓存已满时： (1)系统会检查缓存中所有数据
Linux-Ubuntu系统环境搭建
1、Python 开发平台Ubuntu
1.1、Ubuntu 介绍Ubuntu（友帮拓、优般图、乌班图）是一个以桌面应用为主的开源 GNU/Linux 操作系统，Ubuntu 是基于GNU/Linux，支持 x86、amd64（即 x64）和 ppc 架构，由全球化的专业开发团队（Ca
常见服务器黑话/术语名称
常见服务器黑话/术语名称
黑话/缩写
全称（英文）
大白话解释
实际本质
典型厂商例子
VPS
Virtual Private Server
虚拟专用服务器
把一台物理服务器虚拟化，分成多个独立小服务器给你用，有根权限
Vultr、DigitalOcean、Linode
ECS
Elastic Compute Service
弹
从零开始编写 webserver (三) 线程池与数据库连接池
介绍使用线程池和数据库的连接池是为了避免频繁地创建或释放资源，从而提升性能。这个项目中的线程池设计的比较简单，是创建一个任务队列，然后创建一定数量的线程，线程不断从任务队列中取出任务来执行。数据库连接池也设计的比较简单。线程池先贴代码thread.h#include <mutex>
#include <condition_v
