作者:蓝逸
日期:2026-03-01
分类:分享
浏览:405℃
评论:0条
分享一篇最近写的 LLM 部署与应用经历,涵盖了: 🚀 硬件升级:从单卡 4090 48G 到双卡配置,为了跑 GPT-OSS 120B 专门组了 TRX40+TR 3960X 平台(虽然被 AI 坑了买贵了😅) ⚡ 框架对比:从 Ollama 转向 vLLM ,双卡张量并行实测接近 190 TPS ,生产级框架确实强 🧠 模型实测: OpenAI GPT-OSS 120B:开源上游水平,速度与效果兼具 DeepSeek 1M 上下文:直接上传整个博客 search.json ,简历生成、人格分析、代码重构全搞定 LFM2.5-1.2B-Thinking:8GB 内存 MacBook 也能 6...
作者:蓝逸
日期:2026-03-01
分类:分享
浏览:1665℃
评论:0条
转载自隔壁 以下链接直接复制发送给文件传输助手或者任意好友,在微信移动端打开即可(建议三个一起关更清净) 关闭微信支付后摇一摇 https://payapp.wechatpay.cn/useraccount/consumerprotection/queryuserbusitag?busi_type=3&scene=1&exportkey= 关闭微信支付服务营销骚扰 https://payapp.wechatpay.cn/useraccount/consumerprotection/queryuserbusitag?busi_type=2&scene=1&exportkey= 关闭微信支付服务个...
作者:蓝逸
日期:2026-03-01
分类:分享
浏览:1665℃
评论:0条
Claude 官方发出了一个通告,对 Github 上的开源大佬们提供了 6 个月的 20Max 免费访问权限 申请要求: 1 是仓库的核心成员或维护者,好像也包括了参与提交 issue 的人 2 GitHub 项目要超过 5K Star 或者 NPM 月下载量超 100w 才可 3 日期截止到 26 年 6.30 号。名额 1w 人。 发完截止。 4 不能是 Claude 政策不允许的地区,估计要自 d 被干净的家宽 详情可查看官网通告;链接: https://claude.com/contact-sales/claude-for-oss 大佬们快冲呀! 让我也瞻仰一番...
作者:蓝逸
日期:2026-03-01
分类:分享
浏览:1661℃
评论:0条
date:2026-02-28 提问:明天上班吗? 回答:明日为正常休息日:明天( 2026 年 2 月 29 日)是周日,并非法定工作日,也没有春节调休安排。。。。 https://www.baidu.com/s?word=%E6%98%8E%E5%A4%A9%E4%B8%8A%E7%8F%AD%E5%90%97...