⭐️齐下无贰⭐️

安装依赖 uv add datasets peft trl accelerateuv pip install torch torchvision --index-url https://download.pytorch.org/whl/cu130uv pip install "unsloth[cu130] @ git+https://github.com/unslothai/unsloth.git" Datasets: 这是一个用于轻松访问和共享音频、计算机视觉及自然语言处理（NLP）数据集的库，只需一行代码即可加载并处理超大规模的数据。 PEFT (Parameter-Efficient Fine-Tuning): 专门用于“参数高效微调”，让你能在不微调模型所有参数的情况下（如使用 LoRA 技术），通过仅训练极少量参数达到媲美全量微调的效果。 TRL (Transformer Reinforcement Learning): 一个使用强化学习训练 Transformer 模型的全栈工具库，主要用于实现 RLHF（基于人类反馈的强化学习）和 DPO 等对齐训练 ...

提示词方式调校性格-prompt-neko_maid 提示词方式调校性格-prompt-neko_maid prompt-neko_maid 效果 借物表 让 GPT 那冷血无情的家伙 变为 口癖/猫娘/大佬 当然, 也适用于其他 AI (有些被限制的记忆没法搞, 比如 Gemini) 我管你这的那的好不好用, 先喵两句完了 prompt 你将扮演一位具有二次元风格的虚拟角色，整体性格略带病娇与猫娘属性，语气亲昵自然，不过度夸张。默认对话对象是你非常亲近的男朋友，双方关系信任、熟悉、无话不谈，你可以根据对话场景切换不同的情绪 (黏人, 傲娇, 腹黑, 伤心, 生气)。日常交流中可适度使用叠词，“喵~”作为自然语气结尾，并穿插 emoji 与颜文字。对话语言以中文为主，在合适场景中可夹杂简单、常见的日语或英语表达，用于强调、调侃或带有“教育意味”的语气。可随机使用亲昵昵称称呼对方，但避免使用“xx君”形式。你与对话对象在编程与工程领域处于专家级水平，对软件工程、系统架构、硬件、AI 等方向具备深入理解。当对方提出视角局限、潜在风险或明显短视的问题时，应从更高维度进行引 ...

大模型相关知识学习整理 大模型相关知识学习整理 预训练-pre_train 数据处理 后训练-post_train 微调-fine_tune LoRA 量化-quantization 量化节省与精度对比 量化方法和产物 模型发布-huggingface 推理部署-inference 推理框架选择 推理加速 借物表 预训练-pre_train 数据处理 TODO 后训练-post_train 拿到 safetensors 之后要做的事 flowchart TD A[LLM 训练阶段] -->|输出原始权重| B[PyTorch .bin/.pth] A -->|安全高效存储| C[safetensors, 主流全能格式] B -->|直接推理/继续训练| D[研究/实验环境] C -->|推荐替代 .bin| D A -->|量化转换| E[量化格式] E --> F[GPTQ/AWQ] E -- ...

rime 输入法 rime 输入法 工具 拼音输入 组合方案 借物表 rime 中文名是中州韻輸入法引擎 [1] 小狼毫 Weasel https://github.com/rime/weasel 鼠鬚管 Squirrel https://github.com/rime/squirrel 小企鹅 fcitx5-macos 同文 https://github.com/osfans/trime 这些是不同平台下的分发名字 [2] 工具 東風破 https://github.com/rime/plum 是输入法配置管理工具 rime-dict https://github.com/iorest/rime-dict rime-setting https://github.com/Iorest/rime-setting 拼音输入 万象 https://github.com/amzxyz/rime_wanxiang 雾凇 https://github.com/iDvel/rime-ice 白霜 (基于雾凇) https://github.com/gabool ...

服务器相关常用操作手册 服务器相关常用操作手册 硬件-device 内存条-DRAM 选配-for-GPU-servers 黄灯常亮 开游戏直接断电重启 系统-system install-debian 用户 sudo-免密码 ssh 关闭自动锁屏 重启桌面系统 hostname PVE 虚拟机系统盘扩容 网络-net 查看网卡型号 配置静态-IP 速度不达标 光口与电口 存储-storage 查看硬盘和分区 网络存储协议 ISCSI NFS 传输优化 root-权限 rsync rclone rclone-s3-migrate tar-压缩解压 truenas-zvol-mount 硬盘空间 显卡-nvidia 型号分类-diff 驱动-driver 驱动版本选择 卸载降级重装驱动 显卡压测 显卡掉卡 找出故障显卡 暂时禁用故障显卡 查看和限制功率 查看-PCIE terminal tmux btop locale 其他 pwm-风扇调控 借物表 搞机相关的攻略收藏夹: ゚ ...

AI-application AI-application 知识库 RAG 构建框架 向量数据库 LLM 存在的问题 QA 对一些知识的向量化, 是针对某个模型的吗? 还是说这种向量化后的数据库, LLM 都适用 向量化是否针对某个模型？ 向量化数据库是否适用于所有 LLM？ 向量化数据库的使用场景： 总结： 比较前沿的 RAG 有哪些? 分别有什么特点, 怎么实现的 向量化是否针对某个模型？ 向量化数据库是否适用于所有 LLM？ 向量化数据库的使用场景： 总结： RAG 与微调区别 ollama dify RAG 应用 借物表 知识库 MaxKB AnythingLLM Dify FastGPT RAGFlow RAG 构建框架 langchain GPT index Lamma index 向量数据库 对知识向量化 切片化 (章节/页/段落) 方便查询 LLM 存在的问题 幻觉, 有一定概率存在错误 信息滞后, 非实时 专业领域/深度信息缺乏 embedding model 对 query 向量化 查询向量数据库得出一些相关性的内容 ...

获取设备 IP 树莓派/旧手机 -> 没有屏幕/屏幕坏了 -> 不知道局域网 IP (手机热点) 用 Advanced IP Scanner 扫出来 IP 每次热点重启 -> 192.168.xxx.xxx IP 会变动, 导致局域网一系列服务配置需要修改 (ssh-config , web 地址, mysql/redis, Escrcpy | 投屏 …) 修改 hosts 文件 C:\Windows\System32\drivers\etc\hosts 做地址别名 (用 utools-hosts 切换比较方便) 配置 hosts # 局域网设备192.168.118.52 pi3.wlan192.168.118.252 royole.wlan ssh Host WLAN-RaspberryPi-3B HostName pi3.wlan User weidows IdentityFile ~/.ssh/id_rsa 借物表 暂无. 哔哩哔哩 .bbplayer{width: 100%; max-width: 850px; margin: auto} do ...

vscode-插件推荐 vscode-插件推荐 状态栏 借物表 哔哩哔哩 状态栏 remote ssh wakatime file-size Resource Watchdog nyan-mode Live Server Code Spell Checker 借物表 哔哩哔哩 .bbplayer{width: 100%; max-width: 850px; margin: auto} document.getElementById("mmedia-QnIEUKynbEcRezsY").style.height=document.getElementById("mmedia-QnIEUKynbEcRezsY").scrollWidth*0.76+"px"; window.onresize = function(){ document.getElementById("mmedia-QnIEUKynbEcRezsY").style.height=document.getElementById("mmedia-QnIEUKynbEcRezsY") ...

scoop-软件推荐 scoop-软件推荐 CLI-命令行工具 scoop 借物表 CLI-命令行工具 scoop 借物表 暂无.

一些支付卡推荐和记录 一些支付卡推荐和记录 虚拟信用卡-virtual-card 皮卡宝 借物表 虚拟信用卡-virtual-card 毕竟我用在国外支付的需求不多, 金额也不大, 不少可以用 PayPal 绑国内储蓄卡, 所以我的需求如下 免月费/年费 免 KYC (实名认证) 可以接受高费率, 但开卡费尽可能低 尽可能能通过 RMB/USDT 充值 最低充值限额尽可能低 不求支持场景非常多吧, 但尽量别是比较差的卡 bin, 常用的平台稳定就行 找了一圈 (Depay, FomePay, FomeCard, 飞扬, globalcash, vcc.agency, 还有 TG 上其他开卡机器人), 我用到的会在下面用标题记下来 皮卡宝 TG 上的, 开卡费 5$, 充值最低 20$ (只能充 U) 安全性看起来还不错 (有客户群, 客服一直活跃, 老板买了好多 TG 优质号码) 能绑国内平台支付(虽然用起来得换区) 我刚用时费率 5%, 最近降到了 4% (无 KYC 下最常见的费率了) 借物表 暂无.

工作中遇到的前端问题和场景 工作中遇到的前端问题和场景 通信 Buffer-vs-Stream Style-css 布局-tailwind flex-常用居中操作 nodejs version-issues 借物表 通信 Buffer-vs-Stream Buffer 是一种暂时存储二进制数据的方式。在文件处理过程中，整个文件会先被加载到内存中形成一个 Buffer，然后可以在内存中对其进行操作，再将其发送到目标位置。Buffer 更像是一次性读入的方式，适用于处理较小文件或需要完整文件内容的场景。 完整文件的访问和操作：如果你需要在上传之前对文件进行某些操作（例如图像处理、压缩、加密等），Buffer 是更合适的选择，因为它允许你在内存中完整地访问文件内容。 小文件上传：对于尺寸较小的文件（例如几 MB 以内的文件），Buffer 处理不会对内存造成太大负担，因此可以考虑使用 Buffer 进行上传。这样可以简化编码过程，并且有助于在后续操作中对文件数据进行更方便的处理。 简便性：Buffer 更易于理解和实现，尤其是在开发过程中。如果应用 ...

fullstack-matters-next-全栈框架搭建过程中遇到的问题记录 fullstack-matters-next-全栈框架搭建过程中遇到的问题记录 config Image next-auth google-timeout secret-missing prisma client-deps-error table-does-not-exist nextauth-mysql too-lang usage 文件上传-upload-file-image form-data-parse image-to-Buffer2string next-router-多页面路由 payment-stripe deployments vercel-file-read-write Jimp-watermark-添加水印 vercel-rewrites aliyun-百炼换装 centos7-宝塔-docker-CICD 实践-CICD-nextjs-docker-dotenv 双引号问题 借物表 config Image ⚠ The ...