RWKV Runner 是 RWKV 模型的管理和启动工具,由 RWKV 开源社区成员 josStorer 开发,它本身也是一个开源软件,且体积仅 10MB 左右(不含依赖项)。
开箱即用的 AI 功能:易于使用的聊天、写作、作曲交互等 AI 功能,支持聊天预设,支持 MIDI 硬件输入及音轨编辑等功能。
用户友好的 UI 设计:易于理解和操作的参数配置,丰富的操作引导提示;支持多语言;支持主题切换;支持自动更新
丰富的内置功能:内置 WebUI 选项,可一键启动 Web 服务,共享硬件资源,内置模型转换工具、下载管理和远程模型检视、一键 LoRA 微调 (仅限 Windows)
强大的兼容性:预设多级显存配置,几乎在各种电脑上工作良好。(通过配置页面将 Strategy 切换到 CPU / WebGPU,可以在 AMD、Intel 等显卡上运行)。
前后端分离架构:用户可以在服务器部署 backend-python,然后将此程序仅用作客户端,也允许单独部署前端服务,或后端推理服务,或具有 WebUI 的后端推理服务。
RWKV Runner源码:https://github.com/josStorer/RWKV-Runner
聊天功能
软件提供了开箱即用的聊天功能,你可以与 AI畅聊、提出问题并获取建议。
写作功能
写作功能可根据你提供的文本内容作进一步的续写、翻译等任务。
作曲功能
作曲功能可提供基于 MIDI 格式的乐谱创作、续写等功能,同时为生成的乐谱提供播放功能。
下载与安装
Windows下载 :https://github.com/josStorer/RWK ... ner_windows_x64.exe
MacOS 下载:https://github.com/josStorer/RWK ... macos_universal.zip
Linux 下载:https://github.com/josStorer/RWK ... KV-Runner_linux_x64
若 Github 下载链接无法打开或下载速度太慢,可以在 Baidu 网盘中下载对应的安装包。
网盘地址: https://pan.baidu.com/s/1kyYCI-XgQQwEZctVyQaFlg?pwd=iwqs 提取码: iwqs
注意:无论下载哪个版本,请将程序放在一个空目录(空文件夹)内再执行,因为软件所有依赖文件均会放在此目录。
准备启动环境
首次打开 RWKV Runner 软件时,点击“运行”按钮,软件会提示你缺失 Python 等依赖项。
跟随软件的引导点击 “安装”,RWKV Runner 会为你自动下载并安装所需的文件。
下载完成并启动 RWKV Runner 后,放置 RWKV Runner 的文件夹应该会具有以下标准的离线环境目录:
其中 models 文件夹用于存放 RWKV 模型,RWKV Runner 默认从此文件夹读取本地 RWKV 模型。
启动环境只需在首次启动 RWKV Runner 时配置一次。
对于 Mac 和 Linux 用户,请手动安装 Python3.10 (通常最新的系统已经内置了)。此外,你可以在设置中指定使用的 Python 解释器。
模型配置与运行
完成启动环境的配置后,我们可以开始下一步:配置、下载并运行 RWKV 模型。
为了照顾新手用户,RWKV Runner 内置了一系列预设模型配置,以降低使用难度。
每个模型配置名称的规则,依次代表着:设备-所需显存/内存-模型规模-模型语言。
例如 GPU-8G-3B-CN,表示该配置用于 Nvidia 显卡,需要 8G 显存,模型规模为 30 亿参数,使用的是中文模型。
模型的规模越大,理论上的任务效果会更好,但对设备的内存、显存等性能要求也会更高。
如果你使用 NVIDIA(英伟达)的显卡,可以选择“GPU” 前缀的预设模型配置。
如果你使用的是 AMD 或 Intel 的显卡,请选择 “CPU” 或“AnyGPU” 前缀的预设模型配置。
选择一项预设的模型配置后,点击右下角的 运行 按钮,即可运行对应的模型。
如果你尚未拥有该预设配置所需的 RWKV 模型,请点击弹窗的“下载”按钮,系统将自动为你下载对应的模型文件。
(如果模型下载失败或无响应,请勾选使用Huggingface镜像源)
等待模型下载完成,再度点击 运行 按钮,即可启动模型,并运行各类 AI 功能。
如果不会安装配置,请看视频教程(作者:国服第一海豹):
https://www.bilibili.com/video/B ... 1ac4833ff855ef38301
RWKV-Runner常见问题疑难解答(作者:国服第一海豹):
https://www.bilibili.com/read/cv23921171/?spm_id_from=333.999.0.0
友情小提示:
本站所有内容均由互联网收集整理、网友分享,我们不承担任何技术、责任及版权问题,资源测速后请24小时后删除!若您需要请您购买正版授权并合法使用,我们不对任何资源负法律责任。
资源失效请留言站长,压缩文件请在电脑上用最新版的好压或者360压缩软件解压,请勿在线解压,手机解压失败的勿扰。
网赚盘链接失效不补,要稳定请移步干净云或BT,BT比较推荐用xdown(https://xdown.org/)或Sharea(http://shareaza.sourceforge.net/)下载,也可用115、PikPak、uTorrent或BitComet下载。
猜你喜欢
- 2024-05-18[文件传输] 【Android/IOS/Win】互传 EasyShare 3.6.5 零流量、极速、多平台快捷传输工具
- 2024-05-18[辅助下载] 4K高清壁纸图片批量下载工具2.0版本
- 2024-05-13[精品软件] RedButton v5.99 汉化单文件版
- 2024-05-11[实用工具] scrcpy-mask — Mac上控制 Android 设备
- 2024-05-11[实用工具] 🤖 Word GPT Plus - 一个集成 ChatGPT 模型的 Word 插件
- 2024-05-11[设备工具] 【python】华为交换机配置提取工具
- 2024-05-10[组网工具] 【开源】分享一款易用、功能丰富、无需服务端的异地组网软件
- 2024-05-10[系统辅助] 适合封装系统设置记事本右键菜单的小工具v1.0
- 2024-05-08[文件传输] 双轨快传 v1.1.1 (同时使用USB和WIFI传输文件到电脑)
- 2024-05-08[系统辅助] 最快快捷键V1.2.47 一键切换窗口、启动程序、复制粘贴、按键映射、切换输入法
网友评论
- 精品推荐!
-
- 最新文章
- 热门文章
- 热评文章
- [文件传输] 【Android/IOS/Win】互传 EasyShare 3.6.5 零流量、极速、多平台快捷传输工具
- [辅助下载] 4K高清壁纸图片批量下载工具2.0版本
- [资料教程] 事业单位必刷题库
- [技术课程] 【易锦】WEB渗透Hacker技术特训营(直播课第14期)
- [课程] 轻松汽车摄影-全能课,最全汽车视频拍摄技巧(32节课)
- [资料教程] 辣条制作配方及教程
- [音乐] 低音炮车载340首
- [课程] 夜鹰10分钟救命课(完结)
- [资料] 寻道网道医精品视频课程集合15部
- [资料课程] 适合3-7岁学前幼小衔接 《22天搞定拼音》,认、读、拼、写
- [影视] 灌篮高手 WEB-DL版下载/Slam Dunk/スラムダンク/灌篮高手:THE FIRST/灌篮高手电影版 2022 The First Slam Dunk 61.35G
- [书籍] TXT电子书大合集(70000本)
- [安卓软件] Nekogram安卓版(猫报APP)_v10.8.1 中文版
- [电影] 2024年喜剧片·热辣滚烫 [mp4]
- [动画] 北斗神拳(1984) [两季全] [MKV]
- [即时通讯] 微信PC版WeChat 3.9.9.43 多开防撤回绿色版
- [影视] 破墓 WEB-DL版下载/Exhuma/The Unearthed Grave 2024 파묘 6.61G
- [电脑软件 / 苹果软件] 小白羊云盘(gaozhangmin) v3.12.6 阿里云盘客户端
- [安卓软件] 酷我音乐APP_v10.7.6.4 去广告破解豪华VIP版
- [影视] 年会不能停! WEB-DL版下载/Johnny Keep Walking! 2023 年会不能停! 21.71G
- [影视] 灌篮高手 WEB-DL版下载/Slam Dunk/スラムダンク/灌篮高手:THE FIRST/灌篮高手电影版 2022 The First Slam Dunk 61.35G
- [安卓软件] Android 速搜视频(支持短剧) v1.0.9 去广告清爽版
- [动画] 北斗神拳(1984) [两季全] [MKV]
- [影视] 年会不能停! WEB-DL版下载/Johnny Keep Walking! 2023 年会不能停! 21.71G
- [即时通讯] 微信PC版WeChat 3.9.9.43 多开防撤回绿色版
- [图片浏览] 2345看图王 v11.3.0.10162 去广告绿色纯净版
- [安卓软件] 酷我音乐APP_v10.7.6.4 去广告破解豪华VIP版
- [安卓软件] Nekogram安卓版(猫报APP)_v10.8.1 中文版
- [图像处理] ScreenToGif(Gif工具GIF录制软件) v2.41.0.0
- [下载工具] Internet Download Manager 6.42.7 (IDM)
- 最新评论
- 热门标签
- 站点信息
-
- 文章总数:14326
- 页面总数:0
- 分类总数:19
- 标签总数:482
- 评论总数:219
- 浏览总数:1108430