一个基于SillyTavern接入Claude的实例

发布于 8 天前  235 次阅读


研究背景

近年来,基于自然语言处理的AI助手如Claude和ChatGPT兴起,为角色扮演提供了新的可能性。
在传统的角色扮演中,玩家通常依赖于预设的剧本和角色设定,而AI技术的引入使得角色扮演变得更加灵活和动态。通过SillyTavern与Claude的结合,玩家不仅能够与AI进行实时互动,还可以根据自己的选择和想法塑造故事的发展。这一创新的互动方式不仅提升了游戏的趣味性,也为玩家提供了更深层次的情感体验和创造空间。
相比于ChatGPT,Claude 对内容审查较为宽松,基于目前网上很多的附带脚本可以实现“破限“,即采用一定的引导促使Claude输出不符合其原本审查规范的内容。SillyTavern采用本地架设的互动式UI,可以提前定义角色信息、附带脚本以实现用户只需要推动故事情节,不需在意其他问题实现角色扮演,增加用户的沉浸感。
因此,本文采用sillytavern接入claude在线模型实现角色扮演平台构建,具体来讲,本文采用两种实现方法。

  1. sillytavern+crewd+Claude官网直连实现平台构建,优势在于
    a. Claude官网可以提供更大的访问量,约50次/4h,相比于其他第三方平台50次/d有相当大的优势。
    b.采用真实的claude3.5-sonnet或3.0opus模型,其他平台有可能挂羊头卖狗肉。
    劣势在于:容易封号,但是封号了会退款。
  2. sillytavern+YOUchat_proxy+YOU.com实现平台构建,优势在于
    a. Claude模型可以随意规避审查内容,不会封号
    b. 相比于官网较为便宜,进行教育邮箱认定后仅需10美元
    劣势在于:
    a. 限额基本上只有50次/d,会偷换响应模型等
    b. You会在响应的时候重整json文件为一行,极大提高了审核内容规避的难度。

构建方法

上面啰嗦太几把多了,下面短平快的讲一讲如何构建.

首先是一些要用的软件和系统

  • Node.js v22.11.01 LTS
  • Git
  • windows系统
  • chrome浏览器

Silly Tavern

项目地址https://github.com/SillyTavern/SillyTavern
把代码git到本地,以防有人没用过Git提一嘴,它会在powershell所在的文件夹下创建一个新文件夹,代码在那里面。

  1. 通过 Git 安装(推荐使用,便于更新)
    • 附有精美图片示例的简易指南:https://docs.sillytavern.app/installation/windows/
    • 打开 Windows 资源管理器 (Win+E)
    • 浏览或创建一个不受 Windows 控制或监控的文件夹。(例如:C:\MySpecialFolder)
    • 点击顶部的 "地址栏",在该文件夹内打开命令提示符,输入 cmd,然后按回车。
    • 弹出黑框(CMD 命令提示符)后,键入以下其中一项并按 Enter:
      git clone https://github.com/SillyTavern/SillyTavern -b release
    • 等待 Git 克隆完成后,双击文件夹中的 Start.bat 将启动 NodeJS 并开始自动安装需要的软件包。
    • 然后 SillyTavern 服务就会自动启动,同时在浏览器新标签页中自动打开。

为了实现局域网或广域网访问,你需要在启动一次SillyTavern后修改配置文件,配置文件在文件夹下config.yaml

需要注意的是,SillyTavern是完全单人的应用,任何人访问都可以看到所有的角色卡和聊天记录,你也不想你的XP或者和赛博女友温存的内容被人看到吧

  1. 修改配置文件
    pass
    config.ymal示例

YOU.com或Claude.ai注册

you的注册略过不讲了,注册,点到首页,划到最下面申请教育资格一条龙,再付出10美元的代价即可。
Claude.ai的注册太复杂,篇幅有限,我直接放一个文章链接在这里,去看这个。文中有讲到需要美国家宽和outlook邮箱,我个人通过gmail和日本aws线路也很稳定,你的xp别太怪就行。 https://x01rlunmu9o.feishu.cn/wiki/ISciw5XKHieuiTkG68dcqKk2nwg

Clewd或YOUChat_proxy

如果你想要采用Clewd+claude.ai的实现路线,请参考这个

  1. Clewd

    项目GitHub:https://github.com/teralomaniac/ 原作者教程:https://rentry.org/teralomaniac_clewd
    能打开这个网站的,我相信都会有自己的一些科学上网技巧,如果要Clewd在本地运行,需要使用Clash verge的Tun模式。且一些大机房的IP是不能正常访问api.Claude.ai的,如日本东京aws。

    a. Copy Clewd代码,详细的方法就不多讲了,想必你一定学会了Git

        git clone --depth 1 https://github.com/teralomaniac/clewd.git

    b. 使用Google Chrome浏览器在无痕模式下进入Claude.ai,按下键盘F12按钮,唤出开发者工具,选择Network/网络选项

    c. 点击搜索到的key,保存。要记住,请不要关闭这个页面,否则sessionKey会失效,需要重新获取

    d. 第一次运行Copy文件夹下的start.bat,等待其运行完毕;打开生成的config.js,将sessionKey复制到"CookieArray": []中,需要在前后两端加一个半角英文冒号,如下图所示。保存并关闭

    e. 正式运行start.bat,等待提示符里面有邮箱,就可以正常使用了。如果提示403,则说明你当前的网络状况不能正常访问Claude,换个科学上网方式。
    f. 如果你想要在一台设备上运行clewd,另一台设备运行sillytavern,需要将“Ip”:行修改为你的局域网分配IP,如192.168.1.101

配置SillyTavern

推荐社群:类脑Discord,教程很多,破限,角色卡也很多,遵守频道规则

  • 破限(个人使用处女座预设Series.A.1.3)
  • 导入角色卡,可以是png或者json,
  • 如果是超长上下文,养成的赛博女友,我建议你找一个用来总结的预设(个人使用【智慧总结】总结姬plus)
  • 选好api端口,如果采用Clewd直连,选择API:聊天补全;聊天补全来源:自定义(兼容OpenAI);自定义端点:http://127.0.0.1:8444/v1 ;点击连接;可用模型:选择claude-3-5-sonnet-20241022(逻辑好,涩涩文本一般,容易破限)或claude-3-opus-2024029(逻辑一般,涩涩好,难限制)
最后更新于 2024-11-13