从角色扮演到剧情聊天，翻开AI的另一面
写在前面：
这个合集我会整理有关大模型发展和应用的一些看法，不会很及时。但是目标是有独特的视角，有深度有温度。这些文章都是拼拼凑凑的所以没有什么配图，如果有也是AI的，或者是一些表情包。敬请谅解😥壹
第一篇我就写最近接触到的一些东西——AI角色扮演。这类东西其实很早就有了，一般就是通过强制性的提示词（prompt） ，然后大语言模型就会展现出预定的行为或语言效果。
我没有用过这个功能，现在国产很多平台都有角色扮演，从语气到风格都可以模仿。这个不是坏事，大模型发展本来就是多方面的，不是说AI只能用来解题，写代码💻。
我一向支持AI全面的发展。对于大模型的管控国家也有政策，现在大模型也有批准上市这个环节。但是只是中国有，国外的模型大多只有一层简单的审查机制😥。所以很多问题就出现在这个环节上。
经常能听说酒馆（Silly Tavern）这个名字，一开始不以为然，直到有人找到我。前几天有人找到我，要我帮他充值Claude的积分，大概20刀，我只是当做一个简单的客户应付了，结果过了不到半天他就用完了😨？
（大家可能对这个速度没什么概念，举个例子：Claude最贵的3.7-sonnet，每百万token输出15刀，他大约输出了一百三十万token。再说token，大致1 token对应一个中文字符，考虑符号等因素，约1.3 token对应一个汉字。也就是说，一百万汉字的输出量。半天时间，他就用大模型写了一本《红楼梦》（约96万字））！
贰
后面他不满足，要我充值了好几个网站，比如you.com，比如某海外vps。来来回回好几百RMB，其实我赚的不多，我主营就是兜售一些API罢了。后面甚至发了一堆教程给我，让我用电脑帮他建酒馆。
故事到这就是正常给他搭建了，然后收点钱，这个对于我来说易如反掌，但是对于这位朋友却恰恰相反。这样一个完整的云端服务需要很多专业知识，搭建起来后还需要配置API，如果API是国外的还需要中转，API又有两种来路……他竟一窍不通🤔，这个确实颠覆了我的认知，我原以为来找我买API的都是“业内人士”，只是懒得搞海外卡。没想到一个完完全全的小白就涉足这个领域了。
叁
后来深入了解，我也第一次使用了酒馆，其实就是个有着奇怪功能和高扩展性的OpenWebUI，和我那个平台没什么区别。但是就是这样一个可以用于角色扮演的平台出现了很多灰色地带。
首当其冲的就是涌入了很多对个性化虚拟对话有需求的玩家，他们可能是二次元，可能是颜色文学的狂热粉，AI浪潮推动他们去解锁本应被限制的功能。其次就是对海外网络的高需求，就是翻墙。
最后就是生成的文章被二次转发和利用，如果只是某个正经角色的扮演那没问题，但是敢问这些对话的虚拟对象就不涉及一点黄色问题？诸如此类，那酒馆能不能解锁更多敏感话题？这些敏感话题是AI高速生成的，是不是带来了非常多的问题……
不过后来我也懂了，可能更多的人都是依此来满足自身需求的。这或许是新时代逃避社会的一种方式罢了，就像上个世纪末本世纪初，青年一代成溺于游戏机，以此逃避社会；也像这几年大家抱起手机就刷短视频，同样是一种逃避社会的表现。也许在不久的将来，和AI深度的角色对话就是新一代青年逃避社会的方法。
最后也是很成功，通过反代you白嫖claude，就是延迟很高。不过一个月只要30刀就能无限畅玩，很适合酒馆。
肆
再简单讲一下酒馆，就算当科普了。酒馆这个平台还是比较简陋，虽说是高扩展性，但是一般人都要依靠别人的预设来做一些大模型破限之类的事情。酒馆主要就是三大部分：
预设：属于永久prompt，主要是规范提交给大模型的提示词，比如有多少上下文，模型的Temperature、Top-k和Top-p，还有一些强制性的提示词规范大模型回答。
世界书：属于永久prompt，提供故事背景和线索，也有人物和角色，为什么酒馆在对话中保持在同一个故事就是依靠这个东西。
卡片：一个神奇的png图片。卡片一般会自带正则表达式和世界书，我第一次去找卡片测试很幸运是JSON的，我非常确信我找对了。结果第二次发现根本没有JSON文件，帖子里面写到：“卡和说明”，然后配了两张图。后面才知道原来卡真的只是一张图，应该是在base64编码时把世界书和预设编进去了。（这招真的是绝啊）
伍
最后完整的prompt就是由世界书，用户自己定义的自我角色，预设，对话记录，当前对话组成。大模型返回的长文本由于已经格式化，之后不同的区块被记录在不同的地方，比如实时故事进展的表格，物品或者线索……
总的看下来这是一个非常消耗token的东西，如果真的能够提供等额的情绪价值那确实是个不错的东西，相反，如果毫无意义，那么就是给大模型厂商送钱。
陆
所以，Anthropic，你封我号，什么时候给我退钱
