Как ролеплеить с нейронкой не привлекая внимание санитаорв
Довольно долгое время увлекаясь текстовыми нейронками для написания порнухи ролеплея и игр в духе choose your own adventure, я недавно с удивлением обнаружил что структурированной инфы о удобных фронтендах и в принципе как это все запилить что-б можно было дрочить через 5 минут играть прям здесь и сейчас довольно мало. С этими грустными мыслями и в свободный вечер решил накатать крайне общий гайд где постараюсь разобрать нафига оно нужно, какие есть фронтенды и бекенды и как это все настроить.
Нафига оно нужно
Помните ли вы довольно прикольный концепт книжек из середины 2000, где в конце каждого абзаца или страницы был выбор "герой идет на лево, страница 232. Герой идет прямо, продолжайте читать". А может вы заядлый игрок в настольные ролевые игры вроде днд и пасфайндера, у которого проклятые друзья не собираются уже 3й месяц? Или может вы зачитались какой-то вселенной, а по ней написано 3 с половиной новеллы и на AO3 никто даже захудалого фанфика не написал? Если что-то из этого вам укалывает сердечко, или у вас просто всегда было много идей для книг, но учится профессионально писать вы не хотели, то у меня для вас хорошие новости, нейронки могут помочь вам не только написать очередное письмо в HR отдел.
Немного истории
Использование нейронок для написания всякой шляпы стоит практически у истоков современных llm. Лично мне еще в далеком 2019 (ух бля) на курсе посвященном базовым основам машинного обучения, параллельно с лекциями о распознавании чисел, давали задание "на лето" используя тогда относительно новые трансформеры написать модель которая бы смешивала стили кардинально разных авторов. Кто-то из моей группы тогда задался целью смешать Зов Ктулху и Библию, на тот момент цель крайне амбициозная но по итогу он даже нагенерил пару страниц относительно читабельного текста (а я по этому заданию заленился и сдал свою бакалаврскую работу по селекции протеинов через random forest, но это уже другая история). Примерно тогда-же появляется и первый широко популярный в узких кругах онлайн фронт енд скомбинированный с проприетарным беком - Ai Dungeon. По сравнению с качеством текста сегодня, то что генерировали их первые модели (а были это фаинтюны gpt 2 а потом и gpt 3, как они тогда умудрились заколабится с openai можно только догадываться) было крайне посредственным. Окно контекста было крошечным, никаких кодексов и промт кешинга еще не существовало, но тем не менее ты уже мог назначить себя верховным магом Ура и пойти всех учить собирать финики. В 2021 году Ai Dungeon решил позаимствовать дробовик у тамблера и отстрелил себе ноги, введя жесткую модерацию контента и прописав в пользовательском соглашении что ваши текста не ваши, а девелоперы могут в любой момент начать читать, что-же вы там такого пишете. С контент модерацией по началу вообще доходило до смешного, модель отказывалась выдавать текст если там были упоминания лошадей и собак вообще в любом контексте, дабы победить всех злостных зоофилов. Параллельно возникает альтернатива - Novel Ai. Их модель на релизе уже была значительно лучше чем dragon от Ai Dungeon, и плюс к этому они не ограничивали контент и имели расширенный функционал самого фронт енда, включая более удобный лор бук - способ спаковать важные детали истории и тригерить их по ключевым словам вставляя в контекст модели для економии токенов. Novel Ai был локомотивом инноваций в сфере интерактивных нейроисторий до примерно 2023-2024 года, их модели продолжали совершенствоваться, размер контекста продолжал расти (помню как потолок в 1000 токенов был пиздец большим а 640 килобайт памяти хватит всем) и полезные фичи вроде авто озвучивания текста и авто правок продолжали прикручиваться. Но с релизом первых больших опенсорсных моделей вроде 3й ламы, и бурного каждодневного прогресса в качестве, те кто хотели быть на острие прогресса уже не удовлетворялись тем, что предлагал Novel Ai. Тогда-же в 2023 году происходят сразу 2 знаковых события, выходят oobabooga и SillyTavern, два фронтенда ориентированные на локальные модели, использование api и на мульти модельных провайдеров вроде openrouter и electron hub. С их развитием, возможностью на лету менять модели и очень высокой степенью кастомизации, которая приходит с опенсоурсом, у энтузиастов наконец то появилась возможность развлекаться с текстовыми нейросетями без ограничений.
Основные фронтенды
Итак, если эта стена текста вас заинтересовала, то вот вам 3 основных локальных фронт енда: мастодонты oobabooga text-generation-webui и SillyTavern, а так же относительно новый претендент и мой фаворит - Marinara Engine. Сразу оговорюсь, я не очень сильно знаком с современными проприетарными сервисами вроде Infinite Worlds и всякими Ai Girlfriend, и этот текст нацелен именно на локальные опенсорсные решения.
Что выбирать
Все три фронтенда довольно схожи, oobabooga заточена под локальные модели, silly tavern на использование сторонних api (но поддерживает и локальные модели) а Marinara Engine является развитием идей silly tavern, но пока в довольно сыром виде. Стоит выделить что из этих 3х у silly tavern самая большая пользовательская база и куча самых разных аддонов на любой вкус.
Как это заставить работать
Все 3 фронтенда поднимаются на винде и линюхе с пол пинка и с минимальными знаниями интерфейса гитхаба. Для настройки локальных моделей существует довольно много гайдов, я рекомендую вот этот и Ollama для бекенда https://www.datacamp.com/tutorial/run-llama-3-locallyА вот если вы не хотите морочится с локальными моделями или у вас нет достаточно мощного компа и есть немного денег - llm провайдеры ваш выбор. Я довольно долго использовал OpenRouter, после него перекатился в Electron Hub. Первый работает через токен кредиты - кидаете 20 долларов и они используются по мере ваших запросов. На выбор практически все существующие модели. Electron Hub работает по подписке и начисляет кредиты еженедельно в зависимости от уровня подписки. На выбор практически все актуальные модели, но не так много как у OpenRouter. Какую модель выбрать
Ответ на этот вопрос меняется практически каждую неделю и зависит от ваших финансов, как часто и как много вы хотите ими пользоваться и насколько вам важно качество текста. Если совсем вкратце - последние модели Claude - Opus и Sonet на пол головы выше конкурентов в качестве текста именно для ролеплея и написания историй, но и платить за них нужно сильно больше. Хорошие модели за которые не нужно продавать почку - GLM 5, Kimi 2.5, Gemini 3 Flash.
С локальными моделями я знаком чуть меньше, но малые и средние кванты той же GLM и Kimi вроде как показывают хорошие результаты, а llama3 все еще актуальна на слабом железе.
Заключительное слово и ресурсы
Под конец оставлю ссылку на дискорд Silly Tavern https://discord.gg/sillytavernТам довольно много ресурсов по выбору и настройке моделей, а так-же огромный выбор аддонов на любой вкус - от автогенерации лорбуков, до интеграции с перифериями.Если будут вопросы по настройке или правки к мои писаниям - милости прошу в коменты, постараюсь ответить и принять хуи. 
-9422617.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422618.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422619.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422620.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422621.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422622.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422623.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422624.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422625.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422626.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422627.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422628.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-9422629.png "Sijder,artist,Silver (Deadlock),DeadLock,Игры,gta 6,GTA,Рукоделие с процессом,покрас миниатюр,покрасил сам,покрасить фигурку,erotica,песочница эротики")
-Genshin-Impact-9277905.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277906.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277907.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277908.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277909.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277910.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277911.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277912.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277913.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277914.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277915.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277916.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277917.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277918.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277919.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
-Genshin-Impact-9277920.png "нефер,Nefer (Genshin Impact),Genshin Impact,Геншин Импакт,фэндомы,3д печать,покрасил сам,покрас миниатюр,Рукоделие с процессом,Sijder,artist")
