below her mouth

The Fracture of Biel-Tan - Part Two

With the Yncarne back in the game, the Ynnari are able to break out of the killing fields and fall back to a more a defensible location. They hole up inside the giant Memorial Hall of Atransis, holding the choke points easily. But Yvraine has found only one of the two swords on Belial IV, and they’re effectively trapped inside the Hall. That’s when two huge structures at the back of the hall being to open up, revealing a glowing portal. Stepping out from it is a massive Wraithknight, blue and yellow heraldry emblazoned upon it. Two more Wraithknights follow, as well as a host of smaller Wraith Constructs. Leading the Wraiths is Iyanna Arienal, the Angel of Iyanden. The Iyanden Wraiths cover the Ynnari forces, as Iyanna beckons them through the portal. Whilst they’re still missing one of the crone swords, to stay is to die so the Reborn dash through to the Webway and eventually to Craftworld Iyanden. Iyanna recognises a kindred spirit of sorts in Yvraine. Iyanna believes in Ynnead, but matters of the dead are a touchy subject in Iyanden. “I’ve got your back Sis, but others might not be so friendly,” she warns Yvraine as they enter the Craftworld. There’s one other small problem facing Iyanden at the moment – it’s under attack by two Space Hulks swarming with Demons of Nurgle.

With the defense of the Craftworld in full swing, the Ynnari party are greeted with crossed arms by the Iyanden defenders who basically force them into a house arrest until they can properly deal with them. Yvraine is kinda mad about this, but she forces herself to cool down to avoid hostilities. She instead reaches out with her Pyschic powers to her old Corsair buddies from Commoragh. Hearing her call, they come to the aid of Iyanden, unleashing an unexpected and devastating salvo on one of Space Hulks, destroying it.
Prince Yriel is leading the Iyanden defence, with his Corsairs. They are fighting furiously, and with exceptional skill, but the remaining Space Hulk is proving super-resilient – it is a Nurgle Hulk after all. Yriel realises that they need to launch a strike force to destroy it from the inside, however any conventional assault would be suicide. He comes up with a bold plan. He shuttles himself and his captains over to Iyanden, and convinces the pilots of the Craftworld to follow a specific course of co-ordinates in order to dictate the movement of the enemy Space Hulk. He then takes his group of corsair captains through the portal into the Webway. Using some ancient maps of the Webway near Iyanden, and a perfect sense of timing, Yriel gathers his captains into the right spot at the right time... and activates their personal Webway Teleporters to step right into the heart of the Space Hulk. Not as cool as a Teleportarium Assault by Terminator Assault Marines, but still pretty cool none-the-less.
The inside of the space hulk is utterly infected by the filth of Nurgle, and its only the Corsair Captains air-tight armour that stops them falling dead from a single breath of toxin. Resistance is light, only the occasional Nurgling, as the Corsairs had bypassed all the defences. They make their way to the Enginarium where they find the massively bloated Demon Prince Gara’gugul’gor (“whose name can only be pronounced correctly with a throat full of phlegm”). While he has super-dextrous tentactles to attack with, he’s so fat he can barely move. But lucky for him, his prey came right for him. The Corsairs are able to dodge his attacks at first, but the fighting attracts more and more Nurgle demons and the Corsair Captains are soon hard-pressed. Yriel goes all out – the Spear of Twilight destroying everything it touches – when the Demon Prince sprays a stream of vomit at him. Yriel is able to duck out of the way – but ducks straight into one of Nurgle Prince’s tentacles. Instantly, he’s wrapped up in the tentacle and drawn in to be devoured by the Demon but he uses his ocular implant – the Eye of Twilight – to burn himself free. Close enough now to strike, he brings the Spear of Twilight down... but not on the demon. Instead he strikes into the heart of the enginarium itself. The dark energies of the Spear leach through the machinery of the Space Hulk, turning it into rust and shutting down the engines. The Space Hulk is left unable to maneouver, thus ending its threat to Iyanden. Yriel smiles momentarily in victory – until Gara’gugul’gor grabs a massive girder and smashes Yriel dead with a massive blow. The Demon Prince mops up the rest of the Corsairs, but looks around in concern. He’s gonna lose his standing with Grandfather Nurgle over his failure to destroy Iyanden, but as he looks at the corpse of Yriel he starts chuckling. Maybe there is a way to salvage this mess... 

Iyanden has escaped the threat of the Nurgle forces, but at a high cost. Prince Yriel’s frozen body is found floating through space, and is retrieved with great sadness. What must Iyanden do to escape this seeming curse that haunts it’s every move? Yriel’s body is put into quarantine – the Eldar are no stranger to Nurgle’s “gifts” – and their caution is proved prudent when Yriels body explodes into contagion when examined by some Wraith constructs. Yvraine, since freed from the house arrest and given thanks for calling in the Corsair aid, hears of this and makes her way to the quarantine area. Holding her Crone Sword high, she channels the necromantic powers granted to her by Ynnead into waves of lethal energy that kill off all the spores of Nurgle released into the chamber. She then enters the chamber, and grabs the Spear of Twilight. Iyanna waves off the Wraiths that try to stop her, Yvraine gives Iyanna a curtsey (IS THIS A NEW ‘SHIP?!?!) and plunges the Spear into Yriel’s chest. Yriel bolts upgright, the life energies the Spear had stolen from him over the years returned, as the Spear itself transforms shape and reveals its true form – the 4th Crone Sword. Prince Yriel had been Reborn.

A council is convened of the assembled Eldar forces. “We must act now, to change the fate of the galaxy,” Eldrad says. “But the Great Enemy is ascendant. We cannot prevail alone”.
“Who can help us?” asks Sylandri Veilwaker. “The Tau are still too young, the Orks too unpredictable and the Tyranids out of the question. Humans are too easily corrupted – they are making the same mistakes we did, that led to our Fall.”
“They have faith,” says another Farseer, “and with Faith they have power”.
“The time of their corpse-god is over,” says Wraithknight Soulseeker. Yvraine, with Iyanna at her side, speaks up then. “No, they must have a new leader,” she says. “If we can raise a new hero that reminds them of the glory of their past, they will follow him just as we cling to our myths.”
“She is right,” says Eldrad, “and I have already forseen of a leader the Humans will follow like sheep. We must go to the moon of Klasius and meet our shared destiny”.
“We shall give the humans a demi-god,” says Yriel, his chill voice sounding as if it comes from the grave, “A king reborn, with a deathly blade. And the hosts of Iyanden shall go with us.”


A brief interlude to catch up on Commoragh before we get to the last part of the narrative – the demonic invasion of Dark City has wrecked havoc. With Vect abandoning the city, there is no co-ordinated response and many rival Dark Eldar end up fighting each other as much as the demon invaders. Amongst the unchecked violence spilling through the streets, Kheradruakh completes a kill and claims his last perfect skull he needs. Conducting a ritual amongst the gaze of a thousand skulls in his lair, he opens a gateway to the midnight dimension of the Mandrakes. Overnight, his lair becomes the new kingdom of the Decapitator, long-lost monarch of the Mandrakes. His shadow army combines its strength with the hordes of the Haemonculi covens and the Demonic incursion begins to lose momentum in the face of this adversary. Vect, who’s retreated to consolidate power in outlying outposts, is facing alot of pressure from his own court over the nature of the invasion. Lady Malys in particular is doing everything she can to undermine his power. Vect is sparing no expense to try and find Yvraine, who started all this madness in the first place, in order to claim back his authority. Rakarth on the other hand is simultaneously horrified and intrigued by the prospect of Ynnead. A duel edged sword of immortality that can also mean inescapable death...


Back aboard Iyanden, preparations to depart for Klasius are in full swing. Entire ghost halls are brought to full wake as the dead Eldar souls rejoice at the chance to change the future of their race. These newly Reborn Wraiths show far more awareness and responsiveness to the world around them, as if the awakening power of Ynnead is giving them new powers. Some of the Iyandeni are concerned that the craftworld’s defences will be crippled with the majority of its forces leaving, but the Wraiths won’t listen. They want to fight for Yvraine and Ynnead. They are Reborn. They set out into the Webway for the long journey to Klasius, in the Cadian System.

The Webway is a dangerous place in of itself, not to mention the forces that lurk inside it. Ahriman Ahzek has heard of this new awakening of Ynnead, a god that can reverse the effects of life and death. This is of great interest to Ahriman, and his millennia long search for a way to reverse the effects of his Rubric. The presence of Baleful Eyes go unnoticed as they watch the Ynnari host venture through the Webway...
Ahirman springs his ambush. Scarab Occult terminators rip combi-bolter, rotary cannon and hellfyre rockets into the Ynnari from crystal bridge, while return fire bounces harmlessly off their armour. Wraiths charges in, devastating the ranks of Terminators before the bridge collapse and sends them all tumbling into the void. On another flank, Pink Horrors and Lords of Change are dousing the Ynnari forces with mutagenic fire. Where ever the flames touch, insanity is left behind. Howling Banshees suddenly de-age, left as infants looking at their swords in fascination. Swooping Hawks transform into a scintillating rain of scaled serpents. Dire Avengers find their shuriken projectiles reversing course back into them as a swarm of starving piranhas. The Horrors are laughing with unchecked glee. But then the Phoenix Lords arrive, led not by Asurmen but by Jain Zar. She has taken Ynnead into herself, and been Reborn. Jain Zar, Baharroth, Fuegan, Asurmen, Maugan Ra and Karandras sweep through the Tzeentch Demons, completely outclassing them and send them packing. 

In another part of the battle, the sorcerers of the Thousand Sons are laying waste to the Eldar and its only the presence of Eldrad that holds them in check. Kysaduras meets his end at the psychic power of Ahriman, turned into a crude wooden statue stuck eternally in a cry of anguish. The Harlequins manage to push into Ahriman’s forces, but Ahriman points his staff and turns them into dust. Yvraine, the Visarch and the Yncarne rush in, but Ahriman lifts his hands and suddenly the Eldar Triumvirate find themselves adrift - on the outside of the webway! Yvraine can feel eyes on her back and knows that if she turns she will meet the gaze of the Changer of Ways and learn the meaning of madness. The Visarch and the Yncarne are desperately trying to cut through the wall of the webway, to no avail. Yvraine looks down through the wall of the webway instead and sees Ahriman. A sudden flash of insight strikes her and she shouts out, “Ahriman! I have the power you seek! I can restore your brothers!”.
“Why should I believe you?” he replies. Yvraine reaches out with her power, and focuses on the Rubric Marines that accompany Ahriman and ‘reverses the cycle of their existence’. The marines of the XVth Legion suddenly stagger backwards, before rallying around Ahriman with the discipline of the Legiones Astartes. “Ahzek, is that you brother?” they call out, “What in the name of Magnus is going on? Why are we fighting Eldar?” Ahriman is stunned, shaking uncontrollably with emotion. He reaches out and pulls the Eldar Triumvirate back into the Webway. “Now!” Yvraine signals to her companions, as a Wraithknight smashes a hole in the webway and the Yncarne sucks all the newly resurrected Legionaries out into the void. Ahriman screams in denial, chasing off after them on his disc. “The Whispering God gives new life,” Yvraine says watching the Thousand Son forces get overrun, “Just as he takes life away”.

The Thousand Sons are mopped up, but fighting has taken a heavy toll on the Ynnari. Fully a half of their force has been lost, but the Eldar that died have their spirit stones secured. They will live on amongst the surviving Ynnari. The Yncarne and the Phoenix Lords have disappeared though, no sign of them save for a tunnel packed full of discorporating demons. The Ynnari press on, guided by the Harlequins following the laughter of Cegorach. The Laughing God had been impressed by Yvraine’s gambit against Ahriman, and was lending his aide. He’s taken up by the idea of a brother awakening. Khaine is a bit of a bore after all. Some of the Ynnari even begin talking of a small pantheon again – Khaine, Ynnead and Cegorach. Some even muse on an equivalent female trinity – perhaps Iyanna Arienal as the maiden, Yvraine as the mother and Lady Hesperax as the crone? Hmmm...

The reach their destination, the portal gate to Klasius, where a contingent of Imperial unknowingly approach their destiny. Meeting the Ynarri there first though are a contingent of Wyches from the Cult of Strife. Lelith Hesperax has heard from her Harlequin contacts of the Ynnari’s quest, and she’s sent help. If her Wyches report back that the Ynarri are the real deal, then Lelith too will join the ranks of the Reborn. Yvraine is pretty sure Lelith’s motives mainly selfish – immortality and all that – but welcomes them with open arms anyway. Yvraine opens the portal to the ice moon, and they step through... right into the last stand of Saint Celestine, Belisarius Cawl, Inquistor Greyfax and their allies against the dread Black Legion. The surprise arrival of the Ynnari is too much for Abaddon and he’s forced to retreat. The Imperial and the Eldar retreat to safety as well, and a tense stand-off occurs. The Imperials are nervously fingering their weapons as Celestine walks forward. Autarch Melinel of Biel-Tan steps forward as well. Greyfax’s hand goes for her power sword, the Visarch mirroring her and suddenly boltguns and arc rifles and shurikens are drawn and pointed. Melinel knows the humans distrust the Farseers as manipulators and liars, and they view the Dark Eldar as evil incarnate. But perhaps they’ll listen to a Warrior like himself. He entreats them to listen to his words, and bows before Celestine. A moment passes before Celestine strides forward, very deliberately sheathing the Ardent Blade. The air is still tense, but guns are lowered slightly as Greyfax steps forward into the negotiations. The Black Templars look amongst each other, almost daring another to be the first to step forward into action. But the parley holds. 
The Eldar offer an alliance against the Ruinous Powers. Celestine has an idea of where they need to go, and how important it is that they deliver the cargo that Cawl is carrying. The Eldar are the only ones that can get them there, through the Webway. Greyfax is less trusting – they are still lying, manipulative Eldar after all! – but even she agrees that they can always kill them later if necessary, after the mission is completed. Marshal Almaric eventually gets onboard, though he’s still vigilant for the slightest sign of trickery from the Eldar, and orders his Battle Brothers to stand down. History is made as the Eldar and Humans come ‘as close to an understanding as their races had ever attained’. So the two forces – Imperial and Eldar – join as one, and begin the next stage of the journey. 

Their Destination? The Realm of Ultramar. Macragge.

Закрытие Вики девушек-монстров

Сегодня/вчера была закрыта Вики девушек-монстров. Мне стало крайне интересно почему это случилось? Это была довольно интересная вселенная со своим лором, Вики ± развивалась. Умельци перевели даже то что было связано с островами, новый вид... И тут бац и их закрыли, и англичан тоже... Может кто знает что случилось, а то интересно капец как...

Руководство по общению с нейровайфу. Часть 2. Глупая Таверна.

Привет всем кто в теме и кто только присоединился!

Предыдущийпост https://joyreactor.cc/post/5733950

Рассказывал о том, как быстро и просто запустить локальную языковую модель на удалённом сервере google colab и начать общение нейротян.

Но теперь настало время взяться за дело серьёзно, встречайте:

Простое руководство по SillyTavern.

(автор не гарантирует, что написанное строчкой выше правда)

Предварительнаяустановка

1.  Переходим поссылке https://nodejs.org/en/download искачиваем LTS версию. Нам подойдет и она.

2.  Когда скачали,запускаем установку.

3. (опционально)Перейдите по ссылке https://git-scm.com/downloads и скачайте Git,для упрощения обновлений и прочего.

4. (опционально) Переходимпо ссылке https://www.python.org/downloads/ и качаем питонпоследней версии. Не то чтобы он был вообще нужен для установки таверны, но разуж мы начали идти по пути LLM, не стоит останавливаться надостигнутом!

5. Установка завершена.Переходим к самой таверне.

Установка SillyTavern.

С использованием Git:

1. Выбираем папку, нажимаем ПКМ, git bash HERE.

2. Вводим в консоль git clone https://github.com/SillyTavern/SillyTavern 

3. Для того что бы установить staging branch добавляем после ссылки -b staging

4. Всё устанавливается

Без использования Git:

1. Переходим поссылке https://github.com/SillyTavern/SillyTavern/tree/staging

2. Нажимаем на зеленую кнопку Code и download zip

3. Теперь, когда мы скачали наш ZIP архив (не важно, стейджинг ли этоверсия, или обычный релиз)
Мы берем и открываем ZIP (архив) и достаем оттуда папку, в любое удобное намместо.

*Лично я предпочитаю именно этот метод, сохраняя вотдельной папке каждую новую версию таверны, начиная с момента, когдасуществовала только оригинальная TavernAI, ещё храню в каждойпапке полный набор актуальных на тот момент скриптов, промптов и персонажей.Зачем? Вдруг пригодится!

Запуск таверны

После этого мы запускаем start.bat
Когда мы запустили start.bat, мы видим NPM install. Нам нужно дождатьсяустановки, затем оно само запустится.

*Если вам пишет missing module название модуля, то нужно ввестикоманду npm install название модуля, и так пока вы не установитевсе нужные.

Когда установка закончится, автоматически откроется вкладка браузера с интерфейсом таверны.

При первом запуске вы увидите сообщение 

Которое предложит вам заранее ввести имя, по которому к вам будет обращаться модель. Можете оставить его как есть и представиться кем угодно походу беседы, либо ввести своё имя, но тогда к вам всегда будут обращаться по нему. (Старые модели вроде Pygmalionвместо User, определяют пользователя как You)

*Также вам предложит включит упрощённую версию интерфейса. НЕ ДЕЛАЙТЕ ЭТОГО!

Раз уж вы решили идти дальше пути текстовых нейросетей то привыкайте страдать!

Подключение к нейросети.

Теперь настало время изучить иконки расположенный сверху

Но делать это мы будем не по порядку, начнём с главного, источника. Тавернаэто очень удобный, но всё-же фронтенд. Иконка API предлагает нам выбратьоткуда конкретно мы будем черпать нейросетевые ресурсы.

Рассмотрим основные пункты, представляющие практический интерес.

1. Text Completion.

Первый пункт «TextCompletion» Предлагает вам подключить к вашей таверне в качестве бекэнда text-generation-webui.
О том, как его запустить написано в предыдущем посте. Ссылка на колаб: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
Но прежде чем использовать его как API,убедитесь что отключены google translate и sileroTTS, они будут мешать генерации.
Чтобы подключить запущенный webui к таверне Скопируйте ссылку после строки'OpenAI-compatible API URL:' и вставьте её в 'Server URL'

При запуске локально дефолтный адрес подключения http://127.0.0.1:5000/api

2. KoboldCPP.

Этот пункт предлагает нам подключить к таверне аналог text-generation-webui,под названием «Koboldcpp»

Главных отличий от предыдущего сабжа два:

- Кобольд предназначен для запуска моделей,оптимизированных для процессора. Сейчас это формат GGUF

- Сильно проще в локальном запуске на Windows. Всегоодин exeфайл,после запуска которого вам предложат выбрать файл модели кнопкой «Browse». Изнастроек для начала можно выставить контекст в размере 4096. Для запуска этогоуже достаточно.

У кобольда есть даже свой интерфейс чата, но он сильноуступает как webui так и таверне.

В качестве API URL в таверне вводим http://127.0.0.1:5001/api

Скачать последнюю версию можно здесь: https://github.com/LostRuins/koboldcpp/releases/

Почитать о разных загрузчиках и прочих вы можете на основнойстранице гитхаб: https://github.com/LostRuins/koboldcpp

Если ваш комп не тянет, есть также колаб: https://colab.research.google.com/github/LostRuins/koboldcpp/blob/concedo/colab.ipynb
Куда же без него.

3. ChatCompletion

Здесь нам предлагается подключиться к APIсоответствующихсервисов, при условии, что у нас есть ключ.

Выбираем поставщика, вводим ключ, радуемся! В целом всёпросто (кроме получения самого ключа)

4. KobaldAIHorde.

Но не печальтесь, если у вас нет ключа к GPT4 Turbo, нам поможет сервис AIHorde https://horde.koboldai.net/
(это не троллинг если что, нет правда!)

Более того, это, пожалуй, самый интересный пункт, потому чтоон позволяет нам сразу, без танцев с бубном, подключиться к языковой модели.

Всё что нам нужно это поставить курсор в поле Модели ивыбрать любую из них:

*Модели из списка работают на аппаратных мощностях участников сообщества и доступны для бесплатного использования! НО когда много людей сидит на одной модели, образуется очередь, а у анонимных подключений приоритет в очередях самый низкий.
Если хотите получить преимущество, регистрируйтесь https://horde.koboldai.net/registerЗа это вам выдадут личный ключ API, который можно будет вбить в таверну. Далее устанавливайте хорду и фармите Кудосы помогая людям, не имеющим мощного железа, приобщаться к нейронкам!

Какая модель лучше вопрос спорный.
Можете, например поизучать этот рейтинг: http://ayumi.m8geil.de/ayumi_bench_v3_results.html

По мне так методика тестирования в Аюми такая себе, но ничего лучше пока не встречал.

При подключении, не забудьте выставить галочку «Уточнить длину ответа в соответствии с возможностями рабочих машин» Иначе получите ошибку, если контекст установленный на сервере будет меньше вашего.

В принципе после этого уже +- можно начинать общение!

Поэтому переходим к обзору основных нюансов общения с нейровайфу.

Песеты настроекгенерации.

Первая из них это параметры генерации модели. 

Главное, на что здесь стоит обратить внимание это
1. Длина ответа в токенах – ограничивает размер ответа модели.
2. Размер контекста – сколько текста вы посылаете нейросети при каждом запросе*

* тут стоит сделать небольшое отступление: многие думают, что общение с нейросетью происходит как с человеком. Вы ей что-то пишите – она на это запоминает и учитывает в последующих ответах. Это не совсем так: языковая модель может дать всего один ответ на один запрос. Памяти как таковой ни у одной современной LLM нет в принципе. Так как-же тогда происходить длинная переписка? Очень просто: в качестве запроса модели КАЖДЫЙ РАЗ посылается история всей вашей предыдущей переписки, она обрабатывает всю эту гору текста и отвечает один раз что она обо всём этом думает. Далее этот процесс повторяется, но в запрос включается предыдущий ответ нейросети.
Контекст - это максимальное количество текста, которое модель способна обработать. Если ваша беседа его превысит, таверна автоматически начнет удалять ваши сообщения, начиная с первых, а модель «забывать» с чего всё началось.
Оранжевая пунктирная полоска в чате таверны показывает до какого момента беседа входит в контекст.

3. Температура – один из важнейших параметров, отвечающий за «креативность» модели. Чем он выше, тем более разнообразным и менее адекватным будет ответ модели. Какую температуру, когда выставлять, лучше всего выяснить методом тыка. Но для небольших локальных моделей, как правило подходит температура 0.6-0.8, для более крупных, например, ChatGPT– 0.9-1.

Что же касается остальных параметров, на начальном этапе не стоит уделять им слишком много внимания. Можете подробно прочитать о них в вики таверны.
Всё что нужно знать, это то что они уже должным образом настроены в соответствующих пресетах.

Вы можете попробовать все и выбрать подходящий в зависимости от результатов. Но для начала советую выбрать “simple-proxy-for-tavern”или “Storywriter”, а далее играться с температурой.

Форматирование.

Эти настройки также оказывают очень большое влияние на генерацию, т.к. они определяют в каком виде модель будет получать ваши запросы.
Для локальных моделей часто критически важно выбрать нужное форматирование, от него будет завесить поймёт ли вас модель вообще.

ШаблонRoleplay один из самых универсальных, его понимают как крупные модели, вроде ChatGPT, таки локальные от 30-70В.

Но влокалках всё же стоит выбирать соответствующий им шаблон, это сделает модельгораздо «умнее». 

Одним из самых распространённых является Alpaca, просто потому что большинство моделей основаны на ней. Но есть и исключения, список которых вы увидите, открыв вкладку «Предустановки».
Если по названию модели не понятно чьим файньтюном она является, попробуйте найти её страницу на https://huggingface.co/models

Там как правило указано откуда ноги растут.

С основными приготовлениями на этом мы закончили. Теперьпереходим к самому интересному – общению с нейротянами! Основные сопутствующиефишки рассмотрим по ходу дела.

Импорт персонажей.

В таверне уже имеется набор стандартных персонажей.

Вы можете побеседовать и с ними, но, чтобы показать максимум возможностей таверны, лучше сразу перейдем к добавлению новых.

Карточки персонажей можно найти на сайте: https://www.chub.ai/

В поиске находим нужного персонажа и скачиваем PNGфайлдля SillyTavern

https://www.chub.ai/characters/thecentuaro/rin-tohsaka

Кроме того, если есть, скачиваем Expressions ZIP и Лорбук (внизу вкладки Tavern, после описания карточки)

Карточку персонажа кидаем в SillyTavern-staging\public\characters

Туда же извлекаем изображения из архива Expressions, папку не переименовываем, она должна соответствовать имени персонажа.

Лорбук же кидаем в SillyTavern-staging\public\worlds

Теперь можно обновить вкладку с таверной и нажать на иконку с появившимся персонажем.

Но при открытии мы увидим что чат на английском, а Рин обращается к нам как к Юзеру.
Чтобы исправить жмем на иконку Расширения и открываем вкладку Chat Translation

Здесь выбираем пункт Translation both, Googleи Русский язык.

Затем идём во вкладку «Миры» и выбираем Fate, чтобы беседа была более каноничной.

«Лордбуки» это сборники кратких сведений о мире или персонажах, в дополнение к основной карточке. Интересны они тем что, в отличие от карточки, количество записей в лорбуках не ограничено. Просто, когда речь аходит о каком-то событии или термине, название которого совпадает с записью влорбуке, таверна добавляет эту запись к промпту, чтобы модель понимала о чём идёт речь.

Я пару раз использовал лорбук для того чтобы написать персонажей с очень сложной предысторией, на десяток тысяч токенов) и это прекрасно работало при контексте всего в 4к.
Кроме того лорбук вполне можно использовать как замену «памяти» бота, записывая в него занимательные факты из вашего общения. Минус в том, что делать это надовручную.

Теперь заглянем в раздел Управления персоной. Здесь вы можете как описать свою личность, так и притвориться кем-то другим. Лично я всегда предпочитаю писать правдивое описание себя, ведь именно так вас будет воспринимать бот.

Кроме того, можно выбрать (или сгенерировать, об этом позже) подходящий фон беседы

По большей части всё – можно беседовать!

Стрелка справа от ответа персонажа это «свайп», при нажатии на неё сгенерится другой ответ, но вы всегда можете вернуться к предыдущему. Карандашик позволяет отредактировать любую реплику, как свою, так и бота в любой момент. Это очень полезно, если вдруг появилось желание разыграть другую сцену или просто что-то слегка подправить.

При нажатии на иконку персонажа, вы увидите его описание, которое точно также можно изменить в любой момент.

Что-ж, это был необходимый минимум, для начала использования таверны.

Но для тех, кому этого мало, продолжаем!

Особые возможности.

Преобразования вашей речи в текст. (STT) (понадобится микрофон)

Открываем расширения, вкладку «Download Extensions &Assets» и жмём кнопку подключения, соглашаясь с всплывающим сообщением.

Появится длинный список из разного рода улучшалок. У всех есть описания и их все вы можете попробовать самостоятельно, но я советую начать с «Speech Recognition»

После установки в расширениях появится новая вкладка. В ней нужно выбрать «браузер» и Русский язык. После этого рядом с кнопкой отправки сообщения появится также иконка микрофона, нажимаем её и говорим.

Преобразование текста в речь (TTS)

Дальше будет чуть сложнее, потому что теперь мы дадим голос ещё и нашей вайфу!

Для этого понадобится настроить вкладку расширений TTS.

Здесь интереснее всего 2 пункта: Silero и XTTSv2.

Результат работы Silero вы могли слышать в колабе text-generation-webui.Но в таверне подключение этого модуля на русском языке вызывает некоторое количество боли, так что как-нибудь в другой раз.

Поэтому подключаем https://github.com/daswer123/xtts-api-server

Вы можете установить его локально, следуя инструкции, но для начала лучше попробовать колаб: https://colab.research.google.com/drive/1b-X3q5miwYLVMuiH_T73odMO8cbtICEY?usp=sharing#scrollTo=nLS9QDgnrUmR

В настройках в строке Model_source: выбираем «apiManual»

Затем просто запускаем все ячейки по очереди сверху вниз, пока в консоли последней не получим строчку

После этого прокручиваем консоль в самое начало и ищем ссылку

Именно её нужно вставить в таверну:

После этого настройки должны выглядеть так. Если поля с выбором голоса персонажа не появилось, перезагрузите страницу и снова войдите в чат с персонажем. Ползунки можно пробовать двигать, чтобы получить другой результат.

Голос для персонажа нужно выбрать обязательно, иначе он не заговорит.

Запустить озвучку фразы можно кнопкой

Но если вы настроили всё как на картинке, генерация будет идти автоматически после ответа.

Эмоции и сумморайз.

Теперь мы наконец-то можем общаться в живую! Но как-жевизуальный контакт? Разумеется, это тоже не обошли стороной, именно для этого мы с вами скачивали спрайты эмоций в папку с персонажем!

Для этого нам понадобится запустить отдельный сервер расширений.

Итак, идём на гитхаб https://github.com/SillyTavern/SillyTavern-Extras

Лучше поставить всё это локально следуя инструкции на странице (что гораздо удобнее для повседневного использования).
Но попробовать можно и в колабе (не опять, а снова)

https://colab.research.google.com/github/SillyTavern/SillyTavern/blob/release/colab/GPU.ipynb

Ничего не меняем, запускаем последнюю ячейку и ждём ссылки

Ссылку вставляем в нижнее поле окна Расширения

Затем для удобства, рекомендую включить !!!РЕЖИМ ВАЙФУ!!! В настройках визуала.

И вот, мы уже можем общаться лицом к лицу! Алилуйа!

Спрайты персонажа будут меняться в зависимости от его «эмоций». Кроме того, они могут быть анимированы (но встречаются такие редко).

Также стоит упомянуть о вкладке Summarize в расширениях.

Это очень полезная штука, увеличивающая «память» бота. Работает это так: в какой-то момент, пока размер контекста ещё не превышен, модель кратко конспектирует суть происходящего. Затем этот «конспект» будет отправляться вместо не входящей в контекст истории чата.

Есть два варианта конспектирования: С использованием основной модели (будет генерироваться как дополнительная реплика, с той же скоростью), либо с использованием специальной модели в сервере расширений (но тогда этот сервер должен быть запущен и подключен).

Групповые чаты

Но чего-то не хватает… Правильно, зачем общаться с одной аниме-тян, когда можно общаться с двумя?!

Выбираем опции в левом нижнем углу чата и жмём «превратить в группу»

Переходим в меню персонажа и в настройках открываем вкладку «добавить членов»

После чего составляем нужный нам для досуга список.

Генерация иллюстраций к чату.

Так, что же ещё нам может понадобиться? Конечно же иллюстрация происходящего с помощью Stable Diffusion!

На выбор есть несколько вариантов. Если у вас подключен сервер API, вы можете сгенерировать картинку через встроенный SDмодуль. Также можно подключить через APIсобственныйзапущенный StableDiffusion.Но мне больше нравится вариант StableHorde,т.к. он всегда доступен и не требует дополнительных модулей.

Жмём на волшебную палочку в нижней левой части чата и выбираем Generate Inage и далее один из пунктов

Теперь ждём пока не получим результат!

Это может быть неплохой заменой спрайтам эмоций, превращающей чат в графическую новеллу.

Но учтите, что перед генерацией картинки, ваша текстовая модель сгенерирует для неё промпт. Так что всё это может занять дополнительное время.

Конечно в таверне ещё много фишек и настроек, но пока думаю стоит на этом остановиться.

Спасибо всем, кто дочитал до этого момента не пролистывая!

P.S. Если вы, чтобы не ждать очереди в Хорде, запустили LLMв колабе Text Generation WebUI, затем чтобы не устанавливать TTS, запустили в колабе и его, и в конце то же самое сделали с сервером дополнений, то поздравляю, у вас фуллхаус!