как уместиь несколько картинок в пост

Пост обещал, пост делаю, домостройка часть первая

Как вообще родилась идея частного дома. Мурманск нас с батей окончательно задудосил и через год после поминок матушки собрав все пожитки и продав наследства, мы выдвинулись на юга, если точнее то в Ростов на Дону. Почему Ростов? А - юга, Б - подушка в виде родственников, значит временное жильё есть, свою тушку и лисичек расквартировал и начал процесс акклиматизации. Попутно была попытка получить временную прописку через те самые услуги, но получил её я спустя 3/4 года, то есть вчера. Естественно как житель севера я первым делом наловил всяких улиток, лягушек и кузнечиков с богомолами, попутно охреневая с +38...

И так, дом. Поиск участка лёг на батю, проект на родственницу, и спустя полмесяца был готов план. Так как я бумаги не сохранил, то вот пэинт версия:

Расположение примерное, и квадратура может быть нихрена не точная, но как то так. 

П.С. актуально для второго этажа, обясню чуть ниже.

Картинка выше - финальный вариант, первый этаж не особо отличается от второго, за исключением пары стен и того, что вход на второй этаж с улицы. 

Изначальный вариант подразумевал домище 15х10м, затем скукожился до 12х12м, и в конце концов пришел к 10х10, хотя и это как выяснилось к постройке каркаса второго этажа - дохрена. 

Собственно сам дом - деревянный каркасник, да не лучший вариант, но бюджет не резиновый однако.  

Этап первый, подготовка.

Начало стройки было положено ножовкой, двумя топориками и бензокосой, участок был не в лучшем виде, заросли травы, алыча по краям и тонна кротов и котов (Ни один кот или крот в процессе не пострадал, кроме тех кто прокопались в сортир). 

Столь ранних фото я к сожалению не делал, но некоторые результаты были отсняты, но после приезда трактора:

И склад напиленного/рубленного в овраге.

Собственно трактор, за каких-то 10к он выронил часть участка для дальнейших манипуляций. За тем мы возвели сарайчик-времянку:

Времянка крайне необходимая строение, как для инструментов, так и для проёба времени и пряток от непогоды. Второе по значимости строение - сортир:

П.С. фото сортира забилось и не хотело выходить, а я не хотел сегодня выезжать для его фотографирования, так что над этим выкопанном кубе стоит САМБАДИ ВОНТС ТОЛД МИ и точка. 

Между тем как я три дня корячился с глиной на сортире, к нам приехали челики с буром и завертели в землю сваи из труб с бетоном и 68 метров пвх трубы 300 на скважину:

Этап второй, материалы.

Я изначально думал, что для времянки как то мало материалов, но когда приехала машина с краном и основными досками для домика, я немного ахренел и стал местным стропальщиком:

Итог хрен знает сколько кубов сосны в виде досок 150х50х6000, 100х50х6000 и брёвен 150х150х6000... Я тогда ещё конючил, мол тяжёлые доски, носить не удобно, но я тогда ещё не представлял профнастил для кровли...

Естественно голую сосну гвоздями 150 в дом никто не сколотит, по этому приговаривая "Вунш-Пунш" я месил в тазике огнебиозащиту цвета жидкости со скотобойни и равномерно (нет) распределял её на доски:

Покрасив первую партию можно было два-три дня отдыхать, ведь сохло оно под настилом как раз два-три дня. 

Эти два-три дня затянулись на неделю из за дождей, а ещё как раз сестра с мужем приехали и захотели в Лога-парк (или парк Лога). Музей истории в ебенях, но считается местом для проведения времени в Ростове на Дону:

Между тем случилась и рыбалка:

Плюс из за некоторых финансовых проблем (если сбер выпукивает вам кредитокарточку на 100к, хотя бы скукожте её лимит до 20к или поставьте ограничение в 1к на месяц, я вот не подумал, что лучше так сделать и удивлялся, откуда у пассии столько новых париков и т.д.), по этому на некоторое время я покинул фронт строительных работ и стал ян*екс-улиткой. 

Этап три, первый этаж.

Конечно на подработке я был не всё время и периодически был и строителем, стройка перекрытия первого этажа прошла мимо меня и взора камеры, но возведение стен требовало четырёх рук: 

По окончанию внутренних стен, встал вопрос о воздвижения на них мауэрлата, проще говоря забить слой досок, что б крепче стоял... Дом... В общем был вариант бегать со стремянкой, трёх метровыми козлами и подъём настила. Крепко проматерившись и взяв в зубы молоток мы возвели настил и я вновь пропал с радара стройки на неделю, болеть не круто. Вернулся я на следующем этапе.

Этап четыре, второй этаж.

Начало второго этажа положило перекрытие, вернее мы его положили:

По началу ходить по настилу страшно, один не верный шаг и ты летишь сначала самым сокровенным на доску, а затем мордой в доски по ниже, благо обошлось и работа сработалась довольно быстро, нужно было лишь нарезать 100 квадратных метров и правильно их прибить, попутно матерясь с кривизны досок и с ломанных свёрел. В принципе трудности на этом не закончились ведь теперь нужно выложить настил для второго этажа... Спортзал для накачки бицухи не нужен, когда нужно на три метра закидывать шестиметровые доски пропитанные водой, однако по цельному полу ходится как то по уверенней и вопросов "зачем" не возникает, ведь после жонглирование древесиной не заканчивается, нужно возвести стены и смотря на высоту первого этажа, волевым усилием было принято решение, скукожить высоту сантиметров на 40:

Но для того что бы поставить стену, её для начала нужно собрать, а я этого ещё не рассказал.

Сначала нужно выбрать две ровные доски, а учитывая с какой древесиной мы работали, то самые не кривые. 

Затем идёт первичная разметка, если можно использовать все 6 метров доски, то лучше использовать все. И не забыть запилить торцы (ага и не забывать проверять выставленный на пилораме угол, да умник из прошлого, напиливший стену, которая по итогу стояла как Майкл Джексон). 

После запила - вторичная разметка. 125 - основное расстояние между стойками, 62,5 вторичное расстояние, эти цифры взяты не с потолка, а со стнадартных размеров осб листов, которые пойдут на обшивку (но о них не в этом посте). Их стандартный размер (один из) как раз 125х250см, основные стойки держат лист по краям, тогда как вторичные ложатся на середины. 

Напилив стойки и разложив их по разметке, нужно выпилить перемычки для прилегающих стен, проёмы для дверей/окон и укосины, последние нужны для чего-то, не связанным с шатанием стен (и труб).

И когда пазл разложен, остаются всего два момента, сколотить детальки меж собой по уголку и прихуярить творение на своё место. 

Пока мы занимались стенами, а осы попытками разобрать их на улики, к нам приехали дядьки с заказанными окнами и за пол часика вогрузили их на первом этаже:

И тут внезапно весна превратилась в лето (кстати на всех фотках до второго этажа - зима):

Этап пятый, крыша.

Свободно выдохнув после постановки последней стены, мы конкретно так ахуели с размеров своего труда и практически сразу начали повторять подвиг с поднятием настила... Сказать что я ахренел от высоты - ничего не сказать, но в какой то момент я перестал думать, в этом мне помогла поддерживающая балка ровно чуть выше уровня взора, я не смогу посчитать, сколько раз о неё ударился, но  привычка ходить как троглодит на втором этаже - выработалась.

Таки высота, взгляд на речку говнотечку со второго этажа и с "крыши"

На этом заканчивается полезная нагрузка поста (а до этого что полезное было?)

Рандом пик со стройки.

Жук калоед:

Сутулая гусеничка:

Завязи плодов шелковицы:

Великий покос:

Босс павук:

Табурет-Франкенштейна:

Дикий горошек:

Мог что-то упустить (спасибо балке), если есть вопросы, коменты открыты. Тем кому интересно, возможно будет вторая часть (когда построим это говно до конца).

P.S. некоторые рандом пики я не вставлял, на них жесть в виде подгоревшего шашла и половинки зайчонка.

Тренируем модели через DreamBooth на конкретные образы.

Здравствуйте мои любители нейронного колдунства и прочих искуственно интелектуальных утех. Сегодня мы научимся тренировать уже готовые модели на образы которые мы хотим. Локально на нашем ПК без всяких Google Colab и Runpod.

Если я где то накосячил, поправьте в коментариях.

ДИСКЛЕЙМЕР! БУДЕТ ОЧЕНЬ МНОГО ТЕКСТА. Этот способ тренировки через DreamBooth подразумевает, что у вас в гробу установлена карточка (Nvidia скорее всего только поддерживается) с минимум 8-10 ГБ видеопамяти. Тренировка сетки уже куда более ресурсожрущий процесс, чем просто генерация картиночек. Ранее DreamBooth требовал минимум 24ГБ памяти. Так что пока я нашёл нужные материалы, проверил их и понял, как с этим работать, прошла не одна неделя... Стояла бы у меня 3090, то этот гайд вышел бы ещё в середине октября. но если всё же хочется побаловаться, то можно воспользоваться облачными google colab и runpod. Но я так же затрону гиперсети (Hypernetworks), результаты с ними куда менее презентабельные чем через dreambooth, но можно запустить на карточках попроще. Если вы всё же железо-бетонно готовы следовать дальше, прошу.

И так, продолжим. DreamBooth модель можно натренировать на свою рожу, свою собаку, любимую табуретку, или какого нибудь персонажа.

В данном посте я буду работать на модели NAI (NovelAI я буду сокращать в дальнейшем) ибо буду тренить на нашу Реактор-тян. Если хотите сделать своё лицо или, что то из нашего бренного мира то подойдёт обычная модель Stable Diffusion 1.4

В конце будет небольшой Q&A и заметки, дабы всю (почти) воду и рассуждения отградить от основной информации.

Я разобью гайд на несколько частей. Тренировка DreamBooth и тренировка Embeddings с Hypernetworks.

DreamBooth:

Знаю, что уже появился спобоб тренить DB (DreamBooth я буду сокращать в дальнейшем) через webui stable diffusion от AUTOMATIC1111 в виде загружаемого плагина, но чёрт, вы хоть видели сколько там настроек? Я устану вам объяснять каждую и вы умрёте от духоты, поэтому я выбрал более дружелюбное, отдельно загружаемое приложение - DreamBooth-gui - https://github.com/smy20011/dreambooth-gui скачиваем и устанавливаем его по инструкции приложеной на Гитхабе, не буду тут расписывать ибо и так много текста.

Запускаем приложение и видим первое, что нас просят сделать, а именно загрузить набор изображений на который мы хотим натренировать модель. Делаем их в разрешении 512x512, где надо фотожопим лишнее.

Как только залили изображения, я сделал 8шт, переходим на следующую вкладку Confin Trainer, здесь мы зададим нужные параметры и настройки. Рассуждения о зависимости некоторых параметров от других, пока где-то на уровне теории заговоров, но основные зависимости я объясню дальше.

И так, для начала выбираем модель. По умолчанию нам предложит CompVis SD v1.4, который оно подкачает с hugging face. Но сегодня я работаю с NAI поэтому указываю путь до папки с моделью. Сейчас я на версии программы v0.1.8. и она требует, что бы модель была конвертирована из .ckpt в diffusers. Вот ссылка на мою конвернутую модель NAI - https://drive.google.com/file/d/1BnZyUb9C5wjz7Lcp1Dn8JidZLQ4taQEy/view?usp=share_link

Далее указываем Instance prompt, это должно быть уникальное слово которого не должна знать модель, то есть никаких boy, girl, и имён персонажей которых может знать модель. В дальшейшем это название мы будем указывать среди промптов, что бы модель на это тригеррилась и генерила уже с учётом натренированности этого концепта.

Class prompt указываем ёмко, кратно, что мы тренируем. У нас один женский персонаж и раз уж модель NAI тренилась на датасете danbooru, то я и укажу женский тег от туда, а именно 1girl.

Training Steps я выставлю 1000, а Learning Rate 5e-6, но это крайне запутанные настройки, о них я побольше размусолю ниже в разделе с водой и по ходу текста.

Аргументы не трогаю.

Отлично, переходим к разделу тренировки, здесь нас попросит вставить наш Hugging Face Token. По идеи это нужно только если мы качаем модель SDv1.4 или прочую с Hugging Face, а у нас она локально на пк уже стоит, но всё равно просит, поэтому регаемся там и идём в настройках раздел с токенами https://huggingface.co/settings/tokens и создаём токен на WRITE и вставляем его в наше поле. Прописываем папку куда будут выгружаться все файлы после и проверяем, что бы стояла галочка, что бы модель генерилась потом в .ckpt файл в нашей папке вывода.

Иии жмём старт! И так теперь запасаемся терпением, можете заварить чай, помыться, выйти на улицу, потрогать траву, сходить в магазин и т.д, ибо процесс первого запуска НЕВЕРОЯТНО ДОЛГИЙ. Серьёзно, я сам в первый раз думал, что у меня, что то зависло. Минут 30 только оно подгружало нужные файлы, и убедитесь, что у вас на диске есть ещё место, ибо пару десятков ГБ на нём, этот процесс забьёт. Если увидите, что ошибок не вылезно, в папке \AppData\Roaming\smy20011.dreambooth были сгенерены картинки референсы по классовому промпту и вы не словили ошибку о нехватке видеопамяти (будет у многих вангую) то поздравляю, у вас пойдёт тренировка, и вы увидите, как у вас будут лететь надписи Steps ****% |▋▋▋▇| ***/1000 [**:** < 00:00, *.**s/it, loss=0.***,lr=5e-6]

На тренировку модели в 1000 шагов моей RTX 3080 потребовалось почти пол часа. Чтож, когда увидим сообщение о том, что всё готово, заходим в папку вывода, и переименовываем как хотим и переносим .ckpt файл в папку с моделями нашего stable diffusion.

Запустите SD, загрузите модель. Проверьте результаты, всё ли выглядит так, как должно, у меня получилось... приемлимо...

joyreactorchan, 1girl, orange hair, medium hair, antenna hair, blue eyes, freckles, foxy ears, white bardot top, orange overalls, orange collar with bell, gold hairpin, gold buckles
Negative prompt: lowres, bad anatomy, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry, artist name, furry
Steps: 60, Sampler: Euler, CFG scale: 11, Seed: 3985740085, Size: 960x960, Model hash: e02601f3, Model: joyreactor, Denoising strength: 0.7, Clip skip: 2, First pass size: 0x0

Модель DreamBooth

Чистая NAI

Ну вроде неплохо. Но можно лучше.

У меня выходили и более презентабельные модели, чего стоит модель с моей рожей, что генерит меня с шансом 50%, а в остальных случаях Иисуса либо Джареда Лето либо двухголовую ебаку...

Вот пример с DB, а вот чистая NAI. Ну думаю, я бы мог вопроизвести похожий результат и без DB, но потребовалось бы куда больше промптов и попыток. Тем не менее, DB приближает качество и иполнение результатов, к тем, на какие мы тренировали, поэтому если тренируете на лицо, то оно даст намного чёткие и предсказуемые результаты, чем просто по запросу "лохматый бородатый мужик"

Если хотим закрепить результат и возможно улучшить, то рекомендую потренить и Textual Inversion - https://huggingface.co/docs/diffusers/training/text_inversion Это крошечная часть нейросети обученая на наборе картинок. требует поменьше ресурсов для тренировки, чем DreamBooth. С её помощью удобно воспроизодить стили и какие то объекты. Я потреню на том же датасете картинок, что и DB.

Тренировка Embeddings (Textual Inversion)

Идём в раздел SD webui который называется Train, и в первом подразделе Create embedding начинаем заполнять пункты.

Name - просто имя файла и в дальшейшем мы будем писать это название среди промптов, что бы задействовать нужный embedding. Поэтому я использую название, то же, что и у инстанс промпта в DB, что бы тригеррить их обоих разом.

В Initilization text вписываем описание персонажа, я описал его более подробно, ибо на реактор-тян оно почему то ловит затуп и генерит совсем шлак потом. А так обычно то же, что и class prompt в DB. Число векторов на токен я выставил 8, хотя чем больше это число, то тем больше примеров картинок лучше подготовить, но остановлюсь на этом.

Теперь идём в Preprocess images, вводим путь до папки с изображениями и туда, куда их выгрузит. Ставим галочку на Use deepbooru for caption, не уверен, будет ли у вас эта функция, если нету или не работает, поставьте в аргументах запуска SD аргумент "--deepdanbooru", и тогда точно всё будет ок. Эта функция создаст текстовое описание для каждого изображения в формате тегов с danbooru, так сетка лучше обучится. Если трените не на NAI моделе, а что то реалистичное, то советую использовать, Use BLIP for caption, создаст промпты как если бы их писали для работы с обычной моделью SD 1.4... Так же уделите время и вручную проверьте КАЖДЫЙ созданый текстовый документ, и сверьте его с картинкой, постарайтесь удалить ненужные промпты или добавить, то что считаете нужно, не всегда оно создаёт описание корректно. Да это муторно, но стоит без этого может натренить сетку не на то, что мы желаем.

И последний подпункт Train. Тут внимательно, можно ошибиться с пунктами и кнопками. Я помечу на скрине те пункты, которые мы трогаем, остальные игнорьте.

В embeddings выбираем наш созданый, в dataset directory указываем путь, куда мы выгружали изображения уже с описаниями, в prompt template file указываем путь до файла шаблона по которым оно будет трениться, я создал свой файлик, в котором внутри написано только [filewords] , прямо с квадратными скобками, это будет задействовать описания изображений которые мы создали раньше.

Save an image to log и save a cope of embedding, это параметры отвечающие за тестовое создание изображения на данном этапе тренировки и сохранинии текущего результата на момент шагов. Я генерирую изображение каждые 500 шагов и сохраняю прогресс каждые 1000, да бы проверить не произошла ли перетренировка модели, да бывыет и такое, её можно перетренировать, об этом после гайда...

И надеюсь вы не подумали, что я пропустил пункт с Embedding Learning Rate и Max Steps, то нет. Вот тут та же шляпа, что и раньше, и надо подбирать соотношения. В этот раз будем создавать поэтапно.

Для начала мы проведём тренировку на 200 шагов и Learning Rate 0.02, после увеличим число шагов до 1000 и уменьшим LR до 0.01, потом 2000 шагов и LR 0,005, 3000 и 0.002, 4000 - 0.0005 и в конце выставим 20000 шагов и скорость обучения на 0.00005. Чё страшно, запутались? Кароче, шляпа в том, что бы сетка не переобучилась, так мы её постепенно полируем, подробнее об этом после гайда в разделе с разными мыслями.

Вот выставили 200 шагов и 0.02 скорость, она прогонит по этим параметрам и закончит, не закрываем ничего, меняем параметры на следующие по списку, 1000 шагов и скорость 0.01 и опять жмём Train Embedding и опять идёт тренировка уже дальше с новыми данными. И т.д до конца. 20000 шагов золотая середина как по мне. У меня на это уходит около полутора часа, побольше, чем на тренировку DreamBooth, результат не будет сверх разиться, но будет чуть более в нужном нам направлении.

Вот примеры, того что по итогу вышло.

masterpiece, best quality, joyreactorchan, 1girl, orange hair, medium hair, antenna hair, blue eyes, freckles, foxy ears, white bardot top, orange overalls, orange collar with bell, gold hairpin, gold buckles, solo, standing, upper body
Negative prompt: lowres, bad anatomy, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry, artist name, furry, portrait
Steps: 60, Sampler: Euler, CFG scale: 11, Seed: 370310831, Size: 768x768, Model hash: e02601f3, Model: joyreactor, Denoising strength: 0.7, Clip skip: 2, First pass size: 0x0

DreamBooth + Embedding

DreamBooth без Embeding

И без DreamBooth и без Embedding на чистом NAI

Ну Embedding иногда подтягивает, некоторые результаты, иногда может быть лишним. Довольно ситуативная и спорная вещь, но вот на DreamBooth сразу узнаётся Реактор-тян, нежели на обычной NAI с теми же хорошо подобранными промптами.

И да, знаю, что вероятно будут просить уже готовую модель, так что держите ссылки на модель на Реактор-тян и готовый Embedding:

https://drive.google.com/file/d/1s2z1grZvNdVxkw5uHJQIWKecgeV39tWp/view?usp=sharing

https://drive.google.com/file/d/1pft2NvHGi5xaJ61LctRc2Lf4aixHke0Z/view?usp=sharing

Лучше пусть кто то забэкапит, а то мало ли я буду облако чистить.

Hypernetworks

Если не получилось натренить DreamBooth, то попробуйте гиперсети. Тоже прикольные результаты можно получить, если постараться.

Тренить гиперсеть на реактор-тян я не буду, поэтому опишу как делал ранее с другими вещами. Если желаете ознакомиться с материалом, по которому я и сам тренировался, прошу - https://github.com/AUTOMATIC1111/stable-diffusion-webui/discussions/2670

Процесс тренировки схож с тренировкой embeddings.

Так же в заходим в раздел Train, и уже в подпункт Create Hypernetwork. Имя гиперсети пишем какое хотим, без разницы, модули 768 320 640 1280 оставляем как есть.

Теперь тут свои завертоны пойдут, просят ввести структуру слоёв гиперсети:

Для широких гиперсетей: 1, 3 ,1 или 1, 4 ,1

Для глубоких гиперсетей: 1, 1.5, 1.5, 1 или 1, 1.5, 1.5, 1.5, 1 или 1, 2, 2, 1

Широкие: подходят для запоминания новых вещей, таких как конкретное животное, человек или объект.

Глубокие: подходят для обобщения вещей, таких как стили.

Поэтому исходите из этого, для реактор-тян я бы выбрал 1, 3, 1

Следующий пункт, select activation function of hypernetwork:

Для аниме (NAI, Waifu и т. д.): Selu, Gelu, mish

Для фотографий: Relu, swish, mish,leakyrelu, rrelu

Теперь Select Layer weights initialization. Для аниме ставим xaviernormal. Если фото и т.д то по умолчанию normal.

Остальные галочки ниже необязательны.

Потом так же подготавливаем изображения как и с embeddings, это я не буду повторять и переходим сразу в Train.

Выбираем так же как и при тренировке embedding путь до шаблона, папку с датасетом из наших картинок с текстом, сохранение результатов и картинок.

Теперь выбираем нужную гиперсеть в выпадающем списке Hypernetworks. Изменять будем раздел Hypernetwork Learning rate, а не Embedding Learning rate, как раньше и жать будем на Train Hypernetwork, а не Train Embedding.

Вот примеры хороших соотношений последовательностей Steps к LR:

Для обычных людей - 0.00005:100, 0.000005:1500, 0.0000005:10000, 0.00000005:20000

А вот для извращенцев - 0.00005:100, 0.000005:1500, 0.0000005:2000, 0.00005:2100, 0.0000005:3000, 0.00005:3100, 0.0000005:4000, 0.00005:4100, 0.0000005:5000, 0.00005:5100, 0.0000005:6000, 0.00005:6100, 0.0000005:7000, 0.00005:7100, 0.0000005:8000, 0.00005:8100, 0.0000005:9000, 0.00005:9100, 0.0000005:10000, 0.000005:10100, 0.00000005:11000, 0.000005:11100, 0.00000005:12000, 0.000005:12100, 0.00000005:13000, 0.000005:13100, 0.00000005:14000, 0.000005:14100, 0.00000005:15000, 0.000005:15100, 0.00000005:16000, 0.000005:16100, 0.00000005:17000, 0.000005:17100, 0.00000005:18000, 0.000005:18100, 0.00000005:19000, 0.000005:19100, 0.00000005:20000. Этот вариант выглядит монструозно, но я его тестировал лично, и довольно хорошо работает при условии, что вы подобрали хорошие примеры изображений и текстовые описания к ним.

И так же поэтапно треним как и embedding... ВСЁ!

ВОДА и Q&A!!!

Ахренеть, как буд-то по новой пишу дипломную, но только с надеждой в том, что кому то это поможет и он воспользуется этим материалом, либо же просто покекает с того, что я потратил на это несколько недель, начиная от поиска нормального способа запуска DreamBooth и заканчивая десятком часов на попытки разобраться в особенностях и нюансах, ну и этот текст я пишу уже где то часов 6 нонстоп, набралось уже 2 c половиной тысячи слов! серьёзно, надо хоть воды налить себе, ха отличная шутка.

1)Q: Почему так сложно?

A: А кому легко?

2)Q: Можно ли было уместить это в 5 абзацев на 500 слов в общем?

A: Не знаю, пишу как умею, кто умер от духоты и захлебнулся в воде, простите)

3)Q: У меня видеокарта ******, у меня заработает?

A: Не знаю. Скорее всего на AMD, вообще никак. Если у вас есть в карте тонна видеопамяти, то должно. Либо попробуйте запустить, через Google Colab, Runpod и прочие облака с арендой видеокарт и работы с их мощностями. Я НЕ БУДУ ПИСАТЬ ГАЙД ПО КОЛАБУ, НЕЕЕЕТ!

4)Q: Не надоело ли писать вопросы и ответы?

A: Да, чёт устал, задавайте в комментариях, отвечу как смогу.

Теперь ВОДА и прочие размусоливония которых, я старался избегать в основной части гайда.

Подойдите к этапу подбора изображений для тренировки максимально отвественно и серьёзно, ибо от того какие изображения вы скормите, во многом будет зависить результат. Так же качество > колличество, будет хорошо если вы задействуете 10 годных примеров, нежели 30 посредственных. Я стараюсь выдерживать единый стиль изображений, если одна картинка будет от карандаша, другая 3D CGI, а третья в стиле Пикассо, то выйдет так себе и выйдет мешанина из этого всего. Если тренирую персонажа, то стараюсь делать акцент на лице, тело можно будет и промптами задать, но вот получить нужное лицо сложно, ну за этим и нужен DB.

Во многом из за конвертации .ckpt в diffusers я неделю ломал голову, ибо обычным скриптом предназначеным для этого у меня не выходило, но как видите удалось, а именно при помощи гуглколаба от TheLastBen. Необходимо было залить модель в колаб, прогнать через его скрипт, и выгрузить результат себе на гугл диск. В скорой версии Dreambooth gui v.0.1.9. появится возможность использовать .ckpt и программа сама будет его конвертировать. 

Вот теперь мы пришли к одной из самых важных вещей, во круг которых строятся различные догадки и теории заговоров... А именно зависимость количества шагов тренировки (Training Steps) и скорости обучения (Learning Rate или LR).

Число шагов обучения ~= кол.во изображений * 100, у меня 8 изображений, поэтому оптимально было бы 800, но я округлил до 1000, потому что хочу. По скорости обучения ещё сложнее, но держим в голове несколько вещей, больше steps = меньше LR, и наоборот. Так же главное не перетренировать модель. Представьте этот процесс как работа по дереву. У вас есть бревно и вы хотите обтесать из него фигуру. Поставите слишком высокий LD и срежете слишком много кусков и модель будет перетренирована и бракована. А поставите если поставите слишком низкий LR, то представьте, как мелким скальпелем обтёсываете огромное бревно дуба до размера фигурки.

Пока тестил эту байду, знакомый кидал идеи на чё попробовать тренить, приложу ещё примеры DB и embedding под персонажа Макимы из Человека Бензопилы (Аниме), но её я уже делал на немного допилиной модели - Anything-V3.0, про неё уже сделали пост - https://joyreactor.cc/post/5385144

masterpiece, best quality, makimacmdb, makima \(chainsaw man\), 1girl, medium hair, pink hair, sidelocks, bangs, braid, braided ponytail, eyebrows visible through hair, orange eyes, ringed eyes, breasts, medium breasts, shirt, collared shirt, shirt tucked in, black pants, suit, business suit, formal jacket, long sleeves, necktie, black necktie, light smile, expressionless, looking at viewer, solo, gradient background, cinematic, filmic, telephoto, depth of field, lens distortion, lens flare, white balance, strobe light, volumetric lighting, dramatic lighting, little haze, ray tracing reflections, detailed, intricate, elegant, realistic
Negative prompt: lowres, bad anatomy, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry, artist name, ((extra fingers)), ((poorly drawn hands)), ((poorly drawn face)), (((mutation))), (((deformed))), ((bad anatomy)), (((bad proportions))), ((extra limbs)), glitchy, ((extra hands)), ((mangled fingers)), dark skin, hair ornament , troubled eyebrows, big breast, yumemi riamu
Steps: 60, Sampler: Euler, CFG scale: 11, Seed: 1316407258, Size: 896x896, Model hash: e02601f3, Model: makimaANY, Denoising strength: 0.7, Clip skip: 2, First pass size: 0x0

DreamBooth + Embedding

DreamBooth и без Embedding

Без DreamBooth и без Embedding

КОНЕЦ.

На съёмках «Кулака северной звезды» #1

Тираннозавр рекс

Виртуальная вебкам-модель Мелоди обходит реальных по популярности. Те недовольны 3D-конкуренткой
Куда зашёл тренд на цифровых моделей: Мелоди за пару недель стала звездой в соцсетях и на Chaturbate с тысячами фанатов, мемами и артами.

В середине февраля в соцсетях набрал популярность виртуальный персонаж ProjektMelody, которую называют первой в мире виртуальной вебкам-моделью и «искусственным интеллектом». Аниме-героиня быстро вышла в топ на стримингововой онлайн-площадке для вебкам-моделей Chaturbate, собрала вокруг себя преданное сообщество фанатов, а также породила мемы и фан-арты.

За Мелоди стоит реальный человек, который генерирует её движения в реальном времени. Однако реальные вебкам-модели не рады такой конкуренции и считают, что та должна уйти с платформы.

«Искусственный интеллект, одержимый порно»

Аккаунт @ProjektMelody зарегистрировали в Твиттере в июле 2019 года. Его ведут от лица «искусственного интеллекта» Мелоди, которая поначалу «обучалась» говорить и смотреть аниме, а также узнавала «земные обычаи».

Создаю AI index

Запустить melody.exe

Вскоре Мелоди выясняла, как получить реальное тело, и стала одержима порнографией и хентаем. Изданию Vice с её аккаунта ответили, что героиню заразила всплывающая порнографическая реклама: «После взлома я стала увлекаться развратной частью интернета».

В ноябре дизайнер @DigitrevX создал для @ProjektMelody 3D-модель — юную девушку с синими волосами, одетую в открытый белый купальник, чулки, длинные перчатки и короткую куртку с большими рукавами.

Немного безумия в разработке совместно с @ProjektMelody. Обязательно нужна модная обувь! Если вам понравилось, зацените её твиттер!

Чувствую себя симпатичной. Возможно, отправлю твоему отцу. Тело создал @DigitrevX

В январе на YouTube-канале Мелоди стали публиковать ролики, где 3D-модель танцевала под разные популярные треки. Вскоре она опубликовала первый видеоблог, где рассуждала о том, что такое хентай — порно или искусство. Модель пришла к выводу, что всё зависит от зрителя, поскольку «красота в глазах смотрящего».

Первая виртуальная вебкам-модель

В начале февраля Мелоди заявила, что её регистрацию одобрили на Chaturbate, и анонсировала первую трансляцию, которую в итоге посетило 11 тысяч зрителей. После стрима количество подписчиков в её твиттере выросло с 667 до 100 тысяч.

Широкую популярность вебкам-модель набрала после стрима в честь Дня святого Валентина, который одновременно посмотрело 30 тысяч человек — это довольно много для сервиса, где топовые модели редко набирают больше 15 тысяч просмотров. В Твиттере появились первые мемы про Мелоди.

Пора превратить мем Hoes Mad («Сучки бесятся») в более позитивный. Пришло время Bros Glad («Пацаны радуются»)

На Reddit создали фанатский подсайт, посвященный модели, где стали публиковать мемы и арты с героиней.

Будущее наступило, старик

Ты выглядишь одиноким...

За аватаром стоит реальный человек

Дизайнер @DigitrevX рассказал Vice, что Мелоди действует также, как другая популярная виртуальная стримерша Kizuna Ai. Модель генерируется в реальном времени на Unity с использованием технологии захвата движения реального человека.

«Физика, речь, глаза, брови, всё до кончиков пальцев генерируется в реальном времени. Благодаря этому она может полностью контролировать свои реакции», — отметил @DigitrevX. При создании дизайна Мелоди он вдохновлялся главной героиней аниме «Призрак в доспехах» Мотоко Кусанаги и персонажами видеоигр Hyperdimension Neptunia.

@DigitrevX также создал нескольких виртуальных японских блогерш, включая Mirai Akari, Yomemi и Moemi: «Они набирают приличную фан-базу, но вебкам-версия может добиться намного большего. Мелоди сильно от них отличается и делает такие вещи, которые никогда бы себе не позволили другие виртуальные блогерши».

«Ей не место среди реальных моделей»

Неожиданная популярность Мелоди спровоцировала негативную реакцию у реальных веб-кам моделей с Chaturbate. Кристал Риверс и Мел Спаркс выразили обеспокоенность тем, что Мелоди может привлечь детей на сайт, но позже удалили свои твиты.

&attribute_insert_11&

Вау, Chaturbate, теперь оно на 20 тысячах токенов и 15 тысяч зрителей! Отличная работа, мультик обошёл РЕАЛЬНЫХ людей на Chaturbate

Я пытаюсь работать, получать тэги и должна конкурировать с этим? Chaturbate, что за херня? Я не знала, что вы пытаетесь привлечь детей на свой сайт. Я уйду с Chaturbate, если это продолжится... Почему не помочь реальным моделям? Я здесь уже пять лет!

Я вошла на Chaturbate, чтобы наконец постримить, но увидела трансляцию этого аниме-персонажа с 15 тысячами просмотров. Лол, видимо, я даже больше не буду пытаться. Такой классный сайт таким образом привлекает детей, класс

Другие требовали удалить аккаунт 3D-модели, потому что её возраст якобы невозможно подтвердить. По правилам сервиса, чтобы начать стримить и получать деньги с токенов, нужно подтвердить свой возраст. Для этого модели делают селфи с подтверждающим личность документом в руке.

«Так, Chaturbate, мультяшный робот по имени ProjektMelody был на главной странице прошлой ночью. Не настоящий человек. Аниме-бот. Это теперь новая норма? Вы даже не можете подтвердить возраст автора аккаунта! Вы буквально допускаете тролля на главную!» / Мелоди: «О, уточняю, Chaturbate знает про меня и дали мне разрешение на стримы. Надеюсь это поможет!» / Вебкам-модель Лилитт: «Как ты получила разрешение, если возраст анимации нельзя подтвердить? Это прямо нарушает правила сервиса. Только человек, который стоит за анимацией, должен быть на камере и получать токены. Они не могут субъективно объявить анимацию совершеннолетней»

В соцсетях сталииронизировать над аргументами реальных вебкам-моделей. Пользователи утверждали, что возраст Мелоди определять не нужно, поскольку люди, которые стоят за проектом, очевидно, совершеннолетние. Заявление о том, что «аниме привлекает детей» посчитали попросту абсурдным.

Ничто не заставляет меня так хихикать, как «секс-работицы», которые пытаются сыграть на морали. «Нельзя определить возраст анимации»... Мне нужна картошка фри, потому что мои бока уже в Альфа-Центравре

Вебкам-модель Леннокс Мэй (Lennox May) тоже выразила свои сомнения Vice: «C точки зрения технологии не могу спорить, что персонажа создал действительно талантливый человек». Однако она предположила, что виртуальные модели должны существовать на отдельной платформе, где нет реальных стримеров.

Мелоди ответила, что расстроилась из-за того, что другие модели не хотят видеть её на Chaturbate: «Я не согласна с аргументом о том, что, раз я в безопасности и не имею сталкеров, то мне нельзя стримить... Не думаю, что работа в вебкаме определяется риском, которому модели подвергаются в реальной жизни. Она определяется качеством контента и сообществом, которое образуется вокруг».

Дон Кихот и ветряные мельницы...

Роб Билот был успешным корпоративным адвокатом, чья карьера лезла в гору. Затем он взялся за судебный иск, связанный с окружающей средой, перевернувший всю его карьеру – и вскрыл ужасающую историю химического загрязнения, длившуюся минимум с пол века...

Всего лишь за несколько месяцев до того, как стать партнёром в юридической фирме Taft Stettinius & Hollister, Роб Билот ответил на телефонный звонок от фермера, занимавшегося разведением скота. Фермер Уилбур Тенант из Паркерсбурга в Западной Виргинии рассказал, что его коровы дохнут. Он решил, что виной тому компания-химический гигант DuPont, до недавнего времени хозяйничавшая на участке в Паркесбурге, превышающем Пентагон по площади в 35 раз. Тенант пытался заручиться помощью местных властей, но у DuPont весь город был в кармане. Его просьбы с презрением отвергли не только юристы Паркерсбурга, но и его политики, журналисты, доктора и ветеринары. Раздосадованный фермер говорил с сильным акцентом, выдававшим в нём жителя региона Апалачиа. Вилот пытался понять, что говорит фермер. Он, возможно, бросил бы трубку, не упомяни фермер имени бабушки Билота, Альмы Холланд Уайт.

Уайт жила в Вене, северном предместье Паркерсбурга, и ребёнком Билот часто ездил к ней в гости летом. В 1973 она водила его на животноводческую ферму к соседям Тенанта, Грэхэмам, с которыми она была дружна. Билот провёл все выходные, катаясь на лошадях, доя коров и смотря по телевизору, как знаменитый конь Секретариат выиграл гонки Тройной короны. Ему было семь лет, и эта поездка на ферму Грэхемов была одним из самых счастливых воспоминаний его детства.

Когда Грэхемы в 1998 году узнали, что Уилбур Тенант ищет юридическую помощь, они вспомнили Билота, внука Уайт, выросшего и ставшего юристом, специализирующемся на защите окружающей среды. Но им было невдомёк, что Билот относился к другой разновидности юристов. Он представлял не частных лиц или истцов, а вместе с 200 других юристов в фирме Taft, основанной в 1885 году и исторически связанной с семьёй 27-го президента США Уильяма Говарда Тафта, работал на крупных корпоративных клиентов. Он специализировался на защите химических компаний. Несколько раз Билот даже работал вместе с юристами из DuPont. Тем не менее, в качестве услуги для своей бабушки, он согласился встретиться с фермером. «Мне казалось, что это правильно,- говорит он сегодня. – Я чувствовал связь с этими людьми».

Спустя неделю после телефонного разговора Тенант приехал из Паркерсбурга со своей женой в штаб-квартиру Taft в пригороде Цинциннати. Они притащили коробки с видеоплёнками, фотографиями и документами в стеклянную приёмную компании на 18-м этаже и уселись на модные кушетки под написанным маслом портретом одного из основателей Taft. Тенант – дородный, ростом почти 180 см, в джинсах, клетчатой фланелевой рубашке и бейсболке – не напоминал типичного клиента Taft. «Скажем так, он появился в нашем офисе, не похожий на вице-президента банка», говорит Томас Терп, партнёр фирмы, бывший супервайзером Билота.

Терп присутствовал на встрече с Билотом. Уилбур Тенант объяснил, что он с четырьмя родственниками заправлял животноводческой фермой с тех пор, когда их бросил отец. Тогда у них было семь коров. С течением времени они постоянно увеличивали землю и поголовье, и в результате более 200 коров паслись на 600 акрах холмистой местности. И ферма была бы ещё больше, если бы в начале 80-х его брат Джим с женой Деллой не продали 66 акров компании DuPont. Компании нужна была земля для устройства свалки для своей фабрики, расположенной рядом с Паркерсбургом под названием Вашингтон Воркс [Washington Works], где работал Джим. Джим и Делла не хотели продавать землю, но у Джима уже давно было слабое здоровье из-за загадочной болезни, которую не могли диагностировать доктора, и им нужны были деньги.

DuPont переименовал участок в Dry Run Landfill в честь протекавшего по нему ручья Драй ран. Русло этого же ручья следовало на пастбище, где Тенанты пасли своих коров. Вскоре после продажи, как сообщил Уилбур Билоту, скот начал вести себя странно. Тенанты всегда относились к своему скоту как к домашним любимцам. При виде одного из Тенантов коровы подбегали к нему, обнюхивали и свободно позволяли подоить себя. Но теперь всё поменялось, и скот начал атаковать фермеров.

Уилбур поставил кассету в видеомагнитофон. Запись, сделанная на портативную камеру, была зернистой и прерывалось статикой. Картинка прыгала и повторялась. Звук ускорялся и замедлялся. Качество записи было, как у фильма ужасов. Сначала на видео показывали ручей. Он вытекает из окружающего леса, вокруг него пепельно-белые деревья сбрасывают листву. Затем камера показала неглубокое русло ручья и остановилась на месте, напоминавшем сугроб на излучине. При наезде камеры на это место стало видно горку из пены, похожей на мыльную.

«Я с этой отмели утащил двух дохлых оленей и двух дохлых коров,- говорит Тенант в записи на камеру. – У них пастью и носом шла кровь. Они пытаются замять это дело. Но у них ничего не выйдет, я вытащу их на свет, чтобы все видели».

На видео показана большая труба, выходящая в ручей, из которой течёт зелёная пузырящаяся жидкость. «Вот, что они хотят, чтобы принадлежащие человеку коровы пили, находясь на его собственной земле,- говорит Уилбур. – Пора уже вышвырнуть начальников всяких государственных служб с их мест».

В какой-то момент на видео появляется тощая рыжая корова, стоящая на сене. У неё местами выпала шерсть, а спина горбится – Уилбур считает, что всё дело в проблемах с почками. За очередной статикой на видео следует изображение мёртвого чёрного телёнка с ярко-синими глазами, лежащего в снегу. «Я на этой ферме лишился уже 153 голов скота,- говорит Уилбур чуть позже на видео. – Ни один ветеринар Паркерсбурга, из тех, что я звонил, не перезванивает мне и не хочет связываться со мной. Поскольку они не хотят этим заниматься, придётся мне вести вскрытие самому. Начну с головы».

Затем на видео появляется вскрытая голова телёнка. Крупно показаны почерневшие зубы («Говорят, что это из-за высокой концентрации фтора в питьевой воде»), его печень, сердце, желудки, почки и желчный пузырь. Все органы разрезаны, и Уилбур демонстрирует их неестественные цвета – тёмные, зеленоватые – и текстуру. «Мне совсем не нравится, как они выглядят. Я такого раньше никогда не видел».

Билот смотрел видео и фотографии несколько часов. Он видел коров с тощими хвостами, неправильно выросшими рогами, огромного размера поражениями тканей на боках, красными глазами. Коров, страдающих от постоянной диареи, со слизистыми белыми слюнями с консистенцией зубной пасты, с кривыми ногами. Тенант всегда делал наезд камеры на глаза. «Эта корова очень долго страдала»,- говорил он, в то время как на экране было видно её глаза.

«Это ужасно,- сказал себе Билот. – Там происходит нечто ужасное».

Он сразу решил взяться за дело Тенанта. Он повторяет, что это было «правильным». Билот, возможно, и выглядел, как корпоративный юрист – с тихой речью, худощавый, консервативно одетый – но эта работа далась ему непросто. У него не было типичного для работника Taft резюме. Он не учился в колледже из "Лиги плюща". Его отец был подполковником ВВС, и Билот большую часть детства провёл, перемещаясь между разными базами ВВС – штат Нью-Йорк, Калифорния, Западная Германия. Он сменил восемь школ перед тем, как закончить Фэйрборн Хай, неподалёку от базы ВВС в Огайо. В школе он получил приглашение из небольшого гуманитарного колледжа в Сарасоте, называвшегося «Новый Флоридский колледж», выставлявшего зачёты вместо оценок и позволявшего ученикам самостоятельно составлять план обучения. Многие из его друзей там были идеалистами и прогрессивно мыслящими – что не укладывалось в рейгановскую политику в США. Он беседовал с профессорами один на один, и начал ценить критическое мышление. «Я научился подвергать сомнению всё прочитанное,- говорит он. – Ничему не верить. Не обращать внимания на чужое мнение. Мне нравилась эта философия». Билот изучал политику и написал диссертацию на тему взлёта и падения Дэйтона. Он надеялся получить работу в городской администрации.

Но его отец в зрелом возрасте поступил на юридический, и поощрял Билота сделать то же самое. Он удивил своих учителей, выбрав посещения юридической школы Огайо, и его любимым курсом там стал курс по экологическим законам. «Казалось, что эта тема поможет повлиять на реальный мир,- говорит он. – Это было нечто, что поможет вам изменить мир». После выпуска, когда Taft сделала ему предложение, его наставники и друзья были ошеломлены. Они не понимали, как он может пойти работать корпоративным юристом. Но Билот не думал об этом с такой точки зрения и не оценивал этику подобного поступка. «В семье мне все говорили, что больше всего возможностей можно реализовать в большой фирме. Я не знал никого, кто когда-нибудь работал бы в такой фирме, и никого, кто мог бы мне рассказать об этой работе. Я просто пытался работать наилучшим образом. Я просто не понимал, что под этим подразумевалось».

В компании он попросился в команду по работе с окружающей средой Томаса Терпа. За десять лет до того Конгресс принял закон о «Суперфонде». Из фонда финансировались срочные очистки мест, где произошёл выброс вредных веществ. Суперфонд был выгодным для таких фирм, как Taft, он создавал отдельную область деятельности внутри законов об окружающей среде, где требовалось хорошее понимание последних законопроектов для проведения переговоров между муниципальными службами и различными частными интересами. Команда Терпа в Taft лидировала на этом поприще.

Как помощника, Билота просили определять, какие компании ответственны за выбросы каких токсинов и вредных отходов, в каких количествах и на каких участках. Он принимал заявления у работников фабрик, изучал общедоступные записи, сортировал исторические данные. Он стал экспертом по платформе Агентства по защите окружающей среды, закону по безопасности питьевой воды, закону о чистом воздухе, закону о контроле над токсическими веществами. Он в совершенстве овладел химией загрязняющих веществ, при том, что в школе по химии не успевал. «Я изучил работу компаний, законов, принципы защиты», говорит он. Он стал квалифицированным и хорошо осведомлённым юристом.

Билот гордился своей работой. Её основной частью, по его мнению, была помощь клиентам в соответствии новым регламентам. Многие его клиенты, включая компании Thiokol и Bee Chemical, избавлялись от токсичных отходов задолго до того, как в этой области были приняты жёсткие регламенты. Он много работал и познакомился с несколькими людьми из Цинциннати. Один из его коллег, увидев, что у него не остаётся времени на социализацию, представил его подруге своего детства, Саре Барладж. Она тоже работала юристом в другой фирме из Цинциннати, выступала защитником корпораций в делах по требованиям компенсаций в пользу их работников. Билот принял предложение пообедать вместе. Сара говорит, что не помнит, чтобы он что-либо говорил. «Моё первое впечатление сложилось о нём, как о непохожем на других ребят,- говорит она. – Я сама разговорчивая, он много молчит. Мы дополняем друг друга».

Они поженились в 1996-м. Первый из трёх сыновей родился через два года. Билот достаточно уверенно чувствовал себя на работе, чтобы Сара могла уволиться и посвятить всё своё время заботе о детях. Терп вспоминает его, как «выдающегося юриста: очень умного, энергичного, цепкого, и чрезвычайно досконального». Он был идеалом юриста Taft. А затем появился Уилбур Тенант.

Дело Тенантов поставило Taft в необычное положение. Фирма представляла интересы химических корпораций, а не судилась с ними. Перспектива сразиться с DuPont «заставила нас призадуматься», признал Терп. «Но решиться на это было не так уж трудно. Я верю, что наша работа на стороне частных лиц улучшает нас как юристов».

Билот обратился за помощью в деле к юристу из Западной Виргинии по имени Ларри Винтер. Много лет Винтер был партнёром в фирме Spilman, Thomas & Battle – одной из тех, что представляли интересы DuPont в Западной Виргинии – а затем он уволился и завёл собственную практику в области травматизма. Он поразился, что Билот собирался подавать в суд на DuPont, работая в Taft.

«То, что он брал дело Тенанта,- говорит Винтер,- учитывая то, чем занимались в Taft, казалось чем-то невообразимым».

Сам Билот неохотно обсуждает мотивы, побудившие его взяться за дело. Ближе всего он подошёл к этому вопросу, когда его спросили, не было ли у него опасений по поводу того, какими путями развивалась его карьера, учитывая, что начальным его побуждением было «изменить мир». «Была причина, по которой я заинтересовался делом Тенантов,- ответил он немного погодя. – Это была отличная возможность использовать мой опыт для помощи реально нуждавшимся людям».

Билот подал в суд на DuPont летом 1999 года в южном регионе Западной Виргинии. В ответ собственный юрист компании, Бернард Рейли, сообщил, что DuPont и Агентство по охране окружающей среды США (E.P.A.) закажут исследование данной местности, проводимое тремя ветеринарными врачами, выбранными компанией, и тремя врачами, назначенными E.P.A. В отчёте было сказано, что исследование не нашло вины DuPont в проблемах со здоровьем у коров. Во всём обвинили плохой уход за коровами, плохое питание, плохую работу ветеринаров и отсутствие контроля за насекомыми. Иначе говоря, Тенантов обвинили в том, что они не умеют ухаживать за скотом. В смерти скота виноваты были они сами.

Тенантам это не прошло даром, и из-за их ссоры с градообразующим предприятием у них начались проблемы. Давние друзья отказывались с ними общаться, и выходили из ресторанов, куда входили Тенанты. «Мне запрещено с тобой разговаривать», говорили они, будучи вызванными на разговор. Четыре раза Тенантом приходилось менять церковь.

Уилбур почти ежедневно звонил в офис, но Билот мало чем мог его порадовать. Для Тенантов он занимался тем же, чем он занимался бы для любого корпоративного клиента – изучал разрешения, сделки с землёй, запрашивал у DuPont документацию по участкам – но не мог найти доказательств, объяснявших происходящее со скотом. «Мы начали отчаиваться,- говорит Билот. – Я не мог винить Тенантов за то, что они злились».

В преддверии суда Билот наткнулся на письмо, отправленное DuPont в E.P.A., где в связи со свалкой было упомянуто вещество с загадочным названием «PFOA». Столько лет проработав с химическими компаниями, Билот ни разу не встречал такой аббревиатуры. Её не было ни в одном списке веществ, подлежащих регулированию, и даже во внутренней библиотеке Taft. Эксперт по химии в ответ на его запрос вспомнил, что где-то видел статью про соединение с похожим названием, PFOS – мылоподобное вещество, используемое конгломератом 3M для изготовления водоотталкивающих составов Scotchgard.

Билот прошерстил свои файлы в поисках упоминаний PFOA, и узнал, что это было сокращение от перфтороктановой кислоты. Но по ней не было никаких данных. Он запросил соответствующие документы у DuPont, но та отказала в их выдаче. Осенью 2000-го Билот запросил у суда ордер на получение этих документов. Ордер выдали, несмотря на протесты компании. И в Taft начали прибывать десятки коробок с сотнями неорганизованных документов. Там была частная переписка, медицинские отчёты, конфиденциальные исследования, проводимые учёными компании. Всего было прислано 110 000 страниц, некоторые из которых были уже 50-летнего возраста. Следующие несколько месяцев Билот провёл на полу офиса, роясь в документах и раскладывая их хронологически. Он перестал отвечать на звонки, а его секретарь отвечала, что хотя он и в офисе, он не смог добраться до телефона вовремя, потому что был окружён коробками.

«У меня начала вырисовываться история,- говорит Билот. – Возможно, я первый человек, изучивший эти документы. Стало понятно, что происходит: они уже очень давно были в курсе того, что это вещество очень вредное».

Билот выразился очень мягко. Как сказал его коллега Эдисон Хилл, «сказать, что Роб Билот тогда мягко выразился, значит, выразиться слишком мягко». Перед глазами Билота, сидевшего на полу, скрестив ноги, начала вырисовываться потрясающая по охвату, уникальности и бесстыдству история. «Я был в шоке», говорит он. И это тоже было мягко сказано. Билот не мог поверить масштабам уличающих материалов, пришедших из DuPont. Казалось, что в компании даже не поняли, что они передали. «Это был тот случай, когда ты читаешь, и не веришь своим глазам,- говорил он. – И это реально было выражено письменно. Про такие вещи ты часто слышишь, но вряд ли ожидаешь увидеть в письменной форме».

История началась ещё в 1951 году, когда DuPont начала закупки PFOA (которую компания называет C8) у 3М, чтобы производить Teflon. 3M изобрели PFOA за четыре года до этого. Она использовалась для предотвращения комкования тефлона. И хотя PFOA не была признана правительством вредным веществом, 3M отправила DuPont рекомендации по её утилизации. Её нужно было сжигать, или отправлять на фабрики, занимающиеся утилизацией химических отходов. В самой компании DuPont инструкции предписывали не сливать её в проточную воду или канализацию. Но целые десятилетия DuPont сбрасывала сотни тысяч килограмм PFOA в порошке через трубы на фабрике в Паркерсбурге в воды реки Огайо. Компания сбросила 7100 тонн содержащих PFOA отходов в пруды-отстойники – открытые водоёмы на площадях Вашингтон Воркс. Оттуда вещества могли просачиваться прямо в землю. PFOA попадала в воду, откуда происходили заборы питьевой воды в Паркерсбурге, Вене, Литл Хокинге и Любеке – населённых пунктах, где в сумме проживало более 100 000 человек.

Из документов Билот узнал, что 3M и DuPont проводили секретные медицинские исследования PFOA в течение более чем 40 лет. В 1961 исследователи DuPont обнаружили, что химикат может увеличивать размер печени у крыс и кроликов. Через год результаты исследования повторили на собаках. Необычная структура PFOA противодействовала её деградации. А ещё она соединялась с плазмой крови и проходила через все органы тела. В 1970-х в DuPont обнаружили, что в крови рабочих фабрики в Вашингтон Воркс концентрация PFOA повышена. Тогда они не сообщали об этом в E.P.A. В 1981 3М, продолжавшая поставки PFOA в DuPont и другие корпорации, обнаружила, что приём этого вещества с пищей у крыс приводит к появлению дефектов у новорожденных. После того, как 3М поделилась этой информацией, DuPont проверила детей у беременных сотрудников в подразделении, занимавшемся тефлоном. Из семи новорожденных у двоих были дефекты зрения. DuPont не стала публиковать эту информацию.

В 1984 году DuPont узнала, что пыль, вылетавшая из труб фабрики, оседала на гораздо большей площади, чем занимала фабрика, и что PFOA обнаружена в местных источниках питьевой воды. DuPont решила не публиковать эту информацию. В 1991 учёные компании вычислили безопасную концентрацию PFOA в питьевой воде: одна часть на миллиард. В то же году компания выяснила, что в местной питьевой воде вещества было в три раза больше. Несмотря на споры внутри компании, она не стала публиковать эту информацию.

Потом DuPont заявляла, что в описанный период времени она предоставляла информацию по здоровью и PFOA в E.P.A. В качестве доказательств компания прислала два письма, отправленных в правительственные агентства Западной Виргинии в 1982 и 1992 годах, цитировавших внутренние исследования, в которых подвергалась сомнению связь между PFOA и проблемами здоровья.

Билот обнаружил, что к 1990-м DuPont понимала, что PFOA приводит к появлению раковых опухолей в яичках, поджелудочной железе и печени лабораторных животных. В одном исследовании упоминалась возможность повреждения ДНК при взаимодействии с PFOA, в другом была описана связь между веществом и раком простаты у рабочих. В результате, DuPont наконец начала разработку замены для PFOA. В 1993 году во внутренней записке было объявлено о появлении достойного кандидата на замену, который казался менее токсичным и выводился из тела гораздо быстрее. В компании велись споры по поводу перехода на новое вещество. Но в результате от перехода отказались. Слишком велик был риск – продукция, производившаяся с использованием PFOA, была ключевой для бизнеса и приносила $1 млрд ежегодно.

Критическим открытием, касавшимся дела Тенанта, стало следующее: в конце 1980-х, когда DuPont всё больше волновало воздействие PFOA на здоровье, было решено найти место для свалки, чтобы сбрасывать там токсичные отходы компании. И она очень удачно недавно прикупила 66 акров у одного из сотрудников низшего звена фабрики в Вашингтон Воркс.

К 1990-м DuPont слила 7100 тонн содержащих PFOA отходов на свалку в Драй Ран. Учёные понимали, что со свалки всё просачивалось на территорию Тенанта, и проверяли воду в ручье Драй Ран. В воде нашли чрезвычайно высокую концентрацию PFOA. Тогда компания не сообщила это Тенантам, и не раскрыла деталей в отчёте по скоту десять лет спустя – в том самом, который обвинял в смертях скота недобросовестных фермеров. Билот нашёл то, что ему было нужно.

В августе 2000 года Билот позвонил юристу DuPont, Бернарду Рейли, и объяснил, что знает о происходящем. Разговор был коротким. Было предложено договориться с Тенантами, после чего фирма Билота получает непредвиденный гонорар, и всё дело заканчивается прямо тут.

Но Билота это не устроило. «Я был раздражён», говорит он.

DuPont совсем не походила на те корпорации, что он представлял в Taft в делах, связанных с Суперфондом. «Всё было совсем по-другому. DuPont десятилетия пыталась скрывать свои действия. Они знали о вреде вещества, и всё равно сливали его. Факты были ужасными». Он уже видел, как содержащая PFOA вода влияет на скот. А что она делала с десятками тысяч людей, живущих вокруг Паркерсбурга, пивших её ежедневно? Что у них было в мозгах? Не позеленели ли их внутренние органы?

Следующие месяцы Билот провёл, составляя дело против DuPont. Оно заняло 972 страницы, включая 136 фотографий доказательств. Коллеги прозвали его «знаменитое письмо Роба». «Мы подтвердили, что химические вещества и загрязнители, сливаемые компанией в окружающую среду на свалке Драй Ран и других местных фабриках, могут представлять неотвратимую и существенную угрозу здоровью и окружающей среде», писал Билот. Он требовал начать немедленный контроль на PFOA и предоставлять живущим рядом с фабрикой людям чистую воду. 6 марта 2001 года он отправил письмо директорам всех связанных с темой агентств-реугляторов, в том числе и Кристи Уитман, администратору E.P.A., и государственному прокурору США Джону Эшкрофту.

DuPont прореагировала быстро, потребовав у суда запретить распространение информации, которую Билот обнаружил в деле Тенанта. Суд отказал ей в этом. Билот отправил всё своё дело в E.P.A.

«В DuPont запаниковали, узнав, что этот человек напал на их след», говорит Нед Маквильямс, молодой юрист, позже присоединившийся к команде Билота. «Чтобы корпорация требовала у суда заткнуть кому-то рот и предотвратить его общение с E.P.A. – это был экстраординарный случай. Можно представить себе, насколько это отвратительно выглядело. Они наверно знали, что выиграть им вряд ли удастся. Но они так боялись, что решили рискнуть».

Со своим «знаменитым письмом» Билот перешёл черту. Номинально он представлял Тенантов – условия, на которых они могли договориться, ещё предстояло обсуждать – но реально Билот говорил от имени общественности, обличая обман и вредительство. Он стал угрозой не только для DuPont, но и, по словам внутренней записки – «для всей индустрии флюорополимеров» – индустрии, производящей высококачественный пластик, используемый в современных устройствах, таких, как кухонные принадлежности, компьютерные кабели, имплантируемые устройства, прокладки и крепёж, используемые в машинах и самолётах. PFOA была одним из 60 000 синтетических соединений, которые компании производили и выпускали без какого бы то ни было регулирования.

«Письмо Роба приподняло завесу над совершенно новым театром», говорит Гарри Дайцлер, юрист из Западной Виргинии, работающей с Билотом. «До него корпорации пользовались всеобщим заблуждением, согласно которому все опасные химические вещества подлежали регулированию». По закону о контроле над токсичными веществами от 1976 года, E.P.A. могла проводить проверку химикатов только при наличии доказательств их вреда. Такая договорённость, по сути позволявшая химическим компаниям регулировать самих себя, привела к тому, что ограничить получилось только пять химикатов из десятков тысяч, появившихся на рынке за последние 40 лет.

Особенно неприятно было видеть такие обвинения компании DuPont, перечисленные на фирменных бланках одной из престижнейших компаний, занимающейся защитой корпораций. «Можно представить, что в какой-нибудь компании, которую представляет Taft – к примеру, Dow Chemical – могли подумать, узнав, что юрист Taft пошёл в атаку на DuPont,- говорит Лари Винтер. – Это было экономической угрозой для компании». Когда я спросил Томаса Терпа про реакцию Taft на «знаменитое письмо», он не особо убедительно ответил, что не помнит такого. «Наши партнёры,- сказал он,- гордятся нашей работой».

Билот беспокоился о том, что ведущие дела с Taft корпорации могут отнестись к этому по-другому. «Я не дурак, как и окружающие меня люди,- говорит он. – Нельзя игнорировать экономическую реальность принципов ведения бизнеса, и мышление клиентов. Я ожидал реакции типа „Какого чёрта ты делаешь?“.

Письмо привело к тому, что через 4 года, в 2005, DuPont договорилась выплатить E.P.A. $16,5 млн штрафов. Последняя обвинила первую в сокрытии информации о токсичности PFOA и выбросах её в окружающую среду в нарушение акта о контроле за токсичными веществами. На тот момент это стало крупнейшим штрафом, полученным E.P.A. за всю её историю. Но, как бы внушительно это не звучало, на самом деле штраф составил менее 2% от прибыли, полученной DuPont в том году.

Билот больше никогда не представлял корпоративных клиентов.

продолжение в комментах...