Иисус geek программирование реактор помогающий много букаф story длиннопост 

Вскрытие формата OJD

Кому лень читать интересную историю, вот ссылка на конвертер с инструкциями, как превратить .ojd в .mp4https://drive.google.com/file/d/1GlMXGss0R2-jYP0TOZ_2Y1xzl9Ugar7l/view?usp=sharing

инструкции в readme.txt применимы к unix/linux, но всё работает и на WSL под виндой.

Ну ладно, а кому не лень и таки интересно, услышьте же охуительную историю о том, как я этот самый конвертер собрал!

Заранее предупреждаю - я нихрена не смыслю в аудио и видео, я просто программист на C. всю инфу про H264 и AAC я нагуглил и вычитал в коде старой версии ffmpeg; если тут есть эксперты, простите меня заранее, если какую-нибудь хуиту скажу.

НАЧАЛО ИСТОРИИ. ТАИНСТВЕННОЕ ВИДЕО НА РЕАКТОРЕ? СКАНДАЛЫ, ИНТРИГИ...

Ну так вот, ушел я тут, значит, в отпуск на пару недель, и тут вижу интересный пост от Иисуса:

http://joyreactor.cc/post/4899255

Удивительная история - файл с видео, который сам Иисус не может открыть!

Вместе с многоуважаемыми пидорами из комментов начал гуглить, с превеликим любопытством - случай и правда таинственный, не находилось вообще ничего толкового. С большим интересом тред пялился на хекс-дампы, которые Иисус предоставил в начале ветки ( http://joyreactor.cc/post/4899255#comment23718856 ), особенно на повторяющееся ASCII слово qbox...

И наконец товарищ http://joyreactor.cc/user/nun-buoy , а затем и товарищ http://joyreactor.cc/user/dadv нашли совпадение - старый проприетарный аппаратный видео/аудио кодек MG1264! Эта штуковина была вроде как сделана с рачетом на мобильные девайсы, что совпадало с инфой от Иисуса (видео со старого телефона).

Сообща нами были найдено следующее:

* Базовые характеристики: https://www.semiconductorstore.com/pdf/newsite/mobilygen/MG1264_Comet3_DS.pdf

* Слитые доки по версии 1.1 кодека: https://manualzz.com/doc/7153241/mg1264

* Чудом сохранившийся кусок самопального муксера на C#: https://csharp.hotexamples.com/site/file?hash=0xed6a386bc80b4638eac9ea030e141c8312db2507c58453306c1ab71598c2b8f2&fullName=VideoStreamCodecs/Formats/QBox.cs&project=ctapang/GPUCyclops (толку от этого в результате не вышло, просто интересно почитать)

* Полностью сохранившаяся либа для работы с аппаратным кодеком: https://tipok.org.ua/node/13, плюс патч для ffmpeg 0.6, включающий в себя демуксер для проприетарного формата qbox: https://gist.github.com/lynxis/3033513 (последнее в результате стало основным столпом решения проблемы)

Ручки уже основательно чесались, так что я скачал те самые доки и стал читать и сравнивать с хекс-дампами из треда.

Те самые qbox-ы оказались форматом контейнеров для AAC и H264 пакетов. В доках был описан формат самих qbox-ов:

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост


Действительно, в хекс-дампах Иисуса прослеживались эти самые qbox-ы, в основном все как описывалось (http://joyreactor.cc/post/4899255#comment23720396), но с одним нюансом. Первые 8 байт файла не являлись частью какого-либо qbox-а. "Ну мало ли, наверное, проприетарный хедер", подумал я. Все казалось достаточно однозначно: ojd файлы - наверняка просто qbox аудио/видео стрим в формате "что энкодер высрал, то в файл и запишем" (в примерах из доков MG1264 такие файлы назывались .qbx), плюс в начало дописаны 8 байт для точной идентификации типа файла или еще чего-то в этом духе. Из интереса я еще некоторые время попытался эти 8 байт нагуглить, проверил пару баз файл хедеров, но это мне ничего не дало.

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Стоит отметить, что тут все, блять, все в big-endian. Я раньше никогда с такой херней не работал, так что тут все немножко ломало мой привыкший к little-endian мозг =)

Тут стоит отметить один неприятный нюанс - я это далеко не сразу заметил, но несмотря на то, что те самые доки вроде бы жестко гарантируют, что в первом H264 видео qbox-е будут только NAL-ы SPS-PPS, в реальности тут в первом qbox-е выходит последовательность AUD-SPS-PPS-IDR (это можно увидеть здесь: http://joyreactor.cc/post/4899255#comment23718856 у каждого NAL-а 4 байта стандартного старткода заменено на префикс-размер, так что их можно легко подряд читать, не парясь с полным декодированием).

Для наглядности:

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Тут выделены размеры (которыми заменены старткоды). Начинается каждый NAL так: 1 бит == 0, 2 бита == реф индекс (типа группа типов), дальше 5 битов ID (nal_unit_type: 9==AUD, 7==SPS, 8==PPS, 5==IDR), это все гуглится по запросу "ISO/IEC 14496 pdf". Короче, получается, что вместо чистого конфига тут еще и данные видео есть.

Если бы я знал хоть что-то об H264, я наверняка бы заподозрил, что 13744 байта как-то слишком дохуя для одних SPS-PPS. Но я ничего не знал и ничего не заметил, так что подозрений об актуальности и возможной устаревшести дока относительно ojd ко мне в душу не закралось...

КАК Я ЕБАЛСЯ С ФОРМАТОМ OJD

Ну, в общем, охуительно уверенный в себе, я постучался к Иисусу в личку, и он мне скинул .ojd файл. Дальше я нашел github FFmpeg-а, клонировал, и стал тыркаться. Приладить тот патч с tipok.org.ua к современной версии FFmpeg-а оказалось слишком сложно, но благо в репозитории был бранч подходящей версии 0.6.7 (патч писался для 0.6.1), я чекаутнул бранч и приладил на него qbox.c, qbox.h и прочие диффы из патча, нужные для работы демуксера. Нагуглив, как с этим ffmpeg вообще работать (лол), легким движением хвоста... эээ... tail-а я обрубил первые 8 байт файла ojd и попытался скормить результат свежескомпиленному ffmpeg-0.6.7.

Естественно, просто так нихуя не сработало.

Покопавшись в ffmpeg-е (выяснилось, что у него, по крайней мере, в версии 0.6, компилится дебаг-билд ffmpeg_g, который заходит с gdb), выяснил, что первый qbox парсится нормально, но со вторым возникают проблемы. Применив xxd, я обнаружил странное: второй qbox начинался через какой-то промежуток после ожидаемого конца первого.

Для наглядности покажу на изначальном .ojd (без обрубленного начала):

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Тут хорошо видно "хедер" в начале, после него qbox с размером 0x35b0, и по-хорошему, если это qbox стрим, как в доках, то следующий qbox должен начаться на 0x8+0x35b0==0x35b8, но вот нихуя, начинается он аж на 0x3690!

Изрядно прифигев с такого расклада событий, я тупо пялился на этот хекс-дамп, и тут заметил в нем нечто крайне интересное.

А вы, дорогие мои читатели, заметили это? Заметили, блять, с чего начинается строка 00003600?

0461 00a0 **** 03ff

Практически идентично хедеру в начале файла!!!!

Я охуел. Я сделал grep. Я охуел еще больше.

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Это пиздец. Каждые 0x200 (512) байт .ojd файла начинаются с 8-байтного префикса. Байты 5-6, по ходу, какой-то... sequence number? Причем нормальный счет идет только в байте 6, в байте 5 же происходит какая-то полная поебень, но там явная закономерность (36-06-13-02-02-03-21-00 повторяются, но потом меняются с переносом единицы из 6 байта, короче, что-то крайне странное).

Я не знаю, что это за наркомания. Я подозреваю, что это след какой-то крайне допотопной (возможно самопальной?) блочной файловой системы родной ОС девайса, на который таинственные видео записывались. Если кто тут узнал-распознал эту херню, объясните мне, пожалуйста, мне очень любопытно!

Кстати, забавный нюанс - в видео Иисуса этот сраный формат немножко поломал конец qbox-стрима, то есть последний qbox, который не влез в последний блок ojd, оказался таки обрезан. Это видно в комменте Иисуса с дампом конца ojd файла здесь, если посчитать размер последнего qbox-а: http://joyreactor.cc/post/4899255#comment23719489 а после конца этих блоков зачем-то идет очень дохуя нулей =) но не буду на этом заостряться.

Ну, делать нечего, по-быстрому я написал конвертер, который из каждого 512-байтного блока в файле .ojd выкидывал первые 8 байт и записывал результат в файл .qbx.

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Дело пошло веселее. С выкинутыми префиксами блков конец каждого qbox-а стал совпадать с началом следующего, и ffmpeg... послал меня нахуй, потому что что-то оказалось не так с аудио. Оказывается, демуксер не генерировал почему-то аудио-стрима, хотя я точно видел в файле аудио-qbox-ы.

Решил я разобраться с этим позже. Путем нехитрых хаков кода, я смог декодировать видео в валидный mp4 файл с... ебаным слайдшоу, судя по частоте кадров. Настроив вручную взятый от балды фреймрейт, я еще раз декодировал видео, и... моему взору предстали обещанные Иисусом ебущиеся карлики! Успех!!!!!!!!!

Ебались они, правда, как-то подозрительно слишком резво, так что я сделал заметочку себе на будущее - разобраться с фреймрейтом ебаным. Но сначала аудио.

И тут меня ждал пиздец.

КАК Я ЕБАЛСЯ С АУДИО

В ебаных доках черным по белому было написано, что первый аудио qbox должен содержать аудио конфиг в формате AudioSpecificConfig из ISO/IEC 14496-3. Но конфиг-флага ни на одном из аудио-qbox-ов не нашел ни демуксер, ни я вручную. Правда, в доках и не было написано, что этот флаг обязательно на qbox-е с аудио-конфигом должен быть... Я решил поэкспериментировать и взять просто первый аудио-qbox и попытаться дешифрануть его как конфиг.

Меня ждало жестокое разочарование.

FFmpeg матерился по-черному, закидывал меня эррорами, говорил мне, что конфиг говно. Поебавшись немного, я горько вздохнул, вбил в гугле "ISO/IEC 14496-3 pdf" и начал вникать.

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Как видно, первые 5 бит должны указывать на тип объекта. Судя по докам MG1264, этот тип должен быть 2 (AAC_LC).

И тут уже незадача - все содержимое qbox-ов с аудио начиналось на 0x21:

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

дас ист крайне печально, ведь первые 5 битов 0x21 - это вовсе не 2 (AAC_LC), а очень даже 4 (AAC_LTP), который тот билд ffmpeg-а вообще не поддерживал.

Вообще, рассматривая эти qbox-ы, я невольно задумался - а есть ли среди них вообще этот самый AudioSpecificConfig? Даже если проигнорировать первые 5 битов, дальше все равно получалась лютая хуита. В доках было четко сказано, что девайс поддерживает 2-канальное стерео AAC-LC аудио с sample rate 48000, 44100, 32000, 24000, или 22050 Hz.

Крепко задумавшись, я продолжил гуглить и штудировать ISO/IEC 14496-3, как вдруг до меня дошло, что все эти пакеты прекрасно подходят под определение AAC raw data block типа ChannelPairElement!

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

Здесь ID_CPE==1. CPE - это просто пакеты для двухканального стерео-аудио (это подтвердил и код ffmpeg). Я чувствовал, что я на верном пути!
Но мне пришлось смириться с горькой правдой - конфига аудио (AudioSpecificConfig) в этом стриме qbox, по ходу, нет вообще. Возможно, девайс, с которого это было записано, поддерживал только одну настройку аудио, и qbox с аудио из файла ojd специально выкинули? Или же расчет был на то, что какие-то декодеры поумнее ffmpeg 0.6 смогут и без конфига тут разобраться? Мистика, конечно...

Ну, раз конфига нет, то сделаем сами, хуле. Будет у нас свой AudioSpecificConfig с блекджеком и шлюхами. Сначала я просто хакал ffmpeg, а потом уже дописал фальшивый аудио qbox в начало файла. Но это я чуть позже покажу.

Итак, мы имеем audioObjectType==2, 3<=samplingFrequencyIndex<=7, channelConfiguration==2. Если что, кстати, последние 2 значения - индексы в такие массивы (из кода ffmpeg 0.6.7):

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост

После некоторых попыток стал я пробовать различные комбинации и... нихрена. FFmpeg выплевывал тонну ошибок (но файл какой-то все-таки выдавал). В чистое AAC не конвертировалось, а при декодировании в raw audio (wav) мои уши встречал оглушительный пердеж. После некоторой ебли, мне показалось, что на частоте 22050 ошибок вроде выдается меньше, и стал с ней тыркаться.

Дальше я взял в руки gdb и стал разбираться, откуда идут ошибки. FFmpeg декодирует каждый channel_pair_element так: сначала общий конфиг, потом левый канал, потом правый. В пакете с данными они идут друг за другом последовательно (в табличке channel_pair_element это видно - там это называется individual_channel_stream).

Удивительно, но все ошибки выдавались при декодировании правого канала.

Почесал я репу, похакал я код ffmpeg-овского декодера aac, чтобы, значит, он игнорил ошибки со второго канала, и с каждого qbox-а брал только один экземпляр данных для первого канала.

Получившееся в результате аудио было... странным. В правом ухе оглушительно пердел сатана. Но в левом, кажется, слышались стоны ебущихся карликов!!!!!!

...но стонали они как-то... ускоренно? Я задумался и сел вчитываться в код ffmpeg. Скорее всего, второй канал не выходило распарсить, потому что плохо парсились данные первого канала. Если его недопарсить до конца, или же наоборот перепарсить, то не попадешь на данные второго канала. В конце первого канала шли спектральные данные, которые парсились каким-то очень сложным кодом... Но на его парсинг влиял sample rate.

Отсюда следует очевидное умозаключение - sample rate неправильный. Но я, как было написано раньше, свято верил слитым докам MG1264, в которых было написано, что самый маленький sample rate для аудио, который поддерживает кодек - 22050 герц.

Но в какой-то момент я от безнадеги таки взял и попробовал 16000 герц (индекс 8).

И ебать-колотить, что же я увидел? Конвертацию аудио без ошибок от ffmpeg! И что же я услышал? Громкие, четкие, стерео стоны ебущихся карликов!!!! Я смог!!!!!

В конвертер для qbox-ов добавилась новая фича - дописывать в начало стрима аудио-qbox с найденным мною конфигом.

Иисус,Исусе,geek,Прикольные гаджеты. Научный, инженерный и  айтишный юмор,программирование,реактор помогающий,много букаф,Истории,длиннопост


КАК Я ЕБАЛСЯ С ФРЕЙМРЕЙТОМ

Последней моей задачей было сделать конвертацию видео с нормальным фреймрейтом. Аудио каким-то образом отконвертилось идеально, но чтобы подогнать к нему по времени видео, пришлось подбирать вручную - выяснилось, что там был фреймрейт 25. Но откуда брался изначальный фреймрейт, который был похож на ебаное слайдшоу? Оказалось, что все дело было в демуксере, который зачем-то рескейлил дефолтные 90000 герц базовой шкалы тайминга на какую-то хуйню. Исправив сей огрех и пошаманив немножко с кодом таймстампов, я получил нормальную комбинацию аудио с видео, нормальный mp4 файлик, который уже можно было отправить заждавшемуся Иисусу!

ЗАКЛЮЧЕНИЕ

Ебать это было весело. Я дохрена нового для себя узнал про мир аудио и видео энкодингов. И теперь умею немножко работать с ffmpeg! Ну и в кои-то веки есть что интересного рассказать реактору =) всем бобра, я пошел допроебывать свой отпуск!

Развернуть

Отличный комментарий!

AkagitsuneAkagitsune07.09.202117:44ссылка
+31.6

расизм веганы негры протест песочница 

Перевод: "если вы хотите знать, как бы вы относились к рабству <когда ещё было рабство>, посмотрите на то, как вы относитесь к правам животных сейчас!"

расизм,веганы,негры,протест,песочница
Развернуть

countryballs песочница countryballs Комиксы длиннопост песня перевод не нужен хунта песочница 

Siiiiiiiighhh
All life is of terrible.
All we can doing is resign self to misery.
D	G	D
When I am look around myself, what is it I am see?
D	A
Leaderships are incompetent; we living poverty!
D	G	D
And so to you, mis closest friends, I asking one pregunta:
Uh... Argentina. What exactly

Ooh, am know who we can recruiting! Paraguay and Uruguay are always happy for join in confusing military actions!
Are of... fighting? Is hard to tell.
We spending all day stand by stream And feelings hurt other with scream
Wait... you are do nothing all day but standing here and fight? What

Hey look! We are of in mountains! Am wonder if Peru or Ecuador would wanting join junta fun?
Let's go asking!
Hola, Peru and Ecuador! How are you two of-
)
Uhh... OK thern^ Anyway, would either of you be
interest in join our friendship coalition of oppression?
D	G	A
Dm	Gm	Dm
I turn my back


Развернуть

политота доход народ песочница 

Правительство отметило резкое падение доходов населения. Отмечали в узком кругу, скромно. К столу подавали только Dorn Perignon и нормандских устриц.,политота,Приколы про политику и политиков,доход,народ,песочница
Развернуть

айфон Apple Инновации песочница 

У нового iPhone 7 не будет порта зарядки, когда батарея сядет Вы просто покупаете новый iPhone. Это просто.,iphone,Apple,айфон,Инновации,песочница
Развернуть

политота песочница политоты совок инструкция песочница 

Олег Павлович
22 октября 2014 г. •
Вернуться в СССР можно достаточно просто. Устраиваетесь на работу в любой умирающий НИИ. Отключаете интернет и мобильные телефоны, оставляете на телевизоре только Первый канал Российского телевидения. Заменяете туалетную бумагу газетами. Для пропитания
Развернуть

робот атлас Boston Dynamics будущее рядом песочница Atlas Robot 


Развернуть

собакен фото няшнота песочница 

^ Л	V* ^ # «• # *	
Wife,собакен,фото,няшнота,песочница
Развернуть

собянин снос тонко песочница ночь длинных ковшей 

ЖЕСУИ ЛАРЬКИ!,собянин,снос,тонко,песочница,ночь длинных ковшей
Развернуть

политота СССР ностальгия твиттер песочница 

ф	к Ч V ,1Г (111
Мечтающие вернуться в СССР,
выбирайте период,
террор и голод 20х,
голод и террор ЗОх,
бойня и голод 40х.
нищета 50-60х.
дефицит70-80х,политота,Приколы про политику и политиков,СССР,ностальгия,твиттер,песочница
Развернуть