мышь вычисления сожрал

Разработчики ИИ стали переходить на компактные ИИ-модели — они дешевле и экономичнее

Технологические гиганты и стартапы переходят на более компактные и эффективные модели искусственного интеллекта, стремясь сократить расходы и повысить производительность. Эти модели, в отличие от своих «старших братьев», таких как GPT-4, могут обучаться на меньшем объёме данных и специализируются на решении конкретных задач.

Microsoft, Google, Apple и стартапы, такие как Mistral, Anthropic и Cohere, всё чаще обращаются к малым и средним языковым моделям искусственного интеллекта. В отличие от больших моделей (LLM), таких как GPT-4 от OpenAI, которые используют более одного триллиона параметров и их разработка оценивается далеко за 100 миллионов долларов, компактные модели обучаются на более узких наборах данных и могут стоить менее 10 миллионов долларов, при этом используя менее 10 миллиардов параметров.

Компания Microsoft, один из лидеров в области ИИ, представила семейство небольших моделей под названием Phi. По словам генерального директора компании Сатьи Наделлы (Satya Nadella), эти модели в 100 раз меньше бесплатной версии ChatGPT, но при этом справляются со многими задачами почти так же эффективно. Юсуф Мехди (Yusuf Mehdi), коммерческий директор Microsoft, отметил, что компания быстро осознала, что эксплуатация крупных моделей ИИ обходится дороже, чем предполагалось изначально, что побудило Microsoft искать более экономичные решения.

Другие технологические гиганты также не остались в стороне. Google, Apple, а также Mistral, Anthropic и Cohere выпустили свои версии малых и средних моделей. Apple, в частности, планирует использовать такие модели для запуска ИИ локально, непосредственно на смартфонах, что должно повысить скорость работы и безопасность. При этом потребление ресурсов на смартфонах будет минимальным.

Эксперты отмечают, что для многих задач, таких как обобщение документов или создание изображений, большие модели вообще могут оказаться избыточными. Илья Полосухин, один из авторов основополагающей статьи Google в 2017 году, касающейся искусственного интеллекта, образно сравнил использование больших моделей для простых задач с поездкой в магазин за продуктами на танке. «Для вычисления 2 + 2 не должны требоваться квадриллионы операций», — подчеркнул он.

Компании и потребители также ищут способы снизить затраты на эксплуатацию генеративных технологий ИИ. По словам Йоава Шохама (Yoav Shoham), соучредителя ИИ-компании AI21 Labs из Тель-Авива, небольшие модели могут отвечать на вопросы, если перевести всё в деньги, всего за одну шестую стоимости больших языковых моделей.

Интересно, что ключевым преимуществом малых моделей является возможность их тонкой настройки под конкретные задачи и наборы данных. Это позволяет им эффективно работать в специализированных областях при меньших затратах, например, только в юридической отрасли.

Однако эксперты отмечают, что компании не собираются полностью отказываться от LLM. Например, Apple объявила об интеграции ChatGPT в Siri для выполнения сложных задач, а Microsoft планирует использовать последнюю модель OpenAI в новой версии Windows. А такие компании как Experian из Ирландии и Salesforce из США, уже перешли на использование компактных моделей ИИ для чат-ботов и обнаружили, что они обеспечивают такую же производительность, как и большие модели, но при значительно меньших затратах и с меньшими задержками обработки данных.

Переход к малым моделям происходит на фоне замедления прогресса в области больших публично доступных моделей искусственного интеллекта. Эксперты связывают это с нехваткой высококачественных новых данных для обучения, и в целом, указывают на новый и важный этап эволюции индустрии.

Источник:

https://3dnews.ru/1107613/v-mire-ii-nametilas-novaya-tendentsiya-kompanii-stali-perehodit-na-kompaktnie-i-deshyovie-iimodeli

"Bmfm" soon!

Я собирающий +0,1 на комментариях

Мыши-рокеры с марса сезон 1, серии 02-04 в FullHD

Думал не вкладывать подряд, но после первого поста заметил, что большинство увидели только первую серию. Если получится, сегодня доделаю весь сезон, но ночью был сбой, и солидный кусок работы пропал :(

Пока вот:

Английские версии тоже на канале.

Мыши-Рокеры с Марса сезон 2, серии 05-08 в FullHD

Скоро понедельник, так что на всякий случай поспешу выложить как можно больше пока за окном еще мирное небо.

"Летучий город"

"Не расстанемся с последней надеждой"

"Возвращение на Марс - Часть 1"

"Возвращение на Марс - Часть 2"

Перевыпуск мышей-рокеров с Марса

С новыми скилами и недавно приобретенным Изуверским Интеллектом (прости, Омниссия) переделываю потерянных с первого канала Мышей-рокеров. Качество в 1080р как минимум не хуже прошлых 4К, а то и лучше :)

Больше тут этот сериал постить не буду, чтобы не баянить - подписывайтесь на канал и следите за обновами. С нынешней скоростью все три сезона сделаю быстро, по нескольку серий в сутки. Вторую прямо сейчас выкладываю.

Есть английская и русская версии (французская никому не интересна):

Можно и 4К, но это дольше, а особо смысла не вижу, времени в 3-4 раза больше занимает.

"Мыши-Рокеры с Марса" (1993) весь первый сезон в FullHD!

С пятницей, Реактор!

Закончил основательную переработку мышей и выложил на канале весь первый сезон (13 серий) - будет, что посмотреть на выходных под пивас, а может, и детям показать :)

Плейлист: 

Гугл-папка: https://drive.google.com/drive/folders/1lW9mQSs_23o_rhXiFlf1u03Aj0bBVSrv?usp=sharing

Постер:

Я тут пришел к выводу, что...

Оптимальное время ДЛЯ ДРОЧКИ = 40 минут :)

кто не согласен? - то не дрочи!

Мыши-Рокеры с Марса сезон 2, серии 16-39 в FullHD

Вот еще 24 серии "Мышей-Рокеров с Марса", полностью второй сезон! Пока я был на учениях, комп тяжело работал, так что сейчас я только провожу окончательную фильтрацию, сведение, загрузку и публикацию на YouTube

Еще одна хорошая новость - 3-й сезон уже тоже готов, осталось свести и загрузить.

Вот серия 16 второго сезона "Я - Чумазоид", дальше по плейлисту:

А еще я нашел пару мультсериалов, которыми займусь уже сегодня. Уверен, будет приятный сюрприз ;)