Ко всем новостям
🌐Hugging Face BlogAI-адаптировано

Релиз llama.cpp и GGML v1.0.0: стабильное API, семантическое версионирование и фундамент для локального ИИ

Инсайт ServerSales • Влияние на рынок

Переход llama.cpp на SemVer 1.0.0 гарантирует стабильность API для разработчиков софта, упрощая внедрение локального ИИ в корпоративные контуры.

Проект llama.cpp перешагнул важный рубеж и выпустил релиз v1.0.0 вместе с тензорным движком GGML v1.0.0. За 3.5 года библиотека превратилась из энтузиастского проекта в промышленный стандарт для запуска языковых моделей на локальном железе, обрастая глубокой экосистемой из сотен зависимых приложений. Главное изменение релиза — переход на строгие правила Semantic Versioning (SemVer). Теперь любые несовместимости в публичном C/C++ API (`libllama` и `libggml`) и ABI будут четко маркироваться мажорными версиями. Для разработчиков бэкендов и интеграторов это гарантирует предсказуемость обновлений и стабильность пайплайнов. Ключевые инженерные изменения в экосистеме: * Стабильные интерфейсы: разделение публичных заголовков `llama.cpp/include/` и `ggml/include/` для изоляции кода. * Масштабирование бэкендов: поддержка динамической загрузки драйверов для выполнения тензорных вычислений на любых чипах — от серверных ускорителей NVIDIA и AMD до мобильных архитектур Qualcomm, Arm и Intel. * Инфраструктура CI: расширение парка self-hosted ранеров при поддержке вендоров железа и интеграция с Hugging Face Jobs/Buckets для автоматического регрессионного тестирования каждой ветки. 💡 Где захостить и как запустить: Рассчитать точный VRAM под кванты этой модели, скорость генерации (токенов/сек) и выбрать подходящий сервер с GPU можно у нас на ServerSales в калькуляторе AI-моделей (/ai) или каталоге GPU (/gpu).

Где захостить и как запустить

Планируете развернуть Llama 3.3?

На ServerSales вы можете рассчитать точные требования к VRAM под разные типы квантования (4-bit Q4 / FP8 / FP16), оценить скорость генерации (токенов/сек) и сразу подобрать проверенный сервер с GPU от ведущих провайдеров.

Первоисточник материала
Новость опубликована в издании Hugging Face Blog.
Вы можете прочитать полную версию статьи и комментарии на сайте источника.
Читать на Hugging Face Blog
Проверенные провайдеры под задачи материала

Надежные облачные платформы и серверы в РФ

Весь каталог
SelectelTier III • 152-ФЗ
★ 4.9

Крупнейший IaaS-провайдер РФ: облачные VPS, Bare Metal серверы и GPU-кластеры для ИИ.

Бонус до 3 000 ₽ на облачную платформу
Перейти в Selectel
Timeweb CloudNVMe • Anti-DDoS
★ 4.8

Скоростные VPS от 299 ₽/мес, почасовая тарификация, готовые образы и GPU RTX 4090 / A100.

Скидка 20% на первый заказ VPS
Перейти в Timeweb Cloud
Рекомендуемые конфигурации по теме
В наличииGPU
Hostkey

Hostkey

Россия★ 4.3

GPU RTX 3090 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 3090 (24 ГБ GDDR6X)

39 ₽/час

24 999 ₽/мес

В наличииGPU
Timeweb Cloud

Timeweb Cloud

Россия★ 4.8

GPU RTX A5000 24GB

CPU

8 ядер

RAM

64 ГБ

Диск

500 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX A5000 (24 ГБ GDDR6X)

36 ₽/час

24 999 ₽/мес

В наличииGPU
Hostkey

Hostkey

Россия★ 4.3

GPU RTX 4090 24GB

CPU

16 ядер

RAM

128 ГБ

Диск

1000 ГБ NVMe

Канал

1 Гбит/с

GPU

NVIDIA RTX 4090 (24 ГБ GDDR6X)

47 ₽/час

32 999 ₽/мес

Каталог серверов ServerSales

Ищете точную конфигурацию под ваш бюджет?

Используйте наш интерактивный мастер подбора: рассчитайте точные ресурсы CPU, RAM и диска за 3 шага.

Другие новости индустрии

🇷🇺Хабр / ХостингAI-адаптация

Инфраструктура Beget под ударом 2.1 Тбит/с: как провайдер держит крупнейшую DDoS-атаку

Российский хостинг-провайдер Beget сталкивается с беспрецедентной по масштабу DDoS-атакой, мощность которой достигла 2,1 Тбит/с против прежних 850 Гбит/с. Злоумышленники ведут методичный перебор подсетей и сетевых диапазонов, пытаясь сорвать восстановительные работы после недавнего сбоя. Несмотря на колоссальный объем паразитного трафика, инфраструктура удерживает стабильность, а в сети уже функционируют порядка 215 000 сайтов. Инженеры компании оперативно внедряют защитные контуры и ограничения для минимизации ущерба: * Введен лимит на SSH-соединения с зарубежных IP-адресов — максимум 5 попыток в секунду с одного хоста. * Фиксируются кратковременные обрывы активных SSH/FTP-сессий и проблемы с сетевой связностью при обращении к сторонним ресурсам. * Команда круглосуточно фильтрует вектор атак, призывая клиентов оформлять тикеты с меткой «DDOS» в случае локальных проблем с доступом. ⚙️ Выбор хостинга: Подобрать надежный сервер с фильтром по 152-ФЗ, нужным локациям и Anti-DDoS защите можно через быстрый подбор на ServerSales (/wizard).

💡 Инсайт:Мощнейшие DDoS-атаки уровня выше 2 Тбит/с становятся стресс-тестом для отечественных облаков, заставляя провайдеров жестко лимитировать внешние подключения и пересматривать политики фильтрации.
#Хостинг#Безопасность#Облако
🌐PhoronixAI-адаптация

IBM добавляет нативную поддержку ARM64 гостевых ВМ на мейнфреймах s390 через Linux KVM

IBM продолжает расширять возможности своей серверной экосистемы, реализуя поддержку «двух архитектур» для запуска ARM64-инструкций прямо на железе s390. Это необычное техническое решение опирается на свежие патчи виртуализации Linux KVM, первые порции которых уже приняты в ядро Linux 7.4. На практике это открывает новые горизонты для гибридных корпоративных инсталляций, позволяя консолидировать разнородные рабочие нагрузки на единой аппаратной платформе мейнфреймов без избыточного оверхеда на эмуляцию. Сисадминам и инженерам инфраструктуры стоит следить за стабилизацией этих патчей в дистрибутивах. 🔍 Как выбрать сервер: Сравнить актуальные конфигурации серверов на базе этого оборудования и найти минимальные цены от проверенных провайдеров РФ и Европы можно в каталоге ServerSales (/catalog).

💡 Инсайт:Поддержка ARM64 гостевых ВМ на s390 через KVM позволяет объединять корпоративные нагрузки разных архитектур на одном мейнфрейме.
#Серверы#Облако
Дайджест ServerSalesЧитать на источнике
🌐PhoronixAI-адаптация

AMD готовится к релизу EPYC «Venice» 2027 года: патчи Linux для технологии Root Guest

Компания AMD закладывает фундамент программной поддержки для будущих серверных процессоров семейства EPYC 9006 под кодовым названием «Venice», выход которых ожидается через несколько лет. В публичных рассылках Linux появились упоминания новой архитектурной функции AMD Root Guest (ARG), первые патчи для которой запланированы на первый квартал 2027 года. Основная задача ARG — дальнейшее усиление безопасности и улучшение пользовательского опыта при работе с конфиденциальными вычислениями (Confidential Computing) на базе технологии AMD SEV-SNP (Secure Encrypted Virtualization-Secure Nested Paging). В условиях современных дата-центров, где виртуальные машины часто делят общее «железо» в публичных облаках, аппаратная изоляция и защита памяти от гипервизора становятся критически важными. Ключевые аспекты внедрения AMD Root Guest: * **Глубокая интеграция с SEV-SNP:** развитие механизмов аппаратного шифрования памяти и защиты виртуальных машин на уровне кремния. * **Упреждающая разработка:** появление поддержки в ядре Linux задолго до релиза «железа», что гарантирует стабильность корпоративных дистрибутивов к моменту старта продаж. * **Фокус на Enterprise и Cloud:** востребованность решения в сегменте облачного хостинга и защищенных корпоративных ЦОД, работающих со строгими стандартами безопасности. 🔍 Как выбрать сервер: Сравнить актуальные конфигурации серверного оборудования на базе процессоров AMD EPYC и подобрать оптимальное решение под задачи виртуализации можно в каталоге ServerSales (/catalog).

💡 Инсайт:Подготовка Linux-патчей для AMD EPYC «Venice» за три года до релиза подчеркивает фокус индустрии на аппаратную изоляцию и развитие конфиденциальных вычислений в облаках.
#Серверы#AMD_EPYC#Безопасность#Облако
Дайджест ServerSalesЧитать на источнике