Технологии

Apple одобрила TinyGPU — Mac Mini теперь запускает крупные ИИ-модели локально

Susan Hill

Apple официально подписала и сертифицировала драйвер TinyGPU, разработанный Tiny Corp — компанией, основанной программистом и известным хакером Джорджем Хотцем. Впервые с момента перехода на Apple Silicon пользователи Mac могут подключить внешнюю видеокарту Nvidia или AMD и использовать её для задач искусственного интеллекта — не отключая механизмы защиты операционной системы.

С 2020 года, когда Apple перешла на собственные чипы, использование внешних видеокарт на машинах с Apple Silicon было фактически невозможным. Предыдущие попытки требовали отключения System Integrity Protection (SIP) — центрального уровня безопасности macOS, обход которого Apple никогда официально не поддерживала. TinyGPU решает эту проблему иначе: драйвер работает в рамках стандартных механизмов безопасности macOS через систему DriverKit и активируется из системных настроек без каких-либо модификаций.

По данным Tiny Corp, Mac Mini, подключённый к AMD Radeon RX 7900 XTX через Thunderbolt, запускает модель Qwen 2.5 27B со скоростью 18,5 токена в секунду. С внешней RTX 4090 пользовательские бенчмарки фиксируют от 45 до 50 токенов в секунду для моделей Llama в квантизации Q4 — уровень производительности, который до недавнего времени требовал специализированного железа по значительно более высокой цене.

Что умеет драйвер — и чего не умеет

TinyGPU предназначен исключительно для вычислений, связанных с искусственным интеллектом. Он не ускоряет вывод изображения на монитор, не улучшает производительность в играх и не заменяет встроенный GPU Apple Silicon при работе с видео или графикой. Карты AMD поколения RDNA3 и новее устанавливаются по относительно простой процедуре; карты Nvidia поколения Ampere и новее требуют установки Docker Desktop — шаг, предполагающий знакомство со средами разработки. Пропускная способность Thunderbolt 4 также создаёт физический потолок: та же видеокарта в нативном слоте PCIe показывает заметно более высокие результаты, чем при подключении через внешний кабель.

Mac Pro тихо упразднили — Mac Mini получил апгрейд

Стало известно, что в том же месяце Apple без официального объявления убрала Mac Pro с сайта, не представив преемника. Mac Pro был единственным модульным настольным компьютером Apple — единственным устройством, позволявшим профессиональным пользователям наращивать вычислительную мощность собственными компонентами. Одновременное одобрение TinyGPU выглядит как неявный ответ Apple: тем, кому нужна серьёзная ИИ-производительность на Mac, теперь предлагают не фирменный системный блок, а Mac Mini с подключённым внешним железом.

Как сообщают Tom’s Hardware и TechRadar, это первый сторонний драйвер вычислений для внешних GPU на Apple Silicon, официально одобренный Apple через DriverKit — показательный прецедент для традиционно закрытой экосистемы.

Для тех, кто уже использует Mac Mini в качестве локального сервера ИИ-инференса через инструменты вроде Ollama или llama.cpp, изменение ощутимо немедленно: модели, превышавшие объём unified memory, теперь могут целиком находиться во VRAM внешней видеокарты — без фрагментации и с заметно возросшей скоростью обработки.

Минимальные требования: macOS 12.1 или новее, порт Thunderbolt 3, Thunderbolt 4 или USB4, совместимая видеокарта в корпусе eGPU с достаточным питанием. TinyGPU доступен через официальную документацию и репозиторий Tiny Corp на GitHub.

Обсуждение

Имеется 0 комментариев.