Исследовательская группа искусственного интеллекта Apple опубликовала на сервере arXiv статью с описанием проекта Minions. Архитектура объединяет офисные компьютеры на базе процессоров Apple Silicon в виртуальное облако графических ускорителей для инференса нейросетей.
Разработка возникла из-за дефицита корпоративных мощностей. Очереди на выполнение задач ИИ в исследовательских командах Apple нередко превышали 10 часов. Задействовав свободные ресурсы компьютеров сотрудников, инженеры сократили время ожидания до нескольких минут без закупки нового оборудования.
Как устроена архитектура сети
Принцип работы напоминает проекты добровольных вычислений, вроде сборки кластера из старых Mac Mini, но адаптирован под специфику машинного обучения. Комплекс состоит из трех компонентов:
- Minion Server принимает задачи от исследователей, дробит их на подзадачи и сохраняет в базу данных PostgreSQL.
- Minion Executor запускается на клиентских Mac и запрашивает доступные задачи по REST API. Клиент загружает входные данные и веса моделей из хранилища Amazon S3, выполняет инференс на встроенном графическом процессоре и возвращает результат в S3.
- Minion Watchdog каждые пять минут проверяет статус узлов по контрольным сигналам. Если устройство уходит в спящий режим, теряет сеть или выключается пользователем, прерванная подзадача возвращается в очередь.
На рабочих станциях запускается среда Ollama. Модели не делятся между несколькими Mac: каждое устройство полностью загружает модель в объединенную память. Система рассчитана на две категории задач: генерацию текста и расчет векторных эмбеддингов с помощью трансформеров Hugging Face.
Безопасность и планы развития
Инфраструктура масштабируется без прямых затрат, однако исследователи столкнулись с вопросами конфиденциальности. Команды опасались передачи рабочих данных на устройства за пределами своей группы. Аппаратной изоляции памяти уровня Private Cloud Compute в прототипе пока нет, поэтому разделение обеспечивают через изолированные базы данных PostgreSQL и выделенные пулы компьютеров. При этом Apple уже усиливает системный контроль доступа к диску в macOS на фоне развития локальных ИИ-агентов.
В дальнейшем авторы планируют адаптировать платформу для распределенного обучения нейросетей, подключить к вычислениям iPhone и iPad, а также исследовать возможность создания глобального пула устройств.
Что это значит для вас
Minions остается внутренним экспериментальным проектом Apple, и его исходный код в открытый доступ не выложен. Ожидать появления подобной функции в общедоступных обновлениях macOS в ближайшее время не стоит.
Тем не менее публикация доказывает высокую эффективность объединенной памяти Apple Silicon при работе с языковыми моделями. Если у вас или вашей компании есть парк компьютеров Mac, вы можете организовать схожую схему собственными силами: достаточно использовать открытые инструменты вроде Ollama и написать несложный диспетчер очереди задач по REST API для фоновых вычислений во время простоя техники.
