Разработчик обошёл ограничения игры « Apple », чтобы раскрыть истинный потенциал ИИ в M4

Apple's M4 обладают рядом полезных вычислительной мощности вычислительные возможности, однако компания традиционно строго ограничивала доступ к аппаратному обеспечению. По умолчанию Neural Engine в процессоре M4 предназначен исключительно для инференции. Это означает, что разработчики могут использовать его только для запуска предварительно обученных моделей искусственного интеллекта, а не для обучения новых моделей с нуля.

Однако одному из разработчиков удалось обойти эти строгие программные ограничения, полностью проведя реверс-инжиниринг чипа и раскрыв 15,8 ТФЛОПС скрытой вычислительной мощности для ИИ. Этот прорыв стал возможным благодаря исследователю, известному под ником 0x0SojalSec, который недавно опубликовал код на репозитории на GitHub , в котором подробно описано, как ему удалось раскрыть истинный потенциал M4. Особенно впечатляет то, что это достижение было реализовано полностью вне официальной экосистемы разработки Apple.

Поскольку Apple не предоставляет необходимых уровней доступа для прямого взаимодействия с Neural Engine при выполнении этих сложных задач, разработчику пришлось найти способ работать без использования стандартных инструментов, таких как CoreML, Metal, и даже без привлечения графического процессора. Чтобы добиться этого, они с нуля создали собственный промежуточный язык моделей (Model Intermediate Language). Это специальное программное обеспечение успешно устранило существующий разрыв, обеспечив возможность полной обратной прогонки и обучения трансформеров непосредственно на нейронном движке « Apple ».

Поскольку аппаратная часть по своей конструкции подвержена значительным ограничениям, разработчику также пришлось прибегнуть к некоторым весьма изобретательным обходным решениям для обеспечения стабильности системы. Например, если процесс зависает на этапе интенсивного обучения, пользовательский язык использует специальную команду выполнения, которая, по сути, запускает процесс заново. Это позволяет системе обновить своё текущее состояние и сразу же возобновить процесс машинного обучения, не вызывая сбоя всей программы.

Скорость также сыграла важную роль в обеспечении эффективной работы этой ресурсоемкой задачи. Чтобы обучение проходило максимально плавно, разработчик настроил процесс таким образом, чтобы все данные записывались исключительно в оперативную память системы. Благодаря активному обходу гораздо более медленного NAND-флеш-накопителя вся операция оставалась невероятно быстрой. Для всех, кто использует Mac или iPad , этот интересный обходной путь доказывает, что процессор более чем способен справляться с нагрузками, связанными с обучением ИИ, даже если Apple официально предпочитает не раскрывать эти конкретные возможности.