Компания AMD обновила свой бесплатный инструмент Lemonade до версии 10.7 — программы, предназначенной для запуска искусственного интеллекта локально на компьютере. Главная новинка заключается в том, что теперь она также совместима с видеокартами NVIDIA, дополняя уже существующую поддержку GPU AMD и Apple. Это расширяет доступ к ИИ без зависимости от внешних серверов.
Расширенная поддержка и производительность на различном оборудовании 🚀
Lemonade 10.7 использует фреймворк LM Studio для локальной загрузки языковых моделей. С этим обновлением пользователи с GPU NVIDIA могут воспользоваться ускорением через CUDA, в то время как графические карты AMD используют ROCm, а Apple — свой нейронный двигатель. Программа позволяет настраивать такие параметры, как количество слоёв, загружаемых в VRAM, отдавая приоритет скорости или объёму в зависимости от доступного оборудования. Установка по-прежнему проста и осуществляется прямым скачиванием с веб-сайта AMD.
NVIDIA — гостья, которую AMD всегда хотела видеть на своей вечеринке 😅
Любопытно видеть, как AMD открывает дверь своего инструмента для прямого конкурента. Это всё равно что пригласить шумного соседа попользоваться твоим бассейном, потому что твой собственный пустеет. Теперь пользователи с RTX могут запускать локальные модели, не завидуя решениям «красных». По крайней мере, до тех пор, пока AMD не решит выпустить GPU, который действительно сможет конкурировать в сфере ИИ, конечно. А пока все довольны.