AMD hat sein kostenloses Tool Lemonade auf Version 10.7 aktualisiert, ein Programm, das entwickelt wurde, um künstliche Intelligenz lokal auf dem Computer auszuführen. Die wichtigste Neuerung ist, dass es jetzt auch mit NVIDIA-Grafikkarten kompatibel ist und damit die bereits bestehende Unterstützung für AMD- und Apple-GPUs ergänzt. Dies erweitert den Zugang zu KI, ohne auf externe Server angewiesen zu sein.
Erweiterter Support und Leistung auf verschiedener Hardware 🚀
Lemonade 10.7 nutzt das LM Studio-Framework, um Sprachmodelle lokal zu laden. Mit diesem Update können Benutzer mit NVIDIA-GPUs die Beschleunigung durch CUDA nutzen, während AMD-Grafikkarten ROCm und Apple-GPUs ihre neuronalen Motoren verwenden. Das Programm ermöglicht die Anpassung von Parametern wie der Anzahl der in den VRAM zu ladenden Schichten, wobei je nach verfügbarer Hardware entweder Geschwindigkeit oder Kapazität priorisiert wird. Die Installation bleibt einfach, mit direktem Download von der AMD-Website.
NVIDIA, der Gast, den AMD schon immer auf seiner Party haben wollte 😅
Es ist kurios zu sehen, wie AMD die Tür seines Tools für die direkte Konkurrenz öffnet. Es ist, als würde man den lauten Nachbarn einladen, den eigenen Pool zu benutzen, weil der eigene leerer ist. Jetzt können Benutzer mit RTX-Karten lokale Modelle ausführen, ohne neidisch auf die Lösungen der Roten schielen zu müssen. Zumindest bis AMD sich entscheidet, eine GPU auf den Markt zu bringen, die wirklich im KI-Bereich mithalten kann, klar. Bis dahin sind alle zufrieden.