KI: Meta verspricht Open-Source-Sprachmodell Llama 3 für den nächsten Monat

KI: Meta verspricht Open-Source-Sprachmodell Llama 3 für den nächsten Monat

Das erneut quelloffene KI-Sprachmodell Llama 3 wird bereits in Kürze veröffentlicht. Meta kündigt verschiedene Versionen mit unterschiedlichen Fähigkeiten an.

Meta Platforms wird die nächste Version seines KI-Sprachmodells Llama schon im Mai zur Verfügung stellen. LLama 3 soll als nächste Generation der LLM (Large Language Models) die Basis für Assistenten Künstlicher Intelligenz bilden und auch mit kontroversen Fragen umgehen können. LLama 3 bekommt dafür deutlich mehr Parameter als das bisherige Llama 2, wird aber ebenfalls als Open-Source-KI wieder frei verfügbar sein.

“Innerhalb des nächsten Monats, eigentlich früher, hoffentlich in sehr kurzer Zeit, hoffen wir, mit der Einführung unserer neuen Suite von Foundation-Modellen der nächsten Generation, Llama 3, beginnen zu können”, sagte Nick Clegg, “President of Global Affairs” bei Meta, während einer Veranstaltung gestern in London.

Llama 3 wird zudem in verschiedenen Formen verfügbar sein, die in den nächsten Monaten vermutlich schrittweise veröffentlicht werden. “Im Laufe dieses Jahres wird es eine Reihe verschiedener Modelle mit unterschiedlichen Fähigkeiten und unterschiedlichen Vielseitigkeiten geben, die sehr bald starten werden”, erklärte Clegg laut Techcrunch. Metas Produktleiter Chris Cox fügte hinzu, dass Llama 3 die Basis verschiedener Meta-Produkte bilden wird.

Llama 3 wird mutiger, mit mehr Parametern

Das KI-Sprachmodell Llama 2 wurde Mitte 2023 veröffentlicht und ist flexibler als der Vorgänger, beantwortet aufgrund hoher Sicherheitsvorkehrungen aber viele Fragen nicht, die teils auch als nicht kontrovers gelten. Deshalb wurde es vielfach als “zu sicher” bezeichnet. Die Herausforderung für Meta besteht darin, Llama 3 so zu verbessern, dass es hilfreichere Antworten auf kontroverse Fragen liefern kann. Diese kontroversen Fragen könnten Themen wie Politik, Religion, ethische Dilemmata und mehr umfassen.

“Unser Ziel ist es, mit der Zeit eine Meta-KI auf Llama-Basis zum nützlichsten Assistenten der Welt zu machen”, sagte Metas KI-Forscherin Joelle Pineau. “Es bleibt noch einiges an Arbeit, um dorthin zu gelangen.” Einzelheiten zum Umfang der Parameter von Llama 3 hat das Unternehmen bislang nicht verraten. Es wird erwartet, dass Llama 3 etwa 140 Milliarden Parameter haben wird, während das größte Llama-2-Modell 70 Milliarden Parameter bietet.

Llama 3 erweitert, aber vorsichtiger als Grok-1

Dies ist allerdings immer noch deutlich weniger als Elon Musks KI-Sprachmodell Grok-1 von xAI, das seit diesem März verfügbar ist. Grok-1 ist mit 314 Milliarden Parametern größer als Metas LLMs und auch GPT-3.5. Gewichte und Architektur des Modells hat xAI unter der Apache 2.0-Lizenz veröffentlicht, sodass auch dieses Sprachmodell frei verfügbar ist. Grok-1 ist nicht auf eine bestimmte Aufgabe spezialisiert und soll entsprechend auch keine Leitplanken oder Grenzen haben.

Meta ist hingegen vorsichtiger beim Umgang mit Künstlicher Intelligenz. Während das Sprachmodell in Kürze erweitert wird – einschließlich thematischer Grenzen, ist Metas generativer Bildgenerator namens Emu weiterhin nicht veröffentlicht, wie Pineau bestätigte. Offenbar will Meta Fehltritte vermeiden, nachdem Google die Gemini-Bildgenerierung von Personen nach Ungenauigkeiten der KI pausieren musste. Allerdings hat Meta mit “Imagine” einen eigenständigen KI-Bildgenerator auf Basis von Emu herausgebracht.