Nachdem Meta seine bisher beste Version von Llama vorgestellt hat, ermöglicht das Unternehmen nun jedem, der dessen Potenzial entdecken möchte, einen Test. Und es gibt eine hervorragende Möglichkeit, dies zu tun: Mit Groq haben Sie kostenlosen Zugang zu Llama 3 und zur leistungsfähigsten Version, die 70 Milliarden Token pro Sekunde verarbeitet. Wir erklären Ihnen alle Schritte.
Der unerbittliche Krieg, den die verschiedenen Unternehmen im Bereich der Künstlichen Intelligenz führen, hört nicht auf, zum Glück für diejenigen unter uns, die es genießen, alles Neue auszuprobieren: OpenAI hat den Markt betreten und völlig durcheinander gebracht; mit einigen Problemen auf dem Weg, wie die Kontroverse über das Training der Modelle mit urheberrechtlich geschütztem Inhalt und die Auswirkungen der KI auf bestimmte Arbeitsarten. Und wir haben Open-Source-LLMs, wobei Llama von Meta das führende Beispiel ist.
Meta erreicht einen Meilenstein mit Llama 3 und jetzt können Sie es testen
Llama ist eines der am häufigsten verwendeten Sprachmodelle in Anwendungen und Geräten, die KI lokal ausführen müssen, nicht umsonst hat Meta das Projekt freigegeben, damit es jeder an seine Bedürfnisse anpassen kann; im Gegensatz zu LLMs wie GPT, Claude oder Gemini, die ihre Dienste über eine private API anbieten. Und Meta entwickelt seine KI ständig weiter, Llama 3 ist wirklich beeindruckend.
Damit wir sofort die Vorteile von Llama 3 und die enorme konversationelle und generative Kraft des neuesten Modells von Meta testen können, hat Groq, eine Entwicklungsplattform, die das Ausführen von Modellen online ermöglicht, die KI zusammengestellt und bietet sie kostenlos über seine Plattform an. Allerdings ist eine Registrierung per E-Mail erforderlich, was bei solchen Tools üblich ist.
Die Seite von Groq (nicht zu verwechseln mit Grok, der KI von Elon Musk, auf die nur über X Premium zugegriffen werden kann), die einfachen Zugang über den mobilen Browser ermöglicht, bietet die Interaktion mit Llama 3 direkt aus dem Textfeld. Ähnlich wie bei einem anderen auf Künstlicher Intelligenz basierenden Chatbot, beantwortet Groq jede Frage, kann mathematische Probleme lösen, Code, Lieder oder kreative Kompositionen erstellen, alles in Sekundenbruchteilen: Meta hat es geschafft, dass Llama 3 wirklich schnell ist. Und es verwaltet eine riesige Menge an Token pro Sekunde, nichts weniger als bis zu 70 Milliarden (70b).
Meta bietet Llama 3 direkt über die Website meta.ai an, aber sie ist außerhalb der Vereinigten Staaten nicht zugänglich (nichts, was nicht mit einem VPN umgangen werden könnte). Deshalb verwenden wir Groq, das keine Zugangsprobleme hat, außer bei hohen Nutzungsspitzen. Der Prozess ist folgender:
- Gehen Sie auf die Seite von Groq und klicken Sie auf die drei oberen Menübalken.
- Wählen Sie “Sign in” und registrieren Sie sich mit Ihrer E-Mail oder Google-Konto.
- Gehen Sie zum oberen Dropdown-Menü und wählen Sie “Llama 3-70b”, um das leistungsfähigste Modell zu testen. Sie können auch das 8b-Modell wählen, das weniger Token pro Sekunde hat. Beide sind kostenlos.
- Und fertig: Sie können jetzt fragen, was Sie möchten.
Wir waren überrascht von der Leistung, Flexibilität und vor allem der enormen Geschwindigkeit von Llama 3: Meta hat es geschafft, dass es Anfragen in Mikrosekunden beantwortet, ohne das übliche Warten auf das Erscheinen der Wörter Wort für Wort, wie es bei ChatGPT Plus mit GPT-4 der Fall ist. Je nach Benutzerauslastung können Sie eine gewisse Wartezeit erleben: das sind die Wartezeiten (“queue”), die gelegentlich bei einer Anfrage auftreten.
Sie können Llama 3 zusammen mit Groq für alle Ihre KI-Anfragen nutzen. Derzeit ist es kostenlos und ohne Einschränkungen verfügbar, obwohl es sehr wahrscheinlich ist, dass sich das in Zukunft ändern wird. Derzeit ist es eine ausgezeichnete Alternative zu dem Besten von OpenAI und Google.
No Responses