Auf IBMs jährlicher TechXchange-Veranstaltung kündigte das Unternehmen die bislang fortschrittlichste Version seines KI-Modells an: Granite 3.0. Die Granite-Flaggschiff-Sprachmodelle der dritten Generation von IBM übertreffen oder erreichen bei mehreren akademischen und industriellen Benchmarks die Leistung ähnlich großer Modelle führender Modellanbieter und überzeugen durch robuste Leistung, Transparenz und Sicherheit.

Im Einklang mit dem Engagement des Unternehmens für Open-Source-KI werden Granite-Modelle unter der freizügigen Apache 2.0-Lizenz veröffentlicht, was sie aufgrund der Kombination aus Leistung, Flexibilität und Autonomie, die sie Unternehmenskunden und der Community insgesamt bieten, einzigartig macht.

Die neuen Sprachmodelle Granite 3.0 8B und 2B sind als „Flaggschiff“-Modelle für Unternehmens-KI konzipiert und bieten eine starke Leistung für Aufgaben wie Retrieval Augmented Generation (RAG), Klassifizierung, Zusammenfassung, Entitätsextraktion und Tool-Nutzung. Diese kompakten, flexiblen Modelle sind für die individuelle Anpassung an Geschäftsdaten und die nahtlose Integration in zahlreiche Geschäftsumgebungen und Arbeitsabläufe konzipiert.

Während viele große Sprachmodelle (LLMs) mit öffentlich verfügbaren Daten trainiert werden, bleibt der Großteil der Unternehmensdaten ungenutzt. Durch die Kombination eines kleinen Granite-Modells mit Unternehmensdaten, insbesondere unter Verwendung der revolutionären InstructLab-Ausrichtungstechnik – die im Mai von IBM und RedHat eingeführt wurde – ist IBM davon überzeugt, dass Unternehmen eine aufgabenspezifische Leistung erzielen können, die mit größeren Modellen vergleichbar ist, und zwar zu einem Bruchteil der Kosten (basierend auf 3- bis 23-mal niedrigeren Kosten als bei großen Frontier-Modellen in einigen frühen Proofs of Concept).

Die Veröffentlichung von Granite 3.0 bekräftigt IBMs Engagement für Transparenz, Sicherheit und Vertrauen in KI-Produkte. Der technische Bericht und das Handbuch für verantwortliche Benutzer zu Granite 3.0 enthalten eine Beschreibung der Datensätze, die zum Trainieren dieser Modelle verwendet wurden, Einzelheiten zu den angewandten Filter-, Bereinigungs- und Kuratierungsschritten sowie umfassende Ergebnisse zur Modellleistung anhand wichtiger akademischer und Unternehmens-Benchmarks.

Die „Granite 3.0“-Modelle sind Open Source, ähnlich wie andere Versionen der Granite AI-Familie von IBM. Dieser Ansatz unterscheidet sich von Wettbewerbern wie Microsoft, die ihren Kunden Gebühren für den Zugriff auf Modelle berechnen. Im Gegenzug bietet IBM ein kostenpflichtiges Tool namens Watsonx an, das dabei hilft, Modelle nach der Anpassung in Rechenzentren auszuführen.

Mehrere Varianten der neuen Granite-Modelle sind ab heute für die kommerzielle Nutzung auf der Watsonx-Plattform verfügbar. Einige dieser Modelle werden auch im Software-Toolkit von Nvidia verfügbar sein, sodass Unternehmen KI-Modelle integrieren können.

Die neuen Granite-Modelle wurden mit H100-Grafikprozessoren (GPUs) von Nvidia trainiert, einem führenden Hersteller von KI-Chips, sagte Dario Gil, Forschungsleiter bei IBM.

(Laut IBM, Reuters)