Amazon und das KI-Startup Hugging Face nutzen gemeinsam Amazon-Chips

Die Cloud-Einheit von Amazon.com AMZN gab am Mittwoch bekannt, dass sie eine Partnerschaft mit dem Startup-Unternehmen für künstliche Intelligenz Hugging Face eingegangen ist, um die Ausführung von Tausenden von KI-Modellen auf Amazons maßgeschneiderten Computerchips zu erleichtern.

Das mit 4,5 Milliarden Dollar bewertete Unternehmen Hugging Face hat sich zu einem zentralen Knotenpunkt für KI-Forscher und -Entwickler entwickelt, um Chatbots und andere KI-Software auszutauschen, und wird unter anderem von (link) Amazon, Alphabets Google GOOG und Nvidia NVDA unterstützt. Es ist die Hauptanlaufstelle für Entwickler, um Open-Source-KI-Modelle wie Meta Platforms META Llama 3 (link) zu erhalten und daran zu basteln.

Sobald Entwickler jedoch ein quelloffenes KI-Modell optimiert haben, wollen sie das Modell in der Regel für eine Software verwenden. Am Mittwoch gaben Amazon und Hugging Face bekannt, dass sie sich zusammengetan haben, um dies auf einem speziellen Amazon Web Services (AWS) Chip namens Inferentia2 zu ermöglichen.

"Eine Sache, die für uns sehr wichtig ist, ist die Effizienz - sicherzustellen, dass so viele Menschen wie möglich Modelle ausführen können und dass sie sie auf die kosteneffektivste Weise ausführen können", sagte Jeff Boudier, Leiter der Produkt- und Wachstumsabteilung bei Hugging Face.

AWS hofft seinerseits, mehr KI-Entwickler zur Nutzung seiner Cloud-Dienste für die Bereitstellung von KI zu bewegen. Während Nvidia den Markt für das Training von Modellen dominiert, argumentiert AWS, dass seine Chips diese trainierten Modelle - ein Prozess, der Inferenz genannt wird - im Laufe der Zeit zu geringeren Kosten betreiben können.

"Sie trainieren diese Modelle vielleicht einmal im Monat. Aber Sie führen möglicherweise zehntausende Male pro Stunde Inferenzen gegen sie durch. Das ist der Punkt, an dem Inferentia2 wirklich glänzt", sagt Matt Wood, der bei AWS für die Produkte der künstlichen Intelligenz zuständig ist.