de.wedoany.com-Bericht: Das saudi-arabische KI-Infrastruktur-Unternehmen Think erweitert seine Fertigungs- und Bereitstellungskapazitäten für hochdichte, flüssigkeitsgekühlte Multi-GPU-Computing-Knoten und entwickelt die Bare-Metal-Orchestrierungssoftware ILM weiter. Das Unternehmen plant, die Produktion zu beschleunigen, das Team zu vergrößern und die internationale Markteinführung voranzutreiben. Nach der Umsetzung weiterer Projekte in Saudi-Arabien soll das Geschäft auf andere Märkte des Golf-Kooperationsrates ausgeweitet werden.
Die Infrastrukturlösung von Saudi Think besteht aus der AI-Node-Computing-Hardware und der ILM-Software-Orchestrierungsschicht. Der AI Node integriert mehrere GPUs in einem hochdichten Computing-Knoten und verwendet ein Flüssigkeitskühlsystem zur Steuerung der Betriebstemperatur der Geräte, sodass diese auf engem Raum kontinuierlich Modelltraining und Inferenzaufgaben übernehmen können. Die gesamte Plattform kann in Rechenzentren, Büros, Laboren und Edge-Computing-Umgebungen eingesetzt werden, nicht nur in großen zentralisierten Serverräumen.
ILM verwaltet Server, GPUs und KI-Aufgaben zentral. Nach der Bereitstellung eines Modells durch das Unternehmen kann die Plattform Rechenressourcen basierend auf den Aufgabenanforderungen zuweisen, wodurch Wartezeiten, Leerlauf und doppelte Konfiguration von GPUs reduziert werden. Die von Saudi Think veröffentlichten Testergebnisse aus der Produktionsumgebung zeigen, dass die Plattform eine GPU-Auslastung von über 90 % aufrechterhalten kann, was über dem branchenüblichen Niveau von 30 % bis 50 % liegt. Eine höhere Auslastung bedeutet, dass dieselbe Rechenhardware mehr Trainings- und Inferenzaufgaben bewältigen kann, wodurch der Bedarf an zusätzlichen Servern reduziert wird.
Diese Plattform kann mit handelsüblichen Allzweck-GPUs betrieben werden, ohne an proprietäre Inferenzhardware gebunden zu sein. Saudi Think plant zudem, GPUs verschiedener Anbieter und spezialisierte Inferenzchips gemeinsam anzubinden, sodass Unternehmen ihre Computing-Cluster je nach Modelltyp, Rechenleistung und vorhandener Hardware konfigurieren können, ohne dass die gesamte Infrastruktur von einem einzigen Hardwaresystem abhängt.
Saudi Think treibt in Saudi-Arabien mehrere Proof-of-Concept-Projekte, Produktionsbereitstellungen und technische Kooperationen voran und beteiligt sich an lokalen KI-Infrastrukturinitiativen. Die Projekte konzentrieren sich auf die Validierung von flüssigkeitsgekühlten Computing-Knoten, Bare-Metal-Ressourcenplanung und souveräner KI-Bereitstellung, sodass Modelle, Daten und Rechenressourcen in der lokalen Infrastruktur betrieben werden können, wodurch die Abhängigkeit von externen Cloud-Plattformen verringert wird.
Die nächsten physischen Fortschritte konzentrieren sich auf die skalierte Fertigung von AI Nodes, die Montage von Flüssigkeitskühlsystemen, die Auslieferung von Computing-Clustern und die eigenständige Entwicklung der ILM-Plattform. Das Unternehmen plant, die Bereitstellung im Golf-Kooperationsrat innerhalb der nächsten 18 Monate auszuweiten und ILM schrittweise zu einer Softwareplattform zu entwickeln, die unabhängig an verschiedene Rechenzentren und Computing-Cluster angebunden werden kann.
