de.wedoany.com-Bericht: Trust3 AI hat angekündigt, seine Unified Trust Layer (einheitliche Vertrauensschicht) auf die NVIDIA NeMo-Plattform auszuweiten, eine End-to-End-Plattform für die Entwicklung benutzerdefinierter generativer KI-Modelle und -Agenten. Als Mitglied des NVIDIA Inception-Programms treibt Trust3 AI diese Integration voran, mit dem Ziel, Unternehmen die Verwaltung von auf NeMo laufenden Agenten und Anwendungen zu ermöglichen, ohne zusätzliche unabhängige Kontrollsysteme aufbauen zu müssen.
Wenn Organisationen von Pilotprojekten zur Produktionsphase übergehen, sind die größten Hindernisse nicht mehr die Modellfähigkeiten, sondern Governance-Fragen. Betriebsteams haben Schwierigkeiten, grundlegende Fragen zur Agentensteuerung zu beantworten: Welche Agenten laufen, auf welche Daten und Tools haben sie Zugriff, welche Aktionen werden tatsächlich ausgeführt, und können diese Informationen auditiv verifiziert werden? Die geplante NeMo-Integration von Trust3 AI zielt darauf ab, auf Handlungsebene einen Governance-Kreislauf zu schließen.
Nach Abschluss der Integration werden Teams, die auf NeMo aufbauen, folgende Funktionen erhalten: Agentenerkennung und -inventarisierung, die auch nicht registrierte Agenten in NeMo-Bereitstellungen abdeckt; zweckgebundene Zugriffskontrolle, die Agentenzugriffsrechte an ihren erklärten Zweck statt an statische Rollen bindet, mit automatischem Ablauf der Berechtigungen; Richtliniendurchsetzung zum Zeitpunkt der Ausführung, bei der jede Anfrage vor dem Auslösen von Tools oder dem Verschieben von Daten die Agentenidentität, den erklärten Zweck und die Datenherkunftsinformationen mitführt; vollständige beobachtbare Erfassung von Prompts, Abfragen, Tool-Aufrufen und Datenzugriffen, die eine Wiedergabe und Überprüfung des Agentenverhaltens ermöglicht; sowie die Erstellung einer Audit-Beweiskette, die auf Standards wie das EU-KI-Gesetz und das NIST AI Risk Management Framework abgebildet werden kann.
Diese Methode ergänzt die eigenen Kontrollmechanismen von NeMo (einschließlich NeMo Guardrails) durch eine überlagerte, anbieterneutrale Vertrauensschicht. Diese Vertrauensschicht sitzt unterhalb der Agenten, nicht parallel zu ihnen.
Neeraj Sabharwal, Mitbegründer von Trust3 AI, erklärte, dass das Haupthindernis für Unternehmen beim Übergang von Experimenten zur Produktion auf NVIDIA NeMo Sicherheit und Governance sei. Die Integration platziere die Vertrauensschicht unterhalb der auf NeMo basierenden Agenten, sodass Sicherheits- und Compliance-Teams jeden Agenten beobachten, jede Aktion schützen und verwalten können, während die KI-Bereitstellungsteams nicht beeinträchtigt werden. Trust3 AI, gegründet von Kernentwicklern von Apache Ranger und Apache Atlas, zielt mit seiner Single-Control-Plane-Architektur und der Unified Trust Layer darauf ab, Agenten über jedes Framework, jede Cloud und jede Datenquelle hinweg zu verwalten.
