de.wedoany.com-Bericht: Bryan Silverthorn, Leiter des AGI Autonomy research lab bei Amazon, erklärte kürzlich, dass sich die Bewertung der Zuverlässigkeit von KI-Agenten von statischen Leistungskennzahlen hin zu Konsistenz, Robustheit, Vorhersagbarkeit und Sicherheit verlagert. Silverthorn wies darauf hin, dass die branchenüblichen EVAL-Bewertungen nur eine statische Momentaufnahme der Leistung liefern und die Vorhersagbarkeit von KI-Systemen in verschiedenen Szenarien nur unzureichend abbilden können. Dies stelle eine große Herausforderung für Unternehmen dar, wenn sie KI-Agenten Systemzugriff gewähren.
Silverthorn äußerte sich in einem Interview vor der VB Transform 2026, die vom 14. bis 15. Juli in Menlo Park stattfindet. Er verriet, dass die Strategie von Amazon nicht davon ausgeht, dass die Modelle selbst sicher und zuverlässig sind, sondern vielmehr auf eine entkoppelte Systemarchitektur setzt. Konkret bedeutet dies die Einführung einer Sandbox-Umgebung, in der KI-Agenten innerhalb kontrollierter Grenzen Änderungsvorschläge unterbreiten, die dann von Menschen geprüft werden, bevor sie umgesetzt werden. Diese Methode zielt darauf ab, die Vertrauenslücke in Unternehmensanwendungen zu schließen, indem sie priorisiert überprüfbare Interaktionen gewährleistet, insbesondere in risikoreichen und sensiblen Bereichen wie dem Finanzwesen.
Die Q2 Pulse Research-Umfrage von VentureBeat zeigt, dass von über 100 leitenden Technologieführern und Käufern nur 4 % bereit sind, sich bei der KI-Sicherheit ausschließlich auf Modellschutzmaßnahmen zu verlassen. Bei den größten Bedenken der Befragten gaben 40 % an, dass sie unbefugten Zugriff auf Tools oder Daten fürchten, während 27 % das Risiko von Prompt-Manipulation oder -Injektionen nannten. Silverthorn plant, auf der VB Transform 2026 die Details zum Aufbau vertrauenswürdiger Agentic AI bei Amazon zu teilen und vorzustellen, wie man von der Kapselung einzelner Agenten zu einer Multi-Tool-Architektur übergeht, die während der Ausführung selbstkorrigierend ist.
Auf der Konferenz sind auch weitere Vorträge zum Thema Agentic-Betrieb und -Bewertung geplant, beispielsweise wird Manasi Joshi, Direktorin für Systemintelligenz und maschinelles Lernen bei Waymo, über die Erfahrungen des Unternehmens beim Aufbau sicherer und effizienter KI in der physischen Welt berichten.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
