de.wedoany.com-Bericht: Die UN-Digitaltechnologiebehörde startet eine neue Initiative zur Stärkung des Vertrauens in KI-Agenten. Angesichts der zunehmenden Autonomie von KI-Systemen und der damit verbundenen Fragen der Rechenschaftspflicht und menschlichen Aufsicht zielt die Initiative darauf ab, diese Herausforderungen zu bewältigen.

KI-Agenten sind eine neue Generation künstlicher Intelligenz, die im Auftrag von Nutzern eigenständig Aufgaben wie Terminplanung, Beschaffung und komplexe Geschäftsprozesse ausführen können. Die Internationale Fernmeldeunion (ITU) weist darauf hin, dass diese Agenten zwar die Produktivität steigern, aber auch das Risiko bergen, Menschen zu imitieren und unbefugte Entscheidungen zu treffen.

Um diesen Risiken zu begegnen, kündigte die ITU auf dem Gipfel „KI zum Wohle der Menschheit“ (AI for Good Summit) in Genf die Einrichtung einer Fokusgruppe an. Diese Gruppe soll Rahmenbedingungen entwickeln, die sicherstellen, dass KI-Agenten identifizierbar, vertrauenswürdig und einer sinnvollen menschlichen Kontrolle unterworfen sind – insbesondere in sensiblen Bereichen wie Finanztransaktionen und kritischer Infrastruktur.

Die Ko-Vorsitzende der Fokusgruppe, Debora Comparin, erklärte, dass KI-Agenten bald in Verhandlungen, Transaktionen und Entscheidungen im Namen von Menschen eintreten werden. Daher sei eine gemeinsame internationale Grundlage erforderlich, um die Identität der Agenten sowie die Bedingungen und den Zeitpunkt ihres Vertrauens zu bestimmen. Die Gruppe setzt sich aus Technologie-, Politik- und Rechtsexperten zusammen. Ihr erstes Treffen findet im November in Paris statt, das zweite im Januar in Genf.