Indiens TRAI plant die Einführung eines KI-Governance-Systems für Telekommunikationsbetreiber

de.wedoany.com-Bericht: Am 30. Oktober veröffentlichte die indische Telekommunikationsregulierungsbehörde (TRAI) den Entwurf der „Leitlinien für den verantwortungsvollen Einsatz künstlicher Intelligenz in Telekommunikationsnetzen und Telekommunikationsdiensten" zur Konsultation der Branche. Der Entwurf sieht Governance-Anforderungen für Telekommunikationsdiensteanbieter, die künstliche Intelligenz einsetzen, sowie für autorisierte Betreiber von Telekommunikationsnetzen vor, die Risikoklassifizierung von KI-Systemen, interne Genehmigungsverfahren, menschliche Aufsicht, Datenmanagement und die Meldung von Vorfällen umfassen. Die Frist für die Einreichung von Stellungnahmen endet am 27. November 2026.

Gemäß dem Entwurf müssen die betroffenen Stellen eine interne KI-Managementrichtlinie erstellen und diese dem Vorstand oder einem gleichwertigen Governance-Gremium zur Genehmigung vorlegen. Die Richtlinie soll den Anwendungsbereich der KI-Systeme, die Genehmigungsverfahren, die Risikoklassifizierung und die Mechanismen zur Behandlung von Vorfällen festlegen. Die Unternehmen müssen ihre KI-Systeme zudem anhand ihrer Auswirkungen auf den Netzbetrieb, die Finanzen und die Betriebsergebnisse sowie der möglichen Folgen für die Verbraucher in drei Stufen einteilen: hohes Risiko, mittleres Risiko und geringes Risiko. KI-Systeme dürfen ohne Genehmigung durch die benannten Personen nicht in Betrieb genommen werden.

Der Entwurf verlangt von den Unternehmen außerdem die Erstellung eines dynamischen Verzeichnisses aller KI-Systeme, in dem Herkunft, Verwendungszweck und Risikostufe der Systeme erfasst werden, einschließlich der Systeme, die derzeit verwendet werden, der vorübergehend nicht genutzten sowie der bereits außer Betrieb genommenen Systeme. Bei KI-Systemen, die von Dritten beschafft oder ausgelagert werden, müssen die Unternehmen vor der Einführung eine Due-Diligence-Prüfung durchführen, die Vertrauenswürdigkeit des Anbieters, die Zuverlässigkeit des Systems und dessen Grenzen bewerten sowie die Genauigkeit, Robustheit, Erklärbarkeit, Fairness und Anpassungsfähigkeit an Modell-Drift des Systems beurteilen. In den Beschaffungsverträgen sollen die Unternehmen zudem Regelungen zu regulatorischer Compliance, Prüfungen, Vorfallmanagement und Haftungsverteilung festlegen.

Die TRAI beabsichtigt, von den betroffenen Stellen die Einrichtung eines vom Vorstand genehmigten Ausschusses für KI-Governance und -Sicherheit (AGSC) zu verlangen, wobei ein leitender Angestellter die Funktion des Verantwortlichen für KI-Governance und -Sicherheit (AGSO) übernimmt. Der Ausschuss muss die Leistung der KI-Systeme, die Vorfallaufzeichnungen und potenzielle Risiken regelmäßig überprüfen, mindestens einmal pro Geschäftsjahr; bei Bedarf kann er Korrekturmaßnahmen wie die Änderung oder die Außerbetriebnahme der betreffenden KI-Systeme ergreifen.

Die Unternehmen müssen KI-Vorfälle erfassen, untersuchen und analysieren und sie nach Schweregrad in kritische, hohe, mittlere unterhalb der Hochstufe sowie geringe Vorfälle einteilen. Kritische und hohe KI-Vorfälle, einschließlich schwerwiegender Störungen und wiederholt auftretender Systemausfälle, sind der TRAI im vorgeschriebenen Format, auf dem vorgeschriebenen Weg und innerhalb der vorgeschriebenen Frist zu melden. Die Unternehmen müssen außerdem eine Datenbank für KI-Vorfälle und ein Verfahren zur Erfassung von KI-bedingten Schäden bei Verbrauchern einrichten, die entsprechenden Beschwerden der Nutzer bearbeiten und sicherstellen, dass die KI-Systeme während ihres Betriebs angemessen menschlich überwacht werden.

Der Entwurf stellt ausdrücklich klar, dass Telekommunikationsstellen unabhängig davon, ob sie selbst entwickelte, von Dritten beschaffte oder ausgelagerte KI-Systeme verwenden, für die Ergebnisse deren Verwendung verantwortlich sind. Das bedeutet, dass Betreiber die Betriebsverantwortung nicht allein mit der Begründung, das KI-System sei von einem Gerätehersteller, Softwareanbieter oder sonstigen Lieferanten bereitgestellt worden, vollständig auf Dritte abwälzen können. Die interne KI-Richtlinie und deren spätere Änderungen sind zudem innerhalb von sieben Werktagen nach Inkrafttreten bei der TRAI zur Registrierung einzureichen.

Sollten die betreffenden Anforderungen letztlich umgesetzt werden, müssen Telekommunikationsunternehmen beim Einsatz von KI-Systemen in den Bereichen Netzautomatisierung, intelligenter Betrieb, Kundenservice und Sicherheitsmanagement gleichzeitig systematischere Mechanismen für Risikobewertung, Lieferantenmanagement und menschliche Aufsicht einrichten.