de.wedoany.com-Bericht: Mehrere britische Polizeibehörden wurden angewiesen, die Nutzung von Künstlicher Intelligenz zur Erstellung von Gerichtsaussagen und für andere strafrechtliche Aufgaben einzustellen, da befürchtet wird, dass ungenaue KI-Inhalte den Justizablauf stören könnten.
Alex Murray, Leiter des britischen Polizei-KI-Zentrums (Police.AI), erklärte, er habe bei einigen Polizeieinheiten eingegriffen, die kommerzielle KI-Tools ohne vollständige Compliance-Bewertung eingesetzt hätten. Murray sagte zu den betroffenen Einheiten: „Stellen Sie die Nutzung sofort ein, wir müssen das Tempo drosseln." Er fügte hinzu, dass jede im Strafjustizsystem eingesetzte Technologie Genauigkeitsstandards erfüllen müsse, die über jeden vernünftigen Zweifel erhaben seien.
Diese Aussetzung verdeutlicht die zunehmende Kontroverse um den Einsatz generativer KI im Polizeidienst. Murray, der für die Überwachung des KI-Einsatzes der Polizei in England und Wales zuständig ist, glaubt, dass die Technologie letztlich die Effizienz von Ermittlungen und Beweisverarbeitung beschleunigen könnte, aber vor einer flächendeckenden Einführung müssten zunächst umfassende Sicherheitsmechanismen etabliert werden.
Police.AI wurde in diesem Jahr offiziell gegründet und ist eine der Reforminitiativen der britischen Regierung zur Steigerung der Gesamteffizienz der Polizeiarbeit. Innenministerin Shabana Mahmood erklärte, das Projekt erhalte über drei Jahre hinweg Fördermittel in Höhe von insgesamt 115 Millionen Pfund (etwa 1,046 Milliarden Yuan). Die eingesparte Arbeitszeit entspreche einer Aufstockung der derzeit rund 145.000 aktiven Polizeibeamten in England und Wales um 3.000 zusätzliche Kräfte.
Laut Murray begannen einige Polizeieinheiten, kommerzielle KI-Systeme zu nutzen, um Beamten bei der Umwandlung von Vernehmungsprotokollen in Gerichtsaussagedokumente zu helfen, woraufhin das Polizei-KI-Zentrum eingriff. Murray nannte die betroffenen Einheiten nicht, sagte jedoch, die Polizei sei auch daran erinnert worden, KI vor Abschluss aller Compliance-Prüfungen nicht für andere Polizeiaufgaben einzusetzen. „Wir haben einigen Einheiten klar gesagt: Das geht im Moment nicht, weil der gesamte Prüf- und Kontrollprozess noch nicht abgeschlossen ist", sagte er.
Murray wies insbesondere darauf hin, dass die Erstellung von Beweisoffenlegungslisten besondere Sorgfalt erfordere. Diese Listen sind Aufzeichnungen von Beweismitteln, die vor Gerichtsverhandlungen der Verteidigung vorgelegt werden müssen. Polizeieinheiten, die KI für diese Aufgabe einsetzen, müssten die Trainingsmethode und den praktischen Anwendungsprozess der Technologie erläutern. Murray räumte ein, dass die Polizei bereits negative Erfahrungen mit KI gemacht habe. Im vergangenen Jahr verwendete die Polizei von West Midlands bei der Zusammenstellung von Belegen für ein Verbot Inhalte, die mit dem Microsoft-Assistenten Copilot generiert wurden. Dieses Material, das ein Verbot für Fans eines Fußballvereins beantragen sollte, erfand ein vergangenes Spiel des israelischen Vereins Maccabi Tel Aviv, das die betroffenen Fans ursprünglich gegen Aston Villa sehen wollten. Dieser Vorfall verstärkte die weit verbreiteten Bedenken hinsichtlich des KI-Halluzinationsproblems, bei dem KI-Systeme scheinbar reale, aber tatsächlich falsche Informationen generieren. „Alle Polizeieinheiten haben inzwischen Richtlinien für die Nutzung von Copilot erlassen, die vorschreiben, dass Beamte alle von dem Tool generierten Inhalte überprüfen müssen", sagte Murray.
Trotz der vielen Risiken glaubt Murray, dass gründlich getestete KI-Systeme den mit steigenden Arbeitslasten und zunehmend komplexen Ermittlungen kämpfenden Polizeieinheiten erhebliche Vorteile bringen könnten. Die Analyse von Überwachungsvideos sei ein vielversprechendes Anwendungsgebiet. Derzeit müssten Beamte oft stundenlang Aufnahmen manuell durchsehen, um Verdächtige zu finden. Murray sagte: „Solange die Anweisungen richtig gesetzt sind, kann KI durchaus wie gewünscht suchen, zum Beispiel ‚Finde den Mann mit dem roten Hut‘. In den entscheidenden Stunden oder ein bis zwei Tagen, in denen die Beweise noch wertvoll sind, könnten wir das Ziel lokalisieren, vor Ort festnehmen und blutbefleckte Schuhe sicherstellen." Er erwähnte auch, dass KI in der Lage sei, riesige Mengen elektronischer Beweise zu verarbeiten, ein typisches Szenario bei Ermittlungen zu Kindesmissbrauch. Das Polizei-KI-Zentrum entwickle derzeit ein Tool zur Identifizierung und Klassifizierung von Bildern auf beschlagnahmten Geräten, um die direkte Konfrontation der Beamten mit belastendem Bildmaterial zu reduzieren. „Die Beamten müssen nur stichprobenartig prüfen, nicht jedes einzelne Bild ansehen. Solche Inhalte können psychisch enorm schädigen. Ich glaube, solange die Regulierungsregeln, Nutzungsrichtlinien und Personalschulungen entsprechend ausgestaltet sind, überwiegen die Vorteile der Automatisierung die Nachteile bei weitem", sagte Murray.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
