Künstliche Intelligenz neigt bei der Zusammenfassung langer Dokumente dazu, fehlerhafte Informationen zu erzeugen, sogenannte „Halluzinationen“, was die Verarbeitungseffizienz verringert. Um dieser Herausforderung zu begegnen, haben Forscher der New York University einen algorithmischen Framework entwickelt, der auf dem Schwarmverhalten von Vögeln basiert. Er dient als Vorverarbeitungsschritt für große Sprachmodelle (LLMs), um die Zuverlässigkeit von Dokumentenzusammenfassungen zu verbessern.
Die Studie wurde von Professor Anasse Bari und dem Forscher Binxu Huang von der Courant-Instituts für mathematische, rechnerische und datenwissenschaftliche Wissenschaften der New York University durchgeführt. Sie analysierten die Gründe, warum KI-Agenten bei der Zusammenfassung langer Dokumente Fehler machen. Bari erklärte: „Wenn der Eingabetext zu lang, verrauscht oder redundant ist, nimmt die Modellleistung ab, was zum Verlust wichtiger Informationen oder zur Abweichung vom Quellenmaterial führt.“ Daher griffen sie auf das Schwarmverhalten von Vögeln zurück, betrachteten Dokumentensätze als virtuelle Vögel, reduzierten durch Gruppierung und Filterung Redundanzen, behielten Schlüsselpunkte bei und erzeugten so eine prägnantere Eingabe für die Verarbeitung durch LLMs.
Der Framework arbeitet in zwei Phasen: Zuerst werden Sätze bereinigt und bewertet, basierend auf lexikalischen, semantischen und thematischen Merkmalen. Anschließend werden Schwarmverhaltensregeln angewendet, um ähnliche Sätze zu clustern und aus jedem Cluster den Satz mit der höchsten Bewertung auszuwählen, um eine abwechslungsreiche Themenabdeckung in der Zusammenfassung sicherzustellen. Die Forscher testeten das System an über 9.000 Dokumenten. Die Ergebnisse zeigten, dass LLMs, die mit diesem Framework kombiniert wurden, Zusammenfassungen mit höherer faktischer Genauigkeit erzeugen konnten. Bari betonte: „Wir haben einen experimentellen Framework als Vorverarbeitungsschritt entwickelt, nicht als Konkurrenten zu LLMs. Er identifiziert wichtige Sätze und entfernt Rauschen.“ Er wies jedoch auch darauf hin, dass diese Methode das Halluzinationsproblem noch nicht vollständig löst, sondern nur teilweise verbessert.
Veröffentlichungsdetails: Autoren: New York University; Titel: „What flocking birds can teach AI about reducing noise“; veröffentlicht in: „Frontiers in Artificial Intelligence“ (2026).
