Eine internationale Studie unter Beteiligung des CISPA-Forschers Tẹjúmádé Àfọ̀njá nutzt Essen als Ausgangspunkt, um kulturelle blinde Flecken in Systemen der Künstlichen Intelligenz aufzudecken. Die Forschung stellt einen partizipativen Ansatz vor, um inklusivere Datensätze zu erstellen und Verzerrungen in KI-Modellen zu bewerten. Die Publikation „Global Solution: A Community-Centered, Fine-Grained Framework for Data Collection and Operationalizing Regional Bias“ wurde auf der ACM Conference on Fairness, Accountability and Transparency (FAccT '25) im Juni 2025 in Athen vorgestellt und erhielt eine lobende Erwähnung als beste Publikation.
„Essen ist ein wichtiger Zugang zum Verständnis von Kultur“, sagte Tẹjúmádé Àfọ̀njá. „Wir wollten untersuchen, wie generative KI die Esskultur von Menschen in Bildern darstellen kann.“ Hinter der Forschung steht die Untersuchung kultureller Verzerrungen in KI-Modellen. Das Team stellte fest, dass viele Modelle voreingenommen sind, und Essen als universelle Sprache bietet eine gute Perspektive, um dieses Problem zu untersuchen.
Für konkrete Forschungszwecke entwickelte das Team einen neuen Referenzdatensatz und testete bestehende Modelle. Ihr „World Food“-Datensatz (WWD) umfasst 765 Gerichte aus 106 Ländern, beschrieben in 131 lokalen Sprachen. Jeder Eintrag wurde direkt von Community-Mitgliedern beigesteuert. Im Vergleich zu bestehenden Datensätzen ist über die Hälfte der Gerichte im WWD-Datensatz bisher unbekannt, was ihnen einzigartige Merkmale verleiht. Der Datensatz und der Code werden unter einer Open-Source-Lizenz veröffentlicht.
In einer vergleichenden Analyse stellten Tẹjúmádé Àfọ̀njá und Kollegen fest, dass viele Modellausgaben zu stereotyp waren. Beispielsweise war das generierte Bild des nigerianischen Gerichts Amala unbefriedigend, während das generierte Bild eines amerikanischen Hotdogs realistischer war. Dieses Problem trat in allen getesteten Modellen auf, da sie mit Webdaten trainiert wurden und Regionen, die noch nicht repräsentiert waren, ignorierten.
Tẹjúmádé Àfọ̀njá und ihre Kollegen sind der Ansicht, dass Unternehmen, die Modelle entwickeln, verstärkt in das Training von Long-Tail-Daten und die Datenerhebung investieren müssen. Sie erklärte: „Um ein Modell zu entwickeln, das die globale Kultur wirklich abbildet, müssen alle Regionen Priorität haben.“ Gleichzeitig muss die Datenerhebung in Zusammenarbeit mit den lokalen Gemeinschaften erfolgen, wobei Fragen der Datenhoheit geklärt werden müssen.
Tẹjúmádé Àfọ̀njá möchte das Projekt „Weltküche“ ausweiten, steht aber vor finanziellen Herausforderungen. Sie erklärte, dass das Projekt derzeit ausschließlich ehrenamtlich getragen wird; mit ausreichender Finanzierung könnten die Mitwirkenden der Gemeinschaften für die Erhebung weiterer lokaler Daten bezahlt werden. Darüber hinaus hat das Team eine Folgepublikation verfasst, die in den Proceedings der ACM Human-Computer Interaction Conference veröffentlicht wurde und den Prozess der Datenerhebung sowie die damit verbundenen Herausforderungen dokumentiert.
Weitere Informationen: Autoren: Jabez Magomere et al., Titel: „Global Approach: A Community-Centered, Fine-Grained Framework for Data Collection and Operationalizing Regional Bias“, veröffentlicht in: ACM Fairness, Accountability, and Transparency Conference Proceedings (2025). Autoren: Siobhan Mackenzie Hall et al., Titel: „The Human Labor of Data Work: Capturing Cultural Diversity Through Dishes Around the World“, veröffentlicht in: ACM Human-Computer Interaction Conference Proceedings (2025). Die Daten sind auf GitHub verfügbar.
