IU Incubator

DECEPT-AI

DECEPT-AI untersucht, wie generative künstliche Intelligenz betrügerische Kommunikation verändert. Deepfakes, Voice Cloning und KI-generierte Texte eröffnen neue Möglichkeiten, Vertrauen gezielt zu manipulieren und Menschen zu täuschen. Während technische Aspekte solcher Angriffe inzwischen intensiv erforscht werden, ist bislang kaum bekannt, wie sich die innere Struktur betrügerischer Kommunikation durch KI verändert und welche neuen Formen der Vertrauensherstellung daraus entstehen.

Das Projekt knüpft an ein von der Deutschen Forschungsgemeinschaft (DFG) gefördertes Forschungsprogramm zur Soziologie betrügerischer Täuschung an und überträgt dessen theoretisches Modell erstmals auf KI-gestützte Betrugsinteraktionen. Im Mittelpunkt steht die Frage, welche Elemente klassischer Betrugsmaschen durch KI automatisiert oder verändert werden können und welche Formen sozialer Interaktion weiterhin unverzichtbar bleiben.

Methodisch kombiniert DECEPT-AI die Analyse dokumentierter KI-gestützter Betrugsfälle mit der Re-Analyse einer umfangreichen qualitativen Forschungsdatenbasis aus einem früheren DFG-Projekt sowie Interviews mit Ermittlern, Betroffenen und – explorativ – Studierenden. Ziel ist die Entwicklung eines erweiterten Modells KI-gestützter Täuschungsinteraktionen als Grundlage für zukünftige Forschung sowie für Prävention und Wissenstransfer.

Die Ergebnisse sollen dazu beitragen, neue KI-basierte Betrugsformen besser zu verstehen, Präventionsstrategien weiterzuentwickeln und ein größeres anwendungsorientiertes Drittmittelprojekt im Themenfeld „KI und Gesellschaft“ vorzubereiten.

Das Projekt geht insbesondere folgenden Fragen nach: