Project R-16113

Trainingsvrije en model-agnostische aanpakken voor generaliseerbare en verklaarbare detectie van AI-gegenereerde video's. (Onderzoek)

Generatieve AI, dat oorspronkelijk werd gebruikt voor het genereren van tekst en afbeeldingen, kan nu overtuigende video's maken. Deze technologie vormt een bedreiging op zowel maatschappelijk als individueel niveau, zoals verkiezingsmanipulatie en het imiteren van personen. Huidig onderzoek naar de detectie van AI-gegenereerde video’s richt zich voornamelijk op video's van gezichten (deepfakes). Voor meer algemene AI-gegenereerde video’s worden uitsluitend data-gedreven methoden gebruikt, waarbij neurale netwerken getraind worden op grote hoeveelheden data. Deze methoden generaliseren echter slecht, omdat ze vooral artefacten leren herkennen die specifiek zijn voor het generatiemodel dat gebruikt is voor de trainingsdata. In mijn PhD streef ik ernaar trainingsvrije en model-agnostische technieken te ontwikkelen, zoals al is onderzocht voor AI-gegenereerde afbeeldingen, om AI-gegenereerde video’s te onderscheiden van echte video's. Ik zal ook de artefacten analyseren die door huidige generatieve video modellen worden geproduceerd. Ten slotte zal ik me richten op de verklaarbaarheid van mijn detector door te onderzoeken wat de beste manieren zijn om de beslissingen aan gebruikers over te brengen. De resultaten van dit onderzoek kunnen waardevol zijn voor factcheckers binnen traditionele en sociale media, politiediensten (digital forensics), nationale veiligheidsdiensten en beleidsmakers op verschillende niveaus.

01 november 2025 - 31 oktober 2029