CISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung

Was passiert, wenn KI-Modelle zunehmend auf Inhalten trainieren, die selbst von KI erzeugt wurden?
Forschende befürchten, dass die Modelle dadurch langfristig an Qualität verlieren könnten. Dieses Phänomen wird auch als „Model Collapse“ bezeichnet. In dieser Folge von CISPA TL;DR spricht CISPA-Forscher Louis Kerner mit uns über BitMark: ein neu entwickeltes Wasserzeichen für KI-generierte Bilder, das selbst dann noch nachweisbar sein kann, wenn andere KI-Modelle später auf diesen Bildern trainiert wurden.

Warum die Forschenden dabei von „radioaktiven“ Wasserzeichen sprechen, wie BitMark funktioniert und weshalb solche Ansätze für die Zukunft generativer KI relevant sein könnten, erfahrt ihr in dieser Folge.

Social media connects us – but who is really in control? Algorithms decide what we see, platforms decide how we interact, and users often have less control than they'd like to. But it doesn’t have to be that way.
In this episode, CISPA researcher Jane Im talks about how we could redesign social media platforms to give users more agency, create healthier online communities, and rethink how social media should be funded in the future.

Von einem spezialisierten Techthema haben sich Drohnen zu einer wichtigen Zukunftstechnologie entwickelt, die zahlreiche Standards erfüllen muss, darunter auch vielfältige Sicherheitsfunktionen. Für einen sicheren Drohnenflug müssen alle Systeme zuverlässig funktionieren. Deshalb werden die Komponenten nicht nur während des Flugs überwacht, sondern bereits in der Entwicklungsphase – lange bevor eine Zertifizierung erfolgt. Der CISPA-Forscher Jan Baumeister erklärt im Podcast, welche Drohnentypen es gibt, wie und warum sie zertifiziert werden und wie das von ihm mitentwickelte Tool RTLola beim Monitoring von Drohnenflügen unterstützt. Außerdem gibt er Einblicke in seine Zeit als PhD am CISPA.

From job applications to loan approvals, AI systems are increasingly being explored and deployed in decisions that shape people’s lives. But what happens when these systems learn from biased data? Can they ever be truly fair?
In this episode, CISPA researcher Tẹjúmádé Àfọ̀njá unpacks why more accurate predictions in a model don’t automatically mean fairer outcomes, why representation in AI and machine learning matters, and why it’s not only important how AI systems are built – but also by whom.

Read Tẹjúmádé's full papers here:

Paper on loan approvals: https://aclanthology.org/anthology-files/pdf/findings/2025.findings-emnlp.947.pdf
Paper on World Wide Dishes: https://dl.acm.org/doi/full/10.1145/3715275.3732019

More about her and her research: https://tejuafonja.com

Smartphone, Laptop, Cloud – sie alle sollen sicherer sein, weil bestimmte Angriffstricks inzwischen blockiert sind. Klingt beruhigend, oder? Dumm nur, wenn Prozessoren trotzdem Angreifer:innen mehr verraten, als sie eigentlich dürften. In dieser Folge von CISPA TL;DR erklärt CISPA-Forscher Fabian Thomas, wie sich moderne ARM-Prozessoren so manipulieren lassen, dass sie auch sensible Informationen preisgeben. Gemeinsam mit seinem Team hat er gezeigt, dass sich interne Cache-Zustände sichtbar machen lassen – auch ohne die Messwerkzeuge, die Angreifer:innen sonst dafür brauchen. Im Gespräch geht es darum, wie das von Fabian und Kollegen entwickelte Tool ExfilState solche versteckten Lecks automatisch aufspürt, warum Seitenkanalattacken so schwer zu verhindern sind und worauf Nutzer:innen achten können. Das Gespräch wurde auf Deutsch geführt.