Künstliche Intelligenz mit Radiergummi 

Wie »DeFedOblivio« gezieltes Vergessen für die Industrie ermöglicht 

Gemeinsam KI-Modelle trainieren, ohne sensible Rohdaten miteinander teilen zu müssen – genau das ermöglicht Federated Learning. Doch was passiert, wenn ein Partner das Konsortium verlässt oder fehlerhafte Daten das Modell beeinflussen? Bisher bedeutete das oft: Das gesamte Modell musste ressourcenintensiv neu trainiert werden. Das Kooperationsprojekt »DeFedOblivio« vom Fraunhofer-Institut für Software- und Systemtechnik ISST und Fujitsu Research präsentiert einen neuartigen Ansatz für dezentrales, gezieltes Vergessen (»Federated Unlearning«). Nach dem Auftritt auf der Hannover Messe 2026 zeigt das Framework, wie sich Datensouveränität und KI-Kollaboration in industriellen Ökosystemen künftig besser miteinander verbinden lassen. 

Das Blackbox-Problem im kollaborativen Training 

In modernen Industrieinitiativen wird kollaborative KI zunehmend als Schlüssel für effizientere Prozesse, resilientere Lieferketten und vorausschauende Wartung betrachtet. Über sogenanntes Federated Learning trainieren Unternehmen gemeinsam ein KI-Modell dezentral auf ihren eigenen lokalen Systemen, ohne ihre sensiblen Daten direkt austauschen zu müssen. Doch Daten hinterlassen im »Gehirn« der KI bleibende mathematische Spuren. »Daten sind Teil dieser Blackbox KI. Es handelt sich um keine klassische Datenbank, aber die Beiträge stecken im Modell drin und man kann es auch beweisen«, erklärt Florian Zimmer, wissenschaftlicher Mitarbeiter am Fraunhofer ISST. Bisherige Unlearning-Ansätze versuchen zwar, den Einfluss unerwünschter Daten nachträglich zu reduzieren, indem deren Effekte im Modell überschrieben werden. Eine vollständige Garantie bietet das jedoch nicht. »Man kann den Effekt reduzieren, aber nicht garantieren, dass die Beiträge wirklich restlos aus dem Modell verschwunden sind«, betont Janosch Haber von Fujitsu Research. Durch sogenannte Membership-Inference-Attacken kann unter Umständen nachgewiesen werden, dass bestimmte Datensätze für das Training eines Modells verwendet wurden. Damit entstehen neue Herausforderungen für Datenschutz, Compliance und den Umgang mit sensiblen Unternehmensdaten. 

Das »STRG+Z« Prinzip für den Datenraum

Hier setzt das Framework »DeFedOblivio« (Decentralized Federated Unlearning in Zero-Trust Environments) an. Statt im Nachhinein Schadensbegrenzung zu betreiben, wird das KI-Training von Beginn an anders gestaltet. Das Framework speichert kontinuierlich eine leichtgewichtige Trainingshistorie – die sogenannte »Trajectory«. Sie dokumentiert, wie sich das Modell über seinen Lebenszyklus hinweg durch die Beiträge einzelner Akteure verändert hat. Kommt es zum Ernstfall, etwa weil ein Partner seine Daten zurückfordert, ein Vertrag endet oder fehlerhafte Daten erkannt werden, ermöglicht »DeFedOblivio« einen technischen »Rollback«. Die KI springt im Protokoll exakt zu dem Zustand zurück, bevor der betreffende Partner erstmals Daten beigesteuert hat. Die Beiträge des jeweiligen Akteurs können damit nachweisbar aus dem Modell entfernt werden. Das Framework verfolgt dabei das Ziel, die technische Garantie zu ermöglichen, dass diese Beiträge nicht länger Teil des Modells sind. Das Prinzip ähnelt einem geteilten Word-Dokument: Verschiedene Akteure arbeiten gemeinsam an einem Text. Wer einen Fehler bemerkt und mehrmals »Strg + Z« drückt, kehrt zu einem früheren Bearbeitungsstand zurück. Allerdings hat dieses Vorgehen einen Nachteil: Auch alle legitimen Optimierungen, die die verbleibenden Partner in der Zwischenzeit vorgenommen haben, gehen zunächst verloren. 

Effizienzgewinn durch Recalibration Training 

Um das Modell für die verbleibenden Konsortialpartner wieder auf den aktuellen Stand zu bringen, ohne es vollständig neu aufzubauen, nutzt »DeFedOblivio« einen zusätzlichen Optimierungsschritt: das sogenannte Recalibration Training. »Beim ersten Trainingsdurchgang merken wir uns als eine Art Vektor, mit welcher Norm (Stärke) sich die Modell-Updates bewegt haben. Die Richtung folgt dann aus den Update Parametern«, erläutert Janosch Haber den technischen Ansatz. Führt man das Training anschließend ohne den ausgeschiedenen Partner erneut durch, agiert die KI nicht mehr völlig blind. Sie nutzt Informationen aus dem ersten Trainingsdurchlauf, um neue Modell-Updates besser einzuordnen und effizienter zu verarbeiten. Das Ergebnis ist ein deutlicher Effizienzgewinn: Das Modell erreicht seine Leistungsfähigkeit je nach Datensatz und Konfiguration zwei- bis viermal schneller als bei einem herkömmlichen Neu-Training. Dadurch reduziert sich der erforderliche Rechenaufwand, und die Kosten eines erneuten Trainings können erheblich sinken. Janosch Haber fasst die strategische Bedeutung zusammen: »DeFedOblivio« fungiert wie eine Handbremse im Fahrzeug. Ohne sie wäre das Auto erst gar nicht sicher nutzbar gewesen. Niemand würde eine Fahrt ohne diese Absicherung antreten. Es ist das Werkzeug, das das nötige Vertrauen schafft, um Kooperationen überhaupt erst einzugehen.« 

Drei zentrale Anwendungsfelder 

Florian Zimmer gliedert die Bedeutung von Federated Unlearning in drei zentrale Bereiche: 

Regulatorik und KI-Compliance: Gesetzliche Vorgaben wie die DSGVO oder der EU Data Act stellen hohe Anforderungen an den Umgang mit Daten. Auch zukünftige Compliance-Anforderungen könnten Unternehmen dazu verpflichten, bestimmte Datenbestände nachträglich aus Modellen zu entfernen. 

Korrektive Updates und Sicherheit: Fehlerhafte Sensordaten, falsch konfigurierte Systeme oder absichtlich manipulierte Trainingsdaten können die Qualität eines KI-Modells beeinträchtigen. »DeFedOblivio« ermöglicht es, solche Beiträge gezielt aus dem Modell zu entfernen und das Training auf einer sauberen Grundlage fortzusetzen. Das bedeutet, dass entweder alle Beiträge eines Partners, oder aber auch nur einzelne, entfernt werden können, um so eine höchstmögliche Effizienz zu erreichen.  Gleichzeitig bietet das Verfahren einen Ansatz, um auf sogenanntes Model Poisoning zu reagieren – also auf gezielte Manipulationsversuche oder das Einschleusen von Backdoors. 

Datensouveränität als Kooperations-Enabler: Die Möglichkeit, ein Konsortium jederzeit wieder verlassen zu können, stärkt die Datensouveränität der Beteiligten. »Wenn ich einem Partner signalisiere: ›Sobald du mitmachst, kannst du nie wieder raus‹, wird er nicht beitreten. Die Möglichkeit eines technisch nachvollziehbaren Ausstiegs senkt die Hürden für gemeinsame Projekte erheblich.« 

Zusammenarbeit von Fraunhofer ISST und Fujitsu Research

»DeFedOblivio« entstand aus der Zusammenarbeit vom Fraunhofer ISST und Fujitsu Research. Die konkrete Forschung und Entwicklung des Verfahrens wurde dabei maßgeblich am Institut in Dortmund vorangetrieben. Während dort der algorithmische Kern sowie die technische Umsetzung entstanden, begleitete Fujitsu Research das Projekt auf strategischer und fachlicher Ebene. Ziel war es, die Forschungsarbeiten eng an den Anforderungen zukünftiger industrieller Anwendungsszenarien auszurichten. Die Erkenntnisse fließen zugleich in langfristige Entwicklungen rund um dezentrale KI-Architekturen und souveräne Datenökosysteme ein. Dabei steht insbesondere die Frage im Mittelpunkt, wie Unternehmen KI-Lösungen künftig stärker unter eigener Kontrolle betreiben können. 

Blick in die Zukunft: Ein Baustein für souveräne KI-Ökosysteme 

Viele Unternehmen befinden sich derzeit noch in einer frühen Phase ihrer Daten- und KI-Transformation. Themen wie Datenmanagement, Data Governance und der produktive Einsatz von KI-Systemen stehen häufig noch stärker im Fokus als die Frage nach gezieltem Unlearning. »DeFedOblivio« adressiert daher Fragestellungen, die für viele Unternehmen heute noch Zukunftsthemen sind. Gleichzeitig gewinnen Fragen rund um KI-Compliance, Datensouveränität und regulatorische Anforderungen zunehmend an Bedeutung. Das Framework wurde bewusst so konzipiert, dass es in dezentralen Umgebungen ohne zentrale Kontrollinstanz auskommen kann. Ziel ist es, den Einsatz von Federated Unlearning in industriellen Ökosystemen möglichst praktikabel zu gestalten und dabei die Anforderungen an Sicherheit, Transparenz und Datensouveränität zu berücksichtigen. 

(fg) 

---