Als besonders gefährliche Variante von Data Poisoning wird von Fachleuten und in der Literatur die gezielte Vergiftung von Trainingsdaten für KI-Modelle diskutiert. Das kann KI-Modelle nicht nur dazu bringen, Fragen der Anwendenden falsch oder einseitig zu beantworten, sondern auch gefährlichere Aktionen auszuführen – etwa das Nachladen von weiterem Schadcode. (+)
#KI #DataPoisoning #Coding #Malware
t3n.de/news/data-poisoning-war…
„Es ist sehr einfach, ein LLM zu vergiften“ – Forscher warnt vor unterschätzter Gefahr
Die Suche nach dem Datengift, das KI-Modelle manipuliert, führt tief in die Blackbox künstlicher Intelligenz.Stefan Burkhardt (t3n)
Geiger U. on the Highwaytohell
Als Antwort auf tagesschau • • •