EU-Cybersicherheitsbehörde produzierte in Berichten Fehler durch KI

Europäische Cybersicherheitsagentur Enisa nutzt KI und produziert fehlerhafte Berichte

Bericht über Gefahren von hackerangriffen betroffen

Die Europäische Cybersicherheitsagentur Enisa hat in einem Bericht über Gefahren von Hackerangriffen mithilfe künstlicher intelligenz selbst KI-werkzeuge eingesetzt und dabei offenbar zahlreiche Fehler produziert. Das berichtet der „Spiegel“.

Forscher vom Institut für Internet-Sicherheit an der Westfälischen Hochschule stellten demnach fest, dass in mindestens zwei Berichten der Behörde künstliche Intelligenz verwendet wurde, ohne dies zu kennzeichnen. In einem der Berichte enthielten knapp fünf Prozent aller Fußnoten Links, die nicht funktionieren.

Kritik von IT-Sicherheitsforschern

„Man hätte nur einmal draufklicken müssen“,sagte Professor Christian Dietrich,der gemeinsam mit dem IT-Sicherheitsforscher Raphael Springer die Angaben überprüft hat. dietrich monierte,dass eine öffentliche Behörde,die aus seiner Sicht die Aufgabe habe,verlässliche und nachvollziehbare Berichte herauszugeben,dies in diesem Fall nicht getan habe.

Reaktion der EU-Agentur Enisa

Die von Juhan Lepassaar geleitete EU-Agentur verfügt über ein Budget von knapp 27 Millionen Euro jährlich. Enisa sprach auf Anfrage von „Mängeln“, für die man Verantwortung übernehme. Es sei zu menschlichen Fehlern gekommen. Man habe künstliche Intelligenz für „kleinere redaktionelle Überarbeitungen“ verwendet, dabei seien einige gültige Links verändert worden.

Nach Darstellung der Behörde seien die Aussagen des Berichts dennoch gültig.