Die Bundesnetzagentur warnt vor einem unkritischen Umgang mit von Künstlicher Intelligenz erzeugten Aussagen. Es gebe „Gefahren und Herausforderungen“, die vor allem mit der Qualität von Sprachmodellen wie ChatGPT oder Gemini zu tun hätten, sagte Behördenpräsident Klaus Müller der Neuen Osnabrücker Zeitung.
Warnung vor unkritischem Umgang mit KI-Aussagen
Qualität von Sprachmodellen im Fokus
Bei mathematischen oder naturwissenschaftlichen Aufgaben sei dies „relativ unproblematisch“, da es um richtig oder falsch gehe, erklärte Müller.
Risiken bei gesellschaftspolitischen und historischen Themen
„Geht es aber um Aussagen in einem gesellschaftspolitischen oder historischen kontext, und die KI halluziniert, dann ist das nur ein netteres Wort für Lügen. Da liegt die Gefahr“, sagte Müller. „Denn wenn Personen, Institutionen, Medien unkritisch mit dieser Technologie umgehen, kann das Vertrauen beschädigt werden, und es können gravierende fehler gemacht werden. Ja, das treibt mich um.“
Zuständigkeit der Bundesnetzagentur
Die Bundesnetzagentur ist in Deutschland für die Durchsetzung der europäischen KI-Verordnung zuständig.
Einschätzung zu Szenarien einer Super-KI
Sorgen, eine Super-KI könne sich verselbstständigen und der menschlichen Kontrolle entziehen, trat Müller entgegen: „Dass demnächst ein ‚Terminator‘ aus den Laboren von ChatGPT oder Gemini entsteigt und uns zu seinen Knechten macht? Nein, diese Fantasie teile ich nicht.“
