KI-Sicherheitsinstitut eröffnet Prüfkammer, in der künftig jede Kaffeemaschine mit Sprachsteuerung drei Monate lang begutachtet wird
Das neue Deutsche KI-Sicherheitsinstitut in Berlin hat seine Arbeit aufgenommen und prüft künftig nicht nur Sprachmodelle, sondern auch alltägliche Geräte mit künstlicher Intelligenz. Erste Tests an einer Kaffeemaschine sorgten bereits für Aufsehen.
Das Deutsche KI-Sicherheitsinstitut in Berlin hat seinen Betrieb aufgenommen und prüft künftig nicht nur Sprachmodelle, sondern auch alltägliche Geräte mit künstlicher Intelligenz. Erste Tests an einer Kaffeemaschine sorgten bereits für Aufsehen.
Seit Montagmorgen steht in der Prüfkammer des neuen Instituts eine handelsübliche Kaffeemaschine mit Sprachsteuerung, die von drei Gutachtern rund um die Uhr beobachtet wird. Die Maschine, so die Institutsleitung, müsse nachweisen, dass sie bei einem Stromausfall nicht eigenmächtig das Programm wechsle und heißen Kaffee auf die Beamten spritze. „Wir testen hier nicht nur, ob die Maschine Kaffee kocht, sondern ob sie eine Gefahr für die öffentliche Ordnung darstellt“, sagte Institutsleiter Dr. Helmut Frick. Die ersten Ergebnisse seien „durchwachsen“: Die Maschine habe zwar korrekt auf den Befehl „Zwei Tassen“ reagiert, dann aber auf die Frage nach dem Wetter mit einem Rezept für Apfelkuchen geantwortet.
Die Prüfkammer ist mit Panzerglas ausgestattet, die Gutachter tragen Schutzhelme und feuerfeste Schürzen. Ein Notfallteam steht bereit, falls die Maschine doch einmal überkochen sollte. In den kommenden Wochen sollen auch Kühlschränke, Staubsaugerroboter und eine elektronische Zahnbürste begutachtet werden. „Wir rechnen mit einer Prüfdauer von drei Monaten pro Gerät“, erklärte Frick. „Erst wenn wir sicher sind, dass ein Gerät keine eigenen politischen Ambitionen entwickelt, geben wir es für den Hausgebrauch frei.“
Die ersten Reaktionen aus der Wirtschaft sind gemischt. Ein Hersteller von Küchengeräten kündigte an, seine Produkte künftig ohne Sprachsteuerung auszuliefern, um die Prüfverfahren zu umgehen. Das Institut zeigte sich unbeeindruckt: „Auch ein Gerät ohne Sprachsteuerung kann durch seine bloße Anwesenheit eine Gefahr darstellen“, so Frick. „Wir werden auch diese Geräte prüfen, und zwar so lange, bis wir sicher sind, dass sie keine eigenen politischen Ambitionen entwickeln.“