KI lässt Kühltruhen kochen

00:00:00:

00:00:07: Hallo und herzlich willkommen.

00:00:08: Ich bin Uli Harris, ich bin verbunden mit Karna Ethem aus der Chefredaktion vom Computerwissen.de.

00:00:14: Hallo Karna!

00:00:15: Hallo Uli, grüß dich.

00:00:16: Top aktuell – die Kühltruhe ist ausgefallen in vielen Supermärkten in ganz Europa.

00:00:23: Das hat viele bewegt.

00:00:26: Kannst du mir erklären was da genau passiert?

00:00:29: kann ich dir erklären.

00:00:30: Und zwar wurde eben eine Sicherheitslücke in der Infrastruktur entdeckt, die wurde ausgenutzt und wenn du eine Sicherungslücke im System hast kannst du das System übernehmen und alles steuern was sich in diesem System befindet.

00:00:47: Jetzt mal dazwischen gefragt!

00:00:50: Kühltruhe eines Supermarktes, in Deutschland ist das auch ein paar Mal passiert.

00:00:55: Ist denn die Kühletruhe auch schon irgendwie mit dem Internet verbunden?

00:01:00: Man wundert sich und mich hat es... als ich das gelesen hab, hat's mich auch gewundert.

00:01:05: deswegen habe ich nachgeschlagen.

00:01:06: ja tatsächlich Die Kühlgeräte sind alle mit dem Netz verbunden damit die zentral gesteuert werden können.

00:01:12: Das ist nicht so, dass jeder einzelne Lidl Aldi hier jetzt die eigenen Kühlgeräte einstellt.

00:01:18: Sondern das wird zentral eingestellt und dafür braucht sie eben eine Internetverbindung.

00:01:24: aber alles was eine Internet Verbindung hat ist halt potenziell angreifbar Und jetzt gerade in Zeiten von KI machen sich das viele sowohl Hecker als auch staatliche Akteure natürlich zu nutzen.

00:01:38: Was

00:01:38: hat denn nun die KI wiederum mit diesen Angriffen zu tun?

00:01:43: Auch da fehlt mir die Vorstellungskraft.

00:01:46: Vielleicht kannst du das mal ein bisschen näher erläutern, was macht die KI da?

00:01:52: Da gehe ich jetzt vielleicht ein bisschen zurück um die Frage zu beantworten und zwar ein Stück Software.

00:01:58: Du hast ein Stück software, also es programmiert und dann setzt du es ein.

00:02:03: Ja!

00:02:04: Was viele eben nicht wissen eine Software ist niemals zu hundert Prozent fertig.

00:02:08: Das heißt auch, es gibt niemals zu hundert Prozent Sicherheit oder zu hundert Prozent Schutz.

00:02:17: Es gibt immer Lücken die gefunden werden und ausgenutzt werden können.

00:02:20: da muss man irgendwie etwas Verrücktes bei dem Programm machen und dann stürzt das Programm ab und dann kannst du diesen Absturz nutzen um quasi in das System einzudringen.

00:02:35: Ich bekomme Zugang.

00:02:36: Bleiben wir mal bei den Kühltruhen.

00:02:38: Ich finde, aber ich muss ja erstmal den Server finden.

00:02:43: Das ist ja gleich so einfach!

00:02:44: Aber den gibt es ja irgendwie vielleicht beim Hersteller oder?

00:02:47: Ja gut

00:02:47: man kann einfach solche Scans machen welche IP Adressen also welche Verbindungsnummern Lidl Aldi hat das ist ja mehr oder weniger öffentlich und dann kann man da einen Scan machen was sich alles im Netzwerk befindet.

00:02:58: das ist jetzt alles keine hohe Kunst.

00:03:00: Aber was jetzt mit KI neu ist vorher musste dass eben Ein Hacker, eine Hecker-Truppe oder ein staatlicher Akteur.

00:03:07: Wie auch immer die mussten halt ihre Köpfe zusammenstecken, mussten stundenlang arbeiten, stundenlangen am Code herum experimentieren.

00:03:16: wie kann ich diesen Code so manipulieren dass ich da einen Absturz verursachen kann oder das sich die Kontrolle über das System bekommen kann?

00:03:23: Das ist wahnsinnig schwer!

00:03:25: Braucht sehr viel Gehirnschmalz, sehr viel Fleiß Und da geht einfach jede Menge Zeit flüten.

00:03:31: Aber trotzdem, wir Menschen müssen halt irgendwann mal schlafen.

00:03:34: Wir brauchen unsere sechs, sieben, acht Stunden Schlaf.

00:03:37: Wir können nicht vierundzwanzig Stunden arbeiten.

00:03:39: eine KI dagegen die kann erstens vierund zwanzig stunden jeden tag sieben Tage die Woche unentwegt arbeiten und die KI macht sämtliche Untersuchungen Berechnungen Tests macht die um ein vielfaches schneller als dass einen mensch machen kann Wenn man solche Zero-Day, also diese Sicherheitslücken heißen Zero Day.

00:04:02: Also Null Tage weil man damit das System kapern kann und kontrollieren kann wenn man die Sicherheitslücke ausnutzt.

00:04:10: dass das einmal einen Mensch gefunden hat das ist im Jahr vielleicht zweimal passiert.

00:04:15: jetzt mit KI haben wir das mittlerweile alle ein zwei Wochen.

00:04:20: Ich sage jetzt mal die bösen Leute, um das so pluggativ auszudrücken.

00:04:23: Die nutzen natürlich KI, sagen einer KI jetzt untersucht die Software auf Sicherheitslücken und die KI macht testet rechnet unentwegt je mehr Prozessoren Power du hast, je mehr Ressourcen du verfügbarst desto schneller geht es.

00:04:38: aber allgemein kann dass eine KI einfach jetzt viel viel schneller machen als ein Mensch

00:04:42: Da wird er im Jahr Angst und Bange.

00:04:43: Also man hat hier und da ja immer schon mal Berichte gelesen, gehört im Fernsehen oder wie auch immer gesehen wo Leute gesagt haben hey ganze Industrieanlagen werden ferngesteuert das geht ja auch übers Internet.

00:04:58: und dann stelle ich mir vor so eine KI schnüffelt darum automatisch bis sie sowas findet und dann geht es weiter wie du es beschrieben hast.

00:05:05: Genau

00:05:06: Das ist ja für alle Und

00:05:08: da sind einfach Gerade diese kritischen Infrastrukturen ist ja immer in der öffentlichen Hand, oder meistens.

00:05:16: Und die öffentliche Verwaltung ist halt bei Weitem nicht auf demselben Stand wie die Hecker-Truppe oder böse staatliche Akteure, die eben die neuesten Modelle der KI nutzen.

00:05:29: Während die öffentlicher Verwaltung halt meistens sagt erstens Wir wollen keine KI verwenden oder wir können keine KI verwendet.

00:05:38: Weil die besten KI-Modelle derzeit, die sitzen in den USA oder in China, kannst jetzt aber als deutsche Verwaltung nicht sagen, wir nutzen jetzt ein Modell aus den USA und wir benutzen einen Modell von China weil man da die Daten einfach nicht teilen kann.

00:05:54: Die Hacker tun es natürlich!

00:05:55: Habt ihr ja auch bei Berlin gemerkt dass das noch ein paar Wochen war?

00:06:00: sämtliche Daten der Berliner Verwaltung gestohlen, dass in der Terabyte an Daten über die Bürger von Berlin, die da drin sind.

00:06:08: Und das ist jetzt alles offen im Netz weil sich da jemand Zugang verschaffen konnte auch durch KI und sich das alles unbemerkt herunterladen konnte.

00:06:18: Und diese Daten sind jetzt im Netz verfügbar?

00:06:21: Ja da wird man ja still.

00:06:24: Es ist

00:06:28: derzeit nicht einfach.

00:06:29: und gerade solche Zero-Day Sicherheitslücken, solche Sicherheitslücken die dazu führen dass man ein System kapern kann ohne viel Aufwand.

00:06:37: Die kommen immer regelmäßig in vielen kürzenden Abständen als das noch vor zwei drei Jahren der Fall war.

00:06:42: Hast du von diesem BSI sag mal?

00:06:45: Das ist doch diese Bundesbehörde für Datensicherheit oder wie auch immer Computer Sicherheit hat viel zu tun.

00:06:53: im Moment gehe ich da recht in der Annahme

00:06:56: Richtig.

00:06:57: Die hat sehr viel zu tun und kann auch sagen, dass man sich hier sehr viel Mühe gibt.

00:07:04: also es ist jetzt nicht so das hier Däumchen gedreht wird.

00:07:09: aber die Angreifer haben halt einfach den unfairen Vorteil, dass sie sehr gute KI-Modelle nutzen können und die öffentliche Verwaltung in Deutschland sind halt so ein bisschen die Hände gebunden weil man will einerseits sagen ja Datensouveränität wollen wir haben.

00:07:26: Wir wollen nichts nach außen geben, also unsere Daten nicht an US-Anbieter geben oder gar an chinesische Anbietern aber auf deiner anderen Seite die sehr guten KI-Modelle, die eben diese Sicherheitslücken aufspüren, die du aber auch für einen guten Zweck verwenden kannst um diese Sicherzeitslücke zu stopfen.

00:07:44: Die sind halt nicht in unserer Hand, nicht in der europäischen Hand und das ist derzeit ein ganz klarer Nachteil.

00:07:50: Kurze

00:07:50: Unterbrechung für einen Hinweis.

00:07:52: In jeder Folge unseres Computerwissen-Podcast

00:07:56: gibt es die

00:07:56: Show Notes,

00:07:57: also Links zu attraktiven

00:07:59: Angeboten und weiteren

00:08:00: Informationen.

00:08:02: Die finden Sie in allen Podcast-Apps unter den

00:08:05: Texten

00:08:06: zur Beschreibung der Folge.

00:08:08: Testen sie es gleich nachdem

00:08:10: die Folge beendet ist!

00:08:11: Danke.

00:08:12: Was kann ich denn privat tun?

00:08:14: Also, es hat ja auch Auswirkungen auf mich in einem Internet unterwegs.

00:08:20: Ich mache Bankgeschäfte im Internet und auch da heißt das doch Freunde drauf achten wirklich auf Sicherheit achten mehr denn je.

00:08:31: also dass A und O das galt schon immer.

00:08:34: aber jetzt gilt es umso mehr wenn ein Update auf deinem Gerät erscheint sei es Windows iPhone Android oder Welches Gerät auch immer ist egal, wenn ein Update erscheint.

00:08:44: Bitte installieren!

00:08:46: Ja ich kenne viele Leute die da sagen oh nee update möchte ich nicht.

00:08:50: wenn ich das mache dann sieht mein sieht die benutzeroberfläche danach anders aus und so weiter.

00:08:55: ja den ärger kann ich zu einem gewissen grad auf nachvollziehen aber diese updates sind zu neunzig prozent sicherheitsupdates die Sicherheitslücken schließen und dass es sehr sehr wichtig dass man diese installiert weil Wie gesagt, wenn die Sicherheitslücken offen bleiben.

00:09:12: Dann kann es mitunter passieren... ...dass sich ein Angreifer unbemerkt auf dein Gerät draufschalten kann.

00:09:19: und es muss jetzt nicht sein dass das gesteuert wird oder dass da irgendwie einen Quatsch gemacht wird aber schon allein, dass da Daten unbemerkt abfließen können Das ist halt schon.

00:09:28: Also ich denke mal niemand hat eine Interesse daran, dass sein digitales Fotoalbum auf dem iPhone einfach für jeder Mann einsehbar ist.

00:09:35: Ja klar Und da muss man Da lohnt es sich dann schon tatsächlich die Updates auch zu installieren, wenn man dazu aufgefordert wird.

00:09:45: Und bei aller KI der Mensch ist ja immer noch die Fehlerquelle Nummer eins das heißt ich öffne irgendeinen Anhang in irgendeiner Mail wo drin steht druck druck und sie müssen jetzt und Sie sollen und reagieren Sie sofort dass er so der Klassiker war.

00:10:00: Das spricht

00:10:01: auch einen guten Punkt an gerade was Fishing angeht.

00:10:04: damals hat man ja gesagt wenn die Mail schlechtes Layout hat, schlechte Grammatik, schlechter Rechtschreibung.

00:10:10: Ja klar!

00:10:11: Das ist sofort ein Fishingversuch.

00:10:13: Heute kann dir eine KI eins zu eins das Design der Sparkasse nachmachen als E-Mail.

00:10:20: Perfekt die deutsche Sprache da hinein schreiben, dich zu irgendwas auffordern in dem höflichsten Ton.

00:10:27: also ne KI schreibt mittlerweile ja besser als viele Menschen als viele Bankberater und Da kannst du, da muss man heute leider mehr denn je drauf aufpassen.

00:10:39: Auf welche Links man in der E-Mail klickt.

00:10:41: also die Regel lautet immer wenn eine e-mail dich so etwas auffordert zu etwas dringendem wie zum Beispiel sie müssen innerhalb von vierundzwanzig Stunden reagieren sonst wird ihr Konto gesperrt.

00:10:51: da immer vorsichtig sein.

00:10:54: In der Regel kann man das ignorieren.

00:10:56: Wenn man sich unsicher ist dann im Bedarf Die bekannte Hotline-Nummer des Dienstleisters, wie zum Beispiel der Bank anrufen nachfragen.

00:11:05: Ist da wirklich etwas dran?

00:11:06: Zu neunneinzig Prozent wird die Antwort kommen.

00:11:08: Nein!

00:11:09: Da ist nichts dran.

00:11:11: Aber auf gar keinen Fall einfach sei es auch nur aus Panikreaktion kühlen Kopf bewahren nicht aus Panic auf irgendwelche Links klicken.

00:11:18: Ja und auch nicht irgendwelchen PDF Rechnungen von irgendwelchem unbekannten Gezten oder Firmen.

00:11:24: Die sagen jetzt müssen sie uns drei Tausend Sechshundert Euro überweisen.

00:11:27: sonst genau ja

00:11:29: Weil da kann der Fehler schon drin liegen, dass sich das PDF öffnet und mein Rechner wird infiziert.

00:11:35: Also auch das wenn es völlig unbekannt ist einfach mal ignorieren weil die mahnen schon.

00:11:42: Nehmt das nicht persönlich?

00:11:43: Das geschieht heute alles automatisch.

00:11:46: Und diese Fake-Rechnung na ja dann kommt auch in der Regel keine Mahnung.

00:11:50: aber eigentlich bitte da was ich nicht kenne Nicht anfassen nicht anklicken.

00:11:57: So einfach ist das.

00:11:59: Und so komplex ist es im Hintergrund.

00:12:01: und gut, dass du uns das erläutert hast.

00:12:03: Karna Ethem war das aus der Chefredaktion von Computerwissen.de.

00:12:07: Herzlichen Dank bis zum nächsten Mal!

00:12:08: Bis zum Nächsten mal Oli, ciao!