Was bedeutet Künstliche Intelligenz für Cybersecurity? Drei Prognosen Viele Meachine Learning-Systeme sind heute eine "Black Box"
Künstlicher Intelligenz gehört die Zukunft. Dies zeigt sich schon am aktuellen "Stellungskampf" der großen Marktplayer: Vor kurzem hat Apple mit John Giannandrea einen führenden KI-Fachmann von Google abgeworben. Auch die Branchenanalysten sehen großes Potenzial. Laut Statista beträgt im Jahr 2025 der Umsatz mit Business-Anwendungen im Bereich Künstliche Intelligenz weltweit 31,24 Milliarden US-Dollar.
Doch was bedeutet der Trend für das Security-Umfeld? Eset-Experten untersuchten die aktuellen Entwicklungen von Künstlicher Intelligenz und Machine Learning und beschreiben deren Folgen auf künftige Geschäftsmodelle und die Security-Industrie. Thomas Uhlemann, Security Specialist bei Eset, sagt: "Künstliche Intelligenz beeinflusst die Zukunft von Unternehmen und Security-Herstellern schon heute. Verantwortliche müssen schnellstmöglich Know-How aufbauen und verantwortungsvoll mit der Technologie umgehen." Die Notwendigkeit eines verantwortungsvollen Umgangs unterstreichen auch die drei Prognosen von Eset.
Prognose 1: Machine Learning erfordert Prozesstransparenz, nicht nur wegen DSGVO Viele Meachine Learning-Systeme sind heute eine "Black Box": Niemand weiß genau, was zwischen der Eingabe der Informationen und der Ausgabe der Ergebnisse geschieht. Das gilt auch, wenn sie personenbezogene Daten bearbeiten. Doch im Rahmen der DSGVO müssen Unternehmen in der Lage sein, betroffenen EU-Bürgern die Wirkungsweise der eingesetzten automatisierten Systeme für die Datenbearbeitung zu erklären.
Für die Sicherheit IT-basierter Systeme könnte sich aus dieser Entwicklung ein Problem ergeben - denn: Geraten detaillierte Erkenntnisse in falsche Hände, könnten Cyberkriminelle die Machine Learning-basierten Systeme als neue Angriffsvektoren identifizieren und für die Entwicklung neuer Cyber-Angriffsszenarien ausnutzen.
Prognose 2: Auch Cyberkriminelle sehen die Potenziale von Künstlicher Intelligenz Der Wettlauf zwischen Security-Experten und Cyberkriminellen geht daher auch mit KI weiter. So haben vor kurzem Sicherheitsforscher untersucht, wie sich KI für bösartige Angriffe missbrauchen lässt. Dies geschieht vorwiegend auf drei Arten: Bestehende Bedrohungen werden erweitert, neue Bedrohungen erzeugt und die Bedrohungstypen verändert. Dabei legten die Analysten nur Technologien zugrunde, die innerhalb der nächsten fünf Jahre zur Verfügung stehen. Unternehmen sollte also bewusst sein, dass durch KI in absehbarer Zeit neuartige Gefahren entstehen.
Prognose 3: Cybersecurity profitiert von Machine Learning – wenn die Muster erkannt werden KI bietet aber auch Chancen – und Herausforderungen. Erfolgreiches Machine Learning setzt voraus, dass die Systeme an großen Datensets trainiert werden können. Dieser umfangreiche Input muss korrekt gekennzeichnet sein. Das gilt es zu kontrollieren, genau wie die Trainingsergebnisse. Eset perfektioniert seit Jahren die automatische Erkennung von Malware und kennt die Herausforderungen.
Im Bereich Cybersecurity benötigt Machine Learning viele Muster – bösartige und gutartige. Eset sammelt diese seit gut 30 Jahren und verfügt über ein in Jahrzehnte gewachsenes Know-how in der Entwicklung und Einsatz von Machine Learning-Systemen zur Erkennung und Abwehr Schadcode basierter Cyber-Angriffe. Aber ohne die Kalibrierung, Bewertung und Überprüfung durch menschliche Experten kommen auch diese Systeme nicht aus. Denn schon eine Fehleinschätzung kann fatale im Security-Gesamtkontext Folgen haben.
"Künstliche Intelligenz dient nicht nur Unternehmen, sondern auch Cyberkriminellen als neues Geschäftsfeld. Unternehmen brauchen daher einen übergreifenden Austausch mit Politik, Kunden und starken Partnern, um die Künstliche Intelligenz zu dem zu machen, was sie ist: Eine nie da gewesene Chance für die IT-Security", fasst Uhlemann zusammen. (Eset: ra)
eingetragen: 04.06.18 Newsletterlauf: 19.06.18
Eset: Kontakt und Steckbrief
Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.
Im Jahr 2020 könnten es - laut Vorhersagen von Kaspersky - finanziell motivierte Cyberkriminelle vermehrt auf Apps zur Geldanlage, Systeme zur Verarbeitung von Finanzdaten online und aufstrebende Krypto-Währungen abgesehen haben. Zudem werden sich voraussichtlich der Handel mit Zugängen zur Infrastruktur von Banken und die Entwicklung neuer Varianten mobiler Malware basierend auf Sourcecode-Leaks etablieren. Neben den Bedrohungen im Finanzbereich hat Kaspersky im Rahmen ihres "Security Bulletins 2019/2020" auch mögliche Gefahren für andere Branchen prognostiziert.
Veracode veröffentlichte vor kurzem die zehnte Ausgabe ihres jährlich erscheinenden "State of the Software Security" (SoSS)-Reports. In diesem beschreibt die Anwendungssicherheitsspezialistin, wie sich die Sicherheit von Software und Applikationen im Laufe der letzten Jahre entwickelt hat und stellt eine Bilanz zum aktuellen Ist-Stand auf. Doch welche Trends zeichnen sich für die kommenden Jahre ab und auf welche Weise sollten Unternehmen auf die Veränderungen reagieren? Codes, auf denen Software und Applikationen aufbauen, werden stetig umgeschrieben oder erweitert, da Unternehmen ihre Angebote an die Bedürfnisse ihrer Kunden anpassen müssen. Jede neue Veränderung bedeutet aber auch, dass die Applikationen dadurch angreifbar werden. Somit steigt das Risiko, dass sich Fehler und Bugs einschleichen und damit die Sicherheit der jeweiligen Anwendung - oder sogar des Unternehmens - gefährden.
Die Bedrohungslage für OT-Systeme, kritische Infrastrukturen und industrielle Steuerungsanlagen wird sich auch 2020 im Vergleich zu 2019 kontinuierlich weiterentwickeln. Da diese Systeme dem öffentlichen Internet immer stärker ausgesetzt sind, wird es für Hacker immer einfacher, sie anzugreifen. Dies gilt nicht nur für staatlich unterstützte bzw. beauftragte Angreifer, sondern auch für Cyberkriminelle, die in erster Linie finanziell motiviert handeln. Es ist zu befürchten, dass gerade staatlich gesteuerte Angreifer ihre Ziele genauer auswählen und ihre Spuren besser verwischen werden. Die Fälle, von denen in den Medien berichtet wird, dürften nur die Spitze des Eisberges darstellen. Aufgrund der kleinen Stichprobe (2019 gab es lediglich 12 hochkarätige Angriffe weltweit) ist es unmöglich, ein genaues Bild über die tatsächliche Bedrohungslage zu erhalten.
Am Ende jedes Jahres setzen wir bei Forescout uns zusammen und erörtern, welche Trends sich unserer Meinung nach in den nächsten zwölf Monaten beschleunigen und welche neu entstehen werden. Als wir dieses Jahr mehr als 50 Prognosen auf letztendlich sechs eingrenzten, fiel uns einmal mehr auf, wie schnell sich der Cybersicherheitssektor doch verändert. Die Bedrohungen und Angreifer werden immer raffinierter und richten weiter verheerende Schäden in Unternehmen aller Größen und Branchen an, und eine Trendwende ist nicht in Sicht. Für Unternehmen bedeutet dies, dass sie strategischer denn je vorgehen müssen, wenn sie ihren Sicherheitsstatus verbessern wollen. Es bedeutet auch, dass sie sich mit vielversprechenden neuen Technologien auseinandersetzen müssen - einige davon erwähnen wir im Folgenden -, noch bevor diese sich allgemein etabliert haben. Dies umfasst sowohl die Einführung neuer Technologien als auch den Schutz neuer Geräte. Und schließlich bedeutet es, einige der Auswirkungen zu bedenken, die ein Cyberangriff auf wichtige Pfeiler unserer Gesellschaft haben könnte.
Von Passwort-Katastrophen bis hin zum verstärkten Krypto-Mining von Monero: Welche Cyberbedrohungen werden im Jahr 2020 auf uns zukommen? Instabilität der Darknet-Märkte: Die englischsprachigen Darknet-Märkte haben ein schwieriges Jahr hinter sich mit zahlreichen Takedowns, Exit-Scams, Verhaftungen, ungewöhnlichen Aktivitäten, bei denen Märkte an- und ausgeschaltet wurden, sowie anhaltenden DDOS-Angriffen. Diese Instabilität hat den Ruf der Darknet-Märkte geschädigt, und das wird 2020 beträchtliche Paranoia bei Cyberkriminellen auslösen, die sich wahrscheinlich nur langsam beruhigen wird. Diese Unvorhersehbarkeiten haben vielleicht keine nennenswerten sichtbaren Auswirkungen auf Endbenutzer und Unternehmen, können jedoch dazu führen, dass Märkte anderswo entstehen und die Lieferketten von Cyberkriminellen insbesondere im englischsprachigen Raum sehr durcheinanderbringen.
