Künstliche Intelligenz
Kaspersky ist seit fast zwei Jahrzehnten führend bei der Integration von künstlicher Intelligenz (KI) und insbesondere von maschinellem Lernen (ML) in seine Produkte und Dienstleistungen. Unser Ansatz zur Lösung komplexer ML-Herausforderungen basiert auf unserem fundierten Know-how und unserer Erfahrung in der Anwendung dieser Technologien für die Cybersicherheit. Diese Kompetenzen werden ergänzt durch unsere einzigartigen Datensätze, effiziente Methoden und eine moderne Infrastruktur für das Modelltraining. Unser Kaspersky AI Technology Research Center vereint Datenwissenschaftler, ML-Ingenieure, Bedrohungsexperten und Infrastrukturspezialisten, um auch anspruchsvollste Aufgaben an der Schnittstelle von KI/ML und Cybersicherheit zu bewältigen. Dazu gehört nicht nur die Entwicklung angewandter Technologien, sondern auch die Erforschung der Sicherheit von KI-Algorithmen, die Verwendung vielversprechender Konzepte wie neuromorphe ML, KI-Risikobewusstsein und vieles mehr.
Unsere Technologien und Produkte
Wir bei Kaspersky haben eine breite Palette von KI/ML-basierten Technologien zur Bedrohungserkennung entwickelt, die hauptsächlich zur Identifizierung von Malware dienen. Dazu zählen ein tiefgreifender neuronaler Netzwerkalgorithmus, der schädliche ausführbare Dateien aufgrund statischer Merkmale erkennt, eine ML-Technologie mit Entscheidungsstruktur für automatisierte Erkennungsregeln, die auf Benutzergeräten eingesetzt werden, und neuronale Netze, die schädliches Verhalten von Programmen während der Ausführung erkennen. Außerdem verwenden wir ein System zur Identifizierung bösartiger Online-Ressourcen, das auf anonymen Telemetriedaten fußt. Diese Daten stammen aus Lösungen, die auf Kundengeräten installiert sind, und aus anderen Quellen. Mehr darüber erfährst du in unserem Whitepaper Machine Learning for Malware Detection (Maschinelles Lernen zur Malware-Erkennung). Andere Modelle – wie das ML-Modell zur Erkennung gefälschter Websites und DeepQuarantine zur Isolierung von Spam-verdächtigen E-Mails – schützen unsere Nutzer vor Phishing und Spam-Bedrohungen. Die KSN-Cloud-Infrastruktur macht unsere KI-Entwicklungen sowohl für Privatanwender als auch für Unternehmensanwender fast unverzögert verfügbar.
Geleitet von dem Versprechen der generativen KI, insbesondere der großen Sprachmodelle (LLM), haben wir eine Infrastruktur aufgebaut, um diese Möglichkeiten zu erforschen und schnell Prototypen für neue Lösungen zu erstellen. Diese Infrastruktur, die ähnlich wie ChatGPT LLM-Tools einsetzt, steht nicht nur Mitarbeitern aus allen Abteilungen für alltägliche Aufgaben zur Verfügung, sondern dient auch als Basis für neue Lösungen. Unser Kaspersky Threat Intelligence Portal erhält beispielsweise bald eine neue LLM-basierte OSINT-Funktion, die schnell Zusammenfassungen von Bedrohungsberichten für bestimmte IoCs liefert.
Um die Sicherheit der Infrastrukturen unserer Kunden zu erhöhen, entwickeln wir aktiv KI-Technologien, die auf unsere wichtigsten Unternehmensprodukte und -dienste zugeschnitten sind. Die KI-Analyse in Kaspersky Managed Detection and Response trägt seit mehreren Jahren dazu bei, die Belastung von SOC-Teams zu reduzieren, indem Fehlalarme automatisch ausgefiltert werden. Allein im letzten Jahr hat diese Technologie über 100.000 Warnungen ohne menschliches Zutun erledigt. Dadurch können SOC-Experten schneller auf echte Bedrohungen reagieren und sich besser auf die Untersuchung komplexer Fälle und die proaktive Bedrohungssuche konzentrieren. Eine weitere Lösung – die KI-basierte Host-Risiko-Bewertung in Kaspersky SIEM (Kaspersky Unified Monitoring and Analysis) und in Kaspersky XDR – verwendet ML-Algorithmen für die Suche nach verdächtigem Verhalten von Hosts. Dabei verbleiben alle Daten im Unternehmen.
Ein weiterer wichtiger Entwicklungsbereich von Kaspersky ist der Einsatz von KI und ML in industriellen Umgebungen. Dazu gehört Kaspersky MLAD (Maschinelles Lernen zur Erkennung von Anomalien) – eine Softwarelösung zur vorausschauenden Analyse von Telemetrie-Signalen. Hier werden frühe (versteckte) Anzeichen für einen drohenden Geräteausfall, eine Prozessunterbrechung, menschliches Versagen und Cyberangriffe automatisch erkannt. Das neuronale Netz wird kontinuierlich trainiert und MLAD analysiert einen Strom „atomarer“ Ereignisse der Objekte, strukturiert diese in Muster und identifiziert ungewöhnliches Verhalten. Ein weiteres Projekt ist Kaspersky Neuromorphic Platform (KNP) – ein Forschungsprojekt und eine Softwareplattform für KI-Lösungen. KNP basiert auf neuronalen Netzen und AltAI, einem energieeffizienten neuromorphen Prozessor, der von dem russischen Unternehmen Motive Neuromorphic Technologies (Motive NT) in Zusammenarbeit mit Kaspersky entwickelt wurde.
Die zunehmende Verbreitung von KI-Technologien macht Sicherheitskontrollen erforderlich. Genau aus diesem Grund haben wir ein KI-Sicherheitsteam eingerichtet. Es bietet eine Reihe von Services, die darauf abzielen, einen zuverlässigen Schutz von KI-Systemen zu gewährleisten und potenzielle Bedrohungen für Daten, Geschäftsprozesse und die KI-Infrastrukturen abzuwehren.
Unsere Mitarbeiter
In der Vergangenheit wurden ML-basierte Aufgaben von den Abteilungen erledigt, die direkt an der Erkennung bestimmter Bedrohungen beteiligt waren. Da die Zahl der Aufgaben wächst und ML-Technologien immer mehr an Bedeutung gewinnen, haben wir uns jedoch entschieden, unser Know-how über KI-basierte Systeme in das separate Kaspersky AI Technology Research Center zu verlagern. Dazu haben wir drei Basisteams gebildet, die den Einsatz von KI bei Kaspersky vorantreiben:
- Die Gruppe zur Analyse von Erkennungsmethoden entwickelt zusammen mit dem Team für Globale Forschung und Analyse (GReAT) und dem Zentrum für Bedrohungsforschung ML-Algorithmen zur Malware-Erkennung. Ihre KI-Systeme für die Erkennung statischer und verhaltensbasierter Malware tragen direkt zur Sicherheit unserer Nutzer bei.
- Die Technologieforschung spezialisiert sich innerhalb der Abteilung Zukunftstechnologien auf die folgenden Bereiche: Erforschung vielversprechender KI-Technologien, Entwicklung von Kaspersky MLAD und KNP, Entwicklung des neuromorphen AltAI-Prozessors der nächsten Generation in Kooperation mit Motive NT sowie Bereitstellung von AIST-Diensten für die KI-Sicherheit.
- Das MLTech-Team ist verantwortlich für die Entwicklung der ML-Unternehmensinfrastruktur zum Training von ML-Modellen, für das Erstellen von Modellen zur Erkennung von Inhalten (Phishing und Spam) und für die Integration von KI- und LLM-basierten Technologien in unsere fortschrittlichen Unternehmensdienste. Zu diesen Diensten zählen beispielsweise MDR, Kaspersky SIEM (Unified Monitoring and Analysis) und Kaspersky XDR.
Das bedeutet jedoch nicht, dass unsere KI-Expertise auf die oben genannten Teams beschränkt ist. Das Gebiet der KI ist derzeit so komplex und vielseitig, dass sich das gesamte Know-how nicht in einer Handvoll Forschungsgruppen bündeln lässt. Auch andere Teams leisten einen wichtigen Beitrag zur Arbeit des Centers und setzen ML bei vielen Aufgaben ein: Technologien für maschinelles Sehen im Antidrone-Team, Forschung zu KI-Codingsassistenten in den Abteilungen CoreTech und KasperskyOS, APT-Suche in GReAT und KI-Gesetzgebungsstudie im Team für Behördenkontakte.
Forschung und Patente
Die Einzigartigkeit unserer KI-Technologien wird durch Dutzende von Patenten bestätigt, die wir auf der ganzen Welt erhalten haben. Dies sind in erster Linie Patente für Erkennungstechnologien. Dazu gehören die Erkennung von Schadsoftware anhand von Protokollen zum Programmverhalten, die Erkennung bösartiger Server durch Telemetrie-Überwachung sowie die Erkennung von gefälschten Websites und Spam mithilfe von ML. Das Kaspersky-Portfolio deckt jedoch ein weit größeres Aufgabenspektrum ab: Technologien zur Verbesserung von ML-Datensätzen, zur Erkennung von Anomalien und sogar zur Suche nach verdächtigen Kontakten von Kindern in Systemen zur Kindersicherung. Und natürlich patentieren wir aktiv unsere KI-Technologien für industrielle Systeme und unsere einzigartigen neuronalen Ansätze zur Verarbeitung von Ereignisströmen in Netzwerken.
Darüber hinaus teilt Kaspersky sein KI-Know-how aktiv mit der Community. Einige unserer Studien wurden als wissenschaftliche Arbeiten auf führenden ML-Konferenzen vorgestellt. Darunter waren Themen wie monotone ML-Algorithmen und Anwendung neuronaler Netze zur Spam-Erkennung. Andere Studien wurden auf spezialisierten Portalen und bei Konferenzen zur Informationssicherheit präsentiert. Wir veröffentlichen beispielsweise Forschungsergebnisse zur Sicherheit unserer eigenen KI-Algorithmen, insbesondere zu Angriffen auf Spam- und Malware-Erkennungsalgorithmen. Wir untersuchen die Anwendung neuronaler Netze für die Zeitreihenanalyse und erforschen den Einsatz neuromorpher Netze für industrierelevante Aufgaben. Unsere Kaspersky Neuromorphic Platform (KNP) ist eine Open-Source-Software und steht der gesamten ML-Community zur Nutzung und Entwicklung zur Verfügung.
Die sichere Entwicklung und Anwendung von KI ist für uns von grundlegender Bedeutung, da das Vertrauen in unsere Algorithmen und deren Zuverlässigkeit unerlässlich ist. Außerdem nehmen wir an Cybersicherheits-Wettbewerben teil, bei denen Angriffe auf ML-Systeme simuliert werden, und beschäftigen uns mit dem Einsatz fortschrittlicher Technologien wie LLMs zur Erkennung von Bedrohungen in Systemprotokollen und Phishing-Links. Wir sprechen auch über Bedrohungen für generative KI, insbesondere aus Sicht des Datenschutzes, über Angriffe auf verschiedene LLM-basierte Systeme, den Einsatz von KI durch Angreifer und die Verwendung unserer Technologien in SOCs. Manchmal öffnen wir unsere Türen einen Spaltbreit und enthüllen etwas von unserem Innenleben, erklären das Training unserer Modelle und sogar die Feinheiten der Qualitätsbewertung.
Bewusstsein schaffen
Die wichtigste Aufgabe von Kaspersky AI Technology Research Center besteht jedoch darin, unsere Kunden und die Öffentlichkeit für die Vor- und Nachteile von KI-Technologien und die davon ausgehenden Bedrohungen zu sensibilisieren. Unsere Experten demonstrieren die Gefahren von Deepfake-Videos. Wir sprechen über Details der KI-Nutzung (z. B. wie sich ChatGPT auf die Beschäftigung von Entwicklern auswirkt) und tauschen unsere Erfahrungen in Webinaren und Diskussionsrunden aus.
Das Team für FT Technology Research organisiert Konferenzen über neuromorphe Technologien, bei denen Fragen zur KI-Sicherheit besondere Beachtung gilt. Dabei geht es auch um Systeme, die auf einem neuromorphen Ansatz basieren. Gemeinsam mit unserem Partner, dem Institut für Systemprogrammierung der Russischen Akademie der Wissenschaften (ISP RAS), erforschen wir verschiedene Vektoren für Angriffe auf neuronale Netze in den Bereichen Computer Vision, LLM und Zeitreihen sowie deren Schutz. Im Rahmen der industriellen Partnerschaft zwischen Kaspersky und dem ISP RAS testet das Team Beispiele vertrauenswürdiger ML-Frameworks.
Wir sind auch an der Entwicklung von Lehrgängen beteiligt, z. B. einem Modul über den Einsatz von KI in der Cybersicherheit an der Moskauer Staatlichen Technischen Bauman-Universität. Ein weiteres Beispiel ist ein Modul zur sicheren Verwendung von KI. Dieses Modul gehört zu Kaspersky ASAP, unserer Lösung zur Sensibilisierung von Mitarbeitern für Cyberbedrohungen. Schließlich tragen wir zur Schaffung einer Reihe internationaler Standards für die KI-Nutzung bei. 2023 haben wir beim Internet Governance Forum erste Prinzipien für den ethischen Einsatz von KI-Systemen in der Cybersicherheit vorgestellt.
Kurz gesagt hat das Kaspersky AI Technology Research Center die folgenden Hauptaufgaben: die Entwicklung von KI-Technologien, die sichere Anwendung dieser Technologien im Bereich Cybersicherheit, die Überwachung von Bedrohungen auf die missbräuchliche oder bösartige Verwendung von KI sowie die Prognose von Trends. All diese Aufgaben dienen dem Zweck, unseren Kunden ein Höchstmaß an Sicherheit zu gewährleisten.
Tipps