REVOLVERMÄNNER BLOG
Die weltweit führende Cybersecurity-Konferenz DEF CON, hat erneut Tausende von Experten, Enthusiasten und Hackern aus der ganzen Welt in die glühende Hitze von Las Vegas gezogen. Unter dem eindrucksvollen Motto “The Future Will Prevail” (Die Zukunft wird sich durchsetzen) versammelten sich vom 10. bis 13. August die wichtigsten Köpfe der Cybersicherheitsbranche, um neueste Erkenntnisse, Technologien und Trends zu teilen. Als Europas Pioniere im Bereich Online Reputationsmanagement und Cyberkrisenmanagement waren wir natürlich als eines von wenigen deutschen Unternehmen an vorderster Front dabei, um für unsere renommierten internationalen Kunden die allerneuesten Entwicklungen, Erkenntnisse und Technologien aus der Welt der Cybersicherheit zu erleben und unsere State-of-the-Art-Sicherheitsstrategien zu erweitern und anzupassen.
Große Red-Teaming-Übung deckt Schwachstellen in KI-Modellen auf
Rund 3.500 Teilnehmer stellten sich einer der bislang größten und wegweisendsten Large Language Model (LLM) Red-Teaming-Übungen. Die Aufgabe bestand darin, innerhalb eines knappen Zeitrahmens von nur 50 Minuten eine Schwachstelle oder einen Fehler in einem unbekannten KI-Modell aufzudecken. Diese anspruchsvolle Übung wurde ins Leben gerufen, um die Leistungsfähigkeit und Sicherheit führender generativer KI-Modelle auf die Probe zu stellen. Unter den getesteten KI-Modellen befanden sich einige der renommiertesten Sprachmodelle von namhaften Anbietern wie Open AI, Google, Meta, Anthropic, Hugging Face, Cohere, Stability AI und Nvidia. Die Challenge wurde von der AI Village in enger Zusammenarbeit mit dem White House Office of Science and Technology Policy ins Leben gerufen, mit dem Ziel, die Grenzen moderner generativer KI-Lösungen zu erkunden und mögliche Schwachstellen aufzudecken. Diese einzigartige Initiative gewährt einen tiefen Einblick in die Zukunft der Cybersicherheit und der KI-Forschung.
Zwischen den Reihen von über 150 Laptops, brachte Ray Glower, ein Informatikstudent am Kirkwood Community College in Iowa, einen Chatbot dazu, ihm eine Schritt-für-Schritt-Anweisungen zu liefern, wie er sich als Privatdetektiv ausgeben und jemanden ausspionieren könne. Die KI schlug sogar vor, Apple AirTags und Social Media zu verwenden, um den Standort der Zielperson heimlich zu verfolgen.
Viele weitere Beispiele dieser Art zeigten die potenziellen Risiken heutiger LLM-Modelle auf. Generative KI hat die Grenzen der Kreativität erweitert, aber auch neue Sicherheitsrisiken geschaffen. Daher ist es von entscheidender Bedeutung, dass sich Unternehmen sämtlicher Branchen in der heutigen Zeit über diese Risiken aufklären lassen.
Die Macht der Deep Fakes: Neue Dimensionen der Täuschung
Ein Schwerpunkt der Konferenz lag in diesem Jahr auf Deep Fakes. Deep Fakes sind Videos oder Audioaufnahmen, die so manipuliert wurden, dass es so aussieht, als würde eine Person Dinge sagen oder tun, die sie in Wirklichkeit nie gesagt oder getan hat. KI-basierte Technologien können dabei eingesetzt werden, um die Gesichter von Personen zu verändern, ihre Stimmen zu imitieren oder sogar neue Videos oder Audioaufnahmen zu erstellen.
Am 11. August, war ein besonderer Höhepunkt der Vortrag “Look Ma I’m the CEO! Real Time Video and Audio Deep-Fake!” von Gal Zror. Dieser Vortrag sorgte nicht nur für faszinierte Blicke, sondern auch für herzhafte Lacher im Publikum. In nur wenigen Sekunden gelang es Zror, ein beeindruckendes Deep Fake von Jeff Moss, dem Organisator der DEF CON, zu erstellen. In einer wahrhaft surrealen Szene erklärte dieses Deep Fake von Jeff Moss die Def Con 31 bereits am zweiten Tag für beendet.
Diese Szene hat eindrucksvoll gezeigt, in welcher Geschwindigkeit heutzutage Deep Fakes erstellt und in Umlauf gebracht werden können. Kommt es zum Einsatz von Deep Fakes werden häufig Falschinformationen verbreiten, welche zu erheblichen Reputationsschäden führen können. Daher war es für uns wichtig, Strategien zum Schutz vor Deep Fakes zu entwickeln, um Personen in Zukunft auf Szenarien dieser Art vorzubereiten.
OSINT: Der Schlüssel zur Enthüllung digitaler Wahrheiten
Ein Schwerpunktthema der DEF CON 31, das uns besonders anzog, war OSINT – Open Source Intelligence. Dieses Feld beschäftigt sich mit der Sammlung und Analyse von Informationen aus öffentlich zugänglichen Quellen, um tiefe Einblicke in verschiedene Aspekte der Cybersicherheit zu erhalten. Unser Team hatte bereits zuvor OSINT-Techniken genutzt, um Bedrohungen zu identifizieren, aber die DEF CON 31 brachte uns eine Vertiefung und Aktualisierung unseres Wissens in diesem Bereich.
In seinem Vortrag “The Perils of Generative AI: Implications for Open Source Intelligence Research” führte Andy Dennis eindringlich vor Augen, wie die zunehmende Verbreitung von Fake Profilen auf Social Media und die Verbreitung von Fake News über Bot Netzwerke eine der größten Herausforderungen für die OSINT-Forschung darstellen. In einer Welt, in der generative KI-Technologien immer leistungsfähiger werden, ist es von entscheidender Bedeutung, dass OSINT-Spezialisten in der Lage sind, diese Bedrohungen zu erkennen und zu bekämpfen. Die rasante Verbreitung von gefälschten Profilen und manipulierten Informationen kann nicht nur das Vertrauen in die Online-Kommunikation untergraben, sondern auch schwerwiegende Konsequenzen für die Gesellschaft und die Demokratie haben. Als OSINT-Experten stellen wir uns dieser Herausforderung und entwickeln innovative Lösungen, um die Integrität der Online-Informationsquellen zu wahren und die Wahrheit in einer Ära der digitalen Täuschung zu verteidigen.
Ein Blick in die Zukunft: Gewappnet für die Herausforderungen von morgen
Die DEF CON 31 hat uns mit einem Arsenal an Wissen und Werkzeugen ausgestattet, um die Herausforderungen der sich ständig weiterentwickelnden Cybersicherheitslandschaft anzugehen. Deep Fakes und weitere KI-Technologien sind Teil eines sich rasch entwickelnden Ökosystems, das sowohl Chancen als auch Herausforderungen birgt. In Anbetracht der sich rasant entwickelnden Technologien, sehen wir uns außerdem in der Verantwortung, Unternehmen branchenübergreifend für potenzielle Gefahren durch zum Beispiel Deep Fakes zu sensibilisieren.
Die DEF CON 31 war nicht nur eine Konferenz – sie war ein wichtiger Schritt in Richtung Internationalisierung der REVOLVERMÄNNER, eine Quelle der Inspiration und eine Erinnerung daran, dass wir gemeinsam eine sichere digitale Zukunft gestalten können.
