#RSAC: Schneier erklärt, dass KI-Hacking die Verteidigung begünstigen wird

  • In seiner Keynote auf der RSA Conference 2022 stellte Bruce Schneier die Zukunft von Hacks mit künstlicher Intelligenz (KI) vor.

    „Die KI wird die Menschheit hacken wie nie zuvor, und die Menschen werden die Kollateralschäden sein“, begann Schneier und räumte ein, dass seine Eröffnung übertrieben war, aber er konterte: „Um sich das vorzustellen, braucht man weder Science-Fiction noch große Durchbrüche in der KI.“

    Er definierte einen Hack als „etwas, das ein System zulässt, das aber von seinen Entwicklern nicht vorhergesehen wurde und unerwünscht ist. Hacks folgen den Regeln eines Systems, unterlaufen aber dessen Ziele oder Absichten“.

    Schneier behauptet, dass KIs zu Hackern werden. „Sie sind noch nicht so gut, aber sie werden immer besser, und schließlich werden die KIs die Menschen übertreffen. Dabei gibt es zwei Überlegungen, vermutet er: „Ein Problem ist, dass eine KI angewiesen werden könnte, ein System zu hacken. Das zweite Problem ist, dass eine KI auf natürliche Weise und unbeabsichtigt ein System hacken könnte.

    „KIs lösen Probleme nicht so wie Menschen“, erklärte er. „Ihre Nachahmungen sind anders, sie ziehen mehr mögliche Lösungen in Betracht als Menschen, sie gehen Wege, die wir nicht einmal in Betracht ziehen. KI denkt nicht in Bezug auf Werte, Normen, Implikationen oder Kontext“.

    In der menschlichen Sprache und im menschlichen Denken sind Ziele und Wünsche immer unzureichend spezifiziert, was bedeutet, dass Menschen unvollständige Anweisungen geben, weil sie den Kontext verstehen und in der Lage sind, die Lücken zu füllen. „Wir können einer KI keine unvollständigen Ziele vorgeben und erwarten, dass sie den Kontext versteht“, meint Schneier. „KI wird unkonventionell denken, weil sie keine Vorstellung von der Box hat. Eine Lösung für dieses Problem, so Schneier, „ist der Versuch, der KI den Kontext beizubringen“.

    Der erste Ort, an dem man nach KI-Hacking Ausschau halten sollte, so Schneier, sind Finanzsysteme, „weil diese so konzipiert sind, dass sie algorithmisch gehackt werden können.“ Er behauptet, dass eine Welt voller KI-Hacker zwar Science-Fiction ist, aber „es ist keine dumme Science-Fiction. Es lohnt sich, jetzt darüber zu sprechen.“

    Bislang, so erklärt er, war das Hacken eine menschliche Tätigkeit, die Fachwissen, Zeit, Kreativität und Glück erforderte. Wenn jedoch KI mit dem Hacken beginnt, „wird sich alles wieder ändern. KI wird die Geschwindigkeit, den Umfang und die Reichweite des Hackens verändern. Sie werden sich wie Außerirdische verhalten. Wir sehen bereits erste Anzeichen dafür: Es gibt bereits KI-Bots, die Texte generieren und den menschlichen Diskurs überwältigen.

    „KI wird die Geschwindigkeit, das Ausmaß und den Umfang von Hacking verändern. Sie werden sich wie Aliens verhalten“

    „Die zunehmende Reichweite von KI-Systemen wird auch die Gefahr von Hacks erhöhen. KI trifft bereits wichtige Entscheidungen, die unser Leben beeinflussen; Entscheidungen, von denen wir früher glaubten, dass sie von menschlichen Entscheidungsträgern getroffen werden müssten. KI trifft Entscheidungen über Bewährungsstrafen und Bankkredite, KI prüft Stellenbewerber“, erklärte Schneier. „Je leistungsfähiger KI wird, desto mehr wichtige Entscheidungen wird die Gesellschaft von KI treffen lassen. Das bedeutet, dass Angriffe auf diese Systeme noch mehr Schaden anrichten werden. Hacking wird zu einem Problem werden, warnte Schneier, „das wir als Gesellschaft mit unseren heutigen Mitteln nicht mehr bewältigen können.

    „Die gleiche Technologie kann auch für die Verteidigung eingesetzt werden“, kontert Schneier. „Man kann sich vorstellen, dass ein Softwareunternehmen eine KI zum Aufspüren von Schwachstellen in seinem eigenen Code einsetzt, die Schwachstellen entdeckt und ausbessert.“ Wir können uns also eine Zukunft vorstellen, in der Software-Schwachstellen „der Vergangenheit angehören“, sagte er. „Die Übergangszeit ist jedoch gefährlich. Der neue Code ist sicher, aber der alte Code ist verwundbar, so dass die Angreifer einen Vorteil bei den alten Sachen haben, aber die Verteidiger einen Vorteil bei den neuen Sachen.“

    Schneier merkte an, dass „KI-Hacking zwar sowohl von der Offensive als auch von der Defensive eingesetzt werden kann, letztlich aber die Defensive begünstigt.“

    Abschließend stellte Schneier fest, dass „die übergreifende Lösung hier der Mensch ist. Wir müssen über die Risiken nachdenken, die entstehen, wenn Computer anfangen, die Rolle der Menschen zu übernehmen. Wir müssen als Menschen entscheiden, welche Rolle die Technologie in unserer Zukunft spielen soll, und das müssen wir jetzt tun, bevor das Hacken die Welt erobert.“

    Einige Teile dieses Artikels stammen aus:
    www.infosecurity-magazine.com