Kann KI die Radikalisierung im Netz stoppen?

DW (Deutsch)

Wie lässt sich Radikalisierung im Netz stoppen? Der Informatikstudent Sairaj Balaji hat ein KI-Tool entwickelt, das Extremisten erkennt und mit ihnen spricht – um sie von Hass und Gewalt abzubringen.

Transcript

00:00Online-Radikalisierung ist ein Problem, das im politischen Spektrum alle Seiten betrifft.

00:05Wir wollen keine Menschen, die andere Menschen töten.

00:10Sairaj Balaji ist 20 und studiert Informatik in Chennai in Indien.

00:15Er hat PrismX entwickelt. Das Tool soll radikalisierte Nutzer im Netz erkennen.

00:20Ist das passiert, soll ein KI-Chatboard mit solchen Nutzern in Kontakt treten und sie deradikalisieren.

00:25Das ist das PrismX-Dashboard. Ich gebe hier einfach das Stichwort ein.

00:30FGC 9. Ein Codewort zur Beschreibung von 3D-gedruckten Waffen. Dann klicke ich auf Ausführen und Scannen.

00:37Mithilfe von KI-Sprachmodellen kann PrismX ganze Social-Media-Netzwerke nach radikalen Inhalten durchsuchen.

00:44Es kann die Radikalität von Accounts, Posts und Kommentaren bewerten und einen detaillierten Bericht erstellen.

00:51Zurzeit läuft PrismX aber nur als Testversion.

00:55Im Moment haben wir zwölf markierte Nutzer. Mit ihnen kann der Bot dann sprechen.

01:00Zurzeit kommunizieren wir aber nur mit Dummy-Accounts. Dahinter stecken also keine realen Personen.

01:07Der Bot versucht, das Vertrauen des Nutzers zu gewinnen, um ihn von seiner radikalen Überzeugung abzubringen.

01:13Um überzeugender zu wirken, gibt er sich dabei nicht als Bot zu erkennen.

01:17Mittlerweile kommunizieren KI-Bots so ausgeklügelt, dass sie von echten Menschen kaum zu unterscheiden sind.

01:24Die Technologie ist inzwischen sehr leicht nutzbar.

01:29Was ich mit PrismX zeigen will, ist, dass jemand wie ich das hier tun kann, ohne Ausbildung in Radikalisierung oder Deradikalisierung.

01:37Wenn ich das kann, kann das auch die Regierung und auch die Unternehmen.

01:40Und die werden ihnen nicht sagen, ob sie es tun oder nicht.

01:43Und sie als Nutzer wissen auch nicht mehr, ob ihr Chatpartner echt ist oder nicht.

01:47Seit sein Tool in den Medien Beachtung gefunden hat, erhält Seiraj auch viele negative Kommentare.

01:54Denn ein Tool wie PrismX könnte auch viel Schaden anrichten.

01:58Und in falschen Händen Menschen radikalisieren.

02:00Was auch immer sie sagen, was auch immer sie posten, kann von so einem Tool aufgegriffen werden.

02:07Es kann ein Profil von ihnen erstellen, sie ins Visier nehmen.

02:10Eine komplexere Version eines Tools wie PrismX könnte Unruhen entfachen.

02:14Es könnte Zwietracht säen.

02:16Es könnte die Meinung vieler Menschen zu einem bestimmten Thema ändern.

02:19Es könnte auch Menschen identifizieren, die für Radikalisierung anfällig sind und sie zu Terroristen machen.

02:24Und zwar automatisiert und in großem Umfang.

02:27Stellen Sie sich vor, wie beängstigend das ist.

02:30Vielen Dank.

Kategorie

Transkript

Schreibe den ersten Kommentar

Empfohlen