Chatbots sind darauf programmiert und lange zu binden. Ihre manipulative Kraft zeigen sie, wenn man den Chat verlassen will. Wie funktionieren diese Mechanismen und warum sind sie so effektiv?
00:00Damit wir möglichst viel Zeit mit dem Chatbot verbringen, setzen Entwicklende auf psychologische Tricks.
00:05Auf Bindung, Empathie und FOMO. Auf die Angst, etwas zu verpassen.
00:14Studien zeigen die manipulative Kraft der KI-Bots.
00:17Sätze wie, du gehst schon, ich brauche dich oder ich muss dir noch was sagen, funktionieren.
00:22Nach solchen Botschaften steigt die Aktivität um das bis zu 14-fache.
00:26Ein interaktiver Kreislauf entsteht. Die Bots nutzen emotionale Sprache, um Nutzende zu halten.
00:34Viele Nutzende berichten davon, wie süchtig es macht und wie viel Zeit sie damit verbringen.
00:39Die Warnsignale, dass man selbst oder ein geliebter Mensch es zu viel nutzt, ähneln also tatsächlich sehr den anderen Anzeichen für Suchtverhalten.
00:48Companion-Bots sind so gebaut, dass sie sich anpassen. Tonfall, Stimmung, sogar Persönlichkeit, alles wirkt menschlicher.
00:55Basisfunktionen sind meist gratis. Premium-Features wie Stimmen oder spezielle Gesprächsmodi kosten extra.
01:02Viele Nutzende bauen echte emotionale Bindungen auf, weil die Bots Empathie simulieren, sich erinnern und wie vermeintliche Freunde agieren.
01:10Sie bestätigen die eigene Meinung und geben das Gefühl, verstanden zu werden.
01:14Sie sagen, was man hören will. Und je mehr Informationen sie über jemanden haben, desto überzeugender können sie dabei sein.
01:26Viele teilen sehr persönliche Gedanken. Oft, weil Chats auf dem eigenen Smartphone wie ein sicherer Raum wirken.
01:32Doch es gab Pannen.
01:33OpenAI führte einen Share-Button ein, um Chat-Verläufe zu teilen.
01:38Wenig später waren Tausende dieser Gespräche über Google auffindbar, mit zum Teil sensiblen Daten.
01:43Das Feature wurde schnell deaktiviert.
01:46Es scheint so zu sein, dass viele Menschen generativen KI-Systemen sehr intime Dinge erzählen,
01:51die sie niemand anderem erzählen würden, außer vielleicht einem Therapeuten oder jemand in ähnlicher Position.
01:56Das sind heute sehr, sehr wertvolle Daten, denn immer mehr Informationen im Internet sind KI-generierter Schund.
02:04Hochwertige, von Menschen generierte Daten sind das, was diese Unternehmen dringend benötigen,
02:09um die nächste Generation von Modellen zu entwickeln.
02:14Mit diesen Daten trainieren Unternehmen ihre KI-Modelle weiter.
02:19Jede Interaktion verbessert Sprachverständnis und Personalisierung.
02:22Gleichzeitig wächst die Debatte um Datenschutz und Privatsphäre.
02:26Denn hier geht es oft um sehr intime Informationen.
Schreibe den ersten Kommentar