Kürzlich wurden in Kanada acht Menschen erschossen, sechs von ihnen in einer Schule. Jetzt wird bekannt, dass Chatbot-Betreiber OpenAI schon vor der Tat das Konto der mutmaßlichen Schützin sperrte.
Ottawa - Zwei Wochen nach den tödlichen Schüssen an einer Schule in Kanada werfen Chatbot-Unterhaltungen der mutmaßlichen Täterin Fragen auf. Das leitende Sicherheitsteam des ChatGPT-Entwicklers OpenAI werde heute zu Gesprächen in Ottawa erwartet, sagte der kanadische Minister für Künstliche Intelligenz, Evan Solomon. Es geht auch um den Umgang der Plattformbetreiber mit solchen Inhalten.
Nach der Werbung weiterlesen
Zuvor war bekanntgeworden, dass OpenAI das Konto der mittlerweile toten Tatverdächtigen im Juni gesperrt hatte, weil diese den KI-Chatbot zur "Förderung gewalttätiger Aktivitäten" missbraucht habe, berichtete der Sender CBC. Die Aktivitäten des Kontos hätten die Schwelle für eine Weiterleitung an die Strafverfolgungsbehörden aber nicht erreicht, zitierte der Sender aus einer Stellungnahme von OpenAI. "Wir wollen ein besseres Verständnis dafür bekommen, was geschieht und wie OpenAI vorgeht", erklärte Minister Solomon.
Eine 18-Jährige soll am 10. Februar im westkanadischen Ort Tumbler Ridge acht Menschen getötet haben, sechs davon in einer Schule. Unter den Opfern waren Schülerinnen und Schüler, eine Lehrkraft sowie die Mutter und der Stiefbruder der mutmaßlichen Schützin, die sich anschließend selbst tötete.
Laut Polizei war bekannt, dass die Verdächtige psychische Probleme hatte. Nach Angaben der Ermittler war sie bei der Geburt als männlich registriert worden. Die "Transition zur Frau" habe Jahre vor der Tat begonnen, hieß es kurz nach den tödlichen Schüssen.
Kanadischen Medien zufolge handelt es sich bei der Gewalttat um den schlimmsten Vorfall dieser Art an einer Ausbildungsstätte in dem nordamerikanischen Land seit 1989.
OpenAI habe erwogen, kanadische Behörden über die ChatGPT-Interaktionen der zum Tatzeitpunkt 18-Jährigen zu informieren, berichtete das "Wall Street Journal" am Freitag unter Berufung auf informierte Kreise. Über mehrere Tage habe sie ChatGPT demnach Szenarien beschrieben, die auch Waffengewalt beinhalteten.
Ihre Beiträge seien bei einer automatisierten Überprüfung erfasst worden. Daraufhin sei den Quellen der Zeitung zufolge bei OpenAI intern diskutiert worden, ob eine reale Bedrohung existiere und ob kanadische Behörden informiert werden sollen. Letztlich sei dagegen entschieden worden, hieß es in dem Bericht.
OpenAI habe nach der Tat die kanadische Polizei kontaktiert und unterstütze die Ermittlungen, berichtete das "Wall Street Journal" unter Berufung auf das Unternehmen. OpenAI erklärte demnach weiter, das Unternehmen wäge das Risiko von Gewalt gegen den Schutz der Privatsphäre ab. Dabei berücksichtige OpenAI die mögliche Belastung für Betroffene, die durch eine unnötige Einschaltung der Polizei entstehen könne.
