Die digitale Arbeit und Kommunikation von rund fünf Millionen Schülern in der USA werden von dem Dienstleister Gaggle überwacht. Das Programm soll helfen, tödliche Taten zu verhindern und Kinder und Jugendliche zu "guten Bürgern" zu erziehen. Es klinkt sich in Microsoft Office 365 und Googles G Suite ein und bezieht Nachrichten aus Facebook, Twitter, Instagram und anderen sozialen Netzwerken.

Mit Künstlicher Intelligenz werden Chats, Dokumente, E-Mails und Kalendereinträge gefiltert und mit einer schwarzen Liste abgeglichen. Auffälligkeiten würden dann von menschlichen Begutachtern geprüft. Schuladministratoren können dabei auf einem "Dashboard" die "Regelverletzungen" der einzelnen Schüler einsehen. Dabei werde in drei Risikogruppen eingeteilt.

Gaggle habe laut eigenen Angaben im jüngsten Schuljahr rund 52.000 Hinweise auf Absichten für Selbstmorde und -verletzungen ausgemacht. Darunter seien aber auch Fehleinschätzungen gewesen. Den Einsatz des Systems sehen Experten kritisch. Sarah Roberts, Expertin für "Content Moderation" an der University of California in Los Angeles sagte, dass es sich offenbar um eine "Lösung auf der Suche nach einem Problem" handle.

(tl, hannover)

(siehe auch: Heise-News-Ticker)

Hannover · EDV-Beratung · Linux · Novell · Microsoft · Seminar · IT-Consult · Netzwerk · LPIC · CLE