Technik 19.11.2020
Moderatoren sollen so Postings besser identifizieren können, die auf Probleme mit dem mentalen Wohlbefinden hinweisen. Doch anders als in den USA, kann das System aufgrund der Datenschutzgrundverordnung (DSGVO) nicht automatisch mttels Künstlicher Intelligenz (KI) solche Inhalte erkennen, sondern nur auf direkte Hinweise von Usern reagieren.
'Wenn eine neue Technologie zum Einsatz kommt, um den mentalen Gesundheitszustand von Usern zu ermitteln, muss es eine Datenschutzfolgenabschätzung geben. Das bedeutet, dass das jeweilige Unternehmen in Zusammenarbeit mit den zuständigen Behörden überprüft, ob die eingesetzte KI ein Risiko für die Rechte und Freiheiten der Betroffenen darstellt. Denn nimmt das System Fehleinschätzungen vor, kann es Anwendern schaden', erklärt Datenschutzexperte Alexander Dobert gegenüber pressetext.
Momentan spricht Instagram mit europäischen Datenschutzbehörden, allen voran der irischen Data Protection Commission. Weil die Muttergesellschaft Facebook ihren europäischen Hauptsitz in Dublin hat, ist vor allem diese Institution für die datenschutzrechtlichen Fragen der Plattform zuständig. Laut Instagram wird versucht, eine Lösung zu finden, die sowohl die Rechte als auch die Sicherheit von Usern schützt.
Instagram nutzt in den USA einen mit Machine Learning trainierten Algorithmus, der Suizid-Inhalte findet und menschliche Moderatoren auf sie aufmerksam macht. Je nach Fall erhalten die Betroffenen Hinweise auf Möglichkeiten, sich Hilfe zu suchen, in Extremsituationen verständigt Instagram sogar selbst die Notdienste.
Der DSGVO zufolge kann die Plattform das in Europa aber nur tun, wenn Nutzer bestimmte Postings direkt melden. Der Algorithmus und die Moderatoren können von sich aus keine Einschätzung über den Zustand der mentalen Gesundheit abgeben. Instagram will aber seine Technologie voll ausnutzen, um möglichst schnell reagieren zu können und auch gefährliche Inhalte zu entfernen.
Weiter in der Web-Version mit Fotos, Videos, Links und mehr...
#Instagram #Suizid #Werkzeuge #Datenschutz #DSGVO
Auch interessant!
KI gegen Suizide
Ein neuer Algorithmus erkennt mit einer Genauigkeit von 91 Prozent, ob ein Jugendlicher suizidales Verhal...
Milliarden für Sicherheit
Facebook wehrt sich gegen Kritik, die Nutzer nicht genug vor Fake News, Hass-Postings und andere schädlic...
Tumore mit KI erkannt
Krebs- und gesunde Zellen sind oft schwer zu unterscheiden. Forscher der National University of Singapore...
Arbeitsleistung versus Social Media
Das Social-Media-Phänomen 'Fear of missing out' (FOMO) wirkt sich negativ auf die Arbeitsleistung von Ang...
Wahnsinn in Twitter
Ungezügelte Twitter-Nutzung kann Wahnvorstellungen auslösen, wie der dramatische Fall einer 31-Jährigen z...
Gute Taten im Social Web
Quora hat seine Rezipienten dazu aufgefordert, über ihre freundlichste Tat im Leben zu berichten. Über 20...
Meldestelle oder Seelsorge 2.0?
Gerade nach Weihnachten kommen seelische Probleme oft an den Tag. Wo die Psyche unter dem Jahr viel verbe...
Massen-Selbstmord in Facebook
Ein Kunstprojekt bekommt nun ordentlich Gegenwind rechtlicher Natur von Facebook. Es will den Selbstmord ...