Kunstmatige intelligentie

Experts hebben kritiek op zelfmoordpreventie Facebook

2 januari 2019 om 11:46
Laatste update: 2 januari 2019 om 12:33

Facebooks wereldwijde maar vage aanpak van zelfmoord onder zijn gebruikers is onjuist en misschien zelfs onveilig.

Dat zeggen verschillende experts tegen The New York Times. Facebook gebruikt algoritmes en meldingen van gebruikers om suïcidale gebruikers op te sporen. Meldingen worden door sociale Facebook-medewerkers beoordeeld, en waar nodig wordt de plaatselijke politie of hulpverlening ingeschakeld. Facebook-ceo Mark Zuckerberg schreef onlangs dat het programma wereldwijd zo'n 3.500 mensen heeft geholpen.

Experts vrezen echter dat de aanpak van Facebook juist onbedoeld kan aanzetten tot zelfmoord of niet-suïcidale mensen het psychiatrische traject in kan dwingen. Ook wordt getwijfeld aan de effectiviteit en veiligheid van de aanpak, omdat Facebook geen cijfers deelt rond zijn programma en afwegingen van medewerkers niet bekendmaakt. In Europa is de automatische zelfmoordpreventie van Facebook niet actief, omdat Facebook in het kader van de privacywet niet ongevraagd medische dossiers van mensen mag bijhouden.

The New York Times vroeg vier Amerikaanse politierapporten op over zaken die werden aangezwengeld door de zelfmoordpreventie van Facebook. Zo noemt de krant een zaak uit de Amerikaanse staat Ohio, waar een vrouw op Facebook gezegd zou hebben zelfmoord te willen plegen. Hoewel ze dat ontkende tegenover een agent, werd ze toch gedwongen om in het ziekenhuis een geestelijke evaluatie te ondergaan.

Politie soms net op tijd

Maar er zijn ook twee gevallen waarbij de politie door Facebook werd ingelicht terwijl gebruikers hun zelfmoord live uitzonden via het sociale netwerk. De Facebook-medewerker leidt agenten telefonisch op basis van het uitzicht in de video naar het juiste huis. In één van de gevallen werd een suïcidale tiener zo op tijd gevonden, in een ander geval was de politie te laat.

Volgens critici speelt Facebook op die manier de rol van publieke gezondheidsinstantie, terwijl het proces daarachter wordt beschermd als bedrijfsgeheim. "Het is moeilijk om te bepalen waar Facebook op inspringt, en of de gekozen reacties zich wel verhouden tot het risico", zegt John Torous, hoofd van de afdeling digitale psychiatrie van het Beth Israel Deaconess Medical Center in Boston, tegen The New York Times. "Het is een medische zwarte doos."

"In dit klimaat waarin vertrouwen in Facebook afbrokkelt, vind ik het zorgwekkend dat Facebook zegt: 'vertrouw ons hierop'", zegt Mason Marks, onderzoeker gezondheidsrecht van de Yale Law School. Facebook zegt dat het liever het zekere voor het onzekere neemt. "Hoewel onze methoden niet perfect zijn, hebben we besloten om te neigen naar mensen zo snel mogelijk hulp bieden", zegt een woordvoerder van Facebook.