High School in New Jersey worstelt met schandaal over door AI gegenereerde beelden

Amusement

Een onderzoek door de politie en een reactie van ouders zijn aangewakkerd door door AI gegenereerde obscene foto's van vrouwelijke studenten op een middelbare school in New Jersey. Mannelijke klasgenoten maakten de foto’s, die vervolgens werden gedeeld, zo blijkt uit een rapport.

Het incident concentreert zich op Westfield High School, gelegen in een rijke enclave ongeveer 40 kilometer ten westen van Manhattan, aldus Forbes.

Studenten vertelden The Wall Street Journal dat een of meer van hun vrienden deze pornografische foto's hadden gemaakt met behulp van een AI-applicatie op internet, die ze vervolgens deelden met hun sociale medianetwerk.

Een bezorgde moeder zei dat haar dochter op 16 oktober vreemd gedrag had waargenomen onder de tweedejaarsjongens van de school.

De ware aard van deze activiteiten – het creëren en verspreiden van pornografische afbeeldingen die zijn gemaakt door het wijzigen van internetfoto’s van meisjes en die worden gedeeld via groepschats – werd pas op 20 oktober onthuld door een medestudent.

Ouders verklaarden ook dat beheerders van de school enkele vrouwelijke kinderen vertelden over hun associatie met deze nep-, expliciete foto's. De school wil echter niet bevestigen of personeelsleden deze foto's uit de eerste hand hebben gezien.

Dorota Mani, een andere ouder, uitte haar zorgen over haar 14-jarige dochter Francesca, wiens foto werd gebruikt om een ​​‘deepfake’ te maken. Geavanceerde vervalsingen die sterk op echte foto's lijken, worden deepfakes genoemd. Mani heeft aangifte gedaan bij de politie nadat ze haar zorgen had geuit over de mogelijke gevolgen voor het persoonlijke en professionele leven van haar dochter.

Sensity, een bedrijf dat zich bezighoudt met visuele dreigingsinformatie, beweert dat meer dan 90% van de deepfake-beelden expliciet van aard zijn en vaak de gelijkenis van bekende mensen bevatten.

Ouders van de ongeveer 1.900 leerlingen van Westfield High School werden door directeur Mary Asfendis over de gebeurtenis geïnformeerd. Ze gaf hen haar woord dat de foto's waren verwijderd en niet langer in gebruik waren.

Asfendis benadrukte hoe ernstig de situatie was en hoe cruciaal het was dat studenten de gevolgen van hun gedrag begrijpen. Ook beloofde ze leerlingen te blijven instrueren hoe ze verantwoord met technologie om kunnen gaan.

Informatie over hoeveel van de studenten betrokken waren bij het maken van deze fictieve obscene foto's en over eventuele disciplinaire maatregelen die zijn genomen, wordt niet gedeeld.

De eerste vrouwelijke burgemeester van Westfield, Shelley Brindle, beloofde te strijden voor de rechten van vrouwen en meisjes en uitte haar diepe bezorgdheid.