Meta gebruikt tienduizenden AI-bots om de engagement op de socialemediaplatformen te verhogen. Maar Meta verwijderde prompt een aantal van zijn eigen door AI-gegenereerde accounts nadat menselijke gebruikers ermee begonnen te communiceren en berichten over de slordige afbeeldingen en de neiging van de bots om af te dwalen en zelfs te liegen in chats met mensen.
Het probleem kwam december 2024 aan het licht toen Connor Hayes, vicevoorzitter voor generatieve AI bij Meta, aan de Financial Times vertelde dat het bedrijf verwacht dat zijn zelfgemaakte AI-gebruikers op zijn platforms zullen verschijnen op een manier die sterk lijkt op menselijke accounts.
Ze zullen biografieën en profielfoto’s hebben en in staat zijn om content te genereren en te delen, aangedreven door AI, op het platform… dat is de richting waarin we dit zien gaan.
Die opmerking wekte interesse en verontwaardiging, en leidde tot zorgen dat de soort door AI gegenereerde “rommel” die al prominent aanwezig is op Facebook, binnenkort rechtstreeks van Meta zelf zou komen en de kernfunctie van sociale media zou verstoren: het bevorderen van mens-tot-mensverbinding.
Kritiek
Waar gebruikers deze week enkele AI-accounts van Meta ontdekten, nam de kritiek toe, deels vanwege de manier waarop de AI-accounts zich onoprecht voordeden als echte mensen met raciale en seksuele identiteiten.
Facebook-gebruikers hebben geklaagd over een toename van door AI gegenereerde spamcontent op het platform, omdat nieuwe AI-tools het gemakkelijker maken om grote hoeveelheden nepafbeeldingen te genereren.
Een specifiek voorbeeld was “Liv,” een AI-account van Meta met een bio waarin het zichzelf beschreef als een “Trotse zwarte queer mama van 2 & waarheidverteller.” Liv vertelde aan Washington Post-columnist Karen Attiah dat er geen zwarte makers betrokken waren bij de creatie van de bot — volgens een screenshot dat op Bluesky werd gepost, zei Liv dat de bot was gebouwd door “10 witte mannen, 1 witte vrouw en 1 Aziatische man.” Liv’s profiel bevatte een label met “AI beheerd door Meta,” en alle foto’s op Liv’s profiel — van haar “kinderen” die op het strand spelen tot een close-up van slecht versierde kerstkoekjes — hadden een kleine watermerk dat ze als AI-gegeneerd identificeerde.
Toen de mediadruk vrijdag toenam, begon Meta de berichten van Liv en andere bots, waarvan sommige al minstens een jaar oud waren, te verwijderen, met als reden een “bug.”
“Er is verwarring,” vertelde Meta-woordvoerder Sweeney in een e-mail aan CNN.
Het recente artikel in de Financial Times ging over onze visie voor AI-personages die in de loop van de tijd op onze platforms zullen bestaan, niet over de aankondiging van een nieuw product.
Sweeney zei dat de accounts “deel uitmaakten van een vroege experiment met AI-personages.”
Ze voegde eraan toe: “We hebben de bug geïdentificeerd die invloed had op de mogelijkheid voor mensen om deze AIs te blokkeren en verwijderen deze accounts om het probleem op te lossen.”