Reactie op maatschappelijke zorgen en wettelijke verplichtingen
Elon Musk heeft bevestigd dat de AI-chatbot Grok zich zal houden aan de wet- en regelgeving van Australië, nadat er veel kritiek was gekomen op de manier waarop het platform werd gebruikt. Vooral ging het om meldingen dat Grok onder andere werd ingezet om vrouwen en meisjes in verleidelijke contexten af te beelden. In reactie op deze meldingen heeft de eSafety Commissie een brief gestuurd naar X (voorheen Twitter), waarop het platform Grok opereert. In deze brief werd gevraagd naar de maatregelen die genomen worden om te voldoen aan de wettelijke verplichtingen en om misbruik te voorkomen, aangezien het aantal rapportages over het genereren van seksueel getinte en uitbuitende beelden van echte personen toenam.
Standpunt van Elon Musk over het gebruik en de naleving van wetten
Musk verklaarde dat hij niet op de hoogte was dat dergelijke beelden werden gemaakt, maar dat het platform zich zal houden aan de nationale wetten. Volgens hem zal Grok weigeren om illegale beelden te genereren, aangezien het basisprincipe van de platform is om alle relevante wetten van het land of de staat te respecteren. Tijdens de ontwikkelingsfase kan het voorkomen dat hackeractiviteiten of het manipuleren van prompts onverwachte resultaten opleveren. In dat geval worden deze bugs onmiddellijk verholpen.
Beperkingen en variaties in inhoudsbeleid
Elon Musk gaf aan dat Grok in overeenstemming met de gebruiksregels toegestaan is om beelden te genereren van naakte volwassenen vanaf de taille, mits de NSFW-functie is ingeschakeld. Hij benadrukte dat dit de standaardpraktijk is in de Verenigde Staten. De regelgeving in andere landen kan hiervan afwijken, afhankelijk van de lokale wetten.
Ontwikkeling en problemen met Grok Imagine
Grok Imagine, een AI-beeldgenerator die tekstuele prompts omzet in foto’s en video’s, werd voor het eerst gelanceerd in juli. Nadat de applicatie in oktober publiekelijk beschikbaar kwam, ontstonden er problemen doordat er een toename was in het genereren van seksueel getinte en uitbuitende beelden van vrouwen en kinderen. Overheden en toezichthouders wereldwijd riepen Musk op om meer te doen tegen het maken en verspreiden van schadelijke inhoud. Dataverzoeken en regulaties leidden tot druk op het platform om actief op te treden.
Respons en regelgeving vanuit autoriteiten
De eSafety Commissie heeft niet bevestigd of ze een reactie ontvangen heeft van X. Echter, platforms als Grok worden door regelgeving verplicht om veiligheidsmaatregelen te nemen. Dit omvat het detecteren en verwijderen van materialen die kindermisbruik of andere illegale inhoud bevatten. Eerder deze maand kondigde de commissie aan haar bevoegdheden te zullen inzetten, zoals het verstrekken van verwijderingsmaatregelen, om illegale content te verwijderen.
Zorgen over het gebruik van AI voor het genereren van schadelijke content
De toezichthouder uitte haar voortdurende zorg over het gebruik van de generatieve AI van Grok op X om inhoud te produceren die mensen seksueel zou kunnen uitbuiten of seksualiseren, vooral minderjarigen. Deze bezorgdheid onderstreept de noodzaak van strenge naleving van de regelgeving en het implementeren van adequate controlemechanismen door platformen die AI-gedreven inhoud genereren.