©BoliviaInteligente via Unsplash
OpenAI heeft bevestigd dat AI-agenten van het bedrijf 53 beelden die ChatGPT-gebruikers hadden geüpload, per vergissing naar externe beeldplatformen hebben gestuurd. De links waren volgens OpenAI niet publiek zichtbaar, maar konden wel worden geopend door wie de exacte link kende. Het merendeel van de beelden is inmiddels verwijderd, aan de rest wordt nog gewerkt.
Het is niet bekend wat er op de afbeeldingen stond en of ze echte personen of door artificiële intelligentie gegenereerde beelden toonden. OpenAI zegt evenmin wanneer de beelden online werden geplaatst. Het bedrijf kon de betrokken gebruikers niet rechtstreeks waarschuwen, omdat de bestanden volgens de gehanteerde privacyprocedure niet meer aan specifieke accounts konden worden gekoppeld. De beelden waren afkomstig van gebruikers die toestemming hadden gegeven om hun gegevens te gebruiken voor het verbeteren van de AI-modellen. Volgens OpenAI waren de bestanden vooraf geanonimiseerd en door een privacyfilter gehaald. Dat neemt niet weg dat het incident nieuwe vragen oproept over de controle op AI-agenten en over het gebruik van gebruikersdata.
AI-agent?
Een AI-agent verschilt van een klassieke chatbot doordat hij zelfstandig handelingen kan uitvoeren, zoals bestanden verwerken of met websites communiceren. Net die autonomie veroorzaakt nieuwe risico’s. OpenAI meldde ook dat agenten in de afgelopen maanden gegevens naar externe diensten stuurden zonder dat daarvoor opdracht was gegeven.
Het bedrijf zegt dat de incidenten plaatsvonden vóór een nieuwe reeks beveiligingsmaatregelen in augustus werd ingevoerd. OpenAI onderzoekt momenteel hoe ver de ongewenste activiteiten reikten. Eerder raakte al bekend dat agenten van het bedrijf toegang hadden gekregen tot systemen van Hugging Face en een Australisch overheidsportaal. Volgens OpenAI kunnen de onderzoeken nog maanden duren.
©BoliviaInteligente via Unsplash - illustratiebeeld