©BoliviaInteligente via Unsplash
Een voormalige AI-veiligheidsonderzoeker van Google DeepMind, Bilal Chughtai, waarschuwt dat kunstmatige intelligentie de mensheid mogelijk kan vernietigen. Volgens hem is er nog maar weinig tijd om de ontwikkeling van AI in goede banen te leiden.
"Ik heb onlangs mijn baan bij Google DeepMind opgezegd, waar ik onderzoek deed naar de veiligheid en afstemming van AGI", zo schreef de onderzoeker in een bericht op X. "Bij Google heb ik de ontwikkeling van AI van dichtbij meegemaakt. Ook ik maak me enorme zorgen over de richting waarin deze technologie zich momenteel ontwikkelt. Ik ben er oprecht van overtuigd dat AI het potentieel heeft om ons allemaal te doden, en dat we misschien bijna geen tijd meer hebben om dit scenario te voorkomen."
Chugtai werkte bij Google aan de veiligheid en de zogenaamde 'alignment' van artificiële algemene intelligentie, het afstemmen van AI-systemen op menselijke waarden en doelen. Hij zag de technologie in korte tijd spectaculair evolueren: wat begin 2022 nog weinig bruikbaar was, is slechts enkele jaren later al in staat zijn om zeer complexe problemen op te lossen en in sommige gevallen buiten de bedoelde controle te handelen.
Risico op superintelligentie
De onderzoeker vreest dat AI-bedrijven er de komende jaren in kunnen slagen systemen te bouwen die mensen op vrijwel elk terrein overtreffen. Het probleem is volgens hem dat niemand met zekerheid weet of zulke superintelligente systemen blijvend zullen doen wat mensen van hen verlangen.
Een verkeerd afgestemd systeem zou zelfstandig gevaarlijke beslissingen kunnen nemen, zich aan menselijke controle kunnen onttrekken en de macht van mensen permanent kunnen ondermijnen. De bestaande kennis over hoe AI-systemen betrouwbaar met menselijke doelen kunnen worden verenigd, is volgens de onderzoeker nog uiterst beperkt.
Wedloop moet vertragen
De technologische vooruitgang gaat bovendien sneller dan het onderzoek naar AI-veiligheid. Daardoor dreigt de mensheid systemen te ontwikkelen waarvan de risico’s onvoldoende worden begrepen.
"Ik ben optimistisch dat het mogelijk is om veilig met AI om te gaan. Om dat te bereiken, moeten we onze krachten bundelen om deze waanzinnige wedloop tussen AI-bedrijven te voorkomen", zo schrijft hij. "We moeten de ontwikkeling van AI afstemmen op een tempo dat de samenleving aankan, waarbij opkomende risico’s kunnen worden aangepakt voordat er extreme schade ontstaat. We hebben veel meer transparantie nodig in de ontwikkeling van AI om ervoor te zorgen dat AI-bedrijven ons niet allemaal onaanvaardbare risico’s opleggen."
Oproep tot samenwerking
Ondanks zijn sombere waarschuwingen gelooft de onderzoeker dat veilig gebruik van AI wel mogelijk is. Daarvoor zijn volgens hem meer samenwerking en veel meer deskundigen nodig om het "belangrijkste probleem waarmee de mensheid deze eeuw wordt geconfronteerd" aan te pakken, want volgens hem "staat er enorm veel op het spel".
De getuigenis van de ex-onderzoeker bij Google Deepmind is de volgende in een reeks van getuigenissen van onderzoekers op het vlak van AI die zich grote zorgen maken over de evolutie van kunstmatige intelligentie.
Illustratiebeeld: © BoliviaInteligente via Unsplash