Bang voor de killer robots?

Bob Hardus

Bob Hardus

Hoewel belangrijke banen geen leeftijdsgrenzen kennen, getuige ook de vers gekroonde Britse koning, is het misschien niet vreemd dat een man van 75 zijn taken neerlegt. Geoffrey Hinton, die afgelopen week zijn baan als AI-onderzoeker bij Google opzegde, is inderdaad nog een jaartje ouder dan Charles. Desondanks werd het nieuws breed uitgemeten in de pers, zelfs rapper Snoop Dogg liet zich niet onbetuigd. Waarom?

Het artikel waar het allemaal mee begon stond in The New York Times. Een interview door Cade Metz, dezelfde journalist die in 2021 het boek Genius Makers publiceerde. Een meeslepend verhaal over de ontwikkeling van een bepaald soort kunstmatige intelligentie; gebaseerd op neurale netwerken. Het deelgebied van de wetenschap rondom AI die zich sinds de jaren tachtig van de vorige eeuw in relatieve luwte heeft ontwikkeld, doet de wereld nu met de komst van ChatGPT, Dall-E en andere chatbots en beeldgeneratoren versteld staan.


Bidding war

Het boek Genius Makers begint met een bidding war die Hinton in 2012 uiteindelijk 44 miljoen dollar opleverde. Voor wat precies? Voor het concept van een AI op basis van neurale netwerken. Concreet heeft Hinton op dat moment niet meer dan een klein team van wetenschappers om zich heen verzameld (waaronder Ilya Sutskever, nu mede-oprichter en ‘chief scientist’ van OpenAI – het bedrijf achter DALL-E en ChatGPT – en Yann LeCun – Chief Scientist van Meta). En dat team heeft in 2012 net een prijs gewonnen voor hun AI waarmee ze de inhoud van plaatjes beter kunnen vaststellen dan alle andere beschikbare systemen. Google, maar ook Microsoft en het Chinese Baidu wilden niets liever dan de wetenschappers inlijven. Uiteindelijk sleepte Google het felbegeerde team wetenschappers binnen. De rest is history in the making. Nu gooit Hinton de handdoek in de ring.

 

‘Tot vorig jaar trad Google op als een goede rentmeester voor de technologie, voorzichtig om niets vrij te geven dat schade zou kunnen aanrichten. Maar nu Microsoft zijn zoekmachine Bing heeft uitgebreid met een chatbot – een uitdaging voor de kernactiviteiten van Google – racet Google om dezelfde soort technologie in te zetten. De techreuzen zijn verwikkeld in een competitie die misschien wel onmogelijk te stoppen is,’ aldus Hinton in het interview. Hij vreest dat het internet zal worden overspoeld met fake foto’s, video’s en tekst, en dat de gemiddelde persoon niet meer zal weten wat echt is en wat niet.


De komst van ‘Killer Robots’

Nu zijn chatbots zoals ChatGPT vaak nog een aanvulling op menselijke werknemers, maar ze kunnen juristen, persoonlijke assistenten, vertalers en anderen straks vervangen. Het neemt niet alleen het saaie werk over, denkt Hinton, maar meer dan dat. De toekomstige versies van de technologie kunnen een bedreiging vormen voor de mensheid, omdat ze vaak onverwacht gedrag leren uit de enorme hoeveelheden data die ze analyseren. ‘Dit wordt een probleem aangezien individuen en bedrijven AI-systemen niet alleen inzetten om hun eigen computercode te genereren, maar de AI’s zullen de code daadwerkelijk zelfstandig gaan uitvoeren.’ Hinton vreest de dag waarop autonome wapens – de ‘killer robots’ – werkelijkheid worden. De technologie waarvan hij zelf aan de wieg heeft gestaan, luidt dan het einde van de mensheid in. De wereld behoeden voor deze misstap door op een verantwoorde manier om te gaan met AI, ziet Hinton nu als zijn belangrijkste uitdaging.

Meer nieuws & inzichten

chatbot hacken met ascii art prompts

Chatbot hacken? Zo werkt het

AI chatbots zoals Gemini, ChatGPT, Claude en Le Chat kunnen heel gemakkelijk om de tuin geleid worden, hebben onderzoekers vastgesteld.  Een taalmodel zit vol zogeheten

Lees meer >