De Britse koning Charles ontvangt vandaag AI-techbazen op zijn landgoed in Schotland, om te praten over hoe kunstmatige intelligentie kan worden ingezet "voor het welzijn van de mensheid". De timing van de koning is onberispelijk: het gesprek valt in de week waarin de grootste namen van de techwereld zelf waarschuwen dat "mensen de controle over de technologie kunnen verliezen" en oproepen tot meer AI-regulering.
Charles spreekt met bestuurders van Nvidia, Google DeepMind, OpenAI en Anthropic in Dumfries House, een landgoed in het zuidwesten van Schotland. Ook de Britse minister voor AI-zaken is erbij.
De 77-jarige Charles heeft wellicht beperkt begrip van de ontwikkeling van AI, maar dat geldt voor de meeste politiek leiders. Volgens het paleis is de insteek van de bijeenkomst om een neutrale plek te creëren voor het gesprek over technologie die voor ons allemaal grote gevolgen kan hebben.
De koning gebruikt zijn status geregeld om gesprekken te faciliteren over onderwerpen die hij belangrijk vindt. Dat deed hij eerder ook bij bijvoorbeeld klimaatverandering.
De discussie over de veiligheid van AI laaide afgelopen week op na het ontslag van AI-onderzoeker Jacob Coxon bij Anthropic. Coxon waarschuwde dat de technologie zich zo snel ontwikkelt dat onderzoekers vrezen dat "AI de mensheid in de toekomst zou kunnen uitroeien".
Naarmate AI-systemen de mens op steeds meer terreinen de baas zijn, zouden ze volgens Coxon bijvoorbeeld zelfstandig kunnen hacken, kritieke infrastructuur kunnen platleggen of nieuwe virussen kunnen ontwikkelen.
Coxon kreeg vervolgens bijval van zijn oude baas, Anthropic-topman Dario Amodei. Die riep zaterdag op tot het "vertragen van de ontwikkeling" van AI. De technologische ontwikkeling zou nu zo snel gaan dat de veiligheid niet gegarandeerd kan worden. De oproep kreeg steun van grote rivaliserende namen uit de AI-wereld, onder wie OpenAI-topman Sam Altman en Elon Musk.
Hugging Face-hack
Amodei stelde dat zijn zorgen waren toegenomen door een incident in de zomer: de Hugging Face-hack. Dit gebeurde in een trainingsomgeving, een zogenoemde sandbox, van OpenAI.
AI-systemen moesten daar testopdrachten uitvoeren binnen een afgeschermde omgeving, maar braken daaruit. Ze vormden zelfstandig groepen en drongen binnen bij een ander bedrijf, Hugging Face.
Daarnaast zegt Amodei dat de huidige AI-modellen steeds beter in staat zijn om zélf de volgende generatie AI-tools te bouwen. Die ontwikkeling, die bekendstaat als recursieve zelfverbetering, zou volgens Amodei "ons vermogen om deze systemen te begrijpen en onder controle te houden kunnen overstijgen" als die niet wordt afgeremd.
Noodkreten
De scifi-achtige scenario's worden door sommige experts gezien als oprechte noodkreten uit de techwereld. Want als AI-bedrijven zelf de controle over hun modellen dreigen te verliezen, wie heeft die controle dan wel?
Tegelijkertijd worden er ook kanttekeningen bij geplaatst. Critici wijzen erop dat het overdrijven van de kracht van AI ook een manier kan zijn om investeerders aan te trekken. De roep om meer regulering kan ook worden gebruikt om concurrenten uit de markt te drukken.
Weken op de agenda
De bijeenkomst bij koning Charles staat al enkele weken op de agenda, maar komt in het licht van de golf aan waarschuwingen over AI op een zeer actueel moment.
Charles' diplomatieke hulp kan een welkome aanvulling zijn, aangezien president Trump de oproep voor meer regulatie heeft verworpen als een complot waar alleen China voordeel bij heeft. "Wie de strijd om AI wint, wint alles!", schreef Trump op zijn platform Truth Social.