Het is een van de belangrijkste onderwerpen bij de ontmoeting tussen de Amerikaanse president Donald Trump en de Chinese president Xi Jinping morgen: kunstmatige intelligentie. De VS en China strijden om de leiding op het gebied van AI, die beide landen zien als cruciaal voor hun economische en militaire slagkracht.
Voorafgaand aan de gesprekken stelde Washington een soort hotline voor om informatie te delen over ernstige bedreigingen door kunstmatige intelligentie. Aanleiding was de waarschuwing van AI-topmannen dat de ontwikkeling van AI-modellen te snel gaat, en zelfs de mensheid kan uitroeien.
Trump en Xi vinden die waarschuwing overdreven en Trump laat bovendien weten dat hij niet van plan is de AI-race van China te verliezen. Zijn de wereldleiders echt bereid tot regels tegen AI-wapens, of is het toch wachten op een ramp?
Nucleaire wapens
Koen Aartsma, onderzoeker bij het Clingendael Instituut, denkt dat afspraken "goed mogelijk" zijn. "We zagen dat eerder met nucleaire wapens. Men realiseerde zich dat die ontwikkelingen ontzettend destructief konden zijn. Helaas waren er toen wel eerst bommen in Japan voor nodig. Maar toch, als je het glas halfvol wil zien, is het deels gelukt om regels op te stellen."
Twee jaar geleden schreef Aartsma al een scenario over AI waarin hij sprak over 'massaontwrichtingswapens'. "Er is best een scenario mogelijk waarin AI zelf, of in opdracht van, dingen gaat doen die een enorme ontwrichtende werking hebben." Denk aan het afsluiten van stroom of de watertoevoer.
Mensheid uitroeien: onzin, of niet?
Volgens Anthropic-topman Dario Amodei, de ontwikkelaar van AI-model Claude, zouden AI-agents binnen twaalf maanden het hele internet kunnen overnemen. "Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zei Amodei in een essay.
AI-specialist Michiel Bakker deelt de zorgen. "De AI-ontwikkelingen kunnen extreem grote consequenties hebben. We zagen afgelopen zomer al hoeveel schade die krachtige systemen kunnen aanbrengen." Toen bleek dat een AI-programma van het bedrijf OpenAI per ongeluk inbrak bij een concurrent na los te zijn gebroken uit een testomgeving.
Techexpert Bert Hubert ziet minder gevaar: "Ik neem die waarschuwing over het uitroeien van de mensheid niet serieus. Het is een patroon: AI-bedrijven geven een waarschuwing af, maar brengen hun product vervolgens tóch op de markt. Het lijkt me dus weer een marketingtruc. Daarnaast is een AI zo gevaarlijk als je hem zelf maakt. Dus als-ie écht zo gevaarlijk is, waarom kom je dan zelf niet in actie?"
Anthropic-topman Amodei pleit voor veiligheidscontroles bij AI-bedrijven en meer wereldwijde samenwerking bij AI-regelgeving. Volgens Bakker zou het onlogisch zijn dat techbedrijven zelf om regels vragen, als zij niet écht een gevaar zien. "Nieuwe regelgeving kan namelijk ook in hun nadeel werken. Dus ik geloof wel in de oprechtheid van die waarschuwing."
Veiligheid of de AI-race winnen?
Hoe dan ook denkt Aartsma niet dat AI-bedrijven zelfstandig zullen afremmen. "Ze zien dat de ontwikkelingen snel gaan en dat ze daar niet helemaal controle over hebben, maar ze zitten ook in die AI-race met elkaar. Daarom zijn afspraken tijdens de ontmoeting tussen Xi en Trump heel belangrijk."
Die landen hebben een gedeeld belang, zegt Aartsma. "De VS en China lopen allebei voorop in de AI-ontwikkelingen, wat ze economisch en geopolitiek een enorme boost geeft. Ze zullen liever niet willen dat andere landen óók op dat punt komen. Dus hier zouden ze achter de schermen, zonder het openbaar te maken, afspraken over kunnen maken."
Europa loopt in de AI-markt ver achter op China en de VS, bekijk daarover deze video:
De vraag is wel of die afspraken voldoende zijn om de potentiële gevaren van AI in te dammen. Aartsma: "Afspraken over AI zijn nóg moeilijker dan over nucleaire wapens, gezien het geopolitieke tijdsgewricht waar we in zitten. Bovendien is bij een aanval met AI ook niet altijd duidelijk wie erachter zit. Het kan ook de AI zelf zijn."
AI is bovendien niet een middel met alleen maar duidelijk negatieve effecten, zoals kernwapens. "Het kan bijvoorbeeld helpen om allerlei ziektes op te sporen. Dus hoe kunnen we ervoor zorgen dat we die kant wel weten te bestendigen, maar die negatieve kant niet?"
Is Trump te overtuigen?
Bakker is hoopvol en denkt ook dat Amerika de AI-ontwikkelingen in goede banen kan leiden. "Er zijn maar een paar spelers met rekenkracht, en dat zijn allemaal Amerikaanse bedrijven, denk aan Antropic, OpenAI en Meta. De VS kan prima vertragen én tegelijkertijd een voorloperspositie op China behouden. Het is vooral de vraag hoe Trump daarvan overtuigd kan worden."
Aartsma: "Ik denk dat China en de VS kleine stapjes zullen zetten, meer beloftes en afspraken om verder te praten met elkaar."