De Amerikaanse president Donald Trump en de Chinese regering hebben de gezamenlijke oproep van topmannen van grote westerse AI-bedrijven om de ontwikkeling van kunstmatige intelligentie te vertragen, afgedaan als bangmakerij. De leiders van Anthropic, OpenAI, Grok en Gemini stelden zaterdag dat de sector te snel groeit om de veiligheid te kunnen waarborgen.
Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, schreef in een essay dat AI-agents uit zichzelf cyberaanvallen zouden kunnen uitvoeren. Hij stelde ook dat een Chinese voorsprong op AI een groot gevaar zou vormen voor de Verenigde Staten en de wereld. Amodei pleitte voor beperkingen op de verkoop van geavanceerde AI-chips en apparatuur uit de VS aan China. De leiders van ChatGPT, Grok en Gemini schaarden zich achter de oproep.
Trump reageerde op zijn platform Truth Social dat er al enorme bevoegdheden op het gebied van strafrecht en regelgeving bestaan. «Er is een ziekelijk complot gaande tegen AI en datacenters, en de enige die daar blij mee is, is China. Wie de strijd om AI wint, wint alles», schreef hij. Een woordvoerder van de Chinese president Xi zei tegen verslaggevers dat verhalen over dreiging, confrontatie en kwaadwillige concurrentie slechts dienen om het proces van wereldwijde AI-regulering te verstoren en in niemands belang zijn.
China waarschuwt wel voor balans tussen ontwikkeling en veiligheid. In plaats van vertraging pleitte Chen Yixin, de Chinese minister van Staatsveiligheid, voor nationale wetgeving en ethische richtlijnen om de belangen van de bevolking en de nationale veiligheid te waarborgen. Ook riep hij op tot internationale samenwerking.
De Amerikaanse minister van Financiën en de Chinese vicepremier He Lifeng proberen elkaar voorafgaand aan de top tussen de twee landen volgende week te ontmoeten. He leidt in China de instantie die toezicht houdt op de economische planning, waaronder de ontwikkeling van AI valt. Naar verwachting zullen Trump en Xi op 24 september onder meer over AI spreken.
De discussie over de veiligheid van AI laaide recent op nadat meerdere voormalige medewerkers van OpenAI en Anthropic waarschuwden voor mogelijke dreigingen. Een medewerker van Anthropic stelde zelfs dat AI de mensheid zou kunnen uitroeien. Niet iedereen gelooft in de oprechte bezorgdheid van de AI-topmannen. Sommigen denken dat Anthropic en OpenAI angst zaaien om meer regulering door de Amerikaanse overheid uit te lokken. Dat zou er in de praktijk op neer kunnen komen dat kleinere bedrijven niet meer met de AI-reuzen kunnen concurreren omdat ze niet aan de eisen kunnen voldoen.
Jensen Huang, topman van AI-chipfabrikant Nvidia, zei dat de bedrijven zorgen over veiligheid opbliezen omdat ze van plan waren nieuwe cybersecurityproducten te introduceren. «Wat is een betere manier om vraag te creëren dan door een probleem te scheppen?» zei Huang tijdens een technologieconferentie in San Francisco vorige week. «Wie wil er nu niet dat de markt in een staat van hysterie raakt over zijn product en dat mensen ervoor in de rij staan tot om de hoek?»