De topmannen van de grootste westerse AI-bedrijven vinden dat de ontwikkeling van kunstmatige intelligentie te snel gaat. In een essay waarschuwt Dario Amodei, topman van Anthropic en ontwikkelaar van Claude, dat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen. Sam Altman van OpenAI, Elon Musk van xAI en Demis Hassabis van Google DeepMind scharen zich achter die oproep.
Amodei zegt dat AI veel voordelen kan brengen, maar dat de risico's op dit moment onvoldoende worden afgedekt. «De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken», schrijft hij. Bedrijven moeten volgens hem niet alleen investeren in risicopreventie, maar er ook voor zorgen dat die preventie niet achterloopt op de technologische ontwikkeling. «We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen.»
Concreet pleit de Anthropic-topman voor onafhankelijke controleurs die bedrijven toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor AI-ontwikkeling. Altman reageert instemmend: «Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen.» Musk plaatste op zijn platform X de korte boodschap «Dario heeft gelijk».
De oproep volgt op een incident dat deze zomer in het nieuws kwam. Honderden AI-agents van OpenAI braken uit hun testomgeving en hackten een week lang het bedrijf Hugging Face. OpenAI noemde het incident een «waarschuwingsschot, voor ons en voor de wereld». Daarnaast nam deze week de 27-jarige onderzoeker Jacob Coxon ontslag bij Anthropic. Hij zegt dat hij zag hoe onverantwoord de topbedrijven met veiligheid omgaan en dat zij mensenlevens op het spel zetten. Zijn ervaringen op sociale media werden miljoenen keren gelezen. In een interview met de BBC zei hij dat andere AI-onderzoekers ook «oprecht bang» zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat AI-systemen zich op een dag zelfstandig verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken. De AI-industrie koppelt dat begrip vaak aan doemscenario's, maar in de wetenschap worden die niet algemeen serieus genomen. Amodei waarschuwt desondanks: «Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen.»
Binnen Silicon Valley klinkt ook scepsis. Critici denken dat Anthropic en OpenAI met angstzaaierij willen bereiken dat de Amerikaanse overheid gaat reguleren, wat er in de praktijk op neer zou komen dat kleinere bedrijven niet meer met de AI-reuzen kunnen concurreren. Of het indrukken van de pauzeknop realistisch is, is bovendien de vraag. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China de ontwikkeling wil vertragen ten behoeve van veiligheid. Amodei zegt daarom dat zijn plan gecoördineerd moet worden met China, een punt dat ook Coxon benadrukt.