OpenAI-Chef Sam Altman en Elon Musk pleiten voor vertraging in KI-ontwikkeling

OpenAI-CEO Sam Altman en Elon Musk hebben zich uitgesproken voor een vertraging in de ontwikkeling van kunstmatige intelligentie. Altman, Musk en Demis Hassabis steunden gedeeltelijk de voorstellen van Anthropic-CEO Dario Amodeis, met name de eis voor onafhankelijke toezicht in laboratoria. Musk heeft zich jaren geleden al geprofileerd als een criticus van kunstmatige intelligentie.

Volgens Altman zal OpenAI dit jaar om veiligheidsredenen niet naar de beurs gaan. Dit heeft hij eerder intern in juni aangekondigd. Een mogelijke reden hiervoor is dat de financiële cijfers van OpenAI niet voldoen voor een beursgang, vooral in vergelijking met Anthropic, hoewel beide verklaringen waar kunnen zijn.

De afwezigheid van een fundamentele consensus binnen de KI-sector wordt benadrukt door een bijdrage van Google-onderzoeker Peyman Milanfar. Hij stelt dat zelfverbeterende kunstmatige intelligentie (RSI) een naïeve veronderstelling is, omdat feedbackloops instabiel zijn. Naarmate een systeem zichzelf meer optimaliseert, kan het dieper in problemen raken. Betrouwbare bewijsvoering komt alleen uit interactie met de echte wereld, niet uit benchmarks.