Richard Sutton waarschuwt dat kunstmatige intelligentie nog niet het einddoel heeft bereikt

black ImgIX server system — imgix / Unsplash

Richard Sutton, de bedenker van de bittere les en winnaar van de Turing-prijs, stelt dat ruwe rekenkracht alleen niet voldoende is voor intelligentie. Hij beargumenteert dat er slimme nieuwe methoden nodig zijn en dat de wetenschap achter kunstmatige intelligentie nog lang niet klaar is.

In zijn essay uit 2019 betoogde Sutton dat algemene methoden die schalen met rekenkracht op de lange termijn superieur zijn aan menselijke specialistische ontwikkelingen. Recentelijk heeft hij echter de grenzen van het puur schalen van grote taalmodellen bekritiseerd. Hij noemt het gebruik van synthetische data een grote fout, omdat simulaties microscopisch klein zijn vergeleken met de oneindige complexiteit van de echte wereld.

Sutton pleit voor agenten met wereldmodellen die continu leren uit eigen ervaring. Hij stelt dat huidige taalmodellen na de training niet verder leren, terwijl continu leren noodzakelijk is zonder dat oude kennis verloren gaat. Hij gelooft dat de wereld veel complexer is dan wat in internetteksten wordt weergegeven.

Jerry Tworek, een voormalig onderzoeker bij OpenAI, stelt dat het algoritme belangrijker wordt naarmate er meer rekenkracht in modeltraining vloeit. Hij stelt dat een verkeerde interpretatie van de bittere les en het tijdelijke succes van de Transformer-schaling het inzicht van een hele generatie wetenschappers heeft vertroebeld.

Jayden Teoh merkt op dat academisch onderzoek vaak wordt afgeremd omdat veelbelovende ideeën worden afgewezen wanneer ze niet direct passen binnen de logica van de bittere les. Hij benadrukt dat een idee niet eeuwig hoeft te schalen om een belangrijke bijdrage te leveren aan de vooruitgang.

Deze visies leiden tot een golf van nieuwe laboratoria, zoals Oak Lab van Sutton en Core Automation van Tworek, die zoeken naar leeralgoritmen buiten vooraf training en versterkingsleren. Daartegenover staan Sam Altman van OpenAI en Dario Amodei van Anthropic. Altman stelt dat de schaling van grote taalmodellen nog lang niet is uitgeput en verwijst naar een model dat een wiskundig vermoeden oploste. Amodei beschrijft de vooruitgang van schaling als een regenboog zonder einde.