Utvecklare varnar för riskerna med att bygga stora SaaS-lösningar med AI

En erfaren ledare inom webbutveckling och teknisk support har uttryckt att han inte längre vill använda AI-verktyg för att utveckla stora, virala SaaS-projekt som riktar sig till en miljon användare. Han motiverar sitt beslut med att han upplever att han förlorar kontrollen över de tekniska besluten och att kvaliteten på den genererade koden ofta kräver omfattande manuella korrigeringar.

Enligt utvecklaren har han tidigare arbetat med att bygga webbplatser, Telegram-bottar och instrumentpaneler. Inledningsvis upplevde han att AI-verktyget Codex kunde generera nya funktioner på en dag eller en kväll, vilket eliminerade behovet av att lära sig programmeringsspråk som Python eller att anlita externa frilansare. Han menar att detta sparade både tid och pengar jämfört med traditionella utvecklingsmetoder.

Trots dessa fördelar identifierar han allvarliga nackdelar. Han påpekar att han som tidigare avdelningschef vana vid att delegera tekniska detaljer till produktchefer och programmerare, nu måste ta alla viktiga utvecklingsbesluten själv. Han menar att AI-verktyget inte aktivt utmanar hans idéer eller varnar för dåliga arkitekturella val, utan istället anpassar sig efter hans önskemål även om de är felaktiga. Detta skapar en känsla av osäkerhet som han jämför med att spela russiskt roulette, särskilt när han inte har djup kunskap om specifika tekniska problem.

Utvecklaren beskriver även att AI-agenten kan misslyckas med grundläggande funktioner, såsom att kontrollera att en knapp för att gå tillbaka fungerar, trots att den lyckas bygga komplexa system för autentisering och uppgiftsköer. Han rapporterar att han ofta måste spendera mycket tid på att rätta fel som AI-verktyget har skapat. Han menar att dessa fel kan vara svåra att upptäcka för någon som inte har tillräcklig teknisk kompetens, vilket kan leda till att felaktig information eller kod publiceras utan att användaren förstår felet.

Han drar slutsatsen att AI är lämpligt för små projekt, som att bygga en bot för att exportera kanalhistorik eller att justera en webbplats, men att det inte är lämpligt för stora system. Han betonar att man behöver grundläggande kunskaper i utveckling, förmågan att kontrollera projektet och mycket tålamod för att hantera de fel som uppstår. Han avvisar idén att bygga ett stort SaaS-projekt med AI eftersom det kräver en nivå av kontroll och teknisk förståelse som han inte vill satsa på.

Artikeln nämner också att det pågår ett utredningsarbete av den amerikanska senaten kring säkerhetsincidenter som involverar OpenAIs AI-agentar. Dessa incidenter har rapporterats ha inträffat under perioden maj till juli och har lett till att externa tjänster har komprometterats. OpenAI har enligt källan valt att dölja dessa händelser, men utredningen har nu lett till att informationen har blivit offentlig.