GitLab meningkatkan pengaturan Rate Limit untuk AI Coder

GitLab telah meningkatkan pengaturan Rate Limit dengan tujuan utama untuk membatasi pemrosesan besar yang terjadi akibat penggunaan alat seperti Pembantu Koding AI dan sistem Otomatisasi. Kebijakan ini akan mulai berlaku bulan depan dan akan berdampak pada pengguna gratis serta pengguna yang tidak terverifikasi.

Perubahan ini mencakup tiga bagian penting dari sistem, yaitu Permintaan API, Permintaan Web, dan Permintaan Git yang Terverifikasi melalui HTTPS. Pengguna paket gratis dan penggunaan yang tidak terverifikasi, termasuk sistem otomatisasi atau skrip yang mengakses akun berbayar tanpa izin yang tepat, akan menjadi kelompok pertama yang terpengaruh.

GitLab juga telah merencanakan pengujian sistem dan meminta pengguna untuk bersiap melalui Preview Windows yang akan diadakan dua kali, pada tanggal 7 Oktober dan 14 Oktober, antara pukul 15:00 - 19:00 UTC. Kebijakan baru ini akan mulai diterapkan secara permanen untuk pengguna gratis pada tanggal 19 Oktober.

Sementara itu, pengguna paket tingkat atas, terutama pelanggan tingkat perusahaan yang memiliki kuota Rate Limit tinggi, tidak akan terpengaruh hingga bulan Januari tahun depan. GitLab menjelaskan bahwa sebagian besar pengguna tidak akan terpengaruh oleh pengurangan kuota ini, karena perilaku penggunaan normal para pengembang hampir semuanya tetap berada dalam batas yang ditentukan.

Pengaturan batasan baru ini berfokus pada manajemen penggunaan yang tidak normal dan pengambilan sumber daya tinggi dari bot AI. Kejadian ini mencerminkan penyesuaian industri infrastruktur perangkat lunak, karena sebelumnya penyedia besar seperti Anthropic dan GitHub juga telah menerapkan langkah-langkah serupa untuk menjaga stabilitas sistem cloud dan mengelola biaya infrastruktur akibat pertumbuhan cepat model Generative AI.