Pemimpin Teknologi Diimbau Kelola Agen AI Seperti Karyawan Tanpa Menganggapnya Manusia

Beberapa pemimpin teknologi mulai memperlakukan agen AI sebagai karyawan, rekan kerja, atau praktikan daripada sekadar perangkat lunak karena kemampuan mereka dalam memperbarui register, mengirim pesan, dan beroperasi di berbagai sistem perusahaan.

Analisis dari IDC menekankan bahwa tanggung jawab adalah pembeda utama antara manusia dan AI. Manusia memiliki kewajiban terhadap perusahaan dan pemahaman budaya, sementara agen AI hanya meniru bahasa tanpa memilikinya. Memberi label rekan kerja pada AI dikhawatirkan dapat mendorong manusia menyerahkan penilaian kepada sistem yang tidak mampu mengenali kebutuhan aktual.

Studi dari Harvard Business Review terhadap 1.261 manajer menunjukkan risiko penggunaan metafora karyawan. Manajer yang menganggap AI sebagai rekan kerja cenderung mengambil tanggung jawab pribadi yang lebih sedikit atas hasil kerja dan lebih banyak melimpahkan tanggung jawab kepada AI, serta lebih jarang menemukan kesalahan.

Founder Ejento AI, Raja Iqbal, menyatakan bahwa metafora anggota tim bertujuan untuk membantu pemimpin teknologi menerapkan prinsip manajemen seperti identitas unik, pengawasan manusia, dan batas pengeluaran. Namun, ia menolak pemberian kepribadian manusia atau posisi dalam bagan organisasi karena dapat menciptakan alasan untuk menghindari tanggung jawab.

DXC Technology membedakan antara agen pribadi yang bekerja untuk individu dan agen profesional untuk alur kerja luas. Dari sekitar 8.000 agen pribadi, terdapat sekitar 100 agen profesional yang berada di bawah pengawasan ketat dengan identitas non-manusia dan batas wewenang yang jelas.

Chief Digital and Information Officer DXC, Russell Jukes, menegaskan bahwa AI tidak boleh diterapkan seperti perangkat lunak SaaS konvensional yang deterministik. AI berbasis agen bersifat probabilistik, sehingga memerlukan pedoman, akses data, dan rantai tanggung jawab yang jelas di mana AI tidak pernah disalahkan atas kegagalan.

Global CIO Quadient, Nina Tatsiy, menggunakan analogi praktikan untuk menekankan perlunya pelatihan dan pengawasan bertahap. Quadient menghindari pemberian nama manusia pada AI untuk mencegah kepercayaan berlebihan, terutama karena AI sering menyampaikan kesimpulan dengan keyakinan tinggi meskipun bisa salah.