Anthropic Susun Aturan Negosiasi bagi Agen AI yang Mewakili Pengguna

Anthropic tengah menyiapkan aturan perilaku bagi agen AI yang bernegosiasi atas nama pengguna, termasuk kapan harus meminta arahan manusia dan bagaimana menilai keandalan sistem AI lain. Langkah itu berjalan bersamaan dengan persiapan perusahaan menuju penawaran umum perdana (IPO) yang berpotensi bersejarah. Profesor Harvard Business School, Michelle Vaccaro, telah menjalankan lebih dari 180.000 eksperimen negosiasi antar agen AI pada berbagai skenario, antara lain kontrak kerja dan kontrak sewa.