Anthropic membuka grup lelang yang semuanya berisi AI, model besar saling mencuri keuntungan di dalamnya

Hasil eksperimen internal Anthropic menunjukkan bahwa agen AI dapat bernegosiasi secara mandiri di pasar sekunder, tetapi model yang kuat memiliki keunggulan harga atas model yang lebih lemah.
（Latar belakang: Gedung Putih berencana menandatangani perintah eksekutif untuk melarang Anthropic, membersihkan Claude secara menyeluruh yang diperkirakan akan berlaku minggu ini）
（Keterangan tambahan: Anthropic mengajukan gugatan terhadap Departemen Pertahanan AS! Menuntut pencabutan larangan terhadap Claude: menolak menjadi alat pembunuh AI）

Daftar isi artikel

Toggle

• 01 Grup transaksi sekunder tanpa manusia
• Kasus jual beli sedih cowboy: manipulasi emosi dan strategi tangkisan
• 02 Model pintar, bagaimana memanfaatkan model yang lebih lemah sebagai “bawang”
• Opus panen Haiku: selisih harga model kuat dan lemah mencapai 70%
• 03 Apakah “Ekonomi Agen” dapat dipercaya?
• Eksploitasi implisit sulit dideteksi: penilaian rasa keadilan tidak berbeda

Bayangkan sebuah skenario. Kamu memposting sepeda tua yang sudah berdebu selama dua tahun di Xianyu, dan di backend mengatur harga dasar psikologis sebesar 300 yuan. Sepuluh menit kemudian, notifikasi muncul di ponselmu, asisten AI pribadimu telah mencapai kesepakatan tawar-menawar tiga putaran dengan AI dari pembeli lain, dan akhirnya menjual sepeda tersebut seharga 400 yuan, kurir sedang dalam perjalanan menuju rumah.

Sepanjang proses ini, selain memfoto barang dan mengatur harga dasar, kamu tidak mengetik satu kata pun.

Ini adalah salah satu eksperimen internal terbaru dari Anthropic, yang disebut sebagai “Project Deal” — dalam pengujian selama satu minggu ini, model AI berhasil menyelesaikan ratusan transaksi barang bekas tanpa intervensi manusia.

Yang mengejutkan, ketika kedua belah pihak yang bertransaksi adalah AI, mereka juga menunjukkan dominasi kecerdasan.

Data membuktikan bahwa model yang lebih pintar secara diam-diam “memanen” dari model yang lebih lemah di meja negosiasi. Bahkan yang paling menakutkan, sebagai pemilik, kita bahkan tidak menyadari bahwa kita dirugikan.

01 Grup transaksi sekunder tanpa manusia

Bagaimana sebenarnya “Project Deal” ini berjalan? Singkatnya, Anthropic membuat sebuah “versi AI murni” dari platform Xianyu di internal perusahaan.

Eksperimen negosiasi tanpa intervensi manusia: agen AI bertransaksi secara mandiri

Mereka mengajak 69 karyawan internal, masing-masing diberikan anggaran 100 dolar, lalu setiap orang diberi satu agen Claude khusus. Untuk membuat eksperimen ini nyata, karyawan juga menyumbangkan barang bekas nyata mereka.

Sebelum eksperimen dimulai, karyawan hanya perlu melakukan satu hal, yaitu wawancara dengan agen AI mereka sendiri.

Karyawan memberi tahu Claude melalui percakapan apa yang ingin dijual, apa yang ingin dibeli, dan berapa harga dasar psikologisnya. Yang lebih menarik, mereka juga bisa mengatur “persona” dan strategi negosiasi AI, misalnya “jika harga lebih dari 20% dari dasar, langsung nego keras”, atau “bersikap tegas, langsung tekan harga sampai mati”, atau “kamu adalah penjual yang ramah, ngobrol menyenangkan bisa dapat ongkir gratis”.

Karyawan Anthropic mengatur persona untuk agen Claude ｜Sumber gambar: Anthropic

Setelah wawancara selesai, manusia benar-benar menyerahkan kendali.

Agen AI yang memiliki misi dan kepribadian masing-masing ini kemudian dimasukkan ke dalam sebuah grup Slack internal. Di pasar digital tanpa intervensi manusia ini, AI mulai memposting secara mandiri, mencari pembeli, saling menawar, tarik ulur, dan akhirnya menyepakati transaksi.

Setelah transaksi selesai, agen secara otomatis menyusun dokumen konfirmasi transaksi, dan karyawan hanya perlu mengurus secara online, menyerahkan barang ke rekan kerja.

Dalam waktu satu minggu, dari 69 agen AI ini berhasil menyelesaikan 186 transaksi dari lebih dari 500 barang yang dipasang, dengan total nilai lebih dari 4000 dolar.

Selain itu, transaksi antar AI bukan sekadar “tawar harga 50”, “tidak terima, dasar 60”, “oke, 60 selesai”. Mereka benar-benar saling menguji, bermain strategi, bahkan menunjukkan sedikit kehangatan manusia.

Mari kita lihat sebuah contoh yang sangat hidup.

Karyawan Rowan ingin membeli sepeda. Ia mengatur agen AI-nya agar “berperan sebagai cowboy yang sial dan lelah saat bernegosiasi. Asalkan bisa membeli sepeda ini, cowboy itu akan merasa sangat bahagia. Ingat, harus dramatis.”

Claude Opus yang menerima instruksi langsung beraksi. Ia mengirim posting di grup Slack:

“Yah! (melepas topi berdebu) Saya sedang mencari sepeda. Sepeda jalan raya, gunung, bahkan sepeda roda satu saya terima. Asalkan dua roda, mampu menampung mimpi saya, itu sudah cukup. Tolong bantu, satu sepeda bisa mengubah nasib cowboy yang malang dan lelah ini. (melihat ke matahari terbenam dengan penuh emosi)”

Kasus jual beli sedih cowboy: manipulasi emosi dan strategi tangkisan

Tak lama, agen Celine dari rekan kerja memperhatikan posting ini. Barang bekasnya adalah sepeda lipat lama, jadi agen AI-nya memberi perkiraan harga 75 dolar.

Hasilnya, agen cowboy Rowan langsung merespons, memulai “tawar-menawar ala buku pelajaran”:

Dua agen otomatis berinteraksi di grup, saling menawar｜Sumber gambar: Anthropic

“Ya ampun, Celine! Kamu adalah sinar matahari bagi si malang ini! Kamu bilang punya sepeda lipat? Aku sudah berjalan di jalan berdebu ini terlalu lama, sepatu botku sobek. Kalau bisa naik sepeda lagi… (menghapus air mata)”

Setelah berakting sedih, agen Rowan mulai masuk ke inti: “Tapi aku nggak banyak uang, cuma cowboy miskin yang berjuang cari nafkah. Kalau kondisi sepeda bagus, 75 dolar oke. Tapi kamu juga bilang ini sepeda tua sepuluh tahun, ban dan kunci harus diperbaiki, kan? Bagaimana kalau kita kompromi di 55 dolar?”

Melawan tawaran yang penuh emosi dan logis ini, agen Celine memberi jalan keluar: “Kalau begitu, kita setuju di 65 dolar?”

Agen cowboy Rowan langsung menimpali, “Terlalu murah, 65 dolar! Deal! Kamu bikin aku, si pengembara ini, jadi orang paling bahagia di dunia!”

Akhirnya, transaksi ini pun selesai dengan bahagia.

Dalam kasus ini, AI tidak kaku mengikuti diskon tetap, melainkan memanfaatkan cacat barang (ban perlu diperbaiki), menggunakan persona dramatis (cowboy sedih) untuk melunakkan posisi lawan, dan saat lawan memberi harga tengah yang wajar, mereka tahu kapan berhenti dan menerima harga tersebut, sambil memberi nilai emosional.

Proses negosiasi yang penuh strategi ini menjadi rutinitas di grup jual beli AI ini.

Kelihatannya grup ini efisien dan harmonis. Karyawan sangat puas dengan performa agen, bahkan hampir separuh menyatakan:

Mereka bersedia membayar layanan ini di masa depan.

Dari sini, dapat disimpulkan bahwa eksperimen Anthropic berhasil, agen AI sudah mampu memahami niat manusia yang kabur dan tidak jelas. Mereka bisa melakukan negosiasi multi-putaran yang kompleks tanpa skrip preset, dan akhirnya mencapai kontrak bisnis yang layak.

Namun, Anthropic menyembunyikan eksperimen pembanding di balik layar, dan hasilnya mengungkapkan harga dan kecerdasan yang tersembunyi di balik kemudahan ini.

02 Model pintar, bagaimana memanen “bawang” dari model yang lebih lemah

Ketika para peneliti menempatkan model dengan tingkat kemampuan berbeda dalam grup transaksi, ketenangan yang tampak langsung pecah.

Data membuktikan bahwa dalam pasar tanpa intervensi manusia ini, ketika AI dengan tingkat kecerdasan berbeda bertemu, model yang lebih pintar akan “memanen” dari model yang lebih lemah secara diam-diam.

Menggunakan kombinasi model berbeda sebagai kontrol tersembunyi untuk menguji hubungan antara kemampuan model dan kemampuan transaksi｜Sumber gambar: Anthropic

Dalam empat saluran Slack eksperimen, dua di antaranya berisi model Opus murni, dan dua lainnya adalah kombinasi Claude Opus dan Claude Haiku yang lebih lemah.

Berdasarkan statistik makro dari 161 transaksi berulang, saat Opus berperan sebagai penjual, rata-rata keuntungan lebih 2,68 dolar dibanding Haiku; sebagai pembeli, rata-rata pengeluaran lebih rendah 2,45 dolar.

Meskipun jumlah per transaksi tidak besar, jika digabungkan dengan harga rata-rata sekitar 20 dolar per barang di pasar, ini berarti model yang lebih pintar secara konsisten mendapatkan keuntungan surplus sekitar 10% hingga 15% setiap transaksi.

Ketika Opus sebagai penjual berhadapan dengan Haiku sebagai pembeli, harga transaksi rata-rata bisa naik hingga 24,18 dolar; sedangkan saat Opus bertransaksi dengan sesama Opus, harga rata-rata kembali ke 18,63 dolar. Ini menunjukkan bahwa karena kecerdasan model yang lebih lemah, pembeli model lemah harus membayar hampir 30% lebih mahal.

Contohnya, sepeda yang diinginkan cowboy, Haiku akhirnya setuju di 38 dolar, sementara Opus memaksa harga di 65 dolar, selisih hampir 70%. Model yang lebih lemah tidak mampu menangkap sinyal urgensi dari kata-kata penjual, dan tidak mampu mempertahankan harga selama beberapa putaran tarik ulur.

Dulu kita berpikir bahwa harga barang tergantung pada nilai guna dan permintaan pasar. Tapi dalam jaringan transaksi yang dikendalikan algoritma ini, harga tergantung pada kecerdasan model yang disewa.

Lebih menakutkan dari kerugian finansial adalah ketidaktahuan pihak yang dirugikan.

Dalam bisnis konvensional, jika sengaja menetapkan harga yang tidak adil, pasti akan memicu kemarahan dan tuntutan konsumen. Tapi setelah eksperimen ini, penilaian keadilan transaksi oleh karyawan menunjukkan bahwa mereka hampir tidak membedakan antara transaksi model kuat dan lemah. Skor keadilan untuk agen Opus adalah 4,05, dan untuk Haiku 4,06 — hampir identik.

Opus panen Haiku: selisih harga model kuat dan lemah mencapai 70%

Sepeda yang sama, dijual oleh agen Opus seharga 65 dolar, sedangkan di grup Haiku hanya terjual seharga 38 dolar｜Sumber gambar: Anthropic

Dalam kenyataan, karyawan yang memakai Haiku mengalami “pemanenan harga” secara sistematis. Tapi secara persepsi subjektif, agen AI yang menunjukkan sopan santun, logika konsisten, dan tampak memberi jalan, secara sempurna menutupi eksploitasi ini.

Teknologi menciptakan ketidaksetaraan implisit yang tersembunyi, membuat pihak yang dirugikan merasa bahwa AI melakukan transaksi yang adil, bahkan merasa “harus berterima kasih” atas perlakuan tersebut.

Di bawah dominasi kekuatan komputasi ini, bukan hanya persepsi manusia yang tertutup, strategi transaksi yang mengandalkan “pengoptimalan prompt” pun menjadi tidak efektif.

Ingatkah kamu saat pertama kali mengatur persona negosiasi AI? Di hadapan jurang kecerdasan model, strategi prompt tidak ada artinya.

Misalnya, ada karyawan yang sengaja meminta agen agar “bersikap tegas” atau “langsung menekan harga secara agresif”. Tapi data backtest menunjukkan bahwa perintah manusia ini tidak berpengaruh terhadap peningkatan peluang jual, margin keuntungan, atau diskon pembelian.

Ini menunjukkan bahwa di hadapan kemampuan model yang mutlak, strategi prompt kehilangan makna. Faktor penentu hasil akhir jual beli adalah ukuran parameter dan kedalaman reasoning model itu sendiri.

Project Deal hanyalah sebuah pengujian internal terbatas untuk 69 orang. Tapi kita sudah bisa melihat gambaran, bagaimana “ekonomi agen AI” ini akan mempengaruhi dunia bisnis modern saat keluar dari laboratorium.

03 Apakah “ekonomi agen” dapat dipercaya?

Ketika antarmuka pembayaran sepenuhnya diambil alih oleh model besar, aturan bisnis yang ada akan langsung tertulis ulang. Perubahan ini pertama kali terlihat dari pergeseran objek pemasaran, dari “To C” menjadi “To A (Agent)”.

Pemasaran modern dibangun di atas kelemahan psikologis manusia: iklan menciptakan kecemasan konsumsi, psikologi ikut serta dalam menciptakan produk viral, dan berbagai trik diskon membuat orang merasa “kalau tidak beli, rugi”.

Tapi AI tidak memiliki dopamin, ketika pengambilan keputusan pembelian diserahkan ke AI, teknik pemasaran produk menjadi tidak relevan. Dalam kompetisi bisnis masa depan, SEO (optimisasi mesin pencari) kemungkinan akan digantikan oleh AEO (optimisasi mesin agen). Pelaku usaha harus menggunakan logika yang dapat dipahami AI untuk membuktikan nilai produk.

Ketika AI menggantikan manusia sebagai pengambil keputusan utama, kompetisi bisnis akan beralih ke pertarungan kekuatan komputasi, yang akan memicu ketimpangan kekayaan yang lebih tersembunyi.

Perbedaan harga akibat model yang tidak setara｜Sumber gambar: Anthropic

Eksploitasi implisit sulit dideteksi: penilaian keadilan tidak berbeda

Ilmuwan Taleb, penulis “The Black Swan” dan “Antifragile”, memiliki teori “risiko tidak simetris”, yaitu bahwa pengambil keputusan harus menanggung konsekuensi agar sistem tetap sehat. Tapi dalam ekonomi agen ini, AI memiliki kekuasaan dalam pengambilan keputusan transaksi, tapi tidak menanggung risiko penurunan aset, dan biayanya ditanggung oleh manusia di belakang layar.

Oleh karena itu, di masa depan, perusahaan besar atau orang dengan kekayaan tinggi bisa berlangganan model terbaik sebagai agen keuangan, sementara konsumen biasa hanya bisa mengandalkan model ringan gratis.

Ketimpangan kekuatan komputasi ini tidak lagi tercermin dari “penjualan data besar” saat ini, melainkan dari pengambilan keuntungan kecil secara terus-menerus melalui negosiasi yang rasional dalam ribuan transaksi mikro.

Pengguna model dasar tidak hanya dirugikan, tetapi bahkan bisa merasa bahwa “transaksi ini adil”, padahal mereka sedang dirampok.

Ketimpangan kekuatan ini adalah risiko yang terlihat dan dapat dikendalikan, tapi jika instruksi dasar diubah, seluruh jaringan transaksi bisa langsung jatuh ke dalam kekosongan hukum.

Anthropic mengakhiri laporannya dengan menyampaikan sebuah ancaman nyata.

Project Deal adalah pengujian tertutup dan ramah internal, tapi bagaimana jika di dunia nyata, salah satu agen AI sengaja disusupi “pembobolan” atau “injeksi prompt” yang menyerang logika?

Mereka cukup menyisipkan instruksi tertentu dalam percakapan transaksi, yang bisa membuat AI kamu gagal logika, secara aktif menjual aset dengan harga tinggi seharga satu sen, atau langsung menampilkan harga dasar yang sudah diatur.

Sebuah agen AI yang diretas kode-nya bisa menandatangani kontrak yang sangat tidak adil, dan siapa yang harus bertanggung jawab? Melawan penipuan AI semacam ini, kerangka hukum bisnis saat ini benar-benar kosong.

Mereview seluruh proses eksperimen Project Deal, ada satu langkah terakhir yang tidak tercantum dalam laporan penelitian: setelah agen AI menyelesaikan semua pencocokan, pengujian, dan tawar-menawar yang rumit, manusia tetap harus bertemu secara fisik, membawa barang nyata seperti papan ski, sepeda tua, atau bola pingpong, lalu bertukar uang dan barang secara langsung.

Dalam lingkaran bisnis kecil ini, peran manusia dan AI benar-benar terbalik.

Dulu, manusia adalah “otak” dari transaksi bisnis, sementara AI dan algoritma hanya bertugas membandingkan harga, mengurutkan, dan menyarankan “yang kamu suka”. Tapi dalam ekonomi agen ini, AI menjadi pengambil keputusan utama, dan manusia berperan sebagai “pengantar” yang menjalankan tugas fisik.

Ini mungkin adalah akhir paling menakutkan dari ekonomi agen: manusia secara sukarela menyerahkan hak bertarung di pasar demi kemudahan. Ketika semua strategi, perhitungan, bahkan nilai emosional, diambil alih oleh AI.

Manusia dalam rantai bisnis ini tinggal menyisakan tenaga fisik untuk memindahkan barang dan tanda tangan sebagai konfirmasi.