Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Perkembangan Teknologi AI Mendorong Anthropic Memperjelas Batas Penggunaan

Penyedia teknologi AI Anthropic menerbitkan perubahan sejumlah ketentuan dalam Usage Policy yang menjelaskan batas penggunaan kecerdasan buatan. Pembaruan kebijakan ini dipublikasikan pada 8 Oktober 2026 dan direncanakan mulai diterapkan pada 12 November 2026. Mengacu pada informasi resmi pengembang, mayoritas penyesuaian dimaksudkan untuk menjabarkan larangan sebelumnya. Pendekatan tersebut berkaitan dengan penggunaan kecerdasan buatan dalam pekerjaan yang lebih kompleks. Dengan semakin luasnya penggunaan asisten digital di lingkungan profesional, kebutuhan pengawasan memerlukan perhatian lebih besar.

Pada penggunaan AI generasi terdahulu, pemanfaatan asisten kecerdasan buatan umumnya berfokus pada mengolah informasi berbasis teks. Seiring kemajuan teknologi, agen kecerdasan buatan dirancang agar mampu menyelesaikan pekerjaan bertahap. Fungsi yang semakin luas memberikan manfaat produktivitas, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika agen AI memperoleh akses yang tidak sesuai. Dengan mempertimbangkan perubahan kemampuan model, Anthropic menyusun penjelasan yang lebih rinci agar pengguna memahami tanggung jawabnya. Kebijakan tersebut tidak dimaksudkan menghentikan penggunaan AI yang sah, melainkan membedakan penggunaan bermanfaat dari penyalahgunaan.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Salah satu perubahan utama adalah penyusunan bagian khusus tentang kampanye manipulatif. Anthropic menambahkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk menjelaskan pembatasan terhadap operasi pengaruh menggunakan akun palsu. Berdasarkan penjelasan perusahaan, Claude dilarang dimanfaatkan dalam mengembangkan infrastruktur operasi pengaruh yang menipu. Larangan tersebut mencakup aktivitas komersial maupun politik. Sebagai contoh, penggunaan AI untuk menyamarkan sumber pesan bertentangan dengan ketentuan penggunaan apabila dimaksudkan menyembunyikan pelaku sebenarnya. Melalui penegasan ini, organisasi memiliki acuan mengenai penggunaan konten AI secara bertanggung jawab.

Tidak hanya membatasi jaringan akun palsu, Anthropic juga memperbarui ketentuan yang mengatur proses demokrasi. Ketentuan khusus ini menggunakan nama Do Not Undermine Democratic Processes untuk menekankan larangan manipulasi aktivitas demokrasi. Contoh yang dilarang mencakup penyamaran sebagai petugas pemilihan. Namun demikian, Anthropic tidak lagi menerapkan pembatasan umum terhadap personalisasi pesan kampanye dan pemilih. Perubahan ini memberi ruang bagi komunikasi kewargaan yang tidak menipu. Meskipun pembatasan umum dikurangi, aktivitas menyesatkan tetap berada dalam batas larangan.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Pada pembahasan risiko keselamatan, Anthropic memperinci larangan pengembangan senjata menggunakan Claude. Pengembang Claude menekankan bahwa pembatasan tersebut tidak hanya mencakup perangkat senjata langsung. Perangkat lunak pengendali tetap berada dalam aktivitas yang dilarang. Dalam penerapan tertentu, pembuatan sistem yang mempersenjatai drone tidak diizinkan. Menurut Anthropic, pembaruan ini memperjelas praktik penegakan yang sudah berlangsung. Melalui ketentuan tersebut, pengembang perlu mengevaluasi risiko penerapan AI dalam perangkat berbahaya.

Pada penggunaan teknologi pemantauan, Anthropic menegaskan larangan terhadap pemantauan identitas secara tidak sah. Aturan ini diterapkan pada pelacakan secara langsung maupun melalui data lama. Di samping larangan pengawasan, Claude dilarang digunakan dalam pemilihan pihak yang perlu didakwa dalam kegiatan investigasi kriminal. Walaupun terdapat pembatasan ketat, analisis tertentu yang dilakukan secara legal tidak otomatis dilarang. Contoh yang disebutkan antara lain pemantauan penipuan yang disetujui. Penjelasan ini bertujuan membedakan penggunaan teknologi yang sah.

Aturan AI untuk Kesehatan dan Keuangan Membutuhkan Kontrol Tambahan

Pembaruan kebijakan Claude menegaskan penerapan persyaratan penggunaan berisiko tinggi. Ketentuan khusus ini mencakup penggunaan AI yang dapat memengaruhi kesehatan, kesempatan bekerja, dan akses terhadap kebutuhan esensial. Untuk penerapan yang termasuk kategori berisiko tinggi, Anthropic mensyaratkan mekanisme human-in-the-loop yang memadai. Melalui pengaturan ini, petugas yang memiliki kompetensi perlu memiliki kemampuan mengevaluasi serta membatalkan saran sistem jika tidak sesuai. Di samping pengawasan manusia, orang yang menerima keputusan perlu memperoleh penjelasan bahwa rekomendasi melibatkan kecerdasan buatan.

Dalam skenario penggunaan, sistem AI yang memengaruhi keputusan pekerjaan berpotensi diwajibkan menyediakan mekanisme evaluasi sebelum tindakan. Tujuannya adalah mencegah keputusan otomatis tanpa pemeriksaan. Hal tersebut menjadi penting karena model tidak selalu menghasilkan jawaban tepat. Meskipun demikian, persyaratan tersebut bukan aturan baru sepenuhnya. Pembaruan terbaru terutama merinci situasi ketika kewajiban pengawasan diterapkan. Dengan penjelasan lebih rinci, pengembang dapat menilai kebutuhan perlindungan dalam aplikasinya.

Anthropic Mengatur Penggunaan Model pada Sistem Fisik Otomatis

Dengan meningkatnya kecerdasan buatan otonom, model seperti Claude memungkinkan penggunaan bersama sistem otomatis di dunia nyata. Kemampuan tersebut memberikan kesempatan untuk otomatisasi industri, tetapi membutuhkan pengendalian lebih ketat. Dalam pembaruan kebijakan, Anthropic menetapkan ketentuan bagi penggunaan Claude pada perangkat otonom apabila perangkat tersebut dapat menimbulkan cedera. Ketentuan tersebut dimaksudkan untuk mendukung pengawasan manusia ketika sistem mengalami gangguan.

Aspek keselamatan yang ditekankan adalah keberadaan operator berkualifikasi yang memiliki kemampuan mengawasi gerakan mesin. Petugas yang bertanggung jawab wajib dapat untuk mengintervensi tindakan perangkat. Di samping pengendalian manusia, mesin yang menggunakan Claude perlu mendukung keadaan aman apabila komunikasi dengan model terganggu. Melalui persyaratan tersebut, sistem memerlukan cara mempertahankan keselamatan ketika layanan AI tidak tersedia. Pengaturan demikian memiliki nilai keselamatan tinggi dalam pengembangan perangkat cerdas yang menjalankan tugas dengan konsekuensi fisik.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Pembaruan kebijakan Anthropic menunjukkan peran aturan dalam pengembangan kecerdasan buatan yang mampu mengikuti perkembangan kemampuan model. Melalui ketentuan terbaru, Anthropic menyempurnakan aturan terhadap kampanye manipulatif, gangguan terhadap proses demokrasi, serta aktivitas berbahaya terkait senjata maupun privasi. Anthropic sekaligus memperinci pengendalian sistem yang dapat memengaruhi kehidupan manusia. Di samping perubahan tersebut, aturan tentang interaksi abusif yang terus-menerus mendapat perhatian dalam kerangka tanggung jawab penggunaan AI. Meskipun demikian, kritik biasa dan pengujian model tetap diperbolehkan. Menurut Anda, apakah aturan penggunaan AI yang lebih jelas akan mendorong pengembangan sistem yang lebih bertanggung jawab? Jangan ragu menyampaikan pandangan mengenai perkembangan kebijakan Anthropic.