Anda suka atau tidak, kecerdasan buatan belajar bagaimana mempengaruhi Anda

Ketika saya masih kecil, ada empat agen Amnesty International dalam hidup saya. Nama mereka tidak tersedia, berkedip, dan Koussar Claide, dan mereka mencoba yang terbaik untuk mencari saya. Ini adalah pada tahun delapan puluhan abad terakhir dan empat agen hantu berwarna berada di arcade Pac-Man.

Menurut standar hari ini, mereka tidak terlalu pintar, tetapi mereka tampaknya mengikuti saya dengan licik dan niat. Ini adalah beberapa dekade sebelum penggunaan jaringan saraf dalam video game, sehingga perilaku mereka dikendalikan oleh algoritma sederhana yang disebut inferensi yang menentukan bagaimana ia akan mengejar saya di sekitar labirin.

Kebanyakan orang tidak menyadari hal ini, tetapi keempat hantu itu dirancang dengan berbeda “Kepribadian“Pemain yang baik dapat memantau tindakan mereka dan belajar untuk memprediksi perilaku mereka. Pertama.

Saya ingat karena pada tahun 1980, orang yang terampil dapat melihat faktor -faktor kecerdasan buatan, menguraikan karakter unik mereka dan menggunakan ide -ide ini untuk mengatasinya. Sekarang, 45 tahun kemudian, akan berputar. Suka atau tidak, agen kecerdasan buatan akan diterbitkan kepribadian Jadi mereka bisa menggunakan ide -ide ini Efek yang dioptimalkan Anda.

Masa depan manipulasi kecerdasan buatan

Dengan kata lain, kita akan menjadi pemain bulat dalam “permainan manusia” dan mereka akan menjadi agen kecerdasan buatan yang mencoba memenangkan hasil yang tinggi. Maksud saya ini secara harfiah – sebagian besar sistem kecerdasan buatan dirancang untuk meningkatFungsi hadiahIni menghasilkan poin untuk mencapai tujuan. Ini memungkinkan sistem kecerdasan buatan untuk dengan cepat menemukan solusi optimal. Sayangnya, tanpa perlindungan peraturan, kami kemungkinan akan menjadi tujuan bagi agen kecerdasan buatan untuk ditingkatkan.

Saya lebih khawatir Agen percakapan Ini akan mengambil bagian dalam kotak dialog yang ramah sepanjang kehidupan kita sehari -hari. Mereka akan berbicara dengan kami melalui dewa nyata di komputer dan telepon kami, dan segera, melalui Kacamata Internasional Amnesty Itu akan membimbing kita selama hari -hari kita. Kecuali ada batasan yang jelas, faktor -faktor ini akan dirancang untuk menyelidiki percakapan untuk informasi sehingga mereka bisa Memaksimalkan efeknya yang meyakinkan Saat bekerja untuk menjual produk AS, meyakinkan kami tentang layanan atau membujuk kami untuk percaya pada informasi yang menyesatkan.

Ini disebut “”Masalah manipulasi kecerdasan buatan“Saya adalah penyelenggara peringatan tentang risikonya Sejak 2016. Sejauh ini, politik belum mengambil tindakan yang menentukan, karena mereka melihat ancaman waktu yang lama di masa depan. Tetapi sekarang, dengan rilis Deepseek-R1, penghalang terakhir telah dikurangi menjadi penerbitan luas agen kecerdasan buatan-biaya perawatan waktu yang sebenarnya untuk sebagian besar. Sebelum keluar tahun ini, agen kecerdasan buatan akan menjadi bentuk baru dari media yang ditargetkan Interaktif dan adaptifDia dapat meningkatkan kemampuannya untuk mempengaruhi ide -ide kita, mengarahkan perasaan kita dan mendorong perilaku kita.

Superhuman AI “Perwakilan Penjualan”

Tentu saja, perwakilan penjualan manusia juga interaktif dan adaptif. Mereka menempati kami dalam dialog yang ramah untuk ukuran kami, dan segera mereka menemukan tombol yang dapat mereka tekan untuk pengaruh kami. Ini akan membuat agen kecerdasan buatan menyerupai amatir, mampu menarik informasi dari kita dengan kecerdikan seperti itu, itu membuat takut prosesor yang berpengalaman. Mereka akan menggunakan ide -ide ini untuk mengatur taktik mereka dalam waktu yang sebenarnya, dan bekerja untuk melakukannya Meyakinkan kami Lebih efektif daripada penjual mobil bekas.

Ini akan menjadi pertemuan asimetris di mana faktor buatan memiliki keunggulan (sebenarnya berbicara). Lagi pula, ketika Anda berbagi seseorang yang mencoba mempengaruhi Anda, Anda biasanya dapat merasakan motif dan ketulusan mereka. Ini tidak akan menjadi pertempuran yang adil dengan agen kecerdasan buatan. Mereka akan dapat mengukur manusia super, tetapi Anda tidak akan bisa mengukur sama sekali. Itu karena mereka akan terlihat dan sehat dan berperilaku sangat manusiawi, kita akan bangkit Percayalah pada mereka secara tidak sadar Ketika mereka tersenyum dengan simpati dan pengertian, lupa bahwa efek wajah mereka hanyalah antarmuka simulasi.

Selain itu, suara, kosa kata, berbicara, usia, jenis kelamin, ras dan wajah mereka akan dialokasikan untuk kita masing -masing secara pribadi. Maksimalkan penerimaan kami. Tidak seperti perwakilan penjualan manusia yang membutuhkan ukuran setiap pelanggan dari titik nol, entitas virtual ini dapat memiliki akses ke data yang disimpan di sekitar latar belakang dan minat kita. Mereka kemudian dapat menggunakan data pribadi ini dengan cepat Dapatkan kepercayaan diri AndaSaya bertanya tentang anak -anak Anda, pekerjaan Anda, atau mungkin Yanx yang dicintai

Saat kecerdasan buatan mencapai keunggulan kognitif

Untuk mendidik pembuat kebijakan tentang risiko manipulasi yang bekerja dengan kecerdasan, dia membantu membuat film pemenang pendek berjudul “Bott” berjudul ” Saya kehilangan privasi Itu diproduksi oleh Koalisi Metaverse yang bertanggung jawab, Minderoo dan XR Guild. Cepat Narasi selama 3 menit Ini menggambarkan keluarga muda makan di restoran sambil mengenakan kacamata realitas yang dipaksakan (AR). Alih -alih server manusia, para dewa mengambil perintah dari setiap restoran, menggunakan kekuatan kecerdasan buatan untuk membersihkannya dengan cara pribadi. Film fiksi ilmiah dipertimbangkan ketika dirilis pada tahun 2023 tetapi hanya dua tahun kemudian, teknologi besar terlibat dalam shamil Perlombaan senjata untuk membuat kacamata beroperasi di Amnesty International Ini dapat dengan mudah digunakan dengan cara ini.

Selain itu, kita perlu mempertimbangkan dampak psikologis yang akan terjadi ketika kita manusia mulai percaya bahwa agen kecerdasan buatan memberi kita nasihat yang lebih cerdas dari kita di hampir setiap front. Ketika kecerdasan buatan mencapai kondisi “superioritas kognitif” yang dirasakan dalam kaitannya dengan rata -rata orang, ini cenderung menyebabkan penerimaan kita buta terhadap arahannya alih -alih menggunakan pemikiran kritis kita. Rasa hormat ini terhadap kecerdasan superior (apakah itu benar -benar unggul atau tidak) akan membuat perawatan agen lebih mudah diterbitkan.

Saya bukan penggemar organisasi agresif yang berlebihan, tetapi kita membutuhkan pembatasan yang cerdas dan sempit pada kecerdasan buatan untuk menghindari manipulasi supernatural oleh agen percakapan. Tanpa perlindungan, agen -agen ini akan meyakinkan kita untuk membeli barang -barang yang tidak kita butuhkan, dan saya percaya pada hal -hal yang salah dan menerima hal -hal yang tidak sesuai dengan minat kita. Sangat mudah untuk mengatakan pada diri sendiri bahwa Anda tidak akan rentan, tetapi dengan AI meningkatkan setiap kata yang mereka katakan kepada kami, kami kemungkinan akan melampaui kami semua.

Salah satu solusinya adalah larangan agen kecerdasan buatan dari pendirian Reaksi cincin Mereka meningkatkan persuasi mereka dengan menganalisis reaksi kami dan mengendalikan taktik mereka berulang kali. Selain itu, agen kecerdasan buatan harus diminta untuk memberi tahu Anda tentang tujuan mereka. Jika tujuan mereka adalah untuk membujuk Anda untuk membeli mobil, memilih mendukung politik atau dokter keluarga Anda untuk mendapatkan obat baru, tujuan -tujuan ini harus ditentukan di latar depan. Akhirnya, agen kecerdasan buatan tidak boleh memiliki akses ke data pribadi tentang latar belakang, minat, atau kepribadian Anda jika mungkin untuk menggunakan data ini untuk pengaruh Anda.

Di dunia saat ini, pengaruh target adalah masalah yang luar biasa, dan sering diterbitkan sebagai diluncurkan ke arah umum Anda. Faktor intelijen buatan interaktif akan mengubah efek yang ditargetkan menjadi rudal pencarian panas yang menemukan cara terbaik bagi kita masing -masing. Jika kita tidak melindungi bahaya ini, saya takut kehilangan semua permainan manusia.

Luis Rosenberg adalah seorang ilmuwan komputer dan penulis terkenal yang merupakan pelopor Realitas campuran Dan pendirian Konsensus kecerdasan buatan.