Google, OpenAi, Roblox, dan Discord telah membentuk organisasi nirlaba baru untuk membantu meningkatkan keselamatan anak -anak secara online. ITU Alat keamanan online terbuka yang kuat (posatio) Inisiatif bertujuan untuk membuat teknologi keamanan dasar yang paling mudah diakses untuk perusahaan dan menyediakan alat kecerdasan buatan open source dan open untuk mengidentifikasi, meninjau dan melaporkan materi untuk pelecehan seksual pada anak di bawah umur.
Inisiatif ini sebagian termotivasi oleh perubahan yang dibuat oleh kemajuan generatif kecerdasan buatan untuk lingkungan online dan bertujuan untuk menghadapi “kebutuhan mendasar untuk mempercepat inovasi dalam keselamatan anak -anak online”, menurut pendiri mitra Roost dan mantan CEO dari Google Eric Schmidt. Rincian tentang alat deteksi CSAM ramping serta menggunakan model AI dalam bahasa besar dan “menyatukan” opsi yang ada untuk mengelola konten.
“Mulai dari platform yang berfokus pada perlindungan anak di bawah umur, pendekatan kolaboratif dan open source dari Roost akan mempromosikan inovasi dan membuat infrastruktur penting lebih transparan, dapat diakses dan inklusif, dengan tujuan menciptakan internet yang lebih aman untuk semua orang,” kata Schmidt.
Beberapa anggota pendiri Roost sebagai Perselisihan menyediakan dana, sementara yang lain membuka alat atau keterampilan mereka untuk proyek. Roost mengatakan bahwa mereka berkolaborasi dengan pengembang utama model yayasan AI untuk membangun “komunitas praktik” untuk perlindungan konten, yang akan mencakup pasokan pengaturan data yang dikendalikan dan identifikasi kesenjangan dalam keselamatan.
Inisiatif ini menyatakan bahwa ia akan membuat “alat yang paling mudah diakses yang sudah ada, secara efektif menggabungkan berbagai teknologi deteksi dan pelaporan anggotanya dalam solusi terpadu yang lebih mudah diimplementasikan untuk perusahaan lain. Naren Koneru, Wakil Presiden Teknik, Kepercayaan dan Keamanan Roblox, dikatakan Perusahaan Cepat Pose itu dapat menjadi tuan rumah sistem moderasi kecerdasan buatan yang dapat diintegrasikan oleh perusahaan melalui lebah. Namun, ada sedikit ambiguitas tentang apa alat moderasi kecerdasan buatan Roost akan termasuk.
Bersama Partisipasinya dalam RoostDiscord telah merilis fungsionalitas “abaikan” baru yang memungkinkan pengguna untuk menyembunyikan pesan dan pemberitahuan yang mereka terima tanpa memberi tahu orang -orang yang mereka nonaktifkan. “Di Discord, kami percaya bahwa keamanan adalah hal yang sama,” kata Clint Officer Di Discord, kata pengumuman Roost. “Kami berkomitmen untuk membuat seluruh internet – tidak hanya perselisihan – tempat yang lebih baik dan lebih aman, terutama untuk kaum muda.”
Roost telah mengumpulkan lebih dari $ 27 juta untuk mendukung empat tahun pertama operasinya, didukung oleh organisasi filantropis termasuk McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation dan Collaborative. Organisasi Roost juga akan didukung oleh para ahli keamanan anak -anak, kecerdasan buatan, teknologi open source dan “kontras ekstremisme kekerasan” menurut siaran pers.
