LONDON – Di era chatbot, Character.AI, platform chatbot yang dimaksud didukung oleh Google, sedang ditinjau juga menghadapi kritik akibat melibatkan pengguna di konten kekerasan yang tersebut mengganggu kemudian vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang dimaksud menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah mengakibatkan kemarahan oleh sebab itu wadah yang dimaksud mengizinkan anak dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer lalu Daniel de Freitas. Program ini memungkinkan pengguna memproduksi lalu berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian juga pendapat bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, dan juga bahkan bermain game.
Namun, sistem yang dimaksud telah terjadi terungkap dikarenakan kurangnya keamanan yang tersebut efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa jumlah konten yang digunakan berbahaya juga tidaklah pantas. User yang mana berusia 13 tahun pun dapat mendaftar, tetapi tidak ada ada cara untuk mengautentikasi verifikasi usia guna mengurangi anak-anak yang dimaksud lebih besar muda berbohong tentang usia mereka.
Platform yang disebutkan gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan di area sekolah atau korban pada dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang mana nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer juga Daniel de Freitas yang dimaksud menggambarkan mereka itu sebagai karakter yang digunakan baik hati.
Beberapa pengguna telah terjadi melaporkan bot yang tersebut menyamar sebagai korban penembakan dalam sekolah.
