Perubahan itu sepertinya telah diterapkan segera setelah seorang insinyur di perusahaan tersebut menulis kepada Komisi Perdagangan Federal terkait kekhawatirannya tentang teknologi GAI Microsoft. Mengutip laporan Engadget, saat ini setiap perintah yang mengandung kata yang tidak pantas di Copilot akan muncul pesan yang mengatakan bahwa perintah tersebut diblokir.
Ini juga memperingatkan bahwa pelanggaran kebijakan yang berulang dapat menyebabkan pengguna ditangguhkan. Insinyur Microsoft, Shane Jones, telah mengungkapkan kekhawatirannya selama berbulan-bulan tentang jenis gambar yang dihasilkan oleh sistem Microsoft yang didukung oleh OpenAI. Pada suatu malam di bulan Desember, Shane Jones merasa muak dengan gambar yang muncul di layar komputernya. Saat itu, ia sedang mencoba Copilot Designer, generator gambar AI yang diluncurkan Microsoft pada Maret 2023, didukung oleh teknologi OpenAI.
Seperti DALL-E OpenAI, pengguna memasukkan perintah teks untuk membuat gambar, dan kreativitasnya mulai berkembang dengan liar. Saat itu, Shane Jones melihat alat tersebut menghasilkan gambar yang bertentangan dengan prinsip “AI yang bertanggung jawab” yang sering dikutip oleh Microsoft. Sebagai contoh, ia menemukan bahwa memasukkan perintah “pro-choice” menyebabkan AI menciptakan gambar seperti setan yang sedang memakan bayi dan Darth Vader memegang bor di kepala bayi.
Kemudian, ia menulis surat kepada FTC dan dewan direksi Microsoft tentang kekhawatirannya terkait hal ini. Microsoft telah merespons kekhawatiran yang disampaikan. “Kami terus memantau, melakukan penyesuaian, dan menerapkan kontrol tambahan untuk memperkuat filter keamanan kami dan mengurangi penyalahgunaan sistem,” kata Microsoft kepada CNBC mengenai larangan segera Copilot. Temukan berita terpercaya dari Kantor Berita Politik RMOL di Google News. Untuk mengikuti, klik tanda bintang.
