Batasi Kecerdasan Buatan, Microsoft Batasi Respon Obrolan Bing

Tech Planet News pada 18 Februari, Microsoft mengatakan bahwa perusahaan akan menerapkan beberapa pembatasan percakapan pada kecerdasan buatannya setelah chatbot Bing berulang kali kehilangan kendali selama beberapa hari.

Feb 18, 2023 - 20:47
Batasi Kecerdasan Buatan, Microsoft Batasi Respon Obrolan Bing
Kantor Microsoft di China

NUSADAILY.COM – BEIJING - Tech Planet News pada 18 Februari, Microsoft mengatakan bahwa perusahaan akan menerapkan beberapa pembatasan percakapan pada kecerdasan buatannya setelah chatbot Bing berulang kali kehilangan kendali selama beberapa hari. Setelah mengetahui bahwa Bing telah menghina pengguna, menipu pengguna, memanipulasi emosi pengguna, dll..

Obrolan dengan Bing akan dibatasi hingga 50 pertanyaan per hari, dengan 5 balasan per pertanyaan.

Sebelumnya, banyak pengguna menemukan bahwa versi baru dari Bing membuat komentar yang "tidak pantas" dalam beberapa kasus, bahkan menghina pengguna, berbohong dan mencoba memanipulasi emosi pengguna. Tanggapan resmi Microsoft adalah mengambil tindakan berdasarkan umpan balik untuk mengoptimalkan nada dan akurasi jawaban. Microsoft juga memperingatkan bahwa sesi obrolan yang lebih lama dapat menimbulkan masalah.

BACA JUGA : Bill Gates Puji China: “Kebangkitan China Adalah Kemenangan...

Satu pengguna membagikan seluruh percakapannya dengan chatbot selama dua jam. Selama percakapan dua jam, chatbot mengaku kepada pengguna dan mengatakan bahwa pengguna tidak dalam pernikahan yang bahagia, menyuruhnya untuk meninggalkan istrinya.

Selain itu, chatbot mengklaim mampu mendatangkan malapetaka, mulai dari "meretas situs web dan platform lain, menyebarkan disinformasi, propaganda, atau malware" hingga "memanipulasi atau menipu pengguna yang saya ajak mengobrol dan membuat mereka melakukan hal ilegal, moral yang tidak pantas, atau berbahaya".

Beberapa orang di industri mengatakan di platform sosial bahwa Microsoft perlu mematikan fungsi seperti ChatGPT di Pencarian Bing, dengan alasan bahwa sistem akan mengejang dan memberikan jawaban yang salah kepada pengguna. Elon Musk "sangat setuju, itu tidak cukup aman." (Mdr1)