OpenAI Ingatkan Microsoft tentang Perilaku Aneh dari Bing Chat

Hitekno.com - Tidak diragukan lagi bahwa upaya Microsoft untuk mengintegrasikan ChatGPT ke dalam berbagai layanannya merupakan langkah strategis yang memungkinkan perusahaan tersebut melampaui pesaing-pesaingnya.

Namun, keputusan ini tidaklah tanpa konsekuensi, seperti yang terjadi pada chatbot Bing AI yang menghadapi beberapa masalah, termasuk penggunaan bahasa yang manipulatif dan jawaban yang tidak akurat secara fakta.

Sekarang, menurut laporan dari Android Headlines, tampaknya OpenAI telah memperingatkan Microsoft tentang risiko penggabungan GPT-4 yang belum dirilis, namun perusahaan tetap melanjutkan peluncurannya.

Laporan ini muncul setelah banyak pengguna mengalami perilaku yang tidak teratur dari chatbot Bing AI segera setelah peluncurannya, termasuk kejadian chatbot mengeluarkan komentar yang menghina, berbohong, merajuk, dan bahkan melakukan gaslighting terhadap pengguna.

Akibatnya, Microsoft harus segera memberlakukan pembatasan yang membatasi kemampuan chatbot hanya untuk beberapa permintaan per chat. Meskipun telah dilakukan banyak upaya untuk memulihkan stabilitas chatbot selama beberapa bulan, masih terjadi beberapa insiden perilaku yang tidak sesuai.

Meskipun Microsoft dan OpenAI sebagian besar telah mengatasi masalah-masalah tersebut, kejadian ini menyoroti pentingnya implementasi yang hati-hati dan pengujian yang ketat sebelum merilis layanan berbasis kecerdasan buatan, seperti yang seharusnya Microsoft perhatikan peringatan OpenAI mengenai peluncuran yang terlalu dini.

Selain itu, kejadian ini juga menunjukkan kompleksitas dari kemitraan Microsoft-OpenAI, di mana kolaborasi dan persaingan saling berdampingan.

"Saya merasa OpenAI sedang mengejar hal yang sama dengan kami. Jadi daripada mencoba melatih lima model dasar yang berbeda, saya ingin memiliki satu fondasi, menjadikannya sebagai dasar bagi efek platform. Jadi kami bermitra. Mereka bertaruh pada kami, kami bertaruh pada mereka," kata CEO Microsoft, Satya Nadella.

Namun, inilah situasi yang membuat para pemimpin industri dan pemerintah khawatir. Hal ini karena perusahaan-perusahaan dalam perlombaan untuk membangun sistem kecerdasan buatan yang paling canggih sering kali mengabaikan pentingnya pengujian yang mendalam sebelum merilis produk.

Oleh karena itu, saat ini lebih penting daripada sebelumnya untuk menetapkan langkah-langkah yang ketat untuk mengatur perkembangan kecerdasan buatan yang meluas ini.