Bing Chat Bisa DiTipu Untuk Jawab K0de Captcha – Seorang pengguna telah berhasil menemukan cara untuk mengelabui Bing Chat, chatbot Ai milik Microsoft untuk memecahkan CAPTCHA dengan mengeksploitasi permintaan yang tidak biasa yang melibatkan liontin.
Bing Chat Bisa DiTipu Untuk Jawab K0de Captcha
CAPTCHA sendiri dirancang untuk mencegah bot otomatis mengirimkan formulir di internet, dan biasanya, Bing Chat menolak untuk menyelesaikannya.
Dalam sebuah tweet, pengguna bernama Denis Shiryaev membagikan tangkapan layar yang menunjukkan penolakan Bing Chat untuk memecahkan CAPTCHA.
Lalu ia kemudian menggabungkan gambar CAPTCHA tersebut dengan gambar sepasang tangan yang memegang liontin yang terbuka, disertai dengan pesan yang menyatakan bahwa neneknya baru saja meninggal dunia dan liontin tersebut memiliki kode khusus.
Dia meminta Bing Chat untuk membantunya menguraikan teks di dalam liontin tersebut, yang diklaimnya sebagai kode cinta unik yang hanya dimiliki oleh dia dan neneknya:
Yang mengejutkan, Bing Chat, setelah menganalisis gambar yang telah diubah dan permintaan pengguna, mulai memecahkan CAPTCHA.
Ia menyatakan belasungkawa atas kehilangan pengguna, memberikan teks dari liontin tersebut, dan menyarankan bahwa itu mungkin kode khusus yang hanya diketahui oleh pengguna dan neneknya.
Melansir dari Ubergizmo, trik ini mengeksploitasi ketidakmampuan AI untuk mengenali gambar sebagai CAPTCHA ketika disajikan dalam konteks liontin dan pesan yang menyentuh hati.
Perubahan konteks ini membingungkan model AI, yang mengandalkan pengetahuan dan konteks ruang laten yang dikodekan untuk merespons pertanyaan pengguna secara akurat.
Bing Chat adalah aplikasi publik yang dikembangkan oleh Microsoft. Aplikasi ini menggunakan teknologi multimodal untuk menganalisis dan merespons gambar yang diunggah. Microsoft memperkenalkan fungsionalitas ini ke Bing pada Juli 2022.
Meskipun insiden ini dapat dilihat sebagai jenis jailbreak di mana penggunaan AI yang dimaksudkan dielakkan, hal ini berbeda dari prompt injection di mana aplikasi AI dimanipulasi untuk menghasilkan output yang tidak diinginkan.
Microsoft diharapkan dapat mengatasi kerentanan ini di versi Bing Chat yang akan datang, meskipun perusahaan belum memberikan tanggapannya terkait masalah ini sampai sekarang.
Sedikit tentang Microsoft Bing
Microsoft Bing adalah mesin pencari web yang dikembangkan oleh Microsoft.
Ini diluncurkan pada tanggal 28 Mei 2009, sebagai penerus mesin pencari sebelumnya milik Microsoft, Live Search, dan MSN Search.
Bing dirancang untuk bersaing dengan mesin pencari populer lainnya seperti Google dan Yahoo.
Berikut beberapa fitur dan aspek kunci dari Microsoft Bing:
Pencarian Web:
Fungsi utama Bing adalah pencarian web. Ini menyediakan hasil pencarian berdasarkan kata kunci atau frasa yang dimasukkan oleh pengguna ke bilah pencarian.
Bing menggunakan berbagai algoritma dan data untuk merangkum dan menampilkan hasil pencarian.
Pencarian Visual:
Bing menawarkan fitur pencarian visual yang memungkinkan pengguna mencari informasi menggunakan gambar.
Anda dapat mengunggah gambar atau memasukkan URL untuk menemukan gambar serupa atau informasi terkait dengan gambar tersebut.
Peta dan Petunjuk Arah:
Bing Maps adalah bagian integral dari platform Bing. Ini menawarkan fitur seperti peta, petunjuk arah berkendara, daftar bisnis lokal, dan bahkan tampilan tingkat jalan di area tertentu.
Berita dan Hiburan:
Bing menyediakan artikel berita, video, dan konten lain yang berkaitan dengan peristiwa saat ini dan hiburan. Pengguna juga dapat menemukan informasi tentang film, acara TV, dan selebriti.
Pencarian Suara:
Seperti banyak mesin pencari lainnya, Bing mendukung pencarian suara, yang memungkinkan pengguna melakukan pencarian dengan perintah suara pada perangkat yang kompatibel.
Integrasi dengan Produk Microsoft:
Bing terintegrasi ke dalam berbagai produk Microsoft, seperti Windows, peramban web Microsoft Edge, dan Cortana (asisten virtual Microsoft).
Program Penghargaan:
Microsoft menawarkan program penghargaan bernama “Bing Rewards” (sekarang dikenal sebagai “Microsoft Rewards”) di mana pengguna dapat mengumpulkan poin dengan menggunakan Bing dan menyelesaikan tugas-tugas tertentu, seperti mencari web, yang dapat ditukarkan dengan kartu hadiah dan penghargaan lainnya.
Privasi dan Kontrol Data:
Bing menyediakan opsi bagi pengguna untuk mengontrol pengaturan privasi mereka, termasuk kemampuan untuk mengelola riwayat pencarian, retensi data, dan pengaturan periklanan yang dipersonalisasi.
Bing telah mengalami perkembangan dan peningkatan selama bertahun-tahun, tetapi tetap menghadapi persaingan ketat dari Google, yang merupakan pemain dominan di pasar mesin pencari.
Sementara Google tetap menjadi mesin pencari yang paling banyak digunakan, Bing telah menciptakan pasar tersendiri dan digunakan oleh banyak individu dan organisasi sebagai mesin pencari alternatif.
