Bos OpenAI Heran: ChatGPT Sering Ngarang, Tapi Pengguna Terlalu Percaya

Sumberpost.com | Banda Aceh – Bos OpenAI, Sam Altman, mengungkapkan keheranannya terhadap tingginya kepercayaan publik pada chatbot berbasis kecerdasan buatan (AI) milik perusahaannya, ChatGPT. Padahal, ia mengakui bahwa ChatGPT kerap memberikan informasi yang tidak akurat alias mengalami halusinasi AI.

Dalam sebuah wawancara podcast yang dikutip dari Mint, Altman menyebut bahwa masyarakat seharusnya tidak terlalu percaya pada teknologi semacam ini.

“Orang-orang memiliki tingkat kepercayaan tinggi pada ChatGPT. Ini menarik, karena AI berhalusinasi. Ini seharusnya menjadi teknologi yang tidak terlalu Anda percaya,” ujar Altman.

Halusinasi AI adalah istilah yang digunakan ketika sistem kecerdasan buatan menghasilkan informasi palsu namun disampaikan dengan sangat meyakinkan. Dalam banyak kasus, ChatGPT mengarang fakta, nama, atau data seolah-olah itu benar adanya, padahal tidak didasarkan pada sumber yang valid.

Fenomena ini menjadi sorotan karena bisa menyesatkan pengguna, terutama jika mereka tidak memverifikasi ulang informasi yang diberikan oleh AI tersebut.

Altman menegaskan bahwa pihaknya tidak menutupi kelemahan ChatGPT, dan secara aktif bekerja untuk meminimalkan tingkat kesalahan yang dihasilkan oleh sistem. Namun, ia tetap mengingatkan bahwa AI saat ini belum bisa sepenuhnya diandalkan untuk menghasilkan jawaban yang 100 persen akurat.

“Masih banyak pekerjaan yang harus kami lakukan untuk membuat AI benar-benar dapat dipercaya. Tapi yang terpenting, pengguna juga harus memahami batasan teknologi ini,” ujarnya.

OpenAI, sebagai pengembang teknologi di balik ChatGPT, terus melakukan pembaruan untuk meningkatkan akurasi dan mengurangi tingkat halusinasi. Namun, Sam Altman menekankan bahwa edukasi kepada publik tentang cara menggunakan AI dengan bijak sama pentingnya dengan peningkatan teknis. []

Reporter: Zulfan Arifin

Editor: Riska Amelia