 |
| akal imitasi |
Klaim OpenAI tentang penurunan “halusinasi” pada ChatGPT terdengar meyakinkan dan justru karena itu perlu dicurigai. Istilah “halusinasi” sendiri kerap menipu. Ia memberi kesan adanya anomali, seolah kesalahan adalah deviasi dari sistem yang pada dasarnya benar.
Sistem ini tidak mengetahui; ia memprediksi. Ia tidak memverifikasi; ia menggeneralisasi. Dalam kerangka itu, pengurangan halusinasi bukan penghapusan masalah, melainkan sekadar penyesuaian probabilitas.
Psikologi kognitif menyebut kecenderungan ini sebagai automation bias: manusia lebih mudah menerima output sistem otomatis, terutama ketika sistem tersebut menunjukkan performa yang tampak konsisten. Paradoksnya, semakin baik AI bekerja, semakin kecil pula dorongan untuk mengujinya.
Sebuah kajian bertajuk News Integrity in AI Assistants: An international PSM study oleh BBC dan berbagai perusahaan media pada Mei–Juni 2025 menemukan akurasi AI generatif (akal imitasi) dalam menyediakan informasi masih meragukan. Para jurnalis yang terlibat dalam penelitian mendapati hampir setengah dari respons chatbot tidak akurat. Kesalahan serius AI dalam menjawab pertanyaan para jurnalis sebesar 17 persen, mencakup ketiadaan sumber informasi dan hilang konteks.
sumber: republika, tempo
Sistem ini tidak mengetahui; ia memprediksi. Ia tidak memverifikasi; ia menggeneralisasi. Dalam kerangka itu, pengurangan halusinasi bukan penghapusan masalah, melainkan sekadar penyesuaian probabilitas.
Psikologi kognitif menyebut kecenderungan ini sebagai automation bias: manusia lebih mudah menerima output sistem otomatis, terutama ketika sistem tersebut menunjukkan performa yang tampak konsisten. Paradoksnya, semakin baik AI bekerja, semakin kecil pula dorongan untuk mengujinya.
Sebuah kajian bertajuk News Integrity in AI Assistants: An international PSM study oleh BBC dan berbagai perusahaan media pada Mei–Juni 2025 menemukan akurasi AI generatif (akal imitasi) dalam menyediakan informasi masih meragukan. Para jurnalis yang terlibat dalam penelitian mendapati hampir setengah dari respons chatbot tidak akurat. Kesalahan serius AI dalam menjawab pertanyaan para jurnalis sebesar 17 persen, mencakup ketiadaan sumber informasi dan hilang konteks.
sumber: republika, tempo
