TOPMEDIA – OpenAI resmi menerapkan aturan baru bagi ChatGPT sejak 29 Oktober lalu. Dalam pembaruan tersebut, chatbot kecerdasan buatan ini tidak lagi diperbolehkan memberikan saran langsung terkait kesehatan, hukum, maupun keuangan.
Sebagai gantinya, ChatGPT kini hanya dapat menjelaskan prinsip umum, menguraikan mekanisme dasar, atau menyarankan pengguna untuk berkonsultasi dengan profesional berlisensi seperti dokter, pengacara, atau penasihat keuangan.
“Aturan baru ini melarang penyebutan nama obat, pemberian dosis, penyusunan template tuntutan hukum, serta saran jual-beli investasi,” tulis sebuah media Eropa pada Senin (3/11).
Langkah ini diambil setelah banyak pengguna memperlakukan ChatGPT layaknya terapis pribadi atau penasihat profesional. Padahal, chatbot AI seperti ChatGPT tidak memiliki pengalaman langsung, kemampuan membaca bahasa tubuh, maupun empati manusiawi yang dimiliki terapis sungguhan.
Berbeda dengan tenaga ahli yang bekerja di bawah mandat hukum dan etika profesional, ChatGPT tidak memiliki tanggung jawab untuk melindungi keselamatan atau kepentingan pengguna.
Dalam konteks keuangan, misalnya, ChatGPT mungkin bisa menjelaskan apa itu ETF (Exchange Traded Fund) atau konsep dasar investasi, tetapi ia tidak mengetahui kondisi finansial pribadi pengguna, seperti rasio utang, tujuan pensiun, atau profil risiko mereka. Karena itu, keputusan finansial yang melibatkan uang nyata sebaiknya tetap dikonsultasikan dengan pakar keuangan.
Selain topik yang kini dilarang, pembaruan aturan ini juga menyoroti keterbatasan ChatGPT dalam situasi berisiko tinggi atau darurat. Sebagai model bahasa besar (large language model), ChatGPT tidak memiliki kemampuan sensorik, ia tidak bisa mencium bau gas beracun atau memanggil tim darurat.
“Jika alarm karbon monoksida berbunyi, jangan buka ChatGPT dan bertanya apakah Anda berbahaya. Segera evakuasi,” tulis laporan tersebut mengingatkan.
ChatGPT juga tidak dirancang untuk menyediakan informasi real-time secara berkelanjutan. Meski sejak peluncuran ChatGPT Search pada akhir 2024 chatbot ini sudah bisa menelusuri halaman web dan data terkini, pengguna tetap harus memberi perintah baru setiap kali ingin memperbarui informasi. Artinya, ChatGPT belum dapat digunakan untuk memantau perkembangan berita atau harga saham secara langsung.
Selain itu, muncul pula kekhawatiran soal keamanan data pribadi pengguna. Menurut IBTimes UK, apa pun informasi yang diketikkan pengguna,termasuk pendapatan, nomor identitas, data bank, kontrak klien, hingga rekam medis, berpotensi menjadi bagian dari data pelatihan ChatGPT. Tidak ada jaminan pasti di mana data tersebut disimpan atau siapa yang bisa mengaksesnya.
Aturan baru ini sekaligus menjadi pengingat penting bagi pengguna: meski canggih dan membantu, ChatGPT bukan pengganti manusia dalam hal yang menyangkut keputusan hidup, hukum, atau keuangan pribadi. (*)
