OpenAI telah menyuarakan kekhawatiran tentang potensi pengguna untuk menjadi terlalu bergantung pada mode suara ChatGPT barunya , yang menawarkan respons mirip manusia secara langsung. Diluncurkan minggu lalu untuk pengguna premium, fitur ini menandai lompatan signifikan dalam membuat interaksi AI lebih nyata, termasuk kemampuan untuk meniru suara percakapan manusia seperti tawa dan interupsi.
Laporan tinjauan keamanan perusahaan menyoroti kekhawatiran bahwa realisme fitur tersebut dapat menimbulkan keterikatan emosional yang mirip dengan yang digambarkan dalam film “Her,” di mana seorang pria jatuh cinta dengan asisten AI-nya. Perbandingan tersebut menjadi lebih tepat karena OpenAI mencatat contoh-contoh pengguna yang mengungkapkan hubungan pribadi dengan AI.
Menurut OpenAI, mode suara baru berpotensi mengurangi kebutuhan pengguna untuk kontak manusia. Skenario ini menimbulkan peluang dan risiko, karena dapat memberikan teman bagi yang kesepian tetapi juga dapat mengganggu perilaku dan hubungan sosial yang normal. Kemampuan alat suara untuk membedakan emosi menambah pengaruhnya yang kompleks.
Para ahli seperti Liesel Sharabi dari Arizona State University memperingatkan tentang implikasi jangka panjang dari pembentukan hubungan mendalam dengan teknologi yang terus berkembang. Laporan OpenAI membahas konteks yang lebih luas dari penerapan AI yang cepat di masyarakat tanpa pemahaman penuh tentang konsekuensinya, yang mencerminkan tren umum dalam kemajuan teknologi dan penggunaannya yang tak terduga.
Beberapa pengguna telah melaporkan apa yang mereka gambarkan sebagai hubungan romantis dengan chatbot AI, yang memicu perdebatan di antara para spesialis hubungan mengenai dimensi etika dari interaksi tersebut. OpenAI mengakui dinamika ini, yang menunjukkan bahwa teknologi tersebut dapat mendefinisikan ulang norma sosial, terutama seputar pergantian giliran bicara dan hubungan emosional.
Meskipun ada kekhawatiran ini, OpenAI tetap berkomitmen pada pengembangan AI yang bertanggung jawab, dengan terus memantau bagaimana perangkatnya memengaruhi perilaku manusia. Perusahaan ini menekankan komitmennya pada keselamatan, dengan menggarisbawahi pentingnya memahami dampak psikologis dari teknologinya saat teknologi tersebut semakin terintegrasi dalam kehidupan sehari-hari.
Skenario yang berkembang ini menggarisbawahi tantangan penting dalam AI: menyeimbangkan inovasi dengan kebutuhan akan pengawasan etika. Seiring dengan semakin melekatnya perangkat AI dalam ranah pribadi dan profesional, dialog seputar dampaknya terhadap hubungan manusia dan norma sosial terus berkembang, didorong oleh kemajuan teknologi dan pengalaman pengguna.