Inifakta.com - Sebuah laporan kontroversial telah muncul mengenai pengalaman karyawan yang bekerja di perusahaan anotasi AI Sama yang dikontrak oleh OpenAI. Perusahaan ini bertanggung jawab untuk menyelesaikan proses yang disebut "Pembelajaran Penguatan dari Umpan Balik Manusia," yang melibatkan melatih model AI dengan bantuan umpan balik manusia. Salah satu karyawan yang terlibat dalam proses ini, Richard Mathenge, berbicara kepada outlet berita Slate tentang pengalamannya mulai melatih model AI pada tahun 2021.
Mathenge dan timnya bekerja lima hari dalam seminggu selama sembilan jam sehari, dan pengalaman tersebut meninggalkan bekas luka yang mendalam. Menurut Mathenge, tugas yang diberikan kepada mereka "tak terbayangkan." Beberapa tugas melibatkan membaca teks eksplisit berulang kali untuk memberikannya label yang tepat. Meskipun teknik ini bertujuan untuk menciptakan model bahasa yang aman bagi publik, pada akhirnya memberikan dampak negatif pada pelatih manusia.
Teks eksplisit yang harus mereka hadapi melibatkan konten kejahatan seperti pelecehan seksual anak dan bestialitas. Mathenge mengungkapkan kepada Slate bahwa ia bisa merasakan ketika timnya tidak berfungsi dengan baik, dan mereka tidak tertarik untuk melapor dan bekerja. Timnya mengirimkan sinyal bahwa mereka tidak siap untuk terus menggunakan kata-kata yang mengerikan seperti itu.
CEO OpenAI, Sam Altman, pernah memuji Pembelajaran Penguatan dari Umpan Balik Manusia sebagai metode yang baik bagi manusia untuk melatih AI tentang konten yang baik dan buruk. Namun, Mathenge, yang bekerja di Nairobi, Kenya, mengklaim bahwa teknik tersebut memiliki konsekuensi yang menghancurkan bagi timnya.
Mathenge menyatakan, "Saya tahu kapan tim saya tidak bekerja dengan baik, saya tahu kapan mereka tidak tertarik melapor untuk bekerja." Mophat Okinyi, salah satu anggota tim Mathenge, mengungkapkan bahwa ia masih mengalami masalah medis setelah melatih ChatGPT. Masalah-masalah ini termasuk serangan panik, insomnia, kecemasan, dan depresi. Ia menyalahkan pengalaman tersebut atas kepergian istrinya dan menggambarkan dampaknya sebagai menghancurkan keluarganya dan kesehatan mentalnya yang masih terus berjuang melawan trauma.
Para karyawan merasa bahwa dukungan yang mereka terima tidak memadai. Upaya telah dilakukan untuk menghubungi OpenAI guna mendapatkan komentar terkait hal ini. Seorang juru bicara OpenAI memberikan tanggapannya kepada Slate, menyatakan bahwa salah satu alasan OpenAI memilih bekerja sama dengan Sama adalah karena komitmen Sama terhadap praktik yang baik. Namun, laporan ini mengungkapkan bahwa dukungan yang dijanjikan ternyata tidak cukup untuk mengatasi dampak negatif yang dialami oleh para karyawan.
Dalam menghadapi traumanya Dalam menghadapi trauma yang mereka alami, para karyawan tersebut tetap mengaku bangga dengan pekerjaan mereka dan keberhasilan ChatGPT. Meskipun mereka menyadari dampak negatif yang mereka alami, mereka merasa bahwa kontribusi mereka dalam melatih AI memiliki nilai dan penting dalam mengembangkan teknologi yang dapat membantu banyak orang.
Namun, laporan ini juga menyoroti perlunya perhatian lebih terhadap kesejahteraan dan keamanan mental para karyawan yang terlibat dalam proses pelatihan AI seperti ini. Meskipun OpenAI dan perusahaan seperti Sama telah menyediakan beberapa bentuk dukungan, tampaknya masih diperlukan upaya yang lebih besar untuk mengatasi dampak psikologis yang serius yang dapat timbul akibat pekerjaan ini.
Kami juga telah menghubungi Sama untuk memberikan komentar terkait laporan ini, namun belum ada tanggapan yang diterima. Penting bagi perusahaan-perusahaan yang terlibat dalam pelatihan AI dengan menggunakan umpan balik manusia untuk melakukan evaluasi menyeluruh terkait dampaknya pada kesejahteraan karyawan dan memastikan bahwa langkah-langkah perlindungan yang memadai telah diterapkan.
Kasus ini juga memperkuat pentingnya pengembangan etika dan tanggung jawab dalam penggunaan teknologi AI. Perusahaan dan peneliti harus bertanggung jawab tidak hanya dalam mengembangkan model AI yang baik, tetapi juga dalam memperhatikan kesejahteraan dan hak-hak para karyawan yang terlibat dalam proses pelatihan.
Dalam konteks ini, transparansi, keterbukaan, dan kolaborasi antara perusahaan, peneliti, dan karyawan menjadi sangat penting. Perusahaan-perusahaan teknologi harus terus meningkatkan praktik-praktik mereka, mengutamakan kesejahteraan karyawan, dan memberikan lingkungan kerja yang sehat dan aman dalam upaya mereka untuk mengembangkan teknologi AI yang bermanfaat bagi masyarakat.