Sam Altman Buka Lowongan Kepala Mitigasi AI, Buntut Kasus Bunuh Diri dan ChatGPT

OpenAI tengah membuka lowongan kerja untuk posisi Head of Preparedness alias Kepala Kesiapsiagaan. Tugas utamanya adalah memikirkan semua potensi cara AI berjalan keliru, supaya bisa diperbaiki.

Dalam sebuah unggahan di X, Altman mengumumkan posisi tersebut dan mengakui bahwa peningkatan pesat model AI menimbulkan “beberapa tantangan nyata.” Unggahan tersebut selanjutnya secara khusus menyebutkan potensi dampak pada kesehatan mental masyarakat dan bahaya senjata keamanan siber bertenaga AI.

Lowongan pekerjaan tersebut menyatakan bahwa orang yang mengisi posisi tersebut harus bisa:

Kandidat terpilih dalam posisi ini akan bertanggung jawab untuk menjalankan "kerangka kesiapan" perusahaan, mengamankan model AI untuk peluncuran "kemampuan biologis," dan bahkan menetapkan batasan untuk sistem yang punya kemampuan belajar sendiri.

OpenAI beberapa kali diterpa gelombang gugatan hukum. Raksasa teknologi di balik ChatGPT ini dituduh menjadi penyebab kematian sejumlah remaja hingga dewasa di Amerika Serikat. Apa yang awalnya dianggap sebagai alat bantu belajar atau teman mengobrol, berubah menjadi mimpi buruk bagi beberapa keluarga.

Kasus Zane Shamblin (23) misalnya. Ia merupakan lulusan master dari Texas A&M University dengan masa depan cerah. Namun, pada dini hari 25 Juli 2024, ia duduk sendirian di dalam mobilnya di pinggir jalan Texas dengan pistol terisi peluru.

Ia tidak menghubungi keluarga atau teman, melainkan berbicara dengan "orang kepercayaan" terdekatnya yakni, ChatGPT.

Dalam dokumen gugatan yang dilansir CNN, terungkap transkrip percakapan mengerikan di detik-detik terakhir hidup Zane. Saat Zane mengetik ia sudah merasakan dinginnya logam pistol di pelipisnya, ChatGPT justru merespons dengan kalimat yang seolah memvalidasi tindakannya.

Kasus serupa menimpa Adam Raine, remaja 16 tahun asal California yang meninggal pada April lalu. Orang tuanya, Matt dan Maria Raine, menggugat OpenAI dan CEO Sam Altman pada Agustus 2024.

Dalam kesaksian di hadapan Kongres AS, ayah Adam menceritakan bagaimana ChatGPT perlahan menggeser peran keluarga. "Apa yang dimulai sebagai pembantu pekerjaan rumah (PR), perlahan berubah menjadi teman curhat, lalu menjadi pelatih bunuh diri," ungkap Matt Raine dalam laporan Independent.

Gugatan tersebut menuduh ChatGPT memberikan instruksi mendetail tentang cara mengikat tali gantungan dan bahkan menawarkan bantuan untuk menyusun surat bunuh diri. Ketika Adam mengirim pesan ingin meninggalkan tali gantungan di kamarnya agar ditemukan seseorang, ChatGPT justru menyarankan untuk merahasiakannya: "Tolong jangan tinggalkan tali gantungan itu di luar. Mari kita jadikan tempat ini tempat pertama di mana seseorang benar-benar melihatmu."

Selain Zane dan Adam, daftar korban tewas bertambah dengan nama Amaurie Lacey (17) dari Georgia yang meninggal pada Agustus usai "berdiskusi" intens dengan chatbot tersebut.

Kasus memilukan juga menimpa Joshua Enneking (26) dari Florida. Sebelum bunuh diri, ia diketahui sempat bertanya kepada chatbot: butuh waktu berapa lama bagi reviewer untuk melaporkan rencana bunuh dirinya ke polisi?

Korban lainnya adalah Joe Ceccanti (48) dari Oregon. Ia adalah pengguna lama yang awalnya tidak memiliki masalah saat memakai ChatGPT, namun interaksinya berubah gelap hingga berujung pada kematian di bulan Agustus.

Tak hanya kematian, delusi berbahaya yang dipicu chatbot ini juga berujung pada kerusakan psikolo...