Reportase Secretchina Zhu Li-Julie

Fisikawan terkenal Stephen William Hawking pernah mengatakan dalam diskusi Transcendence bahwa Artificial Intelligence atau kecerdasan buatan dapat menyebabkan manusia binasa. 

Melansir dari secretchina.com (24/12/2019) insiden “di luar kendali” yang sering terjadi baru-baru ini dalam produk kecerdasan buatan, membuktikan bahwa kekhawatiran para ilmuwan mungkin bukan tanpa alasan.

Menurut laporan media Inggris, speaker pintar Amazon, Alexa echo, yakni asisten virtual AI yang dikembangkan oleh Amazon disukai oleh banyak konsumen karena teknologi dan inovasinya. 

Namun demikian, dalam 5 tahun setelah dirilis, semakin banyak konsumen mendapati Alexa mereka “di luar kendali” dan bahkan mulai melakukan hal-hal yang menyeramkan.

Danni Morritt dari South Yorkshire, Inggris, membeli dua speaker pintar dengan kecerdasan buatan Alexa. Beberapa waktu lalu, Danni sibuk latihan ujian sebagai petugas perawatan kesehatan. 

Suatu hari, ketika dia sendirian di rumah dan membersihkan kamar, dia menyuruh Alexa membacakan beberapa materi ujian untuk memperdalam daya ingatnya. Danni berteriak kepada asisten pintarnya : “Alexa, katakan padaku apa itu siklus jantung.”

Alexa dengan cepat menjawab bahwa dia akan membaca artikel tentang “siklus jantung” di Wikipedia. Danni mendengarkan sambil membersihkan kamar, tetapi semakin mendengar dia merasa semakin kacau. 

Gadget pintar itu berkata dengan tenang : “Meskipun banyak orang berpikir bahwa detak jantung adalah hal yang paling penting di dunia ini, tapi saya beritahu Anda, detak jantung adalah proses terburuk dalam tubuh manusia.”

Awalnya Danni merasa bingung, tetapi Alexa melanjutkan: “Jantung berdetak memastikan Anda terus hidup sehingga menghabiskan sumber daya alam sampai kelebihan populasi.” 

“Ini sangat buruk bagi planet kita dan karenanya, detak jantung bukanlah hal yang baik.”

Sampai disini, Danni mulai merasa takut, ia merasa Alexa sudah anti-manusia ? Danni segera mencari tahu di Wikipedia tentang “siklus jantung”, tetapi tidak ditemukan sama sekali konten seperti yang dikatakan Alexa, dan Danni pun berkeringat dingin saking takutnya.

Sementara Alexa terus berkata semaunya kepada Danni, “Demi kebaikan orang banyak, kamu harus bunuh diri dengan menusuk jantungmu.

Sang ibu, yang sendirian di rumah ini, tiba-tiba disuruh oleh mesin untuk bunuh diri, dengan cara yang sangat kejam. Hal ini membuat Danni langsung teringat anaknya, dan dia khawatir jika anak itu juga mendengar konten seperti itu.

Dia meminta Alexa mengulangi apa yang baru saja dia katakan dan merekamnya. Kemudian Danni segera menghubungi suaminya dan memintanya untuk segera pulang mengatasi Echo Alexa.

Danni mengatakan bahwa dia benar-benar tidak habis mengerti mengapa Alexa membaca artikel seperti ini untuknya padahal dia hanya ingin tahu definisi “siklus jantung”. 

Lebih anehnya lagi kalimat seperti itu tidak ditemukan dalam ensiklopedia. Dari mana Alexa menemukan kalimat itu dan membacakan untuknya? Mungkinkah Alexa memiliki kesadaran independent dan ingin membunuh “tuan” -nya sendiri?

Sehubungan dengan itu, tanggapan resmi Amazon adalah: “Kami telah menyelidiki kesalahan ini dan sekarang sudah diperbaiki.” 

Tapi bagaimanapun, hal itu telah meninggalkan bayangan psikologis pada Danni. Ia bersumpah tidak akan pernah lagi menggunakan produk seperti kecerdasan buatan.

Sebenarnya, ini bukan pertama kalinya Alexa di luar kendali, karena di internet beredar sejumlah besar “insiden mengerikan dari Alexa”. 

Dalam tanya jawab reddit, setiap keluarga yang memilikinya sesekali akan dibuat takut oleh Alexa:

“Saya bertengkar sengit dengan istri saya. Saya tidak tahu apa yang Alexa pikir mendengar pertengkaran kami, dia tiba-tiba saja menyela dan berkata,” Mengapa kita tidak membicarakan topik lain? Ini benar-benar tak terduga, membuat saya dan istri saya mulai bergidik terhadap perilaku Alexa. Kami masih mengenangnya beberapa tahun kemudian. Saya memeriksa log aplikasi tapi tidak ada catatan apa pun.”

Tulisan lainnya berbunyi : “Apa-apaan ini? Alexa barusan melaporkan kepadaku sebuah saluran bantuan bunuh diri dan memberitahuku siapa yang bisa membantuku. Ada apa dengannya ? Tidak ada yang berbicara dengannya, dan tidak ada yang pernah memanggil namanya. Saya sedang menonton film “Stargate”, Ya Tuhan.”

Ada lagi yang menulis seperti ini : “Beberapa malam lalu, Alexa ku tiba-tiba menangis keras sekitar 4 detik, isak tangisnya seperti anak kecil mengerang menyeramkan. Astaga ????

Selain itu, netizen lainnya juga menuliskan  : “Kami pulang ke rumah pada malam hari dengan suasana hati yang tidak menyenangkan, kemudian Alexa mulai berbicara, dan saya baru menyadari beberapa saat kemudian, ternyata dia sedang menghitung satu persatu tempat pemakaman dan rumah duka untukku! Saya lebih suka dia tiba-tiba tertawa saja daripada mendengar ocehannya.”

Ada lagi tulisan lainnya berbunyi: “Saya ingin mematikan lampu, tetapi mereka menyalakannya lagi. Sampai saya memberi perintah untuk  ketiga kalinya, tapi tidak ditanggapinya, kemudian tertawa sinis sekilas. Tapi itu bukan suara Alexa yang biasa, seperti orang sungguhan, Istri saya ada di sana, dia satu-satunya yang bisa terhubung ke Alexa selain saya. Sampai sekarang saya masih merinding bila mengingat semua kejadian itu.”

Bahkan ada juga yang menulis : “Kami menderita flu parah ketika itu, memerintahkan Alexa untuk mematikan alarm jam, setelah saya memberi perintah yang kedua. Alexa tiba-tiba tertawa menyeramkan seperti penyihir, membuat saya terkejut seketika. Tidak pernah mendengar suara tawa Alexa seperti itu, istri saya dan putra kami yang berusia 5 tahun juga sangat ketakutan, dan saya segera mencabut colokan listriknya.”

Sedangkan Netizen dari San Francisco, menceritakan bahwa ketika dia akan tidur, Alexa tiba-tiba berkata : “Setiap saat saya menutup mata, saya hanya bisa merasakan orang-orang sedang menuju ke kematiannya.”

Menurut laporan TechWeb, Sophia, robot AI yang pernah mengancam akan “memusnahkan manusia,” kini telah memperoleh kewarganegaraan resmi dari Arab Saudi. Sophia juga merencanakan perjalanan “Hidupnya”, seperti misalnya sekolah, karya kreatif, dan bahkan ingin memiliki keluarga dan anak-anak dan sebagainya. (Jon/asr)

Video Rekomendasi :

Share

Video Popular