Max Tegmark tentang Ancaman Pengambilalihan Robot


AI adalah "ancaman eksistensial terbesar" bagi umat manusia, kata Tesla Motors dan pendiri SpaceX Elon Musk. Bulan ini, kolom saya adalah tentang profesor Massachusetts Institute of Technology Max Tegmark dan lonceng alarm dia sudah menelepon tentang sisi gelap potensial kecerdasan buatan. Dia telah menjadi berita utama oleh sesama warga yang peduli, Bill Gates, Elon Musk dan Stephen Hawking

AI adalah "ancaman eksistensial terbesar" bagi umat manusia, kata Tesla Motors dan pendiri SpaceX Elon Musk.

Bulan ini, kolom saya adalah tentang profesor Massachusetts Institute of Technology Max Tegmark dan lonceng alarm dia sudah menelepon tentang sisi gelap potensial kecerdasan buatan. Dia telah menjadi berita utama oleh sesama warga yang peduli, Bill Gates, Elon Musk dan Stephen Hawking. (AI adalah "ancaman eksistensial terbesar" bagi umat manusia, kata Tesla Motors dan pendiri SpaceX Musk.)

Tegmark adalah pemikir yang meyakinkan. Berikut adalah beberapa kutipan yang penuh warna dari percakapan kami tentang mengapa kita harus melanjutkan dengan hati-hati menuju terciptanya kecerdasan buatan yang super pintar.

Mengapa kita harus berhati-hati dalam pemrograman AI:
"Jika kamu berjalan di trotoar dan ada seekor semut di sana, apakah kamu akan secara aktif pergi dan menginjaknya hanya untuk iseng?" (Aku: "Tidak.")

"Sekarang, anggaplah Anda yang bertanggung jawab atas pembangkit listrik tenaga air besar ini yang akan membawa energi hijau ke wilayah besar AS. Dan tepat sebelum Anda menyalakan air, Anda menemukan ada sarang semut tepat di tengah-tengah zona banjir. Apa apa yang akan Anda lakukan? Ini terlalu buruk bagi semut, bukan? Anda tidak membenci semut. Bukan karena Anda adalah pembunuh semut yang jahat. Hanya saja tujuan Anda tidak selaras dengan tujuan semut, dan Anda lebih kuat dari semut. Keberuntungan yang sangat besar bagi semut. Kami ingin merancang AI di masa depan sehingga kami tidak menjadi semut-semut itu. "

Mengapa Anda tidak bisa hanya memprogram AI untuk tidak melukai kami:
"Jika Anda berpikir tentang mitos lama seperti kisah Raja Midas, misalnya, ia berharap agar semua yang disentuhnya berubah menjadi emas. Dan itu terdengar seperti ide yang sangat cerdas sampai semua makanan yang ingin dimakan terus berubah menjadi emas. Dan lalu dia memeluk putrinya. Oopsy! Jadi masalah dengan mesin yang benar-benar pintar yang mematuhi kita adalah mereka akan melakukan persis apa yang kita perintahkan kepada mereka untuk dilakukan; secara harfiah. "

Sindrom kekayaan mendadak:
"Jika saya, atau perusahaan yang saya miliki, menjadi yang pertama di dunia yang mengembangkan kecerdasan manusia super, tentu saja, maka saya dapat dengan cepat menjadi orang terkaya di dunia, mengakali pasar saham, mematenkan semua orang, menulis, Sejumlah besar artikel luar biasa di seluruh Web, meyakinkan orang-orang bahwa saya pria paling hebat. Dan apa yang terjadi sekarang, tiba-tiba, adalah bahwa saya, tanpa ada yang memberikan suara untuk saya, telah diberi kekuatan besar ini atas nasib umat manusia. Saya tidak tahu apakah Anda menginginkannya. Mungkin Anda harus memiliki suara dalam siapa yang mengendalikan teknologi ini. Pasti ada beberapa orang di planet ini yang saya tidak ingin bertanggung jawab atasnya. "

Waktu:
"Pada tahun 1925 akan sangat sulit untuk menjelaskan kepada seseorang tentang bahaya senjata nuklir ketika itu hanya sebuah ide. Dan di situlah kita bersama AI sekarang: Hal-hal yang dikhawatirkan orang tidak ada. Mereka mungkin ada dalam 20 tahun atau 50 tahun atau 100 tahun. Dan gagasan dasar tentang apa yang bisa salah sebenarnya sangat tua. Sekarang, tiba-tiba, banyak orang menganggap serius ini mungkin terjadi dalam hidup kita. Jadi kita harus memikirkannya sekarang. "

Artikel ini awalnya diterbitkan dengan judul "Robots Rising" in313, 4, (Oktober 2015)

Gletser Greenland Yang Stabil Sekali Wajah Meleleh dengan CepatBisakah Microgrid Melindungi Pasukan AS di Afghanistan?Berita dari Down UnderPakta Perdagangan Pasifik Akan Berarti Harga Obat Tinggi, Laporan BerkataCicadas yang berkeliaran di Pantai Timur AS adalah Veteran Perubahan IklimBiner Lubang Hitam Raksasa Terlihat di Galaxy's CoreBanyaknya Planet: Pencarian Galactic Menemukan Planet Terbuka Lebih Biasa Daripada BintangObrolan langsung pada jam 1 siang EDT tentang Reformasi Perawatan Kesehatan dan Keputusan Mahkamah Agung