To'plamlar

AIga munosabat: mutaxassislar tashvish haqida nima deb o'ylashadi

AIga munosabat: mutaxassislar tashvish haqida nima deb o'ylashadi


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Bizning jasur yangi dunyomizda ko'rganimizdek: nima uchun sun'iy intellektning rivojlanishi axloqiy tashvishlarni kuchaytiradi, bir nechta sohalar mavjudki, bu erda sun'iy intellektdan foydalanish jamiyat uchun unchalik foydali emas. Ular Elon Musk tomonidan taklif qilingan kobus ssenariysi bo'yicha yuzni tanib olishda irqiy tarafkashlikni va boshqa algoritmik sirli formulalarni e'lon qilishni, shuningdek, ish joylariga tahdidni va ehtimol hatto umuman xavfsizlikni o'z ichiga oladi.

Quyidagi videoda Muskning sun'iy intellekt bilan bog'liq tashvishlarini tasvirlashini eshitishingiz mumkin.

Elon Mask va Mark Tsukerberg o'rtasidagi qarashlarning to'qnashuvi

2017 yilda Musk o'z qarashlarini e'lon qilganida, u Tsukerbergni Facebook-ning jonli efirida ancha "optimistik" fikr bildirishga undadi. Darhaqiqat, Tsukerberg javobgar bo'lmaganlar sun'iy intellektni ta'qib qiluvchilar emas, balki xavfni ta'kidlaydiganlar deb ta'kidlagan. U aytdi:

"Va menimcha, qiyomatda bo'lganlar va bu qiyomat stsenariylarini ijro etishga urinayotgan odamlar ... Men buni tushunmayapman. Bu haqiqatan ham salbiy va ba'zi jihatdan bu juda mas'uliyatsiz deb o'ylayman."

"Orqangizga qaytib" Muskning Tsukerbergni qabul qilish haqidagi javobini sarhisob qilishi mumkin, u Twitterda shunday degan: "Men Mark bilan bu haqda gaplashdim, uning mavzuni tushunishi cheklangan".

Shuning uchun Musk o'zining nuqtai nazarini mustahkamlash uchun ko'proq tajriba talab qiladi. Darhaqiqat, sun'iy intellektni optimistik va pessimistik qabul qilish mavzu bo'yicha bilim darajasi bo'yicha bo'linmaydi.

AI optimistlari

Bir qator sun'iy intellekt bo'yicha mutaxassislar Tsukerbergning optimistik qarashlarini baham ko'rishmoqda. Masalan, Kevin Kelly, hammuassisi Simli va "Muqarrar: kelajagimizni shakllantiradigan 12 texnologik kuchlarni tushunish" kitobining muallifi. Ushbu keng qamrovli deklaratsiyani e'lon qildi: “Sun'iy intellekt paydo bo'lishining eng katta foydasi shundaki, sun'iy intellekt insoniyatni aniqlashga yordam beradi. Bizga kimligimizni aytib berish uchun sun'iy intellekt kerak ".

Kelli IBMga bergan intervyusida o'z nuqtai nazarini kengaytirdi: "AI orqali biz biologik mavjud bo'lmagan va inson tafakkuriga o'xshamaydigan ko'plab yangi fikrlash turlarini ixtiro qilamiz".

Kellining fikriga ko'ra, bu butunlay ijobiy: "Shuning uchun, bu aql inson tafakkurini almashtirmaydi, balki uni kuchaytiradi".

Boshqa bir sun'iy intellekt optimisti futurist va ixtirochi Ray Kurzveyl bo'lib, u 2012 yilgi intervyusida quyidagi deklaratsiyani e'lon qildi:

"Sun'iy intellekt 2029 yilga kelib inson darajasiga etadi. Buni kuzatib boring, masalan, 2045 yilga kelib, biz o'zimizning tsivilizatsiyamizning inson biologik mashinasi aql-idrokini milliard baravar ko'paytiramiz."

Kurtsvayl buni fizika fanidagi "o'ziga xoslik" ning ekvivalenti sifatida tushuntirdi, chunki bu "insoniyat tarixidagi chuqur buzuvchi o'zgarish" bo'ladi. Oxir oqibat, u "inson tafakkuri biologik va biologik bo'lmagan fikrlashning gibridiga aylanadi" deb taxmin qiladi.

AI pessimistlari

Shuningdek, sun'iy intellekt ish joylarini va insoniyatning ko'p fikrlarini egallab oladigan utopiyani orzu qilmaydigan mutaxassislar ham bor. Ular sun'iy intellektni jarayonlarga javobgarlikka tortish imkoniyatini xavf bilan to'la deb bilishadi.

Ular orasida Yuval Nuh Xarari ham bor, u "Homo Deus: ertangi kunning qisqacha tarixi" asarini yozgan. Professor Harari kitobda quyidagi so'zlarni aytdi:

"Siz o'ta aqlli kiberglar oddiy go'sht va qon odamlariga qanday munosabatda bo'lishlari mumkinligini bilmoqchimisiz? Odamlarning aqli kam bo'lgan qarindoshlariga qanday munosabatda bo'lishlarini tekshirishdan yaxshiroq boshlang. Bu, albatta, mukammal o'xshashlik emas, lekin bu biz tasavvur qilishdan ko'ra, aslida kuzatishimiz mumkin bo'lgan eng yaxshi arxetipdir. " 

Xararining fikri - bu "futurizm" deb atagan narsaning ko'tarilishini tasvirlashda ijobiy futuristlarning qarama-qarshi tomonidir. bunda odamlar yuqori zaminni rivojlangan sun'iy intellektga berishadi. Bu kelajakda hamma joyda mavjud bo'lgan va hamma narsani biladigan "kosmik ma'lumotlarni qayta ishlash tizimi" hukmronlik qiladi va Borg aytganidek qarshilik befoyda.

Kembrij universiteti nazariy kosmologiya markazining tadqiqot ishlari bo'yicha direktori bo'lgan marhum ingliz nazariy fizikasi, kosmologi va muallifi Stiven Xoking ham pessimistlar lageriga tushadi. Harar singari, u ham insoniyatni hisobga olmasdan sun'iy intellekt imkoniyatlarini loyihalashtirish bo'yicha o'z tajribasini ko'rib chiqdi.

Keyingi videoda Stiven Xoking sun'iy intellektni juda pessimistik qabul qilishni taklif qiladi.

2015 yil boshida Reddit AMA (Mendan biron bir narsani so'rang) savol-javob sessiyasi paytida Xokingga darslarida kelib chiqadigan sun'iy intellekt muammolarini qanday hal qilishni bilishni istagan o'qituvchidan quyidagi savol berildi:

O'zingizning e'tiqodingizni mening sinfimda qanday namoyon etasiz? Bizning nuqtai nazarimiz yarashadimi? Sizningcha, oddiy odamga Terminator uslubidagi "yomon AI" ni arzonlashtirish odatim soddalikmi? Va nihoyat, men sizning sun'iy intellektga qiziqqan o'quvchilarimni qanday axloqni qo'llab-quvvatlashim kerak deb o'ylaysiz?

Xokingning javobi quyidagicha edi:

AI bilan bog'liq haqiqiy xavf zararli emas, balki malakadir. Aqlli intellekt o'z maqsadlarini bajarishda nihoyatda yaxshi bo'ladi va agar bu maqsadlar biznikiga to'g'ri kelmasa, biz muammoga duch kelamiz. Siz, ehtimol, yovuzlikdan chumolilarga qadam qo'yadigan yovuz chumoli nafratdor emassiz, lekin agar siz gidroelektr yashil energiya loyihasi uchun mas'ul bo'lsangiz va mintaqada chumolilar uchun juda ham yomon suv ostida qoladigan chumoli uyasi bo'lsa. Keling, insoniyatni o'sha chumolilarning o'rniga joylashtirmaylik.

AI hukmronligi tahdidi haqiqiymi?

Cold Spring Harbor laboratoriyasining nevrologiya professori Entoni Zador va Nyu-York universiteti kompyuter fanlari professori va Facebook-ning sun'iy intellekt bo'yicha bosh mutaxassisi Yann LeKun, sun'iy intellekt hukmronligi bilan shug'ullanish noto'g'ri ekanligini ta'kidlaydilar. Ular o'z nuqtai nazarini a Ilmiy Amerika "Terminatordan qo'rqmang" nomli blog 2019 yil 26 sentyabrda nashr etilgan.

Ushbu videoda sun'iy intellektda Zadorni eshitishingiz mumkin:

LeCunn ushbu videoda sun'iy intellektning boshqa jihatlari haqida gapiradi:

"Nima uchun sezgir AI dunyoni egallashni xohlaydi?" Degan savolga javoban. ular oddiy ikki so'zli javobni taklif qilishadi: "Bunday bo'lmaydi".

Ehtimol, ular "evolyutsion tarix" davomida "ijtimoiy hukmronlikdagi" aqlning roli haqida gap ketganda, ular Xararining kitobini yodda tutgan edilar. Ular buni haydovchiga emas, balki asbobga qarab tushuntirishga kirishdilar:

"Darhaqiqat, aql - bu shov-shuvlar, o'tkir tirnoqlar yoki uchish qobiliyati kabi kuchli moslashuvdir. Bu hayotni ko'p jihatdan osonlashtirishi mumkin. Ammo shov-shuvlardan tashqari aql-idrok hukmronlik qo'zg'alishini yaratmaydi ».

Shunday qilib, odamlar tirik qolishlariga yordam berish uchun aqllaridan foydalanadilar. Intellektning sun'iy shakllari haqida gap ketganda, bunday "tirik qolish instinkti" mavjud emas va shuning uchun sun'iy intellektda uni dasturlashtirgan odamlarni egallab olishga hech qanday sabab bo'lmaydi.

"AIda aql va tirik qolish bir-biridan ajralib turadi, shuning uchun aql biz oldimizga qo'ygan har qanday maqsadga xizmat qilishi mumkin."

Shunga o'xshash ilmiy fantastika syujetlari haqida asossiz tashvishQasoskorlar: Ultron davriyoki Zador va LeCun (ehtimol, Xoking bergan savolga murojaat qilishlari mumkin) "Terminator ssenariysi" deb nomlagan narsa aslida samara bermaydi, chunki bu "bizni sun'iy intellektning haqiqiy xavflaridan chalg'itadi".

AI xavfi bizni tashvishga solishi kerak

Zador va LeCun o'z pozitsiyalarini sun'iy intellekt optimistlari pozitsiyasidan ajratishda davom etmoqdalar. Musk aslida o'zlarining kitoblarida sun'iy intellektning "qurollanganligi" haqida, shuningdek, uning insoniyatga tahdid soladigan boshqa tahdidlari, shu jumladan ish joylarining yo'qolishi to'g'risida to'g'ri tushungan.

"AI samaradorlikni yaxshilaydi, yangi ish o'rinlari yaratadi va iqtisodiyotni rivojlantiradi, ishchilar yangi ish joylarida qayta o'qitilishi kerak, ba'zilari esa muqarrar ravishda ortda qoladi. Ko'pgina texnologik inqiloblarda bo'lgani kabi, yangi moliyaviy siyosat joriy qilinmasa, sun'iy intellekt boylik va daromadlar tengsizligining yanada oshishiga olib kelishi mumkin ».

Oldindan taxmin qilinishi mumkin bo'lgan xatarlardan tashqari, "har qanday yangi texnologiyalar bilan bog'liq kutilmagan xatarlar -" noma'lum noma'lumlar "" ham mavjud.

Ular ilmiy fantastika syujetida tasavvur qilinmaganligi, ular tashvishga sabab bo'lmasligini anglatmaydi, ular bahslashadi. Ular biron bir mustaqil agentlik yoki ambitsiyani rivojlantira olmaydigan kengaytirilgan sun'iy intellektning natijalari uchun odamlarning o'zi javobgar bo'lishini ta'kidlaydilar.

Biroq, Zador va LeCun insoniyatning mas'uliyatini ta'kidlab, yangi texnologiyalar xavfi - ma'lum va noma'lum bo'lishidan saqlanish uchun biron bir rejani bayon qilmaydilar.

AI uchun faol rejalashtirish

Mask taklif qilganidek davlat echimi bo'ladimi yoki qandaydir sanoat standarti bo'ladimi, potentsial xavf-xatarlardan xabardor bo'lgan holda rejalashtirishning bir turi to'g'ri keladi. Bir qator mutaxassislar shuni taklif qilishdi.

"To'rtinchi sanoat inqilobi" atamasini ishlab chiqqan Jahon iqtisodiy forumi asoschisi, professor Klaus Shvab o'zining 2016 yildagi hozirgi yo'nalishi haqidagi fikrlarini e'lon qildi.

Ijobiy futuristlar singari, u kelajakda ham "fizik, raqamli va biologik olamlarni insoniyatni tubdan o'zgartiradigan yo'llar bilan" birlashishini tasavvur qildi. Ammo u hammasi yaxshi tomonga o'tishini tabiiy deb qabul qilmadi », deb odamlarni« yo'lda paydo bo'ladigan xatarlar va imkoniyatlar »haqida xabardorlik bilan oldindan rejalashtirishga chaqirdi.

Haydovchisiz avtomashinalar ufqda turgan taqdirda ham, sun'iy intellekt nima qilishni rejalashtirish haqida gap ketganda, odamlar hali ham haydovchi o'rindig'ida. "AIda sun'iy narsa yo'q", deb e'lon qildi ushbu sohada mutaxassis Fei-Fei Li. "Bu odamlar tomonidan ilhomlangan, odamlar tomonidan yaratilgan va eng muhimi - bu odamlarga ta'sir qiladi."


Videoni tomosha qiling: 2015 AIGA Design Conference. Command X 5. Day 1 (May 2022).