Ma `lumot

Tushuntirish mumkin bo'lgan sun'iy aql nima va unga kerakmi?

Tushuntirish mumkin bo'lgan sun'iy aql nima va unga kerakmi?


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Tushuntirish mumkin bo'lgan sun'iy intellekt-XAI so'nggi yillarda tez-tez muhokama qilinadigan va qarama-qarshiliklar mavzusidir. Sun'iy intellekt (AI) ishonchliligini muhokama qilishdan oldin, agar sun'iy intellekt bizning fikrlashimiz va qaror qabul qilishimizni modellashtirishga harakat qilsa, biz qanday qilib haqiqatan ham qarorlar qabul qilishimizni tushuntirishimiz kerak! Emasmi?

BOG'LANGAN: Badiiy ziyolilik va noma'lum kishining qo'rquvi

1950-yillardan beri ba'zida tezroq, ba'zan esa sekinroq davom etadigan mashinani o'rganish o'zgarishi mavjud. Yaqin o'tmishda, eng ko'p o'rganilgan va diqqatga sazovor joy bu qarorlar tizimini, xulq-atvorini va reaktsiyalarini modellashtirishga qaratilgan mashinasozlikdir.

Mashinalarni o'rganish sohasida olingan muvaffaqiyatli natijalar AIni tezkor ravishda oshirishga olib keldi. Oldindan ishlash o'zini idrok etish, o'rganish, qaror qabul qilish va harakatlanish qobiliyatiga ega bo'lgan avtonom tizim bo'lishni va'da qiladi.

HAQIDA: Mashinalarni o'rganishga kirish uchun 13 ta bepul sayt

Ayniqsa, 1990-yillardan so'ng, chuqur o'rganish kontseptsiyasi o'tmishga asoslangan, ammo rekursiv neyron tarmoqlar, konvolyutsion neyron tarmoqlar, mustahkamlashni o'rganish va bahsli tarmoqlar juda muvaffaqiyatli. Muvaffaqiyatli natijalarga erishilgan bo'lsada, ushbu tizimlarning qarorlari va harakatlarini inson foydalanuvchilariga tushuntirish yoki tushuntirish etarli emas.

Tushuntiriladigan sun'iy intellekt doirasi

Yuzlab qatlamli millionlab sun'iy neyron tarmoqlari bilan yaratilgan chuqur o'rganish modellari beg'ubor emas. Ular ishonchliligini tezda yo'qotishi mumkin, ayniqsa, ular bitta pikselli hujum kabi shunchaki adashganda! Keyin qanchalik muvaffaqiyatli yoki muvaffaqiyatsiz degan savolni berish muqarrar bo'lib qoladi!

Mudofaa vazirligi (DoD) aqlli, avtonom va simbiotik tizimlar muammolarga duch kelayotganini ta'kidlamoqda.

"Kelajakdagi jangchilar sun'iy ravishda aqlli mashina sheriklarining yangi paydo bo'layotgan avlodini tushunishi, munosib ishonishi va samarali boshqarishi zarur bo'lsa, tushuntiriladigan sun'iy intellekt - ayniqsa tushuntirish mumkin bo'lgan mashinalarni o'rganish juda muhimdir."

Ushbu turdagi ilg'or dasturlarning murakkabligi muvaffaqiyatlarga qarab ortadi va tushunish va tushuntirish qiyinlashadi. Hatto ba'zi konferentsiyalarda ham faqat ushbu mavzu muhokama qilinadigan sessiyalar mavjud.

Yangi mashina / chuqur o'rganish tizimlarining sabablari

Bu yangi mashina / chuqur o'rganish tizimlarining sabablarini tushuntirishga, ularning kuchli va kuchsiz tomonlarini aniqlashga va kelajakda o'zini qanday tutish kerakligini tushunishga qaratilgan. Ushbu maqsadga erishish strategiyasi aniqroq modellarni ishlab chiqaradigan yangi yoki o'zgartirilgan sun'iy ta'lim texnikasini ishlab chiqishdan iborat.

Ushbu modellar inson-kompyuterning zamonaviy interfaol texnikasi bilan birlashtirishga mo'ljallangan bo'lib, ular modellarni oxirgi foydalanuvchi uchun tushunarli va foydali tushuntirish dialoglariga aylantirishi mumkin.

Uchta asosiy taxminlar bilan tizimga murojaat qilish kerak:
▪. Tizimni ishlab chiqadigan va undan foydalanadigan tomonlarning ta'siriga qanday ta'sir qilishini tushuntiring.
▪. Ma'lumot manbalari va natijalaridan qanday foydalanilishini tushuntiring.
▪. AI modelidagi yozuvlar qanday qilib natijalarga olib kelishini tushuntiring.

"XAI - bu mashinalar ishlaydigan kontekst va atrof-muhitni tushunadigan va vaqt o'tishi bilan haqiqiy dunyo hodisalarini tavsiflashga imkon beradigan asosiy tushuntiruvchi modellarni yaratadigan - uchinchi to'lqinli AI tizimlarini yaratishni kutayotgan bir nechta joriy DARPA dasturlaridan biridir. . ”

Agar biz tibbiy amaliyotga kelsak, bemorning ma'lumotlarini o'rganib chiqqandan so'ng, har ikkala shifokor ham bemorni qarorni qo'llab-quvvatlash tizimining tavsiyasiga binoan tegishli bemorga yurak xuruji xavfini taklif qilganligini tushunishi va tushuntirishi kerak.

Ushbu bosqichda, birinchidan, qaysi ma'lumotlar baholanishi yana bir muhim mezondir. Shuningdek, qanday ma'lumotlarga ehtiyoj borligini va to'g'ri baholash uchun nimalar qilinishi kerakligini aniqlash kerak.

Tushuntirish psixologiyasi

Keling, sun'iy intellekt o'z qarorini qanday berayotganini tushuntirib berolmaymiz, chunki biz sun'iy ta'lim texnologiyasidan foydalanishni rad etish nuqtasini ko'rib chiqamiz. Boshqa tomondan, juda ko'p odamlar qanday qilib qaror qabul qilishlarini tushuntirib berolmaydilar!

Biror kishi model darajasida qanday qarorga kelganini tasavvur qilaylik: biologik tuzilishga kimyoviy va fizik darajasida yaqinlashganda, biz bir miya hujayrasidan ikkinchi miya hujayrasiga elektr signallari haqida gapiramiz. Agar siz ushbu tushuntirishdan qoniqmasangiz, menga qanday qilib kofe buyurtma qilishga qaror qilganingizni ayting!

Do'stlaringizdan biri muzli qahva buyurtma qilganda, ikkinchisi issiq kofe, boshqasi esa kafeda choy ichishga buyurtma beradi. Nima uchun ular muzli qahva va issiq qahvani tanlaydilar? Kimdir miyadagi kimyoviy va sinapslarni tushuntira oladimi? Siz tushuntirib bera olasizmi? Bunday tushuntirishni xohlaysizmi? Bu nima ekanligini bilasizmi? Inson o'zi qanday qaror qilgani haqida hikoya qilishni boshlaydi! Umid qilamanki, bu siz tinglaydigan hayoliy hikoya bo'ladi, sinab ko'ring!

Kirish va chiqish ma'lumotlarini ko'rib chiqing, so'ngra qiziqarli voqeani aytib bering! Aslida analitik va muhim masalalarga o'xshash yondashuv mavjud. Tafsirlar, shaffoflik va ravshanlik analitik bo'lib, testsiz tahlillar xavfsizlik hissini keltirib chiqaradigan bir tomonlama poezd chiptasiga o'xshaydi.

Mukammal sharoitda;
▪, eng yaxshi ko'rsatkichlarni ishlab chiqaradigan tizim,
▪. Siz eng yaxshi tushuntirishni xohlaysiz.

Ammo haqiqiy hayot bizni tanlashga majbur qiladi.

Ishlash va tushuntirish

Tafsir: Siz tushunasiz, lekin u yaxshi ishlamayapti!

Ishlash: Siz tushunmaysiz, lekin yaxshi ishlaydi!

Ayniqsa, akademiklar, tadqiqotchilar va texnologik kompaniyalar, odatda, ishlashga ko'proq ahamiyat beradigan darajada unchalik ahamiyat bermaydilar. Biroq, sektorga aloqador odamlar va muassasalar bilan bog'liq senariy biroz boshqacha. Ular ishonishni xohlashadi va tushuntirishni kutmoqdalar.

AI yondashuvlari banklar, sug'urta kompaniyalari, sog'liqni saqlash provayderlari va boshqa turli sohalarda farq qiladi. Buning sababi shundaki, ushbu sektorlar uchun modellar turli xil huquqiy me'yorlar va axloqiy talablarni keltirib chiqaradi. Bunday holda, biz yana o'sha nuqtaga kelamiz. Agar sizning tizimingiz quyidagi holatda tushuntirilishini istasangiz, uni hozircha unchalik kuchli bo'lmagan oddiyroq bilan almashtirishingiz kerak bo'ladi!

Ushbu mavzu bo'yicha tadqiqotlar asosan DARPA, Google, DeepMind va boshqalar. Institutlar jadal olib borilayotganda, hisobotlardan tushuniladi; Sun'iy intellekt tizimlari qaysi sohada va kim tomonidan ishlatilishidan qat'i nazar, aniqlik va aniqlik o'rtasida shunday bog'liqlik borki, kelishuv muqarrar va bir muncha vaqt davom etadiganga o'xshaydi.

Axir, sun'iy intellekt ilohiy kuchga aylantirilmasligi kerak, biz uni sabab-ta'sir munosabatlari o'rnatmasdan olib boramiz. Boshqa tomondan, biz o'zimizga beriladigan tushunchani e'tiborsiz qoldirmasligimiz kerak.

Asosan, biz texnik va akademik darajadagi bilimlarga va turli sohalar va fanlarning fikrlariga ega bo'lgan mutaxassislar bilan uyg'unlikda ishlaydigan moslashuvchan va izohlanadigan modellarni yaratish haqida o'ylashimiz kerak.

Rahmat

Boshak Buluz, Yavuz Kömeçoğlu va Hakan Aydemirga mulohazalari uchun minnatdorchilik bildiramiz.


Videoni tomosha qiling: Bizning eng katta musibatimmiz Nima Allohni kalomi Quronga befarqmiz Samarqandiy Ixlos org norasmiy (May 2022).