Anthropic foydalanuvchilarga oʻzining SI (sunʼiy intellekt) tizimlariga nisbatan «shafqatsiz» munosabatda boʻlishni taqiqladi

Anthropic kompaniyasi oʻz sunʼiy intellekt tizimlariga nisbatan foydalanuvchilarning «davomli va asossiz» haqoratli xatti-harakatlarini taqiqlashini maʼlum qilganidan keyin diqqat markaziga tushdi.

Claude botini yaratuvchisi payshanba kuni foydalanish siyosatini qayta koʻrib chiqayotganini maʼlum qildi, unga koʻra, odamlar «shafqatsizlik» qilgan suhbatlarni kompaniya vositalari toʻxtatib qoʻyishi mumkin — bunday holatlar ilgari ham «kamdan-kam» boʻlsa-da sodir boʻlgani aytilmoqda.

Bunday xulq-atvor endilikda taqiqlangan xatti-harakatlar roʻyxatiga kiritiladi, unga shuningdek, boshqalarni kamsitish, oʻz-oʻziga zarar yetkazishni ragʻbatlantirish va roziliksiz intim tasvirlarni yaratish ham kiradi.

Garchi Anthropic ushbu qoida faqat takroriy suiisteʼmol qilishning «oʻta ogʻir holatlarida» qoʻllanilishini aytgan boʻlsa-da, bu odamlarning SI vositalari bilan qanday gaplashishi kerakligi haqidagi bahs-munozaralarni yana jonlantirdi.

Kompaniya bu qoida «foydalanuvchilarning noroziligi, eʼtirozlari, qora ijodiy mavzular yoki modelni sinash va tadqiq qilishning odatiy shakllariga» taalluqli boʻlmasligini bildirdi — bu ushbu qoida faqat aniq qasddan qilingan holatlarda qoʻllanilishini anglatadi.

Shunga qaramay, Anthropic oʻz modellariga nisbatan aynan nimani «haqoratli yoki shafqatsiz xatti-harakat» deb hisoblashi hozircha noaniq.

Yangilangan siyosatning skrinshotlari ijtimoiy tarmoqlarda keng tarqaldi va muhokama qilindi, baʼzilar buni odob-axloq qoidalari yoki «model farovonligi» sari tashlangan qadam sifatida olqishladi.

Biroq, boshqalar bu qadamni tanqid qilishdi, jumladan, bir kishi buni «mutlaqo notoʻgʻri» deb atadi, boshqasi esa bu odamlar va hayvonlarga nisbatan shafqatsizlikka boʻlgan eʼtiborni susaytirishi mumkinligini aytdi.

«Siz raqamlar va matematikaga nisbatan shafqatsiz boʻla olmaysiz», deb yozdi Irlandiyaning William Fry yuridik firmasining texnologiya boʻyicha hamkori doktor Barri Skannell LinkedIn tarmogʻida.

«SIni bu darajada antropomorfizatsiya qilish (insonlashtirish) zararlidir. Bu odamlarni u aslida yoʻq boʻlgan narsaga ishonishiga olib keladi».

Sentyabr oyida raqobatchi Anthropic firmasini SIga xuddi insondek munosabatda boʻlayotgani uchun tanqid qilgan Microsoft AI direktori Mustafo Sulaymon Anthropic yangilanishiga erib borayotgan yuz emojisi bilan munosabat bildirdi.

Anthropic shuningdek, payshanba kuni foydalanish siyosati boshqa sohalardagi yangi yoki paydo boʻlayotgan xavflarni bartaraf etish uchun yangilanganini, jumladan, Claude'dan «aldamchi kampaniyalar» uchun foydalanishni taqiqlashini maʼlum qildi.

Anthropic avvalgi siyosatida ham oʻz vositalaridan qurol yaratishda foydalanishni taqiqlaganini aytgan edi.

Ammo oʻzgarishlarning hech biri foydalanuvchilarga chat-botlarni haqorat qilishni taqiqlash qarori kabi katta eʼtibor yoki sinchkovlik bilan oʻrganishga sabab boʻlmadi.

Bu shuningdek, generativ SI vositalaridan foydalanishda odamlar qoʻpol yoki xushmuomala boʻlishi kerakligi haqidagi uzoq davom etayotgan bahslarni ham kuchaytirdi.

Baʼzi ekspertlarning fikriga koʻra, ChatGPT kabi vositalarga «iltimos» yoki «rahmat» soʻzlarini qoʻshish shart emas va bu tokenlarni — generativ SI vositalari ortidagi yirik til modellari foydalanuvchilarga ishlov berish va javob berish uchun foydalanadigan birliklarni behuda sarflaydi.

Boshqalar esa xushmuomalalik yaxshiroq sifatli javoblar berishiga yordam beradi deb hisoblashadi.

Oʻtgan yili X foydalanuvchisi ChatGPT'ning foydalanuvchilarning «iltimos» va «rahmat» xabarlariga javob berishi natijasida yuzaga keladigan elektr energiyasi xarajatlari haqida soʻraganida, OpenAI rahbari Sem Altman bu «yaxshi sarflangan oʻn millionlab dollar — hech qachon bilib boʻlmaydi» deb javob bergan edi.

Shu bilan birga, oʻtgan yilning noyabr oyida Collins lugʻati SI vositalari uchun kamsituvchi atama sifatida «clanker» (temir-tersak) soʻzining qaytishiga eʼtibor qaratdi.

Baʼzi ekspertlar, shuningdek, SI chat-botlariga qoʻpollik qilish odamlarning boshqalar bilan qanday gaplashishi va munosabatda boʻlishiga taʼsir qilib, insoniy muloqotga zarar yetkazishi mumkinligini taxmin qilishmoqda.