Մարդկային դատողությո՞ւն, թե՞ ալգորիթմ. Ով է վերահսկում առցանց ատելությունը

Հիմնական գաղափարը Ատելության խոսքը, որն ավելի հեշտությամբ է տարածվում անանուն առցանց հաշիվների միջոցով, դարձել է գլոբալ սպառնալիք։ Թեև սոցիալական հարթակները փորձում են օգտագործել արհեստական բանականության համակարգեր՝ բովանդակությունը մոդերացնելու համար, դրանք դեռևս չեն կարողանում լիարժեք փոխարինել մարդկային դատողությանը՝ հաճախ թույլ տալով սխալներ և ցուցաբերելով կողմնակալություն։

Առանցքային կետերը

• Ատելության խոսքի սահմանումը. ՄԱԿ-ի համաձայն՝ դա ցանկացած տեսակի հաղորդակցություն է (բանավոր, գրավոր կամ վարքագծային), որը խտրականություն է դրսևորում կամ բռնության է հրահրում անձանց կամ խմբերի նկատմամբ՝ հիմնվելով նրանց ինքնության, ռասայի, կրոնի, սեռական կողմնորոշման կամ հաշմանդամության վրա։

• 

  ԵՄ-ն որոնում է հավասարակշռություն. Ինչպե՞ս պայքարել չինական մրցակցության դեմ՝ առանց տնտեսական ցնցումների»

  Տարածվածությունը. Համաձայն Իփսոսի և ՅՈՒՆԵՍԿՕ-ի հետազոտության՝ ինտերնետ օգտատերերի ավելի քան երկու երրորդը առնչվել է առցանց ատելության խոսքի։ Ամենից հաճախ դրան ենթարկվում են LGBTQI անձինք, ազգային/ռասայական փոքրամասնությունները և կանայք։

• Մոդերացիայի դժվարությունները. Meta-ն վերջին շրջանում կրճատել է իր կողմից հեռացվող վիրավորական գրառումների թիվը՝ նախապատվությունը տալով օգտատերերի բողոքներին, մինչդեռ TikTok-ը հայտնում է, որ իր հարթակում ատելության խոսքի մեծ մասը հեռացվում է նախքան օգտատերերի կողմից հաղորդվելը։

• ԱԲ մոդելների սահմանափակումները.

  • Պենսիլվանիայի համալսարանի հետազոտությունը ցույց է տվել, որ տարբեր ԱԲ համակարգեր (OpenAI, Google, Mistral և այլն) չափազանց անհետևողական են ատելության խոսքը նույնականացնելու հարցում։

  • ԱԲ համակարգերը դժվարանում են հայտնաբերել «թաքնված ատելությունը» (implicit hate speech), որտեղ չկան հայհոյանքներ, բայց հաղորդագրությունը բովանդակությամբ վիրավորական է։

  • Հաճախակի են դեպքերը, երբ ԱԲ-ն սխալմամբ ատելության խոսք է որակում «վերականգնված լեզուն» (reclaimed language)՝ այն բառերը, որոնք պատմականորեն վիրավորական են եղել, բայց այժմ օգտագործվում են հենց այդ խմբերի կողմից՝ որպես ընկերական կամ մտերմիկ արտահայտություններ։