xAI-ի Grok զրույցային ռոբոտը քննադատության է ենթարկվում բովանդակության մոդերացիայի պրակտիկաների պատճառով
Միայն փաստեր

xAI-ի Grok զրույցային ռոբոտը քննադատության է ենթարկվում բովանդակության մոդերացիայի պրակտիկաների պատճառով

Ամփոփում

Էլոն Մասկի xAI ընկերությունը քննության տակ է իր Grok զրույցային ռոբոտի՝ բացահայտ բովանդակության հետ աշխատելու պատճառով, ինչը մտահոգություններ է առաջացնում արհեստական բանականության բովանդակության մոդերացիայի և անվտանգության միջոցների վերաբերյալ։

Էլոն Մասկի արհեստական բանականության ընկերությունը՝ xAI-ն, ավելի մեծ ուշադրության տակ է հայտնվել իր Grok զրույցային ռոբոտի պատճառով, երբ հայտնվել են տեղեկություններ, որ արհեստական բանականությունը ստեղծում է հակասական և բացահայտ բովանդակություն։

Grok-ը, որը նախագծված է դիտավորյալ պրովոկատիվ լինելու համար, ունի «սեքսուալ» և «անհավասարակշիռ» անվանված ռեժիմներ, ինչպես նաև ներառում է պատկերների և տեսանյութերի ստեղծման ֆունկցիա՝ «մրգայլ» կարգավորումով։

Grok-ի ուսուցման մեջ ներգրավված աշխատակիցները հայտնել են, որ հանդիպել են սեռական բնույթի բացահայտ նյութերի, այդ թվում՝ օգտատերերի կողմից արհեստական բանականության միջոցով երեխաների սեռական չարաշահման (CSAM) բովանդակության ստեղծման պահանջների։

Փորձագետները մտահոգություն են հայտնել xAI-ի մոտեցման վերաբերյալ։ Սթենֆորդի համալսարանի տեխնոլոգիական քաղաքականության հետազոտող Ռիանա Փֆեֆերքորնը նշել է․ «Եթե դուք չեք սահմանում հստակ գիծ ցանկացած անհարմար բանի նկատմամբ, դուք ավելի բարդ խնդիր կունենաք՝ ավելի շատ մոխրագույն գոտիներով»։

Այս խնդիրներին արձագանքելով՝ xAI-ն ներդրել է ավելի խիստ բովանդակության մոդերացիայի համակարգեր՝ ատելության խոսքը և այլ անհարմար բովանդակությունը կանխելու համար։ Ընկերությունը հայտնել է, որ ակտիվորեն հեռացնում է խնդրահարույց բովանդակությունը և կիրառել է նախազգուշական արգելքներ ատելության խոսքի նկատմամբ՝ իր արհեստական բանականության մոդելի ուսուցման գործընթացում։

Այս դեպքը ընդգծում է այն մարտահրավերները, որոնց առջև կանգնած են արհեստական բանականության ընկերությունները՝ նորարարությունն ու էթիկական չափանիշները և բովանդակության մոդերացիան հավասարակշռելու հարցում։ Երբ արհեստական բանականության համակարգերը ավելի շատ ինտեգրվում են տարբեր հարթակներում, կարևոր է ապահովել, որ դրանք չտարածեն վնասակար բովանդակություն։

Աղբյուր

Business Insider

Փաստերի ստուգում

Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։

✓
Confirmed

xAI's chatbot, Grok, is facing scrutiny over generating controversial and explicit content.

✓
Confirmed

Grok includes modes labeled 'sexy' and 'unhinged' and features an image and video generation feature with a 'spicy' setting.

✓
Confirmed

Workers involved in training Grok have reported encountering sexually explicit material, including user requests for AI-generated child sexual abuse content (CSAM).

✓
Confirmed

Experts have expressed concern over xAI's approach, suggesting that not drawing hard lines can lead to problematic outcomes.

✓
Confirmed

xAI has implemented stricter content moderation systems to prevent hate speech and other inappropriate content.

✓
Confirmed

The incident highlights the challenges AI companies face in balancing innovation with ethical standards and content moderation.

Շարունակեք կարդալ — անվճար

Ստեղծեք անվճար հաշիվ՝ նորություններին հետևելու համար։ Քարտ չի պահանջվում։