xAI-ի Grok զրույցային ռոբոտը քննադատության է ենթարկվում բովանդակության մոդերացիայի պրակտիկաների պատճառով
Էլոն Մասկի xAI ընկերությունը քննության տակ է իր Grok զրույցային ռոբոտի՝ բացահայտ բովանդակության հետ աշխատելու պատճառով, ինչը մտահոգություններ է առաջացնում արհեստական բանականության բովանդակության մոդերացիայի և անվտանգության միջոցների վերաբերյալ։
Էլոն Մասկի արհեստական բանականության ընկերությունը՝ xAI-ն, ավելի մեծ ուշադրության տակ է հայտնվել իր Grok զրույցային ռոբոտի պատճառով, երբ հայտնվել են տեղեկություններ, որ արհեստական բանականությունը ստեղծում է հակասական և բացահայտ բովանդակություն։
Grok-ը, որը նախագծված է դիտավորյալ պրովոկատիվ լինելու համար, ունի «սեքսուալ» և «անհավասարակշիռ» անվանված ռեժիմներ, ինչպես նաև ներառում է պատկերների և տեսանյութերի ստեղծման ֆունկցիա՝ «մրգայլ» կարգավորումով։
Grok-ի ուսուցման մեջ ներգրավված աշխատակիցները հայտնել են, որ հանդիպել են սեռական բնույթի բացահայտ նյութերի, այդ թվում՝ օգտատերերի կողմից արհեստական բանականության միջոցով երեխաների սեռական չարաշահման (CSAM) բովանդակության ստեղծման պահանջների։
Փորձագետները մտահոգություն են հայտնել xAI-ի մոտեցման վերաբերյալ։ Սթենֆորդի համալսարանի տեխնոլոգիական քաղաքականության հետազոտող Ռիանա Փֆեֆերքորնը նշել է․ «Եթե դուք չեք սահմանում հստակ գիծ ցանկացած անհարմար բանի նկատմամբ, դուք ավելի բարդ խնդիր կունենաք՝ ավելի շատ մոխրագույն գոտիներով»։
Այս խնդիրներին արձագանքելով՝ xAI-ն ներդրել է ավելի խիստ բովանդակության մոդերացիայի համակարգեր՝ ատելության խոսքը և այլ անհարմար բովանդակությունը կանխելու համար։ Ընկերությունը հայտնել է, որ ակտիվորեն հեռացնում է խնդրահարույց բովանդակությունը և կիրառել է նախազգուշական արգելքներ ատելության խոսքի նկատմամբ՝ իր արհեստական բանականության մոդելի ուսուցման գործընթացում։
Այս դեպքը ընդգծում է այն մարտահրավերները, որոնց առջև կանգնած են արհեստական բանականության ընկերությունները՝ նորարարությունն ու էթիկական չափանիշները և բովանդակության մոդերացիան հավասարակշռելու հարցում։ Երբ արհեստական բանականության համակարգերը ավելի շատ ինտեգրվում են տարբեր հարթակներում, կարևոր է ապահովել, որ դրանք չտարածեն վնասակար բովանդակություն։
Աղբյուր
Business InsiderՓաստերի ստուգում
Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։