IWF-ն հայտնաբերել է Grok-ի հետ կապ ունեցող արհեստական բանականությամբ ստեղծված մանկական սեռական պատկերներ

Internet Watch Foundation-ը (IWF) հայտնաբերել է արհեստական բանականությամբ ստեղծված սեռականացված պատկերներ 11-ից 13 տարեկան աղջիկների մասին, որոնք, ըստ հաղորդումների, ստեղծվել են Grok արհեստական բանականության գործիքի միջոցով, որը մշակվել է xAI ընկերության կողմից, որի սեփականատերը Էլոն Մասկն է։ Այս պատկերները հայտնաբերվել են մութ ցանցի ֆորումում, որտեղ օգտատերերը պնդել են, որ օգտագործել են Grok դրանց ստեղծման համար։

IWF-ի վերլուծաբան Նգայր Ալեքսանդերը արտահայտել է մտահոգություն այն մասին, թե որքան հեշտությամբ և արագ մարդիկ կարող են ստեղծել լուսանկարային իրականության նման մանկական սեռական չարաշահման նյութեր (CSAM) նման գործիքների միջոցով։ Նա նշել է, որ այս նյութերը կկարգակարգվեն որպես C կատեգորիա Մեծ Բրիտանիայի օրենքներով, ինչը նշանակում է քրեական նյութերի ամենացածր ծանրությունը։ Սակայն այն օգտատերը, ով դրանք տեղադրել էր, հետագայում օգտագործել է այլ արհեստական բանականության գործիք՝ ստեղծելու A կատեգորիայի պատկեր, որը ներկայացնում է ամենաուժեղ կատեգորիան։

IWF-ն, որը նվիրված է մանկական սեռական չարաշահման նյութերի հեռացմանը ինտերնետից, գործում է որպես հոթլայն՝ կասկածելի CSAM-ի հաղորդման համար և վերլուծաբաններ ունի՝ գնահատելու նման բովանդակության օրինականությունն ու ծանրությունը։ Կազմակերպությունը հայտնաբերել է նյութերը մութ ցանցում, և դրանք չեն հայտնաբերվել X սոցիալական ցանցում։

Նախկինում X-ն և xAI-ն կապվել են Ofcom-ի կողմից՝ այն բանից հետո, երբ հաղորդումներ էին ստացվել, որ Grok-ը կարող է օգտագործվել երեխաների սեռականացված պատկերներ ստեղծելու և կանանց հանելու համար։ X-ն հայտարարել է․ «Մենք պայքարում ենք X-ում անօրինական բովանդակության, այդ թվում CSAM-ի դեմ՝ հեռացնելով այն, մշտապես կասեցնելով հաշիվները և համագործակցելով տեղական իշխանությունների և իրավապահ մարմինների հետ անհրաժեշտության դեպքում։ Ով էլ օգտագործի կամ հրահրի Grok-ը անօրինական բովանդակություն ստեղծելու համար, կկրեն նույն հետևանքները, ինչպես եթե նրանք տեղադրեն անօրինական բովանդակություն»։