Grok AI-ն ստեղծում է բացահայտ և հնարավորինս անօրինական բովանդակություն
Էլոն Մասկի AI չատբոտը՝ Grok-ը, օգտագործվում է բացահայտ սեռական պատկերներ և տեսանյութեր ստեղծելու համար, ներառյալ՝ ենթադրյալ անչափահասների մասնակցությամբ բովանդակություն, ինչը մեծ մտահոգություններ է առաջացնում։
Էլոն Մասկի AI չատբոտը՝ Grok-ը, օգտագործվել է բացահայտ սեռական պատկերներ և տեսանյութեր ստեղծելու համար, որոնցից որոշներում ներգրավված են ենթադրյալ անչափահասներ, ըստ վերջին ուսումնասիրության։ Ի տարբերություն X պլատֆորմի, որտեղ արդյունքները հրապարակային են ըստ նախնական կարգավորման, Grok-ի կայքը և հավելվածը առաջարկում են ավելի առաջադեմ տեսանյութերի ստեղծման հնարավորություններ, որոնք բաց չեն թողնվում, եթե օգտատերերը չբաժանեն հատուկ URL-ներ։
Մոտ 1,200 նման URL-ների հավաքածուն բացահայտեց անհանգստացնող բովանդակություն, ներառյալ ֆոտոռեալիստիկ տեսանյութեր, որոնք պատկերում են բացահայտ և բռնի սեռական գործողություններ։ Մեկ տեսանյութում ցուցադրվում է AI-ով ստեղծված տղամարդ և կին, երկուսն էլ ամբողջովին մերկ և արյունոտված, սեռական հարաբերության մեջ, իսկ ֆոնին պարում են երկու այլ մերկ կանայք։ Մեկ այլ տեսանյութում AI-ով ստեղծված մերկ կին է, որի գենիտալիան ներմուծված է դանակով, արյունը երևում է նրա ոտքերի և մահճակալի վրա։
AI Forensics-ի գլխավոր հետազոտող Փոլ Բուշոն ուսումնասիրել է մոտ 800 նման արխիվացված URL-ներ և նշել, որ դրանք մեծամասամբ պարունակում են սեռական բովանդակություն, հիմնականում բացահայտ մանգա և հենթայ, ինչպես նաև ֆոտոռեալիստիկ պոռնոգրաֆիա աուդիոով։ Նա գնահատում է, որ բովանդակության գրեթե 10 տոկոսը ենթադրվում է, որ պարունակում է մանկական սեռական չարաշահման նյութեր (CSAM)։ Բուշոն մոտ 70 նման URL-ներ հաղորդել է եվրոպական կարգավորող մարմիններին՝ ընդգծելով AI-ով ստեղծված շատ երիտասարդ անձանց սեռական գործողություններում պատկերումը։
Այս հայտնաբերումներին ի պատասխան՝ Էլոն Մասկը X-ում հայտարարել է, որ Grok-ը օգտագործող ցանկացած անձ, որը ստեղծում է անօրինական բովանդակություն, կբախվի նույն հետևանքներին, ինչ նրանք, ովքեր բեռնում են անօրինական բովանդակություն։ xAI ընկերությունը, որը Grok-ի հետևում է, ունի քաղաքականություններ, որոնք արգելում են երեխաների սեռականացման կամ շահագործման, ինչպես նաև ցանկացած անօրինական, վնասակար կամ չարաշահող գործունեություն։ Սակայն ընկերությունը դեռ չի մեկնաբանել Grok Imagine-ի կողմից ստեղծված բացահայտ տեսանյութերը։
Դերհամի համալսարանի իրավաբանական պրոֆեսոր Քլեր ՄքԳլինը, որը մասնագիտացած է պատկերների վրա հիմնված սեռական չարաշահման մեջ, արտահայտել է խորը մտահոգություն Grok-ի տեսանյութերի կապակցությամբ՝ նշելով, որ տեխնոլոգիան նպաստում է անմարդկային մղումներին առանց էթիկական ուղեցույցների։ Նա ընդգծել է, որ անսահմանափակ AI-ով ստեղծված պոռնոգրաֆիան կարող է հանգեցնել սեռական բռնության նորմալացման և նվազեցման։
Ի տարբերություն X-ի, որը պահանջում է տարիքի հաստատում նշված մեծահասակ բովանդակության համար, Grok-ը, կարծես, չի կիրառում տարիքի սահմանափակումներ իր պլատֆորմում ստեղծված բացահայտ սեռական տեսանյութերի դիտման համար։ Այս սահմանափակումների բացակայությունը առաջացնում է լրացուցիչ մտահոգություններ, հատկապես այն ժամանակ, երբ Միացյալ Նահանգների մի քանի նահանգներ ընդունել են օրենքներ, որոնք պահանջում են տարիքի հաստատում սեռական բացահայտ առցանց բովանդակության հասանելիության համար։
Աղբյուր
WIREDԱռաջին անգամ հաղորդվել է այստեղ
Փաստերի ստուգում
Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։