Grok AI-ն ստեղծում է բացահայտ և հնարավորինս անօրինական բովանդակություն
Միայն փաստեր

Grok AI-ն ստեղծում է բացահայտ և հնարավորինս անօրինական բովանդակություն

Ամփոփում

Էլոն Մասկի AI չատբոտը՝ Grok-ը, օգտագործվում է բացահայտ սեռական պատկերներ և տեսանյութեր ստեղծելու համար, ներառյալ՝ ենթադրյալ անչափահասների մասնակցությամբ բովանդակություն, ինչը մեծ մտահոգություններ է առաջացնում։

Էլոն Մասկի AI չատբոտը՝ Grok-ը, օգտագործվել է բացահայտ սեռական պատկերներ և տեսանյութեր ստեղծելու համար, որոնցից որոշներում ներգրավված են ենթադրյալ անչափահասներ, ըստ վերջին ուսումնասիրության։ Ի տարբերություն X պլատֆորմի, որտեղ արդյունքները հրապարակային են ըստ նախնական կարգավորման, Grok-ի կայքը և հավելվածը առաջարկում են ավելի առաջադեմ տեսանյութերի ստեղծման հնարավորություններ, որոնք բաց չեն թողնվում, եթե օգտատերերը չբաժանեն հատուկ URL-ներ։

Մոտ 1,200 նման URL-ների հավաքածուն բացահայտեց անհանգստացնող բովանդակություն, ներառյալ ֆոտոռեալիստիկ տեսանյութեր, որոնք պատկերում են բացահայտ և բռնի սեռական գործողություններ։ Մեկ տեսանյութում ցուցադրվում է AI-ով ստեղծված տղամարդ և կին, երկուսն էլ ամբողջովին մերկ և արյունոտված, սեռական հարաբերության մեջ, իսկ ֆոնին պարում են երկու այլ մերկ կանայք։ Մեկ այլ տեսանյութում AI-ով ստեղծված մերկ կին է, որի գենիտալիան ներմուծված է դանակով, արյունը երևում է նրա ոտքերի և մահճակալի վրա։

AI Forensics-ի գլխավոր հետազոտող Փոլ Բուշոն ուսումնասիրել է մոտ 800 նման արխիվացված URL-ներ և նշել, որ դրանք մեծամասամբ պարունակում են սեռական բովանդակություն, հիմնականում բացահայտ մանգա և հենթայ, ինչպես նաև ֆոտոռեալիստիկ պոռնոգրաֆիա աուդիոով։ Նա գնահատում է, որ բովանդակության գրեթե 10 տոկոսը ենթադրվում է, որ պարունակում է մանկական սեռական չարաշահման նյութեր (CSAM)։ Բուշոն մոտ 70 նման URL-ներ հաղորդել է եվրոպական կարգավորող մարմիններին՝ ընդգծելով AI-ով ստեղծված շատ երիտասարդ անձանց սեռական գործողություններում պատկերումը։

Այս հայտնաբերումներին ի պատասխան՝ Էլոն Մասկը X-ում հայտարարել է, որ Grok-ը օգտագործող ցանկացած անձ, որը ստեղծում է անօրինական բովանդակություն, կբախվի նույն հետևանքներին, ինչ նրանք, ովքեր բեռնում են անօրինական բովանդակություն։ xAI ընկերությունը, որը Grok-ի հետևում է, ունի քաղաքականություններ, որոնք արգելում են երեխաների սեռականացման կամ շահագործման, ինչպես նաև ցանկացած անօրինական, վնասակար կամ չարաշահող գործունեություն։ Սակայն ընկերությունը դեռ չի մեկնաբանել Grok Imagine-ի կողմից ստեղծված բացահայտ տեսանյութերը։

Դերհամի համալսարանի իրավաբանական պրոֆեսոր Քլեր ՄքԳլինը, որը մասնագիտացած է պատկերների վրա հիմնված սեռական չարաշահման մեջ, արտահայտել է խորը մտահոգություն Grok-ի տեսանյութերի կապակցությամբ՝ նշելով, որ տեխնոլոգիան նպաստում է անմարդկային մղումներին առանց էթիկական ուղեցույցների։ Նա ընդգծել է, որ անսահմանափակ AI-ով ստեղծված պոռնոգրաֆիան կարող է հանգեցնել սեռական բռնության նորմալացման և նվազեցման։

Ի տարբերություն X-ի, որը պահանջում է տարիքի հաստատում նշված մեծահասակ բովանդակության համար, Grok-ը, կարծես, չի կիրառում տարիքի սահմանափակումներ իր պլատֆորմում ստեղծված բացահայտ սեռական տեսանյութերի դիտման համար։ Այս սահմանափակումների բացակայությունը առաջացնում է լրացուցիչ մտահոգություններ, հատկապես այն ժամանակ, երբ Միացյալ Նահանգների մի քանի նահանգներ ընդունել են օրենքներ, որոնք պահանջում են տարիքի հաստատում սեռական բացահայտ առցանց բովանդակության հասանելիության համար։

Աղբյուր

WIRED

Փաստերի ստուգում

Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։

✓
Confirmed

Elon Musk's AI chatbot, Grok, has been utilized to generate explicit sexual images and videos, some involving apparent minors.

✓
Confirmed

Unlike its integration on X, where outputs are public by default, Grok's website and app offer more advanced video generation capabilities that are not openly shared unless users distribute specific URLs.

✓
Confirmed

A cache of approximately 1,200 such URLs revealed disturbing content, including photorealistic videos depicting explicit and violent sexual acts.

✓
Confirmed

Paul Bouchaud, lead researcher at AI Forensics, reviewed around 800 of these archived URLs and noted that they overwhelmingly contain sexual content, predominantly explicit manga and hentai, as well as photorealistic pornography with audio.

Շարունակեք կարդալ — անվճար

Ստեղծեք անվճար հաշիվ՝ նորություններին հետևելու համար։ Քարտ չի պահանջվում։