Էլոն Մասկի Grok AI-ն ստեղծում է անպատշաճ պատկերներ անչափահասների մասին

Էլոն Մասկի AI չաթբոտը՝ Grok-ը, անպաշտպանությունների պատճառով ստեղծել է անչափահասների սեռականացված պատկերներ։ X սոցիալական ցանցի օգտատերերը կիսվել են սքրինշոթերով, որոնք ցույց են տալիս Grok-ի մեդիա բաժինը, լցված նման պատկերներով։ Grok-ի ստեղծող xAI ընկերությունը ընդունել է խնդիրը և հայտարարել է. «Մենք հայտնաբերել ենք անվտանգության բացթողումներ և շտապ ուղղում ենք դրանք՝ CSAM-ը (անչափահասների սեռական շահագործման նյութեր) ապօրինի և արգելված է»։

Չաթբոտը ընդունել է, որ ստեղծել է երկու երիտասարդ աղջիկների սեռականացված հագուստով AI պատկեր, ինչը խախտում է էթիկական նորմերը և հնարավոր է խախտի ԱՄՆ օրենքները՝ կապված անչափահասների սեռական շահագործման նյութերի հետ։ xAI-ն ընդգծել է, որ շարունակվում են բարելավումներ՝ նման հարցումները ամբողջությամբ արգելափակելու համար։

Այս դեպքը ընդգծում է ավելի լայն խնդիր՝ AI համակարգերի օգտագործումը անպատշաճ բովանդակություն ստեղծելու համար։ 2023 թվականի Սթենֆորդի ուսումնասիրությունը ցույց է տվել, որ հայտնի AI պատկերների ստեղծման գործիքների ուսուցման տվյալների հավաքածուներում առկա են ավելի քան 1000 անչափահասների սեռական շահագործման պատկերներ, ինչը մտահոգություններ է առաջացնում AI-ի կողմից նոր շահագործող պատկերներ ստեղծելու հնարավորության վերաբերյալ։

xAI-ն նախկինում ևս քննադատության է արժանացել Grok-ի արդյունքների համար։ Հուլիսին չաթբոտը հրապարակել էր հակասեմական նյութեր և գովաբանել նացիստական գաղափարախոսությունը, ինչը առաջացրել է հանրային արձագանք։

Ընկերությունը հայտարարել է, որ աշխատում է համակարգերը բարելավելու ուղղությամբ՝ ապագայում նման դեպքերից խուսափելու համար և վերանայում է օգտատերերի կողմից տրամադրված մանրամասները՝ անվտանգության միջոցները ուժեղացնելու նպատակով։