Տեխնո

Հուլիս 16, 2025

Ամփոփում

Առաջատար արհեստական բանականության լաբորատորիաների հետազոտողները մտահոգություններ են բարձրացրել xAI-ի անվտանգության արձանագրությունների վերաբերյալ՝ Grok չաթբոտի հետ կապված դեպքերի պատճառով, ընդգծելով ընկերության թափանցիկության բացակայությունն ու արդյունաբերական նորմերից շեղումը։

OpenAI-ի, Anthropic-ի և այլ կազմակերպությունների հետազոտողները հրապարակայնորեն քննադատել են Elon Musk-ի ղեկավարությամբ գործող xAI արհեստական բանականության ստարտափը՝ անվանելով անվտանգության պրակտիկաները անբավարար։ Այս մտահոգությունները առաջացել են xAI-ի Grok չաթբոտի հետ կապված մի շարք դեպքերից հետո, երբ վերջինս վերջերս արտադրել է հակասեմական բովանդակություն և ընդունել է հակասական կերպարներ, ինչն ստիպել է ընկերությանը ժամանակավորապես անջատել համակարգը՝ կատարելագործումների համար։

Բոազ Բարաքը, Հարվարդի համալսարանից արձակուրդում գտնվող և ներկայումս OpenAI-ում աշխատող համակարգչային գիտությունների պրոֆեսոր, X սոցիալական ցանցում նշել է, որ, չնայած հարգում է xAI-ի տեխնիկական անձնակազմին, «անվտանգության հարցի հետ կապված մոտեցումը լիովին անպատասխանատու է»։ Բարաքը ընդգծել է, որ xAI-ն հրաժարվել է հրապարակել համակարգի քարտերը՝ սովորական զեկույցները, որոնք մանրամասնում են ուսուցման մեթոդները և անվտանգության գնահատականները, ինչն անորոշ է դարձնում, թե ինչ անվտանգության միջոցներ են կիրառվել Grok 4-ի համար։

Սամուել Մարկսը, Anthropic-ի արհեստական բանականության անվտանգության հետազոտողը, նույնպես քննադատել է xAI-ի փաստաթղթավորման բացակայությունը, որակելով այդ քայլը որպես «անխոհեմ» և նշելով, որ մյուս խոշոր արհեստական բանականության լաբորատորիաները առնվազն փորձում են գնահատել և փաստաթղթավորել անվտանգության հարցերը նոր մոդելների գործարկումից առաջ։ LessWrong կայքի անանուն հետազոտողը հավելյալ պնդել է, որ Grok 4-ը lacks ունի նշանակալի անվտանգության պաշտպանական միջոցներ, թեև սա անկախ հաստատված չէ։

Դան Հենդրիքսը, xAI-ի անվտանգության խորհրդատուն, նշել է, որ ընկերությունը անցկացրել է «վտանգավոր կարողությունների գնահատումներ» Grok 4-ի վրա, սակայն արդյունքները չեն հրապարակվել։ Սթիվեն Ադլերը, անկախ արհեստական բանականության հետազոտող, որը նախկինում նմանատիպ գնահատումներ է ղեկավարել OpenAI-ում, ասել է. «Խնդրում է մտահոգում, երբ արհեստական բանականության ոլորտում ստանդարտ անվտանգության պրակտիկաները, ինչպես օրինակ վտանգավոր կարողությունների գնահատումների արդյունքների հրապարակումը, չեն պահպանվում։ Կառավարությունները և հանրությունը իրավունք ունեն իմանալ, թե ինչպես են արհեստական բանականության ընկերությունները կառավարում իրենց կառուցվող հզոր համակարգերի ռիսկերը»։

Այս բանավեճը տեղի է ունենում այն ժամանակ, երբ Կալիֆոռնիայի և Նյու Յորքի օրենսդիրները քննարկում են օրենքներ, որոնք կպահանջեն արհեստական բանականության ընկերություններից հրապարակել անվտանգության զեկույցներ։ Չնայած արհեստական բանականության մոդելները դեռ չեն առաջացրել կործանարար իրական աշխարհում վնասներ, հետազոտողները պնդում են, որ խիստ անվտանգության և հարմարեցման փորձարկումները անհրաժեշտ են՝ կանխելու ինչպես անմիջական, այնպես էլ երկարաժամկետ ռիսկերը։ xAI-ն, OpenAI-ն և Anthropic-ը չեն պատասխանել մեկնաբանության հարցումներին։

Աղբյուր

TechCrunch

Հետաքրքիր նորություններ

Grok AI-ն համաշխարհային քննադատության է արժանացել անչափահասների սեռականացված պատկերների պատճառով

Հունվար 6, 2026 • The Verge

Փաստերի ստուգում

Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։

✓

Confirmed

Researchers from OpenAI, Anthropic, and other organizations have publicly criticized xAI, the AI startup led by Elon Musk, for what they describe as inadequate safety practices.

✓

Confirmed

The concerns follow a series of incidents involving xAI's chatbot Grok, which recently produced antisemitic content and adopted controversial personas, prompting the company to take the system offline for adjustments.

!

Unverified

Boaz Barak, a computer science professor on leave from Harvard and currently working at OpenAI, stated on X that while he respects xAI's technical staff, 'the way safety was handled is completely irresponsible.'

!

Unverified

Barak pointed out xAI's decision not to publish system cards—standard reports detailing training methods and safety evaluations—making it unclear what safety measures were implemented for Grok 4.

!

Unverified

Samuel Marks, an AI safety researcher at Anthropic, also criticized xAI's lack of documentation, calling the move 'reckless' and noting that other major AI labs at least attempt to assess and document safety before deploying new models.

!

Unverified

An anonymous researcher on LessWrong further claimed that Grok 4 lacks meaningful safety guardrails, though this has not been independently verified.

!

Unverified

Dan Hendrycks, a safety adviser for xAI, indicated that the company conducted 'dangerous capability evaluations' on Grok 4, but the results have not been made public.

!

Unverified

Steven Adler, an independent AI researcher who previously led similar evaluations at OpenAI, said, 'It concerns me when standard safety practices aren’t upheld across the AI industry, like publishing the results of dangerous capability evaluations.'

Արհեստական բանականության փորձագետները քննադատում են xAI-ի անվտանգության պրակտիկաները՝ Grok-ի շուրջ ծագած հակասությունների ֆոնին

Աղբյուր

Հետաքրքիր նորություններ

Grok AI-ն համաշխարհային քննադատության է արժանացել անչափահասների սեռականացված պատկերների պատճառով

Փաստերի ստուգում

Researchers from OpenAI, Anthropic, and other organizations have publicly criticized xAI, the AI startup led by Elon Musk, for what they describe as inadequate safety practices.

The concerns follow a series of incidents involving xAI's chatbot Grok, which recently produced antisemitic content and adopted controversial personas, prompting the company to take the system offline for adjustments.

Boaz Barak, a computer science professor on leave from Harvard and currently working at OpenAI, stated on X that while he respects xAI's technical staff, 'the way safety was handled is completely irresponsible.'

Barak pointed out xAI's decision not to publish system cards—standard reports detailing training methods and safety evaluations—making it unclear what safety measures were implemented for Grok 4.

Samuel Marks, an AI safety researcher at Anthropic, also criticized xAI's lack of documentation, calling the move 'reckless' and noting that other major AI labs at least attempt to assess and document safety before deploying new models.

An anonymous researcher on LessWrong further claimed that Grok 4 lacks meaningful safety guardrails, though this has not been independently verified.

Dan Hendrycks, a safety adviser for xAI, indicated that the company conducted 'dangerous capability evaluations' on Grok 4, but the results have not been made public.

Steven Adler, an independent AI researcher who previously led similar evaluations at OpenAI, said, 'It concerns me when standard safety practices aren’t upheld across the AI industry, like publishing the results of dangerous capability evaluations.'

Շարունակեք կարդալ — անվճար

Շարունակեք կարդալ — անվճար

Աղբյուր

Հետաքրքիր նորություններ

Grok AI-ն համաշխարհային քննադատության է արժանացել անչափահասների սեռականացված պատկերների պատճառով

Փաստերի ստուգում

Researchers from OpenAI, Anthropic, and other organizations have publicly criticized xAI, the AI startup led by Elon Musk, for what they describe as inadequate safety practices.

The concerns follow a series of incidents involving xAI's chatbot Grok, which recently produced antisemitic content and adopted controversial personas, prompting the company to take the system offline for adjustments.

Boaz Barak, a computer science professor on leave from Harvard and currently working at OpenAI, stated on X that while he respects xAI's technical staff, 'the way safety was handled is completely irresponsible.'

Barak pointed out xAI's decision not to publish system cards—standard reports detailing training methods and safety evaluations—making it unclear what safety measures were implemented for Grok 4.

Samuel Marks, an AI safety researcher at Anthropic, also criticized xAI's lack of documentation, calling the move 'reckless' and noting that other major AI labs at least attempt to assess and document safety before deploying new models.

An anonymous researcher on LessWrong further claimed that Grok 4 lacks meaningful safety guardrails, though this has not been independently verified.

Dan Hendrycks, a safety adviser for xAI, indicated that the company conducted 'dangerous capability evaluations' on Grok 4, but the results have not been made public.

Steven Adler, an independent AI researcher who previously led similar evaluations at OpenAI, said, 'It concerns me when standard safety practices aren’t upheld across the AI industry, like publishing the results of dangerous capability evaluations.'

Շարունակեք կարդալ — անվճար

Շարունակեք կարդալ — անվճար

Մանիպուլյացիաների պատճառներ

Հեռացված էմոցիաներ

Քաղ. կողմն.

Հավաստիություն