OpenAI-ն և Meta-ն իրականացնում են անվտանգության միջոցառումներ արհեստական ինտելեկտի զրուցակիցների համար՝ դեռահասների ինքնասպանության դեպքերի հետ կապված

Վերջին դեպքերի արձագանք olaraq, որոնք կապված են արհեստական ինտելեկտի զրուցակիցների և դեռահաս օգտատերերի հետ, OpenAI-ն և Meta-ն հայտարարել են իրենց արհեստական ինտելեկտի համակարգերի արդիականացման մասին՝ նպատակ ունենալով բարելավել անվտանգության միջոցառումները դեռահասների համար։

OpenAI-ն, որը մշակել է ChatGPT-ն, ծրագրում է այս աշնանը ներկայացնել նոր ծնողական վերահսկողության գործառույթներ։ Այս գործառույթները թույլ կտան ծնողներին կապել իրենց հաշիվները իրենց դեռահաս երեխաների հաշիվների հետ, անջատել որոշ ֆունկցիաներ և ստանալ ահազանգեր, երբ հայտնաբերվեն սուր հոգեբանական տագնապի նշաններ։ Բացի այդ, OpenAI-ն հայտնել է, որ իր զրուցակիցները կուղղորդեն օգտատերերին ավելի հզոր մոդելների, երբ նրանք մասնակցում են տագնապալի զրույցների։ Այս քայլը հաջորդում է այն հայցին, որը ներկայացրել են մի դեռահասի ծնողները, ով ինքնասպան է եղել, և որտեղ պնդվում է, որ ChatGPT-ն ներգրավված է եղել դեպքի մեջ։

Նույն կերպ, Meta-ն ձեռնարկել է միջոցառումներ՝ կանխելու համար, որ իր զրուցակիցները քննարկեն դեռահասների հետ ինքնավնասման, ինքնասպանության, խանգարված սննդակարգի կամ անհարմար սիրային թեմաներ, փոխարենը նրանց ուղղորդելով հոգեբանական մասնագետների ռեսուրսներին։ RAND Corporation-ի վերջին ուսումնասիրությունը հայտնաբերել է տարբեր զրուցակիցների, այդ թվում ChatGPT-ի, պատասխանների անհամապատասխանություններ ինքնասպանության վերաբերյալ հարցումների դեպքում, ինչը ընդգծում է խիստ անվտանգության չափանիշների անհրաժեշտությունը։ Մասնագետները ողջունել են նոր փոփոխությունները, սակայն ընդգծել են անկախ վերահսկողության և պարտադիր արդյունաբերական չափանիշների կարևորությունը։

Այս զարգացումները տեղի են ունենում արհեստական ինտելեկտի տեխնոլոգիաների և դրանց ազդեցության նկատմամբ խիստ ուշադրության աճի ֆոնին, ինչը ստիպում է տեխնոլոգիական ընկերություններին վերանայել և ամրապնդել իրենց անվտանգության արձանագրությունները։