Նոր շրջանակը բարելավում է տեքստից պատկերի որոնումը՝ նվազեցնելով տեսողական հալյուցինացիաները
Հետազոտողները մշակել են Diffusion-aware Multi-view Contrastive Learning (DMCL) շրջանակ, որը բարելավում է տեքստից պատկերի որոնումը՝ լուծելով դիֆուզիոն մոդելների կողմից առաջացած մոլորեցնող տեսողական ազդակները։
Հետազոտողները ներկայացրել են Diffusion-aware Multi-view Contrastive Learning (DMCL) շրջանակը, որը նախատեսված է բարելավելու Diffusion-Augmented Interactive Text-to-Image Retrieval (DAI-TIR) համակարգերը՝ նվազեցնելով տեսողական «հալյուցինացիաները»՝ դիֆուզիոն գործընթացի ընթացքում առաջացող մոլորեցնող ազդակները, որոնք կարող են վատացնել որոնման արդյունավետությունը։
Թիմը, որի կազմում են Հունան համալսարանի Zhuocheng Zhang-ը, Գլազգոյի համալսարանի Kangheng Liang-ը և Paul Henderson-ը, ինչպես նաև Guanxuan Li-ն, Richard Mccreadie-ն և Zijun Long-ը, փորձարկումներով ապացուցել են, որ այս հալյուցինացված ազդակները զգալիորեն նվազեցնում են որոնման ճշգրտությունը։
DMCL-ն այս խնդիրը լուծում է՝ օպտիմալացնելով ինչպես հարցի մտադրության, այնպես էլ նպատակային պատկերների ներկայացումները, արդյունավետորեն զտելով մոլորեցնող ազդակները։ Շրջանակը ներկայացնում է երկու հիմնական ուսուցման նպատակներ՝ բազմադիտակ հարց-նպատակ համաժամեցման նպատակ, որը ընդգծում է ընդհանուր ազդակները տարբեր դիտանկյուններից՝ զտելով անհամապատասխանությունները, և տեքստ-դիֆուզիոն համապատասխանության նպատակ, որը բարելավում է տեքստի և դիֆուզիոն հարցերի միջև համաձայնությունը՝ նվազեցնելով անհամապատասխանությունների և գեներատիվ հալյուցինացիաների զգայունությունը։
Ուշադրության վիզուալիզացիաները և երկրաչափական ներդրման տարածքի վերլուծությունները հաստատում են մոդելի ունակությունը տարբերակել և անտեսել անհամապատասխան տեսողական տեղեկատվությունը։ Հինգ ստանդարտ բենչմարկների շրջանակներում DMCL-ն շարունակաբար բարելավել է բազմափուլ որոնման ճշգրտությունը՝ հասնելով մինչև 7.37% աճի համեմատած առկա մեթոդների հետ։
Հեղինակները նշում են, որ ներկայիս իրագործումը օգտագործում է պարզ հավելման միաձուլման սխեմա հարցերի ինտեգրման համար և պլանավորում են հետազոտություններում ուսումնասիրել ավելի առաջադեմ միաձուլման տեխնիկաներ։ Նրանք նաև հրապարակել են մեծածավալ DAI-TIR ուսուցման տվյալների հավաքածու՝ այս ոլորտում հետագա ուսումնասիրությունների համար։
Աղբյուր
Quantum ZeitgeistՓաստերի ստուգում
Հոդվածի փաստերը ստուգեք արտաքին աղբյուրների և տվյալների բազաների միջոցով։