Գիտնականները ահազանգում են․ արհեստական բանականությունը հորինում է գիտական աշխատանքներ

Արհեստական բանականությունը սկսել է լուրջ խնդիր ստեղծել գիտության համար․ գիտական հոդվածներում越来越 հաճախ հայտնվում են հղումներ այնպիսի հետազոտությունների, որոնք երբեք գոյություն չեն ունեցել։

Նոր ուսումնասիրությունը, որի արդյունքները հրապարակվել են arXiv նախատպությունների սերվերում, ցույց է տվել, որ միայն 2025 թվականին գիտական գրականության մեջ կարող էր հայտնվել մոտ 146 հազար «հալյուցինացված» մեջբերում՝ ամբողջությամբ հորինված աղբյուրներ, որոնք ստեղծվել են ԱԲ-ի կողմից։

Գիտնականները վերլուծել են 111 միլիոն հղում 2,5 միլիոն գիտական աշխատանքներից, որոնք տեղադրված են ամենախոշոր գիտական բազաներում՝ ներառյալ PubMed Central-ը, bioRxiv-ը և SSRN-ը։ Հետազոտողները հայտնաբերել են գոյություն չունեցող հղումների թվի կտրուկ աճ՝ չաթ-բոտերի և ChatGPT-ի նման լեզվական մոդելների լայն տարածումից հետո։ Խնդիրը հատկապես արագ սկսել է աճել 2024 թվականի կեսերից։

Գլխավոր վտանգն այն է, որ նման հղումները բացարձակապես հավաստի են թվում։ ԱԲ-ն ունակ է «հավաքել» հոդվածի վերնագիրը, հեղինակների անունները, գիտական ամսագիրը և նույնիսկ DOI համարը այնպես, որ կեղծիքը դժվար է նկատել։ Երբեմն նույնիսկ գոյություն ունի իրական DOI, բայց այն տանում է բոլորովին այլ հոդվածի։ Արդյունքում կեղծ հետազոտությունները սկսում են մեջբերել արդեն այլ հեղինակներ, և կեղծ տեղեկությունը աստիճանաբար ներթափանցում է գիտական միջավայր։

Ուսումնասիրության հեղինակներն ընդգծում են․ խոսքը մի քանի խարդախների մասին չէ, այլ համակարգային խնդրի։ Ամենից հաճախ կեղծ հղումներ հանդիպել են փոքր հետազոտական խմբերի և երիտասարդ գիտնականների մոտ, որոնք ակտիվորեն օգտագործում են ԱԲ-ն տեքստեր գրելու համար։ Միևնույն ժամանակ, առկա ստուգման մեխանիզմները՝ ամսագրերի խմբագիրները, գրախոսները և ավտոմատ ֆիլտրերը, բաց են թողնում նման սխալների մեծ մասը։ Հետազոտողների գնահատմամբ՝ կեղծ հղումների գրեթե 79%-ը հանգիստ անցնում է մոդերացիան նույնիսկ arXiv-ում։

Առանձնահատուկ մտահոգություն է առաջացնում բժշկության ոլորտում ստեղծված իրավիճակը։ Կոլումբիայի համալսարանի գիտնականների կողմից իրականացված առանձին աուդիտը բացահայտել է գրեթե 3000 բժշկական հոդված՝ գոյություն չունեցող հղումներով։ Այդ աշխատանքներից որոշներն արդեն օգտագործվում են բժիշկների համար նախատեսված ամփոփումներում և առաջարկություններում։ Հետազոտողները զգուշացնում են․ եթե կեղծ տվյալները սկսեն ազդել կլինիկական որոշումների վրա, հետևանքները կարող են շատ հեռու անցնել ակադեմիական միջավայրի սահմաններից։

Աճող խնդրի ֆոնին գիտական հարթակները սկսել են խստացնել կանոնները։ Օրինակ՝ arXiv-ն արդեն հայտարարել է, որ հեղինակները, որոնք հրապարակում են հոդվածներ ակնհայտ ԱԲ-հալյուցինացիաներով և կեղծ հղումներով, կարող են մեկ տարով զրկվել հրապարակվելու իրավունքից։

Գիտնականները կարծում են, որ գիտությունը բախվել է վստահության ճգնաժամի նոր տեսակի․ արհեստական բանականությունը ոչ միայն օգնում է գրել հոդվածներ, այլև աստիճանաբար սկսում է աղտոտել գիտական գիտելիքի հենց հիմքը՝ հղումների և ստուգելի աղբյուրների համակարգը։

Source: https://news.am/hy/news/1037125