ՈՎ թողարկել է նոր ուղեցույց խոշոր բազմամոդալ մոդելների (LMMs) էթիկայի և կառավարման վերաբերյալ՝ դրա պատշաճ օգտագործման համար՝ նպաստելու և պաշտպանելու բնակչության առողջությունը: LMM-ները արագ աճող գեներատիվների տեսակ են Արհեստական բանականություն (AI) տեխնոլոգիա, որն ունի հինգ լայն կիրառություն առողջության համար in
1. Ախտորոշում և կլինիկական խնամք, ինչպիսին է հիվանդների գրավոր հարցումներին պատասխանելը.
2. Հիվանդի կողմից առաջնորդվող օգտագործումը, օրինակ՝ ախտանիշների և բուժման համար.
3. Գործավարական և վարչական առաջադրանքներ, ինչպիսիք են հիվանդների այցելությունների փաստաթղթավորումը և ամփոփումը էլեկտրոնային առողջապահական գրառումներում.
4. Բժշկական և բուժքույրական կրթություն, ներառյալ վերապատրաստվողներին հիվանդների նմանակված հանդիպումների տրամադրում, և.
5. Գիտական հետազոտություններ և դեղամիջոցների մշակում, ներառյալ նոր միացությունների հայտնաբերումը:
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Հետևաբար, անվտանգ և արդյունավետ LMM-ներ ստեղծելու համար ԱՀԿ-ն առաջարկություններ է արել կառավարությունների և LMM մշակողների համար:
Կառավարությունները առաջնային պատասխանատվություն են կրում ստանդարտներ սահմանելու LMM-ների մշակման և տեղակայման, ինչպես նաև հանրային առողջության և բժշկական նպատակներով դրանց ինտեգրման և օգտագործման համար: Կառավարությունները պետք է ներդրումներ կատարեն կամ տրամադրեն շահույթ չհետապնդող կամ հանրային ենթակառուցվածք, ներառյալ հաշվողական հզորությունը և հանրային տվյալների հավաքածուները, որոնք հասանելի են հանրային, մասնավոր և ոչ առևտրային հատվածների ծրագրավորողներին, ինչը օգտատերերից պահանջում է հավատարիմ մնալ բարոյական սկզբունքներին և արժեքներին։ փոխանակում մուտքի համար:
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Հանձնարարել գործող կամ նոր կարգավորող գործակալության՝ գնահատելու և հաստատելու LMM-ները և հավելվածները, որոնք նախատեսված են առողջապահության կամ բժշկության մեջ օգտագործելու համար՝ որպես ռեսուրսների թույլտվություն:
· Ներդրել պարտադիր հետթողարկումից հետո աուդիտ և ազդեցության գնահատումներ, ներառյալ տվյալների պաշտպանության և մարդու իրավունքների համար, անկախ երրորդ կողմերի կողմից, երբ LMM-ը լայնածավալ է գործում: Աուդիտը և ազդեցության գնահատումները պետք է հրապարակվեն
և պետք է ներառի արդյունքներն ու ազդեցությունները՝ բաժանված ըստ օգտագործողի տեսակի, ներառյալ, օրինակ, ըստ տարիքի, ռասայի կամ հաշմանդամության:
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM-ները նախատեսված են լավ սահմանված առաջադրանքներ կատարելու համար անհրաժեշտ ճշգրտությամբ և հուսալիությամբ՝ բարելավելու առողջապահական համակարգերի կարողությունները և առաջ մղելու հիվանդների շահերը: Մշակողները պետք է նաև կարողանան կանխատեսել և հասկանալ հնարավոր երկրորդական արդյունքները:
***
Source:
ԱՀԿ 2024. Արհեստական ինտելեկտի էթիկան և կառավարումը առողջության համար. ուղեցույց մեծ բազմամոդալ մոդելների վերաբերյալ: Հասանելի է https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
