СААЗ выпусціла новыя рэкамендацыі па этыцы і кіраванні вялікімі мультымадальнымі мадэлямі (LMM) для іх належнага выкарыстання для ўмацавання і аховы здароўя насельніцтва. LMMs - разнавіднасць хуткарослых генератыўных штучны інтэлект (AI) тэхналогія, якая мае пяць шырокіх ужыванняў для здароўя in
1. Дыягностыка і клінічная дапамога, такія як адказы на пісьмовыя запыты пацыентаў;
2. Выкарыстанне пад кіраўніцтвам пацыента, напрыклад, для даследавання сімптомаў і лячэння;
3. Службовыя і адміністрацыйныя задачы, такія як дакументаванне і абагульненне наведванняў пацыентаў у электронных медыцынскіх запісах;
4. Медыцынская і сястрынская адукацыя, у тым ліку прадастаўленне стажорам мадэляваных сустрэч з пацыентамі, і;
5. Навуковыя даследаванні і распрацоўка лекаў, у тым ліку для выяўлення новых злучэнняў.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Такім чынам, для стварэння бяспечных і эфектыўных LMM СААЗ дала рэкамендацыі для ўрадаў і распрацоўшчыкаў LMM.
Урады нясуць асноўную адказнасць за ўстанаўленне стандартаў для распрацоўкі і разгортвання LMM, а таксама іх інтэграцыі і выкарыстання ў мэтах аховы здароўя і медыцыне. Урады павінны інвеставаць або забяспечваць некамерцыйную або грамадскую інфраструктуру, уключаючы вылічальную магутнасць і агульнадаступныя наборы даных, даступныя распрацоўшчыкам у дзяржаўным, прыватным і некамерцыйным сектарах, што патрабуе ад карыстальнікаў прытрымлівацца этычных прынцыпаў і каштоўнасцей у абмен на доступ.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Прызначыць існуючы або новы рэгулюючы орган для ацэнкі і зацвярджэння LMM і прыкладанняў, прызначаных для выкарыстання ў ахове здароўя або медыцыне - калі дазваляюць рэсурсы.
· Увядзіце абавязковы аўдыт пасля выпуску і ацэнку ўздзеяння, у тым ліку для абароны даных і правоў чалавека, незалежнымі трэцімі асобамі, калі LMM разгортваецца ў вялікіх маштабах. Аўдыт і ацэнкі ўздзеяння павінны быць апублікаваныя
і павінна ўключаць у сябе вынікі і ўздзеянне з разбіўкай па тыпу карыстальніка, у тым ліку, напрыклад, па ўзросце, расе або інваліднасці.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM распрацаваны для выканання дакладна вызначаных задач з неабходнай дакладнасцю і надзейнасцю для павышэння патэнцыялу сістэм аховы здароўя і прасоўвання інтарэсаў пацыентаў. Распрацоўшчыкі таксама павінны ўмець прадказваць і разумець магчымыя другасныя вынікі.
***
крыніца:
СААЗ 2024. Этыка і кіраванне штучным інтэлектам для здароўя: рэкамендацыі па вялікіх мультымадальных мадэлях. Даступны па адрасе https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
