Генератыўны штучны інтэлект (AI): СААЗ выпускае новае кіраўніцтва па кіраванні LMM

СААЗ выпусціла новыя рэкамендацыі па этыцы і кіраванні вялікімі мультымадальнымі мадэлямі (LMM) для іх належнага выкарыстання для ўмацавання і аховы здароўя насельніцтва. LMMs - разнавіднасць хуткарослых генератыўных штучны інтэлект (AI) тэхналогія, якая мае пяць шырокіх ужыванняў для здароўя in 

1. Дыягностыка і клінічная дапамога, такія як адказы на пісьмовыя запыты пацыентаў; 

2. Выкарыстанне пад кіраўніцтвам пацыента, напрыклад, для даследавання сімптомаў і лячэння; 

3. Службовыя і адміністрацыйныя задачы, такія як дакументаванне і абагульненне наведванняў пацыентаў у электронных медыцынскіх запісах; 

4. Медыцынская і сястрынская адукацыя, у тым ліку прадастаўленне стажорам мадэляваных сустрэч з пацыентамі, і; 

5. Навуковыя даследаванні і распрацоўка лекаў, у тым ліку для выяўлення новых злучэнняў. 

Аднак гэтыя прымяненні ў ахове здароўя рызыкуюць стварыць ілжывыя, недакладныя, прадузятыя або няпоўныя заявы, якія могуць нанесці шкоду людзям, якія выкарыстоўваюць такую ​​інфармацыю пры прыняцці рашэнняў аб здароўі. Акрамя таго, LMM могуць прайсці навучанне на дадзеных нізкай якасці або неаб'ектыўных, незалежна ад расы, этнічнай прыналежнасці, паходжання, полу, гендэрнай ідэнтычнасці або ўзросту. Існуюць таксама больш шырокія рызыкі для сістэм аховы здароўя, такія як даступнасць і даступнасць найбольш эфектыўных LMM. LMM таксама можа стымуляваць «перакос аўтаматызацыі» з боку медыцынскіх работнікаў і пацыентаў, у выніку чаго памылкі, якія ў адваротным выпадку былі б выяўлены, недапушчальныя, або складаныя выбары няправільна дэлегуюцца LMM. LMM, як і іншыя формы AI, таксама ўразлівыя да рызык кібербяспекі, якія могуць паставіць пад пагрозу інфармацыю аб пацыентах або надзейнасць гэтых алгарытмаў і аказанне медыцынскай дапамогі ў больш шырокім плане. 

Такім чынам, для стварэння бяспечных і эфектыўных LMM СААЗ дала рэкамендацыі для ўрадаў і распрацоўшчыкаў LMM. 

Урады нясуць асноўную адказнасць за ўстанаўленне стандартаў для распрацоўкі і разгортвання LMM, а таксама іх інтэграцыі і выкарыстання ў мэтах аховы здароўя і медыцыне. Урады павінны інвеставаць або забяспечваць некамерцыйную або грамадскую інфраструктуру, уключаючы вылічальную магутнасць і агульнадаступныя наборы даных, даступныя распрацоўшчыкам у дзяржаўным, прыватным і некамерцыйным сектарах, што патрабуе ад карыстальнікаў прытрымлівацца этычных прынцыпаў і каштоўнасцей у абмен на доступ. 

· Выкарыстоўваць законы, палітыку і нарматыўныя акты, каб гарантаваць, што LMM і прыкладанні, якія выкарыстоўваюцца ў ахове здароўя і медыцыне, незалежна ад рызыкі або карысці, звязаных з AI тэхналогіі, адпавядаюць этычным абавязацельствам і стандартам у галіне правоў чалавека, якія закранаюць, напрыклад, годнасць чалавека, аўтаномію або канфідэнцыяльнасць. 

· Прызначыць існуючы або новы рэгулюючы орган для ацэнкі і зацвярджэння LMM і прыкладанняў, прызначаных для выкарыстання ў ахове здароўя або медыцыне - калі дазваляюць рэсурсы. 

· Увядзіце абавязковы аўдыт пасля выпуску і ацэнку ўздзеяння, у тым ліку для абароны даных і правоў чалавека, незалежнымі трэцімі асобамі, калі LMM разгортваецца ў вялікіх маштабах. Аўдыт і ацэнкі ўздзеяння павінны быць апублікаваныя 

і павінна ўключаць у сябе вынікі і ўздзеянне з разбіўкай па тыпу карыстальніка, у тым ліку, напрыклад, па ўзросце, расе або інваліднасці. 

· LMM распрацоўваюцца не толькі навукоўцамі і інжынерамі. Патэнцыйныя карыстальнікі і ўсе прамыя і ўскосныя зацікаўленыя бакі, уключаючы медыцынскіх работнікаў, навуковых супрацоўнікаў, медыцынскіх работнікаў і пацыентаў, павінны быць задзейнічаны з ранніх этапаў AI распрацоўка ў структураваным, інклюзіўным, празрыстым дызайне і прадастаўленні магчымасцей узнімаць этычныя пытанні, выказваць праблемы і даць уклад для AI заяўка на разглядзе. 

LMM распрацаваны для выканання дакладна вызначаных задач з неабходнай дакладнасцю і надзейнасцю для павышэння патэнцыялу сістэм аховы здароўя і прасоўвання інтарэсаў пацыентаў. Распрацоўшчыкі таксама павінны ўмець прадказваць і разумець магчымыя другасныя вынікі. 

*** 

крыніца: 

СААЗ 2024. Этыка і кіраванне штучным інтэлектам для здароўя: рэкамендацыі па вялікіх мультымадальных мадэлях. Даступны па адрасе https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***