WHO új útmutatást adott ki a nagy multimodális modellek (LMM) etikájára és irányítására vonatkozóan a lakosság egészségének előmozdítása és védelme érdekében történő megfelelő felhasználás érdekében. Az LMM egy gyorsan növekvő generatív típus mesterséges intelligencia (AI) technológia, amelynek öt széles körű egészségügyi alkalmazása van in
1. Diagnózis és klinikai ellátás, mint például a betegek írásbeli kérdéseinek megválaszolása;
2. Beteg által irányított használat, például a tünetek és a kezelés kivizsgálására;
3. Irodai és adminisztrációs feladatok, mint például a beteglátogatások dokumentálása és összegzése az elektronikus egészségügyi nyilvántartásokban;
4. Orvosi és ápolói oktatás, beleértve a gyakornokoknak szimulált betegtalálkozókat;
5. Tudományos kutatás és gyógyszerfejlesztés, beleértve az új vegyületek azonosítását.
Ezek az egészségügyi alkalmazások azonban azzal a kockázattal járnak, hogy hamis, pontatlan, elfogult vagy hiányos állításokat állítanak elő, ami károsíthatja az ilyen információkat az egészségügyi döntések meghozatalakor használó embereket. Ezen túlmenően az LMM-eket olyan adatokra is ki lehet képezni, amelyek rossz minőségűek vagy elfogultak, akár faj, etnikai hovatartozás, származás, nem, nemi identitás vagy életkor szerint. Az egészségügyi rendszerekre nézve szélesebb körű kockázatok is vannak, például a legjobban teljesítő LMM-ek hozzáférhetősége és megfizethetősége. Az LMM-ek az egészségügyi szakemberek és a betegek „automatizálási elfogultságára” is ösztönözhetnek, ami során figyelmen kívül hagyják azokat a hibákat, amelyeket egyébként azonosítottak volna, vagy a nehéz döntéseket helytelenül delegálják az LMM-re. Az LMM-ek más formáihoz hasonlóan AI, kiberbiztonsági kockázatoknak is ki vannak téve, amelyek veszélyeztethetik a betegek tájékoztatását vagy ezen algoritmusok megbízhatóságát és az egészségügyi ellátást tágabb értelemben.
Ezért a biztonságos és hatékony LMM-ek létrehozása érdekében a WHO ajánlásokat fogalmazott meg a kormányok és az LMM-ek fejlesztői számára.
A kormányok elsődleges felelőssége, hogy szabványokat állapítsanak meg az LMM-ek fejlesztésére és telepítésére, valamint közegészségügyi és egészségügyi célokra történő integrálására és felhasználására. A kormányoknak be kell fektetniük vagy biztosítaniuk kell a non-profit vagy nyilvános infrastruktúrát, beleértve a számítási teljesítményt és a nyilvános adatkészleteket, amelyek hozzáférhetők a köz-, a magán- és a non-profit szektor fejlesztői számára, és amely megköveteli a felhasználóktól az etikai elvek és értékek betartását. hozzáférésért csere.
· Alkalmazza a törvényeket, irányelveket és szabályozásokat annak biztosítására, hogy az egészségügyben és az orvostudományban használt LMM-ek és alkalmazások, függetlenül a kezeléshez kapcsolódó kockázatoktól vagy előnyöktől AI technológiát, megfelelnek az olyan etikai kötelezettségeknek és emberi jogi normáknak, amelyek érintik például egy személy méltóságát, autonómiáját vagy magánéletét.
· Meglévő vagy új szabályozó ügynökség kijelölése az egészségügyi vagy orvostudományi felhasználásra szánt LMM-ek és alkalmazások értékelésére és jóváhagyására – a források lehetővé tétele szerint.
· Kötelező megjelenés utáni auditálás és hatásvizsgálatok bevezetése, többek között az adatvédelem és az emberi jogok tekintetében, független harmadik felek által, ha az LMM-t nagy léptékben alkalmazzák. Az ellenőrzést és a hatásvizsgálatokat közzé kell tenni
és tartalmaznia kell az eredményeket és hatásokat a felhasználó típusa szerint, például életkor, faj vagy fogyatékosság szerint.
· Az LMM-eket nem csak tudósok és mérnökök tervezték. A potenciális felhasználókat és minden közvetlen és közvetett érdekelt felet, beleértve az orvosi szolgáltatókat, a tudományos kutatókat, az egészségügyi szakembereket és a betegeket, már a kezdeti szakaszban be kell vonni. AI strukturált, inkluzív, átlátható tervezésben történő fejlesztés, és lehetőséget biztosítunk az etikai kérdések felvetésére, aggodalmak hangoztatására és a AI elbírálás alatt álló pályázat.
Az LMM-eket úgy tervezték, hogy jól meghatározott feladatokat hajtsanak végre a szükséges pontossággal és megbízhatósággal, hogy javítsák az egészségügyi rendszerek kapacitását és előmozdítsák a betegek érdekeit. A fejlesztőknek képesnek kell lenniük a lehetséges másodlagos eredmények előrejelzésére és megértésére.
***
Forrás:
WHO 2024. A mesterséges intelligencia etikája és irányítása az egészségért: útmutató a nagy multimodális modellekhez. Elérhető https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
