WHO új útmutatást adott ki a nagy multimodális modellek (LMM) etikájára és irányítására vonatkozóan a lakosság egészségének előmozdítása és védelme érdekében történő megfelelő felhasználás érdekében. Az LMM egy gyorsan növekvő generatív típus mesterséges intelligencia (AI) technológia, amelynek öt széles körű egészségügyi alkalmazása van in
1. Diagnózis és klinikai ellátás, mint például a betegek írásbeli kérdéseinek megválaszolása;
2. Beteg által irányított használat, például a tünetek és a kezelés kivizsgálására;
3. Irodai és adminisztrációs feladatok, mint például a beteglátogatások dokumentálása és összegzése az elektronikus egészségügyi nyilvántartásokban;
4. Orvosi és ápolói oktatás, beleértve a gyakornokoknak szimulált betegtalálkozókat;
5. Tudományos kutatás és gyógyszerfejlesztés, beleértve az új vegyületek azonosítását.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Ezért a biztonságos és hatékony LMM-ek létrehozása érdekében a WHO ajánlásokat fogalmazott meg a kormányok és az LMM-ek fejlesztői számára.
A kormányok elsődleges felelőssége, hogy szabványokat állapítsanak meg az LMM-ek fejlesztésére és telepítésére, valamint közegészségügyi és egészségügyi célokra történő integrálására és felhasználására. A kormányoknak be kell fektetniük vagy biztosítaniuk kell a non-profit vagy nyilvános infrastruktúrát, beleértve a számítási teljesítményt és a nyilvános adatkészleteket, amelyek hozzáférhetők a köz-, a magán- és a non-profit szektor fejlesztői számára, és amely megköveteli a felhasználóktól az etikai elvek és értékek betartását. hozzáférésért csere.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Meglévő vagy új szabályozó ügynökség kijelölése az egészségügyi vagy orvostudományi felhasználásra szánt LMM-ek és alkalmazások értékelésére és jóváhagyására – a források lehetővé tétele szerint.
· Kötelező megjelenés utáni auditálás és hatásvizsgálatok bevezetése, többek között az adatvédelem és az emberi jogok tekintetében, független harmadik felek által, ha az LMM-t nagy léptékben alkalmazzák. Az ellenőrzést és a hatásvizsgálatokat közzé kell tenni
és tartalmaznia kell az eredményeket és hatásokat a felhasználó típusa szerint, például életkor, faj vagy fogyatékosság szerint.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
Az LMM-eket úgy tervezték, hogy jól meghatározott feladatokat hajtsanak végre a szükséges pontossággal és megbízhatósággal, hogy javítsák az egészségügyi rendszerek kapacitását és előmozdítsák a betegek érdekeit. A fejlesztőknek képesnek kell lenniük a lehetséges másodlagos eredmények előrejelzésére és megértésére.
***
Forrás:
WHO 2024. A mesterséges intelligencia etikája és irányítása az egészségért: útmutató a nagy multimodális modellekhez. Elérhető https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
