REKLÁM

Generatív mesterséges intelligencia (AI): A WHO új útmutatót ad ki az LMM-ek irányításáról

WHO új útmutatást adott ki a nagy multimodális modellek (LMM) etikájára és irányítására vonatkozóan a lakosság egészségének előmozdítása és védelme érdekében történő megfelelő felhasználás érdekében. Az LMM egy gyorsan növekvő generatív típus mesterséges intelligencia (AI) technológia, amelynek öt széles körű egészségügyi alkalmazása van in 

1. Diagnózis és klinikai ellátás, mint például a betegek írásbeli kérdéseinek megválaszolása; 

2. Beteg által irányított használat, például a tünetek és a kezelés kivizsgálására; 

3. Irodai és adminisztrációs feladatok, mint például a beteglátogatások dokumentálása és összegzése az elektronikus egészségügyi nyilvántartásokban; 

4. Orvosi és ápolói oktatás, beleértve a gyakornokoknak szimulált betegtalálkozókat; 

5. Tudományos kutatás és gyógyszerfejlesztés, beleértve az új vegyületek azonosítását. 

Ezek az egészségügyi alkalmazások azonban azzal a kockázattal járnak, hogy hamis, pontatlan, elfogult vagy hiányos állításokat állítanak elő, ami károsíthatja az ilyen információkat az egészségügyi döntések meghozatalakor használó embereket. Ezen túlmenően az LMM-eket olyan adatokra is ki lehet képezni, amelyek rossz minőségűek vagy elfogultak, akár faj, etnikai hovatartozás, származás, nem, nemi identitás vagy életkor szerint. Az egészségügyi rendszerekre nézve szélesebb körű kockázatok is vannak, például a legjobban teljesítő LMM-ek hozzáférhetősége és megfizethetősége. Az LMM-ek az egészségügyi szakemberek és a betegek „automatizálási elfogultságára” is ösztönözhetnek, ami során figyelmen kívül hagyják azokat a hibákat, amelyeket egyébként azonosítottak volna, vagy a nehéz döntéseket helytelenül delegálják az LMM-re. A mesterséges intelligencia más formáihoz hasonlóan az LMM-ek is érzékenyek a kiberbiztonsági kockázatokra, amelyek veszélyeztethetik a betegek tájékoztatását vagy ezen algoritmusok megbízhatóságát és az egészségügyi ellátást tágabb értelemben. 

Ezért a biztonságos és hatékony LMM-ek létrehozása érdekében a WHO ajánlásokat fogalmazott meg a kormányok és az LMM-ek fejlesztői számára. 

A kormányok elsődleges felelőssége, hogy szabványokat állapítsanak meg az LMM-ek fejlesztésére és telepítésére, valamint közegészségügyi és egészségügyi célokra történő integrálására és felhasználására. A kormányoknak be kell fektetniük vagy biztosítaniuk kell a non-profit vagy nyilvános infrastruktúrát, beleértve a számítási teljesítményt és a nyilvános adatkészleteket, amelyek hozzáférhetők a köz-, a magán- és a non-profit szektor fejlesztői számára, és amely megköveteli a felhasználóktól az etikai elvek és értékek betartását. hozzáférésért csere. 

· Használjon törvényeket, irányelveket és szabályozásokat annak biztosítására, hogy az egészségügyben és az orvostudományban használt LMM-ek és alkalmazások, függetlenül az AI-technológiával kapcsolatos kockázatoktól vagy előnyöktől, megfeleljenek az olyan etikai kötelezettségeknek és emberi jogi normáknak, amelyek érintik például egy személy méltóságát, autonómiáját. vagy a magánélet. 

· Meglévő vagy új szabályozó ügynökség kijelölése az egészségügyi vagy orvostudományi felhasználásra szánt LMM-ek és alkalmazások értékelésére és jóváhagyására – a források lehetővé tétele szerint. 

· Kötelező megjelenés utáni auditálás és hatásvizsgálatok bevezetése, többek között az adatvédelem és az emberi jogok tekintetében, független harmadik felek által, ha az LMM-t nagy léptékben alkalmazzák. Az ellenőrzést és a hatásvizsgálatokat közzé kell tenni 

és tartalmaznia kell az eredményeket és hatásokat a felhasználó típusa szerint, például életkor, faj vagy fogyatékosság szerint. 

· Az LMM-eket nem csak tudósok és mérnökök tervezik. A potenciális felhasználókat és minden közvetlen és közvetett érdekelt felet, beleértve az egészségügyi szolgáltatókat, a tudományos kutatókat, az egészségügyi szakembereket és a betegeket, a mesterséges intelligencia fejlesztésének korai szakaszától kezdve be kell vonni a strukturált, inkluzív, átlátható tervezésbe, és lehetőséget kell adni arra, hogy felvegyék az etikai kérdéseket, hangot adjanak aggályaiknak és bemenetet biztosít a vizsgált AI-alkalmazáshoz. 

Az LMM-eket úgy tervezték, hogy jól meghatározott feladatokat hajtsanak végre a szükséges pontossággal és megbízhatósággal, hogy javítsák az egészségügyi rendszerek kapacitását és előmozdítsák a betegek érdekeit. A fejlesztőknek képesnek kell lenniük a lehetséges másodlagos eredmények előrejelzésére és megértésére. 

*** 

Forrás: 

WHO 2024. A mesterséges intelligencia etikája és irányítása az egészségért: útmutató a nagy multimodális modellekhez. Elérhető https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***

SCIEU csapat
SCIEU csapathttps://www.ScientificEuropean.co.uk
Scientific European® | SCIEU.com | Jelentős előrelépések a tudományban. Hatás az emberiségre. Inspiráló elmék.

Iratkozzon fel hírlevelünkre

A legfrissebb hírekkel, ajánlatokkal és külön értesítésekkel kell frissíteni.

Legnépszerűbb cikkek

Az aminoglikozidok antibiotikumok használhatók a demencia kezelésére

Egy áttörést jelentő kutatás során a tudósok bebizonyították, hogy...

Oltások a COVID-19 ellen: Versenyfutás az idővel

A COVID-19 elleni védőoltás kifejlesztése globális prioritás...

A skorbut továbbra is létezik a gyermekek körében

Skorbut, vitaminhiány okozta betegség...
- Reklám -
94,852VentilátorokMint
47,750KövetőKövesse
1,772KövetőKövesse
30ElőfizetőkFeliratkozás