KUSH ka nxjerrë udhëzime të reja mbi etikën dhe qeverisjen e modeleve të mëdha multi-modale (LMM) për përdorimin e duhur të tyre për të promovuar dhe mbrojtur shëndetin e popullatave. LMM-të janë një lloj gjeneruesi me rritje të shpejtë inteligjencës artificiale Teknologji (AI) që ka pesë aplikime të gjera për shëndetin in
1. Diagnoza dhe kujdesi klinik, si p.sh. përgjigjet ndaj pyetjeve me shkrim të pacientëve;
2. Përdorimi i drejtuar nga pacienti, si p.sh. për hetimin e simptomave dhe trajtimit;
3. Detyrat klerike dhe administrative, të tilla si dokumentimi dhe përmbledhja e vizitave të pacientëve brenda të dhënave elektronike shëndetësore;
4. Edukimi mjekësor dhe infermieror, duke përfshirë ofrimin e të trajnuarve me takime të simuluara me pacientë, dhe;
5. Kërkimi shkencor dhe zhvillimi i barnave, duke përfshirë identifikimin e komponimeve të reja.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Prandaj, për të krijuar LMM të sigurta dhe efektive, OBSH ka bërë rekomandime për qeveritë dhe zhvilluesit e LMM-ve.
Qeveritë kanë përgjegjësinë kryesore për të vendosur standarde për zhvillimin dhe vendosjen e LMM-ve, dhe integrimin dhe përdorimin e tyre për qëllime shëndetësore dhe mjekësore publike. Qeveritë duhet të investojnë ose të ofrojnë infrastrukturë jofitimprurëse ose publike, duke përfshirë fuqinë kompjuterike dhe grupe të dhënash publike, të aksesueshme për zhvilluesit në sektorët publikë, privatë dhe jofitimprurës, që u kërkon përdoruesve t'u përmbahen parimeve dhe vlerave etike në shkëmbim për akses.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Caktoni një agjenci rregullatore ekzistuese ose të re për të vlerësuar dhe miratuar LMM-të dhe aplikacionet e destinuara për përdorim në kujdesin shëndetësor ose mjekësi – siç lejojnë burimet.
· Prezantoni auditimin e detyrueshëm pas publikimit dhe vlerësimet e ndikimit, duke përfshirë mbrojtjen e të dhënave dhe të drejtat e njeriut, nga palë të treta të pavarura kur një LMM vendoset në një shkallë të gjerë. Auditimi dhe vlerësimet e ndikimit duhet të publikohen
dhe duhet të përfshijë rezultatet dhe ndikimet të ndara sipas llojit të përdoruesit, duke përfshirë për shembull sipas moshës, racës ose paaftësisë.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM-të janë krijuar për të kryer detyra të mirëpërcaktuara me saktësinë dhe besueshmërinë e nevojshme për të përmirësuar kapacitetin e sistemeve shëndetësore dhe për të avancuar interesat e pacientëve. Zhvilluesit gjithashtu duhet të jenë në gjendje të parashikojnë dhe kuptojnë rezultatet e mundshme dytësore.
***
Burimi:
OBSH 2024. Etika dhe qeverisja e inteligjencës artificiale për shëndetin: udhëzime për modelet e mëdha multi-modale. Në dispozicion në https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
