Z przeglądu wynika, że ​​aplikacje mobilne z zakresu dermatologii i sztucznej inteligencji mają krytyczne luki w skuteczności i zabezpieczeniach

Z badania opublikowanego w 2019 roku wynika, że ​​w obecnym stanie aplikacje mobilne dermatologiczne oparte na sztucznej inteligencji (AI) mogą stanowić zagrożenie dla pacjentów ze względu na potencjalne ryzyko, brak ciągłej weryfikacji i wprowadzającą w błąd komunikację z użytkownikami. Dermatologia Gamma.

Naukowcy wyjaśnili, że działanie aplikacji na telefony komórkowe, które rzekomo pomagają w leczeniu chorób skóry, jest niespójne i żadna z nich nie uzyskała zgody Agencji ds. Żywności i Leków. Jednak tempo pojawiania się aplikacji zdrowotnych przeznaczonych bezpośrednio do konsumentów stworzyło wyzwania dla organów regulacyjnych na całym świecie.

Pomimo korzyści, obecne dowody potwierdzające kliniczne zastosowanie aplikacji mobilnych AI w dermatologii pozostają niejasne. W związku z tym naukowcy przeprowadzili badanie, aby zidentyfikować i scharakteryzować istniejące aplikacje mobilne dla dermatologów, które można pobrać w sklepach z aplikacjami.

Używając terminów „dermatologia”, „skóra” i „skóra”, szukali publicznie dostępnych dermatologicznych aplikacji mobilnych z funkcjami AI w sklepach z aplikacjami Apple i Android od listopada do grudnia 2023 r. Badanie zostało przeprowadzone niezależnie przez 2 badaczy i trzeci badacz niezależnie sprawdził wybrane wnioski i rozstrzygnął wszelkie rozbieżności, aby ustalić ostateczną listę uwzględnionych wniosków.

Badacze wyodrębnili różne dane na temat kwalifikujących się aplikacji z App Store, w tym cel, średnią ocenę 5 gwiazdek, liczbę pobrań oraz opinię dermatologa lub jej brak. Skontaktowano się z twórcami aplikacji w celu dostarczenia dodatkowych informacji w celu przeprowadzenia bardziej kompleksowej oceny.

Początkowo badacze zidentyfikowali 909 kwalifikujących się wniosków. Po usunięciu 518 duplikatów pozostało 391 wniosków. Po kolejnych przeglądach wykluczono 350 aplikacji ze względu na treści inne niż medyczne, niedostępność, język inny niż angielski lub brak funkcji sztucznej inteligencji. Dlatego też badacze uwzględnili w swojej szczegółowej analizie 41 aplikacji.

Grupą docelową 32 z tych aplikacji (78,0%) byli pacjenci, 4 aplikacje (9,76%) skupiały się na lekarzach, a 5 aplikacji (12,2%) było przeznaczonych dla obu tych aplikacji. Ponadto 13 (31,7%) aplikacji Apple było dostępnych wyłącznie dla Apple, 12 (29,3%) aplikacji na Androida, a 16 (39,0%) aplikacji było dostępnych na obu platformach.

Jeśli chodzi o najczęstsze zastosowania, 14 (34,1%) aplikacji służyło do wykrywania raka skóry, 13 (31,7%) do diagnozowania i/lub identyfikowania chorób skóry i/lub włosów, a 7 (17,1%) do śledzenia pieprzyków. Inne zastosowania obejmują śledzenie stanu skóry, leczenie atopowego zapalenia skóry, ochronę przed słońcem oraz diagnozowanie, leczenie i/lub monitorowanie trądziku.

Spośród tych aplikacji 14 (34,1%) miało siedzibę w USA, a tylko dwie aplikacje zawierały informację o niezatwierdzeniu przez FDA. Podobnie 14 aplikacji (34,1%) miało swoją siedzibę w Europie, a tylko dwie z nich uzyskały zezwolenie organów regulacyjnych na produkty związane ze zdrowiem i bezpieczeństwem w UE.

Badacze wskazali, że 10 aplikacji (24,4%) posiadało zdolność diagnozowania. Wyjaśnili jednak, że żadna z nich nie zawierała publikacji naukowych jako dowodu potwierdzającego, a w dwóch aplikacjach brakowało ostrzeżeń ostrzegających pacjentów o możliwej niedokładności wyników i braku formalnej diagnozy medycznej. Ponadto tylko 5 wniosków obsługiwało publikacje w czasopismach recenzowanych, a w 1 wniosku dostępny był artykuł w formie przeddruku.

Z drugiej strony w 24 aplikacjach (58,5%) brakowało jakichkolwiek informacji na temat zbiorów danych szkoleniowych i testowych. W przypadku osób posiadających informacje o zbiorze danych większość podała jedynie niejasne ogólne opisy. Ponadto w 21 aplikacjach (51,2%) nie było informacji o szczegółach algorytmu, a w większości aplikacji nie podano żadnych informacji od lekarza. Mówiąc dokładniej, tylko 16 aplikacji (39,0%) stwierdziło, że uwzględniały uwagi dermatologa.

Wreszcie tylko 12 aplikacji (29,3%) wskazało, że nie przechowuje zdjęć przesłanych przez użytkowników. Z kolei 16 firm (39,0%) stwierdziło, że przechowuje zdjęcia użytkowników, a 12 z nich zadeklarowało korzystanie z bezpiecznych serwerów w chmurze. Jeśli chodzi o sposób wykorzystania dostarczonych obrazów, 20 aplikacji (48,8%) wykorzystało dane do analizy w celu dostarczenia użytkownikowi wyników, a 12 aplikacji (29,3%) wykorzystało je do badań i dalszego rozwoju aplikacji; Jednak w 19 wnioskach (46,3%) nie podano żadnych szczegółów.

„Wyniki tego przeglądu zakresu podkreślają, że w zastosowaniach sztucznej inteligencji w dermatologii brakuje przejrzystości co do skuteczności modeli sztucznej inteligencji, danych wykorzystywanych do opracowywania i sposobu wykorzystywania obrazów użytkowników” – napisali autorzy. „Rodzi to obawy dotyczące uprzedzeń, niewłaściwych zaleceń i prywatności użytkowników. Brak zgody organów regulacyjnych i ograniczone zaangażowanie lekarzy, zwłaszcza dermatologów, jeszcze bardziej pogłębia te obawy.”

Naukowcy przyznali się do ograniczeń swojego badania, a jednym z nich było to, że ich badania były ograniczone regionalną dostępnością aplikacji w sklepach Apple i Android. Dlatego też badacze ograniczyli się do odpowiednich aplikacji mobilnych dostępnych do pobrania w amerykańskich sklepach z aplikacjami; Niektóre kwalifikujące się wnioski międzynarodowe mogły zostać pominięte. Pomimo tych ograniczeń badacze wyznaczyli przyszłe kierunki badań w oparciu o swoje ustalenia.

„Sprostanie wyzwaniom związanym ze skutecznością, bezpieczeństwem i przejrzystością poprzez skuteczne regulacje, weryfikację i ujednolicone kryteria oceny jest niezbędne, aby wykorzystać zalety tych aplikacji, jednocześnie minimalizując ryzyko” – napisali autorzy.

odniesienie

Wongvibulsin S, Yan MJ, Pahalyants V, Murphy W, Daneshjou R, Rotemberg V. Aktualny stan aplikacji mobilnych w dermatologii z funkcjami sztucznej inteligencji: przegląd zakresu. Gamma Dermatol. doi:10.1001/jamadermatol.2024.0468