Nowe narzędzie Google zidentyfikuje choroby skóry – co ludzie zrobią z tymi informacjami?

Google ogłosił w zeszły wtorek, że opracował nowe narzędzie sztucznej inteligencji, które ma pomagać ludziom Rozpoznawanie chorób skóry. Podobnie jak w przypadku każdego innego narzędzia do badania objawów, pojawi się pytanie, jak dobrze można wykonać to zadanie. Jednak eksperci twierdzą, że należy również zbadać, jak wpływa na zachowanie ludzi: czy zwiększa prawdopodobieństwo, że pójdą do lekarza? Mniej prawdopodobne?

Tego typu zestawy do badań przesiewowych objawów – które zwykle jasno pokazują, że nie mogą diagnozować schorzeń, ale mogą dać ludziom informacje o tym, co może być nie tak – mnożyły się przez cały rok. Ostatnia dekada. Niektórzy to mają Miliony użytkowników Szacuje się Dziesiątki milionów dolarów. Dziesiątki pojawiły się w ciągu ostatniego roku, aby pomóc ludziom sprawdzić, czy mają COVID-19 (w tym jeden od Google).

Pomimo wzrostu, dostępnych jest niewiele informacji na temat tego, jak narzędzia do badania objawów zmieniają sposób, w jaki ludzie zarządzają swoim zdrowiem. Nie jest to rodzaj analizy, którą firmy zwykle przeprowadzają przed wprowadzeniem produktu na rynek – mówi Jack Deans, starszy badacz z Applied Health Research Institute na Uniwersytecie w Birmingham, który ocenił aplikacje na smartfony pod kątem dermatologii. Skupiają się na odpowiedziach udzielanych przez osoby sprawdzające objawy, a nie na sposobie, w jaki ludzie na nie reagują.

„Bez faktycznej oceny narzędzi pod kątem ich przeznaczenia, nie wiadomo, jaki będzie to wpływ” – dodaje.

Niwelowanie luki w wiedzy

Narzędzie Google Dermatology umożliwia przesyłanie trzech zdjęć przedstawiających problem skórny i udzielanie odpowiedzi na pytania związane z objawami. Następnie zawiera listę potencjalnych warunków, które według systemu opartego na sztucznej inteligencji najlepiej pasują. Wyświetla bibliografie statusu i zachęca użytkowników do wyszukania statusu w Google. Użytkownicy mają możliwość zapisania statusu do późniejszego przejrzenia lub całkowitego usunięcia. Firma zamierza wydać wersję próbną Później tego roku.

Rzecznik Google powiedział, że może to również oferować ludziom sposoby na dalsze badanie potencjalnego problemu poza samym narzędziem krawędź.

Opracowując narzędzia sztucznej inteligencji, takie jak nowy program Google, badacze mają tendencję do oceny dokładności programu uczenia maszynowego. Chcą dokładnie wiedzieć, jak dobrze może pasować do nieznanej rzeczy, takiej jak zdjęcie dziwnej wysypki, którą ktoś nosi, ze znanym problemem. Google nie opublikował jednak danych na temat najnowszej iteracji swojego narzędzia dermatologicznego Firma mówi Obejmuje dokładne dopasowanie z problemem dermatologicznym w jego trzech najlepszych sugerowanych 84 procentach przypadków.

Zwykle mniej uwagi poświęca się temu, co użytkownicy robią z tymi informacjami. To sprawia, że ​​trudno jest stwierdzić, czy takie narzędzie może rzeczywiście osiągnąć jeden z założonych celów: zapewnić ludziom dostęp do informacji, które mogą odciążyć dermatologów na całym świecie. „Nie ma wątpliwości, że istnieje ogromne zapotrzebowanie na dermatologów” – mówi Denes. „Istnieje potrzeba użycia narzędzi, które są postrzegane jako pomocne w tej sytuacji, ale tak naprawdę nie wiemy, czy tak się stanie”.

To ogromna luka w naszym rozumieniu, mówi Hamish Fraser, profesor nauk medycznych na Brown University, który bada narzędzia do przesiewania objawów. „Oprócz podstawowego problemu, czy ludzie potrafią właściwie interpretować systemy i właściwie z nich korzystać, pojawia się również pytanie, czy ludzie faktycznie zareagują na to, co zostanie im przedstawione z systemu”.

Fraser mówi, że wypełnienie tej luki jest kluczowe, ponieważ coraz więcej tych narzędzi jest wprowadzanych na rynek. „Pojawia się coraz więcej technologii”. Zrozumienie, w jaki sposób mogą zmienić zachowanie ludzi, jest bardzo ważne, ponieważ ich rola w opiece zdrowotnej prawdopodobnie wzrośnie.

„Ludzie naprawdę głosują nogami za używaniem Google i innych wyszukiwarek do sprawdzania objawów i szukania chorób” – mówi Fraser. „Jest tam wyraźnie taka potrzeba”.

Co ludzie robią dalej?

Idealnie, mówi Fraser, przyszłość Badania mogą poprosić ludzi, którzy używają testera objawów, o pozwolenie na kontynuację i zapytać, co zrobili dalej, lub poprosić o pozwolenie na skontaktowanie się z lekarzem.

„Szybko zaczniesz sprawdzać, czy losowa próbka milionów ludzi, którzy go używają, dostała z systemu coś związanego z tym, co się właściwie działo, co powiedział lekarz rodzinny, czy też poszli na izbę przyjęć” – powiedział mówi.

jeden z Kilka badań To wywołało niektóre z tych pytań, a następnie około 150 000 osób korzystało z hipotetycznego chatbota medycznego o nazwie Buoy Health. Naukowcy zbadali, jak prawdopodobne jest, że ludzie powiedzą, że pójdą do lekarza przed użyciem robota i jakie jest prawdopodobieństwo, że pójdą do lekarza po sprawdzeniu, co powiedział robot. Około jedna trzecia osób stwierdziła, że ​​szukałaby mniej pilnej opieki – być może czekając na wizytę u lekarza podstawowej opieki zdrowotnej, zamiast udać się na pogotowie. Tylko 4 procent stwierdziło, że podejmie pilniejsze kroki niż przed użyciem automatycznego programu do czatu. Reszta pozostała taka sama.

To tylko jedno badanie, które krytycznie ocenia ogólne objawy medyczne, takie jak problemy ze zdrowiem reprodukcyjnym i ból żołądkowo-jelitowy. Ale wyniki były pod pewnymi względami sprzeczne z intuicją: wielu klinicystów Martwić się Narzędzia do badania objawów prowadzą do nadużywania systemu opieki zdrowotnej i wysyłania ludzi na niepotrzebne leczenie. To wydaje się wskazywać na coś przeciwnego, mówi Fraser. Wyniki pokazały również, jak ważna jest precyzja: odwracanie ludzi od zabiegu może być ogromnym problemem, jeśli zostanie wykonane nieprawidłowo.

„Jeśli masz coś, co martwi Cię o Twoją skórę, a aplikacja mówi Ci, że to niskie ryzyko lub nie uważa, że ​​to problem, może to mieć tragiczne konsekwencje, jeśli opóźni Twoją decyzję o podjęciu decyzji” – mówi Denise.

Jednak tego typu analizy są raczej rzadkie. Firma zajmująca się obecną aplikacją do monitorowania objawów skórnych, o nazwie Aysa, nie przeskanowała bezpośrednio użytkowników pod kątem czynności, które wykonali po użyciu tego narzędzia. Opierając się na niepotwierdzonych opiniach, firma uważa, że ​​wiele osób używa tego narzędzia jako drugiej opinii, aby podwójnie sprawdzić informacje, które otrzymali od lekarza, mówi Art Papier, dyrektor generalny VisualDx, firmy stojącej za Aysą. Ale nie ma danych ilościowych.

„Nie wiemy, czy potem udali się gdziekolwiek indziej” – mówi. „Nie prosimy ich o powrót do aplikacji i powiedzenie nam, co powiedział lekarz”. Papier twierdzi, że firma pracuje nad stworzeniem tego typu pętli sprzężenia zwrotnego w aplikacji.

Firma Google zaplanowała dalsze badania swojego narzędzia dermatologicznego, w tym współpracę z Uniwersytetem Stanforda w celu przetestowania narzędzia w zdrowym środowisku. Lily Bing, naukowiec z Google, lekarz i menedżer produktu, powiedziała w wywiadzie dla firmy, że firma będzie monitorować skuteczność algorytmu. krawędź. Zespół nie ogłosił żadnych planów badania, co ludzie robią po użyciu narzędzia.

Zrozumienie, w jaki sposób ludzie zwykle używają informacji z narzędzi do sprawdzania objawów, może pomóc w zapewnieniu, że narzędzia są wdrażane w sposób, który faktycznie poprawi doświadczenia ludzi z systemem opieki zdrowotnej. Ponadto informacje o krokach podejmowanych przez grupy ludzi po użyciu walidatora dadzą programistom i klinicystom pełniejszy obraz zagrożeń związanych z tworzonymi przez nich narzędziami. Fraser mówi, że ludzie, którzy mają środki na wizytę u specjalisty, mogą mieć oko na kłopotliwą wysypkę. „Jeśli sytuacja się pogorszy, prawdopodobnie podejmą działania” – mówi.

Inni, którzy nie mają tego dostępu, mogą mieć tylko narzędzie do sprawdzania objawów. „To nakłada na nas dużą odpowiedzialność – osoby szczególnie narażone na ryzyko i mniejsze prawdopodobieństwo uzyskania formalnej opinii lekarskiej mogą bardziej polegać na tych narzędziach” – mówi. „Szczególnie ważne jest, abyśmy odrobili lekcje i upewnili się, że są one bezpieczne”.