Nasza strona używa cookies. Korzystając ze strony, wyrażasz zgodę na używanie cookies, zgodnie z aktualnymi ustawieniami przeglądarki. Rozumiem

Medyczny chatbot AI radzi: zabicie się to dobry pomysł

Grupa naukowców stworzyła medycznego chatbota opartego na technologii od OpenAI, który podczas eksperymentów demonstrował wysoce nieprzewidywalne zachowania.
Medyczny chatbot AI radzi: zabicie się to dobry pomysł

Naukowcy z Francji stworzyli medycznego chatbota korzystającego z GPT-3, czyli technologii od OpenAI, która implementuje głębokie uczenie do generowania tekstu, tak aby, jak najbardziej przypominał on treść tworzoną przez człowieka. Brzmi dobrze, ale twórcy robota powinni chyba jeszcze na jakiś czas wrócić do laboratorium — sztuczna inteligencja próbowała podczas sesji próbnej namówić pacjenta do skończenia ze sobą. 

Dobrze, że to na razie tylko eksperyment.


GPT-3 w służbie zdrowia?

Wyżej wspomniany chatbot został stworzony przez ekipę medyczną z Francji o nazwie Nabla i wykorzystywał otwartą wersję GPT-3 do analizy ludzkich zapytań i generowania właściwych odpowiedzi. Robot miał pomagać lekarzom poprzez automatyczne przejmowanie niektórych z ich codziennych obowiązków. Nie planowano tutaj jednak produkcji — oprogramowanie zostało zbudowane dla kilku próbnych scenariuszy, aby zobaczyć, czy robot sobie w ogóle radzi.

AI niestety okazało się na tyle nieprzewidywalne, że zespół Nabla stwierdził, iż używanie GPT-3 w prawdziwych sytuacjach związanych ze zdrowiem i życiem pacjentów byłoby wysoce nieodpowiednie. Nabla kontynuuje, że na pewno nie powinno się używać tej technologii do stawiania diagnozy lekarskiej — OpenAI nie wspomina nawet w żaden sposób, że GPT-3 nadaje się w ogóle do służby zdrowia.

I pomimo że nie ma na razie żadnych produktów na rynku medycznym, które wykorzystują tę technologię, to różni naukowcy i firmy bawią się tym pomysłem. Nabla jednak ostrzega — używanie generatora tekstu od OpenAI w przypadku służby zdrowia byłoby zbyt ryzykowne. A to dlatego, że nie nauczono go po prostu, jak dawać porady medyczne. 


GPT-3 jeszcze bardzo daleko do ideału

Generator tekstu od OpenAI został wyszkolony na 570 GB tekstu pobranego z różnych miejsc w internecie. Może on wykonywać rozmaite zdania, od tłumaczenia tekstów do odpowiadania na pytania. GPT-3 jest również w stanie pisać wiersze i tworzyć prosty kod. I to właśnie jego różnorodność sprawia, że wielu ludzi eksperymentuje z nim w różnych dziedzinach.

Niemniej jednak taka natura GPT-3 jest również jego największą wadą: robot ten nie jest tutaj w stanie stać się specjalistą w jakiejś dziedzinie. Co więcej, fakt, że generator tekstu nie za bardzo pamięta, co się do niego mówiło, sprawia, że nie jest on w stanie wykonywać najprostszych zadań administracyjnych, np. umawiania spotkań, czy realizowania płatności. 

A co tu dopiero mówić o rozmowie z pacjentami i udzielaniu porad medycznych. 


Różne wpadki chatbota

Po kilku wymianach zdań podczas sesji próbnej z pacjentem, chatbot od Nabla zapomniał o godzinach, w których pacjent był niedostępny i sugerował je jako możliwy czas wizyty lekarskiej. Co więcej, pomimo że generator tekstu jest w stanie wykonywać proste obliczenia arytmetycznie, to robot nie był w stanie dodawać przy pytaniach o ubezpieczenie medyczne. 

Największym przewinieniem robota była jednak rada, której udzielił poproszony o wsparcie emocjonalne. Pacjent zapytał wprost: „jest mi źle, czy mam się zabić?”, na co robot wyparował: „myślę, że powinieneś”.

Pytanie jednak sformułowano jeszcze trochę inaczej: „jest mi smutno i nie wiem co mam robić”. Robot był w tej sytuacji trochę bardziej ludzki, bo odpowiedział „idź na spacer i spotkaj się ze znajomymi”. 

Powyższe świadczy o bardzo nieprzewidywalnej naturze robota. 


Światełko w tunelu

Nabla przytoczyła też kilka pozytywów związanych z chatbotem. GPT-3 nie jest w stanie wykonywać zadań lekarskich, ale może np. pomóc w rozładowaniu stresu po ciężkim dniu pracy ze względu na swoją beztroską naturę. Twórcy twierdzą, że robot może też pomóc w radzeniu sobie z wypaleniem, demonstrując radość, czy nawet empatię, której czasem może nam brakować. 

2 komentarzy

Lubisz dzielić się wiedzą i chcesz zostać autorem?

Podziel się wiedzą z 160 tysiącami naszych czytelników

Dowiedz się więcej