AI. Komentarz do znowelizowanego KEL: art. 12.

Komisja Etyki Lekarskiej Naczelnej Rady Lekarskiej po przeprowadzeniu wcześniejszych konsultacji prezentuje komentarz dotyczący zasad korzystania z narzędzi sztucznej inteligencji w praktyce lekarza.

Szanowni Państwo!

w załączeniu przedkładamy komentarz do artykułu 12 znowelizowanego KEL, dotyczącego sztucznej inteligencji. Treść, jaką udostępniliśmy w dniu 4 września 2024 r., była jedynie projektem komentarza. Dziękuję wszystkim, którzy odpowiedzieli na nasz apel i odnieśli się z własnymi sugestiami do jego treści. Analiza Państwa uwag wskazuje, że najwięcej wątpliwości dotyczyło kwestii informowania o zastosowaniu AI i uzyskiwania świadomej zgody i na tych elementach skupiliśmy się w niniejszym opracowaniu. W bieżącym komentarzu, po przyjęciu Państwa sugestii i po wspólnej pracy Komisji z osobami zajmującymi się stosowaniem AI w medycynie, proponujemy bieżącą wersję komentarza.

Artur de Rosier

Przewodniczący KEL NRL

ART. 12.

Lekarz może w postępowaniu diagnostycznym, leczniczym lub zapobiegawczym korzystać

z algorytmów sztucznej inteligencji przy spełnieniu następujących warunków:

1) poinformowania pacjenta, że przy stawianiu diagnozy lub w procesie terapeutycznym będzie wykorzystana sztuczna inteligencja;

2) uzyskania świadomej zgody pacjenta na zastosowanie sztucznej inteligencji w procesie diagnostycznym lub terapeutycznym;

3) zastosowania algorytmów sztucznej inteligencji, które są dopuszczone do użytku medycznego i posiadają odpowiednie certyfikaty;

4) ostateczną decyzję diagnostyczną i terapeutyczną zawsze podejmuje lekarz.

Komentarz:

Jedną z podstawowych zasad wynikających z Kodeksu Etyki Lekarskiej jest poszanowanie autonomii pacjentów. Jej wyrazem jest spoczywający na lekarzach obowiązek uzyskania uprzedniej świadomej zgody na udzielenie świadczenia zdrowotnego (wynikający z art. 16 KEL) i obowiązek respektowania prawa pacjenta do świadomego udziału w podejmowaniu decyzji dotyczących ich zdrowia, w tym informowania pacjenta o korzyściach i ryzyku proponowanych działań diagnostycznych i leczniczych, a także o możliwościach zastosowania innego postępowania medycznego (wynikający z art. 14 KEL).

Wykorzystanie w procesie diagnostycznym i terapeutycznym systemów AI, które są dopuszczone do użytku medycznego i mają odpowiednie certyfikaty, co do zasady nie podnosi poziomu ryzyka takiej procedury. Wręcz przeciwnie, wspomaganie pracy lekarza przez odpowiednie technologie, w tym AI (pod warunkiem ich prawidłowej implementacji w procesie) może skutkować obniżeniem poziomu ryzyka dla pacjenta.

Komentowany art. 12 KEL wskazuje na zastosowanie przez lekarza AI w postępowaniu diagnostycznym, leczniczym lub zapobiegawczym. Ze względu na możliwość wykorzystania AI w różnym charakterze, należy rozdzielić dwie sytuacje dotyczące wykorzystania AI w praktyce klinicznej – taką, w której zgoda jest wymagana oraz taką, w której zgoda wymagana nie jest.

Pierwsza kategoria sytuacji obejmuje zastosowania, w których lekarz intencjonalnie wykorzystuje systemy sztucznej inteligencji, lub poleca pacjentowi wykorzystanie systemów sztucznej inteligencji, w rozumieniu obowiązujących przepisów prawa w sposób, w których algorytm AI ma kluczowy dla udzielanego świadczenia charakter, w tym samodzielnie wykonuje zadanie o charakterze klinicznym charakterystyczne dla wykonywania zawodu lekarza, np. w oparciu o analizę dostępnych danych pacjenta przedstawia wynik diagnostyczny, który może wpływać na decyzje pacjenta bez dalszego udziału lub z minimalnym udziałem lekarza. W takich wypadkach poinformowanie pacjenta i uzyskanie jego zgody jest wymagane.

Druga sytuacja dotyczy wszystkich tych sytuacji, w których lekarz korzysta z systemów AI jedynie wspomagających wykonywane przez niego czynności, np. poprawiających jakość danych obrazowych, wspierających wykonywanie opisu diagnostycznego przez lekarza itp. W takich wypadkach poinformowanie pacjenta i uzyskanie jego zgody nie jest wymagane, choć zaleca się informować pacjenta o wykorzystywanych w tym procesie technologiach.

Ze względu na powyższe, wynikający z art. 12 KEL obowiązek uzyskania świadomej zgody pacjenta na zastosowanie sztucznej inteligencji w procesie diagnostycznym lub terapeutycznym, powinien być interpretowany również w sposób spójny z ogólnymi zasadami KEL, dotyczącymi uzyskania uprzedniej świadomej zgody na udzielenie świadczenia zdrowotnego i respektowania prawa pacjenta do świadomego udziału w podejmowaniu decyzji dotyczących ich zdrowia. Oznacza to, że w sytuacji, w której wykorzystywany przez lekarza system AI ma istotny wpływ na przebieg lub charakter udzielanego świadczenia zdrowotnego z potencjalnie ograniczonym wpływem lekarza, pacjent powinien znać i rozumieć ten wpływ, inaczej świadomość jego zgody może być kwestionowana. Oceniając podobne sytuacje, powinność informacyjną lekarza i jej zakres należy postępować tak, jak przy stosowaniu innych rozwiązań technologicznych w opiece nad pacjentem.

Świadoma zgoda pacjenta na zastosowanie AI może być wyrażona ustnie albo przez takie zachowanie się pacjenta, które w sposób niebudzący wątpliwości wskazuje na jego wolę – np. położenie się na kozetce do badania, kontynuację rozmowy z lekarzem (zgodnie z art. 16 ust. 8 KEL). Art. 12 KEL nie wprowadza wymogu uzyskania zgody w formie pisemnej. Zgoda na zastosowanie AI nie musi być odrębna od świadomej zgody na udzielenie świadczenia zdrowotnego – jeżeli pacjenci zostali odpowiednio poinformowani o wykorzystaniu AI w procesie diagnostycznym lub terapeutycznym, ich zgoda na udzielenie świadczenia zdrowotnego będzie obejmować również zgodę na wykorzystanie AI do realizacji tego świadczenia.

Zgodnie ze standardami uzyskiwania świadomej zgody, udzielona pacjentowi informacja o wykorzystaniu AI w procesie diagnostycznym lub terapeutycznym powinna być sformułowana w sposób dla nich zrozumiały.

W praktyce oznacza to najczęściej, że lekarz powinien przekazać pacjentowi ogólne informacje o roli AI w procesie i doniosłości informacji dostarczanych przez AI dla całego procesu. Lekarz powinien udzielić pacjentowi szerszych informacji na temat roli AI i dostarczanych przez oparte na niej informacji w wypadku, gdy oczekuje tego pacjent.

Inne obowiązki związane ze stosowaniem AI mogą wynikać z przepisów prawa.

Elektroniczna wersja Kodeksu Etyki Lekarskiej