Od 2 sierpnia ważne zmiany w przychodniach, szpitalach i innych placówkach medycznych

Nowe regulacje nie zakazują korzystania z AI, ale nakładają obowiązek jasnego informowania odbiorców o tym, że mają do czynienia z treścią wygenerowaną lub zmodyfikowaną przez sztuczną inteligencję. Celem przepisów jest ograniczenie ryzyka wprowadzania użytkowników w błąd oraz zwiększenie zaufania do publikowanych materiałów.

Nowe obowiązki dla placówek medycznych i twórców treści o zdrowiu

Od 2 sierpnia obowiązują nowe przepisy dotyczące wykorzystywania sztucznej inteligencji, które mają zwiększyć przejrzystość materiałów tworzonych z udziałem AI. Zmiany są szczególnie istotne dla sektora ochrony zdrowia, gdzie sztuczna inteligencja coraz częściej wykorzystywana jest do przygotowywania materiałów edukacyjnych, komunikacji z pacjentami czy promocji usług medycznych. Nowe regulacje nie zakazują korzystania z AI, ale nakładają obowiązek jasnego informowania odbiorców o tym, że mają do czynienia z treścią wygenerowaną lub zmodyfikowaną przez sztuczną inteligencję. Celem przepisów jest ograniczenie ryzyka wprowadzania użytkowników w błąd oraz zwiększenie zaufania do publikowanych materiałów.

AI w medycynie: jakie materiały medyczne muszą być oznaczone

Nowe przepisy obejmują różne formy przekazu wykorzystywane przez placówki medyczne, lekarzy czy firmy działające w branży zdrowotnej. Oznaczenia mogą być wymagane między innymi wtedy, gdy wykorzystano syntetyczny głos lekarza, komputerowo wygenerowaną wypowiedź specjalisty lub realistyczny wizerunek fikcyjnego pacjenta. Obowiązek dotyczy więc nie tylko filmów czy nagrań audio, ale również materiałów wizualnych, które mogą sprawiać wrażenie autentycznych. Jeżeli odbiorca może odnieść wrażenie, że ogląda prawdziwą osobę lub słyszy rzeczywistego lekarza, a w rzeczywistości materiał został wygenerowany przez AI, powinien zostać o tym wyraźnie poinformowany.

Nowe regulacje precyzują, że oznaczenie nie może być ukryte. Użytkownik powinien dowiedzieć się o wykorzystaniu sztucznej inteligencji już przy pierwszym kontakcie z materiałem. W praktyce oznacza to, że komunikat powinien być widoczny na ekranie lub słyszalny na początku nagrania. Nie wystarczy umieszczenie informacji wyłącznie w metadanych pliku, opisie technicznym czy regulaminie strony internetowej. Taki sposób oznaczania ma zapobiegać sytuacjom, w których odbiorca dopiero po obejrzeniu całego materiału dowiaduje się, że przedstawione osoby lub wypowiedzi nie są prawdziwe.

Zmiany w przychodniach, szpitalach i innych placówkach medycznych

Nowe obowiązki mogą obejmować również artykuły, poradniki oraz inne treści dotyczące zdrowia publicznego przygotowane z pomocą sztucznej inteligencji. Nie oznacza to jednak, że każdy tekst napisany przy wsparciu AI będzie musiał zostać oznaczony. Przepisy przewidują ważny wyjątek. Oznaczenie nie jest wymagane, jeśli materiał przeszedł rzeczywistą kontrolę redakcyjną, a za jego publikację odpowiada konkretna osoba lub organizacja. Taka kontrola nie może ograniczać się wyłącznie do poprawienia stylistyki czy błędów językowych. Powinna obejmować również sprawdzenie prawdziwości informacji, ocenę wiarygodności wykorzystanych źródeł oraz analizę tego, czy przedstawione wnioski są uzasadnione i zgodne z aktualną wiedzą medyczną.

Przejrzystość zamiast zakazów

Eksperci podkreślają, że nowe przepisy nie mają utrudniać korzystania z nowoczesnych technologii. Wręcz przeciwnie – ich celem jest zwiększenie transparentności i budowanie zaufania do materiałów tworzonych z wykorzystaniem sztucznej inteligencji. Eksperci podkreślają, że nowe przepisy nie mają utrudniać korzystania z nowoczesnych technologii. Wręcz przeciwnie - ich celem jest zwiększenie transparentności i budowanie zaufania do materiałów tworzonych z wykorzystaniem sztucznej inteligencji. W dobie coraz bardziej realistycznych materiałów tworzonych przez AI takie rozróżnienie staje się niezwykle ważne, zwłaszcza w obszarze zdrowia, gdzie błędne informacje mogą wpływać na decyzje dotyczące leczenia lub profilaktyki.

Regulacje obowiązujące od 2 sierpnia koncentrują się przede wszystkim na obowiązkach informacyjnych. Nie oznacza to jednak, że wszystkie przepisy dotyczące sztucznej inteligencji zaczęły już obowiązywać. W kolejnych etapach będą wdrażane następne elementy unijnych regulacji odnoszących się do systemów AI wysokiego ryzyka. Dotyczy to między innymi części rozwiązań wykorzystywanych jako wyroby medyczne oraz narzędzi wspierających diagnostykę czy podejmowanie decyzji klinicznych.