Parlament Europejski przegłosował w pierwszym czytaniu projekt rozporządzenia, określanego jako Digital Omnibus on AI, którego głównym celem jest znaczne uproszczenie stosowania przepisów wywodzących się z AI Act. Mimo że na pierwszy rzut oka proponowane zmiany mogą sprawiać wrażenie istotnego zmniejszenia obciążeń administracyjnych, to w rzeczywistości przedsiębiorcy nadal będą musieli niezwykle uważnie przygotować się do wdrożenia tych nowych regulacji. Nowelizacja bowiem w żadnym stopniu nie zmienia podstawowych założeń AI Act, lecz skutecznie porządkuje jego stosowanie, doprecyzowuje sporą część przepisów i jednocześnie wprowadza zupełnie nowe zakazy dotyczące wykorzystania generatywnej sztucznej inteligencji.
Jedną z najbardziej istotnych zmian jest odejście od dotychczasowego sztywnego obowiązku zapewnienia określonego poziomu AI literacy. Projekt zakłada obecnie znacznie bardziej elastyczne podejście, koncentrując się głównie na wspieraniu stałego rozwoju kompetencji wszystkich osób korzystających z systemów sztucznej inteligencji. Oznacza to, że przedsiębiorcy wciąż będą zobligowani do prowadzenia różnorodnych działań edukacyjnych, jednakże sposób realizacji tego konkretnego obowiązku pozostanie zdecydowanie bardziej dostosowany do specyfiki każdej prowadzonej działalności gospodarczej.
Bardzo istotne znaczenie ma również precyzyjne doprecyzowanie definicji tzw. komponentu bezpieczeństwa. W praktyce oznacza to, iż nie każdy system wykorzystujący sztuczną inteligencję, który jest zainstalowany w konkretnym produkcie, będzie automatycznie kwalifikowany jako system wysokiego ryzyka. Status taki uzyskają jedynie te rozwiązania, których podstawowym i najważniejszym celem jest zapewnienie bezpieczeństwa oraz skuteczne ograniczanie ryzyka dla zdrowia, życia lub mienia. Dla wielu przedsiębiorców będzie to w efekcie oznaczało znaczne uproszczenie procedur związanych z dokonywaniem oceny zgodności.
Projekt przewiduje także przesunięcie dotychczasowych terminów stosowania części przepisów, które dotyczą systemów wysokiego ryzyka. Rozwiązanie to ma na celu dać zarówno przedsiębiorcom, jak i organom nadzoru znacznie więcej czasu na solidne przygotowanie odpowiednich procedur, norm technicznych oraz mechanizmów oceny zgodności. Jednocześnie rozszerzono część ułatwień przewidzianych dla sektora MŚP również na tak zwane small mid-cap companies, dostrzegając, iż również te przedsiębiorstwa często mierzą się z bardzo podobnymi wyzwaniami organizacyjnymi i finansowymi podczas wdrożenia nowych obowiązków.
Najdalej idące zmiany dotyczą jednak systemów generatywnej sztucznej inteligencji. Projekt wprowadza całkowity zakaz udostępniania rozwiązań, które są przeznaczone do tworzenia niekonsensualnych materiałów intymnych oraz treści bezpośrednio przedstawiających seksualne wykorzystywanie dzieci. Co szczególnie istotne, pełna odpowiedzialność dostawców może powstać również wtedy, gdy możliwość wygenerowania takich materiałów była przewidywalna, a producent nie zastosował odpowiednich zabezpieczeń. W praktyce oznacza to konieczność wdrażania skutecznych mechanizmów filtrowania treści, ograniczeń dotyczących promptów, systemów wykrywania nadużyć oraz procedur reagowania na incydenty.
Wszystkie te zmiany wyraźnie pokazują, że unijny ustawodawca absolutnie nie odchodzi od idei ścisłego nadzoru nad sztuczną inteligencją. Wręcz przeciwnie, uproszczeniu ulegają jedynie wybrane obowiązki o charakterze administracyjnym, natomiast pełna odpowiedzialność za bezpieczne wykorzystywanie systemów AI pozostaje nadal bardzo szeroka.
Tematyka ta od wielu miesięcy znajduje się również w centrum zainteresowania ekspertów Kancelarii Prawnej Viggen. Nasi przedstawiciele aktywnie uczestniczyli w międzynarodowej konferencji naukowej na Universidad Carlos III de Madrid, poświęconej kluczowym wyzwaniom związanym z cyfryzacją, sztuczną inteligencją oraz wdrażaniem Dyrektywy Platformowej. W gronie prelegentów znaleźli się prof. SGMK dr Mariusz Miąsko, Dyrektor Generalna Kancelarii Prawnej Viggen Anna Nieć-Mrzygłód oraz prof. UKEN dr hab. Łucja Kobroń-Gąsiorowska. Podczas wspomnianej konferencji zaprezentowali oni wyniki wielomiesięcznych badań dotyczących wpływu AI Act, Platform Work Directive oraz pakietu Digital Omnibus na prawo pracy i obowiązki pracodawców.
Przedstawione przez nich analizy obejmowały między innymi obowiązki związane z profesjonalnym przygotowywaniem ocen wpływu na prawa podstawowe (FRIA), procedur Human Oversight Protocol, raportów transparentności algorytmicznej oraz nowych zasad nadzoru nad systemami wykorzystującymi sztuczną inteligencję w procesach zatrudnienia. Już dziś widać, że przedsiębiorcy będą musieli przygotować się nie tylko do zmian technologicznych, ale również do stworzenia zupełnie nowych procedur compliance oraz dokumentacji wymaganej przez prawo unijne.
Dzięki aktywnemu udziałowi w międzynarodowych projektach naukowych i konferencjach, eksperci Kancelarii Prawnej Viggen na bieżąco analizują kierunek zmian europejskiego prawa i pomagają przedsiębiorcom odpowiednio wcześnie przygotować się do nowych obowiązków. Wspieramy firmy w profesjonalnych audytach zgodności z AI Act, przygotowaniu wymaganej dokumentacji, opracowywaniu procedur wewnętrznych oraz szkoleniach dla kadry zarządzającej i pracowników.
Jeżeli Państwa organizacja wykorzystuje lub planuje wdrożyć zaawansowane rozwiązania oparte na sztucznej inteligencji, warto już dziś przeanalizować wpływ nowych regulacji na prowadzoną działalność. Odpowiednie przygotowanie pozwala znacznie ograniczyć ryzyko prawne i uniknąć bardzo kosztownych błędów w niedalekiej przyszłości.
Serdecznie zapraszamy do kontaktu z ekspertami Kancelarii Prawnej Viggen. Chętnie odpowiemy na wszelkie pytania dotyczące AI Act, Digital Omnibus oraz innych unijnych regulacji wpływających na działalność przedsiębiorców. Zachęcamy również do regularnego odwiedzania naszej strony internetowej oraz śledzenia naszych profili w mediach społecznościowych, gdzie publikujemy komentarze do najnowszych zmian w prawie, analizy eksperckie oraz obszerne relacje z krajowych i międzynarodowych konferencji naukowych.
Zapraszamy do współpracy:
tel.: 509-982-577, 12 637-24-57,
e-mail: biuro11@viggen.pl
tel.: 519-140-984,
e-mail.: jak@viggen.pl
Przygotowała:
Monika Bednarz
Radca Prawny- p.o. kierownika działu procesowego
