Praca inżyniera ze sztuczną inteligencją. Na jakie przepisy powinien się on przygotować

Kontakt inżyniera z AI

Sztuczna inteligencja (AI) może znaleźć w procesie budowlanym wiele zastosowań – od pomocy w tworzeniu i porządkowaniu dokumentacji, przez monitorowanie bezpieczeństwa, po sterowanie procesem budowlanym czy też tworzenie wirtualnych projektów. W przypadku inżyniera budownictwa konieczność jej stosowania najczęściej będzie wynikać z polecenia przełożonych.

WAŻNE!

Jeżeli inżynier zamierza z własnej inicjatywy wdrożyć swoje rozwiązania w zakresie AI, powinien uprzednio powiadomić o tym przełożonych, ponieważ odpowiadają oni za zgodne z prawem wykorzystanie tego typu technologii. Inżynier i przełożeni powinni wówczas dokonać wymiany informacji i wiedzy co do spraw technicznych oraz formalnych związanych ze stosowaniem AI w ich firmie.

Oczywiście kierownictwo podmiotu, dla którego działa inżynier, powinno uprzednio zatwierdzić używanie jakiegokolwiek systemu AI. Również gdy jego stosowanie wynika z polecenia, inżynier ma prawo domagać się odpowiedniego przeszkolenia.

Stosowanie AI uruchamia konieczność monitorowania wielu przepisów prawa, w tym RODO oraz przepisów o monitoringu. W tym miejscu przyjrzymy się zobowiązaniom, jakie nakłada od 2 lutego 2025 r. tzw. Akt w sprawie sztucznej inteligencji (dalej: Akt o AI), a konkretnie art. 4 i 5, które należy stosować w pierwszej kolejności.

>>> Jak sztuczna inteligencja wspiera deweloperów mieszkaniowych

>>> Dzięki AI rynek centrów danych wzrośnie o ponad połowę do 2029 roku

Zastosowanie Aktu o AI

Aby zrozumieć obowiązki wynikające z Aktu o AI, należy najpierw zauważyć, że znajdzie on zastosowanie przede wszystkim do „dostawców” i „podmiotów stosujących” systemy AI.

Jako dostawcę należy rozumieć osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia (model w stylu rozwiązania takiego jak Chat GPT) lub zlecają rozwój takiego systemu lub modelu AI oraz które – odpłatnie lub nieodpłatnie – pod własną nazwą lub własnym znakiem towarowym wprowadzają do obrotu lub oddają do użytku system AI.

Firma, w której pracuje inżynier, może być dostawcą systemu AI w rozumieniu wspomnianej definicji, jeśli zaprojektuje dany system na własny użytek lub zleci jego zaprojektowanie na swój użytek czy też, gdy taki system udostępnia innym podmiotom.

Częściej jednak inżynier będzie firmą lub jej pracownikiem/współpracownikiem, gdy firma spełnia definicję podmiotu stosującego system AI. Za podmiot stosujący należy z kolei uznać osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, wykorzystujące system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system ten jest wykorzystywany w ramach osobistej działalności pozazawodowej.

Przykład:

Jeżeli inżynier budownictwa lub firma, w której pracuje, skorzysta z systemu ogólnodostępnego dostarczanego przez zewnętrzny podmiot, wówczas będzie „podmiotem stosującym”, który ma mniej obowiązków wynikających z Aktu o AI niż dostawca.

Przepisy, które weszły w życie 2 lutego 2025 r., mają zastosowanie zarówno do dostawców, jak i podmiotów stosujących.

Akt o AI nie znajdzie natomiast zastosowania do obowiązków wspomnianych „podmiotów stosujących”, będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. Tym samym inżynier może, z pominięciem omawianych przepisów, projektować hobbistycznie swój system AI w oparciu o hipotetyczne przykłady, o ile nie włącza do niego konkretnych informacji przetwarzanych w związku z czyjąkolwiek działalnością zawodową.

Odpowiednie kompetencje w zakresie AI

Od 2 lutego 2025 r. należy stosować art. 4 Aktu o AI, który dość ogólnie opisuje wymogi związane z kompetencjami w zakresie sztucznej inteligencji. Bezpośrednimi adresatami tych wymogów są dostawcy i podmioty stosujące systemy AI.

Zgodnie z tym przepisem dostawcy i podmioty stosujące systemy AI mają obowiązek podejmowania środków w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród:

• swojego personelu oraz
• innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu

– przy czym, jak widać, obowiązek ten dotyczy zarówno kompetencji pracowników, jak i osób działających dla wymienionych podmiotów na innej podstawie prawnej.

Co więcej, odpowiedni poziom kompetencji należy zapewnić z uwzględnieniem wiedzy technicznej takich osób, ich doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane. Należy także brać pod uwagę osoby lub grupy osób, wobec których zobowiązany podmiot zamierza wykorzystywać systemy sztucznej inteligencji. Zgodnie z Aktem o AI kompetencje w zakresie sztucznej inteligencji oznaczają umiejętności, wiedzę oraz zrozumienie pozwalające dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ – z uwzględnieniem ich odnośnych praw i obowiązków w kontekście tego aktu – w przemyślany sposób wdrażać systemy AI oraz mieć świadomość, jakie możliwości i ryzyka wiążą się ze sztuczną inteligencją oraz jakie potencjalne szkody może ona wyrządzić.

Motyw 20 Preambuły do Aktu o AI wskazuje, że kompetencje mogą różnić się w zależności od danego kontekstu i obejmować:

• rozumienie prawidłowego stosowania elementów technicznych na etapie rozwoju systemu AI;
• rozumienie środków, które należy stosować podczas wykorzystywania systemu;
• rozumienie odpowiednich sposobów interpretacji wyników działania systemu oraz
• w przypadku osób, na które AI oddziaływuje – posiadanie wiedzy niezbędnej do zrozumienia, jaki wpływ będą miały na nie decyzje podejmowane przy pomocy sztucznej

WAŻNE!

Jak precyzuje Preambuła do Aktu o AI, kompetencje w zakresie sztucznej inteligencji powinny oznaczać, że wszystkie odpowiednie podmioty w łańcuchu wartości AI będą posiadać wiedzę konieczną do zapewnienia odpowiedniej zgodności z przepisami tego aktu i ich prawidłowego egzekwowania.

Innymi słowy, oceniając zapewnienie kompetencji, należy brać pod uwagę przeszkolenie pod kątem umocowania do stosowania danego systemu AI. Czasem może wystarczyć umiejętność w zakresie obsługi, wprowadzania powtarzalnych danych i prawidłowego ich odczytywania, a czasem będzie to umiejętność odpowiedniego zasilania systemu starannie wyselekcjonowanymi danymi, przy jednoczesnej świadomości, jaki wpływ ma taki system na odbiorców.

Zakazane praktyki w zakresie AI

Inżynier:

• nie powinien wdrażać w zakresie AI zakazanych praktyk ani w ramach własnej działalności gospodarczej, ani z własnej inicjatywy, gdy pracuje pod czyimś kierownictwem;
• powinien ostrzec swych przełożonych, gdy zauważy, że zalecone mu do stosowania systemy do takich praktyk się zaliczają.

Przytoczone zasady mają związek ze stosowaniem od 2 lutego 2025 r. art. 5 Aktu o AI, który dotyczy właśnie zakazanych praktyk.

Artykuł 5 nie ma wpływu na zakazy mające zastosowanie w przypadku, gdy praktyka w zakresie AI narusza inne przepisy prawa unii (np. RODO).

W tabeli opisano zakazane praktyki, najważniejsze z punktu widzenia działalności firmy budowlanej. Innymi słowy, należy przejrzeć planowane do używania systemy AI i ewentualnie wyłączyć zakazane funkcje.

Maciej Lipka
specjalista w zakresie prawa budowlanego i ochrony danych osobowych

Literatura
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji).