Przejmij-kontrolę-nad-AI-w-firmie-–-przepisy-AI-Act

Przejmij kontrolę nad AI w firmie – przepisy AI Act

Przepisy regulujące korzystanie ze sztucznej inteligencji przez firmy (tzw. AI Act) weszły w życie 1 sierpnia 2024 r. Ich celem jest wspieranie biznesu w odpowiedzialnym wdrażaniu oraz rozwoju AI, uwzględniając podnoszenie poziomu bezpieczeństwa obywateli Unii Europejskiej. Oznacza to, że przedsiębiorcy wszystkich branż będą mieli nowe obowiązki w zachowaniu transparentności w obszarze AI. Zmiany prawne obejmują wszystkie systemy i aplikacje, które wykorzystują technologię sztucznej inteligencji.

Przejmowanie kontroli nad AI – kolejne kroki

Porządkowanie kwestii AI w firmie należy zacząć od rozpoznania i zarejestrowania wszystkich rozwiązań AI, w tym bezpłatnych aplikacji używanych przez pracowników. Po dokonaniu inwentaryzacji konieczne jest przeprowadzenie oceny wykorzystywanych narzędzi pod kątem ryzyka określonego w ustawie AI Act. W dalszej kolejności warto opracować politykę i zasady wykorzystywania sztucznej inteligencji firmie.

Rozpoznanie – gdzie jest AI w naszych procesach biznesowych?

Sztuczna inteligencja to technologia, która nie tylko zajmuje się obliczeniami na ogromnych zbiorach danych, ale także może rozpoznawać ludzką mowę czy stworzone przez człowieka obrazy. AI znajduje swoje zastosowanie między innymi w:

  • przeglądarkach internetowych i komunikatorach – oferują one funkcje automatycznego tłumaczenia językowego stron internetowych, asystentów rozmów w komunikatorach (odpowiadających automatycznie na pytania);
  • czat-botach oraz wirtualnych asystentach – obsługujących klientów online (automatyzacja obsługi);
  • biometrii w systemach IT – która jest używana do uwierzytelniania w procesie logowania (rozpoznaje twarze, siatkówkę oka i odciski palców);
  • głosowych poleceniach dla systemów i aplikacji biurowych – czyli wszystkich rozwiązaniach, które umożliwiają dyktowanie treści (np. maili) oraz wydawanie komend systemom IT lub aplikacjom;
  • generowaniu tekstów, prezentacji, grafik, zdjęć – tzw. kreatory kontentu;
  • automatycznym rozpoznawaniu dokumentów i zarządzaniu nimi w procesie biznesowym, tj, przekazywaniu do odpowiedniego działu/osoby w firmie (identyfikacja i klasyfikacja obrazów);
  • wykrywaniu cyberzagrożeń – np. podejrzanych, nietypowych transakcji, prób wyłudzeń, włamań (detekcja oszustw na poziomie wykrywania nieprawidłowości w ruchu);
  • Business Intelligence (wsparcie decyzji biznesowych) – czyli aplikacji analitycznych prognozujących sprzedaż, trendy, personalizujące oferty, promocje i automatyczną obsługę klienta oraz optymalizujące biznes od łańcuchów dostaw po produkcję.

Ryzyko AI i jego ocena zgodnie z ustawą AI Act

Ocena ryzyka AI według ustawy AI Act będzie obowiązywać przedsiębiorstwa już za 2 lata, ale warto zaznaczyć, że część regulacji wejdzie w życie wcześniej. Wszystkim systemom IT i rozwiązaniom opartym na sztucznej inteligencji ma zostać nadana kategoria ryzyka minimalnego, specyficznego, wysokiego lub niedopuszczalnego.

W pierwszej kolejności – bo za pół roku – przedsiębiorców zaczną obowiązywać przepisy zakazujące korzystania z rozwiązań zaliczanych do kategorii ryzyka niedopuszczalnego. Do tej grupy narzędzi będą należeć m.in. systemy wykorzystujące dane biometryczne, np. do monitorowania działań zatrudnionych w miejscu pracy.

Do systemów wysokiego ryzyka zostaną zakwalifikowane aplikacje stosowane przy rekrutacjach, ocenach zdolności kredytowej i automatycznym uruchamianiu robotów. Te rozwiązania będą podlegać rygorystycznym wymogom – m.in. konieczności zapewnienia nadzoru człowieka nad robotami.

Ryzyko specyficzne odnosi się do konieczności zapewnienia transparentności wykorzystywania sztucznej inteligencji w firmie. Oznacza to, że firmy będą musiały informować klientów, którzy korzystają z ich systemu, że w interakcji wykorzystywana jest AI – np., że rozmawia z czat-botem (a nie człowiekiem).

Minimalne ryzyko obejmuje większość systemów i rozwiązań AI wykorzystywanych obecnie w biznesie. Algorytmy AI wspierające biznes w obszarze tworzenia treści czy podejmowania decyzji na bazie danych zebranych wewnętrznie nie będą objęte restrykcjami. Niemniej ta grupa narzędzi wymagać będzie kontroli nad danymi, które przetwarza ta technologia.

Polityka AI w firmie: kontrola nad danymi i zgodność z innymi przepisami

Każda firma, która korzysta z sztucznej inteligencji, powinna stworzyć odpowiednie procedury uwzględniające kategoryzację ryzyk. Konieczne jest także wskazanie możliwości wykorzystania tej technologii w kontekście danych przez nią przetwarzanych. Przedsiębiorstwo oraz jego pracownicy musza mieć świadomość, że dane wykorzystywane przez aplikacje AI mogą naruszać prywatność lub stanowić cudzą własność.

PRZYKŁAD ZAGROŻENIA: Pracownicy przygotowują kontent z wykorzystaniem bezpłatnych aplikacji AI – np. prezentację firmową. Aplikacja, z której korzystają, pobiera do tego celu dowolne zdjęcia lub teksty dostępne w zasobach online. Firma nie wie, czy aplikacja AI ma prawa do pobieranych danych – mogą one np. zostać skradzione (wykorzystane bez uwzględnienia prawa autorskiego).

Ochrona danych osobowych w kontekście AI (zgodność z RODO)

AI działa na podstawie danych, w tym także na podstawie informacji o osobach fizycznych (dane osobowe). Pracując z systemami automatyzacji obsługi klienta, CRMami, BI oraz scoringowymi mamy do czynienia z danymi prawdziwych ludzi, które podlegają szczególnej ochronie (RODO).
Część aplikacji AI pobiera dane z zasobów internetowych (źródła zewnętrzne), nad którymi organizacje biznesowe nie mają kontroli. Jeśli nasze systemy wymagają takich danych lub firma trenuje na nich swoje algorytmy – rośnie ryzyko naruszenia danych osobowych. Praca z porządkowaniem AI musi więc uwzględniać procedurę wykorzystania informacji wrażliwych w firmie.

Przepisy AI Act przypominają nam, że stosowanie wszelkich systemów IT, aplikacji czy najnowszych technologii musi odbywać się zgodnie z regułami chroniącym ludzi. Dlatego już teraz warto tworzyć dokumentację i rejestry działań związanych z wykorzystywaniem sztucznej inteligencji. Systemowe podejście i etyczne wykorzystanie AI musi także obejmować szkolenia dla pracowników. Pełna kontrola nad AI zagwarantuje bezpieczeństwo prawne i operacyjne zarówno firmie (oraz osobom w niej zatrudnionych), jak i jej klientom.

Robert Zyskowski, CTO, Grupa Symfonia 

Komentarze (0)

Napisz komentarz

Nie ma tutaj jeszcze żadnego komentarza, bądź pierwszy!

Napisz komentarz
Dodaj komentarz

Przeczytaj również:

AI to wciąż eksperyment. Edyta Malesza-Malatrat o agentyzacji i transformacji w Grupie Symfonia

5 listopada 2026 r. odbyła się konferencja Symfonia Digital Day, której tematem przewodnim była sztuczna inteligencja. Mimo błyskawicznego rozwoju tej technologii, polskie firmy wciąż podchodzą do niej eksperymentalnie. O tym, jak Grupa Symfonia podchodzi do transformacji cyfrowej w dobie AI i dlaczego nie należy wpuszczać algorytmów do „bałaganu” informacyjnego, opowiada Edyta Malesza-Malatrat, dyrektorka marketingu i PR. Kaja Grabowiecka: Symfonia Digital Day 2026 jest już za nami. Tytuł tegorocznej konferencji brzmi: “Algorytm polskiej gospodarki”. Podsumujmy prelekcje, podczas których głównym tematem była sztuczna inteligencja. W jakich obszarach polskie firmy już realnie zyskują na AI, a w jakich jeszcze opieramy się na technologicznych mitach?  Edyta Malesza-Malatrat, dyrektorka marketingu i PR, Grupa Symfonia: To, co przede wszystkim usłyszeliśmy na tej konferencji, to fakt, że tak naprawdę wszyscy bardzo eksperymentujemy. Korzyści, które dostrzegamy, wciąż trudno udokumentować konkretnymi wskaźnikami KPI. To też pokazały wyniki ankiety, którą prowadziliśmy na żywo wśród uczestników.   Widać, że firmy wykorzystują sztuczną inteligencję, natomiast to wykorzystywanie jest wciąż eksperymentalne. Myślimy już z pewnością o procesowości – szczególnie tu mam na myśli firmy tradycyjne. Bartek Pucek (The Thinking Company, CEO) w swoim panelu opowiadał o doświadczeniach, w których jego firma już jest mocno zagentyzowana. Natomiast klienci Symfonii to w dużej mierze przedsiębiorstwa z 10, 20, a czasem nawet 30-letnim rodowodem. To naturalnie przekłada się na eksperymentalne podejście do AI.   Sztuczna inteligencja to technologia, która cały czas się zmienia. Gdy dopiero wchodziła na rynek, nazywaliśmy ją “generative AI”, prawda? I nagle przekształciło się to w Agentów, określanych jako następna faza. Nikt nie wie, co jest przed nami. Wielu ekspertów i profesorów jasno podkreśla, że trudno oszacować kierunek, w którym podążamy wraz ze sztuczną inteligencją. Wciąż się uczymy.   KG: Trudno też oszacować, jak szybko idziemy w tym kierunku.  EM: Dokładnie. Jedyne, co jest dość męczące i stałe, to skala i szybkość zmian. To z jednej strony przerażające, ale w takim świecie przyszło nam funkcjonować.   KG: Konkurencja na polskim rynku dostawców ERP cały czas się rozwija. Sporo mówi się o agentyzacji. Jak do tego podchodzi Symfonia?  EM: Również podchodzimy do wdrażania AI w naszym oprogramowaniu. Jesteśmy firmą oferującą systemy ERP, które już mocno się zmieniają. Dlatego musimy podążać za tymi trendami, ale zachowując rozsądek. Warto zaznaczyć, że mamy sporo klientów nadal pracujących na rozwiązaniach desktopowych, którzy nie przeszli do chmury. Trudno w takich przypadkach mówić o agentyzacji w jakiejkolwiek postaci.   Nasze podejście opiera się na integrowaniu sztucznej inteligencji z obecnymi systemami. Jednym z takich produktów jest AI Dekret, moduł zintegrowany z naszym czołowym programem Symfonia Finanse i Księgowość. Kolejne rozwiązania, które będziemy wypuszczać na rynek, będą z nim zbieżne. Tam, gdzie możemy usprawnić bądź przyspieszyć procesy, chcemy wdrażać narzędzia AI.   My również przechodzimy własną, wewnętrzną transformację cyfrową. Symfonia zmienia się jako firma, a pieczę nad tym procesem sprawuje Sebastian Gosk, dyrektor działu wsparcia klienta, ale i praktyk wdrażania AI. Wprowadzamy agentyzację we własnych strukturach i stawiamy zespołom nowe wyzwania. Chcemy ulepszać procesy – funkcja po funkcji, zastanawiając się, jak możemy połączyć i usprawnić dotychczasowe zadania.    KG: Na naszym kanale YouTube ukazał się podcast z Tomaszem Mamysem. W rozmowie z Markiem Macem powiedział on, że absolutnie nie rekomenduje wpuszczać AI “do bałaganu”, ponieważ bez jakościowych danych nigdy nie będzie dobrze funkcjonować.  EM: Zgadzam się z nim. To również silnie wybrzmiało na dzisiejszej konferencji.   LLM – Large Language Model – pracuje na danych. Dlatego AI może całkowicie polec przy informacyjnym bałaganie. Technologia na pewno może pomóc, ale jednocześnie firma musi wiedzieć, do czego dąży. To przypomina pracę z dobrze skonstruowanym promptem. Jeśli sami nie wiemy, czego chcemy – choć zdaję sprawę, że często możemy nie mieć tej pewności – zły prompt nie doprowadzi nas do wartościowych wniosków.  KG: To prawda – jeżeli napiszemy jednozdaniowy prompt, system niewiele nam zaoferuje.   EM: Tak – to trochę jak ze słabym briefem dla agencji marketingowej.   KG: Podczas konferencji ogłoszono nowość, na którą czekano już od 2024 roku. Nefeni przeobraża się w Symfonię Public. Co właściwie stoi za tą zmianą nazwy?  EM: Wpłynęło na to kilka różnych czynników. Przede wszystkim zależało nam na spójności brandowej. Chcielibyśmy, żeby Symfonia była marką-parasolem dla innych przejmowanych przez nas podmiotów. Na przełomie 2024 i 2025 roku przejęliśmy dwie rumuńskie firmy – Softech Plus i NextUp. One już funkcjonują w naszych strukturach, a my staramy się unifikować je pod wspólnym szyldem.   Z przeprowadzonych przez nas badań wynika, że marka Symfonii wiąże się w Polsce z bardzo wysoką rozpoznawalnością, ale i ogromnym zaufaniem. Hubert Paczkowski (nowo powołany prezes Symfonii Public) dostrzega to regularnie podczas wizyt u klientów. Symfonia jest marką znacznie silniejszą, dlatego ta unifikacja była krokiem całkowicie sensownym. Jednocześnie słowem “Public” wyraźnie podkreślamy, że ten konkretny produkt jest dedykowany bardzo specyficznemu rynkowi, jakim są samorządy.   KG: Tegoroczny program konferencji prowadził uczestników przez trzy bloki: wzrost, odporność i gotowość. Który z tych obszarów jest dla polskich firm najtrudniejszy do zrealizowania? Gdzie organizacje zwyczajnie się potykają?  EM: Powiem przewrotnie: myślę, że wszystkie. Każdy z tych tematów niesie za sobą specyficzne wyzwania.   W kwestii wzrostu dyskutowaliśmy o niebezpieczeństwie traktowania AI wyłącznie jako prostego narzędzia do poprawy produktywności. Sztuczna inteligencja rzeczywiście może napędzać rozwój, ale jest to bardzo trudne. Na jednym z paneli zastanawialiśmy się, jak w ramach narzuconych nam rynkowych parametrów narzędzie to mogłoby przedefiniować biznes, w jakim funkcjonujemy. Mogłoby również dostarczyć zupełnie nowe źródło dochodu.   KG: Albo pomóc pójść w ekspansję?  EM: Dokładnie. W kontekście generowania wzrostu sztuczna inteligencja to wciąż narzędzie, z którego niewiele firm potrafi w pełni korzystać. W Symfonii intensywnie myślimy o tym, jak AI może odmienić system ERP lub pomóc w stworzeniu całkowicie nowego rozwiązania, które odpowie na nieodkryte dotąd potrzeby rynku.   Odporność to z kolei szerokie pojęcie, które możemy określić mianem żywotności biznesowej. Ma ona kluczowe znaczenie – szczególnie w obszarze cyberbezpieczeństwa. Coraz częściej słyszymy o atakach na firmy, w tym te z sektora finansowo-księgowego.  Ostatni blok – gotowość – świetnie ujęła Aleksandra Kunysz podczas swojej prezentacji o jakości podejmowania decyzji w dobie nadmiaru informacji. Tempo zmian jest tak szybkie, że człowiek funkcjonujący w stanie ciągłej gotowości po prostu zaczyna się męczyć. My jako społeczeństwo, pracownicy i liderzy, musimy odnaleźć się w świecie wymagającym stałego alertu. To ogromne obciążenie, dlatego tak ważna w tym wszystkim jest regeneracja.   Podsumowując, sądzę, że wszystkie trzy filary są równie istotne i równie wymagające.  KG: Pozostaje nam życzyć organizacjom, szczególnie tym mniejszym, żeby faktycznie były gotowe na nadchodzące zmiany. Bardzo dziękuję za rozmowę, pani Edyto.   EM: Również dziękuję.  
edyta malesza-malatrat
Logo firmy Symfonia
zweryfikowano

5/5(1 głosy)

Symfonia

Innowacyjne ERP dla biznesu


Symfonia
Mazowieckie
1000 osób
Zobacz profil
Branża
Biura rachunkowe, Budownicza, eCommerce, Produkcyjna, Sektor publiczny, Transportowa, Usługi
Opis
Symfonia to polski producent oprogramowania, jeden z największych dostawców systemów ERP dla firm z sektora MŚP. Symfonia specjalizuje się w tworzeniu programów i aplikacji, w tym chmurowych, przeznaczonych do obsługi i automatyzacji finansów....
rozwiń