Przejmij-kontrolę-nad-AI-w-firmie-–-przepisy-AI-Act

Przejmij kontrolę nad AI w firmie – przepisy AI Act

Przepisy regulujące korzystanie ze sztucznej inteligencji przez firmy (tzw. AI Act) weszły w życie 1 sierpnia 2024 r. Ich celem jest wspieranie biznesu w odpowiedzialnym wdrażaniu oraz rozwoju AI, uwzględniając podnoszenie poziomu bezpieczeństwa obywateli Unii Europejskiej. Oznacza to, że przedsiębiorcy wszystkich branż będą mieli nowe obowiązki w zachowaniu transparentności w obszarze AI. Zmiany prawne obejmują wszystkie systemy i aplikacje, które wykorzystują technologię sztucznej inteligencji.

Przejmowanie kontroli nad AI – kolejne kroki

Porządkowanie kwestii AI w firmie należy zacząć od rozpoznania i zarejestrowania wszystkich rozwiązań AI, w tym bezpłatnych aplikacji używanych przez pracowników. Po dokonaniu inwentaryzacji konieczne jest przeprowadzenie oceny wykorzystywanych narzędzi pod kątem ryzyka określonego w ustawie AI Act. W dalszej kolejności warto opracować politykę i zasady wykorzystywania sztucznej inteligencji firmie.

Rozpoznanie – gdzie jest AI w naszych procesach biznesowych?

Sztuczna inteligencja to technologia, która nie tylko zajmuje się obliczeniami na ogromnych zbiorach danych, ale także może rozpoznawać ludzką mowę czy stworzone przez człowieka obrazy. AI znajduje swoje zastosowanie między innymi w:

  • przeglądarkach internetowych i komunikatorach – oferują one funkcje automatycznego tłumaczenia językowego stron internetowych, asystentów rozmów w komunikatorach (odpowiadających automatycznie na pytania);
  • czat-botach oraz wirtualnych asystentach – obsługujących klientów online (automatyzacja obsługi);
  • biometrii w systemach IT – która jest używana do uwierzytelniania w procesie logowania (rozpoznaje twarze, siatkówkę oka i odciski palców);
  • głosowych poleceniach dla systemów i aplikacji biurowych – czyli wszystkich rozwiązaniach, które umożliwiają dyktowanie treści (np. maili) oraz wydawanie komend systemom IT lub aplikacjom;
  • generowaniu tekstów, prezentacji, grafik, zdjęć – tzw. kreatory kontentu;
  • automatycznym rozpoznawaniu dokumentów i zarządzaniu nimi w procesie biznesowym, tj, przekazywaniu do odpowiedniego działu/osoby w firmie (identyfikacja i klasyfikacja obrazów);
  • wykrywaniu cyberzagrożeń – np. podejrzanych, nietypowych transakcji, prób wyłudzeń, włamań (detekcja oszustw na poziomie wykrywania nieprawidłowości w ruchu);
  • Business Intelligence (wsparcie decyzji biznesowych) – czyli aplikacji analitycznych prognozujących sprzedaż, trendy, personalizujące oferty, promocje i automatyczną obsługę klienta oraz optymalizujące biznes od łańcuchów dostaw po produkcję.

Ryzyko AI i jego ocena zgodnie z ustawą AI Act

Ocena ryzyka AI według ustawy AI Act będzie obowiązywać przedsiębiorstwa już za 2 lata, ale warto zaznaczyć, że część regulacji wejdzie w życie wcześniej. Wszystkim systemom IT i rozwiązaniom opartym na sztucznej inteligencji ma zostać nadana kategoria ryzyka minimalnego, specyficznego, wysokiego lub niedopuszczalnego.

W pierwszej kolejności – bo za pół roku – przedsiębiorców zaczną obowiązywać przepisy zakazujące korzystania z rozwiązań zaliczanych do kategorii ryzyka niedopuszczalnego. Do tej grupy narzędzi będą należeć m.in. systemy wykorzystujące dane biometryczne, np. do monitorowania działań zatrudnionych w miejscu pracy.

Do systemów wysokiego ryzyka zostaną zakwalifikowane aplikacje stosowane przy rekrutacjach, ocenach zdolności kredytowej i automatycznym uruchamianiu robotów. Te rozwiązania będą podlegać rygorystycznym wymogom – m.in. konieczności zapewnienia nadzoru człowieka nad robotami.

Ryzyko specyficzne odnosi się do konieczności zapewnienia transparentności wykorzystywania sztucznej inteligencji w firmie. Oznacza to, że firmy będą musiały informować klientów, którzy korzystają z ich systemu, że w interakcji wykorzystywana jest AI – np., że rozmawia z czat-botem (a nie człowiekiem).

Minimalne ryzyko obejmuje większość systemów i rozwiązań AI wykorzystywanych obecnie w biznesie. Algorytmy AI wspierające biznes w obszarze tworzenia treści czy podejmowania decyzji na bazie danych zebranych wewnętrznie nie będą objęte restrykcjami. Niemniej ta grupa narzędzi wymagać będzie kontroli nad danymi, które przetwarza ta technologia.

Polityka AI w firmie: kontrola nad danymi i zgodność z innymi przepisami

Każda firma, która korzysta z sztucznej inteligencji, powinna stworzyć odpowiednie procedury uwzględniające kategoryzację ryzyk. Konieczne jest także wskazanie możliwości wykorzystania tej technologii w kontekście danych przez nią przetwarzanych. Przedsiębiorstwo oraz jego pracownicy musza mieć świadomość, że dane wykorzystywane przez aplikacje AI mogą naruszać prywatność lub stanowić cudzą własność.

PRZYKŁAD ZAGROŻENIA: Pracownicy przygotowują kontent z wykorzystaniem bezpłatnych aplikacji AI – np. prezentację firmową. Aplikacja, z której korzystają, pobiera do tego celu dowolne zdjęcia lub teksty dostępne w zasobach online. Firma nie wie, czy aplikacja AI ma prawa do pobieranych danych – mogą one np. zostać skradzione (wykorzystane bez uwzględnienia prawa autorskiego).

Ochrona danych osobowych w kontekście AI (zgodność z RODO)

AI działa na podstawie danych, w tym także na podstawie informacji o osobach fizycznych (dane osobowe). Pracując z systemami automatyzacji obsługi klienta, CRMami, BI oraz scoringowymi mamy do czynienia z danymi prawdziwych ludzi, które podlegają szczególnej ochronie (RODO).
Część aplikacji AI pobiera dane z zasobów internetowych (źródła zewnętrzne), nad którymi organizacje biznesowe nie mają kontroli. Jeśli nasze systemy wymagają takich danych lub firma trenuje na nich swoje algorytmy – rośnie ryzyko naruszenia danych osobowych. Praca z porządkowaniem AI musi więc uwzględniać procedurę wykorzystania informacji wrażliwych w firmie.

Przepisy AI Act przypominają nam, że stosowanie wszelkich systemów IT, aplikacji czy najnowszych technologii musi odbywać się zgodnie z regułami chroniącym ludzi. Dlatego już teraz warto tworzyć dokumentację i rejestry działań związanych z wykorzystywaniem sztucznej inteligencji. Systemowe podejście i etyczne wykorzystanie AI musi także obejmować szkolenia dla pracowników. Pełna kontrola nad AI zagwarantuje bezpieczeństwo prawne i operacyjne zarówno firmie (oraz osobom w niej zatrudnionych), jak i jej klientom.

Robert Zyskowski, CTO, Grupa Symfonia 

Komentarze (0)

Napisz komentarz

Nie ma tutaj jeszcze żadnego komentarza, bądź pierwszy!

Napisz komentarz
Dodaj komentarz

Przeczytaj również:

AI w księgowości – jak usprawnić pracę biura rachunkowego?

AI w księgowości już dziś realnie usprawnia pracę, ale nie zastępuje odpowiedzialności, wiedzy eksperckiej ani oceny specjalisty w sprawach wymagających zastosowania przepisów. Największą wartość daje tam, gdzie łączy automatyzację procesów księgowych z analizą danych, kontrolą dokumentów i sprawniejszą komunikacją z klientami. AI w księgowości w praktyce Sztuczna inteligencja w branży księgowości nie jest już tylko modnym hasłem. Dla biur rachunkowych i działów finansowych oznacza przede wszystkim szybsze przetwarzanie dokumentów, wsparcie analiz, lepszą organizację pracy i większą efektywność na co dzień. W praktyce wykorzystanie AI ma sens wtedy, gdy skraca czas realizacji powtarzalnych zadań i poprawia jakość danych, a nie wtedy, gdy działa obok systemu i nie wpływa na procesy. Czym różni się AI od OCR i RPA? W dyskusji o automatyzacji łatwo wrzucić do jednego worka OCR, robotic process automation i sztuczną inteligencję, choć każde z tych rozwiązań służy do czegoś innego. OCR odczytuje treść dokumentów, na przykład faktur. RPA wykonuje z góry zaplanowane czynności według procedur, na przykład przenosi dane między systemami albo uruchamia określone działania po spełnieniu warunku. AI idzie krok dalej, bo potrafi rozpoznawać wzorce, wspierać klasyfikację dokumentów, sugerować sposób księgowania, generować raporty i przygotowywać materiał do dalszej oceny przez specjalistę. Dlatego AI w księgowości nie sprowadza się do prostego przepisywania danych. Jej zastosowanie obejmuje także analizę, przewidywanie i wspieranie decyzji operacyjnych na podstawie dużych zbiorów informacji. Jak działa AI w pracy księgowych? AI działa tam, gdzie otrzymuje dane wejściowe, porównuje je z wcześniejszymi wzorcami, regułami lub modelem uczenia maszynowego i przygotowuje wynik: rekomendację, klasyfikację, wykrycie odchylenia, projekt odpowiedzi albo raport. W pracy księgowych może to oznaczać podpowiedź, czy dokument ma komplet danych, czy płatności zgadzają się z fakturami albo czy dany wydatek wymaga dodatkowej kontroli. Im lepsza jakość danych i im lepsza integracja AI z procesami księgowymi, tym większa szansa, że narzędzie rzeczywiście usprawni pracę, zamiast tworzyć dodatkowy etap weryfikacji. Gdzie AI daje największą wartość w księgowości? Największe korzyści zwykle nie pojawiają się w najbardziej spektakularnych wdrożeniach, ale w dobrze uporządkowanej codziennej pracy. To właśnie tam sztuczna inteligencja pomaga odzyskać czas, ograniczyć ręczne księgowanie i uporządkować komunikację z klientami. Faktury, dokumenty i księgowanie To dziś jeden z najbardziej praktycznych obszarów zastosowania. Narzędzia AI mogą wspierać odczyt faktur, rozpoznawanie pól, przypisywanie dokumentów do właściwych spraw, wstępne kategoryzowanie kosztów i przygotowanie danych do zaksięgowania. W połączeniu z elektronicznym obiegiem dokumentów i systemami księgowymi skraca to czas pracy nad pojedynczym dokumentem oraz zmniejsza liczbę prostych pomyłek. Dla biur rachunkowych ma to szczególne znaczenie przy dużej skali obsługi klientów. Gdy dokumenty spływają z wielu kanałów, automatyzacja procesów księgowych pozwala ograniczyć ręczne sortowanie, pilnowanie braków i wysyłanie powtarzalnych przypomnień. Analizy danych, raporty i ocena wyników AI jest przydatna nie tylko przy wprowadzaniu danych. Coraz częściej wspiera analizy danych, generowanie raportów i wykrywanie mniej oczywistych odchyleń. Może szybciej wychwycić zmianę struktury kosztów, nietypowy wzrost wydatków w określonej kategorii albo różnice między bieżącym okresem a wcześniejszym. To ważna zmiana dla branży księgowej, bo rośnie znaczenie pracy doradczej. Klienci oczekują dziś nie tylko poprawnego zaksięgowania dokumentów, ale też krótkiego i zrozumiałego omówienia danych: co się zmieniło, gdzie rośnie ryzyko i jakie decyzje warto rozważyć. Komunikacja z klientami i organizacja pracy Asystenci AI coraz częściej wspierają także komunikację. Mogą przygotowywać robocze odpowiedzi na powtarzalne pytania klientów, przypominać o brakujących dokumentach, porządkować zgłoszenia i podsumowywać ustalenia. W biurach rachunkowych to realna oszczędność czasu, zwłaszcza w okresach spiętrzenia pracy. Nie chodzi jednak o pełne oddanie komunikacji maszynie. W sprawach standardowych AI może odciążyć zespół, ale w tematach związanych z przepisami podatkowymi, wyjątkami, ryzykiem i odpowiedzialnością rola specjalistów nadal pozostaje kluczowa. Czy AI zastąpi księgowych? To pytanie wraca regularnie, bo rozwój technologii budzi jednocześnie ciekawość i obawy. W praktyce trafniejsze jest inne: które zadania przejmie AI, a które staną się jeszcze ważniejsze po jej wdrożeniu? Które zadania przejmie automatyzacja? Najbardziej podatne na automatyzację są zadania powtarzalne, oparte na jasnych regułach i dużej liczbie podobnych operacji. Dotyczy to między innymi wstępnej obróbki faktur, kompletowania dokumentów, podstawowej kontroli zgodności danych, generowania zestawień i części raportów. To oznacza, że pracę księgowych zmienią przede wszystkim narzędzia do automatyzacji, a nie jednorazowa rewolucja. W wielu organizacjach zniknie część ręcznych czynności, ale nie zniknie potrzeba kontroli, oceny i wiedzy eksperckiej. Co pozostanie po stronie księgowych? Po stronie księgowych pozostają strategiczne aspekty pracy: ocena danych, ocena skutków decyzji, dobór właściwego podejścia do klienta, kontrola zgodności, reagowanie na wyjątki i odpowiedzialność za końcowy efekt. AI może podpowiadać rozwiązania i przygotowywać materiał do oceny, ale nie przejmuje odpowiedzialności prawnej ani zawodowej. Dlatego stwierdzenie, że AI zastąpi księgowych, jest zbyt dużym uproszczeniem. Bardziej prawdopodobny jest scenariusz, w którym księgowi pracują inaczej: mniej czasu poświęcają na ręczne czynności, a więcej na analizę, relacje z klientami, kontrolę ryzyka i podejmowanie decyzji biznesowych. Przykład 1. Biuro rachunkowe obsługujące kilkudziesięciu klientów usługowych co miesiąc otrzymywało faktury trzema kanałami: mailem, przez komunikatory i w papierze. Po uporządkowaniu obiegu dokumentów i integracji AI z systemem do rejestracji dokumentów zespół przestał ręcznie sortować pliki i pilnować braków w arkuszu. Księgowe odzyskały czas na kontrolę wyjątków i kontakt z klientami, którzy faktycznie wymagali wyjaśnienia. Przykład 2. W firmie handlowej AI zaczęła przygotowywać cykliczne raporty o opóźnionych płatnościach i zmianach marży. Sam raport nie rozwiązał problemu, ale skrócił drogę do decyzji, bo dział finansowy szybciej widział, których klientów trzeba objąć dodatkową kontrolą i gdzie potrzebna jest rozmowa o warunkach współpracy. Jak bezpiecznie wdrażać AI? Najwięcej problemów nie wynika dziś z samej technologii, ale z chaotycznego wdrożenia. Jeśli firma lub biuro rachunkowe uruchamia narzędzia AI bez zasad, kontroli dostępu i podziału odpowiedzialności, ryzyko szybko rośnie. Dane, bezpieczeństwo i zgodność W księgowości AI niemal zawsze pracuje na danych wrażliwych biznesowo, a często także na danych osobowych. Dlatego bezpieczeństwo nie może być dodatkiem do projektu. Trzeba ustalić, jakie dokumenty wolno przekazywać do danego rozwiązania, czy dane są wykorzystywane do dalszego trenowania modelu, gdzie są przetwarzane i kto ma do nich dostęp. To szczególnie ważne przy korzystaniu z publicznych narzędzi AI. Nawet jeśli dostawca deklaruje wysoki poziom zabezpieczeń, biuro rachunkowe albo firma powinny ocenić zgodność sposobu przetwarzania danych z zasadami RODO, w tym z zasadą legalności, minimalizacji danych i ograniczenia celu. W praktyce oznacza to konieczność sprawdzenia warunków usługi, zakresu powierzanych danych i wewnętrznych procedur, zanim narzędzie zostanie dopuszczone do pracy na dokumentach klientów. Kontrola człowieka, szkolenia i procedury W obszarze księgowości nie wystarczy, że system przez większość czasu generuje poprawne wyniki. Potrzebna jest możliwość sprawdzenia, skąd wzięła się rekomendacja, kto zatwierdza efekt i kiedy człowiek ma obowiązek wejść w proces. Dotyczy to zwłaszcza analizy danych, odpowiedzi dla klientów i działań opartych na przepisach podatkowych. Do tego dochodzą szkolenia. Art. 4 AI Act nakłada obowiązek podejmowania działań na rzecz odpowiedniego poziomu kompetencji w zakresie AI na dostawców i podmioty stosujące systemy AI, z uwzględnieniem ich roli, kontekstu użycia oraz osób, których system może dotyczyć. Przepisy te stosuje się od 2 lutego 2025 r. W praktyce oznacza to, że pracownicy powinni rozumieć nie tylko funkcje narzędzia, ale także jego ograniczenia, ryzyka i zasady kontroli. Integracja AI z systemami księgowymi Największy sens biznesowy ma integracja AI z istniejącymi rozwiązaniami: obiegiem dokumentów, workflow, systemami księgowymi, repozytoriami plików i narzędziami do komunikacji. Bez tego AI bywa tylko dodatkowym oknem, do którego trzeba ręcznie przeklejać dane. Właśnie tu nowoczesne rozwiązania dla biur rachunkowych zyskują znaczenie. Jeśli system porządkuje dokumenty klientów, wspiera komunikację, skraca drogę od dokumentu do zaksięgowania i pozwala zachować kontrolę nad procedurami, wtedy technologia przekłada się na realny wzrost efektywności. W ten kierunek naturalnie wpisuje się Symfonia eBiuro dla biur rachunkowych: nie jako samodzielny silnik AI, ale jako środowisko, w którym cyfryzacja, automatyzacja i uporządkowana współpraca z klientami dają praktyczny efekt. Przyszłość AI w księgowości Przyszłość branży księgowej nie polega na całkowitym zastąpieniu ekspertów przez algorytmy. Bardziej prawdopodobny jest model, w którym AI przejmuje część zadań operacyjnych, a rola księgowych przesuwa się w stronę kontroli, oceny, doradztwa i wspierania przedsiębiorców w podejmowaniu lepszych decyzji. To oznacza także zmianę oczekiwań wobec zespołów. Rośnie znaczenie umiejętności analizy, zadawania właściwych pytań narzędziom AI, oceny jakości odpowiedzi i łączenia danych finansowych z biznesowym kontekstem klienta. W branży księgowości przewagę konkurencyjną będą miały te organizacje, które połączą technologię z procedurami i kompetencjami, a nie te, które po prostu kupią kolejne narzędzia AI. Podsumowanie AI w księgowości jest dziś przede wszystkim praktycznym narzędziem do usprawnienia pracy, a nie zapowiedzią końca zawodu. Najwięcej daje tam, gdzie wspiera analizę dokumentów, generowanie raportów, komunikację i automatyzację procesów księgowych, ale działa pod kontrolą człowieka i w ramach jasno opisanych procedur. Dla biur rachunkowych oraz firm ważniejsze od pytania, czy wdrażać AI, staje się dziś pytanie, jak zrobić to mądrze: z dbałością o bezpieczeństwo, zgodność, szkolenia i realną integrację z codziennym sposobem pracy. FAQ – najczęściej zadawane pytania o AI w księgowości Czy AI w księgowości zastąpi księgowych? AI w księgowości nie zastąpi księgowych w obszarach wymagających odpowiedzialności, zastosowania przepisów do konkretnej sytuacji, oceny ryzyka i kontaktu doradczego z klientem. Najczęściej przejmuje zadania powtarzalne, czasochłonne i oparte na dużej liczbie podobnych danych. Jakie są najbardziej praktyczne zastosowania AI w księgowości? Najbardziej praktyczne zastosowania obejmują analizę dokumentów, odczyt faktur, wsparcie księgowania, generowanie raportów, wykrywanie odchyleń w danych, automatyzację komunikacji i porządkowanie pracy przy dużej liczbie spraw. Czym różni się AI od zwykłej automatyzacji? Zwykła automatyzacja wykonuje z góry zaprogramowane czynności według reguł, a sztuczna inteligencja potrafi rozpoznawać wzorce, uczyć się na danych i przygotowywać rekomendacje lub klasyfikacje w bardziej zmiennym środowisku. Czy publiczne narzędzia AI są bezpieczne dla biura rachunkowego? Publiczne narzędzia AI nie zawsze są bezpieczne dla biura rachunkowego, jeśli trafiają do nich dane klientów bez kontroli nad zakresem przetwarzania, lokalizacją danych i zasadami dalszego wykorzystania. Przed wdrożeniem trzeba sprawdzić warunki usługi, procedury i poziom ochrony danych. Od czego zacząć wdrożenie AI w biurze rachunkowym? Wdrożenie AI w biurze rachunkowym najlepiej zacząć od jednego procesu o dużej powtarzalności, na przykład obiegu faktur, kontroli braków dokumentów albo przygotowania raportów. Dopiero po sprawdzeniu efektów warto rozszerzać wykorzystanie AI na kolejne procesy.
Female Accountants Working in Office
Logo firmy Symfonia
zweryfikowano

5/5(1 głosy)

Symfonia

Innowacyjne ERP dla biznesu


Symfonia
Mazowieckie
1000 osób
Zobacz profil
Branża
Biura rachunkowe, Budownicza, eCommerce, Produkcyjna, Sektor publiczny, Transportowa, Usługi
Opis
Symfonia to polski producent oprogramowania, jeden z największych dostawców systemów ERP dla firm z sektora MŚP. Symfonia specjalizuje się w tworzeniu programów i aplikacji, w tym chmurowych, przeznaczonych do obsługi i automatyzacji finansów....
rozwiń