.jpg)
Czym jest zarządzanie sztuczną inteligencją?
Zarządzanie sztuczną inteligencją to ogół wszystkich struktur, wytycznych i procesów, które zapewniają, że systemy sztucznej inteligencji działają zgodnie z przepisami i celami przedsiębiorstwa. Obejmuje ono kwestie organizacyjne (kto o czym decyduje?), aspekty techniczne (które modele są udokumentowane?) oraz wymogi prawne (zgodność z unijną ustawą o sztucznej inteligencji).
Różnice w stosunku do pojęć pokrewnych:
- Zarządzanie IT reguluje infrastrukturę i eksploatację systemów. Zarządzanie sztuczną inteligencją obejmuje dodatkowo cały cykl życia modeli.
- Ochrona danych / RODO stanowi jeden z elementów tych wymagań. Zarządzanie sztuczną inteligencją stanowi nadrzędne ramy.
- Etyka sztucznej inteligencji formułuje zasady. Zarządzanie sztuczną inteligencją zapewnia ich operacyjną skuteczność poprzez procesy i dokumentację.
- Regulacje dotyczące sztucznej inteligencji obejmują ustawy i przepisy organów państwowych, które mają charakter wiążący dla wszystkich organizacji na danym obszarze. Zarządzanie sztuczną inteligencją opisuje natomiast, w jaki sposób pojedyncze przedsiębiorstwo zarządza sztuczną inteligencją wewnętrznie i ponosi za nią odpowiedzialność.
Dlaczego przedsiębiorstwa potrzebują zarządzania sztuczną inteligencją?
Przedsiębiorstwa potrzebują zarządzania sztuczną inteligencją, aby uniknąćproblemów związanych z odpowiedzialnością, naruszeń ochrony danych oraz utraty kontroli nad własnymi systemami. Unijna ustawa o sztucznej inteligencji (EU AI Act) weszła w życie w pełnym zakresie 1 sierpnia 2024 r. i wymaga od przedsiębiorstw jasnego podziału obowiązków oraz dostarczenia weryfikowalnych dowodów.1
Aplikacje oparte na sztucznej inteligencji wiążą się ze złożonością, która stanowi coraz większe wyzwanie dla istniejących struktur zarządzania w przedsiębiorstwie. Kluczowa jest tutaj równowaga: zbyt wąskie ramy hamują tworzenie wartości, a zbyt luźne pozwalają na niekontrolowane pojawianie się nowych zagrożeń.
Agenci AI jeszcze bardziej zaostrzają te wymagania. Stanowią oni centralny element tzw. frameworków Agentic-AI (struktur technicznych i organizacyjnych, w których współpracuje ze sobą wielu agentów AI). Agenci AI działają autonomicznie i mogą popełniać błędy. Przed wdrożeniem takich agentów należy zatem wyjaśnić, kto ponosi odpowiedzialność w przypadku poważnych zdarzeń oraz jakie mechanizmy kontrolne mają zastosowanie.
W firmie Proalpha dostrzegamy w tworzeniu struktur typu „Agentic AI” nowy potencjał w zakresie efektywności. Jednak zwłaszcza dla mniejszych przedsiębiorstw wiąże się to ze znacznym nakładem organizacyjnym.2 Tym ważniejsze jest wdrożenie w przedsiębiorstwie systemu zarządzania sztuczną inteligencją, który krok po kroku będzie towarzyszył temu rozwojowi, a jednocześnie zapewni wystarczającą przestrzeń dla innowacji.
Co powinno znaleźć się w ramach zarządzania sztuczną inteligencją?
Kompletne ramy składają się z pięciu elementów: struktury organizacyjnej, organizacji procesów, rejestru sztucznej inteligencji, zarządzania ryzykiem i zgodnością oraz monitoringu.- Struktura organizacyjna (kto podejmuje decyzje?): Rada ds. zarządzania sztuczną inteligencją (AI Governance Board) ocenia kwestie strategiczne i etyczne, natomiast dyrektor ds. sztucznej inteligencji (CAIO) kieruje bieżącą działalnością operacyjną. Macierz RACI określa, kto zatwierdza systemy sztucznej inteligencji, kto pełni rolę doradczą, a kto jest informowany. Bez tej macierzy dochodzi do nakładania się obowiązków i powstawania „martwych punktów”.
- Organizacja procesowa (w jaki sposób zatwierdzane są systemy AI?): Przed każdym uruchomieniem systemy przechodzą trzy obowiązkowe etapy: test techniczny, ocenę prawną zgodnie z unijną ustawą o sztucznej inteligencji (EU AI Act) oraz odbiór merytoryczny. Ścieżka audytu w sposób przejrzysty dokumentuje decyzje oparte na danych. Zasada podwójnej kontroli chroni przed niezweryfikowanymi zmianami w środowisku produkcyjnym.
- Rejestr AI ( wykaz wszystkich systemów AI w środowisku produkcyjnym): model, wersja, data zatwierdzenia, osoba odpowiedzialna.
- Monitorowanie: wydajność, stronniczość i dryft modelu są na bieżąco rejestrowane. Podstawowe wskaźniki KPI: MTTR (Mean Time To Repair) – jak szybko usuwane są incydenty? Aktualność udokumentowanych systemów można sprawdzić na podstawie audytów przeprowadzanych co kwartał.
- Zarządzanie ryzykiem i zgodnością: wnioski z monitorowania są uwzględniane w wewnętrznym systemie kontroli (IKS) oraz systemie zarządzania zgodnością (CMS). Dostawcy i twórcy systemów AI podlegają przy tym surowszym obowiązkom udokumentowania niż zwykli użytkownicy. IKS musi odzwierciedlać to rozróżnienie.
Zarządzanie sztuczną inteligencją w przedsiębiorstwie: zaniedbane a wdrożone – porównanie
Stopniowe wdrażanie zasad zarządzania sztuczną inteligencją w małych i średnich przedsiębiorstwach
Krok 1: Określenie strategii i planu działania w zakresie sztucznej inteligencji
Przed podjęciem jakichkolwiek działań w zakresie zarządzania należy podjąć podstawową decyzję: jak przedsiębiorstwo definiuje sztuczną inteligencję, do czego ma ona służyć i jaka jest jego średnioterminowa wizja?
Na podstawie strategii opracowuje się plan działania: kompleksowy harmonogram z jasno określonymi obowiązkami i mierzalnymi celami dotyczącymi wewnętrznego wdrożenia sztucznej inteligencji. Plan działania nie jest dokumentem jednorazowym. Należy go na bieżąco dostosowywać do wniosków płynących z praktyki w zakresie zarządzania.
Krok 2: Analiza stanu obecnego w zakresie sztucznej inteligencji: wykrywanie „cieniowej sztucznej inteligencji”
Wiele przedsiębiorstw korzysta z sztucznej inteligencji w działach specjalistycznych (ChatGPT, Copilot, platformy automatyzacyjne) w sposób niekontrolowany, bez wiedzy działu IT lub kierownictwa. Inwentaryzacja pozwala zidentyfikować wszystkie aktywne przypadki użycia oraz ocenić ich klasę ryzyka zgodnie z unijną ustawą o sztucznej inteligencji (EU AI Act), tworząc w ten sposób podstawę dla rejestru sztucznej inteligencji.
Krok 3: Analiza luk – czego naprawdę brakuje?
Przed stworzeniem nowych struktur warto przyjrzeć się temu, co już istnieje, aby uniknąć powielania pracy: jakie mechanizmy zarządzania IT, danymi lub zgodnością z przepisami już istnieją i które z nich można z niewielkim nakładem pracy rozszerzyć na sztuczną inteligencję?
Często wystarczy dostosowanie istniejących procesów (np. procedur zatwierdzania, ocen skutków dla ochrony danych), aby wyeliminować pierwsze luki w zarządzaniu związane z wdrażaniem sztucznej inteligencji w małych i średnich przedsiębiorstwach. Nowe mechanizmy tworzy się wyłącznie w przypadku braku solidnych podstaw.
Krok 4: Stworzenie minimalnej struktury podstawowej
Na początek wystarczą trzy elementy:- Utworzenie rejestru AI: model, wersja, osoba odpowiedzialna, klasa ryzyka
- Określenie wytycznych dotyczących dozwolonych danych i obowiązków związanych z zatwierdzaniem
- Wyznaczenie osoby odpowiedzialnej
Krok 5: Ugruntowanie procesów, dokumentacji i zaangażowanie interesariuszy
Kto zatwierdza nowe narzędzia oparte na sztucznej inteligencji? Jakie dane są dozwolone? W jaki sposób dokumentowane są decyzje? Na początek wystarczą następujące wskaźniki KPI:
- Kompletność rejestru: Czy uwzględniono wszystkie aktywne przypadki użycia?
- MTTR: Jak szybko usuwane są incydenty?
- Wskaźnik dokumentacji: Jaki odsetek systemów jest udokumentowany w sposób umożliwiający kontrolę?
Krok 6: Wzmocnienie kompetencji pracowników i zapewnienie integracji
Szkolenia muszą być dostosowane do poszczególnych ról : użytkownicy, kierownictwo zespołów i dział IT mają różne potrzeby informacyjne. Nowe zasady zarządzania przynoszą efekty tylko wtedy, gdy pracownicy je znają i stosują.
Krok 7: Ocena, skalowanie i zapewnienie zgodności z unijną ustawą o sztucznej inteligencji
Ciągłe monitorowanie, regularne informacje zwrotne z praktyki oraz gotowość do dostosowania wybranego podejścia do zarządzania to wymagania strukturalne.
Norma ISO 42001 zapewnia sprawdzoną strukturę skalowania: wdrażanie w uproszczonej formie, stopniowe rozszerzanie. Ponieważ technologie i obszary zastosowań szybko się rozwijają, nowe przypadki użycia sztucznej inteligencji regularnie powodują nowe iteracje całego procesu.
Źródła:
2Finkler, M. Czy klasyczne platformy oprogramowania tracą na znaczeniu w obliczu rosnącej popularności wydajnych dostawców modeli LLM? Odcinek podcastu, Proalpha Group. Agentic AI jako szansa dla systemów ERP i przyszłości oprogramowania dla przedsiębiorstw w rzeczywistym kontekście biznesowym.
Protschky, D., Schüll, M. i Urbach, N. Zarządzanie sztuczną inteligencją – metoda transformacji istniejących mechanizmów zarządzania w przedsiębiorstwach, 194–201 (2024).
Zaplanuj spotkanie z ekspertem!
Chcesz sprawdzić, jak Proalpha może usprawnić procesy w Twojej organizacji? Umów spotkanie z Filipem Marcinkiewiczem, Senior Manager Sales & Marketing Poland, i porozmawiajmy o rozwiązaniach dopasowanych do potrzeb Twojego biznesu.
