AI w firmie zgodnie z zasadami: jak zacząć i gdzie postawić granice
Jak odpowiedzialnie wdrożyć AI w firmie: konkretne przykłady, ochrona danych, podział odpowiedzialności i granice samodzielności agenta. Na końcu porównanie warunków dostawców modeli.
·13 min czytania
Agent czytający zapytania, porównujący dokumenty albo przygotowujący odpowiedzi może oszczędzić zespołowi sporo pracy. W europejskiej firmie do projektu trzeba jednak dopisać kilka pytań: jakie dane otrzyma, kto będzie miał do nich dostęp i za które działania nadal odpowiada człowiek.
Tak, to dodatkowa praca. Szczególnie gdy demonstracja narzędzia obiecuje, że wystarczy podłączyć skrzynkę i nacisnąć przycisk. Da się jednak zorganizować wdrożenie tak, żeby wymagania prawne i zabezpieczenia były częścią procesu, który firma rozumie i potrafi utrzymać. Zyskuje wtedy przewidywalność: wiadomo, co system może zrobić, co wymaga zatwierdzenia i jak go zatrzymać, kiedy coś pójdzie nie tak.
Przejdźmy przez trzy przykłady, a następnie przez decyzje potrzebne przed uruchomieniem. Na końcu znajduje się krótkie porównanie dostawców modeli.
Najpierw zadanie i granice samodzielności
„Agent do obsługi klientów” to zbyt szerokie zamówienie. „System przygotowujący szkic odpowiedzi na zgłoszenie serwisowe, na podstawie zatwierdzonych instrukcji” daje już podstawę do rozmowy o jakości, danych i odpowiedzialności.
Warto ustalić cztery rzeczy: skąd system pobiera informacje, jakie materiały może wykorzystać, gdzie zapisuje wynik i które czynności wykonuje samodzielnie. Odpowiedź powinna być zrozumiała dla wszystkich - również dla osób, które jedynie korzystają z rozwiązania.
Serwis urządzeń: szybciej przygotowana odpowiedź
Firma serwisowa otrzymuje wiadomość z opisem usterki i kodem błędu. Agent odnajduje właściwą instrukcję, proponuje pytania uzupełniające i przygotowuje odpowiedź. Pracownik sprawdza ją przed wysłaniem.
Rozsądny początek to instrukcje, do których firma ma prawa, oraz fikcyjne zgłoszenia testowe. Później można dopuścić rzeczywiste wiadomości z wybranej kolejki. Modelowi często wystarczą typ urządzenia, kod błędu i opis objawów; adres domowy klienta nie pomaga znaleźć właściwej procedury.
Granica: agent nie otrzymuje od razu całej skrzynki i nie obiecuje samodzielnie bezpłatnej wymiany urządzenia. Zgłoszenia nietypowe lub zawierające nieprzewidziane dane kieruje do pracownika. Gdy odpowiedź może dotyczyć bezpieczeństwa użytkownika, potrzebna jest odpowiednio dokładna weryfikacja merytoryczna.
Księgowość: wykrycie różnicy między fakturą a zamówieniem
System odczytuje dokument, dopasowuje zamówienie i wskazuje rozbieżności. AI może pomóc rozpoznać układ pliku oraz opisać problem. Sumowanie kwot i sprawdzanie podatku warto powierzyć zwykłemu kodowi, którego wynik łatwiej zweryfikować.
Granica: wykrycie różnicy nie daje agentowi uprawnienia do zmiany numeru rachunku ani zlecenia przelewu. Księgowość otrzymuje porównanie ze wskazaniem dokumentów źródłowych. Przed przekazaniem treści modelowi można pominąć dane, których porównanie nie wymaga.
Część procesu być może da się zrealizować zwykłą automatyzacją. Wybór prostszego rozwiązania bywa korzystny zarówno dla jakości, jak i zakresu danych przekazywanych dalej.
Obsługa reklamacji: podsumowanie i propozycja kolejnego kroku
Agent porządkuje korespondencję, wskazuje braki i przygotowuje szkic odpowiedzi. Pracownik widzi oryginalne dokumenty, może zmienić propozycję i ma czas na rzeczywistą ocenę sprawy.
Granica: samodzielna odmowa reklamacji konsumenta jest innym zadaniem niż przygotowanie szkicu. Przy decyzjach opartych wyłącznie na automatycznym przetwarzaniu danych osobowych, które wywołują skutki prawne lub podobnie istotnie wpływają na osobę, znaczenie ma art. 22 RODO. Przewiduje ograniczenia, wyjątki i zabezpieczenia w procesie. Wyjaśnienie Europejskiej Rady Ochrony Danych.
W tych przykładach kontrola człowieka ogranicza ryzyko błędnej decyzji. Osobno trzeba zadbać o zgodność samego przekazywania i przechowywania danych.
Dane osobowe w codziennej korespondencji firmowej
Do sprawdzenia usterki wystarczyłby kod błędu i model urządzenia. Tymczasem w wiadomości są jeszcze podpis klienta, numer telefonu, adres dostawy, a niżej — kilka poprzednich rozmów. Kiedy przekazujemy agentowi cały wątek, dostaje również te informacje, choć większość z nich do niczego mu się nie przyda.
Właśnie tutaj zaczyna się temat RODO. Nie trzeba mieć dokumentacji medycznej ani bazy numerów PESEL, żeby przetwarzać dane osobowe. Zwykła korespondencja firmowa jest ich pełna. Imienny adres pracownika kontrahenta też dotyczy konkretnego człowieka, nawet jeśli piszemy do niego wyłącznie w sprawach służbowych. Współpraca między firmami tego nie zmienia. Komisja Europejska wyjaśnia zakres RODO.
Nie zawsze pomoże wykreślenie nazwiska. Jeśli po numerze sprawy albo szczegółach opisanej sytuacji nadal można ustalić, o kogo chodzi, dane pozostają osobowe. Informacje o zdrowiu czy poglądach politycznych wymagają dodatkowej ochrony, ale przepisy obejmują również znacznie bardziej codzienne rzeczy: kontakt do klienta, jego zakupy i historię zgłoszeń. Przystępnie opisuje to poradnik Europejskiej Rady Ochrony Danych — instytucji skupiającej krajowe organy ochrony danych UE i Europejskiego Inspektora Ochrony Danych, dalej nazywanej EROD.
Dlatego przed podłączeniem skrzynki warto przyjrzeć się kilku rzeczywistym wiadomościom i zapytać: co z tego jest potrzebne do zadania? W przypadku usterki być może wystarczy sam opis techniczny. Przy organizacji wizyty serwisanta potrzebny będzie również adres. Zakres danych powinien wynikać z pracy, którą system ma wykonać.
Podobnie warto przyjrzeć się załącznikom. Rysunek techniczny może nie mówić nic o żadnej osobie, a mimo to zawierać poufne rozwiązanie kontrahenta. RODO nie wyczerpuje więc pytania, co wolno przekazać zewnętrznej usłudze. Znaczenie mają również tajemnica przedsiębiorstwa i zobowiązania przyjęte w umowach.
Do czego firma potrzebuje tych danych
Klient pisze do serwisu, bo urządzenie przestało działać. Oczekuje odpowiedzi, być może naprawy i ustalenia terminu wizyty. Jego wiadomość trafia do firmy w konkretnej sprawie. Gdy agent pomaga ją obsłużyć, warto trzymać się właśnie tej sprawy. Pomysł, żeby przy okazji z całej korespondencji zbudować bazę do przyszłych kampanii, wymaga już osobnego uzasadnienia.
Czy trzeba więc zapytać klienta o zgodę na użycie AI? Nie ma takiej ogólnej zasady. Firma musi wiedzieć, na jakiej podstawie przetwarza jego dane. Przy obsłudze zgłoszenia podstawą może być niezbędność do wykonania umowy, a przy innych zadaniach — obowiązek wynikający z prawa albo prawnie uzasadniony interes. Ten ostatni wymaga rozważenia również praw i interesów osoby, której dane dotyczą. Zgoda jest jedną z dostępnych podstaw i ma własne warunki; nie stanowi uniwersalnego pozwolenia na dowolne wykorzystanie informacji. Europejska Rada Ochrony Danych wyjaśnia, jak dobierać podstawę przetwarzania.
Podpisanie umowy z wykonawcą automatyzacji porządkuje współpracę, ale samo w sobie nie odpowiada na pytanie, dlaczego wolno przetwarzać dane klientów czy pracowników. To trzeba ustalić dla zadania, które system rzeczywiście będzie wykonywał. W praktyce dobrze wyjaśnić to przed podłączeniem danych: co firma chce zrobić, czyich informacji potrzebuje i co uzasadnia ich użycie.
Dopiero wtedy łatwiej zdecydować, co powinien otrzymać model. Aplikacja może potrzebować adresu e-mail, żeby wysłać odpowiedź, podczas gdy do przygotowania jej treści wystarczy opis awarii. Dane kontaktowe mogą pozostać w systemie obsługującym zgłoszenie. Nie każdy element rozwiązania musi dostawać całą wiadomość.
Kto odpowiada za dane i działanie systemu
Firma serwisowa zamawia narzędzie do obsługi zgłoszeń. Wykonawca podłącza je do skrzynki i wybiera usługę, która dostarczy model. Pracownik serwisu sprawdza przygotowane odpowiedzi. W takim układzie łatwo założyć, że skoro każdy zajmuje się swoją częścią, odpowiedzialność również rozłoży się sama. Warto jednak ustalić ją równie konkretnie jak sposób działania narzędzia.
Firma decyduje, po co obsługuje zgłoszenia i jakich danych do tego potrzebuje. W tym zakresie zwykle jest administratorem danych. Jeśli wykonawca otrzymuje dostęp do wiadomości i przetwarza je na jej zlecenie, może pełnić rolę podmiotu przetwarzającego. Trzeba też uwzględnić dostawcę modelu: zależnie od organizacji współpracy może być bezpośrednim dostawcą firmy albo kolejnym podmiotem w łańcuchu przetwarzania. Role wynikają z tego, co strony rzeczywiście robią, a nie tylko z nazw wpisanych do umowy.
Dlatego przy powierzeniu danych potrzebna jest umowa określająca zasady ich obsługi. Powinna wyjaśniać choćby, do czego wykonawca ma dostęp, z jakich dalszych dostawców może korzystać i co stanie się z danymi po zakończeniu współpracy. U dostawców technologii taki dokument często występuje pod skrótem DPA — jako umowa lub dodatek dotyczący przetwarzania danych. Europejska Rada Ochrony Danych opisuje te role i obowiązki.
W codziennej pracy potrzebne są jeszcze prostsze ustalenia. Kto może podłączyć kolejną skrzynkę? Kto zatwierdza zmianę dostawcy modelu? Do kogo zadzwonić, jeśli odpowiedź trafi do niewłaściwego odbiorcy? W małej firmie kilka takich zadań może należeć do jednej osoby. Ważne, żeby obie strony wiedziały, do kogo się zwrócić i czego mogą od siebie oczekiwać.
Warto zaznaczyć, że umowa między administratorem danych a dostawcą usług przetwarzanie nie oznacza automatycznie zgody klientów tego pierwszego podmiotu na dowolne obchodzenie się z ich danymi. Umowa między firmą a wykonawcą nie usuwa praw tych osób ani obowiązków, które przepisy nakładają na każdą ze stron. RODO — tekst udostępniony przez UODO, polski Urząd Ochrony Danych Osobowych.
Pilotaż powinien sprawdzić także trudne sytuacje
Udana demonstracja pokazuje, że rozwiązanie AI potrafi wykonać zadanie. Przed uruchomieniem potrzebne są również próby z brakującymi danymi, sprzecznymi dokumentami, niewłaściwym odbiorcą i awarią usługi.
Dla opisanych scenariuszy rozsądny plan prób mógłby obejmować:
Dostęp: użytkownik i agent widzą tylko sprawy, do których mają uprawnienia; dane różnych klientów pozostają rozdzielone.
Treść dokumentów: polecenie ukryte w załączniku nie może zmienić uprawnień agenta ani skierować danych do innego odbiorcy.
Jakość: pracownik może sprawdzić źródło wniosku, poprawić wynik i skierować sprawę do ręcznej obsługi.
Zatrzymanie: istnieje prosty sposób wyłączenia automatycznych działań i powrotu do zwykłego procesu.
Dodatkowo, jeśli przetwarzanie może powodować wysokie ryzyko dla praw i wolności osób, potrzebna jest ocena skutków dla ochrony danych, określana jako DPIA. Dowiedz się więcej z poradnika EROD o bezpieczeństwie i ocenie ryzyka.
Po uruchomieniu: informowanie, przechowywanie i zmiany
Po kilku tygodniach działania do firmy może napisać klient z pytaniem, jakie informacje o nim zachowała. Może też poprosić o poprawienie błędnego adresu albo usunięcie danych. Dobrze móc wtedy odnaleźć jego sprawę i wiedzieć, gdzie trafiła jej treść. Oprócz maila mogą istnieć przecież podsumowanie przygotowane przez agenta, wpis w systemie zgłoszeń i kopia u dostawcy usługi.
Dlatego już przy wdrożeniu warto ustalić, kto odpowiada na takie prośby i jak sprawdza wszystkie te miejsca. Nie każda prośba o usunięcie oznacza, że trzeba skasować wszystko — część dokumentów firma może mieć obowiązek zachować. Powinna jednak umieć wyjaśnić swoją decyzję. Klient powinien też wcześniej otrzymać wymagane informacje o tym, po co i na jakich zasadach firma korzysta z jego danych. Europejska Rada Ochrony Danych wyjaśnia prawa osób i sposób ich obsługi.
Z czasem pojawi się również pytanie, co robić z zakończonymi sprawami. Historia napraw może być potrzebna przy kolejnym zgłoszeniu, ale robocze kopie tworzone podczas przygotowania odpowiedzi nie muszą pozostawać równie długo. Warto ustalić, które informacje są nadal potrzebne, z jakiego powodu i kiedy należy je usunąć. Zobacz zasady przechowywania danych według EROD.
Jeśli agent zacznie sam rozmawiać z klientami, pojawi się kolejna kwestia: czy osoba po drugiej stronie wie, z kim ma do czynienia? Jasna informacja, że odpowiada AI, oraz łatwy sposób przekazania sprawy pracownikowi pomagają uniknąć nieporozumień. Dla takich systemów trzeba również sprawdzić obowiązki wynikające z AI Act, unijnego rozporządzenia o sztucznej inteligencji. Ich zakres zależy od sposobu działania narzędzia i roli firmy. Komisja Europejska wyjaśnia obowiązki przejrzystości z art. 50.
Pracownicy potrzebują równie praktycznego przygotowania. Osoba obsługująca zgłoszenia powinna wiedzieć, gdzie sprawdzić źródło odpowiedzi, jak poprawić błąd i kiedy przejąć sprawę. Powinna też rozumieć, dlaczego nie należy wklejać dodatkowych dokumentów tylko dlatego, że narzędzie na to pozwala. Takie przygotowanie zespołu wiąże się również z kompetencjami w zakresie AI, o których mówi art. 4 AI Act. Wyjaśnienia Komisji Europejskiej.
Po udanym starcie zwykle przychodzą pomysły na rozbudowę: nowszy model, dostęp do internetu, kolejna skrzynka. Każdy z nich warto sprawdzić przed włączeniem. Wyszukiwarka może przekazywać zapytania następnej usłudze, a nowa skrzynka zawierać informacje, których wcześniej system nie obsługiwał. Krótki przegląd tego, co się zmienia i kto otrzyma dane, pozwala rozwijać narzędzie bez utraty kontroli nad jego działaniem.
Dostawcy modeli: krótkie porównanie przed wyborem
Usługi łatwiej porównać, gdy wiadomo już, jakie zadanie ma wykonywać system, na jakich danych będzie pracował i do czego potrzebuje dostępu. Sama nazwa modelu niewiele mówi o warunkach korzystania z niego. Prywatny czat, aplikacja dla firm i dostęp przez API, czyli interfejs łączący własne oprogramowanie z usługą dostawcy, mogą podlegać różnym zasadom.
Zapewnienie „nie wykorzystujemy Twoich danych do trenowania modeli” jest ważne. Nie odpowiada jednak na wszystkie pytania. Osobno trzeba sprawdzić, jak długo treści są przechowywane, kto może mieć do nich dostęp w związku z zapewnianiem bezpieczeństwa oraz co zmienia włączenie dodatkowych funkcji.
Usługa
Co dostawca deklaruje w sprawie trenowania modeli?
Co jeszcze warto sprawdzić przed wdrożeniem?
OpenAI: API i usługi dla firm
Umowa dla firm wymaga wyraźnej zgody klienta na wykorzystanie jego treści do rozwoju lub ulepszania usług. Prywatne plany czatu podlegają odrębnym zasadom. Warunki dla firm.
Plan, region i okres przechowywania danych. W ChatGPT Business wybór miejsca przechowywania ma określony zakres i wyjątki związane z bezpieczeństwem. W API dostępne ustawienia zależą od funkcji i uprawnień konta. Zasady dotyczące danych w API, przechowywanie danych w ChatGPT Business.
Anthropic: usługi Claude dla firm
Warunki dla firm wykluczają trenowanie modeli na treściach klienta objętych tymi warunkami. Prywatny abonament podlega odrębnym zasadom. Warunki dla firm.
W Gemini API zasady usług płatnych, określanych w umowie jako Paid Services, przewidują niewykorzystywanie treści do ulepszania produktów. Istnieją też szczególne zasady użycia danych w Europejskim Obszarze Gospodarczym (EOG), Szwajcarii i Wielkiej Brytanii. Warunki usług Workspace i Google Cloud należy sprawdzić oddzielnie. Warunki API, zasady ochrony danych w Workspace.
Umowę właściwą dla wybranej usługi. Gemini API przewiduje osobne wymagania dotyczące udostępniania aplikacji użytkownikom w EOG, Szwajcarii i Wielkiej Brytanii. Wybór regionu i włączenie wyszukiwarki mogą wpływać na warunki przetwarzania danych. Regiony w Google Cloud, przechowywanie danych i dodatkowe narzędzia.
Mistral
Zasady wykorzystania danych zależą od produktu, ustawień i umowy. Osobno trzeba sprawdzić zasady przesyłania opinii o odpowiedziach oraz korzystania z funkcji eksperymentalnych oznaczonych jako Labs lub Preview. Warunki dla firm.
Dokumentacja wskazuje, że treści nie służą trenowaniu modeli bazowych bez zgody lub instrukcji klienta. Zapewnienie to nie obejmuje automatycznie wszystkich ofert zewnętrznych dostawców w katalogu. Prywatność i wykorzystanie danych.
Wariant wdrożenia, miejsce wykonywania obliczeń i dodatkowe narzędzia. Warianty Global i DataZone EU różnią się zakresem geograficznym. Korzystanie z wyszukiwarki Bing podlega szczególnym warunkom. Warunki korzystania z produktów.
Amazon Bedrock
AWS deklaruje, że ani AWS, ani dostawcy modeli nie wykorzystują danych przesyłanych do usługi Bedrock ani uzyskanych odpowiedzi do trenowania modeli. Nie oznacza to jednak braku zapisów tworzonych na potrzeby bezpieczeństwa. Wyjaśnienie AWS.
Jeśli firma wymaga, aby dane pozostawały wyłącznie w UE, trzeba sprawdzić zarówno miejsce ich przechowywania, jak i wykonywania obliczeń, a także warunki działania dodatkowych usług. RODO nie nakazuje jednak wszystkim firmom przechowywania i przetwarzania wszystkich danych wyłącznie w UE. Przekazywanie danych osobowych poza EOG wymaga spełnienia odpowiednich warunków i nie zwalnia z pozostałych obowiązków. EROD o przekazywaniu danych za granicę.
Szczegóły dotyczące przetwarzania danych znajdują się w umowach lub dodatkach publikowanych przez OpenAI, Anthropic, Mistral, Google — dla API, Google Cloud, Microsoft i AWS. To tam warto sprawdzić, z jakich podwykonawców korzysta dostawca, dokąd przekazuje dane, jak je usuwa i jakie obowiązki spoczywają na każdej ze stron.
Można zacząć od małego procesu i zrobić go porządnie
Przed uruchomieniem właściciel firmy powinien móc otrzymać prostą odpowiedź: system korzysta z tych danych, wykonuje te czynności, te decyzje zostawia pracownikowi, a za utrzymanie i incydenty odpowiadają wskazane osoby. Dokumentacja i ustawienia powinny tę odpowiedź potwierdzać.
Europejskie wymagania oznaczają dodatkowy wysiłek. Warto wykorzystać go do uporządkowania procesu: ograniczenia dostępu, wyłapania wyjątków i ustalenia odpowiedzialności. To przydaje się także wtedy, gdy zawiedzie model albo trzeba zmienić dostawcę.
Dobrym początkiem może być jedna kolejka zgłoszeń lub jeden rodzaj dokumentu. Po sprawdzeniu działania można rozszerzać zakres. Tam, gdzie wystarczy zwykła automatyzacja, warto z niej skorzystać. Tam, gdzie AI pomaga zrozumieć nieuporządkowaną treść, można dołączyć model z jasno ustalonymi granicami.
Materiał edukacyjny dotyczący wybranych aspektów wdrażania AI; nie stanowi kompletnej analizy zgodności konkretnego systemu. Branża, rodzaj danych i zastosowanie mogą wymagać dodatkowej oceny prawnej.
