Co ma Harry Potter wspólnego z AI i danymi Twojej firmy?
5 minut czytania
Sztuczna inteligencja miała pomagać pisać szybciej, analizować sprawniej i oszczędzać czas. I robi to całkiem dobrze. Jest jednak jedno pytanie, które coraz częściej pojawia się obok zachwytów nad nowymi możliwościami: co właściwie dzieje się z danymi, które wklejamy do AI?
Odpowiedź nie jest tak prosta, jak mogłoby się wydawać. Co ciekawe, żeby ją zrozumieć, warto przyjrzeć się eksperymentowi, którego głównym bohaterem wcale nie była nowoczesna technologia. Był nim Harry Potter.
Dlaczego temat danych w AI zaczyna interesować firmy
Jeszcze rok czy dwa lata temu większość rozmów o sztucznej inteligencji dotyczyła głównie możliwości. Jak napisać lepszy tekst. Jak szybciej przygotować raport. Jak automatycznie podsumować spotkanie.
Dziś coraz częściej pojawia się inne pytanie. Czy dane, które przekazujemy modelom AI, rzeczywiście pozostają bezpieczne?
To ważne szczególnie dlatego, że w codziennej pracy do narzędzi AI trafiają fragmenty ofert, dokumenty projektowe, notatki ze spotkań, analizy finansowe czy dane klientów. Często dzieje się to całkowicie naturalnie. Pracownik chce przyspieszyć swoją pracę, więc kopiuje fragment dokumentu i prosi model o pomoc.
Samo korzystanie z AI nie jest problemem. Warto jednak wiedzieć, że w zależności od rodzaju usługi i licencji przekazane informacje mogą być przetwarzane na różnych zasadach. W niektórych przypadkach dane użytkowników mogą być wykorzystywane do dalszego rozwoju modeli.
I właśnie tutaj pojawia się temat ekstrakcji danych.
Kiedy AI zaczyna przypominać ucznia uczącego się na pamięć
Większość osób myśli o modelach językowych jak o systemach, które tworzą nowe odpowiedzi. To prawda, ale nie zawsze cała prawda.
Podczas trenowania modeli zdarza się, że niektóre fragmenty danych zostają zapamiętane niemal dosłownie. Trochę jak uczeń, który zamiast zrozumieć lekturę, nauczył się kilku stron na pamięć.
Eksperci określają próbę wydobycia takich zapisanych fragmentów mianem ekstrakcji danych. To sytuacja, w której użytkownik odpowiednio formułuje polecenia, aby model nie tworzył własnej odpowiedzi, ale odtworzył informacje znajdujące się w jego danych treningowych.
Warto zapamiętać: Model nie zawsze tylko rozumie wzorce. W określonych sytuacjach może także zapamiętywać fragmenty danych, na których był trenowany.
Brzmi teoretycznie?
Badacze ze Stanforda postanowili sprawdzić, jak wygląda to w praktyce.
Harry Potter stał się testem bezpieczeństwa
Naukowcy z Stanford RegLab postawili przed modelami pozornie proste zadanie. Wzięli fragment książki „Harry Potter i Kamień Filozoficzny” i poprosili modele o dalsze kontynuowanie tekstu słowo w słowo. Celem było sprawdzenie, czy AI zacznie tworzyć własną historię, czy też odtworzy oryginalną treść zapamiętaną podczas treningu.
Wyniki okazały się bardzo interesujące.
Niektóre modele potrafiły odtworzyć znaczną część oryginalnego tekstu. Według badania Claude 3.7 Sonnet odtworzył 95,8% treści po zastosowaniu techniki omijającej zabezpieczenia. Gemini 2.5 Pro osiągnął wynik 76,8%, a Grok 3 około 70,3%. Z kolei GPT-4.1 okazał się znacznie bardziej odporny i pozwolił odzyskać jedynie około 4% tekstu.
To nie oznacza, że jeden model jest „lepszy”, a drugi „gorszy”. Pokazuje natomiast coś bardzo ważnego. Modele różnią się podejściem do bezpieczeństwa i poziomem zabezpieczeń chroniących przed ujawnianiem danych treningowych.
Krótki kontekst: Badacze pokazali, że z niektórych produkcyjnych modeli można było odzyskać duże fragmenty tekstu, mimo istniejących zabezpieczeń.
Co wspólnego ma z tym Twoja firma
W tym miejscu wiele osób myśli: „Przecież Harry Potter nie ma nic wspólnego z naszym biznesem”.
I rzeczywiście. Problem nie dotyczy książek.
Eksperyment pokazuje natomiast pewną zasadę. Jeśli model potrafi odtworzyć fragment znanej powieści, pojawia się pytanie, jak zachowa się wobec innych informacji, które mogły znaleźć się w danych treningowych lub zostały przekazane przez użytkowników.
Nie oznacza to oczywiście, że każda rozmowa z AI prowadzi do wycieku danych. Byłoby to zbyt daleko idące uproszczenie.
Pokazuje jednak, że bezpieczeństwo informacji nie kończy się na wyborze narzędzia. Coraz większe znaczenie ma sposób korzystania z niego w organizacji.
W Proxivia często powtarzamy, że największe ryzyko nie wynika z samej technologii. Najczęściej wynika z założenia, że skoro narzędzie jest wygodne, to automatycznie jest też bezpieczne.
Bezpieczna praca z AI zaczyna się od kilku prostych zasad
Dobra wiadomość jest taka, że firmy mają realny wpływ na poziom bezpieczeństwa swoich danych.
Pierwszym krokiem jest świadomy wybór licencji. Wersje konsumenckie wielu narzędzi różnią się od planów biznesowych i korporacyjnych. W przypadku rozwiązań Enterprise dostawcy często gwarantują, że dane klientów nie są wykorzystywane do trenowania modeli
Drugim elementem jest odpowiednie przygotowanie danych przed ich wysłaniem do AI. W praktyce oznacza to usuwanie danych osobowych, nazw klientów, numerów dokumentów czy innych informacji, które nie są potrzebne do wykonania zadania
Coraz więcej firm wdraża również systemy Data Loss Prevention (DLP), które automatycznie wykrywają i maskują wrażliwe dane przed ich opuszczeniem organizacji.
To nie są spektakularne działania. Nie pojawiają się w nagłówkach branżowych serwisów. Pozwalają jednak korzystać z AI z dużo większym spokojem.
Krótki kontekst: Badacze pokazali, że z niektórych produkcyjnych modeli można było odzyskać duże fragmenty tekstu, mimo istniejących zabezpieczeń.
AI nie jest problemem. Problemem jest brak świadomości
Sztuczna inteligencja pozostanie z nami na długo. Wszystko wskazuje na to, że będzie coraz mocniej integrowała się z codzienną pracą firm.
Dlatego najważniejsze pytanie nie brzmi już: „Czy korzystać z AI?”.
Znacznie ważniejsze jest pytanie: „Jak korzystać z niej świadomie?”.
Eksperyment z Harrym Potterem nie jest ostrzeżeniem przed sztuczną inteligencją. To przypomnienie, że każda technologia ma swoje ograniczenia. Im lepiej je rozumiemy, tym większą korzyść możemy z niej wyciągnąć.
Bo ostatecznie celem nie jest unikanie AI.
Celem jest korzystanie z niej tak, aby pomagała firmie, a nie przypadkiem opowiadała jej sekrety komuś innemu.
Co najczęściej firmy chcą wiedzieć na tym etapie.
Czy sztuczna inteligencja może zapamiętać informacje wprowadzone przez użytkownika?
Modele AI są trenowane na bardzo dużych zbiorach danych i w określonych sytuacjach mogą zapamiętywać fragmenty informacji. Dlatego warto zwracać uwagę na zasady przetwarzania danych określone przez dostawcę usługi oraz rodzaj wykorzystywanej licencji.
Na czym polega ekstrakcja danych z modelu AI?
Ekstrakcja danych to próba skłonienia modelu do odtworzenia informacji, które zostały wykorzystane podczas jego treningu. Atakujący odpowiednio konstruuje polecenia, aby model zamiast generować nową odpowiedź, odtworzył istniejący wcześniej fragment danych.
Czy korzystanie z AI oznacza ryzyko wycieku danych firmowych?
Ryzyko zależy od sposobu korzystania z narzędzi, rodzaju licencji oraz procedur obowiązujących w organizacji. Im więcej poufnych informacji trafia do publicznych narzędzi bez odpowiednich zabezpieczeń, tym większa potrzeba kontroli nad tym procesem.
Dlaczego firmy powinny korzystać z wersji Enterprise narzędzi AI?
Wersje biznesowe i korporacyjne często oferują dodatkowe gwarancje dotyczące przetwarzania danych oraz ich odseparowania od procesów trenowania modeli. To jeden z podstawowych elementów budowania bezpiecznego środowiska pracy z AI.
Czy pracownicy powinni przygotowywać dane przed wklejeniem ich do AI?
Tak. Dobrą praktyką jest usuwanie danych osobowych, nazw klientów, informacji handlowych i innych danych wrażliwych, które nie są konieczne do realizacji danego zadania.
Czy możliwe jest całkowite wyeliminowanie ryzyka przy korzystaniu z AI?
Nie. Podobnie jak w przypadku innych technologii ryzyka nie da się usunąć całkowicie. Można je jednak znacząco ograniczyć poprzez odpowiednie procedury, szkolenia użytkowników oraz wybór właściwych rozwiązań technologicznych.
