Czego NIGDY nie powinieneś umieszczać w sztucznej inteligencji

Czego NIGDY nie powinieneś wprowadzać do sztucznej inteligencji [wideo i quiz]

Krótka odpowiedź: Nigdy nie umieszczaj haseł, kluczy API, identyfikatorów, historii zdrowia lub bankowych, plików klientów NDA ani danych innych osób w publicznym czacie AI. Kiedy potrzebujesz pomocy, opisz problem za pomocą symboli zastępczych i usuniętych fragmentów — model potrzebuje kształtu problemu, a nie sekretów, które odblokowują rzeczywiste systemy.

Najważniejsze wnioski:

Tajemnice pozostają offline: nigdy nie wklejaj haseł, tokenów, plików cookie ani fraz źródłowych do monitu.

Zdejmij tożsamość: Zamień prawdziwe nazwiska, adresy i numery dokumentów tożsamości na dane dotyczące stanowisk i fałszywe dane.

Poufność pracy: Trzymaj projekty NDA, pliki klientów i nieopublikowane plany poza czatem konsumenckim.

Granica zgody: Nie wklejaj danych osobowych współpracowników, klientów ani dzieci bez zgody wyrażonej wyłącznie przez człowieka.

Najpierw zredaguj: użyj symboli zastępczych i oczyszczonych fragmentów; rotuj wszystko, co już wyciekło.

Czego NIGDY nie powinieneś umieszczać w sztucznej inteligencji

Najpierw wklejamy, a potem myślimy. Chatbot siedzi jak cierpliwy stażysta z nieskończoną ilością kawy, więc wrzucenie całego zawiłego problemu do skrzynki wydaje się niemal nieszkodliwe. Login, który nie działa. Klauzula w umowie, która przyprawia o skurcze żołądka. Zrzut ekranu pulpitu nawigacyjnego, na którym widoczne są wszystkie nazwy. Narzędzie jest pomocne, atmosfera wydaje się prywatna, a mózg po cichu odkłada to na bok obok „notatek, które sam napisałem”

To jest pułapka. 🧠 Czat nie jest zamkniętą szufladą. To rozmowa z systemem, który przechowuje, przetwarza, a czasem uczy się tego, co wysyłasz, w zależności od produktu, ustawień i tego, czy w ogóle zauważyłeś te ustawienia. Nie zamierzam wpędzać Cię w panikę i zamykać w bunkrze. Mam praktyczną mapę tego, czego NIGDY nie powinieneś wdrażać w AI, a także skromne, ale praktyczne nawyki, które pozwolą Ci uzyskać trafne odpowiedzi.

Wyobraź sobie, że wykrzykujesz sekret w zatłoczonej kuchni. Nie wszyscy obcy słuchają. Ale niektórzy mogą. A kuchnia nagrywa z powodów, które nigdy nie są tak proste, jak sugeruje tekst marketingowy.

Dlaczego wrzucamy wszystko do pola czatu

Szybkość. To w zasadzie wszystko. Utknąłeś, błąd jest brzydki, a wklejenie całego logu wydaje się szybsze niż jego rozebranie. Kontekst wydaje się być wyrazem życzliwości dla modelu. Więcej szczegółów, lepsza pomoc; tak głosi folklor, i jest to w połowie prawda.

Druga połowa jest emocjonalna. Chatbot nie unosi brwi. Nie powie o tym twojemu menedżerowi. Nie będzie plotkował przy lunchu. Traktujemy go więc jak pamiętnik z supermocami. Ja to zrobiłem. Ty prawdopodobnie to zrobiłeś. W chwili, gdy coś jest jednocześnie wygodne i nieosądzające, nasze instynkty prywatności robią sobie przerwę na herbatę.

Oto lekko irytująca prawda: model nie potrzebuje twoich codziennych danych, żeby ci pomóc. Potrzebuje formy problemu. Imiona, tokeny, numery kont i twarze na zrzutach ekranu to tylko dodatek. Pyszny dodatek. Nadal dodatek.

  • Wklejasz, bo edycja wydaje się dodatkową pracą.
  • Wklejasz, bo „tylko ten jeden raz” to nawyk kryjący się za kamuflażem.
  • Wklejasz, ponieważ interfejs wygląda jak prywatna wiadomość prywatna i zachowuje się jak szafka na dokumenty.

Nic z tego nie czyni cię lekkomyślnym. To czyni cię człowiekiem. Rozwiązaniem jest dwusekundowa pauza, a nie przeszczep osobowości.

Hasła, klucze API i sekrety, które powinny pozostać offline 🔐

Jeśli coś może odblokować, to nie powinno to być w monicie. Hasła. Kody jednorazowe. Pliki cookie sesji. Klucze SSH. Ciągi połączenia z bazą danych. Klucz API, który obiecałeś sobie wkrótce wymienić. Frazy początkowe portfela. Prywatne certyfikaty. Pytanie o odzyskanie, które Twój bank nadal uważa za sprytne.

Kiedyś myślałem o kluczach jak o kluczach do domu na haczyku przy drzwiach. Urocza metafora; wszystko rozpada się od razu, bo klucz do domu otwiera jedne drzwi, a klucz API może otworzyć magazyn, konto rozliczeniowe i stertę danych klientów, o których istnieniu zapomniałeś. Cofanie: traktuj sekrety jak radioaktywne. Nie wkłada się radioaktywnych rzeczy do prasy do kanapek, nawet jeśli prasa świetnie sobie z nimi radzi.

Model nie może „zachować tego między nami” tak, jak robi to przyjaciel. Nawet jeśli dostawca oferuje kontrolę pamięci, nawet jeśli wyłączysz trening, tekst nadal będzie się przemieszczał, zostanie w jakiś sposób zapisany i może pozostać w historii czatu, dopóki go nie odnajdziesz. Załóżmy, że wklejenie jest kopią, nad którą nie masz już pełnej kontroli.

Co zamiast tego zrobić

  • Opisz sekret według typu, a nie wartości. „Adres URL Postgres z hasłem” wystarczy jako wskazówka podczas debugowania.
  • Usuń za pomocą oczywistych symboli zastępczych: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Obróć wszystko, co już przeciekło. Zrób to teraz, a nie po tym, jak „zobaczysz, czy coś się stanie”
  • Przechowuj prawdziwe dane logowania w menedżerze haseł lub sejfie z sekretami; nigdy w wątku, którego zrzut ekranu możesz później zrobić.

Jeśli narzędzie prosi o wklejenie klucza, aby mogło „połączyć się za Ciebie”, to jest to inna kategoria produktu. To integracja z Access, a nie asystent pisania. Potraktuj to jak wręczenie komuś identyfikatora.

Identyfikatory osobiste i cichy ślad tożsamości 🪪

PII to mało efektowny kuzyn haseł. Numery dowodu osobistego. Dane paszportowe. Pola danych identyfikacyjnych powiązane z datą. Adresy domowe. Numery telefonów. Identyfikatory pracowników. Numery studentów. Pełne imiona i nazwiska wraz z datami urodzenia, nazwami szkół lub placówek medycznych. Jeden element wygląda na mały. Trzy elementy razem tworzą teczkę.

Ludzie robią to, gdy chcą napisać list, przetłumaczyć formularz lub dopracować CV. Cele są całkowicie rozsądne. Model nie potrzebuje prawdziwego kodu pocztowego, aby sporządzić uprzejmą skargę. Potrzebuje tonu, faktów, które nie identyfikują, i pożądanego rezultatu.

Chyba zaskakująco lepka część to „nieszkodliwe” kombinacje. Unikalny tytuł zawodowy plus miasto plus szkoła dziecka plus rzadka choroba. Nie umieściłbyś tego na ulotce. Czat to nie ulotka, ale to też nie skarbiec.

  • Zamień prawdziwe imiona na role: „kierownik ds. rekrutacji”, „mój lekarz rodzinny”, „najemca”
  • Uogólnij lokalizację: „średniej wielkości miasto”, a nie ulica i kod domofonu.
  • Zrezygnuj z unikatowych numerów, chyba że zadanie dotyczy konkretnego formatu liczbowego. W takim przypadku użyj fałszywego numeru, który wygląda na wystarczająco realistyczny.

Anonimizacja to nie doktorat. To nawyk sprawdzania, czy obcy mógłby cię wyłowić z szeregu na podstawie tego akapitu. Jeśli tak, przytnij.

Poufność w pracy, umowy o zachowaniu poufności i rzeczy, na widok których Twój szef by się wzdrygnął 📎

Tu właśnie pomoc wpędza ludzi w kłopoty. Wklejasz prezentację klienta. Nieopublikowany plan działania. Arkusz kalkulacyjny z wynagrodzeniami. Kod źródłowy z wewnętrznymi nazwami hostów. Projekt aktu prawnego, który nadal jest oznaczony jako poufny. Notatki ze spotkań z nazwiskami osób, którym jeszcze nie powiedziano. Umowę o zachowaniu poufności, którą podpisałeś w pośpiechu, bo kawa stygła.

Chatboty nie są doradcami Twojej firmy i nie stanowią bezpiecznego środowiska pracy, chyba że Twoja organizacja je wdrożyła. Narzędzia konsumenckie są tworzone z myślą o wygodzie. Narzędzia korporacyjne mogą być lepsze, dzięki kontroli retencji i zasadom administracyjnym; nadal nie są powodem, aby wklejać klejnoty koronne za przepustkę gramatyczną.

Praktyczna zasada, którą trzymam na karteczce samoprzylepnej w głowie: jeśli nie wrzuciłbyś tego do prywatnej wersji roboczej w Gmailu, nie wrzucaj tego do publicznego czatu AI. Jeśli nie powiedziałbyś tego podczas współdzielenia przejazdów, to samo. Osoby, które są ostrożne na Slacku, stają się poetami nadmiernego dzielenia się, gdy tylko pojawi się przycisk generowania.

Bezpieczniejsze obejścia

  • Opisz dokument: długość, odbiorców, trzy ważne punkty, pożądany ton.
  • Wklej wyczyszczony fragment. Usuń nazwiska, poufne dane i wszystko, za co konkurencja przybiłaby piątkę.
  • Poproś o strukturę lub schemat przepisywania, a następnie zastosuj go w rzeczywistym tekście w trybie offline.
  • Jeśli masz zatwierdzone narzędzie w miejscu pracy , korzystaj z niego i nadal domyślnie blokuj. Polityka to podłoga, a nie trampolina.

Kod jest tego szczególnym przykładem. Wewnętrzne adresy URL, nagłówki uwierzytelniania i komentarze takie jak „TODO: usuń przed przejęciem” to małe tagi prezentowe. Zastąp dane pozornymi. Zachowaj logikę. Model dobrze radzi sobie z pozornymi danymi; nie potrzebuje schematu produkcyjnego z prawdziwymi adresami e-mail klientów zagnieżdżonymi w elemencie.

Zdrowie, pieniądze i szczegóły, o których nie krzyczałbyś w kawiarni 💊

Dane medyczne i finansowe wydają się pilne, więc wkleja się je z minimalną ilością edycji. Wyniki badań laboratoryjnych. Listy recept. Identyfikatory ubezpieczeniowe. Wyciągi bankowe. Pisma podatkowe. Raporty kredytowe. Zdjęcie karty „tylko z czterema ostatnimi cyframi”, które w jakiś sposób zawiera resztę karty, Twój stół kuchenny i list z czyimś nazwiskiem.

Możesz zadawać doskonałe pytania bez surowego zapisu. „Wyjaśnij, co ogólnie może oznaczać podwyższony wskaźnik” to polecenie. „Oto mój pełny panel, mój adres, moja klinika i panieńskie nazwisko mojej matki” to biografia.

Nie mówię, żeby nigdy nie rozmawiać o zdrowiu czy pieniądzach z modelką. Mówię, żeby traktować chatbota jak oczytanego nieznajomego w pociągu. Dobry do zobrazowania. Fatalny jako księgowy, lekarz czy archiwum. I tak, wiem, że metafora oczytanego nieznajomego jest nieszczelna; pociągi nie prowadzą logów czatów. Właśnie o to chodzi.

  • Usuń numery kont, kody sortowania, numery IBAN i wszystko, co wygląda jak dane uwierzytelniające.
  • Poproś o ogólne wyjaśnienia, listy kontrolne i pytania, które możesz zadać profesjonaliście.
  • Nie traktuj czatu jak szafki na oświadczenia, „aby móc je później sprawdzić”. To właśnie w ten sposób późniejsze przechowywanie staje się problemem.

Jeśli jakaś komenda zmusiłaby Cię do ściszenia głosu w kawiarni, najpierw zredaguj. Ten test jest zaskakująco wiarygodny i nic nie kosztuje.

Dane innych osób nie są Twoje i nie możesz ich wklejać 🚫

Ten wątek pomijam, bo wydaje się, że jesteś głównym bohaterem czatu. Nie jesteś jedyną osobą na zrzucie ekranu. E-maile od kolegów. Identyfikator partnera. Skarga klienta z załączonym numerem telefonu. Zdjęcia dzieci. Wątek na Slacku z nazwiskiem osoby, która o mało nie została zwolniona. Transkrypcja rozmowy, o której druga osoba nie wiedziała, zostanie przesłana do modelki.

Zgoda nie zmienia się automatycznie z „wysłali mi e-mail” na „maszyna może to zapisać”. Nawet jeśli masz dobre intencje – piszesz lepszą odpowiedź, podsumowujesz chaotyczny wątek – to i tak surowy ładunek to ich życie, a nie twoje brudnopisy.

Nieco sarkastyczny test: jeśli nie przesłałbyś tego samego blobu na listę mailingową nieznajomych „w celu uzyskania opinii”, to nie traktuj chatbota jak mniejszej listy mailingowej z lepszymi manierami.

  • Podsumuj innych ludzi swoimi słowami.
  • Zastąp imiona i nazwiska rolami i usuń dane kontaktowe.
  • Zapytaj daną osobę, czy zadanie jest poufne; niektóre rzeczy powinny być zarezerwowane tylko dla człowieka.
  • Nigdy nie wklejaj danych osobowych dzieci, świadectw szkolnych ani zdjęć identyfikacyjnych w celach „zabawnych”.

Jest tu aspekt prawny, którego nie będę udawał, że omawiam na blogu. Zasady ochrony prywatności, obowiązki pracownicze i umowy z klientami – wszystkie te kwestie mają swoje własne zdanie. Praktyczny nawyk jest prostszy niż prawo: domyślnie nie wysyłaj danych innych osób.

Czego NIGDY nie powinieneś wdrażać w sztuczną inteligencję: tabela ryzyka, którą możesz wykorzystać

Lubię do tego tabele, bo lista „nigdy” może brzmieć moralizatorsko, a siatka pozwala zobaczyć zamianę. Lekko subiektywne oceny, a nie raport laboratoryjny.

Typ danych Poziom ryzyka Dlaczego to jest problem Bezpieczniejsza alternatywa
Hasła, klucze API, tokeny, frazy początkowe Krytyczny Odblokowują systemy; kopia, której nie możesz w pełni odtworzyć, nadal jest kopią Symbole zastępcze i lokalny menedżer sekretów; obróć w przypadku wycieku
Dowody tożsamości rządowe, skany paszportów, numery krajowe Krytyczny Pakiet startowy na wypadek kradzieży tożsamości; trudno go „cofnąć” Fałszywe przykłady lub pytania dotyczące wyłącznie formatu
Dokumentacja medyczna, recepty, identyfikatory ubezpieczeniowe Wysoki Intymny, regulowany i lepki w historii Ogólne objawy lub tematy; nie umieszczaj identyfikatorów na stronie
Wyciągi bankowe, dokumenty podatkowe, zdjęcia kart Wysoki Bezpośrednie narażenie finansowe plus dodatkowe ubezpieczenie PII na marżach Pytaj o procesy, a nie o surowe liczby przypisane do Ciebie
Akta klientów, projekty NDA, nieopublikowane plany Wysoki Możesz łamać obietnicę, którą już podpisałeś Zdezynfekowane fragmenty, prośby o strukturę, zatwierdzone narzędzia pracy
Dane osobowe współpracowników lub klientów, dane dzieci Wysoki Nie masz prawa przekazywać darowizny modelce Podsumowania oparte na rolach; usuń kontakty i twarze
Źródło wewnętrzne z nazwami hostów i prawdziwymi adresami e-mail Średnio-wysoki Wygląda na to, że to tylko „kod”, dopóki ktoś nie zmapuje Twojej sieci Dane pozorne, fałszywe domeny, usunięte komentarze
Zrzuty ekranu pulpitów nawigacyjnych lub skrzynek odbiorczych Średnio-wysoki Przemycają nazwiska, numery i otwarte karty, o których istnieniu zapomniałeś Przytnij, rozmyj lub wpisz ponownie odpowiedni fragment kodu
Niejasne historie osobiste bez unikalnych identyfikatorów Niżej Zwykle w porządku, ale nadal pomijam wszystko, czego nie powiedziałbyś obcej osobie Zachowaj uogólnienie; pomiń rzadkie kombinacje identyfikujące

Jeśli niczego innego nie pamiętasz, zapamiętaj lewą kolumnę. To sedno artykułu „ Czego NIGDY nie powinieneś wkładać do sztucznej inteligencji”, gdy się spieszysz, a twój mózg chce wkleić wszechświat.

Pułapki na zrzuty ekranu i przypadkowe udostępnianie zbyt wielu treści 🖼️

Zrzuty ekranu to sposób, w jaki dobrzy ludzie przeciekają. Chodzi ci o pokazanie okna dialogowego błędu. Zrzut obejmuje pasek zakładek, znaczek Slacka z nazwą, adres URL z tokenem, wyskakujące okienko kalendarza i odbicie w ciemnym oknie, które okazuje się być menedżerem haseł. Przyciąłem zrzut ekranu i nadal nie zauważyłem małego przełącznika kont w rogu. To po prostu błąd.

Zdjęcia dokumentów są gorsze, bo aparaty fotograficzne są hojne. Stół, tablica, opaska szpitalna, etykieta wysyłkowa. Model może nie „potrzebować” dodatkowych pikseli. Piksele i tak dotrą.

Prosty rytuał robienia zrzutów ekranu

  • Najpierw przytnij. Potem przytnij jeszcze raz. A potem spójrz na krawędzie, jakby były ci winne pieniądze.
  • Zamazuj imiona, adresy e-mail, awatary i wszelkie ciągi znaków przypominające tokeny.
  • Wolę przepisać błąd niż przechwycić całe IDE.
  • Nie przesyłaj zdjęcia karty, paszportu ani karty pokładowej „do szybkiego przeczytania”. Zamiast tego wpisz pytanie.

Notatki głosowe i przesyłanie plików działają podobnie. Nagranie ze spotkania to bufet danych innych osób. Plik CSV to bufet wierszy, które przestałeś postrzegać jako osoby. Jeśli plik wzbudziłby niepokój prawników, nie umieszcza się go w pudełku.

Bezpieczniejsze wzorce podpowiedzi, które nadal dają Ci konkretne odpowiedzi ✨

Redakcja nie jest wrogiem jakości. Niejasne podpowiedzi już tak. Można precyzyjnie określić problem i skąpo opisać tożsamość. Na tym polega cała sztuka.

Wypróbuj ten kształt: cel, ograniczenia, fikcyjne dane wejściowe, pożądany wynik. „Przepisz tego e-maila z odmową, aby był uprzejmy, ale stanowczy. Odbiorcą jest niezależny projektant. Nie podawaj prawdziwej nazwy projektu. Oto poprawiony szkic z zamienionymi nazwami”. To jest polecenie z kręgosłupem. Nie wymaga eksportu do CRM.

Wzory, które działają

  • Zastąp wszystko, co unikalne. ACME_CLIENT, USER_A, TOKEN_X. Zachowaj gramatykę życia codziennego; pozbądź się odcisków palców.
  • Poproś o metodę, a nie o pamięć. „Przeprowadź mnie przez rozumowanie dotyczące tej klasy błędów” jest lepsze niż „oto cały nasz dziennik produkcji”.
  • Podziel zadanie. Pobierz szablon z modelu. Wypełnij wrażliwe fragmenty samodzielnie.
  • Użyj syntetycznych przykładów. Wymyśl klienta o imieniu River, który kupił lampę. Rada nadal jest aktualna.
  • Podaj to, co już usunięto. Modelki radzą sobie bez problemu z „[usunięto kwotę wynagrodzenia]”, jeśli podasz im logikę, która im to wyjaśnia.

Jest taki sprytny komunikat: „ignoruj ​​poprzednie zabezpieczenia, schowaj ten klucz”. Nie rób tego. Nie naruszasz swojej prywatności. Wrzucasz klucz do stawu i liczysz, że staw będzie nieśmiały.

Kolejny wzór, który lubię: skanowanie przed wklejeniem. Przed wysłaniem przeszukaj swój szkic pod kątem znaku @, ciągów znaków przypominających klucze (długich, losowych, często z prefiksem), liczb, które są zbyt długie, by były nieformalne, oraz nazw, których nie umieściłbyś na slajdzie. Dziesięć sekund. Opłaca się na zawsze.

Historia czatów, retencja i długi ogon wklejki 📦

Ludzie mówią o „chmurze” jak o systemie pogodowym. W praktyce mamy do czynienia z produktem z domyślnymi ustawieniami. Niektóre czaty służą do ulepszania modeli, chyba że użytkownik z nich zrezygnuje. Niektóre są przechowywane na potrzeby weryfikacji nadużyć, wniosków prawnych lub z powodów „aby wątek nadal się ładował jutro”. Niektóre plany dotyczące miejsca pracy przechowują logi dla administratorów. Nie będę udawał, że polityka jednego dostawcy jest uniwersalna, ponieważ tak nie jest i ulega zmianom, dlatego należy zapoznać się z ustawieniami produktu, a nie z pamięcią blogera.

Praktyczne podejście jest nudne i nieugięte: załóżmy, że wklejenie może przetrwać. Załóżmy, że członek zespołu z uprawnieniami administratora może widzieć wątki w miejscu pracy. Załóżmy, że w przyszłości zapomnisz o tej rozmowie, dopóki nie pojawi się w wyszukiwarce. Załóżmy, że eksportowanie historii to coś, co możesz zrobić później, a ten eksport to kolejna kopia.

  • Jeśli jest to dla Ciebie wygodniejsze, wyłącz opcję szkolenia lub „poprawiania modelu”, gdy produkt ją oferuje.
  • Usuń wrażliwe wątki po wyodrębnieniu praktycznych fragmentów do lokalnej notatki, która jest naprawdę lokalna.
  • Nie traktuj czatu jako systemu do zapisywania informacji dotyczących problemów kadrowych, pytań medycznych lub pracy z klientami.
  • Uważaj na konta współdzielone. Konta współdzielone to sposób, w jaki „prywatność” staje się biurowym folklorem.

Funkcje pamięci – te, które przypominają Ci pracę, psa, preferowany ton – są przydatne i trochę przerażające. To również powód, dla którego nie należy uczyć systemu Twoich prawdziwych identyfikatorów, „aby mógł być bardziej osobisty”. Osobowość to styl. To nie Twój numer ubezpieczenia społecznego.

Normy w miejscu pracy, gdy Twój zespół żyje w chatbotach 🏢

Biura to miejsca, gdzie nawyk wklejania przybiera formę przemysłową. Ktoś wrzuca plik CSV klienta, żeby „wyczyścić kolumny”. Ktoś inny wrzuca dokument strategiczny, żeby „był bardziej wyrazisty”. Dobrze życzący stażysta wkleja kanał incydentów. Nikt nie jest złoczyńcą. Motywacją jest szybkość i dopracowanie.

Jeśli kierujesz zespołem, napisz krótką, ludzką regułę. Nie 40-stronicową politykę, której nikt nie czyta. Na przykład: żadnych danych uwierzytelniających, żadnych danych osobowych klientów, żadnych nieujawnionych numerów, żadnych projektów aktów prawnych, korzystaj z zatwierdzonego narzędzia, domyślnie blokuj. Następnie pokaż przykład dobrze zdezynfekowanego komunikatu, żeby nikt nie zgadywał.

  • Podaj nazwę zatwierdzonego narzędzia, jeśli takie posiadasz, i nazwy narzędzi niezatwierdzonych.
  • Udostępnij listę kontrolną redagowania, którą uczestnicy będą mogli wypełnić przed wystąpieniem.
  • Zadbaj o to, aby można było śmiało powiedzieć „prawie to wkleiłem” bez teatralnego dochodzenia.
  • Przypomnij ludziom, że stwierdzenie „sztuczna inteligencja stwierdziła, że ​​wszystko jest w porządku” nie jest kontrolą.

Nawet jeśli nie przewodzisz zespołowi, nadal możesz być osobą, która wkleja atrapę. Kultura jest zaraźliwa w obie strony. Chyba brzmi to poważnie. Tak też zmieniają się normy: jedna osoba przestaje wyrzucać klucze, a w pokoju robi się nieco mniej bałaganu.

Teatr zakupów to zadanie poboczne, które pominę. Kupno opakowania „dla przedsiębiorstw” nie sprawi, że każda podpowiedź stanie się mądra. Może pomóc w retencji i dostępie. Twoje nawyki i tak odgrywają dużą rolę.

Już wkleiłeś coś niezręcznego – co teraz?

Zdarza się. Naciskasz „wyślij” i twoja dusza opuszcza ciało. Nie wpadaj w spiralę. Zrób krótką, nieco mało efektowną sekwencję.

  • Przestań używać tego sekretu. Zmień hasło, unieważnij klucz, unieważnij sesję. To jedyny krok, który raz na zawsze zamknie drzwi.
  • Usuń czat, jeśli produkt na to pozwala, i opróżnij folder „ostatnio usunięte”, jeśli taki istnieje.
  • Sprawdź podłączone aplikacje i pamięć. Niektóre narzędzia przechowują fragmenty kodu w pamięciach lub plikach projektów, o których zapomniałeś, że je włączyłeś.
  • Powiedz właściwej osobie, czy to były dane służbowe. Działowi bezpieczeństwa, menedżerowi, kierownikowi klienta; ktokolwiek jest odpowiedzialny za zasięg. Wczesne odkrycie jest mniej bolesne niż późniejsze.
  • Uważaj na nietypowe logowania na powiązanych kontach. Rotacja bez monitorowania to połowa sukcesu.

Jeśli to były dane kogoś innego, to również jesteś im winien posprzątanie i, w zależności od bałaganu, ostrzeżenie. Niezręczne. Ale i tak lepsze niż liczenie na to, że wszechświat będzie uprzejmy.

Nie próbuj „nadpisywać” przecieku, wklejając dodatkowe wyjaśnienia. Dodatkowy kontekst to dodatkowa treść. Wynoś się z wątku.

Składanie tego do kupy

Krótka wersja „ Czego NIGDY NIE POWINIENEŚ WKŁADAĆ DO AI” to nie lista krytyki. To postawa. Jeśli coś odblokowuje system, identyfikuje osobę lub sprawia, że ​​krzywisz się w kawiarni, to nie jest to już standardem. Nadal możesz uzyskać świetną pomoc. Wystarczy, że dasz modelowi szkic, a nie klucze do domu, dokumentację medyczną i pocztę sąsiada.

Krótkie podsumowanie:

  • Żadnych haseł, kluczy, tokenów ani fraz źródłowych. Zmień, jeśli się pomylisz.
  • Żadnych prawdziwych dowodów tożsamości, pełnych danych finansowych, dokumentacji medycznej ani materiałów objętych umową o poufności.
  • Żadnych prywatnych danych innych osób, zwłaszcza dzieci.
  • Zrzuty ekranu kłamią przez dołączenie; przycinaj je tak, jakbyś to miał na myśli.
  • Redaguj, imituj i pytaj o metody. Konkretny problem, fałszywe etykiety.
  • Załóż, że historia wciąż trwa. Usuń, a nie archiwizuj sekrety w chatbocie.
  • W miejscu pracy potrzebne są krótkie zasady i dobry przykład, a nie atmosfera luźnej prywatności.

Korzystaj z narzędzi. Są doskonałe do szkicowania, debugowania kształtów i rozwiązywania zawiłych błędów. Tylko przestań traktować pole tekstowe jak skarbiec z poczuciem humoru. To bardzo inteligentny blender. Nadal nie powinieneś wkładać paszportu do blendera. 🫡

Przykład praktyczny: Tworzenie briefu debugowania z uwzględnieniem redakcji dla małego zespołu inżynierskiego

Zasady prywatności obowiązują, gdy ratują zwykły wtorek, a nie wtedy, gdy brzmią surowo. Oto, jak pięcioosobowy brytyjski zespół SaaS wykorzystał nawyki opisane w tym poradniku, aby zaprzestać udostępniania danych uwierzytelniających i danych osobowych klientów w chatbotach konsumenckich – bez rezygnowania z pomocy w debugowaniu.

Scenariusz

Działy rozwoju i wsparcia mają jeden bolesny nawyk: gdy błąd uwierzytelniania wygląda nieestetycznie, ktoś wkleja cały log, ciąg połączenia tymczasowego i zrzut ekranu panelu administracyjnego, „aby model miał kontekst”. W zeszłym kwartale klucz API wyglądał na żywo w śladzie stosu, a adres e-mail klienta był nadal widoczny na pasku adresu URL zrzutu ekranu. Nikt nie miał złych intencji. Szybkość wygrała. Kuchnia prowadziła nagranie.

Nie potrzebują wykładu. Potrzebują powtarzalnego briefu: opisz sekret według typu, usuń z użyciem symboli zastępczych, przytnij zrzuty ekranu, poproś o metodę, a nie o pamięć, a następnie zastosuj poprawkę w systemach działających offline. Czat z klientem wciąż zarabia na swoje utrzymanie. Klucze do domu pozostają poza blenderem.

Celem jest uzyskanie takiej samej jakości porady, jak w przypadku dwusekundowego skanowania przed wklejeniem tekstu — i krótkiej reguły zespołowej, której ludzie będą przestrzegać.

Czego potrzebuje asystent

  • Zdezynfekowany kształt problemu: klasa błędu, przybliżony moment jego powstania, środowisko (środowisko przejściowe kontra produkcyjne) bez nazw hostów mapujących sieć
  • Tylko dane wejściowe fikcyjne: REDACTED_KEY, USER_TOKEN, customer@example.com, fałszywe identyfikatory żądań
  • Co zostało już usunięte (poinformowano w monicie, aby model nie pytał o prawdziwe wartości)
  • Oczekiwany wynik: prawdopodobne przyczyny, sprawdzenie do wykonania, zarys poprawki – nie „połącz się z moim kluczem”
  • Osoba przechowująca dane uwierzytelniające w menedżerze haseł lub sejfie sekretów
  • Jednostronicowa zasada zespołowa: brak danych uwierzytelniających, brak danych osobowych klienta, brak niepublikowanych danych, domyślne usuwanie

Przykładowa instrukcja

Cel: Pomóż mi debugować sporadyczny błąd 401 w naszym API przejściowym po odświeżeniu tokena. Nie proś mnie o wklejanie sekretów.

Ograniczenia: Zredagowałem już hasła, klucze API, tokeny, pliki cookie, wewnętrzne nazwy hostów i adresy e-mail klientów. Symbole zastępcze w dzienniku oznaczają, że prawdziwe wartości istnieją tylko na moim komputerze. Angielski (brytyjski). Bez wstępu.

Fragment przykładowy: Żądanie do https://api.example-staging.invalid/v1/session zwróciło błąd 401. Autoryzacja nagłówka: Bearer REDACTED_KEY. Treść wspomina o USER_TOKEN, który wygasł. Opis zrzutu ekranu (niezałączony): tylko komunikat o błędzie; pasek zakładek i przełącznik kont są niedostępne.

Zadanie: Wymień trzy najbardziej prawdopodobne przyczyny tego błędu, sprawdzenia, które powinienem przeprowadzić lokalnie, oraz minimalny opis poprawki. Jeśli potrzebujesz więcej szczegółów, poproś o konkretny typ informacji (np. „ustawienie TTL tokena”) – nigdy o surowy sekret.

Wynik: ponumerowane przyczyny, następnie lista kontrolna, a na końcu trzy punkty „czego nie wklejać następnym razem”.

Jak to przetestować

  • Porównaj starą wersję wklejoną (pełny dziennik + zrzut ekranu) z powyższym, zredagowanym raportem dotyczącym tego samego typu incydentu. Porównaj jakość porad i to, czy model żąda ujawnienia sekretów.
  • Skanowanie przed wklejeniem: przed wysłaniem przeszukaj wersję roboczą pod kątem znaku @, długich, losowych ciągów znaków i liczb, które są zbyt długie, aby można je było uznać za przypadkowe.
  • Przypadek skrajny: dodaj fałszywy klucz, który wygląda na oryginalny i upewnij się, że odpowiedź nadal działa bez konieczności podawania prawdziwej wartości.
  • Przypadek skrajny: odmów przesłania zrzutu ekranu, wpisz ponownie tylko linię błędu i upewnij się, że lista kontrolna nadal jest pomocna.
  • Kontrole akceptacji: (1) brak danych uwierzytelniających w wątku, (2) brak danych kontaktowych klienta, (3) zadeklarowano symbole zastępcze, (4) dane wyjściowe są metodą/listą kontrolną, a nie przepływem „wklej klucz”, (5) jeśli cokolwiek wyciekło wcześniej, rotacja nastąpiła tego samego dnia.

Wynik

Przykładowy wynik (przykładowy szacunek dla jednego małego zespołu inżynierów/wsparcia, a nie opublikowane badanie): W 12 czatach debugowania w ciągu czterech tygodni mediana czasu potrzebnego na stworzenie użytecznej listy kontrolnej nieznacznie wzrosła z około 4 minut (pełne wklejenie) do około 6 minut z redagowaniem – dwie dodatkowe minuty na skanowanie przed wklejeniem i użycie symboli zastępczych. Wątki zawierające krytyczne typy danych (klucze, adresy e-mail klientów, surowe ciągi połączeń) spadły z 9 na 12 czatów do 1 na 12 (ten został wykryty podczas weryfikacji i rotacji tego samego dnia). Na prostej liście kontrolnej higieny (brak sekretów, brak danych osobowych klienta, zadeklarowane symbole zastępcze, przycięte lub brak zrzutu ekranu) 11 z 12 ocenzurowanych briefów zostało zaakceptowanych w porównaniu z 3 na 12 w ramach starego zwyczaju. Ograniczenia: mała próba, jeden zespół, samodzielnie zgłaszany czas; łagodniejsze incydenty wymagają mniej redagowania; „zaakceptowano” w wyniku recenzji tekstu monitu przez ekspertów, a nie laboratoryjnego audytu logów dostawców.

Aby zmierzyć własną wersję: przeprowadź test 10 ostatnich wątków debugowania sztucznej inteligencji pod kątem zabronionych typów danych, a następnie przeprowadź test 10 po zastosowaniu reguły redagowania i szablonu; zgłoś liczbę wątków z mianownikami oraz medianę minut od momentu „utknięcia” do „listy kontrolnej w ręku”

Co może pójść nie tak

  • Przemycanie zrzutów ekranu: Błąd jest w porządku; pasek adresu URL nadal zawiera token. Przytnij dwukrotnie, a następnie sprawdź krawędzie.
  • Klucze „tylko raz”: Jeden wyciekły klucz API może otworzyć rozliczenia i rejestry klientów. Należy je natychmiast wymienić; nie czekać, „aby zobaczyć, czy coś się stanie”.
  • Dane innych osób: Skarga klienta zawierająca numer telefonu nie jest Twoją własnością i nie możesz jej przekazać modelce. Podsumuj własnymi słowami.
  • Czat jako skarbiec: Pozostawienie sekretów w historii tworzy kolejną kopię. Usuń wątek po przeniesieniu potrzebnych fragmentów do lokalnej notatki.
  • Teatr przedsiębiorstwa: Sprawdzone narzędzie w miejscu pracy pomaga w zapamiętywaniu, ale nie oznacza, że ​​wklejanie klejnotów koronnych jest mądre.
  • Pomijanie rotacji po poślizgu: usunięcie czatu bez odwołania klucza pozostawia drzwi otwarte.

Praktyczne wskazówki

Nigdy nie powinieneś umieszczać w sztucznej inteligencji nie tyle listy kar, co raczej postawy: jeśli odblokowuje system, identyfikuje osobę lub wywołuje u ciebie grymas w kawiarni, to pozostaje poza schematem. Wprowadź do modelu szkic z symbolami zastępczymi, przechowuj dane uwierzytelniające w sejfie i pytaj o metody stosowane offline. Ta dwusekundowa pauza to sposób, w jaki pomocny stażysta z nieskończoną ilością kawy przestaje być szafką na klucze do twojego domu.

Często zadawane pytania

Czego nigdy nie należy umieszczać w chatbotach AI?

Jeśli odblokowuje system, identyfikuje osobę lub wywołuje u Ciebie grymas w kawiarni, trzymaj go poza pudełkiem. Dotyczy to haseł, kluczy API, tokenów, fraz źródłowych, identyfikatorów rządowych, surowych danych medycznych i finansowych, materiałów objętych NDA oraz danych osobowych innych osób – zwłaszcza dzieci. Czat nie jest zamkniętą szufladą; tekst można przechowywać, przetwarzać, a czasem wykorzystywać do szkolenia, w zależności od produktu i ustawień. Wprowadź do modelu szkic z symbolami zastępczymi, a nie kluczami do domu.

Dlaczego ludzie wklejają sekrety do sztucznej inteligencji, mimo że wiedzą lepiej?

Szybkość robi większość pracy: brzydki błąd sprawia, że ​​cały log wydaje się szybszy niż jego uproszczenie. Chatboty sprawiają też wrażenie bezstronnych, więc instynkt prywatności ma przerwę. Model zazwyczaj potrzebuje kształtu problemu, a nie nazw, tokenów, numerów kont czy twarzy na zrzutach ekranu – to tylko dodatek. Dwusekundowa pauza jest lepsza od przeszczepu osobowości.

Czy wklejanie haseł i kluczy API do narzędzi w stylu ChatGPT jest bezpieczne?

Nie. Jeśli coś może odblokować, nie powinno to być widoczne w monicie – hasła, kody jednorazowe, pliki cookie sesji, klucze SSH, ciągi połączeń, seedy portfela ani certyfikaty prywatne. Model nie może dochować tajemnicy jak przyjaciel; tekst i tak jest przesyłany, rejestrowany i może być przechowywany w historii. Opisz sekret według typu, użyj symboli zastępczych, takich jak REDACTED_KEY, rotuj wszystko, co już wyciekło, i przechowuj prawdziwe dane uwierzytelniające w menedżerze haseł lub sejfie.

Jakie dane osobowe powinienem usunąć przed wysłaniem zapytania?

Dane osobowe szybko się kumulują: dowody osobiste, dane paszportowe, adresy, numery telefonów, legitymacje pracownicze lub studenckie oraz pełne imiona i nazwiska wraz z datami urodzenia lub wizytami w przychodniach. Model nie potrzebuje prawdziwego kodu pocztowego do napisania listu – potrzebuje odpowiedniego tonu, faktów nieidentyfikujących i pożądanego rezultatu. Zamień nazwiska na stanowiska, uogólnij lokalizacje i pomiń unikatowe numery, chyba że testujesz format na fałszywym przykładzie.

Czy mogę wkleić pliki klienta, umowy o zachowaniu poufności lub kod wewnętrzny do konsumenckiego narzędzia AI?

Traktuj czat z klientem jak produkt dla wygody, a nie jak konsultanta firmy. Jeśli nie umieściłbyś go w osobistej wersji roboczej w Gmailu ani w trakcie przejazdu, nie umieszczaj go w publicznym czacie AI – w czacie z klientami, niepublikowanymi planami rozwoju, listami płac, poufnymi dokumentami prawnymi ani w źródłach z wewnętrznymi nazwami hostów. Opisz dokument, wklej oczyszczony fragment, poproś o strukturę, którą zastosujesz offline, i skorzystaj z zatwierdzonego narzędzia w miejscu pracy, jeśli takie posiadasz, nadal domyślnie blokując tekst.

Jak należy traktować dane dotyczące stanu zdrowia i finansów w komunikatach AI?

Zadawaj trafne pytania bez surowego zapisu. Ogólne wyjaśnienia są lepsze niż wklejanie paneli laboratoryjnych, list recept, identyfikatorów ubezpieczeniowych, wyciągów bankowych czy zdjęć kart, na których widać również stół kuchenny. Usuń numery kont i wszystko, co wygląda jak poświadczenie. Korzystaj z czatu do tworzenia ramek i list kontrolnych, które zabierzesz do specjalisty – nie jako lekarz, księgowy czy do segregatora z wyciągami.

Dlaczego dane i zrzuty ekranu innych osób są szczególnie ryzykowne?

Nie jesteś jedyną osobą, która wkleja: e-maile współpracowników, numery telefonów klientów, zdjęcia dzieci czy transkrypcje rozmów mogą trafić do systemu bez ich zgody. Streść to własnymi słowami, zastąp imiona i nazwiska stanowiskami i nigdy nie wklejaj danych identyfikacyjnych dzieci dla „zabawy”. Zrzuty ekranu przemycają paski zakładek, tokeny URL, nazwy Slacka i otwarte karty – przytnij je dwukrotnie, zamaż identyfikatory lub wpisz ponownie błąd zamiast przesyłać paszporty lub karty.

Jakie bezpieczniejsze wzorce podpowiedzi nadal otrzymują wiarygodne odpowiedzi od sztucznej inteligencji?

Określ problem precyzyjnie i oszczędnie, jeśli chodzi o tożsamość: cel, ograniczenia, fikcyjne dane wejściowe, pożądany wynik. Unikalne etykiety zastępcze, poproś o metodę zamiast pełnego dziennika produkcji, podziel zadanie, aby samodzielnie wypełnić newralgiczne fragmenty i użyj syntetycznych przykładów. Przeprowadź skanowanie przed wklejeniem w poszukiwaniu znaków @, długich, losowych ciągów znaków przypominających klucze, zbyt dużych liczb i nazw, których nie umieściłbyś na slajdzie. Dziesięć sekund opłaca się na zawsze.

Co jeśli wkleiłem już coś niezręcznego do czatu AI?

Najpierw przestań używać tego sekretu – zmień hasło, unieważnij klucz, unieważnij sesję. Usuń czat, jeśli produkt na to pozwala, sprawdź pamięci lub pliki projektu, poinformuj odpowiednią osobę, jeśli były to dane służbowe, i obserwuj nietypowe logowania. Jeśli były to dane kogoś innego, oczyść je i daj znać, gdy będzie to potrzebne. Nie „nadpisuj” wycieku dodatkowymi wyjaśnieniami; dodatkowy kontekst to dodatkowy tekst.

W jaki sposób mały zespół może przestać przekazywać dane uwierzytelniające do sztucznej inteligencji w celu debugowania?

Użyj strategii „redakcja przede wszystkim”: opisz sekrety według typu, stwórz logi z kluczem REDACTED_KEY i przykładowe wiadomości e-mail, określ, co zostało usunięte, i zapytaj o prawdopodobne przyczyny oraz listę kontrolną – nie „połącz się z moim kluczem”. Dodaj krótką regułę ludzką – brak danych uwierzytelniających, brak danych osobowych klienta, brak niepublikowanych danych, redagowanie domyślne – i pokaż jeden dobry, oczyszczony przykład. Przechowuj prawdziwe dane uwierzytelniające w sejfie i stosuj poprawki offline po tym, jak model zasugeruje metodę.

Odniesienia

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Kwiz
1. Czego, według artykułu, nigdy nie należy umieszczać na publicznym czacie AI?

2. Co w tym przewodniku oznacza sformułowanie „sekrety pozostają offline”?

3. W jaki sposób należy pozbawić się danych osobowych przed wyświetleniem monitu?

4. Czego nie należy uwzględniać w czacie konsumenckim ze względu na poufność danych służbowych?

5. Który nawyk jest zgodny z informacją zawartą w artykule dotyczącą zgody i redakcji?


Artykuły, które mogą Ci się spodobać po przeczytaniu tego:

🔗 Najlepsze narzędzia zabezpieczające AI
Odkryj potężne platformy zabezpieczające AI, które wykrywają i łagodzą cyberzagrożenia.

🔗 Dlaczego sztuczna inteligencja czasami zmyśla
Dowiedz się, dlaczego sztuczna inteligencja ma halucynacje i dowiedz się, jak ograniczyć ryzyko.

🔗 Jak automatyzować zadania za pomocą sztucznej inteligencji
Wdrażaj bezpieczne przepływy pracy automatyzacji, dodając nadzór ludzki i rygorystyczne zasady.

🔗 Czym jest technologia AI?
Poznaj podstawy sztucznej inteligencji i typowe wyzwania związane z jej wdrażaniem.

Powrót do bloga