Ulegamy temu jak modele LLM prowadzą z nami rozmowę i przypisujemy im ludzkie cechy eksperta.

Używając AI, możemy wpaść w podobną pułapkę, jak podczas tradycyjnego korzystania z Internetu i zbytnio zaufać informacjom, które otrzymamy w odpowiedzi na zadane pytanie. Przez sposób, w jaki skonstruowane są ”rozmowy” z modelami językowymi, przypisujemy im ludzkie cechy eksperta. Zwykle nieświadomie ulegamy prędkości i pewności siebie z jaką odpowiadają, przez co automatycznie przypisujemy im wyższe kompetencje, a odpowiedzi uznajemy za prawdziwe.

Wszystkie te błędy poznawcze są w nas głęboko zakotwiczone przez lata interakcji w społeczeństwie. Nie możemy ich całkowicie wymazać z mózgu, ale możemy je skutecznie kontrolować za pomocą celowych działań.

Po pierwsze: nie ulegajmy miłym i pochlebnym zwrotom, których domyślnie używa LLM. Jak najszybciej zmieńmy jego ustawienia tak, aby nie potakiwał nam na każdym kroku i odpowiadał z konstruktywną krytyką.

Po drugie: przyjmijmy założenie, że każde zdanie wygenerowane przez AI jest fałszywe dopóki go nie sprawdzimy. W szczególności te, które zawierają daty i statystyki.

Po trzecie: przestańmy myśleć o AI jak o „koledze”, „asystencie” czy „ekspercie” i zacznijmy go traktować jak wysoce złożony autouzupełniacz tekstu w telefonie.

Kiedyś mówiono: “nie ufaj otwartym encyklopediom, bo nie wiadomo kto tam pisze artykuły”. Jeszcze wczoraj ostrzegano przed fałszywymi autorytetami w mediach społecznościowych. Dzisiaj podobna narracja dotyczy AI, bo “nie wiadomo kto i czego je uczy i czy przypadkiem nie halucynują?”.

Wiele osób nauczyło się w końcu weryfikować internetowe rewelacje oraz trafnie oceniać ich spójność i jakość. Dlatego pomimo presji czasu i natłoku informacji ważne jest, aby zachować samodyscyplinę i zawsze zapewnić przestrzeń na potwierdzenie wszystkich odpowiedzi wygenerowanych przez LLM-y.

W IT bezkrytyczne przyjmowanie każdej odpowiedzi od narzędzia AI, może prowadzić do poważnych luk w bezpieczeństwie lub wydajności. Pamiętajmy, że to wciąż są tylko narzędzia zwiększające możliwości specjalistów, a nie ich 100% zastępstwo.

---

Paweł Nejczew