Gdzie AI jest naprawdę groźne?

Jest wiele dyskusji i martwienia się o skutki stosowania AI w programowaniu – jest wiele obaw, że kod będzie niskiej jakości, nieczytelny, że pojawią się trudne do wykrycia błędy i tak dalej.

Ja jednak się dużo bardziej obawiam o AI w rękach prezesów, decydentów czy polityków. W odpowiedzi na prompt powierzchownie opisujący sytuację AI wygeneruje im sensownie brzmiący zestaw ogólników, a oni uznają to za dobry pomysł i każą wdrożyć albo przynajmniej będą na tej podstawie podejmować decyzje. Podejrzewam przy tym, że to się już dzieje na dużą skalę a ostatnia afera z wiadomą „panią ministrą” (która zainspirowała mnie do tego wpisu) jest tylko czubkiem góry lodowej ze względu na wybitnie niską jakość efektu.

Dlaczego to gorsze niż kod napisany przez LLM? Ano dlatego, że w przypadku oprogramowania mamy możliwość szybkiej, obiektywnej weryfikacji – testy, przeglądy itp. Co więcej, wszystkie sensowne metody wykorzystywania AI w programowaniu mówią o starannym tworzeniu specyfikacji i planów implementacji a także zmuszaniu samego AI do pisania testów (w efekcie kod AI ma zwykle więcej i lepszych testów niż wiele korporacyjnych systemów¹). Tymczasem w przypadku decydenta, który napisze coś do Chata GPT a potem uzna to za świetną podstawę do nadania kierunku w firmie – lub, co gorsza, czymś większym – takiej szybkiej weryfikacji nie ma. A fatalne skutki decyzji podejmowanej bez realnego zrozumienia tematu oczywiście też będą – ale dużo później, na tyle późno, że nawet sam decydent może już zdążyć zapomnieć jak to właściwie było. Nie będą też o tym pamiętać ani wiedzieć ci, których skutki tej decyzji dotkną (który dyrektor przyzna się, że w istocie decyzję podjął Claude?).

I, dodajmy, to nie jest wina samego AI. AI nie ma przecież szans mieć pełnego kontekstu sytuacji towarzyszącego każdej większej decyzji menedżerskiej czy politycznej. A już na pewno typowy menedżer (że z listości nie wspomnę o politykach) nie będzie umiał zawrzeć tego w promptcie choćby w formie pewnych zastrzeżeń czy żądania researchu. Zatem AI będzie musiało pójść w ogólniki niejako z konieczności. Warto zwrócić uwagę, że kiedyś zanim decydenci pytali o takie rzeczy AI zdarzało się im wynajmować konsultantów – a ci zwykle spędzali wiele dni jak nie tygodni analizując sytuację zanim wyszli z propozycjami rozwiązań. Dlaczego? Bo bez znajomości kontekstu trudno o dobrą decyzję.

To kolejna różnica w stosunku do AI w programowaniu. Agent kodujący nawet jeśli nie ma tego w promptcie ma w instrukcjach, żeby zajrzeć do istniejącego kodu, do dokumentacji, do historii zmian – i ma narzędzia, żeby to zrobić. Szanse na wyższą jakość wyniku jego pracy są więc dużo większe niż w przypadku powiedzmy dyrektora pytającego AI jak najlepiej prowadzić projekty w jego departamencie.

Jak z tym problemem sobie radzić? Warto przede wszystkim zrozumieć jego istotę . Brakuje nam wyrobionej umiejętności pracy z AI. AI jest innym rodzajem inteligencji. My całe życie uczymy się pracować z inteligencją ludzką, niektórzy jeszcze trochę z psią, kocią czy końską. Innej nie znaliśmy. To trzeba w sobie wyrobić. Wypracować. I to po prostu musi potrwać, po drodze zaś nieuchronnie będą mniejsze lub większe „wpadki”.

Zacząć więc należy od siebie. Zrozumieć ograniczenia AI. Zrozumieć sposób działania. Nie ulegać pojawiającej się pod presją czasu, zobowiązań, zmęczenia pokusie pójścia na skróty a jednocześnie pracować z AI często tak, by wyrobić sobie tą umiejętność.

1. Wiem, że ciężko w to uwierzyć patrząc na datę, ale wciąż są miejsca gdzie polega się na testach manualnych! Oczywiście dołożenie tam kodującego AI to recepta na piękną katastrofę. ↩︎