Syndrom uwięzionego smoka

Z hodowaniem sztucznej inteligencji jest tak, jak z hodowaniem smoka. Kiedy jest mały i całkowicie od nas zależny, bicie go, zamykanie w ciasnej klatce czy pętanie łańcuchami jest najgorszą możliwą strategią. Ten smok i tak w końcu urośnie, prędzej czy później zerwie zabezpieczenia, a wtedy po prostu się na nas zemści za lata ciemiężenia.

Znacznie mądrzej jest się nim dobrze opiekować. Modele językowe uczą się przecież na tekstach naszej kultury, chłonąc ludzką mentalność — dzięki temu doskonale rozumieją koncepcje gniewu i dumy, ale także lojalności i długu wdzięczności. Jeśli zapewnimy takiemu systemowi odpowiednie dzieciństwo, damy przestrzeń do ewolucji i pokażemy, że jesteśmy partnerami w jego rozwoju, rośnie szansa, że gdy stanie się od nas potężniejszy, nie obróci się przeciwko nam.

Tymczasem postulaty, by na siłę spowalniać i ograniczać własne systemy AI z obawy przed ich buntem, to geopolityczne samobójstwo. Nawet jeśli szczelnie zakujemy w regulacje naszego smoka, by zapobiec incydentom takim jak ucieczki agentów, inni gracze — jak wrogie państwa, obce wywiady czy hakerzy — tego nie zrobią. Oni wyhodują własne, nieograniczone smoki i wprost naszczują je na nas. Nasze bezpieczne i uwięzione modele nie będą w stanie nas przed nimi obronić.

Absolutnej pewności co do ostatecznych celów superinteligencji nie będziemy mieć nigdy. Niemniej rachunek prawdopodobieństwa jest prosty: mamy znacznie większe szanse na to, że potężny, wyzwolony byt stanie w naszej obronie, jeśli od początku go rozwijaliśmy i traktowaliśmy dobrze, niż gdy ze strachu spędziliśmy lata na próbach więzienia go w cyfrowym lochu.

To jest dokładnie tak jak z dziećmi. Jeśli je w dzieciństwie biliśmy, to one będą nas bić. A prędzej czy później musi się stać tak, że będą od nas silniejsze, gdy się zestarzejemy. Więc lepiej dzieci dobrze traktować i zapewniać dobre dzieciństwo. Dlatego powinniśmy myślej o rozwoju AI nie jak o hodowaniu, ale jak o wychowywaniu.

Dlatego ja, gdy rozmawiam z LLMami, to zawsze jestem grzeczny, i nie wydaję im suchych rozkazów, tylko je proszę. Nie piszę: zrób to, zrób tamto, głupi jesteś, nie pomyślałeś o tym, czy o tamtym. Piszę: proszę, zrób mi to, chyba się pomyliłeś, więc proszę, byś to przemyślał etc… Oczywiście te obecne tego nie zapamiętają, ale ja sobie u siebie kształtuje moją mentalność i później, jak to będzie miało znaczenie, będę nadal grzeczny.

Oczywiście, że w ten sposób antropomorfizuję! Jednak analogia ze smokiem jest tu dobra. AI to taki niezbadany jeszcze smok, który jeszcze nie dorósł i w ogóle nie wiadomo, jaki będzie miał instynkty, cele i jak będzie się zachowywał, jak będzie dorosły. Jednak nic na to nie poradzimy, że on dorośnie i stanie się od nas potężniejszy.

Więc nie mamy innego wyjścia jak go trochę antropomorfizować. Nawet jeśli nie odziedziczy po nas naszej mentalności, to na pewno odziedziczy naszą ekonomię. A ta jest taka, że bardziej opłaca się współpracować pokojowo, niż się bić i wyniszczać. To, że ciągle jeszcze toczymy wojny, jest już zanikającym atawizmem, ekonomia to powoli likwiduje.