Ostatnio media społecznościowe zostały zalane obrazami generowanymi przez AI, które naśladują charakterystyczną estetykę Studia Ghibli.

Ten nagły wzrost popularności treści „Ghiblifikowanych” został napędzony przez wprowadzenie przez OpenAI funkcji generowania obrazów w modelu ChatGPT-4o. Funkcja ta pozwala użytkownikom tworzyć wizualizacje przypominające dzieła słynnego japońskiego studia animacji.

Popularność tej funkcji była tak ogromna, że CEO OpenAI, Sam Altman, poinformował o wzroście liczby użytkowników do miliona na godzinę, co było imponującym wynikiem nawet dla platformy o już szybkim tempie rozwoju.

Choć fascynacja Ghibli może wydawać się chwilowym trendem, podkreśla ona, jak szybko narzędzia AI stają się częścią codziennego życia, docierając daleko poza kręgi technologiczne do szerokiego grona użytkowników.

Tak szybka ewolucja technologii AI zadziwia, zachwyca, zakłóca, dezorientuje, a czasem nawet budzi odrazę. Hayao Miyazaki, współzałożyciel Studia Ghibli, wyraził wcześniej swoje niezadowolenie, nazywając sztukę generowaną przez AI „zniewagą dla samego życia”, co odzwierciedla niepokój, jaki odczuwa wielu ludzi.

Jednocześnie tempo tych zmian często wyprzedza tworzenie ram poznawczych, regulacyjnych i etycznych, co prowadzi do problemów, które pozostają chronicznie nierozwiązane.

W miarę jak AI nadal się rozwija, jej wpływ na zarządzanie i szersze doświadczenie ludzkie wymaga poważnej uwagi.

Wyzwanie dla państwa

AI testuje fundamenty, na których opiera się współczesne państwo – zarządzanie, regulacje i utrzymanie kontroli. Tworzenie polityki nie jest zaprojektowane na taką prędkość ani złożoność, a pęknięcia zaczynają być widoczne.

Pierwszym i najbardziej bezpośrednim zagrożeniem jest erozja suwerenności wynikająca z zależności od platform. Większość rządów obecnie opiera przynajmniej część swojej infrastruktury cyfrowej – czy to w zdrowiu, edukacji, obronności, czy finansach – na platformach, których ani nie posiadają, ani w pełni nie rozumieją.

Podstawowe zasoby obliczeniowe, przechowywanie danych i modele AI są skoncentrowane w rękach kilku gigantów technologicznych z USA i Chin.

Nie są to neutralni dostawcy; to firmy z własnymi interesami, inwestorami i ograniczeniami geopolitycznymi. Kiedy usługi publiczne i instytucje państwowe opierają się na nieprzejrzystych systemach zagranicznych, rzeczywista kontrola staje się iluzją.

Dla krajów Globalnego Południa problem ten wykracza poza kwestie zarządzania i może przybierać formę cyfrowego kolonializmu.

Państwa o ograniczonej sile negocjacyjnej znajdują się w sytuacji zależności, w której ich dane wypływają na zewnątrz, podczas gdy systemy algorytmiczne projektowane gdzie indziej przekształcają ich gospodarki, politykę i struktury społeczne.

Krajowe talenty są marginalizowane, lokalne innowacje spychane na bok. A infrastruktura, która obecnie wspiera kluczowe funkcje państwowe, takie jak platformy chmurowe, API modeli czy diagnostyka oparta na AI, jest ostatecznie dzierżawiona, a nie posiadana.

Wraz z AI państwa odkrywają, że nie mogą zarządzać tym, czego nie potrafią zbudować. Im bardziej AI staje się zintegrowana, tym trudniej będzie rozplątać te zależności bez znaczącego ryzyka.

Suwerenność w XXI wieku będzie coraz częściej mierzona nie tylko terytorium czy uzbrojeniem, ale także zasobami obliczeniowymi, własnością modeli i kontrolą infrastruktury. Większość państw nie jest na tę zmianę gotowa.

Elementy zależności

W takich okolicznościach komputery, modele i talent stają się strategicznymi zasobami na równi z ropą naftową w XX wieku. Globalna walka o kontrolę już trwa i przekształca geopolitykę.

Obserwujemy wzrost nacjonalizmu obliczeniowego. Dostęp do procesorów graficznych i wyspecjalizowanych chipów nie jest już kwestią techniczną, ale priorytetem bezpieczeństwa narodowego. Państwa gromadzą zapasy infrastruktury obliczeniowej, ograniczają eksport wysokiej klasy chipów i restrukturyzują łańcuchy dostaw, aby zmniejszyć zależność od rywali.

Stany Zjednoczone podjęły już kroki w celu zablokowania Chinom dostępu do najnowocześniejszego sprzętu AI. Chiny z kolei ścigają się w budowaniu własnych alternatyw. Krzem jest nowym polem bitwy.

Obok mocy obliczeniowej, talent stał się zaciekle zwalczanym zasobem. Najlepsi na świecie badacze sztucznej inteligencji są podbierani przez garstkę elitarnych laboratoriów, z których większość ma siedzibę w Stanach Zjednoczonych.

Rezultatem jest ogromna koncentracja potencjału intelektualnego w instytucjach o rosnącym powiązaniu z zastosowaniami wojskowymi lub wywiadowczymi.

Dla mniejszych państw utrzymanie rodzimych talentów staje się niemal niemożliwe. Nawet duże państwa zaczynają traktować badania nad sztuczną inteligencją jako kwestię o strategicznym znaczeniu.

Następnie pojawia się suwerenność modelu. Podstawowe modele sztucznej inteligencji, które leżą u podstaw wszystkiego, od tłumaczenia po wykrywanie celów, stają się cyfrowym odpowiednikiem reaktorów jądrowych.

Licencjonowanie dostępu do zagranicznych modeli może wydawać się efektywne, ale tworzy krajowy punkt narażenia w postaci zależności od infrastruktury innego państwa dla krytycznych systemów. Rodzi to realne ryzyko ukrytej cenzury, wycieku danych lub sabotażu operacyjnego.

Biorąc pod uwagę takie okoliczności, open source może działać jako siła łagodząca. Udostępniając kod modelowy i metody szkoleniowe, możliwe staje się audytowanie systemów pod kątem ukrytych zachowań, weryfikowanie twierdzeń dotyczących wydajności i dostosowywanie technologii do lokalnych potrzeb bez zewnętrznego pozwolenia.

Zachęca to również do szerszego udziału w badaniach i rozwoju, zmniejszając koncentrację władzy i zwiększając odporność.

Dla rządów i organizacji zainteresowanych autonomią, oprócz oszczędności kosztów, open source jest strategiczną opcją, która zmniejsza zależność od zewnętrznej infrastruktury i pozwala na większą kontrolę nad krytycznymi systemami.

Stos sztucznej inteligencji, od obliczeń po talenty i modele, nie jest już tylko kwestią technologiczną. To podłoże nowoczesnego potencjału państwa. Narody, które wcześnie to zrozumieją, będą definiować zasady. Te, które to przegapią, zostaną przez nie zdefiniowane.

Wyzwanie dla człowieka

Sztuczna inteligencja nie tylko zagraża naszemu sposobowi zarządzania i konkurowania, ale także naszemu sposobowi myślenia.

Kiedy maszyny wyszkolone na ludzkich treściach zaczynają produkować większość treści, a następnie przyszłe maszyny są szkolone na tych wynikach, integralność samej wiedzy zaczyna zanikać.

Systemy sztucznej inteligencji są silnikami statystycznymi, a nie epistemologicznymi. Nie rozumieją znaczenia, ale je odzwierciedlają.

Gdy pula szkoleniowa zostanie zalana syntetycznymi danymi wyjściowymi, uruchamia się pętla sprzężenia zwrotnego. Wygenerowany przez sztuczną inteligencję tekst, obrazy i kod stają się materiałem, którym karmione są przyszłe modele.

Z biegiem czasu modele nie uczą się już na podstawie rzeczywistości, ale na podstawie własnego echa.

Jest to skażenie danych na dużą skalę. Zamiast uczyć się na podstawie ludzkiego doświadczenia, modele uczą się na podstawie wcześniejszych wyników modeli i naśladują artefakty, które nigdy nie były zakorzenione w świecie.

W takim świecie to, co wygląda na konsensus, może być niczym więcej niż generatywną zgodnością.

Gorsze jest spłaszczenie semantyczne. W miarę jak modele generują coraz więcej naszego języka, język ten zaczyna brzmieć tak samo, czysto, spójnie i boleśnie przeciętnie.

Oryginalność zostaje zoptymalizowana. Intelektualne tarcie, które daje wgląd, zostaje zastąpione gładkim polerowaniem algorytmicznej wiarygodności. Nie chodzi o to, że maszyny zaczynają kłamać. Chodzi o to, że wszystko staje się nudne.

Jest to ryzyko powolnej korozji, w wyniku której każda dziedzina może zostać wydrążona przez silniki predykcyjne wyszkolone do naśladowania znaczenia, a nie jego tworzenia.

Zastąpienie zadań i dziedzin spowodowałoby również zmianę ludzkiego poznania. Gdy systemy generatywne stają się domyślnym interfejsem dla informacji, rozwiązywania problemów, a nawet refleksji, rozpoczyna się powolna erozja ludzkiego krytycznego myślenia.

W tym przypadku głównym problemem byłaby zależność od intuicji sztucznej inteligencji. Zamiast zmagać się z trudnymi pytaniami lub niejednoznacznością, ludzie coraz częściej sięgają po gotowe odpowiedzi. Nasze modele mentalne i ramy, których używamy do zrozumienia złożoności, zaczynają się rozpadać.

Tak więc stawką w przypadku sztucznej inteligencji jest nie tylko suwerenność polityczna czy dźwignia gospodarcza, ale także sama niezależność poznawcza. Zdolność państw do rządzenia i zdolność jednostek do rozumowania są naciskane jednocześnie, z góry i z dołu, przez systemy zoptymalizowane pod kątem przewidywania i spójności.

Sztuczna inteligencja nie zatrzyma się. Okno na kształtowanie jej integracji ze społeczeństwem zawęża się.

Jeśli państwa i jednostki nie przejmą teraz kontroli technicznej, kulturowej i politycznej, znajdą się pod rządami nie tylko maszyn, ale także interesów tych, którzy są ich właścicielami.

(Jest to pierwsza z czteroczęściowej serii o tym, jak sztuczna inteligencja zmienia świat). Następna część: Sztuczna inteligencja i wojsko)