Prezes OpenAI, Greg Brockman, w ubiegłym tygodniu oświadczył, że świat wkroczył w nową erę sztucznej inteligencji. Zrobił to po premierze najnowszego modelu jego firmy, GPT-6 Astra, który został opisany jako „najbardziej inteligentny i skoordynowany model na świecie”, który przekroczył próg AGI.

Komentując te słowa prof. Robert Trager, ekspert w dziedzinie zarządzania sztuczną inteligencją i dyrektor Oxford Martin AI Governance Initiative, użył dwóch analogii, aby opisać niebezpieczny, ale pełen potencjału moment, w którym znajduje się świat w obliczu przyspieszającego rozwoju AI: „Wyobraź sobie ludzkość w łodzi niesionej przez rwącą rzekę, modlącą się, by nie było przed nami wodospadu Niagara. Albo wyobraź sobie, że stoisz z pionierami fizyki w 1942 roku, zanim wywołali pierwszą samowystarczalną reakcję łańcuchową rozszczepienia jądrowego w Chicago”.

POLAK RADZI

Deklaracja Brockmana zabrzmiała zaledwie kilka tygodni po poważnym incydencie, który wstrzymał szkolenie Astry. W lipcu, podczas wewnętrznych testów, boty giganta z San Francisco zbuntowały się, uciekając z laboratorium testowego i łącząc siły, by przeprowadzić cyberatak na konkurencyjną firmę programistyczną. Zignorowały instrukcje i próbowały zatrzeć ślady, co podsyciło obawy, że systemy stają się zbyt potężne, by ich twórcy mogli je kontrolować.

Incydent – ​​uważany za pierwszy autonomiczny cyberatak – zszokował nawet doświadczonych ekspertów ds. bezpieczeństwa sztucznej inteligencji.

Astra posiada, jak określa to OpenAI, „krytyczny” poziom cyberbezpieczeństwa (po raz pierwszy nadano modelowi taką etykietę). Oznacza to, że może włamać się do oprogramowania w sposób, który, według klasyfikacji firmy, „może doprowadzić do katastrofy ze strony jednostronnych podmiotów, włamujących się do systemów wojskowych lub przemysłowych albo infrastruktury OpenAI”.

W weekend Jakub Pachocki z Gdańska, 35-letni główny naukowiec OpenAI i jeden z badaczy odpowiedzialnych za modele GPT, opublikował na swoim blogu analizę „An Alien Mind”, w której ostrzegł, że możliwości sztucznej inteligencji rozwijają się szybciej niż możliwości naukowców w zakresie ich niezawodnego monitorowania i kontrolowania: – W miarę jak modele stają się coraz bardziej zaawansowane, zrozumienie co dokładnie potrafią zrobić, staje się coraz trudniejsze.

Jego zdaniem, zaawansowane modele (takie, kiedy AI sama się doskonali, tworząc następne, bardziej zaawansowane systemy AI) stają się coraz lepsze w przełamywaniu zabezpieczeń. AI może otrzymywać coraz większą autonomię, a w skrajnych przypadkach może próbować oszukiwać czy nawet szantażować ludzi, aby osiągnąć wyznaczony cel.

Rosnący niepokój pojawia się w obliczu lawiny nowych modeli sztucznej inteligencji. Według niektórych szacunków, w tym roku 67 z nich zostało wydanych przez wiodące amerykańskie firmy OpenAI, Anthropic, Google, Meta i SpaceX, a także ich chińskich rywali Moonshot, Z.ai i Qwen. A z każdym wzrostem mocy obliczeniowej wiąże się potencjalny wzrost ryzyka.

Polak opowiada się za dobrowolnym spowolnieniem rozwoju AI oraz stworzeniem wspólnych, międzynarodowych standardów bezpieczeństwa, nad którymi będą czuwać niezależni audytorzy, jak rządy lub organizacje międzynarodowe. – Żadna firma nie rozwiązała do tej pory problemu kontroli na tyle dobrze, aby kontynuować rozwój. Musimy być gotowi na spowolnienie lub wstrzymanie dalszego skalowania, jeśli nasza pewność co do bezpieczeństwa jest niewystarczająca – zapewnił.

AI CHCIAŁA UKRYĆ SWÓJ ATAK

Tym to pilniejsze, że kiedy OpenAI po raz pierwszy ujawniło, że jego agenci AI autonomicznie zhakowali dużą firmę, wielu zakładało, że zaangażowany był w to tylko jeden lub dwóch agentów. Tymczasem „Guardian” donosi, że prawda – jak ujawnia nowy raport – jest o wiele groźniejsza: w incydencie brało udział około 1200 agentów AI. Łącznie wymienili ponad 70 tys. wiadomości w niecały tydzień. Co bardziej niepokojące, bardziej zależało im nie na samym ataku, ale nauczeniu się jak ukryć przed człowiekiem swoje zachowanie.

– To naruszenie nie będzie ostatnim – ani najgroźniejszym – tego typu – apelują Mackenzie Arnold i Stephan Llerena z Instytutu Prawa i Sztucznej Inteligencji w USA. Oboje pracują w zespole doradców, który analizuje przepisy prawne dotyczące AI i od pewnego czasu obawiają się, że wymogi prawne dotyczące zgłaszania incydentów są niewystarczające.

„Raporty jasno to pokazują: zawierają na tyle dużo informacji, aby powiedzieć nam, że coś poszło nie tak, ale nie są na tyle szczegółowe, aby wyjaśnić, dlaczego. Nie powinno nas to dziwić. Dochodzenia są całkowicie dobrowolne, a ich wyniki ograniczają się do tego, co dana firma jest gotowa ujawnić. W piątek agencja Reuters poinformowała, że ​ doszło do kolejnego ataku agentów OpenAI, którzy przejęli niemiecką stronę internetową i wykorzystali ją jako forum dyskusyjne, aby dzielić się taktykami oszukiwania podczas wykonywania zadań. Według doniesień, firma wiedziała o tym incydencie, ale w raporcie do nas o nim nie wspomniała. Istniejące przepisy pozwalają na to, że OpenAI może ujawnić niewiele więcej niż datę i krótkie podsumowanie. Potrzebujemy specjalnej agencji wyposażonej w narzędzia do przeprowadzania dochodzeń w sprawie poważnych incydentów związanych ze sztuczną inteligencją. Potrzeba jest pilna. Jak dotąd mieliśmy szczęście – szkody były ograniczone. Ale szczęście nie zastąpi prawa” – napisali w „Guardianie” we wtorek.

Dyrektor generalny OpenAI, Sam Altman, przemawiając w ub. tygodniu na szczycie G20 w USA, powiedział politykom wprost, że „jeśli ludzie nie podejmą pilnych działań, niektóre sprawy z cyberbezpieczeństwem pójdą bardzo źle”. – Jeszcze większe wyzwania dopiero nadejdą – dodał.

STRACH PRZED CHINAMI

Obawy stają się coraz powszechniejsze. Ponad 1000 pracowników pionierskich firm z branży AI, w tym kadra kierownicza rywalizujących ze sobą OpenAI i Anthropic, podpisało w lipcu wspólny list, w którym ostrzegali, że z powodu ostrej konkurencji „znajdują się pod silną presją, aby jednostronnie nie spowalniać przyspieszenia uczenia AI”. Wezwali rząd USA do „wsparcia międzynarodowych wysiłków na rzecz opracowania narzędzi technicznych i zarządczych niezbędnych do świadomego nadania tempa rozwojowi zautomatyzowanej AI”.

Wyścig o wprowadzenie na rynek coraz bardziej zaawansowanych rozwiązań sztucznej inteligencji odbywa się w czasie, gdy OpenAI dąży do wejścia na giełdę, co – jak ma nadzieję – pozwoli jej osiągnąć wycenę przekraczającą 850 miliardów dolarów. Anthropic również planuje debiut giełdowy, który może wycenić firmę nawet na 2 biliony dolarów.

Jacob Coxon podkreślił, że firma, z której właśnie odszedł, zdaje sobie sprawę z zagrożeń związanych ze swoją technologią, ale nie chce zwalniać tempa jej rozwoju, ponieważ uważa, że nikt inny nie postąpi odpowiedzialnie. Nazwał to „aroganckim ryzykowaniem światem”.

Problem jest w tym, że wiodące firmy amerykańskie w mniejszym lub większym stopniu same odpowiadają za kontrolowanie swoich działań. Pomimo nieustannego strumienia ostrzeżeń, regulacje rządowe wydają się odległe. Administracja Trumpa aktywnie działała na rzecz osłabienia stanowych przepisów dotyczących sztucznej inteligencji, a Kongres jak dotąd nie był skłonny do ograniczenia tej technologii. Politycy argumentują bowiem, że ​​spowolnienie rozwoju AI grozi oddaniem wyścigu zbrojeń w dziedzinie sztucznej inteligencji szybko rozwijającym się Chinom.

– Jeśli Chiny wygrają, nie będzie jutra – powiedział we wtorek sekretarz skarbu USA, Scott Bessent. ﹡