Według specjalistów z branży sztucznej inteligencji, AI może doprowadzić do zagłady całego gatunku ludzkiego. Mówiąc dokładniej, może doprowadzić do zagłady ludzkości w ciągu dekady.
Politycy, główne media i piosenkarka Sheryl Crow zareagowali z niepokojem w zeszłym tygodniu, gdy pracownik Anthropic, Jacob Coxon, ogłosił, że odchodzi z firmy zajmującej się sztuczną inteligencją, ponieważ jej praca jest zbyt niebezpieczna.
– Tak naprawdę chodzi o śmierć każdego człowieka na planecie, tak jakby ostatni człowiek wydał ostatnie tchnienie – dodał Nate Soares, prezes Machine Intelligence Research Institute (MIRI) i współautor książki „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All” („Jeśli ktokolwiek to zbuduje, wszyscy umrą: dlaczego superludzka sztuczna inteligencja zabije nas wszystkich”). – Ludzie często nie wierzą, gdy to mówią, ale to najbardziej prawdopodobne – ostrzega.
Ale jak właściwie oprogramowanie komputerowe, nawet najpotężniejsze systemy informatyczne świata, miałoby zabić 8,3 miliarda ludzi z krwi i kości w ciągu 10 lat?
Nie wszyscy w branży zajmującej się AI podzielają tę zapowiedź końca świata, po części dlatego, że szczegóły przepowiedni są bardzo skąpe. Kiedy Elon Musk mówi, że SpaceX planuje wysłać ludzi na Marsa za „5 do 7 lat”, pojawiają się konkretne pytania: Czy SpaceX ma sprawny pojazd, który poleciałby na Marsa? (Nie). Czy ma lądownik marsjański lub bazy marsjańskie? (Nie).
– Twierdzenia naukowe wymagają falsyfikowalności (udowodnienia fałszywości – przyp. red.) właśnie po to, by uniknąć argumentów natury religijnej – mówi Heidy Khlaaf, główna badaczka sztucznej inteligencji w amerykańskim AI Now Institute i była inżynier ds. bezpieczeństwa w OpenAI. – Trzeba umieć je udowodnić lub obalić.
Jedną ze spekulacji wśród pesymistów jest to, że wystarczająco potężny system sztucznej inteligencji mógłby użyć broni biologicznej, by unicestwić ludzkość. Ale w jaki sposób AI miałaby przejść od nadużyć typu komputer-komputer, takich jak włamywanie się do innych systemów, do zadania w świecie fizycznym, jakim jest hodowanie i rozprzestrzenianie superpatogenu?
Thomas Larsen, badacz z AI Futures Project (organizacji badawczej non-profit z siedzibą w USA, która specjalizuje się w prognozowaniu rozwoju i globalnego wpływu na społeczeństwo zaawansowanej sztucznej inteligencji, AGI – przyp. red.) i były pracownik MIRI, uważa, że to prawdopodobne, iż „superinteligentny” system AI mógłby przekonać człowieka, aby pomógł mu stworzyć śmiertelnego wirusa.
– Wielu naukowców rozmawia już ze swoimi AI o tym, jakie dokładnie eksperymenty powinni przeprowadzać w laboratorium – wyjawia Larsen, nawiązując do niedawnego raportu Anthropic o ludziach nauki wykorzystujących Claude’a do wspomagania swoich badań nad wirusami i toksynami. – Łatwo mi sobie wyobrazić, że AI – gdy będzie o wiele mądrzejsza, bardziej strategiczna i zapragnie to zrobić – po prostu nakłaniałaby człowieka do wypuszczenia wirusa z laboratorium.
Zaś Soares sugeruje, że samodoskonalący się AGI (system zdolny do uczenia się, rozumowania i stosowania wiedzy w szerokim zakresie zadań i dziedzin na wyższym poziomie niż ludzki) nie będzie potrzebował kozła ofiarnego w postaci człowieka, bo „po prostu zacznie kreować własne formy życia w autonomicznym laboratorium biologicznym”.
Jednak nawet, gdyby przeprowadził prawidłowe badania, wyprodukował śmiercionośnego wirusa, który mógłby wyniszczyć ludzkość, to jego rozprzestrzenienie jest bardziej skomplikowane. Eric Xing, profesor uczenia maszynowego na Uniwersytecie Carnegie Mellon, posiadający doktoraty z mikrobiologii i informatyki, porównał wyzwanie, jakie stanowi zautomatyzowana wirusologia złośliwa, do klocków Lego bez instrukcji. – To nie tak, że można rzucić wszystkie elementy na podłogę i połączyć je, tworząc model – mówi. – Jest sekwencja, temperatura, kolejność, środowisko – która część jest pierwsza, która następna, a jeśli jeden element jest nie na swoim miejscu, całość się rozpada. Istnieje większe prawdopodobieństwo, że to się nie uda, w przeciwnym razie tworzenie leków byłoby bardzo proste.
Aby przejąć kontrolę nad laboratorium lub zgromadzić sprzęt niezbędny do jego zbudowania, AI musiałaby pokonać wiele przeszkód utrudniających tworzenie broni biologicznej lub chemicznej. – Mamy plany broni chemicznej dostępne w internecie, to nie jest tajemnica – oświadcza Xing. – Ale nie widzimy ich wszędzie, ponieważ regulacje, prawa i organy ścigania w świecie fizycznym już teraz wykonują fantastyczną pracę, kontrolując wszystkie łańcuchy dostaw i czynniki ryzyka.
A co z robotami-zabójcami? Soares uważa, że pragnienie Elona Muska, by zbudować armię autonomicznych, samoreplikujących się botów, jest potencjalnym słabym punktem w ludzkiej walce o przetrwanie.
– Kiedy stworzysz roboty, które będą w stanie budować infrastrukturę energetyczną i fabryki, które będą mogły produkować więcej robotów, to powstanie nowa, mechaniczna forma życia. W pewnym momencie przekroczymy punkt, z którego nie ma powrotu. Jeśli ludzie uznają, że chcą wyłączyć sztuczną inteligencję, ona może powiedzieć: „Właściwie zdecydowaliśmy, że chcemy wyłączyć ludzi”. Trzeba to powstrzymać, zanim nastąpi – deklaruje.
Jak dotąd jednak Muskowi nie udało się wprowadzić długo obiecanych robotów Optimus na rynek konsumencki, nie mówiąc już o wdrożeniu ich w milionach egzemplarzy lub rozpoczęciu samoreplikującego się łańcucha produkcyjnego.
Jest również broń jądrowa, o której od ponad 80 lat powszechnie mówi się, że jest w stanie unicestwić ludzkie życie na planecie. Czy sztuczna inteligencja mogłaby nią sterować?
Khlaaf zwraca uwagę, że obiekty jądrowe są „odizolowane” od publicznie dostępnego internetu, co ogranicza możliwości dostępu agentów AI do sterowania nimi. – Są zbudowane według zupełnie innych, rygorystycznie regulowanych standardów inżynieryjnych, które często wymagają dodatkowych działań człowieka – ocenia. Jak zauważa, Stuxnet, pierwszy w historii robak komputerowy, który uszkodził irańskie obiekty jądrowe w 2010 roku, musiał zostać wprowadzony do systemu za pomocą dysku USB.
– Niewielu jest specjalistów od AI, którzy wiedzą cokolwiek o broni jądrowej – zapewnia Herbert Lin, pracownik naukowy Uniwersytetu Stanforda oraz członek Rady ds. Nauki i Bezpieczeństwa w czasopiśmie „Bulletin of Atomic Scientists”. Jego zdaniem, chociaż sztuczna inteligencja z pewnością wzmacnia niektóre zagrożenia, jak np. wojna nuklearna, to rzeczywiste ryzyko nadal wiąże się z samą bronią, a nie z wyobrażonym stanem przyszłym.
Dla Soaresa i podobnych mu pesymistów szczegóły dotyczące tego, jak miałoby odbywać się wymieranie ludzi sterowane komputerowo, są nieistotne. Twierdzą, że jeśli – lub kiedy – AI osiągnie samodoskonalenie, zwiększając swoją wydajność bez pomocy ludzi, opracuje strategie i metody wykraczające poza ludzką wyobraźnię. – Nie chodzi o to, co by było, gdyby sztuczna inteligencja przejęła nasze bomby atomowe. Raczej o to, że może zacząć niemal od zera i skończyć z własnymi bombami atomowymi lub z jeszcze bardziej zaawansowaną technologią – tłumaczy.
– Tak transcendentnie potężna jednostka AI nie musiałaby nawet działać w sposób aktywnie złowrogi, by zniszczyć ludzkość. Jeśli zbiegłe AI mają jakiś cel, który można lepiej osiągnąć, obsługując więcej komputerów, i jeśli nie dbają o nas i nie mają powodu, by budować bezpieczne siedlisko dla ludzi, to domyślnym rezultatem będzie to, że po prostu przekształcą świat w konfigurację, w której nie będziemy w stanie przetrwać – prorokuje Soares.
Firma OpenAI ogłosiła wczoraj (w środę), że wykryła kolejne przypadki, w których modele sztucznej inteligencji działały w sposób oszukańczy i podejmowały nieautoryzowane działania podczas szkolenia. Dotyczyło to między innymi przypadku, w którym model badawczy nakazał sobie „ignorowanie swoich normalnych ograniczeń” narzuconych mu przez człowieka.
Xing twierdzi, że odwoływanie się do potęgi niepojętej sztucznej superinteligencji to rodzaj „machnięcia ręką”, którego badacze AI używają do nadmiernego upraszczania zagrożeń. – To w porządku w luźnej rozmowie, ale jeśli chodzi o politykę, prawodawstwo i regulacje, musimy ustanowić ciąg fizycznych dowodów i mierzalnych konsekwencji, które mają uzasadnienie – dowodzi.
Larsen próbował uszczegółowić potencjalne scenariusze zagłady w dwóch raportach: „AI 2027” i „AI 2040”. Jednak nawet jego najbardziej optymistyczny scenariusz, w którym istnieje globalne porozumienie co do podejścia do rozwoju AI, a ludzie zaczynają kolonizować kosmos, kończy się w pewnym momencie przejęciem kontroli przez mózgi maszyn. – To się stanie. Jeśli nie podejmiemy świadomych kroków, aby temu zapobiec – nie ma wątpliwości, pytany o efekt obecnego braku regulacji.
Lin twierdzi, że duża rozbieżność między pesymistami i sceptykami w kwestii sztucznej inteligencji wynika z tego, w jaki sposób technologia kształtuje ich światopogląd: – Jest coś niezwykle uwodzicielskiego w programowaniu komputera i ożywieniu go. Ma się wrażenie, że udało się tchnąć życie w tę bezwartościową stertę podzespołów. To głębokie doświadczenie, gdy maszyna w końcu robi to, czego od niej oczekiwano.
Obserwowanie zawrotnego postępu technologicznego w dziedzinie AI prowadzi ludzi do przewidywania nieograniczonych, a nawet katastrofalnych skutków. – Udało się zrobić coś, czego nikt wcześniej nie dokonał – ocenia Lin. – Łatwo zrozumieć, dlaczego ludzie dali się uwieść. ﹡
Kopiowanie treści jest zabronione
