Harmonogram AGI Raya Kurzweila: jak prognozuje przyszłość na dekady naprzód

Dlaczego prognozy Kurzweila dotyczące AGI mają znaczenie

Prognozy Kurzweila dotyczące AGI są ważne, ponieważ zamieniają ogólne przekonanie o postępie sztucznej inteligencji w sekwencję twierdzeń z konkretnymi datami, które można sprawdzać. Inwestorzy, badacze, dziennikarze i liderzy biznesu mogą sensowniej dyskutować o konkretnej prognozie niż o tym, czy inteligentne maszyny kiedyś się pojawią.

Jego podejście daje też spójne wyjaśnienie, dlaczego postęp może przyspieszać. Lepsze komputery pomagają badaczom projektować lepsze komputery. Sprawniejsze oprogramowanie ułatwia tworzenie, testowanie i obsługę kolejnej generacji programów. Spadające koszty pozwalają większej liczbie organizacji eksperymentować, co buduje wiedzę i popyt na dalsze inwestycje.

Ta struktura nie gwarantuje trafności dat. Czyni jednak tok rozumowania widocznym. Czytelnik może sprawdzić pomiary, podważyć założenia i wskazać dowody, które wzmocniłyby lub osłabiły prognozę.

To rozróżnienie ma znaczenie, ponieważ długoterminowe prognozowanie technologii łączy kilka różnych przewidywań. Sprzęt musi się rozwijać. Algorytmy muszą zamieniać zasoby w użyteczne możliwości. Dane treningowe lub inne metody uczenia muszą pozostać dostępne. Systemy muszą niezawodnie działać poza pokazami. Organizacje i rządy muszą pozwolić na ich wdrażanie. Problem na dowolnym z tych poziomów może przesunąć termin AGI, nie zatrzymując całego rozwoju AI.

Prognoza Kurzweila zyskała na znaczeniu, gdy systemy AI ogólnego zastosowania nauczyły się generować tekst, tworzyć oprogramowanie, interpretować obrazy, wywoływać narzędzia i działać w wielu dziedzinach. Te umiejętności sprawiają, że rozmowa jest mniej hipotetyczna, ale nie rozstrzygają sprawy. Szerokie kompetencje w kontrolowanym interfejsie nie są tym samym co niezawodna ogólna inteligencja w otwartym środowisku.

Przydatne pytanie nie brzmi więc, czy Kurzweil jest optymistą czy pesymistą. Chodzi o to, czy jego model łączy mierzalne dane wejściowe z możliwościami, które zakłada AGI, oraz czy to połączenie wytrzymuje zderzenie z inżynierią, ekonomią i ludzkim zachowaniem.

Kim jest Ray Kurzweil

Ray Kurzweil to amerykański wynalazca, autor, przedsiębiorca i futurolog. Jego prognozy wyrastają z dziesięcioleci pracy nad technologiami mowy, czytania i muzyki.

Jego praca przed debatą o AGI

Kurzweil zbudował reputację na praktycznych systemach, a nie na samych przewidywaniach. Jego firmy zajmowały się optycznym rozpoznawaniem znaków, syntezą mowy, rozpoznawaniem mowy, elektronicznymi instrumentami muzycznymi i technologią czytania dla osób z wadami wzroku. Dziedziny te wymagały postępu zarówno sprzętu komputerowego, jak i rozpoznawania wzorców, czyli dwóch obszarów, które później stały się podstawą jego metody prognozowania.

Jego kariera pokazała mu też różnicę między wynikiem laboratoryjnym a produktem. Na to, kiedy wynalazek staje się użyteczny na dużą skalę, wpływają dokładność rozpoznawania, ceny podzespołów, szybkość przetwarzania, dystrybucja i popyt użytkowników. To pomaga wyjaśnić, dlaczego skupia się na relacji ceny do wydajności, a nie na pojedynczych demonstracjach technicznych.

Kurzweil dołączył do Google w 2012 roku, aby pracować nad inteligencją maszynową i rozumieniem języka naturalnego. Ta rola umieściła go w organizacji intensywnie inwestującej w wielkoskalowe obliczenia i badania nad AI, choć jego główne prognozy powstały wcześniej.

Książki stojące za tą osią czasu

Kurzweil rozwijał swój argument w kilku książkach. The Age of Intelligent Machines analizowała kierunek rozwoju inteligencji komputerowej. Wydana w 1999 roku The Age of Spiritual Machines porządkowała przewidywania według przyszłych dat i opisywała coraz bliższą interakcję ludzi z komputerami. Wydana w 2005 roku The Singularity Is Near przedstawiła najbardziej znaną wersję jego tezy o przyspieszających zwrotach.

Wydana w 2012 roku How to Create a Mind skupiała się bliżej na poznaniu i proponowała, że mechanizmy rozpoznawania wzorców mogą pomóc wyjaśnić działanie kory nowej. Wydana w 2024 roku The Singularity Is Nearer wróciła do wcześniejszych prognoz po rozwoju współczesnej generatywnej AI i zachowała jego główne daty, zamiast zastąpić je nowym harmonogramem.

Książki te nie definiują inteligencji dokładnie tak samo, ale łączy je jeden argument: technologie informacyjne rozwijają się w procesach kumulacyjnych, które ostatecznie sprawią, że inteligencja maszyn porówna się z ludzką.

Te pojęcia wymagają osobnych definicji

Trzy terminy często są ze sobą łączone, choć opisują różne twierdzenia:

• Sztuczna inteligencja ogólna to system zdolny uczyć się, rozumować i stosować wiedzę w szerokim zakresie nieznanych zadań, zamiast działać w jednej wąskiej specjalizacji.
• AI na poziomie człowieka oznacza wyniki porównywalne z ludźmi, ale każde takie stwierdzenie powinno określać, o jakich ludziach i zadaniach mowa, jaka pomoc jest dozwolona oraz jaki poziom błędów uznaje się za porównywalny.
• Osobliwość technologiczna to proponowany przez Kurzweila okres niezwykle szybkich zmian po tym, jak inteligencja maszynowa i ludzka technologia staną się wystarczająco potężne, by przekształcać społeczeństwo szybciej, niż nadąża tradycyjne prognozowanie.

Maszyna może spełniać jedną praktyczną definicję AI na poziomie człowieka, nie spełniając wymagającej definicji AGI. AGI może też pojawić się, zanim społeczeństwo doświadczy czegokolwiek przypominającego osobliwość. Traktowanie tych pojęć jak synonimów sprawia, że harmonogram wydaje się dokładniejszy, niż jest w rzeczywistości.

Rzeczywista oś czasu AGI Kurzweila

Główna prognoza Kurzweila umieszcza inteligencję maszynową na poziomie człowieka około 2029 roku, a osobliwość technologiczną około 2045 roku.

Co mówi prognoza na 2029 rok

Kurzweil wiąże rok 2029 z przejściem przez maszynę wiarygodnego testu Turinga i osiągnięciem inteligencji na poziomie człowieka. W ocenie w stylu Turinga ludzki sędzia komunikuje się z niewidocznym uczestnikiem i próbuje ustalić, czy jest on człowiekiem, czy systemem sztucznym.

Słowo wiarygodny niesie tu dużą część znaczenia. Krótkie rozmowy z nieprzygotowanymi sędziami są słabym dowodem, ponieważ system może naśladować ludzki język, a zarazem zawodzić w planowaniu, spójności faktów lub nieznanej pracy. Mocniejszy test obejmowałby doświadczonych oceniających, długą interakcję, pytania podchwytliwe oraz zabezpieczenia przed zapamiętanymi odpowiedziami i ukrytą pomocą człowieka.

Nawet rygorystyczny test Turinga mierzyłby naśladowanie zachowania w rozmowie. Sam w sobie nie dowodziłby niezawodnej autonomii, sprawności fizycznej, świadomości ani zdolności opanowania każdego zadania intelektualnego. Szersze rozważania Kurzweila zakładają więcej niż przekonującego chatbota, dlatego ocena jego prognozy wymaga szerszego zestawu kamieni milowych.

Co mówi prognoza na 2045 rok

Kurzweil wiąże rok 2045 ze znacznie większą przemianą, w której inteligencja maszynowa dramatycznie wzrośnie, a technologia głęboko zintegruje się z życiem człowieka. Jego rozumowanie obejmuje szybkie badania wspomagane przez AI, dalszy wzrost mocy obliczeniowej i bliższe połączenia między poznaniem biologicznym a niebiologicznym.

Ta data nie jest więc zwykłą prognozą, że komputery staną się szybsze. Zależy od tego, czy inteligencja będzie wytwarzać dalszy postęp technologiczny w wyjątkowym tempie. Lepsza AI musiałaby pomóc ulepszać algorytmy, sprzęt, medycynę, produkcję i odkrycia naukowe. Te ulepszenia musiałyby następnie wracać do systemów, które je tworzą.

Pętla sprzężenia zwrotnego może przyspieszać postęp, nie stając się nieograniczona. Eksperymenty nadal wymagają czasu, fabryki mają harmonogramy budowy, procesy fizyczne mają granice, a instytucje oceniają istotne zmiany. Siła każdego z tych ograniczeń decyduje, czy rozwój będzie wyglądał na gwałtowny, po prostu szybki, czy nierówny między dziedzinami.

Kamienie milowe czynią prognozę sprawdzalną

Kilka obserwowalnych możliwości byłoby mocniejszym dowodem niż pojedynczy test rozmowy:

• Szybkie przenoszenie umiejętności na nieznane zadania przy niewielkim treningu specyficznym dla zadania
• Niezawodne planowanie i odzyskiwanie kontroli w długich sekwencjach działań
• Ciągłe uczenie się bez wymazywania wcześniej zdobytych umiejętności
• Dokładne używanie narzędzi przy zmieniających się ograniczeniach świata rzeczywistego
• Szeroka użyteczność ekonomiczna bez stałego nadzoru ekspertów

Te kamienie milowe zachowują główną obietnicę prognozy, unikając zero-jedynkowej debaty o jednej dacie. Uwidaczniają też częściowy postęp. System może opanować używanie narzędzi, a jednocześnie słabo radzić sobie z ciągłym uczeniem, lub dobrze działać w oprogramowaniu, lecz mieć trudności w środowisku fizycznym.

Historia prognoz Kurzweila

Dorobek Kurzweila obejmuje wyraźne sukcesy, trafne przewidywania kierunku oraz pomyłki widoczne wtedy, gdy ocenia się prognozy według ich pierwotnego brzmienia i terminów.

Wyraźny sukces w szachach komputerowych

Jedna z jego najczęściej przywoływanych trafnych prognoz dotyczy szachów. W 1990 roku Kurzweil przewidział, że komputer pokona ludzkiego mistrza świata w szachach do 1998 roku. IBM Deep Blue pokonał Garriego Kasparowa w meczu w 1997 roku.

Ten przykład jest wyjątkowo mocny, ponieważ wydarzenie, przeciwnik i termin były łatwe do określenia. Dotyczył też formalnej dziedziny o stałych regułach, mierzalnych wynikach i silnej motywacji do ulepszania wyspecjalizowanego sprzętu oraz algorytmów przeszukiwania. Takie warunki czyniły szachy łatwiejszymi do prognozowania niż otwarta inteligencja.

Wynik pokazał, że maszyny mogą przewyższać wybitnych ludzi w wymagającym zadaniu intelektualnym. Nie dowiódł, że ten sam system potrafi przenieść zdolności na inny problem. Różnica między wyjątkowym, wąskim wynikiem a ogólną kompetencją pozostaje kluczowa w debacie o AGI.

Prognozy trafne co do kierunku

Kurzweil przewidział powszechność komputerów przenośnych, dostępu bezprzewodowego, dokumentów cyfrowych, technologii mowy dla konsumentów i systemów AI przewyższających ludzi w wybranych zadaniach rozpoznawania wzorców. Ogólny kierunek tych prognoz odpowiada późniejszym wydarzeniom.

Szczegóły były mniej jednolite. Komputery przenośne zdominowały rynek głównie dzięki smartfonom i laptopom, a nie dokładnemu zestawowi urządzeń ubieralnych opisywanemu w części scenariuszy. Rozpoznawanie mowy stało się powszechne, lecz ciągłe dyktowanie nie zastąpiło klawiatur jako podstawowego sposobu tworzenia tekstów przez większość osób do 2009 roku. Media cyfrowe szybko się rozwinęły, podczas gdy papier pozostał obecny w biurach, edukacji, administracji i życiu prywatnym.

Prognoza zasługuje na częściowe uznanie, gdy podstawowa zmiana następuje przez inny produkt lub wzorzec przyjęcia. Nie zasługuje na pełne uznanie, jeśli pierwotne twierdzenie obejmowało nietrafiony termin, skalę powszechności lub formę urządzenia. Kierunek i czas odpowiadają na różne pytania.

Prognozy, które przyszły później lub pozostają nierozstrzygnięte

Niektóre scenariusze zakładały, że zwykłe użycie wcześniej przyniesie rutynowe immersyjne środowiska wirtualne, bardzo przekonującą rozmowę z maszyną i znacznie bliższą integrację ciał z komputerami. Elementy tych idei pojawiły się w wirtualnej rzeczywistości, urządzeniach wspomagających, implantach medycznych i modelach generatywnych, ale dostępność nie oznacza powszechnego przyjęcia.

Preferencje społeczne mogą też pokonać technicznie wykonalną prognozę. Ludzie mogą odrzucić urządzenie, bo jest niewygodne, drogie, rozpraszające, niezręczne społecznie, trudne do naprawy lub zbyt ingerujące w prywatność. Krzywa mierząca wydajność podzespołów nie uwzględnia takich zastrzeżeń.

Dlaczego procent trafności może wprowadzać w błąd

Kurzweil przeprowadził retrospektywną ocenę przewidywań z wcześniejszej pracy i podał wysoki wskaźnik sukcesu według własnej metody punktacji. Ta ocena nie była niezależnym audytem prowadzonym bez znajomości wyników, a wiele twierdzeń dopuszczało kategorie takie jak „zasadniczo trafne” lub „trafne co do kierunku”.

Każda uczciwa ocena powinna osobno zapisywać cztery właściwości:

• Dokładny przewidywany wynik
• Termin i dopuszczalną tolerancję
• Mierzalny próg sukcesu
• Czy oceniający ustalił kryteria przed poznaniem wyniku

Prognozę ceny tranzystora łatwiej ocenić niż przewidywanie, że komputery staną się niewidzialne lub że rozmowa z maszyną będzie wydawała się normalna. Łączenie ich w jeden procent ukrywa wielkie różnice w precyzji i trudności.

Jak prawo przyspieszających zwrotów tworzy tę prognozę

Prawo przyspieszających zwrotów prowadzi do harmonogramu Kurzweila, traktując postęp technologiczny jako proces kumulacyjny, w którym każda generacja narzędzi wspiera następną.

Zmiana liniowa i wykładnicza

Proces liniowy dodaje tę samą wartość w każdym okresie. Jeśli system zyskuje 10 jednostek możliwości rocznie, przechodzi od 10 do 20, potem 30 i 40. Proces wykładniczy mnoży przez stały współczynnik. Pięć podwojeń zamienia 10 jednostek w 320.

Wczesne etapy wzrostu wykładniczego mogą wyglądać skromnie, ponieważ zmiany bezwzględne są niewielkie. Późniejsze etapy wydają się nagłe, nawet jeśli tempo mnożenia się nie zmieniło. Kurzweil twierdzi, że ludzka intuicja często oczekuje zmian liniowych, dlatego nie docenia kumulujących się technologii informacyjnych.

Rzeczywiste krzywe techniczne rzadko są idealnie wykładnicze. Tempo wzrostu się zmienia, pomiary zawierają szum, a poszczególne metody osiągają granice. Twierdzenie głosi, że szerszy trend relacji ceny do wydajności może trwać dzięki kolejnym metodom, nawet gdy jedna z nich zwalnia.

Relacja ceny do wydajności jest ważniejsza niż sama moc

Możliwość dostępna wyłącznie w drogim systemie badawczym ma ograniczony zasięg. Gdy koszt spada, uczelnie, startupy, duże firmy i osoby prywatne mogą wykonywać więcej eksperymentów. Szersze użycie tworzy popyt na infrastrukturę, ujawnia tryby awarii i wspiera przedsiębiorstwa finansujące dalszy rozwój.

Dlatego Kurzweil często analizuje liczbę obliczeń na jednostkę kosztu. Nowy procesor, który jest szybszy, ale proporcjonalnie droższy, może nie poszerzyć dostępu. System wykonujący tę samą pracę z mniejszą liczbą chipów, mniejszym zużyciem energii lub mniejszym modelem może zmienić skalę adopcji bez bicia rekordu surowej wydajności.

W przypadku AI coraz istotniejszym mianownikiem jest koszt zweryfikowanego wyniku, a nie koszt jednej operacji lub tokenu. Tani model wymagający wielu poprawek może kosztować więcej na ukończone zadanie niż droższy model o niższym poziomie błędów.

Zmiany paradygmatu wydłużają krzywą

Argument Kurzweila wykracza poza trwałą kontynuację skalowania tranzystorów. Kalkulatory mechaniczne, przekaźniki, lampy próżniowe, tranzystory, układy scalone, wyspecjalizowane akceleratory i systemy rozproszone można traktować jako kolejne sposoby dostarczania obliczeń.

Gdy jedno podejście napotyka granice fizyczne lub ekonomiczne, inwestycje mogą przejść do innego. Historyczna krzywa może więc trwać mimo zmiany mechanizmu. To twierdzenie jest mocniejsze niż prawo Moore'a, ale trudniejsze do przetestowania, ponieważ kategoria może się rozszerzać zawsze, gdy konkretna technologia się zatrzymuje.

Kilka krzywych musi kumulować się jednocześnie

Same obliczenia nie wystarczą. Pamięć, komunikacja, wydajność oprogramowania, architektura modeli, jakość danych i produktywność badań wpływają na końcowe możliwości. Postęp może przyspieszać, gdy usprawnienia się wzajemnie wzmacniają, na przykład gdy lepsze algorytmy zmniejszają zasoby sprzętowe potrzebne do zadania.

Możliwa jest też sytuacja odwrotna. Niedobór danych wysokiej jakości, ograniczone dostawy energii, przepustowość pamięci lub słaba ocena wyników mogą sprawić, że drogie procesory będą niewykorzystane. Prognozy oparte na jednym rosnącym parametrze pomijają te interakcje.

Co potwierdzają dowody, a czego nie

Dowody zdecydowanie potwierdzają dalszą poprawę wielu danych wejściowych dla AI, lecz nie ustalają stałego przelicznika między tymi danymi a ogólną inteligencją.

Dowody dotyczące obliczeń i algorytmów

Długoterminowe dane pokazują ogromny wzrost relacji ceny do wydajności obliczeń, pojemności pamięci masowej, możliwości sieci i oprogramowania. AI korzysta też z wyspecjalizowanych procesorów, treningu rozproszonego, lepszych formatów numerycznych, optymalizacji i algorytmów osiągających docelowy wynik przy mniejszych zasobach.

Prawa skalowania dostarczają kolejnego elementu dowodu. W sprawdzonych zakresach i przy określonej konfiguracji treningu zmiany rozmiaru modelu, danych i obliczeń mogą prowadzić do względnie przewidywalnych zmian straty treningowej. Ta przewidywalność pomaga laboratoriom planować duże treningi i szacować kompromisy między zasobami.

Prawo skalowania nie jest prawem inteligencji. Niższa strata treningowa nie gwarantuje prawdziwych odpowiedzi, spójnych celów, rozumienia przyczynowego ani powodzenia w długim projekcie. Ekstrapolacja poza sprawdzony zakres zakłada też, że rozkład danych, architektura i ocena pozostają znaczące.

Dowody szerokich możliwości AI

Modele ogólnego zastosowania potrafią wykonywać zadania, które kiedyś wymagały osobnych systemów, w tym pisanie, tłumaczenie, interpretację obrazów, tworzenie oprogramowania, analizę dokumentów i wywoływanie narzędzi. Jeden model często może przełączać się między tymi działaniami na podstawie instrukcji, bez ponownego treningu.

Ta szerokość ma znaczenie dla AGI, ponieważ osłabia pogląd, że każda aktywność intelektualna wymaga osobno zaprojektowanego programu. Pokazuje też, że możliwości mogą pojawiać się razem, gdy modele uczą się z różnorodnych danych.

Pozostała luka dotyczy niezawodności. Systemy mogą rozwiązać trudny problem, a potem zawieść przy prostszej odmianie, zaakceptować fałszywe założenie, wymyślić źródło lub zgubić ograniczenia podczas dłuższej pracy. Sporadyczny sukces dowodzi możliwości. Ogólna inteligencja wymaga odpowiednio wysokiej skuteczności w nieznanych warunkach.

Dlaczego wyniki benchmarków wymagają kontekstu

Benchmarki są użyteczne, gdy zawierają niewidziane zadania, jasną punktację, są odporne na zanieczyszczenie i mierzą zachowanie związane z realną pracą. Stają się mniej informacyjne, gdy dane treningowe przejmują ich pytania lub twórcy optymalizują bezpośrednio pod ich reguły punktacji.

Wiarygodny program oceny powinien oddzielać testy rozwojowe od prywatnych testów końcowych, zapisywać zużycie zasobów, powtarzać próby i raportować rozkład błędów, a nie tylko średnie. Powinien też porównywać systemy z odpowiednimi ludzkimi punktami odniesienia. Dorównanie początkującemu w jednym teście różni się od dorównania wyszkolonemu specjaliście przy takich samych ograniczeniach czasu i narzędzi.

Próby w rzeczywistych procesach pracy dodają informacji, których nie wychwytują statyczne testy. Pokazują, czy system prosi o brakujące dane, sprawdza własną pracę, odzyskuje kontrolę po błędzie i rozpoznaje, kiedy powinien się zatrzymać. Dla wdrożenia te zachowania liczą się bardziej niż kolejny niewielki wzrost wyniku na nasyconym zestawie testowym.

Dane wejściowe łatwiej mierzyć niż rezultaty

Moc obliczeniowa, pamięć masowa i przepustowość mają stabilne jednostki. Ogólność, osąd, zdolność adaptacji i zdrowy rozsądek ich nie mają. Badacze mogą precyzyjnie liczyć procesory, a zarazem nie zgadzać się, czy ukończone zadanie pokazuje rozumowanie, czy wyrafinowane dopasowywanie wzorców.

Ta różnica pomiarowa nadaje ilościowym prognozom pozór precyzji, którego zmienna docelowa może nie uzasadniać. Lepsze dane wejściowe zawężają tylko część niepewności.

Założenia prognozy AGI sięgającej dekad naprzód

Harmonogram Kurzweila zależy od zestawu założeń, a data może znacznie się przesunąć, jeśli zawiedzie choć jedno z nich.

Obliczenia pozostają ekonomicznie dostępne

Prognoza zakłada, że organizacje będą mogły nadal zwiększać użyteczną moc obliczeniową dzięki lepszym chipom, większym systemom, lepszemu wykorzystaniu zasobów lub tańszemu wnioskowaniu. Na tę dostępność wpływają moce produkcyjne, nakłady kapitałowe, energia elektryczna, chłodzenie, pamięć, sieci i handel międzynarodowy.

Granice fizyczne nie muszą zatrzymać postępu, aby zmienić harmonogram. Wolniejsze tempo poprawy utrzymujące się przez kilka lat kumuluje się w dużą różnicę względem pierwotnej projekcji.

Algorytmy nadal zamieniają zasoby w możliwości

Większa moc obliczeniowa musi nadal przynosić istotne korzyści. Może się tak dziać przez skalowanie obecnych metod, odkrywanie wydajniejszych architektur, ulepszanie celów treningowych lub łączenie wyuczonych modeli z wyszukiwaniem, pamięcią, narzędziami i formalną weryfikacją.

To założenie jest silniejsze niż przewidywanie szybszego sprzętu. Odkrycia algorytmiczne nie pojawiają się według regularnego harmonogramu produkcyjnego, a ich wartość może być różna w poszczególnych dziedzinach.

Uczenie nie zostanie zablokowane ograniczeniami danych

Przyszłe systemy potrzebują użytecznego doświadczenia. Może ono pochodzić z materiałów tworzonych przez ludzi, obserwacji wielomodalnych, symulacji, interakcji, przykładów syntetycznych, informacji zwrotnych lub eksperymentów prowadzonych przez same systemy.

Dane syntetyczne nie są automatycznym zamiennikiem zewnętrznych dowodów. Jeśli model tworzy materiał na podstawie własnych błędów i nie otrzymuje sygnału korygującego, trening może te błędy utrwalić. Symulacje słabo przenoszą się też na rzeczywistość, gdy pomijają właściwości ważne w realnym środowisku.

Ludzkie poznanie można odtworzyć maszynowo

Kurzweil zakłada, że inteligencja wynika z fizycznych procesów informacyjnych, które można zrozumieć i wdrożyć w systemach niebiologicznych. Jego szacunki często porównują dostępną moc obliczeniową z modelami mózgu i traktują neuronaukę jako źródło wskazówek inżynieryjnych.

Nie wymaga to kopiowania każdego neuronu. Wymaga jednak przekonania, że żaden nieznany mechanizm biologiczny nie tworzy nieprzezwyciężalnej bariery. Szacunki mocy obliczeniowej mózgu różnią się, ponieważ badacze odmiennie liczą operacje, synapsy, impulsy, procesy biochemiczne i wydajność uczenia.

Lepsza AI przyspiesza badania nad AI

Najszybsze wersje tej prognozy wymagają, by AI istotnie przyczyniała się do własnego ulepszania. Tworzenie kodu to tylko część tej pętli. System badawczy musiałby formułować użyteczne hipotezy, projektować eksperymenty, interpretować wyniki negatywne i odróżniać prawdziwy postęp od nadmiernego dopasowania do benchmarków.

Samodoskonalenie zależy też od dostępu. Zdolny model nie może przeprojektować sprzętu, prowadzić wielkich eksperymentów ani wdrożyć następcy bez zasobów i zgody ludzi. Inteligencja może skrócić część etapów, pozostawiając zewnętrzne wąskie gardła bez zmian.

Co może opóźnić lub na nowo zdefiniować AGI

AGI może pojawić się później niż przewidywano, ponieważ ograniczeniem staną się niezawodność, uczenie, bezpieczeństwo i wdrożenie, nawet gdy możliwości modeli nadal rosną.

Długie zadania zwielokrotniają małe wskaźniki błędów

System może wyglądać na dokładny na pojedynczych etapach, a mimo to zawieść w większości dłuższych projektów. Jeśli każdy etap niezależnie kończy się sukcesem w 99 procentach przypadków, szansa ukończenia 100 wymaganych etapów bez błędu wynosi około 37 procent.

Rzeczywiste błędy często są skorelowane, co może pogorszyć wynik. Błędne założenie na początku może zanieczyścić każde późniejsze działanie. Postęp zależy więc od wykrywania błędów, korygowania planów, zapisywania stanu, testowania wyników pośrednich i przekazywania niejednoznacznych decyzji człowiekowi.

Dlatego czas autonomicznego wykonywania zadania jest bardziej miarodajny niż jakość jednej odpowiedzi. Model, który kończy zweryfikowane ośmiogodzinne zadanie, zmienia pracę inaczej niż model wymagający korekty co kilka minut.

Ciągłe uczenie pozostaje trudne

Ludzie zdobywają nową wiedzę dzięki doświadczeniu, zachowując dużą część tego, co już wiedzą. Wdrożone systemy AI często rozdzielają trening od użycia. Ich aktualizacja może wymagać nowych danych, oceny i kolejnego cyklu treningowego.

Kandydat na AGI powinien umieć bezpiecznie uczyć się z interakcji, nie przyswajając złośliwych instrukcji, prywatnych informacji ani przypadkowych nieprawd. Powinien też rozumieć, które lekcje dotyczą jednej sytuacji, a które można uogólnić. Rozwiązanie tego problemu obejmuje projekt pamięci, kontrolę dostępu, pochodzenie informacji i ochronę przed katastrofalnym zapominaniem.

Sprawczość tworzy problemy bezpieczeństwa

Model, który jedynie proponuje tekst, ma ograniczoną powierzchnię działania. System uprawniony do wysyłania wiadomości, modyfikowania oprogramowania, wydawania pieniędzy, obsługi maszyn lub zarządzania kontami może wyrządzić szkody przez małe nieporozumienie.

Większa autonomia zwiększa więc potrzebę ograniczonych uprawnień, bramek zatwierdzania, dzienników audytu, izolowanego wykonania i procedur odzyskiwania kontroli. Te mechanizmy mogą spowalniać działanie, ale ich usunięcie nie zwiększa inteligencji. Przenosi koszt błędów na użytkowników i osoby postronne.

Sprawność fizyczna może pozostawać w tyle za cyfrową

Inteligencja wyrażana przez oprogramowanie korzysta z szybkich i powtarzalnych środowisk. Praca fizyczna musi radzić sobie z tarciem, uszkodzeniami, niepewnymi czujnikami, nietypowymi przedmiotami, zmienną pogodą i bezpieczeństwem ludzi.

System AI może stać się szeroko zdolny w badaniach, analizie, komunikacji i oprogramowaniu, zanim roboty osiągną porównywalną elastyczność. To, czy taki stan liczy się jako AGI, zależy od definicji. Wymóg adaptacji fizycznej na poziomie człowieka stawia wyższą poprzeczkę niż wymóg ogólnej pracy poznawczej przez komputery.

Instytucje mogą wymagać mocniejszych dowodów

Medycyna, finanse, transport, administracja publiczna i infrastruktura krytyczna wiążą się ze skutkami, których zwykłe benchmarki nie oddają. Ubezpieczyciele, regulatorzy, sądy, klienci i organizacje zawodowe mogą wymagać udokumentowanych wyników, zanim pozwolą na autonomiczne działanie.

Takie opóźnienie nie pokazywałoby, że modelowi brakuje inteligencji. Pokazywałoby, że możliwości i pozwolenie na działanie są osobnymi kamieniami milowymi. Prognoza technicznej wykonalności nie powinna po cichu zakładać natychmiastowego wdrożenia społecznego.

Główne krytyki podejścia Kurzweila

Główna krytyka metody Kurzweila mówi, że wiarygodne trendy w technologii informacyjnej nie wyznaczają automatycznie daty pojawienia się słabo zdefiniowanej zdolności poznawczej.

Dobór trendu może kształtować odpowiedź

Długa historyczna krzywa zależy od decyzji o tym, które technologie, ceny i miary wydajności należą do zbioru danych. Łączenie kolejnych metod obliczeń może ujawnić rzeczywisty wzorzec, ale daje też analitykowi swobodę zachowania tego wzorca, gdy pojedyncza seria zmienia kierunek.

Znaczenie mają również daty początku i końca. Krótki okres szybkiej poprawy może wyglądać jak trwały wykładnik, a długa średnia może ukryć niedawne spowolnienie. Prognozy powinny publikować podstawowe obserwacje i pokazywać, jak wyniki zmieniają się przy innych przedziałach czasowych.

Inteligencja może nie być jedną skalowalną wielkością

Wyniki nie rosną równomiernie w obszarach rozumowania, pamięci, osądu społecznego, percepcji, kontroli ruchu i dokładności faktów. System może bardzo poprawić się w jednej dziedzinie, pozostając zawodny w innej.

Ta nierównomierność podważa porównania między możliwościami maszyny a szacowaną mocą obliczeniową mózgu. Osiągnięcie liczbowego progu operacji nie wskazuje algorytmów, reprezentacji, doświadczenia rozwojowego ani architektury potrzebnych do skutecznego użycia tych operacji.

Złożone systemy przechodzą zmiany reżimu

Historyczne zależności mogą się zerwać wraz ze zmianą inżynierii, ekonomii lub polityki. Produkcja może przejść w stronę wyższych kosztów. Popyt na energię może napotkać lokalne ograniczenia sieci. Regulacje mogą ograniczyć dane treningowe lub wdrażanie. Konsumenci mogą odrzucać produkty zbierające wrażliwe informacje.

Zmiany te nie obalają kumulującego się postępu jako ogólnej obserwacji. Osłabiają pewność wobec daty kalendarzowej wyprowadzonej z założenia, że wcześniejsze tempo utrzyma się.

Rekurencyjne ulepszanie nie musi prowadzić do eksplozji

Zdolny badacz AI może najpierw znajdować łatwe ulepszenia, a potem stawać przed trudniejszymi problemami. Każda generacja może przynosić mniejsze zyski, wymagać większej weryfikacji lub zależeć od eksperymentów fizycznych o stałym czasie trwania.

Oprogramowanie można czasem szybko kopiować i testować, ale produkcja chipów, badania kliniczne, budownictwo i infrastruktura energetyczna działają według innych zegarów. Teza o osobliwości potrzebuje modelu tych procesów ograniczających, a nie wyłącznie modelu inteligencji oprogramowania.

Elastyczne sformułowania osłabiają falsyfikowalność

Prognozy trudno obalić, gdy pojęcia takie jak inteligencja, łączenie, wszechobecność czy poziom człowieka pozostają otwarte na nowe interpretacje. Model konwersacyjny, implant medyczny i smartfon można przedstawić jako częściowe potwierdzenie szerokiej integracji człowieka z maszyną.

Dobre prognozowanie ustala regułę punktacji przed terminem. Jeśli pierwotny próg zmienia się po zobaczeniu wyniku, ćwiczenie mierzy zdolność dopasowania narracji, a nie trafność przewidywań.

Jak inni progności szacują terminy AGI

Inni progności szacują AGI na podstawie ankiet eksperckich, modeli mocy obliczeniowej, trendów możliwości, uporządkowanych scenariuszy i rynków predykcyjnych. Każda z tych metod ujawnia inne źródła niepewności.

Ankiety eksperckie

Ankiety pytają badaczy, kiedy przypisują określone prawdopodobieństwa inteligencji maszynowej na poziomie człowieka lub automatyzacji poszczególnych zadań. Zbierają świadome osądy osób pracujących blisko technologii i mogą pokazywać, jak przekonania zmieniają się po ważnych wynikach.

Odpowiedzi silnie zależą od doboru próby i sformułowania pytań. Ankieta wśród autorów konferencji uczenia maszynowego może różnić się od ankiety skupionej na robotyce, neuronauce, bezpieczeństwie lub ekonomii. Pytanie, kiedy AI wykona większość płatnej pracy, nie jest równoważne pytaniu, kiedy przewyższy ludzi w każdym zadaniu.

Pytania o prawdopodobieństwo są bardziej informacyjne niż żądanie jednego roku. Prognosta podający daty dla prawdopodobieństwa 10, 50 i 90 procent przekazuje rozkład, zamiast ukrywać niepewność za pojedynczym szacunkiem.

Modele oparte na mocy obliczeniowej

Modele obliczeniowe szacują zasoby potrzebne do odtworzenia istotnych aspektów ludzkiego poznania, a następnie prognozują, kiedy zasoby te mogą stać się dostępne cenowo. Podejścia oparte na biologicznym punkcie odniesienia są jedną z wersji tej metody.

Obliczenia można na tyle przejrzyście aktualizować, lecz ich niepewność jest duża. Badacze muszą oszacować obliczenia mózgu, wymagania treningowe, wydajność algorytmiczną, ceny sprzętu i część poznania, którą praktyczny system musi odtworzyć. Pomnożenie kilku niepewnych szacunków może dać szeroki przedział dat.

Prognozowanie oparte na możliwościach

Prognozy możliwości śledzą wyniki w określonych zadaniach i szacują tempo, w jakim systemy zmniejszają różnice. Przydatne cele obejmują projekty programistyczne, rozwiązywanie problemów naukowych, nieznane gry, pomoc badawczą i działanie w środowiskach interaktywnych.

Metoda pozostaje blisko obserwowalnego efektu. Jej słabość polega na tym, że postęp w benchmarkach może nie utrzymać tego samego tempa, a zbiór zwycięstw w zadaniach może nadal pomijać zdolność potrzebną do działania ogólnego.

Planowanie scenariuszowe i rynki predykcyjne

Planowanie scenariuszowe tworzy kilka wewnętrznie spójnych przyszłości, zamiast wybierać jedną. Szybki scenariusz może łączyć wydajne algorytmy, obfitą infrastrukturę i udane badania wspomagane przez AI. Wolniejszy scenariusz może uwzględniać malejące korzyści, trudną inżynierię bezpieczeństwa lub ograniczone wdrażanie.

Rynki predykcyjne i platformy prognostyczne dodają zachęty do dobrze skalibrowanych szacunków oraz pozwalają aktualizować przekonania po nowych dowodach. Ich użyteczność zależy od jasnych kryteriów rozstrzygnięcia. Rynek nie może uczciwie rozliczyć wyniku, jeśli uczestnicy nie zgadzają się, jakie zdarzenie kwalifikuje się jako AGI.

Żadna metoda nie usuwa niepewności definicyjnej. Porównywanie prognoz zaczyna się od przełożenia ich na ten sam cel, standard dowodów i poziom prawdopodobieństwa.

Sygnały, które wzmocnią lub osłabią prognozę

Najsilniejsze sygnały będą mierzyć przenośne kompetencje, trwałą autonomię, wydajność uczenia, zweryfikowaną ekonomię i bezpieczne wdrożenie, a nie rozgłos wokół pojedynczych demonstracji.

Przenoszenie umiejętności na rzeczywiście nową pracę

Silny system powinien dobrze wykonywać zadania stworzone po granicznej dacie jego treningu i ukryte przed twórcami. Powinien wyciągać wnioski z nieznanych reguł, prosić o brakujące informacje i stosować wiedzę z jednej dziedziny w drugiej bez specjalnego projektu treningowego.

Oceniający powinni zmieniać sformułowania, narzędzia, formaty danych i ograniczenia środowiskowe. Sukces w takich odmianach lepiej świadczy o ogólności niż zapamiętanie znanego stylu testu.

Dłuższy horyzont autonomicznych zadań

Warto śledzić czas trwania i złożoność zadań ukończonych zgodnie z określonym standardem akceptacji. Przydatna miara uwzględnia ponowne próby, interwencje człowieka, czas weryfikacji oraz błędy, które zostawiają środowisko w gorszym stanie.

Wzrost maksymalnej długości pojedynczej demonstracji znaczy mniej niż wzrost mediany niezawodnego czasu zadania. Powtarzalne wyniki w wielu próbach pokazują, czy poprawiły się planowanie i odzyskiwanie kontroli.

Niższy koszt zaakceptowanego wyniku

Ceny tokenów i rozmiar modelu nie mierzą bezpośrednio wartości biznesowej. Koszt zaakceptowanego wyniku obejmuje użycie modelu, narzędzia, przegląd, korektę, infrastrukturę oraz straty spowodowane błędami.

Spadający zweryfikowany koszt w wielu rodzajach pracy wspierałby argument o przyspieszających zwrotach, ponieważ pozwalałby na więcej eksperymentów i szersze wdrażanie. Koszty utrzymujące się na wysokim poziomie z powodu nadzoru lub poprawek osłabiałyby twierdzenia oparte wyłącznie na tanim wnioskowaniu.

Bezpieczne uczenie po wdrożeniu

Dowody na ogólną inteligencję stałyby się mocniejsze, gdyby systemy mogły włączać nowe doświadczenia bez nieograniczonego ponownego treningu i bez utraty wcześniejszych kompetencji. Testy powinny sprawdzać, czy system odróżnia zaufane dowody od manipulacji, zachowuje granice prywatności i potrafi wyjaśnić, skąd wzięło się nowe przekonanie.

Postęp w tym obszarze zmniejszyłby istotną różnicę między statycznymi modelami a adaptującymi się pracownikami. Niepowodzenie pozostawiłoby organizacje zależne od zewnętrznych cykli aktualizacji, nawet jeśli poszczególne modele sprawiają wrażenie dobrze poinformowanych.

Niezależne dowody operacyjne

Audytowane wdrożenia mogą pokazać, czy AI przynosi trwałe korzyści w oprogramowaniu, nauce, wsparciu, operacjach i innych dziedzinach. Przydatne raporty obejmują definicje zadań, wyniki bazowe, wagę błędów, wymagania nadzoru i całkowity koszt.

Dowodami przeciwko najszybszemu harmonogramowi byłyby płaski czas niezawodnego zadania, utrzymujące się błędy przy prostych odmianach, rosnące koszty infrastruktury na zaakceptowany wynik albo niemożność poprawienia bezpieczeństwa bez utraty większości użytecznej autonomii. To mocniejsze sygnały przeciwne niż chwilowa przerwa w jednym benchmarku.

Praktyczne wnioski do planowania

Praktyczna odpowiedź na prognozę Kurzweila to przygotowanie się na szybszy rozwój AI bez uzależniania firmy, kariery czy polityki od jednej daty.

Oddziel obecne możliwości od AGI

Organizacje nie potrzebują AGI, aby korzystać z modeli językowych, agentów programistycznych, analizy dokumentów czy zautomatyzowanych procesów. Muszą natomiast dopasować każde narzędzie do ograniczonego zadania i sprawdzić, czy wykonuje je ekonomicznie.

Nazywanie każdego użytecznego systemu AGI prowadzi do złych decyzji w obu kierunkach. Zachęca do ryzykownej autonomii, gdy model jest zawodny, oraz do niepotrzebnego zwlekania, gdy ograniczone zastosowanie pod nadzorem już działa.

Korzystaj z odwracalnych eksperymentów

Rozsądny proces wdrażania ogranicza koszt pomyłki:

• Zdefiniuj zadanie, ograniczenia i test akceptacji przed wyborem modelu
• Pozostaw istotne działania za wyraźną zgodą, dopóki nie zmierzysz wyników
• Zapisuj błędy według wagi i przyczyny, zamiast uśredniać je do jednego wyniku
• Zachowuj migawki, dzienniki i procedury cofania zmian na potrzeby odzyskiwania kontroli
• Porównuj całkowity zweryfikowany koszt z obecnym procesem

To podejście pozostaje użyteczne przy szybkim, nierównym lub wolnym postępie AI. Dostarcza dowodów, które mogą aktualizować strategię bez konieczności wiary w dokładną datę pojawienia się AGI.

Koder.ai oferuje jeden ze sposobów prowadzenia takiego eksperymentu przy tworzeniu oprogramowania. Jego interfejs czatu może tworzyć aplikacje webowe React, usługi Go z bazami PostgreSQL oraz aplikacje mobilne Flutter. Tryb planowania pomaga zdefiniować pracę przed wdrożeniem, a migawki i cofanie zmian ułatwiają odwracanie prób. Eksport kodu źródłowego, wdrażanie, hosting i obsługa własnej domeny pozwalają zespołowi przetestować aplikację i zachować praktyczną kontrolę nad wynikiem.

Te możliwości nie wymagają ogłoszenia, że AGI już nadeszła. Stosują obecną AI do konkretnego procesu z wynikami, które można sprawdzić. Założyciel może stworzyć prototyp strony, CRM, ERP lub produktu mobilnego, przetestować go z użytkownikami i zdecydować, czy dalsza inwestycja ma uzasadnienie.

Planuj w trzech scenariuszach

Scenariusz szybkiego postępu zakłada, że agenci wkrótce staną się niezawodni w długich zadaniach. Przygotowania powinny skupiać się na projektowaniu uprawnień, zdolności oceny, integracji organizacyjnej i szybkim eksperymentowaniu.

Scenariusz nierównego postępu zakłada mocne wyniki w części dziedzin i trwałe słabości w innych. Przygotowania powinny skupiać się na rozkładaniu zadań, kierowaniu pracy do odpowiedniego systemu i zachowaniu ludzkiego przeglądu tam, gdzie koszt błędów jest wysoki.

Scenariusz wolnego postępu zakłada, że obecne metody napotkają twarde granice. Przygotowania powinny sprzyjać inwestycjom, które poprawiają też tradycyjne działania, takim jak lepsze dane, jaśniejsze procesy, modułowe oprogramowanie i mierzalna kontrola jakości.

Decyzja działająca we wszystkich trzech scenariuszach jest cenniejsza niż duży, nieodwracalny zakład, który powiedzie się tylko wtedy, gdy jedna prognoza okaże się dokładnie trafna.

Zadawaj precyzyjne pytania o każdą prognozę

Przed działaniem na podstawie prognozy AGI ustal:

• Jakie obserwowalne zachowanie kwalifikuje się jako AGI?
• Jakie prawdopodobieństwo przypisano podanemu rokowi?
• Jakie dowody skłoniłyby prognostę do przesunięcia daty?
• Jakie ograniczenia techniczne lub społeczne wykluczono z modelu?
• Jak prognoza zostanie oceniona, jeśli wynik nadejdzie w innej formie?

Harmonogram Kurzweila jest najbardziej użyteczny jako hipoteza o kumulującym się postępie technologicznym. Jego wartość leży w pomiarach i założeniach, które zachęca czytelników badać, a nie w traktowaniu roku kalendarzowego jak obietnicy. Przygotowuj się przez ograniczone eksperymenty, niezależną ocenę i odwracalne decyzje, a następnie zmieniaj kierunek, gdy zmieniają się dowody.