Wyobraźmy sobie program szachowy, który zawsze znajduje idealne posunięcie. Potrzebuje tylko kilku miliardów lat obliczeń. Czy taki program gra w szachy lepiej niż człowiek?
Siergiej Markow odpowiada: oczywiście, że nie. Kieruje działem eksperymentalnych systemów uczenia maszynowego w SberDevices, części Sbierbanku, i używa tego absurdalnego programu, by pokazać, dlaczego jeden z najczęściej przywoływanych terminów w technologii przestał cokolwiek znaczyć. Chodzi o sztuczną inteligencję ogólną, czyli AGI.
Stawka jest praktyczna. Prędzej czy później jakaś firma wstanie i ogłosi, że zbudowała AGI. Markow jest tego niemal pewien. To, co usłyszymy, i to, co to ogłoszenie będzie naprawdę znaczyć, może okazać się dwiema różnymi rzeczami.
Termin pochodzi od Marka Gubruda, który użył go pod koniec lat 90. w pracy o wojskowych zastosowaniach nanotechnologii. Markowa bawi ten szczegół. Pomysł Gubruda był odległym, przyjemnym marzeniem: pewnego dnia zbudujemy uniwersalne systemy, które – podobnie jak ludzki mózg – będą rozwiązywać szeroki wachlarz problemów intelektualnych.
Jako marzenie to działa. Jako miarka rozpada się w momencie, gdy się jej dotknie. Zarzut Markowa jest taki, że definicję pozostawiono niedokończoną z obu stron.
Zacznijmy od „każdego zadania, które potrafi rozwiązać człowiek”. Który człowiek? Różni ludzie rozwiązują różne zadania. Czy maszyna ma dorównać przeciętnej osobie, czy ekspertowi? A może istnieje problem, który potrafi rozwiązać tylko jedna osoba na Ziemi. Czy ją też bierzemy pod uwagę?
Następnie „rozwiązać”. Ile może to trwać i jakim kosztem energetycznym? Tu właśnie wkracza program szachowy. Formalnie znajduje najlepsze posunięcie, a nikt nie nazwałby go mistrzem szachowym. Próba zamiany zdania Gubruda w test, mówi Markow, kończy się w kałuży. Wszyscy w branży to wiedzą, Sam Altman również.
Praca badaczki Meredith Ringel Morris, opublikowana w Proceedings of Machine Learning Research w lipcu 2024 roku, wskazuje te same dwie dziury: „jakie zadania?” i „którzy ludzie?”. Jej odpowiedzią są ramy, które oceniają skuteczność i ogólność osobno.
Odpowiedź Altmana była inna. W wersji Markowa firma mówi: dziękujemy, Gubrud, to ładna marketingowa nazwa, ale napiszemy własną definicję. I napisali.
Doszli już w swoich rozmowach z Microsoftem do tego, że AGI to u nich, no cóż, system, który będzie w stanie, że tak powiem, zarobić miliard dolarów.
И они там в своих переговорах с Майкрософтом дошли уже до того, что AGI у них, это, значит, система, которая сможет, там, миллиард долларов заработать.
— Siergiej Markow, Podcast Gleba Solomina, 08:59
Markow mówi, że na pytanie prowadzącego „poważnie?” padła poważna odpowiedź. Wskazuje na przeciek z OpenAI, który pojawił się tydzień przed rozmową. Firma omawia w nim system na tyle dobry, że po przekształceniu w działającą usługę mógłby zarobić miliard dolarów.
Doniesienia prasowe podają jeszcze większe kwoty. Business Insider informował w grudniu 2024 roku, że OpenAI i Microsoft podpisały porozumienie definiujące AGI jako system zdolny wygenerować 100 miliardów dolarów zysku. U Markowa to miliard, u Business Insidera sto. Tak czy inaczej, sprawdzianem są przychody finansowe.
Zauważmy, co stało się z pytaniem. „Czy potrafi myśleć jak człowiek?” jest trudne do rozstrzygnięcia, a stan konta bankowego – łatwy. Umowa może zweryfikować stan konta.
Markow nie pochwala tego podejścia, ale rozumie motyw. Duże spółki publiczne chcą jako pierwsze ogłosić AGI. Jego zakład: ktoś zrobi to w 2026 roku, najpóźniej w 2027 lub 2028. Pytanie, co będzie zawierać to ogłoszenie.
Nazywa to spekulacją, ruchem rynkowo-marketingowym, który żywi się niedookreślonym terminem. Rzeczywistość jest mniej uporządkowana. Dzisiejsze duże modele językowe wciąż bardzo słabo radzą sobie z niektórymi klasami zadań i mają szereg dość podstawowych ograniczeń. Nic z tego, dodaje, nie umniejsza postępu, który nazywa ogromnym.
Gdy więc pojawi się nagłówek, zapytajmy, o które AGI chodzi: o uniwersalistę na wzór mózgu według Gubruda, czy o to, które wygeneruje miliard dolarów?
