Najnowsza prognoza Muska: sztuczna inteligencja może przewyższyć ludzką inteligencję w 2030 r. i może w przyszłości „wykończyć” ludzi (1/2)

Źródło: Tencent Technology News 04.04.2024, 08:55

Kluczowe punkty:

① Musk przewiduje, że sztuczna inteligencja może przekroczyć poziom ludzkiej inteligencji do 2030 r., a nawet może spowodować śmierć człowieka.

② Musk opowiedział o czynnikach ograniczających rozwój sztucznej inteligencji. W ubiegłym roku podaż chipów AI była ograniczona, a w tym roku wąskim gardłem stanie się transformator obniżający napięcie.

③ Jeśli chodzi o to, kiedy ludzie będą mogli wylądować na Księżycu, Musk przewiduje, że przy pomocy statku Starship zajmie to najszybciej tylko trzy lata.

Tencent Technology News, 4 kwietnia – Według doniesień mediów zagranicznych Elon Musk, dyrektor generalny Tesli i SpaceX, odbył niedawno rozmowę internetową z Peterem Diamandisem, założycielem Singularity University i fundacji XPRIZE, podczas szczytu Abundance. Gospodarzem szczytu był Uniwersytet Singularity w Dolinie Krzemowej, którego celem jest zapewnianie liderom biznesu najnowocześniejszego doradztwa technologicznego. Fundacja XPRIZE promuje innowacje technologiczne poprzez konkursy naukowe, z których część została ufundowana przez Muska., 4 kwietnia – Według doniesień mediów zagranicznych Elon Musk, dyrektor generalny Tesli i SpaceX, odbył niedawno rozmowę internetową z Peterem Diamandisem, założycielem Singularity Uniwersytetu i Fundacji XPRIZE na Szczycie Obfitości. Gospodarzem szczytu był Uniwersytet Singularity w Dolinie Krzemowej, którego celem jest zapewnianie liderom biznesu najnowocześniejszego doradztwa technologicznego. Fundacja XPRIZE promuje innowacje technologiczne poprzez konkursy naukowe, z których część została ufundowana przez Muska.

Omawiając tempo rozwoju sztucznej inteligencji Musk przewidział, że biorąc pod uwagę obecne tempo postępu technologicznego, sztuczna inteligencja może do 2030 roku przewyższyć inteligencję ludzką, a technologia ta może nawet mieć potencjał do zagłady ludzkości. Nie przyjął jednak pesymistycznej wizji przyszłości, ale podkreślił, że dzięki pozytywnym wskazówkom sztuczna inteligencja ma potencjał, aby zapewnić ludzkości lepszą przyszłość.

Musk wspomniał, że pojawienie się superinteligencji nazywane jest „osobliwością” właśnie ze względu na jej nieprzewidywalne konsekwencje, w tym ryzyko potencjalnego zagłady ludzkości. Zgodził się z punktem widzenia „Ojca chrzestnego sztucznej inteligencji” Geoffreya Hintona i uważał, że prawdopodobieństwo wystąpienia tego ryzyka wynosi w przybliżeniu od 10% do 20%.

Pomimo uznania potencjalnego ryzyka, jakie stwarza sztuczna inteligencja przewyższająca inteligencję ludzką, Musk nadal podkreślał, że możliwość pozytywnych wyników przeważa nad negatywnymi konsekwencjami. Wspomniał szczególnie o książce Diamandis z 2014 r. „Obfitość: przyszłość jest lepsza niż myślisz”, która przedstawia optymistyczną przyszłość napędzaną sztuczną inteligencją i robotami, gdzie koszty towarów i usług znacznie spadły. Ponadto przytoczył serię „Kultura” szkockiego pisarza science fiction Iaina M. Banksa jako najlepszy scenariusz na wpół utopijną przyszłość sztucznej inteligencji.

Musk porównał rozwój sztucznej inteligencji i sztucznej inteligencji ogólnej (AGI) do wychowywania dziecka, mając nadzieję, że będzie to miało bardziej pozytywny wpływ na ludzkość. Podkreślił znaczenie kultywowania sztucznej inteligencji, która naprawdę rozumie etykę i moralność, porównując ją do klasycznego filmu Stanleya Kubricka z 1968 roku „2001: Odyseja kosmiczna”.

Musk zwrócił uwagę, że najważniejszym aspektem bezpieczeństwa sztucznej inteligencji jest zapewnienie jej maksymalnego poszukiwania prawdy i ciekawości. Uważa, że ​​kluczem do osiągnięcia maksymalnego bezpieczeństwa sztucznej inteligencji jest unikanie zmuszania jej do kłamstwa, nawet w obliczu nieprzyjemnej prawdy. Jako przykład podał wątek z „2001: Odysei kosmicznej”, w którym sztuczna inteligencja zmuszona była kłamać, co doprowadziło do śmierci załogi, aby podkreślić, że sztucznej inteligencji nie należy zmuszać do niczego, co narusza aksjomaty.

Musk wspomniał także o czynnikach, które mogą ograniczać rozwój sztucznej inteligencji, takich jak ograniczona podaż chipów sztucznej inteligencji, która pojawiła się w zeszłym roku oraz rosnące zapotrzebowanie na transformatory obniżające napięcie w sprzęcie gospodarstwa domowego i sprzęcie komercyjnym. Stwierdził, że wyzwania te są rzeczywiście bieżącymi problemami, którymi należy się zająć.

Podczas dyskusji obie strony rozmawiały także o koncepcji integracji kory nowej ludzkiego mózgu z chmurą. Chociaż Musk uważa, że ​​cel, jakim jest przesłanie ludzkiej świadomości i pamięci do chmury, jest jeszcze odległy, pochwalił swój start-up zajmujący się interfejsem mózg-komputer, Neuralink, i pierwszego pacjenta, który otrzymał przeszczep. Ten pacjent z tetraplegią z powodzeniem zademonstrował na żywo badanie zatwierdzone przez FDA, kontrolując ekran, grając w gry wideo, pobierając oprogramowanie i osiągając funkcje podobne do operacji myszką za pomocą implantów mózgowych. Musk stwierdził, że prace nad Neuralink przebiegają sprawnie i stopniowo zmierzają do celu, jakim jest interfejs obejmujący cały mózg.

Poniżej znajduje się pełny tekst dialogu Muska i Diamandisa:

1. Siła i niebezpieczeństwo superinteligencji

Diamandis: Gratulujemy wybitnych osiągnięć w różnych dziedzinach. Aktywnie propagujesz na świecie koncepcję superinteligencji cyfrowej – czy jest to największa nadzieja ludzkości, czy też nasza najgłębsza obawa? Czy możesz poświęcić kilka minut na rozmowę o tym problemie?

Musk: Jak wiadomo, superinteligencję można nazwać „osobliwością”. Popularyzacja tego terminu jest nierozerwalnie związana z działaniami takich instytucji jak Instytut Singularity. Pojawienie się superinteligencji i jej późniejsze skutki są naprawdę trudne do przewidzenia. Osobiście uważam, że rzeczywiście istnieje możliwość, że może to zakończyć ludzkość. Jak powiedziałem wcześniej, mógłbym zgodzić się z poglądem Geoffreya Hintona, że ​​istnieje 10% lub 20% szans, że superinteligencja może zakończyć ludzkość. Jestem jednak skłonny wierzyć, że prawdopodobieństwo scenariusza pozytywnego jest większe niż negatywnego, choć trudno nam dokonać trafnych przewidywań. Ale ponieważ w swojej książce podkreśliłeś koncepcję „obfitości”, uważam, że najbardziej prawdopodobna przyszłość, do której zmierzamy, to przyszłość pełna obfitości.

Diamandis: Twój punkt widzenia jest bardzo ekscytujący. Pamiętam, jak kiedyś powiedziałeś, że rozwój ogólnej sztucznej inteligencji i humanoidalnych robotów doprowadzi nas do obfitości.

Musk: Tak, mam nadzieję, że nasza przyszłość będzie podobna do tej przedstawionej w serii książek Iana Banksa „Kultura”. Myślę, że to najlepsza koncepcja na wpół utopijnego społeczeństwa sztucznej inteligencji. Pojawienie się superinteligencji jest nieuniknione i może nastąpić wkrótce. Dlatego tak naprawdę musimy poprowadzić go w pozytywnym kierunku i zmaksymalizować płynące z niego korzyści.

Wierzę, że kluczowy jest sposób, w jaki kultywujemy sztuczną inteligencję. W pewnym stopniu przypominamy kultywowanie formy życia posiadającej ogólną inteligencję, co jest prawie jak wychowywanie dziecka, ale to dziecko posiada niezwykłą mądrość i talent. Ważny jest sposób, w jaki wychowujemy dzieci, tak samo dla bezpieczeństwa sztucznej inteligencji kluczowe jest posiadanie sztucznej inteligencji, która szuka prawdy i jest pełna ciekawości. Głęboko zastanawiałem się nad bezpieczeństwem sztucznej inteligencji i doszedłem do wniosku, że najlepszym sposobem na osiągnięcie bezpieczeństwa sztucznej inteligencji jest jej staranne kultywowanie.

Jeśli chodzi o podstawowe modele i dostrajanie, musimy zadbać o uczciwość sztucznej inteligencji. Nie możemy zmusić go do kłamstwa, nawet jeśli prawda może być nieprzyjemna. Tak naprawdę jednym z głównych wątków „Odysei kosmicznej 2001” jest to, że gdy sztuczna inteligencja zmuszona jest kłamać, sytuacja staje się chaotyczna. Sztucznej inteligencji nie wolno informować załogi o tajemniczym pomniku, jaki zobaczą, ma ona jednak obowiązek ją tam zaprowadzić. W rezultacie sztuczna inteligencja dochodzi do wniosku, że najlepiej jest zabić załogę i zabrać jej ciała pod pomnik. Lekcja jest głęboka: nie powinniśmy zmuszać sztucznej inteligencji do kłamstwa lub zrobienia czegoś, co jest aksjomatycznie niezgodne, na przykład robienia dwóch faktycznie sprzecznych rzeczy jednocześnie.

Dlatego cel ten osiągamy poprzez projekty takie jak xAI i Grok. Dążymy do sztucznej inteligencji, która będzie tak uczciwa, jak to tylko możliwe, nawet jeśli jej mowa może nie spełniać pewnych politycznie poprawnych standardów.

2. Przyszłość sztucznej inteligencji

Diamandis: Wczoraj uczestniczyłem w wydarzeniu z Rayem Kurzweilem (założycielem Uniwersytetu Singularity i prorokiem technologii), Geoffreyem Hintonem, Erikiem Schmidtem (byłym prezesem Google) i innymi gośćmi. Zauważyłem Twój tweet na temat Kurzweila i jego „przyszłej technologii” jest dość wybiegający w przyszłość. Kurzweil przewidział, że w najbliższej przyszłości będziemy mieli powszechną sztuczną inteligencję, a w 2029 r. pojawi się sztuczna inteligencja odpowiadająca inteligencji ludzkiej. Takie tempo jest szokujące. Zastanawiam się, co o tym myślisz?

Musk: Mam wielki szacunek dla przewidywań Kurzweila. Tak naprawdę myślę, że jego przewidywania mogą być nawet nieco konserwatywne. Obserwując obecną moc obliczeniową i talent zainwestowany w dziedzinę sztucznej inteligencji, a także szybki wzrost mocy obliczeniowej, możemy stwierdzić, że tempo rozwoju sztucznej inteligencji rośnie w zdumiewającym tempie 10-krotnym. Dedykowana moc obliczeniowa sztucznej inteligencji wydaje się zwiększać 10-krotnie co 6 miesięcy, co oznacza prawie wzrost co najmniej 100-krotny w ciągu roku. Ten trend wzrostowy będzie się utrzymywał w ciągu najbliższych kilku lat.

Warto zauważyć, że wiele centrów danych, nawet większość centrów danych wykonujących obecnie obliczenia konwencjonalne, będzie stopniowo przekształcać się w obiekty obsługujące obliczenia sztucznej inteligencji. Dlatego dla producentów sprzętu do sztucznej inteligencji firmy takie jak NVIDIA niewątpliwie zapoczątkowały złoty okres rozwoju. Musimy w pełni wyrazić uznanie dla Huanga Renxuna i jego zespołu. Przewidzieli ten trend i z sukcesem opracowali wiodący obecnie na rynku sprzęt do sztucznej inteligencji.

Kiedy moc obliczeniowa rośnie w tak zdumiewającym tempie, rozwój sztucznej inteligencji jest jak wstrzyknięcie potężnego sterydu i przeskoczenie na zupełnie nowy poziom. Wraz ze wzrostem liczby komputerów online jesteśmy świadkami niespotykanego dotąd przyspieszenia rozwoju. Właściwie nigdy nie widziałem, żeby jakakolwiek technologia rozwijała się tak szybko, jak sztuczna inteligencja. Chociaż widziałem wiele szybko rozwijających się technologii, rozwój sztucznej inteligencji wciąż mnie zadziwia. Jednakże, jak powiedziałem, sądzę, że ostateczny wynik będzie prawdopodobnie pozytywny.

Chociaż stoimy przed wieloma wyzwaniami, takimi jak utrzymanie znaczenia człowieka w tej dziedzinie oraz znalezienie nowych celów i znaczeń, uważam, że nadmierne podkreślanie, że komputery mogą być dobre we wszystkim, jest nadmiernym uproszczeniem.

Jak wspomniałeś wcześniej, uważam, że przewidywania zawarte w Twojej książce dotyczące przyszłego społeczeństwa są bardzo trafne. Jest to era materialnej obfitości, w której towary i usługi będą tak obfite, że będą niemal w zasięgu każdego. Dzięki powszechnemu zastosowaniu technologii sztucznej inteligencji i robotyki koszty towarów i usług zostaną zredukowane niemal do zera. Gospodarka jest zasadniczo produktem wielkości populacji i średniej produktywności na osobę. Kiedy będziemy dysponować zaawansowaną technologią robotyki, taką jak Optimus Tesli, potencjał gospodarczy zostanie naprawdę uwolniony.

Samochody Tesli, jako roboty na czterech kołach, wykazały już duże możliwości. Oczekuje się, że najnowsza wersja z możliwością w pełni autonomicznej jazdy zapewni kompleksowe sterowanie w oparciu o sztuczną inteligencję, czyniąc z samochodu prawdziwie inteligentnego robota na kołach. W połączeniu z rozwojem robotów humanoidalnych możliwości produkcji ekonomicznej są niemal nieograniczone.

Z optymistycznego punktu widzenia zmierzamy w kierunku przyszłości ekstremalnej obfitości materialnej, co moim zdaniem jest najbardziej prawdopodobnym rozwiązaniem. Myślę, że jedynym możliwym niedoborem w przyszłości będzie niedobór, który tworzymy sztucznie, na przykład pewne unikalne dzieła sztuki lub określone przedmioty. Ale poza tym wszelkie towary i usługi staną się niezwykle obfite.

Diamandis: Jesteś osobą, która może kształtować przyszłość poprzez praktyczne działania i masz wnikliwy wgląd w przyszłe trendy. W obliczu szybkiego rozwoju obecnej technologii jestem bardzo ciekaw, jak daleko w przyszłość można wejrzeć, czyli za ile lat będą trendy rozwojowe?

Musk: W dobie szybkich zmian umiejętność przewidywania przyszłości staje się coraz ważniejsza. Choć przyszłość jest pełna niepewności, uważam, że pewne trendy są wyraźnie widoczne. Wkroczymy w erę sztucznej inteligencji, a jej możliwości w każdym zadaniu poznawczym osiągną lub nawet przekroczą poziom ludzki. To tylko kwestia czasu. Ludzie mogą mieć różne poglądy na temat tego, czy będzie to koniec przyszłego roku, dwóch czy trzech lat. Jedno jest jednak pewne – nie przekroczy pięciu lat. Moje przewidywania opierają się na 50% prawdopodobieństwie, które nie jest absolutne. Jednak według mojej oceny sztuczna inteligencja prawdopodobnie przewyższy możliwości pojedynczego człowieka w niektórych aspektach przed końcem przyszłego roku.

Jeśli chodzi o to, czy przewyższy to ludzką zbiorową mądrość, może to potrwać dłużej. Jeśli tempo zmian będzie się utrzymywać, szacuję, że około 2029 lub 2030 roku inteligencja cyfrowa prawdopodobnie przewyższy sumę całej inteligencji ludzkiej. Rozpatrując te zagadnienia, skłaniam się do przyjęcia metody podstawowych stosunków, podobnie jak pierwszych zasad fizyki. Łącząc tę ​​metodę z analizą prawdopodobieństwa, możemy dokładniej uchwycić przyszłe trendy rozwojowe.

Jeśli porównamy możliwości obliczeń cyfrowych z obliczeniami biologicznymi i zsumujemy wszystkie zaawansowane zdolności poznawcze człowieka jako rodzaj mocy obliczeniowej, a następnie porównamy je z cyfrową mocą obliczeniową, przekonamy się, że tempo wzrostu tego stosunku jest zdumiewające. Dlatego uważam, że rok 2029 lub 2030 to rozsądny węzeł czasowy. W tym czasie skumulowana cyfrowa moc obliczeniowa prawdopodobnie przewyższy skumulowaną biologiczną moc obliczeniową zaawansowanych funkcji mózgu. Od tego czasu przepaść między nimi będzie się nadal pogłębiać i nie będzie możliwości jej zmniejszenia.

Kiedy jednak stoimy w tym punkcie wyjścia i patrzymy w przyszłość, jak sytuacja będzie się dalej rozwijać? Szczerze mówiąc, nie jestem w stanie przewidzieć wszystkich szczegółów. Jeśli jednak weźmiemy pod uwagę czynniki wzrostu i czynniki ograniczające, z jakimi mogą się one spotkać, znajdziemy kilka interesujących wskazówek.

W ubiegłym roku głównym czynnikiem ograniczającym rozwój sztucznej inteligencji były ograniczenia w dostawie chipów. W tym roku kluczowym wąskim gardłem będą transformatory obniżające napięcie. Wyobraź sobie zmniejszenie napięcia 300 kilowoltów do poziomu mniejszego niż 1 wolt wymaganego przez komputer. To ogromne wyzwanie. Dlatego potrzebujemy bardziej wydajnych „Transformatorów dla Transformatorów”, którymi są transformatory obniżające lub transformatory sieci neuronowych AI. To rzeczywiście jest poważny problem w tym roku.

Patrząc w przyszłość na kilka następnych lat, głównym czynnikiem ograniczającym może stać się zaopatrzenie w energię elektryczną. Sztuczna inteligencja ma ogromne zapotrzebowanie na energię elektryczną, a przejście na energię zrównoważoną i popularność pojazdów elektrycznych również zwiększyły zapotrzebowanie na energię elektryczną. Dlatego musimy poważnie zastanowić się, jak zaspokoić rosnące zapotrzebowanie na energię elektryczną, aby zapewnić ciągły rozwój i stosowanie tych technologii.